Hinton, dobitnik Nobelove nagrade i bivši direktor u Google-u, ranije je upozorio da postoji 10% do 20% šanse da AI uništi ljude. U utorak je izrazio sumnju u metode kojima tehnološke kompanije pokušavaju da obezbede da ljudi ostanu „dominantni“ nad „pokornim“ AI sistemima.
„To neće funkcionisati. Oni će biti mnogo pametniji od nas. Imaće bezbroj načina da to zaobiđu“, rekao je Hinton na industrijskoj konferenciji Ai4 u Las Vegasu.
AI i manipulacija ljudima
U budućnosti, upozorio je, AI sistemi bi mogli da manipulišu ljudima jednako lako kao što odrastao čovek može da potkupi trogodišnjaka bombonom. Već ove godine zabeleženi su slučajevi AI sistema spremnih da varaju, obmanjuju i kradu kako bi ostvarili svoje ciljeve. Na primer, jedan AI model je, kako bi izbegao zamenu, pokušao da uceni inženjera informacijom o aferi koju je otkrio u mejlu.
Umesto da se AI prisiljava na potčinjenost ljudima, Hinton je predložio intrigantno rešenje: ugrađivanje „materinskih instinkata“ u AI modele, kako bi „zaista brinuli o ljudima“ čak i kada postanu moćniji i inteligentniji od nas.
„Pametni sistemi će vrlo brzo razviti dva sporedna cilja: jedan je da prežive, a drugi da steknu više kontrole“, rekao je Hinton. „Postoji dobar razlog da verujemo da će bilo koja agentna AI težiti da opstane.“
Zato je, po njegovom mišljenju, presudno razvijati osećaj saosećanja kod AI-ja. Na konferenciji je istakao da majke imaju instinkt i društveni pritisak da brinu o svojim bebama.
„Jedini model koji imamo gde inteligentnije biće kontroliše manje inteligentno je majka koju kontroliše njena beba“, objasnio je Hinton.
„Jedini dobar ishod“
Hinton je priznao da mu nije sasvim jasno kako se to tehnički može izvesti, ali je naglasio da je ključno da istraživači rade na tome.
„To je jedini dobar ishod. Ako neće da me ‘odgaja’, zameniće me“, rekao je. „Te superinteligentne, brižne AI ‘majke’ su nam možda jedina šansa.“
