U otvorenom pismu upućenom predsedniku Royal Society Polu Nursu, matematičari navode da su vodeći AI modeli u poslednjih nekoliko meseci napravili veliki skok u rešavanju problema iz matematike. Među potpisnicima su i dobitnici Fieldsove medalje Tim Gowers, Martin Hairer, Peter Scholze, Wendelin Werner i James Maynard.
Potpisnici smatraju da se njihova upozorenja ne bi smela odbaciti kao preterivanje. Njihova glavna poruka nije da je katastrofalan scenario neizbežan, već da brzina razvoja zahteva ozbiljno razmatranje rizika pre nego što sistemi postanu još sposobniji.
Od matematike do sajber napada i autonomnih sistema
Matematičari posebno ističu da napredak AI sistema u jednoj oblasti može biti signal za ono što bi mogli da postignu i u drugim tehnički zahtevnim domenima.
U pismu se kao potencijalno rizične oblasti navode sajber bezbednost, kontrola autonomnog oružja, razvoj bioloških i hemijskih agenasa i ciljano širenje dezinformacija. Autori pritom ne tvrde da današnji sistemi već samostalno obavljaju sve ove zadatke na superljudskom nivou, već upozoravaju da bi brzina njihovog razvoja mogla imati posledice i van matematike.
Posebnu pažnju privukla je tvrdnja da su najnapredniji modeli već dostigli nivo vodećih ljudskih matematičara u pojedinim oblastima. U pismu se navodi i da je jedan od vodećih AI sistema rešio problem povezan sa jednim od sedam Millennium Prize Problems, odnosno čuvenih matematičkih problema koje je Clay Mathematics Institute izdvojio početkom 21. veka. Ipak, autori samog pisma naglašavaju da ne mogu da znaju sve detalje metodologije kojom je do rešenja došlo.
Upozorenja dolaze i iz same AI industrije
Pismo matematičara pojavilo se u trenutku kada slične rasprave vode i istraživači koji su radili direktno u AI kompanijama.
Bivši Anthropic istraživač Džejkob Koksin napustio je kompaniju početkom septembra i javno izrazio zabrinutost zbog razvoja sistema koji bi mogli da postanu sposobni za samostalno unapređivanje. Njegov kolega Evan Hubinger takođe je govorio o mogućnosti veoma ozbiljnog ishoda u narednoj deceniji, uz procenu rizika veću od 10 odsto. Važno je naglasiti da su to njihove lične procene, a ne utvrđena naučna prognoza niti konsenzus stručnjaka.
Dodatnu pažnju privukao je i razvoj AI agenata, odnosno sistema koji mogu da izvršavaju niz zadataka uz mnogo manje direktnog nadzora čoveka. Upravo povećavanje autonomije jedan je od razloga zbog kojih se pitanje kontrole naprednih modela sve češće nalazi u centru rasprave o AI bezbednosti.
Za sada ne postoji pouzdana metoda kojom bi se moglo utvrditi kada će, ili da li će, biti razvijena veštačka inteligencija koja značajno nadmašuje čoveka u svim relevantnim oblastima. Zbog toga se i upozorenja matematičara odnose pre svega na upravljanje rizikom: njihova poruka je da bi bezbednosna pitanja trebalo rešavati dok ljudi još imaju dovoljno prostora da utiču na razvoj tehnologije, a ne tek kada njene sposobnosti postanu mnogo teže za kontrolu.
Kako piše Yahoo News, potpisnici zato od Royal Society traže da iskoristi svoj uticaj kako bi se o potencijalnim rizicima napredne veštačke inteligencije ozbiljnije razgovaralo među donosiocima odluka i u javnosti.
