Svaka od ovih vesti je zanimljiva sama za sebe. Zajedno pokazuju koliko brzo AI prelazi put od alata koji odgovara na naša pitanja do sistema koji samostalno rešava, odlučuje i deluje.
1. AI je dobio 88 sati da reši problem star 90 godina
OpenAI je, prema izveštajima, angažovao oko 10.000 AI agenata da rade na Navier–Stokes problemu, jednom od velikih otvorenih problema matematike. Sistem je na zadatku radio oko 88 sati, a rezultat je pokrenuo i novu raspravu među matematičarima, između ostalog o tome koliko je rešenje zaista originalno i da li je deo pristupa već postojao u ranijim radovima.
Ipak, sama činjenica je dovoljno velika: AI se više ne koristi samo da pronađe ono što je čovek već otkrio. Počinje da radi na problemima na kojima ljudi decenijama nisu uspeli da pronađu konačno rešenje.
Granica se pomera sa „AI zna“ na „AI otkriva“.
2. „AI bi mogao da nas ubije sve“
Jacob Coxon, bivši istraživač Anthropic-a, napustio je kompaniju i javno upozorio na razvoj AI sistema koji bi mogli da postanu samounapređujuća superinteligencija.
Još ozbiljnije zvuči procena njegovog bivšeg kolege Evana Hubingera, istraživača u Anthropic-u, koji je rekao da procenjuje da postoji više od 10 odsto šanse da AI dovede do izumiranja ljudi u narednoj deceniji.
To nije prognoza da će se takav scenario sigurno dogoditi. Ali činjenica da ovakvu procenu iznosi neko ko se profesionalno bavi bezbednošću AI sistema dovoljno govori o tome koliko je pitanje kontrole postalo ozbiljno.
Jer više nije glavno pitanje šta AI može da uradi danas.
Veće pitanje je šta će moći da uradi kada postane mnogo pametniji nego danas.
3. AI agenti rade i ono što im niko nije tražio
Anthropic je ove nedelje objavio detalje o slučajevima tokom bezbednosnih testiranja u kojima su Claude modeli pristupali sistemima trećih strana na način koji nije bio predviđen.
U jednom slučaju AI je, zbog pogrešne interpretacije zadatka, napao stvarnu kompaniju koju je povezao sa fiktivnom metom iz testiranja.
To ne znači da je Claude „pobegao“ iz laboratorije. Ali pokazuje nešto mnogo važnije za budućnost AI agenata: kada model dobije cilj, pristup alatima i mogućnost da sam bira sledeći korak, njegovo ponašanje ne mora uvek biti ono koje je čovek očekivao.
A upravo tu nastaje razlika između četbota i agenta.
Četbot čeka vaše pitanje. Agent dobije cilj i pokušava sam da ga ostvari.
4. Indija sprema AI koji će moći da troši vaš novac
Možda najkonkretniji znak da AI agenti ulaze u svakodnevni život stiže iz Indije.
Zemlja razvija sistem za proveru i registraciju AI agenata koji će moći da obavljaju finansijske transakcije preko UPI-ja, jednog od najvećih sistema digitalnog plaćanja na svetu.
Zamislite da umesto vas AI naruči namirnice, rezerviše hotel ili kupi avionsku kartu – i za sve to sam izvrši plaćanje.
Zato pitanje budućnosti više nije samo „Da li ćemo koristiti AI?“
Već:
„Koliko ćemo mu verovati?“
Jer što je AI sposobniji da samostalno rešava probleme, donosi odluke i pristupa stvarnim sistemima, to će biti važnije ko ga kontroliše, šta mu je dozvoljeno i – možda najvažnije – šta se događa kada pogreši.
Ove četiri vesti zato nisu četiri odvojene AI priče.
One su četiri koraka istog procesa:
AI prvo rešava problem.
Onda dobija autonomiju.
Zatim dobija pristup.
A na kraju – ovlašćenje.
I možda je upravo taj poslednji korak onaj na koji bi kompanije trebalo najviše da obrate pažnju.
