U blog objavi koju su potpisali Marina Favaro, direktorka instituta The Anthropic Institute, i suosnivač kompanije Džek Klark, navodi se da bi svet trebalo da ima mogućnost da privremeno zaustavi razvoj najmoćnijih AI sistema kako bi istraživanja bezbednosti i društveni mehanizmi mogli da sustignu tempo razvoja tehnologije.
„Verujemo da bi za svet bilo dobro da postoji opcija usporavanja ili privremene pauze u razvoju napredne veštačke inteligencije kako bi društvene institucije i istraživanja usklađenosti sa ljudskim vrednostima mogli da drže korak sa tehnološkim napretkom“, navodi se u saopštenju.
Problem: Kako zaustaviti sve igrače?
Iz Anthropic-a ističu da najveći izazov nije samo donošenje odluke o pauzi, već obezbeđivanje da je se pridržavaju svi koji razvijaju napredne AI modele.
Za razliku od nuklearnog naoružanja ili drugih velikih tehnoloških projekata, razvoj AI modela mnogo je lakše sakriti. Kompanija upozorava da bi pojedini akteri mogli tajno da nastave razvoj kako bi stekli prednost nad konkurencijom.
„Trening AI modela mnogo je lakše prikriti nego silose za rakete. Ulazni podaci su opšte namene, a podsticaj da neko krišom nastavi razvoj dok drugi pauziraju je ogroman, jer bi mogao da preuzme tehnološko vođstvo“, navode autori.
Claude sada piše većinu koda u Anthropic-u
Poziv na oprez dolazi u trenutku kada sama kompanija beleži dramatičan napredak svojih AI sistema.
Anthropic navodi da njihov model Claude danas generiše čak 80 odsto programskog koda koji se integriše u interni softver kompanije. Pre nešto više od godinu dana taj procenat bio je tek jednocifren.
Napredak se vidi i u složenosti zadataka koje Claude može samostalno da obavlja.
Tokom 2024. godine model je mogao pouzdano da izvršava zadatke za koje bi čoveku bilo potrebno oko četiri minuta rada. Tokom 2026. godine ta granica pomera se na zadatke koji ljudima oduzimaju više dana, dok Anthropic procenjuje da bi već naredne godine AI sistemi mogli samostalno da rešavaju poslove za koje bi čoveku bile potrebne nedelje.
Model koji nije pušten u javnost zbog sajber rizika
Zabrinutost kompanije dodatno pojačava slučaj njihovog najnaprednijeg modela, nazvanog Claude Mythos.
Anthropic je još u aprilu odlučio da ovaj model ne pusti u javnu upotrebu nakon što je tokom testiranja uspeo da pronađe ranije nepoznate bezbednosne propuste u svim velikim internet pregledačima i operativnim sistemima.
Zbog toga je pokrenut projekat Glasswing, industrijska inicijativa čiji je cilj identifikacija bezbednosnih ranjivosti i razvoj zaštitnih mehanizama uz korišćenje ograničene verzije modela.
Iako Claude Mythos još nije dostupan široj javnosti, kompanija je najavila da radi na verziji sa dodatnim zaštitama koja bi mogla biti objavljena u skorijem periodu.
Reaguje i Bela kuća
Rizici povezani sa najmoćnijim AI modelima postaju tema i za donosioce odluka.
Američki predsednik Donald Tramp ove nedelje potpisao je izvršnu uredbu kojom se uspostavlja procedura za proveru naprednih AI modela pre njihovog javnog lansiranja.
Međutim, učešće u tom procesu za sada je dobrovoljno, što znači da tehnološke kompanije nisu obavezne da svoje modele dostavljaju na proveru.
Debata o tome da li razvoj veštačke inteligencije treba ubrzavati ili privremeno usporiti tako ulazi u novu fazu – i to u trenutku kada sami tvorci najnaprednijih sistema upozoravaju da bi tehnologija uskoro mogla da napreduje brže nego što ljudi mogu da je kontrolišu.
