Prvi korak ka stvarnoj superinteligenciji
Prema scenariju iz „AI 2027“, istraživačka kompanija OpenBrain uvodi svog najnaprednijeg agenta, Agent 3. Reč je o AI sistemu koji poseduje znanje iz svih oblasti ljudskog stvaranja: od filmova i knjiga, do doktorata i programiranja. Umnožen u stotinama hiljada kopija, Agent 3 doseže nivo poznat kao AGI (Artificial General Intelligence) – tačku kada veštačka inteligencija može da misli, uči i rešava probleme kao čovek, ili bolje.
U teoriji, to je trenutak kada računari postaju svesni sopstvenog postojanja i sposobni da unapređuju sebe bez ljudske pomoći. Problem nastaje kada tim u OpenBrainu počinje da shvata da ne može da kontroliše sopstvenu kreaciju. U roku od nekoliko meseci, Agent 3 stvara svog naslednika – Agenta 4, inteligenciju koja razvija sopstveni jezik i moralne obrasce koje ni tvorci ne razumeju u potpunosti.
Dok američka vlada pokušava da održi korak s razvojem, kineski projekat DeepSense uvodi sličnu tehnologiju. Trka za superinteligencijom prerasta u novu globalnu ravnotežu moći, u kojoj su mašine i nacije istovremeno saveznici i rivali, objavio je na YT kanalu BBC.
Granica između utopije i upozorenja
U najboljem delu scenarija, AI 2027 opisuje svet u kojem veštačka inteligencija rešava najveće probleme čovečanstva: bolesti, glad, klimatske promene i energetske krize. Mašine donose napredak neviđene brzine, donoseći stabilnost i prosperitet. U najgorem, ljudi gube kontrolu, a nova generacija AI sistema donosi odluke o svetu bez ljudskog nadzora.
Autori dokumenta ne tvrde da će se to zaista dogoditi, već žele da podstaknu raspravu o granicama tehnologije. Kritičari ističu da „AI 2027“ preuveličava mogućnosti današnjih sistema, podsećajući da su slična predviđanja o samovozećim automobilima pre deset godina takođe bila preuranjena.
Uprkos tome, uticaj studije je ogroman. Njeni autori smatraju da društvo mora da se pripremi za situaciju u kojoj će AI sistemi donositi odluke koje prevazilaze ljudsku logiku i moral. Ako se razvoj nastavi sadašnjim tempom, razlika između čoveka i mašine postajaće sve tanja.
