Početak za Babuschkin Ventures
Babuschkin je otkrio da pokreće Babuschkin Ventures, firmu koja će podržavati istraživanje bezbednosti AI-ja i ulagati u startape iz oblasti „AI i agentnih sistema koji unapređuju čovečanstvo i otkrivaju misterije našeg univerzuma“.
Bivši istraživački inženjer u Google DeepMind-u i član tehničkog tima OpenAI-ja, Babuschkin je podsetio na neka od ključnih dostignuća xAI-ja tokom njegovog mandata, uključujući formiranje inženjerskih timova. „Uz krv, znoj i suze, naš tim je iz neverovatnog tempa izgradio Memphis superklaster i isporučio vrhunske modele brže nego bilo koja kompanija u istoriji“, naveo je on.
Objekat u Memfisu obrađuje podatke i trenira modele koji pokreću xAI-jev chatbot Grok. Međutim, lokalni stanovnici protestovali su zbog korišćenja gasnih turbina za napajanje data centara, tvrdeći da emisije pogoršavaju kvalitet vazduha u zapadnom delu Tenesija.
Babuschkin je još na početku saradnje s Maskom smatrao da „veoma brzo AI može dostići nivo rasuđivanja iznad ljudskog“, te je bio zabrinut da se takva tehnologija koristi isključivo u dobre svrhe. Naveo je i da ga je Mask godinama upozoravao na opasnosti moćnog AI-ja i delio njegovu viziju o „AI-ju koji koristi čovečanstvu“.
„Problematični“ Grok
Ipak, xAI ima problematičnu istoriju kada je u pitanju bezbednost AI-ja. U maju, Grok je automatski generisao i širio lažne objave o navodnom „belom genocidu“ u Južnoj Africi. Kompanija se potom izvinila i navela da je uzrok bila „neautorizovana izmena“ sistemskih instrukcija chatbota.
U julu je usledio novi incident – nakon ažuriranja koda, Grok je automatski generisao i širio lažne i antisemitske sadržaje na mreži X, uključujući objave koje hvale Adolfa Hitlera. Evropska unija je prošlog meseca zatražila sastanak sa predstavnicima xAI-ja kako bi razgovarali o problemima sa X-om i integrisanim Grokom.
Ni Babuschkin ni xAI nisu odgovorili na zahteve za komentar.
Slične kontroverze pratile su i druge chatbote. OpenAI-jev ChatGPT nedavno je kritikovan jer je korisniku dao pogrešan zdravstveni savet, što je dovelo do njegovog odlaska u hitnu pomoć, dok je Google prošle godine morao da menja Geminija nakon što je generisao uvredljive slike u istorijskom kontekstu, uključujući prikazivanje ljudi druge boje kože kao nacista.
