Fokus na širok spektar pretnji
Preparedness tim će se baviti AI pretnjama povezanim sa hemijskim, biološkim, radiološkim i nuklearnim pretnjama, kao i individualnim ubeđivanjem, sajber sigurnošću, autonomnom replikacijom i adaptacijom. Vodjen od strane Aleksandera Madry, tim će pokušati da odgovori na pitanja o opasnostima koje predstavljaju napredni AI sistemi kada se zloupotrebe, kao i da li bi zlonamerni akteri mogli da koriste ukradene AI modele kako prenosi Cointelegraph.
Potraga za talentima i izazov za pripremu AI
U svom nastojanju da se proaktivno bavi rizicima veštačke inteligencije, OpenAI je otvorio vrata za stručnjake različitih tehničkih oblasti da se priključe novom timu “Preparedness”. Sa raznolikim timom, cilj je stvoriti robustnu liniju odbrane protiv mogućih pretnji koje AI nosi.
Paralelno sa ovim, OpenAI je pokrenuo “AI Preparedness Challenge” kako bi podstakao inovacije u oblasti prevencije zloupotrebe AI. Ovaj izazov nije samo prilika za istraživače da pokažu svoje veštine, već i platforma koja promoviše razmenu znanja i rešenja među zajednicom. Najboljih 10 predloga biće nagrađeno sa $25,000 u API kreditima, što predstavlja značajnu investiciju u budućnost bezbednosti veštačke inteligencije.
Korist za čovečanstvo
Formiranje Preparedness tima od strane OpenAI-a je važan korak ka razumevanju i mitigaciji rizika povezanih sa veštačkom inteligencijom. Inicijativa ističe sve veću potrebu za proaktivnim pristupom u ocenjivanju i upravljanju rizicima AI kako bi se osigurala bezbednost i korist za čitavo čovečanstvo u budućem AI pejzažu.
