Durov je na društvenoj mreži X objavio da je Telegram bio meta osobe koju opisuje kao „digitalnog ucenjivača“. Kako navodi, napadač je izmenio staru poruku u aktivnoj grupi i u nju ubacio AI-modifikovan ilegalan sadržaj, koji članovi grupe nisu mogli lako da primete niti prijave.
Prema njegovim tvrdnjama, cilj nije bio širenje spornog sadržaja, već stvaranje osnova za ucenu. Navodno je napadač pretio da će, ukoliko Telegram ne plati, koristiti veliki broj automatizovanih naloga kako bi masovno prijavio isti sadržaj Apple-u i izazvao reakciju kompanije.
Sve platforme u ozbiljnom riziku od zloupotrebe
Durov tvrdi da je Apple uklonio Telegram iz App Store-a pre nego što je kontaktirao kompaniju radi provere navoda, zbog čega upozorava da ovakav scenario predstavlja potencijalni rizik za sve platforme koje se oslanjaju na sadržaj koji objavljuju korisnici. „Ucjenjivači su pronašli način da navedu Apple da preterano reaguje. Ovo predstavlja potencijalni sistemski rizik za svaku mobilnu aplikaciju koja sadrži korisnički generisan sadržaj“, napisao je Durov.
Iako njegove tvrdnje za sada nisu nezavisno potvrđene, slučaj ponovo otvara pitanje odgovornosti digitalnih platformi za sadržaj koji objavljuju korisnici, ali i načina na koji funkcionišu automatizovani sistemi za prijavu i moderaciju sadržaja.
Razvoj alata zasnovanih na veštačkoj inteligenciji dodatno komplikuje ovaj problem. Danas je moguće brzo kreirati ili izmeniti fotografije, video-snimke i druge vrste sadržaja, što potencijalno olakšava pokušaje manipulacije sistemima za prijavu i moderaciju.
Bez obzira na to da li će Durovove optužbe biti potvrđene, slučaj ukazuje na novi izazov za tehnološke kompanije – kako zaštititi platforme od zloupotreba u kojima AI nije usmeren na korisnike, već na same mehanizme koji bi trebalo da obezbede bezbednost digitalnih servisa.
