Skrivene veze: Uznemirujuća povezanost između algoritma Instagrama i mreže pedofila

Istraživanje koje je Wall Street Journal sproveo zajedno sa istraživačima Univerziteta Stanforda i Massachusetts Amherst, otkrilo je neke uznemirujuće činjenice. Algoritmi Instagrama omogućili su masivnoj mreži pedofila da traže nedozvoljeni seksualni sadržaj i aktivnosti maloletnika.

Vreme Čitanja: 3 min

instagram connects pedofiles

Ilustracija: Lenka T

Prema članku koji je objavio Wall Street Journal, kompanija Meta i jedna od najpopularnijih društvenih mreža omogućili su heštegove koji su povezani s zlostavljanjem dece. Tu spadaju termini poput #pedowhore, #preteensex, #pedobait i #mnsfw. 

Istraživači tvrde da su heštegovi povezivali posetioce sa nalozima koji su navodno nudili prodaju pedofilnog materijala kroz „menije“ sadržaja. Tu su se mogli naći video snimci mladih koji se ranjavaju ili upuštaju u bestijalnosti. Neki od naloga su čak dozvoljavali klijentima da „izvrše određene radnje“ ili organizuju „sastanke“. 

Algoritmi povezuju ljude 

Kao što su istraživači objasnili, nije Instagram taj koji na kome ove užasne aktivnosti mogu naći, već algoritmi koji ih podstiču. 

„Pedofili već dugo koriste internet, ali za razliku od foruma i servisa za prenos datoteka koji služe ljudima koji su zainteresovani za nedozvoljeni sadržaj, Instagram nije samo domaćin ovih aktivnosti. Njegovi algoritmi ih promovišu. Instagram povezuje pedofile i usmerava ih do prodavaca sadržaja preko sistema preporuka koji su izvrsni u povezivanju onih koji dele interese“, piše Wall Street Journal. 

Reakcija kompanije  

Portparol Mete je naveo da kompanija stalno traži načine da se odbrani od ovakvog nedozvoljenog sadržaja. Štaviše, kompanija je uspostavila internu radnu grupu koja će ispitati tvrdnje i što pre se pozabaviti njima. 

Meta je priznala da su povremeno prijavljivani slučajevi zlostavljanja dece, ali nije preduzela ništa da te prijave reši. Kompanija je tvrdila da ih je u procesu obrade sprečila softverska greška. Prema rečima Meta, taj problem je sada rešen. Štaviše, kompanija je revidirala smernice za recenzente sadržaja kako bi se olakšalo pronalaženje i uklanjanje predatorskih naloga. 

meta company

Izvor: 98FM

Prema navodima kompanije, Metini timovi za sprovođenje politike „ugasili su 27 nasilnih mreža“ između 2020. i 2022. U januaru ove godine uklonjeno je preko 490.000 naloga zbog kršenja pravila o bezbednosti dece. U četvrtom kvartalu 2022, Metina tehnologija je uklonila preko 34 miliona sadržaja koji sadrže seksualnu eksploataciju dece sa Fejsbuka i Instagrama. Preko 98% ovog sadržaja je otkriveno pre nego što su ga korisnici prijavili. 

Tehničke i pravne prepreke

Wall Street Journal navodi da tehnički i regulatorni izazovi otežavaju bilo kome izvan Mete da tačno odredi stvaran broj pedofila na Instagramu. U članku se navodi da je istraživački tim Stanfordske internet opservatorije otkrio 405 prodavaca, kako je tim nazvao, „samogenerisanog“ materijala koji sadrži seks sa decom. To se odnosi na naloge kojima su navodno vodili sami maloletnici. 

Prodavci su otkriveni upotrebom heštegova povezanih sa seksom maloletnika. Članak Wall Street Journal-a je takođe uključivao podatke iz Maltego, programa za mapiranje mreže, koji je otkrio da 112 od tih profila ima ukupno 22.000 jedinstvenih pratilaca. 

Užasna otkrića  

Prema Wall Street Journal-u, Instagram nalozi koji oglašavaju prodaju ilegalnog pornografskog materijala „uglavnom ga ne objavljuju otvoreno“ i često se povezuju sa „sajtovima za trgovinu sadržajem van platforme“. Istraživači su otkrili da Instagram dozvoljava korisnicima da pretražuju „eksplicitne heštegove kao što su #pedovhore i #preteensek” koji su ih povezivali sa nalozima koji koriste fraze za oglašavanje prodaje materijala za seks sa decom. 

on instagram

Izvor: SpunOut

Kada su istraživači koristili probne naloge da bi pregledali jedan od ovakvih naloga, „bili su zgroženi preporukama Instagram algoritma navodnih prodavaca i kupaca materijala koji sadrži dečju pornografiju, zajedno sa nalozima koji vode do sajtova za trgovinu sadržajem van platforme. Bilo je potrebno samo nekoliko ovih predloga da se testni nalog u potpunosti popuni sadržajem koji seksualizira decu. 

Druge društvene mreže  

Što se tiče drugih društvenih mreža, čini se da Snapchat i TikTok ne podržavaju pedofile koji traže sadržaj zlostavljanja dece kao što to čini Instagram. S druge strane, tim Stanfordske internet opservatorije pronašao je 128 naloga na Twitteru koji reklamiraju sadržaj u kome ima seksualnog zlostavljanja dece. 

Prema istraživačima, Twitter nije promovisao ove naloge toliko koliko Instagram, plus, uklonio ih je mnogo brže. 

Kako će ovo otkriće uticati na Instagram i njegovu matičnu kompaniju Meta, pokazaće vreme. Ono što je sigurno jeste da je ovaj izveštaj objavljen u najgorem mogućem trenutku za Metu. Naime, kompanija se zajedno sa drugim društvenim mrežama suočava sa istragom zbog svojih napora da cenzurišu i zaustave širenje uvredljivih sadržaja na svojim platformama. 

U aprilu ove godine FBI i Interpol su bili među organizacijama za sprovođenje zakona koje su izrazile zabrinutost zbog Metinih planova da poveća end-to-end enkripciju na svojim platformama. Ovakav postupak može „staviti povez” kompaniji i sprečiti je da identifikuje opasan sadržaj koji se odnosi na seksualno zlostavljanje dece. 

"Pokušao si. Propao. Nema veze. Pokušaj opet. Propadni bolje."

Prijavi se na novosti.