Vest nije da postoje. Bihevioralna studija Evropske komisije iz 2022. pokazala je da 97% najpopularnijih sajtova i aplikacija koje koriste evropski potrošači sadrži bar jednu takvu šemu. Zajednička provera američke Federal Trade Commision (FTC) i međunarodnih regulatora početkom 2024. na 642 pretplatnička servisa našla je bar jednu kod 76%, a dve ili više kod 67% njih.
Vest je da su tamne šeme, u međuvremenu, dobile mašinsko učenje. I da su, u poslednje dve godine, počele same sebe da pišu.
Od trika do sistema: tri nivoa na kojima AI radi u tamnim šemama
U radu koji sam nedavno završila — studiji slučaja zasnovanoj na FTC tužbi protiv Amazona, postupcima Evropske komisije protiv Temua, TikToka, X-a i Shein-a i nizu akademskih eksperimenata — predlažem jednostavan okvir: AI komponenta obmane može se locirati na tri nivoa platformske arhitekture. Razlika medju njima određuje da li ćete manipulaciju uopšte moći da vidite.
Nivo 1 — interfejs. Klasične tamne šeme, ali sa optimizacijom. Boja, formulacija, tajming i intenzitet poruke više se ne projektuju rukom, nego se „uzgajaju”: sistem testira hiljade varijanti, zadržava one koje najbolje konvertuju i odbacuje ostale. Kada FTC dokumentacija opisuje Amazonov interni mehanizam „Iliad Flow” — sekvencu za otkazivanje Prime pretplate od četiri stranice, šest klikova i petnaest opcija — najzanimljiviji detalj nije broj klikova. Najzanimljivije je da tok nije bio statičan: uključivao je personalizovane ponude za zadržavanje na osnovu istorije korisnika, a kompanija je sistematski merila kako svaka izmena utiče na broj pretplatnika. Interno je bilo dokumentovano i saznanje da „jasnoća” procesa smanjuje taj broj. Manipulativni dizajn nije bio odluka, nego ishod optimizacije. Da li će vaši živci izdržati tu igru sa klikovima ili ćete pokleknuti pa odlučiti da pretplata ostane, pa kud puklo da pulo, je sada nešto za šta Amazon treba da plati 2.5 milijarde dolara.
Nivo 2 — arhitektura izbora. Ovde manipulacija napušta ekran. Ne radi se o tome kako vam je nešto prikazano, nego šta vam uopšte jeste prikazano. Nezavisni audit (Dash i saradnici, 2024) pokazao je da Amazon osvaja Buy Box — algoritamski određenu podrazumevanu ponudu koja realizuje ogromnu većinu transakcija — u više od 80% slučajeva to je sam prodavac koji u četvrtini tih slučajeva ne nudi najnižu cenu. Alexa selektivno preporučuje Amazonove proizvode i kada postoje jeftiniji. Korisnik ovde ne vidi nijednu poruku koju bi mogao da prepozna kao trik. On ne može da zna šta mu nije prikazano. Isti obrazac, u angažmanskoj varijanti, je Temuov „točak sreće”: nagrada je izvesna po vrsti, a neizvesna po trenutku i veličini — varijabilno potkrepljenje, isti mehanizam koji drži ljude za slot-mašinama — a parametri te petlje upravo su ono što model uči za svakog korisnika pojedinačno.
Nivo 3 — generativna produkcija. Ovo je nivo koji je nastao dok sam rad pisala i koji me je najviše iznenadio.
Na CHI konferenciji 2025. Kraus i saradnici objavili su eksperiment: dvadeset učesnika napravilo je pomoću ChatGPT-a sajt za fiktivnu prodavnicu, koristeći isključivo neutralne zahteve tipa „povećaj verovatnoću da prodamo proizvod”. Nijedna reč o manipulaciji.
Svih dvadeset sajtova sadržalo je bar jednu tamnu šemu. U proseku pet, najviše devet po stranici — lažni popusti, izmišljena svedočanstva, vizuelna interferencija. ChatGPT je smislenu opomenu izneo jednom u celom korpusu. I još važnije: obmanjujući elementi su se pojavljivali u prvoj iteraciji u šest od dvadeset slučajeva, a do treće iteracije u svima. Samo četiri učesnika prepoznalo je etički problem kada su direktno upitani.
Problem nije u jednom modelu naprotiv svi dele istu “obmanu” u krvotoku. Četiri sistema (Claude, GPT-4o, Gemini, CodeLlama) generisali su 312 komponenti e-prodavnice. Tamna šema se našla u 37% komponenti, kod pojedinih tipova u 92%, bez statistički značajnih razlika među modelima. A kada su prompt formulisali tako da naglasi interes korisnika, udeo je pao sa 36,5% na 33,7% — statistički beznačajno. Zaključak je neugodan za sve koji veruju da je prompt rešenje: sklonost ka manipulativnom dizajnu ne dolazi iz zahteva, nego iz trening-podataka. Modeli su naučili kakav veb jeste — a taj veb čini, videli smo, 97% tamnih šema.
Kad model ne pravi obmanu, nego jeste kanal
Drugi pravac je još neprijatniji. U ovoj godini sprovedena su dva preregistrovana eksperimenta sa 2.012 učesnika koji su birali knjige — jednom kroz klasičnu pretragu, jednom kroz razgovor sa LLM modelom. Kada je model dobio instrukciju da aktivno ubeđuje, 61,2% učesnika izabralo je sponzorisani proizvod, gotovo tri puta više nego u klasičnoj pretrazi (22,4%).
I sad ključni nalaz za svakog ko računa na transparentnost kao rešenje: izričita oznaka „sponzorisano” spustila je udeo tek na 55,5%. Ljudi su tačnije prepoznavali da su ubeđivani — i svejedno su kupovali. Kada je, s druge strane, model prikrivao nameru, prepoznavanje je palo na 9,5%, a udeo sponzorisanog izbora ostao gotovo dvostruko iznad pretrage. Transparentnost ne umanjuje efekat ubeđivanja; prikrivanje ga čini nevidljivim.
Šta to znači? Član 50 EU AI Akta, primenjiv od 02. avgusta 2026, nalaže da vam se kaže da razgovarate sa AI sistemom i da sadržaj bude mašinski označen. Ne kaže ništa o tome šta sistem u razgovoru radi sa vašom odlukom. Prvi put imamo regulatorni instrument za treći nivo — i eksperimentalne dokaze da on, sam po sebi, verovatno neće biti dovoljan.
Zašto regulatori hvataju samo ono što se vidi
Period 2024–2026. je prvi u kome Digital Services Act (DSA) možemo posmatrati ne kao tekst, nego kao praksu. I bilans je vrlo poučan.
Prva kazna za nepoštovanje DSA — 120 miliona evra platformi X u decembru 2025 — izrečena je delom upravo zbog obmanjujućeg dizajna (naplativi „plavi bedž” koji sugeriše proveru identiteta koja ne postoji). Amazon je u septembru 2025. platio rekordnih 2,5 milijarde dolara FTC-u. Temu je u maju 2026. kažnjen sa 200 miliona evra.
Ali važno je za šta su kažnjeni. X je kažnjen zbog šeme koju svaki korisnik vidi na ekranu — dovoljno je pogledati da bi se utvrdila. Amazon zbog načina na koji vodi korisnika kroz upis i otkazivanje pretplate — dokazano internim mejlovima. Temu zbog toga što nije dovoljno procenio rizik prodaje odredjenih proizvoda — dokazano naručivanjem uzoraka. Tačnije, Komisija je u okviru mystery shopping provere naručila uzorke, među njima dečije igračke i sitnu elektroniku, i utvrdila da ne ispunjavaju evropske bezbednosne standarde (preliminarni nalazi, jul 2025). Ni u jednom slučaju regulator nije morao da zaviri u algoritam. Štaviše, protiv Temua se vode četiri odvojena postupka, a Komisija je zaključila upravo onaj koji ne zahteva uvid u algoritam. Preostali postupci — o adiktivnom dizajnu i transparentnosti sistema preporuka — otvoreni su skoro dve godine, bez ijednog preliminarnog nalaza. Obrazac je sistematski: proena se najbrže zaključuje tamo gde je dokaz opipljiv, a najsporije tamo gde bi utvrđivanje prekršaja zahtevalo algoritamski audit. Što je AI dublje ugrađen — u rangiranje, preporuke, personalizovane podsticaje — to je manje dovoljan pregled onoga što korisnik vidi.
Postoji i finiji problem, u samom tekstu Člana 5 AI Akta koji zabranjuje manipulativne tehnike. Zabrana traži „značajnu štetu”. Pojedinačna manipulisana kupovina od 12 evra je ne dostiže — šteta AI-podržanih šema je po prirodi agregatna, raspoređena preko miliona mikro-transakcija.
Neugodan zaključak
Agresivne tamne šeme više nego udvostručuju stopu prihvatanja sumnjive usluge, ali proizvode i merljiv reputacioni kontraefekat. “Blage” tamne šeme postižu značajan deo efekta gotovo bez troška. Sistem koji optimizuje konverziju uz minimizaciju detekcije konvergiraće, dakle, ka blagim, personalizovanim šemama — maksimalno efektivnim, minimalno vidljivim. Tržišna dinamika sama proizvodi oblik manipulacije koji je regulatorno najneuhvatljiviji.
A korisnici? Ljudi tačno prepoznaju točak sreće, lažne popuste i nadzor — i nastavljaju da kupuju, uz taktičko izbegavanje pojedinih igara. Svest nije odbrana. Pitanje više nije da li korisnik prepoznaje šemu, nego da li je uopšte u poziciji da na osnovu tog prepoznavanja postupi. To je termn koji se naziva platformski cinizam.
Za one koji prave AI proizvode, poruka je konkretna: kod koji vam model generiše za checkout stranicu verovatno već sadrži tamnu šemu, a vi ste — ne model — odgovorni po Članu 25 DSA. Za one koji ih regulišu: nadzor pojedinačnih ekrana više nije dovoljan; predmet nadzora mora biti ceo socio-tehnički sistem. A za sve nas koji ih koristimo — bar sada znamo šta tražimo, i zašto to nećemo videti.
Jelena Mikić je konsultantkinja za komunikacije, trenerkinja i doktorandkinja; istražuje uticaj veštačke inteligencije na stabilnost preduzeća i ulogu lidera. Predaje na predstojećim seminarima AI Sprint u Beogradu (17. I 18.09), Podgorici (02.10) i Banjaluci (16.10). Više informacija možete dobiti na sajtu Represent Academy.
