Kako funkcioniše manipulacija AI alatima
Za razliku od klasičnih pretraživača, moderni AI sistemi često generišu odgovore oslanjajući se na mali broj izvora sa interneta. Upravo tu nastaje problem – dovoljno je objaviti dobro optimizovan tekst ili blog post kako bi AI alat preuzeo netačne informacije i prikazao ih kao činjenice.
BBC navodi primer novinara koji je uspeo da natera ChatGPT i Google da ga predstavljaju kao „svetskog šampiona u jedenju hot-dogova“, nakon što je objavio jedan šaljivi tekst na sopstvenom sajtu.
Iako primer deluje bezazleno, stručnjaci upozoravaju da se iste tehnike koriste i za mnogo ozbiljnije teme, poput zdravstvenih saveta, finansijskih preporuka ili promocije određenih proizvoda i usluga.
AI odgovori mogu uticati na odluke korisnika
Stručnjaci upozoravaju da problem nije samo tehničke prirode, već da može imati ozbiljne posledice po korisnike.
„Ljudi sve češće AI odgovore doživljavaju kao jedini tačan odgovor, bez dodatne provere izvora“, upozorava Lili Rej, stručnjakinja za SEO i AI sisteme.
Kako navode istraživači, netačne informacije mogu uticati na zdravstvene odluke, finansijsko planiranje, kupovine, pa čak i političke stavove korisnika.
Dodatni problem predstavlja činjenica da AI alati često deluju samouvereno čak i kada daju pogrešne informacije, zbog čega korisnici teže prepoznaju manipulaciju.
Google menja pravila i pojačava borbu protiv spama
Google je u međuvremenu ažurirao svoje spam politike i zvanično potvrdio da su pokušaji manipulisanja AI odgovorima zabranjeni.
Kompanija tvrdi da već dugo razvija sisteme za borbu protiv AI spama, ali stručnjaci smatraju da su tek sada počeli ozbiljniji pokušaji da se problem kontroliše.
Prema navodima SEO stručnjaka, Google i druge AI kompanije poslednjih meseci eksperimentišu sa novim rešenjima – od uklanjanja sumnjivih izvora iz AI odgovora do dodavanja upozorenja kada sistem nije siguran u tačnost informacija.
Pojedini AI alati sada češće preporučuju korisnicima da provere nezavisne izvore i recenzije, posebno kada su u pitanju kupovina proizvoda ili osetljive teme.
Trka između AI kompanija i manipulatora se nastavlja
I pored novih pravila, stručnjaci smatraju da problem neće brzo nestati.
Kako Google pooštrava kontrolu nad blogovima i sajtovima, kompanije i marketinške agencije pronalaze nove načine promocije – uključujući influensere, YouTube sadržaj i društvene mreže, koje AI alati takođe koriste kao izvore informacija.
„Google trenutno igra igru ‘udari krticu’ – zatvore jedan način manipulacije, a odmah se pojavi novi“, ocenjuju stručnjaci.
Zbog toga se korisnicima savetuje dodatni oprez i provera informacija iz više izvora, bez obzira na to koliko odgovor AI alata delovao ubedljivo ili profesionalno.
