Ako ste do sada mogli da kopirate tekst iz ChatGPT-a i pošaljete ga dalje bez ikakvog tehničkog traga, to se u Evropskoj uniji uskoro menja.
OpenAI je objavio da će u narednim nedeljama početi da dodaje nevidljivi watermark u tekst koji generišu ChatGPT i Codex u EU, kao deo usklađivanja sa zahtevima Evropskog AI Acta. Tehnologija se zove textGrain i ne dodaje skrivene karaktere, razmake ili čudne znakove u tekst. Umesto toga, menja statistički obrazac kojim model bira reči i delove reči.
Za korisnika se, dakle, ništa vidljivo ne menja. Tekst izgleda kao običan tekst. Razlika je u tome što specijalizovani detektor može da traži obrazac koji je OpenAI ugradio u njega.
AI tekst dobija svoju „ličnu kartu“
OpenAI ovu tehnologiju predstavlja kao deo šireg sistema za utvrđivanje porekla digitalnog sadržaja. Za slike i audio već koristi druge vrste signala, dok je textGrain namenjen upravo tekstu. Kompanija planira da tehnologiju u budućnosti objavi kao open source.
Ipak, postoji važna ograda: watermark nije nepogrešiv dokaz da je tekst napisala veštačka inteligencija.
OpenAI priznaje da kraći tekstovi mogu biti teži za detekciju, kao i sadržaj koji je značajno izmenjen, parafraziran ili preveden. Detektor može i da pogreši – da prepozna watermark tamo gde ga nema ili da propusti postojeći. Zato OpenAI u početku neće svoj detektor otvoriti svima. Pristup će imati odabrani istraživači i stručne organizacije.
Drugim rečima, uskoro bi moglo da bude moguće pitati ne samo „Da li je ovo napisao čovek?“, već i mnogo preciznije pitanje: „Da li je u nastanku ovog teksta učestvovao OpenAI model?“
To nije isto. Watermark ne otkriva ko je koristio ChatGPT, koliko je teksta napisao čovek, niti ko je autor ili vlasnik sadržaja. Ne govori ni da li je sadržaj tačan. Za sada će sistem biti uveden regionalno, samo za ChatGPT i Codex u EU, dok će korisnici OpenAI API-ja širom sveta moći da uključe watermark za odabrane modele.
Velika promena zato možda neće biti u samom ChatGPT-u, već u načinu na koji ćemo za nekoliko godina posmatrati svaki tekst na internetu. Jer ako fotografija može da ima digitalni trag porekla, a sada ga dobija i tekst, internet polako ulazi u eru u kojoj „odakle je ovo došlo?“ postaje jednako važno pitanje kao „šta ovde piše?“
