Kako AI pregledači i asistenti sve češće preuzimaju ulogu pretraživanja, sažimanja i čak obavljanja zadataka umesto korisnika, raste i rizik od napada koji koriste upravo ono što AI najbolje „jede“, jezik. OpenAI je upozorio da AI pregledači mogu ostati trajno ranjivi na prompt injection, jer je problem vezan za samu prirodu modela koji instrukcije i sadržaj primaju kroz isti kanal: tekst.
Prompt injection
More in Archive
All articles loaded
No more articles to load
