Ova retka odluka proizvođača iPhone-a da povuče svoju intenzivno promovisanu funkciju Apple Intelligence dolazi nakon što je tehnologija proizvela obmanjujuće ili potpuno netačne sažetke naslova vesti, koji izgledaju gotovo identično kao redovna push obaveštenja.
U četvrtak, Apple je razvio beta softversko ažuriranje za programere koje je onemogućilo AI funkciju za naslove iz oblasti vesti i zabave, a planira da ovo ažuriranje kasnije uvede za sve korisnike dok radi na unapređenju funkcije. Kompanija planira da ponovo omogući ovu funkciju u budućem ažuriranju.
Kao deo ažuriranja, kompanija je najavila da će sažeci Apple Intelligence, u koje korisnici moraju sami da se prijave, jasnije naglašavati da je informacije proizvela veštačka inteligencija, ukazujući na mogućnost da ponekad mogu sadržati netačne rezultate.
Prošlog meseca, BBC se žalio Apple-u zbog ove tehnologije, pozivajući kompaniju da je ukine nakon što je generisala lažne naslove koji su tvrdili da je Luiđi Manjone, optužen za ubistvo izvršnog direktora UnitedHealthcare-a, pucao u sebe. U drugom slučaju, tri članka New York Times-a su sažeta u jednoj push obaveštenju, lažno navodeći da je izraelski premijer Benjamin Netanijahu uhapšen.
Portparol BBC-a izjavio je za CNN u decembru: „Od suštinske je važnosti da Apple hitno reši ove probleme jer je tačnost naših vesti ključna za očuvanje poverenja. Ovi sažeci koje proizvodi AI kompanije Apple ne odražavaju — a u nekim slučajevima potpuno protivreče — originalnom sadržaju BBC-a.“
U sredu, funkcija zasnovana na veštačkoj inteligenciji ponovo je netačno sažela obaveštenje Washington Post-a, lažno navodeći: „Pit Hegset otpušten; Trampovi tarifi utiču na inflaciju; Pam Bondi i Marko Rubio potvrđeni.“ Ništa od ovoga nije tačno.
„Ovo je moja povremena tirada o tome koliko je Apple Intelligence loš — danas je pogrešio u svakom podatku u AI sažetku obaveštenja Washington Post-a,“ napisao je tehnički kolumnista ovog lista, Džefri Fauler. „Izuzetno je neodgovorno što Apple ne isključuje sažetke za aplikacije vesti dok ne unapredi ovu AI tehnologiju.“
Obmana korisnika
Grupe za slobodu medija takođe su istakle opasnosti koje sažeci predstavljaju za potrošače u potrazi za pouzdanim informacijama. Reporteri bez granica opisali su ih kao „opasnost po pravo javnosti na pouzdane informacije o aktuelnim događajima,“ dok je Nacionalni savez novinara, jedan od najvećih novinarskih sindikata na svetu, naglasio da „javnost ne sme biti u situaciji da preispituje tačnost vesti koje prima.“ Obe organizacije su zatražile uklanjanje sažetaka koje generiše veštačka inteligencija.
Problemi Apple-a sa AI tehnologijom nisu prvi slučaj da se neki programer suočava sa time da tehnologija izmišlja informacije, pri čemu popularni modeli poput ChatGPT-a često proizvode samouverene „halucinacije.“
Veliki jezički modeli, tehnologija koja stoji iza AI alata, obučeni su da odgovaraju na unose koristeći „odgovor koji zvuči verovatno,“ izjavio je ranije za CNN Suresh Venkatasubramanian, profesor sa Univerziteta Braun i koautor Bele knjige Bele kuće o pravima u oblasti AI.
„Dakle, u tom smislu, bilo koji odgovor koji zvuči verovatno — bio on tačan, činjeničan ili izmišljen — smatra se prihvatljivim odgovorom, i to je ono što proizvodi,“ rekao je Venkatasubramanian. „Tu nema znanja o istini.“
Dve godine nakon lansiranja ChatGPT-a, AI halucinacije su i dalje česta pojava. Studija iz jula 2024. godine, koju su sproveli Univerzitet Kornel, Univerzitet Vašington i Univerzitet Vaterlu, pokazala je da se vodeći AI modeli i dalje ne mogu u potpunosti smatrati pouzdanim zbog njihove sklonosti izmišljanju informacija.