ChatGPT je već u kompaniji – samo niko ne zna gde
Marketing tim koristi generativne AI alate za pripremu sadržaja i istraživanje. Prodaja ih koristi za obradu beleški sa sastanaka, pripremu ponuda i analizu potencijalnih klijenata. Pravni tim povremeno koristi AI za analizu dokumenata i proveru formulacija ugovora, dok developeri koriste različite coding asistente. Neki zaposleni rade preko poslovnih naloga, neki preko privatnih, a pojedini timovi su samostalno uveli potpuno nove alate.
Produktivnost je porasla, ali su se pojavila pitanja na koja niko nije imao jasan odgovor. Koji AI alati se zapravo koriste u kompaniji? Koji podaci se u njih unose? Ko je odobrio njihovu upotrebu? Da li zaposleni znaju koje informacije ne smeju da dele sa eksternim AI servisima? Ko proverava novog dobavljača pre nego što se njegov alat uvede u poslovni proces? Kompanija je formalno imala određene smernice za korišćenje AI-ja, ali se pokazalo da politika sama po sebi ne daje odgovor na pitanje kako kontrolisati desetine različitih use case-ova koji nastaju iz nedelje u nedelju.
Customer support dobija AI chatbot
Sledeći korak bio je logičan. Customer-support tim želeo je da smanji vreme odgovora korisnicima i rastereti zaposlene od ponavljajućih pitanja, pa je uveden AI chatbot. Prvi rezultati bili su odlični: veliki broj jednostavnih zahteva rešavan je automatski, a zaposleni su mogli da se fokusiraju na složenije slučajeve.
Ali ubrzo su se pojavila nova pitanja među kojima su: Šta se dešava ako chatbot korisniku pruži pogrešnu informaciju? Koliko podataka o korisniku je sistemu zaista potrebno? Ko prati tačnost njegovih odgovora i bezbednosne incidente? i dr. AI više nije bio samo alat koji zaposleni povremeno koriste, već deo poslovnog procesa koji direktno komunicira sa klijentima, pristupa internim informacijama i uvodi novu vrstu operativnog i bezbednosnog rizika.
HR želi da ubrza selekciju kandidata
U međuvremenu, HR tim je imao drugačiji problem. Za pojedine pozicije stizale su stotine prijava, a inicijalni pregled CV-jeva oduzimao je značajan deo vremena. Rešenje je pronađeno u AI alatu koji automatski analizira prijave, rangira kandidate i predlaže koje bi trebalo pozvati u naredni krug. Proces je postao brži, ali su se pojavila pitanja koja nisu bila samo tehnička.
Na osnovu kojih kriterijuma sistem zapravo rangira kandidate? Da li podaci na kojima je model razvijen mogu da utiču na njegovu procenu? Ko proverava da li postoji pristrasnost? Da li se odluka može doneti samo na osnovu preporuke sistema? Ko je odgovoran ako dođe do pogrešne ili nepravedne procene? Da li kandidat zna da se AI koristi u procesu selekcije?
Problem nije bio u tome što kompanija koristi AI
Šest meseci nakon početne odluke CEO-a, kompanija je možda imala petnaestak različitih AI alata, više dobavljača, desetine use case-ova i različite nivoe rizika. Neki sistemi obrađivali su samo javno dostupne informacije, drugi su imali pristup internim dokumentima, a treći su komunicirali sa klijentima ili učestvovali u donošenju odluka koje utiču na ljude. Početna odluka menadžmenta i dalje je bila racionalna: kompanija je želela da iskoristi AI kako bi bila produktivnija i konkurentnija. Problem nije bio u korišćenju AI-ja, već u tome što rast njegove upotrebe više nije mogao da se upravlja kroz pojedinačne odluke timova i nekoliko opštih pravila.
Kako bi izgledao strukturisan pristup?
Tu počinje logika ISO/IEC 42001 i sistema upravljanja veštačkom inteligencijom – AIMS-a. Umesto pitanja “da li smemo da koristimo ovaj AI alat?”, organizacija dobija ponovljiv način da postavi korisnija pitanja: za šta želimo da koristimo ovaj sistem, ko je odgovoran za njega, koje podatke obrađuje, koji rizici i potencijalni uticaji postoje, koje kontrole su potrebne, da li je potreban ljudski nadzor, kako pratimo performanse sistema i njegove rezultate i šta se dešava kada se sistem, dobavljač ili način njegove upotrebe promeni.
Na taj način organizacija ne zaustavlja uvođenje AI-ja. Naprotiv, stvara okvir koji omogućava da se novi use case-ovi uvode uz jasne odgovornosti, dokumentovane odluke i nivo kontrole koji odgovara konkretnom riziku. Marketing asistent, customer-support chatbot i AI sistem u HR-u ne moraju da imaju iste kontrole, ali svaki od njih mora da prođe kroz proces kojim organizacija razume šta koristi, zašto to koristi i kakav rizik prihvata.
Od eksperimentisanja do upravljanja
Za veliki broj organizacija AI governance više nije tema budućnosti. AI alati su već prisutni u poslovnim procesima, često i pre nego što je njihova upotreba formalno uređena. Zbog toga ključno pitanje više nije da li ćemo koristiti AI, već kako ćemo njime upravljati kada postane sastavni deo poslovanja. ISO/IEC 42001 pruža okvir upravo za taj prelazak – od pojedinačnih eksperimenata i ad hoc odluka ka sistemskom upravljanju AI rizicima, odgovornostima, kontrolama i kontinuiranim unapređenjem.



