Dok se proizvođači računara utrkuju u predstavljanju sve snažnijih uređaja, Sem Altman, direktor kompanije OpenAI, izneo je drugačiji pogled na to gde bi memorijski resursi trebalo da se nalaze. Prema njegovom mišljenju, nije naročito efikasno da velike količine DRAM memorije budu raspoređene u računarima širom sveta, gde se ne koriste punim kapacitetom.
Altman je o tome govorio u podkastu Cheeky Pint, u razgovoru sa Džonom Kolisonom, suosnivačem kompanije Stripe. Objašnjavajući problem iz ugla globalne raspodele resursa, rekao je da je „prilično loše“ da ograničene količine DRAM memorije budu smeštene u računarima pojedinačnih korisnika, gde se, prema njegovoj proceni, koriste svega pet odsto vremena.
Njegov argument je da bi memorija mogla da bude iskorišćena znatno intenzivnije kada bi se nalazila u data centrima, gde istovremeno opslužuje veliki broj korisnika i AI zahteva.
Lokalni AI ili obrada u oblaku?
Altmanova izjava usledila je tokom razgovora o lokalnom pokretanju veštačke inteligencije, odnosno mogućnosti da korisnici AI modele izvršavaju direktno na svojim računarima, umesto da se oslanjaju na udaljene servere.
Takav pristup ima nekoliko prednosti. Korisnici mogu da obrađuju podatke bez slanja na eksterne servere, manje zavise od internet veze, a u određenim slučajevima mogu da izbegnu pretplate na cloud servise. Za pokretanje zahtevnijih modela lokalno potrebna je odgovarajuća hardverska konfiguracija, uključujući dovoljno RAM memorije i snažan procesor ili grafičku karticu.
Altman smatra da se prelaskom na lokalnu obradu ne rešava problem nedostatka memorijskih čipova. Naprotiv, ako veliki broj korisnika počne da pokreće AI modele na sopstvenim uređajima, značajne količine DRAM memorije ostaju raspoređene u pojedinačnim računarima, umesto da budu objedinjene u infrastrukturi koja može da ih koristi za potrebe većeg broja ljudi.
Ovakav stav odgovara i poslovnom modelu kompanija koje AI usluge pružaju preko cloud infrastrukture, među kojima je i OpenAI. Ipak, pitanje nije samo gde se memorija efikasnije koristi, već i kakvu kontrolu korisnici žele da imaju nad svojim uređajima i podacima.
AI data centri povećavaju pritisak na tržište memorije
Rasprava dolazi u trenutku kada potražnja za memorijskim čipovima raste, pre svega zbog širenja AI infrastrukture. Data centrima su potrebne velike količine DRAM-a, ali i HBM memorije, koja se koristi u naprednim AI akceleratorima. To dodatno opterećuje proizvodne kapacitete i pojačava konkurenciju između kompanija koje nabavljaju memoriju za servere i proizvođača potrošačke elektronike.
Altman se sastao i sa rukovodstvom Samsunga u Južnoj Koreji, svega nekoliko dana nakon objavljivanja podkasta. Na sastanku je učestvovalo oko 50 rukovodilaca kompanije, a razgovaralo se o veštačkoj inteligenciji i mogućnostima buduće saradnje. Ipak, iz tog susreta nije proizašla javno potvrđena nova isporuka memorijskih čipova.
Da li je budućnost računara u oblaku?
Altmanov argument ima smisla ako se posmatra isključivo kroz maksimalno iskorišćenje ograničenih resursa. Data centar može da raspoređuje memoriju između brojnih zadataka, dok RAM u kućnom računaru često nije u punoj upotrebi tokom čitavog dana.
Međutim, memorija u personalnim računarima ne služi samo za pokretanje AI modela. Ona je važna za video-igre, obradu fotografija i snimaka, programiranje, virtuelne mašine, poslovne programe i svakodnevni rad sa velikim brojem otvorenih aplikacija. Pored toga, lokalni hardver korisnicima pruža veću kontrolu nad podacima i načinom na koji koriste svoje uređaje.
Zbog toga se iza Altmanove izjave krije šire pitanje o budućnosti računarstva: da li će korisnici nastaviti da ulažu u sve snažnije računare koje poseduju ili će se sve više oslanjati na procesorsku snagu i memoriju iznajmljenu preko cloud servisa? Odgovor će zavisiti ne samo od tehnološkog napretka, već i od cene, dostupnosti i nivoa kontrole koji takvi modeli korišćenja nude.
