Meta se z novo enoto pod vodstvom Shengjia Zhaa osredotoča na varnost superinteligence
Ozadje: Zhaojevo delo pri OpenAI in njegov prihod v Meto
Meta je v začetku leta 2024 imenovala Shengjia Zhaa za glavnega znanstvenika svoje nove enote Responsible AI Superintelligence (RAI-SI). Zhao se je uveljavil predvsem kot raziskovalec pri OpenAI, kjer se je ukvarjal s področjema usklajevanja umetne inteligence in varnosti. Med njegovimi prepoznavnimi dosežki je sodelovanje pri razvoju protokolov za zaznavanje in omejevanje pristranskosti v generativnih modelih ter priprava postopkov za preverjanje stabilnosti rezultatov sistema GPT-3 v različnih praktičnih scenarijih. Znan je tudi po spodbujanju razvoja transparentnih AI orodij, kjer je zagovarjal odprto objavljanje raziskav in razvoj metod za zagotavljanje sledljivosti odločitev naprednih sistemov.
RAI-SI: konkreten fokus in izzivi enote
Nova enota RAI-SI se ne ukvarja zgolj s teoretičnimi vprašanji, temveč išče rešitve za zelo konkretne izzive: odpravljanje pristranskosti v podatkovnih nizih, upravljanje varnostnih protokolov in razvoj specifičnih standardov za ravnanje z občutljivimi podatki. Med ključnimi nalogami je tudi priprava strožjih kontrolnih mehanizmov, kot so večnivojski sistemi preverjanja rezultatov, razvoj opozorilnih signalov za nenavadno vedenje modelov ter oblikovanje t. i. “human-in-the-loop” pristopov, kjer ključne odločitve vedno potrdi človeški strokovnjak. Meta poudarja, da želi z RAI-SI že v začetku vgrajevati varnostno-etične standarde v vse faze razvoja res naprednih AI modelov.
Evropski kontekst: odziv na stroge zahteve in AI Act
Evropska unija velja za svetovno vodilno silo na področju regulacije umetne inteligence. Z nedavno sprejetim AI Act so se okrepile zahteve za razvoj varnih, preglednih in človeku koristnih sistemov, posebno v segmentih kot so nadzor nad osebnimi podatki, preprečevanje diskriminacije ter zagotavljanje razložljivosti modelov. Meta s postavitvijo RAI-SI jasno cilja tudi na izpolnjevanje teh zahtev, saj so vse ključne usmeritve enote neposredno povezane z evropsko zakonodajo – od nadzora nad viri podatkov do razvoja tehnik za razlago odločitvenih mehanizmov v naprednih modelih, kar je ključno za pridobitev regulatorne odobritve in zaupanja evropskih uporabnikov.
Kritični pogled: ambiciozen projekt ali marketinška poteza?
Ustanovitev RAI-SI po eni strani kaže Meta resno namero za ureditev področja varnosti umetne inteligence, še posebej ob upoštevanju Zhaojevih izkušenj iz OpenAI in vključenosti vodilnih AI strokovnjakov. Po drugi strani pa nekateri neodvisni analitiki opozarjajo, da je lahko odločitev deloma tudi odgovor na vse strožje regulatorne pritiske in željo podjetja po izboljšanju lastne podobe v javnosti, predvsem v Evropi. Potencialni konflikt interesov se pojavlja v trenutku, ko Meta zaradi poslovnega modela še vedno stavi na množično zbiranje podatkov, kar je pogosto v nasprotju z zahtevo po strogi zasebnosti in transparentnosti, ki jo na primer zahteva evropska zakonodaja.
Prihodnost RAI-SI: pričakovanja za Slovenijo in Evropo
Vzpostavitev RAI-SI lahko dolgoročno pomembno vpliva na razvoj umetne inteligence v Evropi in s tem tudi v Sloveniji, ki aktivno sledi razvoju novih tehnologij in se vključuje v evropske AI pobude. Zhaojeva ekipa bo morala v prihodnjih mesecih pokazati, kako bodo na konkretnih primerih uvajali napredne varnostne protokole, sodelovali z regulatorji ter vpeljevali standarde za razlago delovanja AI modelov. Za slovenska podjetja in raziskovalce bo priložnost predvsem v povezovanju s podobnimi iniciativami ter prilagajanju lastnih rešitev sodobnim standardom pregleda in varnosti.
Meta je s postavitvijo RAI-SI storila pomemben, a zagotovo ne zadosten korak k bolj odgovornemu razvoju umetne inteligence. Ključno bo, ali bo enota pod vodenjem Zhaoja dejansko uresničila zaveze in postavila nove standarde za transparentnost, varnost in etičnost, ki jih pričakuje evropski in slovenski trg.
