Medtem ko tekma za zmogljivejšo umetno inteligenco pospešuje razvoj novih modelov, se v tehnološki industriji vse glasneje pojavljajo opozorila, da varnostni mehanizmi ne sledijo hitrosti napredka. V to razpravo je zdaj odločneje vstopil Dario Amodei, izvršni direktor Anthropica, ki predlaga upočasnitev razvoja na samem robu zmogljivosti UI ter strožji, bolj preverljiv nadzor nad podjetji, ki te sisteme razvijajo.
Njegov poziv ni osamljen. Sam Altman, izvršni direktor OpenAI, se je z njim javno strinjal, podporo pa je izrazil tudi Elon Musk. Hkrati pa Amodeijev predlog odpira zahtevna vprašanja: kdo bi nadziral nadzornike, kako bi podjetja zaščitila svoje poslovne skrivnosti in ali je mednarodno sodelovanje na področju najnaprednejše tehnologije sploh realno?
Amodei je v objavi zapisal, da je treba upočasniti hitrost, s katero podjetja izboljšujejo sposobnosti najzmogljivejših modelov. Napredek bi bil po njegovem še vedno hiter, vendar bi družba in industrija pridobili več časa za preverjanje tveganj, razvoj zaščitnih ukrepov in oblikovanje pravil.
Kot razloga za previdnejši pristop je izpostavil vdor, povezan z OpenAI in Hugging Face, ter hitro rast zmogljivosti modelov v zadnjih mesecih. Vir incidenta podrobneje ne razloži, zato iz objavljenih informacij ni mogoče zanesljivo sklepati o njegovem tehničnem poteku ali posledicah. Amodeijevo bistveno sporočilo pa je, da varnostna tveganja niso več zgolj teoretična.
Ko govori o vse večji sposobnosti UI, da »gradi naslednjo generacijo UI«, ne gre nujno za trditev, da se modeli popolnoma samostojno izboljšujejo brez ljudi. Gre predvsem za to, da lahko napredni modeli vse bolj pomagajo pri programiranju, raziskovanju, testiranju in drugih nalogah, potrebnih za razvoj novih sistemov. To lahko močno skrajša razvojne cikle in poveča pritisk, da podjetja modele objavljajo hitreje, kot jih lahko temeljito varnostno preverijo.
Zunanji presojevalci kot prvi korak
Amodeijev prvi predlog so »vgrajeni presojevalci« iz neodvisnih organizacij, kot je METR. Ti bi bili fizično in operativno vključeni v podjetja, spremljali izpolnjevanje varnostnih zavez ter pomagali zagotoviti prijavo pomembnih incidentov.
Anthropic se je po Amodeijevih besedah že enostransko zavezal takšnemu modelu. Zunanji strokovnjaki bi dobili službene identifikacijske kartice, delovne prostore, prenosnike in dostop, večinoma primerljiv z dostopom internih ekip za ocenjevanje tveganj. Omejitve bi veljale tam, kjer bi jih zahtevali zakonodaja ali pogodbene obveznosti.
Altman je ta predlog takoj podprl in napovedal, da bo podoben pristop uvedel tudi OpenAI. To je pomemben signal, saj sta Anthropic in OpenAI med vodilnimi podjetji pri razvoju temeljnih modelov. Vendar ostaja odprto vprašanje, koliko bi bili takšni presojevalci v praksi res neodvisni.
Podjetja, ki razvijajo napredne modele, imajo upravičen interes zaščititi izvorno kodo, podatke, načrte modelov in poslovne skrivnosti. Presojevalci bi zato potrebovali dovolj širok dostop, da bi lahko učinkovito preverjali varnost, ne da bi pri tem postali odvisni od informacij, ki jim jih podjetje samo izbere in predstavi. Neodvisnost bi zahtevala jasna pravila o financiranju, pristojnostih, objavljanju ugotovitev in zaščiti žvižgačev.
Amodei je presojevalce primerjal z regulatorji, ki delujejo znotraj bank. Primerjava je razumljiva, vendar tehnološki sektor nima primerljivo ustaljenega regulatornega sistema. Bančni nadzor temelji na desetletjih zakonodaje, licenciranja in državnih institucij, medtem ko pri UI standardi, merila in izvršilni mehanizmi šele nastajajo.
Usklajevanje med tekmeci in vloga države
Drugi Amodeijev predlog je usklajevanje vodilnih podjetij v demokratičnih državah glede skupnih varnostnih standardov in omejitev nenadzorovanega razvoja. Prav tu se pokaže temeljno protislovje: podjetja bi morala sodelovati pri varnosti, hkrati pa ostajajo neposredni tekmeci v globalni tehnološki dirki.
Amodei opozarja, da bi takšno sodelovanje lahko sprožilo protimonopolne pomisleke. Če bi se največja podjetja usklajevala glede tempa razvoja ali izdajanja novih modelov, bi regulatorji to lahko razumeli kot nedovoljeno omejevanje konkurence. Zato predlaga, da ameriška vlada vsaj omogoči ozko izjemo za varnostne pogovore.
Toda tudi ob takšni izjemi bi ostali praktični problemi. Države imajo različne varnostne prioritete, zakonodaje in gospodarske interese. Evropska unija že razvija lasten regulatorni okvir z Aktom o umetni inteligenci, ZDA se bolj zanašajo na kombinacijo prostovoljnih zavez in sektorskih pravil, druge države pa lahko dajejo prednost hitremu tehnološkemu razvoju pred previdnostjo. Skupni standardi so zato mogoči predvsem, če bodo dovolj konkretni, preverljivi in politično sprejemljivi za več držav hkrati.
Kitajska kot največji geopolitični preizkus
Amodei se je lotil tudi najpogostejšega argumenta proti upočasnjevanju razvoja: da bi omejitve ameriškim in evropskim podjetjem omogočile prednost Kitajski. Po njegovem bi ZDA lahko z omejevanjem izvoza najzmogljivejših čipov in opreme za proizvodnjo polprevodnikov ter z ukrepi proti destilaciji modelov dovolj upočasnile kitajski napredek, da bi se ameriška prednost v prihodnjih treh do petih letih povečala.
Nato predlaga še omejeno globalno sodelovanje, tudi s Kitajsko. Osredotočilo bi se na najbolj očitno nevarne uporabe, na primer na uporabo UI pri izdelavi biološkega orožja.
To je verjetno najtežje izvedljiv del njegovega načrta. Zmogljivi modeli UI so hkrati gospodarska, vojaška in obveščevalna tehnologija. Države zato le stežka razkrivajo svoje sposobnosti, razvojne načrte ali ranljivosti. Tudi če bi države dosegle načelni dogovor o prepovedi nevarnih uporab, bi bilo ključno vprašanje preverjanje: kako ugotoviti, ali se dogovor dejansko spoštuje, zlasti pri tehnologiji, ki jo je mogoče razvijati in uporabljati znotraj zaprtih računalniških sistemov?
Med opozorili pred katastrofo in strahom pred regulativnim zajetjem
Debata se je dodatno zaostrila po odhodu raziskovalca Jacoba Coxona iz Anthropica. Coxon je opozoril, da vodilna podjetja z razvojem UI »igrajo na srečo z našimi življenji«, medtem ko naj bi nekateri ljudje, ki tehnologijo razvijajo, verjeli, da bi lahko imela katastrofalne posledice do konca desetletja.
Kritiki takšnih opozoril opozarjajo na drugo nevarnost: da lahko scenariji o izumrtju človeštva zasenčijo škodo, ki jo UI povzroča že danes, denimo diskriminacijo pri avtomatiziranem odločanju, dezinformacije, kršitve avtorskih pravic, nadzor zaposlenih in koncentracijo tehnološke moči.
Novinar Brian Merchant je zato podvomil o apokaliptičnih napovedih in opozoril, da bi predlogi, kot so posebni varnostni režimi za največja podjetja, lahko utrdili položaj prav tistih akterjev, ki jih želijo nadzirati. Če bi bile zahteve za razvoj napredne UI predrage in administrativno zahtevne, bi jih lažje izpolnjevali tehnološki velikani, manjša podjetja, akademske skupine in odprtokodni projekti pa bi lahko ostali ob strani.
Amodei kljub temu vztraja, da umetna inteligenca lahko pomembno izboljša kakovost življenja. Njegov argument ni poziv k opustitvi razvoja, temveč k temu, da se razvoj najzmogljivejših sistemov izvaja bolj premišljeno.
Ključno vprašanje zato ni več le, ali je umetna inteligenca dovolj koristna, da jo razvijamo, temveč ali so podjetja in države sposobni vzpostaviti verodostojna pravila, preden hitrost tehnološke tekme prehiti zmožnost družbe, da jo nadzoruje. Amodeijev poseg tej razpravi daje dodatno težo, odgovori o tem, kdo bo postavil meje in kdo bo preverjal njihovo spoštovanje, pa ostajajo odprti.
