Kako naj ZDA vodijo tekmo v umetni inteligenci, ne da bi pri tem spregledale njena tveganja? To vprašanje vse jasneje ločuje politične pristope v Washingtonu. Nekdanji predsednik Barack Obama poziva demokrate k jasnemu načrtu za varnostne omejitve in javno razpravo, medtem ko predsednik Donald Trump poudarja predvsem ameriško tehnološko premoč in geopolitično tekmovalnost.
Po poročanju časnika *The New York Times* je Obama na dogodku za zbiranje sredstev Demokratske stranke dejal, da mora umetna inteligenca postati ena osrednjih političnih prioritet demokratov. Tehnologija se po njegovih besedah razvija zelo hitro in predvsem »v zasebnih rokah«, zato bi lahko postala nevarna, če politika ne bo pravočasno vzpostavila ustreznega okvira.
Obamov poudarek ni usmerjen proti razvoju umetne inteligence kot takemu. Nasprotno, izpostavil je njen potencial pri pospeševanju razvoja zdravil in zdravljenju bolezni. Njegovo sporočilo je, da koristi ne bodo samoumevne: zanje bodo potrebni javni nadzor, pravila in politična odgovornost.
Demokrati: najprej javni okvir in varnost
Obama meni, da bi morali demokrati ob morebitni ponovni pridobitvi večine v predstavniškem domu pripraviti okvir za »zelo javno razpravo« o umetni inteligenci. Tak pristop nakazuje, da vprašanja UI ne vidi le kot tehnične ali poslovne teme, temveč kot družbeno vprašanje, ki zadeva trg dela, varstvo otrok, človekove pravice, dostop do informacij in koncentracijo moči v največjih tehnoloških podjetjih.
Vodja demokratske manjšine v predstavniškem domu Hakeem Jeffries je Obamove besede podprl in dejal, da je potrebno odločno ukrepanje. Republikancem je očital, da so opustili odgovornost za upravljanje tehnologije v interesu ameriških državljanov.
V ozadju takšnega pristopa je prepričanje, da razvoj najzmogljivejših modelov ne sme ostati zgolj stvar prostovoljnih zavez podjetij. Če sistemi UI vplivajo na zaposlovanje, izobraževanje, zdravstvo, volitve ali dostop do javnih storitev, postaja vprašanje, kdo preverja njihovo varnost, pristranskost in zanesljivost.
Od političnega poziva do konkretnih varnostnih mehanizmov
Obamov poziv sovpada z vse glasnejšimi opozorili raziskovalcev in vodilnih ljudi v panogi. TechCrunch navaja, da je nekdanji raziskovalec podjetja Anthropic po odhodu iz družbe opozoril, da vodilna podjetja tekmujejo v razvoju samoučeče se superinteligence ter pri tem prevzemajo izjemno velika družbena tveganja.
Izvršni direktor Anthropica Dario Amodei je zato predstavil pristop, imenovan »pacing the frontier« oziroma postopno in nadzorovano napredovanje na tehnološki fronti. Njegova ključna predloga sta dva: neodvisni ocenjevalci bi morali dobiti dovolj širok dostop do vodilnih modelov, podjetja pa bi morala razviti skupne varnostne standarde.
V praksi bi neodvisno preverjanje pomenilo, da varnosti modelov ne bi ocenjevala le podjetja, ki jih razvijajo. Zunanji strokovnjaki bi lahko preskušali, ali je model mogoče zlorabiti za kibernetske napade, razvoj nevarnih snovi, množično ustvarjanje dezinformacij ali druge škodljive namene. Ključno vprašanje je, kako širok dostop bi ti ocenjevalci dejansko dobili in ali bi lahko njihove ugotovitve privedle do omejitev pri uvajanju najzmogljivejših sistemov.
Sam Altman, izvršni direktor OpenAI, je na družbenih omrežjih sporočil, da bi se tudi OpenAI zavezal k sodelovanju z neodvisnimi ocenjevalci, ki bi imeli dostop, primerljiv z dostopom zaposlenih. Pozitivno se je po navedbah TechCruncha odzval tudi Elon Musk.
To kaže, da med najvidnejšimi podjetji obstaja vsaj načelno soglasje o potrebi po zunanjem nadzoru. Vendar prostovoljne zaveze niso enake zakonsko določenim obveznostim. Prav tu se odpira politično vprašanje: ali naj varnostne standarde oblikuje industrija sama, ali pa naj jih določijo regulatorji in zakonodajalci.
Republikanski poudarek: ameriška prednost v svetovni tekmi
Trumpov pristop postavlja težišče drugam. Po poročanju Bloomberga je na dogodku na Irskem dejal, da želi ohraniti položaj ZDA kot »najbolj sofisticirane države na svetu«, saj »kdor zmaga v umetni inteligenci, zmaga«.
Ta formulacija umetno inteligenco obravnava predvsem kot strateško infrastrukturo — podobno kot energijo, obrambno tehnologijo ali proizvodnjo polprevodnikov. V tem okviru pretirano omejevanje ameriških podjetij pomeni tveganje, da bodo prednost prevzele Kitajska ali druge tehnološko ambiciozne države.
Trump je sicer priznal, da je mogoče vzpostaviti varovalke, vendar je obenem opozoril pred »negativnimi silami«, ki po njegovem mnenju nevarnosti UI pretirano izpostavljajo. Razlika do Obamovega pristopa je zato predvsem v prednostnem vrstnem redu: Obama poudarja, da je treba razvoj najprej spraviti v javno nadzorovan okvir, Trump pa v ospredje postavlja hitrost razvoja in globalno konkurenčnost ZDA.
Enotna zvezna pravila ali pristojnost zveznih držav?
TechCrunch ob tem navaja, da je Trumpova administracija že predstavila zakonodajni okvir za UI, ki bi prevladal nad zakonodajo posameznih zveznih držav. Takšna ureditev bi pomenila, da države ne bi mogle samostojno uvajati strožjih pravil, če bi bila ta v nasprotju z zvezno zakonodajo.
Zagovorniki enotnega zveznega pristopa lahko trdijo, da podjetjem omogoča jasnejše in predvidljivejše okolje. Tehnološka podjetja bi se tako izognila različnim pravilom v Kaliforniji, New Yorku, Teksasu in drugih državah, kar bi lahko pospešilo razvoj ter uvajanje rešitev UI po vsej državi.
Kritiki pa opozarjajo, da bi takšna ureditev lahko oslabila države, ki želijo uporabnike zaščititi z ambicioznejšimi pravili. Zvezne države so v ZDA pogosto laboratorij javnih politik: kadar zvezna raven ukrepa počasi, lahko lokalne oblasti hitreje sprejmejo pravila na področju zasebnosti, varstva otrok ali preglednosti algoritmov.
Posebej občutljiv je predlog, da bi se del odgovornosti za spletno varnost otrok prenesel na starše. Tak pristop pomeni manj neposrednih obveznosti za ponudnike storitev in razvijalce modelov, vendar odpira vprašanje, ali imajo starši v praksi dovolj informacij, časa in nadzora nad sistemi, s katerimi otroci vsakodnevno prihajajo v stik.
Razprava presega vprašanje varnosti
Ameriški spor o regulaciji UI ni omejen le na preprečevanje katastrofalnih scenarijev. Vključuje tudi vpliv avtomatizacije na delovna mesta, pristranskost algoritmov, avtorske pravice, nadzor nad osebnimi podatki, uporabo UI v vojski in širjenje sintetičnih medijskih vsebin.
Trumpova izjava o tem, da »kdor zmaga v UI, zmaga«, izpostavlja geopolitično razsežnost. Države umetno inteligenco vse pogosteje razumejo kot temelj gospodarske produktivnosti, obrambne sposobnosti in političnega vpliva. Hkrati pa lahko tekma za zmogljivejše modele ustvari pritisk, da podjetja in države varnostne preizkuse obravnavajo kot oviro, ne kot nujni pogoj razvoja.
Vprašanje ni več, ali regulirati, temveč kako
Med Obamovim pozivom k javnemu okviru in Trumpovim poudarkom na tekmovalnosti obstaja skupna točka: oba priznavata, da bo umetna inteligenca odločilno vplivala na prihodnji položaj ZDA. Razlikujeta pa se v odgovoru na vprašanje, kaj mora priti najprej — hitrost in konkurenčnost ali nadzor ter zmanjševanje tveganj.
Za Evropo in Slovenijo je ameriška razprava pomembna, ker bodo odločitve največjih ameriških podjetij in tamkajšnjih regulatorjev vplivale tudi na tehnologije, ki jih uporabljajo evropska podjetja, javne ustanove in posamezniki. Prihodnost UI zato ne bo določena samo v laboratorijih OpenAI, Anthropica ali drugih podjetij, temveč tudi v političnih odločitvah o tem, kdo nosi odgovornost, kadar tehnologija odpove ali povzroči škodo.
