Ameriški predsednik Joe Biden je podpisal izvršno uredbo z naslovom Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, ki uvaja nove obveznosti za podjetja, ki razvijajo napredne modele umetne inteligence. S tem ukrepom želi ameriška vlada okrepiti varnost ter zaupanja vreden razvoj AI, hkrati pa odgovarja na pomisleke industrijskih združenj, kot so TechNet, CCIA in Center for AI Safety, ki so opozarjali na preveč omejujoče predhodne predloge regulacije. Nova uredba ne posega v vsakdanje uporabo umetne inteligence, temveč določa posebne pogoje za najnaprednejše in potencialno nevarne modele.
Kakšne so ključne omejitve nove uredbe?
Uredba določa, da morajo podjetja, ki razvijajo modele umetne inteligence, ki bi lahko ogrozili nacionalno varnost, zdravje ali javno varnost, vlado vnaprej obvestiti ter predložiti tehnično dokumentacijo o modelu. Med pogoji, ki sprožijo to obveznost, je zmogljivost računalniške moči nad 1026 flopsov, kar zadeva predvsem največje jezikovne in multimodalne modele. Podjetja morajo poleg dokumentacije o varnostnih zaščitah in postopkih testiranja predložiti tudi podatke o metodah zmanjšanja tveganj za širšo uporabo in zlorabo.
V primerjavi s predhodnimi predlogi, ki so zahtevali celovito poročanje o vseh AI projektih, nova uredba omejuje nadzor na področja z visokim tveganjem. Na primer, osnutek, ki ga je pred meseci predlagal Urad za znanost in tehnologijo Bele hiše, je zahteval, da podjetja poročajo o vsakem modelu nad določeno velikostjo ali zmožnostjo, kar je industrija označila kot neživljenjsko in nepotrebno administrativno breme. Zdajšnji pristop upošteva odzive tehnoloških podjetij kot so OpenAI, Microsoft in Google, ki so v izjavah za javnost poudarili potrebo po prožnejših pravilih, ki spodbujajo inovacije, a hkrati zagotavljajo nadzor nad modeli z dejanskim tveganjem.
Nadzor je tako usmerjen v tiste AI modele, ki omogočajo samostojno odločanje ali ustvarjanje orožja, širjenje dezinformacij oziroma imajo zmogljivosti, ki presegajo običajne komercialne projekte. Vlada bo imela dostop do podatkov o arhitekturi modela, trening setih in rezultatih varnostnih testov. Ta pogoj naj bi zmanjšal verjetnost zlorab, kot so samodejno ustvarjanje raznih vrst napadov ali manipulativna uporaba v politične in ekonomske namene.
Industrija in javnost: Odzivi na Bidenovo regulacijo AI
Ameriška tehnološka združenja CCIA in TechNet so pozdravila spremembe, ki po njihovem mnenju omogočajo hitrejši tehnološki napredek ob hkratni večji odgovornosti za najnaprednejše projekte. Center for AI Safety je v poročilu izpostavil, da je nujen nadzor nad tistimi sistemi, ki bi lahko ogrozili varnost infrastrukture ali omogočili razvoj naprednega orožja, ter ocenil, da uredba prvič na zvezni ravni podaja jasne kriterije za ukrepanje.
Organizacije civilne družbe, kot sta ACLU in Electronic Frontier Foundation, opozarjajo, da lahko kompromisna rešitev pusti odprte vrzeli in omogoči podjetjem, da zmogljive modele razdelijo na manjše enote, ki posamezno ne presegajo regulativnih pragov. Poudarjajo, da bo dolgoročni uspeh uredbe odvisen od tega, ali bo vlada sposobna učinkovito nadzorovati hiter razvoj tehnologije in zagotoviti ažuriranje pravil glede na nove izzive.
Uredba postavlja ZDA med države z jasnim, a še vedno zelo industrijsko usmerjenim pristopom. V primerjavi z evropskim AI Actom, ki uvaja strožji, tveganjsko zasnovan nadzor tudi v komercialnih aplikacijah, in kitajskim modelom, ki temelji na intenzivnem državnem nadzoru, ameriška uredba izrecno ščiti inovacijski potencial. Vendar analitiki opozarjajo, da obstaja možnost, da bi nekatera podjetja iskala načine za izogibanje pragovom, kar bi lahko ogrozilo cilje uredbe.
Kakšne so širše posledice te uredbe za prihodnost AI?
Nova uredba predstavlja pomemben preobrat v ameriškem pristopu k regulaciji umetne inteligence. Združuje industrijske interese z zmernimi varnostnimi ukrepi in postavlja temelje za prihodnje zakonodajne ali izvršne ukrepe. Kljub pomanjkljivostim, kot so možne vrzeli v nadzoru ter omejena pokritost komercialnih aplikacij, uredba utrjuje ZDA kot globalnega akterja, ki želi ostati konkurenčen na področju AI in hkrati zmanjševati tveganja največjih sistemov.
Dolgoročno bo uspešnost te politike odvisna od tega, kako dobro bodo regulativni pragovi sledili razvoju tehnologije in ali bo zvezna vlada vzpostavila učinkovite mehanizme nadzora. Ameriška izkušnja lahko postane vzor ali opozorilo za druge države, ki iščejo ravnotežje med varnostjo in inovacijami. Nadaljnje spremembe pa bodo nujne ob pojavu novih tveganj ali tehnoloških prebojev.
Z uvedbo jasnih meril in omejitvijo nadzora na tvegane AI modele Bidenova izvršna uredba pomeni pomemben korak v razvoju ameriške politike umetne inteligence. Vprašanje, kako bodo podjetja in regulatorji uporabljali in uveljavljali te določbe v praksi, ključno oblikuje prihodnost AI v ZDA in širše. Spremljanje implementacije in odzivov doma ter v tujini bo v prihodnjih mesecih določalo smer globalne ureditve tega področja.
