Kalifornijski zakon SB 53, ki ga je podprlo podjetje Anthropic, postavlja nova pravila za nadzor nad razvojem in uporabo najnaprednejših modelov umetne inteligence. Zakonodaja nalaga podjetjem vrsto konkretnih varnostnih postopkov, katerih namen je zaščititi javnost in preprečiti zlorabe tehnologije. SB 53 spodbuja večjo transparentnost, vključuje pragove zmogljivosti za modele in odpira razpravo o pravi meri regulacije v industriji, ki se hitro spreminja.
Konkretni varnostni pregledi in zahteve SB 53
Zakon SB 53 določa, da morajo podjetja, ki razvijajo AI modele z več kot 1026 operacij na sekundo ali imajo potencial ustvariti avtonomne agente, izvesti poglobljene varnostne preglede. Ti vključujejo analize tveganj, kot so možnosti za nenamerno škodo, nenadzorovano širjenje lažnih informacij ali zloraba AI za razvoj nevarnih snovi. Pred izdajo novih modelov morajo podjetja pripraviti javno dostopno poročilo o rezultatih varnostnih analiz in ukrepih za zmanjševanje tveganj.
SB 53 zahteva, da podjetja opredelijo konkretne postopke za blokiranje nepooblaščenega dostopa do modelov ter načrte za ukrepanje v primeru zaznanih kršitev. Zakon posebej naslavlja nevarnosti, kot so manipulacija z volilnimi procesi, napadi na informacijske sisteme in grožnje zasebnosti posameznikov. Podjetja morajo opisati, kako bodo obravnavala te scenarije in zagotoviti, da imajo uporabniki možnost prijave zlorab.
Transparentnost je ena izmed ključnih zahtev SB 53. Podjetja morajo objaviti podatke o arhitekturi modela, uporabljenih učnih podatkih v splošnih okvirih, opisati morebitne znane omejitve ter seznam nevarnosti, ki jih model lahko povzroči. Prav tako morajo navesti, ali model zmore generirati vsebine, ki bi lahko zavajale javnost ali ogrozile varnost. Zmogljivostni pragovi določajo, da se najbolj strogi postopki sprožijo pri modelih, ki presegajo določeno računsko moč ali razpolagajo z možnostjo samostojnega sprejemanja odločitev brez nadzora.
Različni pogledi na SB 53 in mednarodni kontekst
Anthropic ni edini akter, ki je izrazil stališče o SB 53. Nekatera večja tehnološka podjetja zakon podpirajo, saj verjamejo, da bo ustvaril bolj predvidljivo okolje za razvoj AI. Vendar se pojavljajo tudi mnenja, da bi strogi varnostni postopki lahko zavirali inovacije, zlasti pri manjših podjetjih, ki nimajo dovolj resursov za izpolnjevanje novih standardov. Organizacije civilne družbe zakon pozdravljajo, ker bodo podjetja odgovorna za morebitne posledice uporabe naprednih AI modelov.
Strokovnjaki za umetno inteligenco opozarjajo, da je zakon sicer napreden, a še vedno dopušča odprta vprašanja, kot so ocenjevanje resničnih tveganj in možnost izogibanja odgovornosti preko zunanjih izvajalcev. Nekateri regulatorji menijo, da je zakon nujen odgovor na hitre tehnološke spremembe, drugi pa poudarjajo potrebo po usklajevanju s podobno zakonodajo v drugih jurisdikcijah.
SB 53 se umešča v širši kontekst razprav o regulaciji umetne inteligence, ki potekajo tako v ZDA kot v Evropski uniji. Evropska unija je sprejela Akt o umetni inteligenci, ki prav tako uvaja varnostne preglede in omejitve za visoko tvegane sisteme, a uporablja nekoliko drugačne kriterije za razvrščanje tveganja. V ZDA SB 53 velja za prvi obsežnejši zakon na ravni posamezne zvezne države, ki bi lahko postal zgled tudi za druga okolja.
