Kalifornija se ponovno uveljavlja kot pionir na področju tehnološke regulacije z zakonodajnim predlogom SB 53, ki bi lahko bistveno preoblikoval način razvoja in uporabe umetne inteligence v največjih tehnoloških podjetjih. Zakon predvideva postavitev novih pravil za preglednost in odgovornost, s posebnim poudarkom na varnosti in pravicah uporabnikov. V središču pozornosti je vprašanje, kako lahko zakonodaja obdrži korak z napredkom tehnologije, ob tem pa zavaruje družbo pred morebitnimi tveganji, ki jih prinašajo napredni AI sistemi.
Specifične določbe zakona in odzivi deležnikov
Zakon SB 53 med svojim temeljnim naborom zahtev uvaja obvezno razkrivanje uporabljenih podatkov za učenje algoritmov. Podjetja, kot sta Google in Meta, bi bila denimo dolžna predložiti podrobne informacije o izvoru podatkov, s katerimi trenirajo svoje sisteme za prepoznavanje obrazov ali avtomatizacijo vsebine. Prav tako zakon zahteva redne ocene tveganj, zlasti pred uvedbo naprednih AI modelov na trg. Za aplikacije kot so avtonomna vozila ali pametni asistenti to pomeni, da bo moral neodvisni nadzorni organ potrditi, da sistemi ne ogrožajo varnosti udeležencev v prometu ali zasebnosti uporabnikov.
Predlog predvideva tudi konkretne postopke nadzora: podjetja bodo morala omogočiti dostop do svojih internih postopkov varovanja podatkov, ob ugotovljenih nepravilnostih pa jim grozijo začasne prepovedi uporabe ali denarne kazni. Zagovorniki zasebnosti poudarjajo, da zakon širi možnosti zaščite posameznikov pred zlorabami, medtem ko v tehnološki industriji opozarjajo, da bi lahko strožji postopki upočasnili inovacije. Strokovnjaki za etiko AI izpostavljajo, da bi takšen nadzor lahko postal vzor za podobno regulacijo tudi zunaj ZDA.
Politiki, ki zakon podpirajo, ga postavljajo v kontekst nujnosti odziva na vedno bolj zapletene izzive, ki jih prinaša hitra širitev AI tehnologij. Nasprotniki v zakonodaji opozarjajo na nevarnost pretiranega poseganja v delovanje zasebnih podjetij in možnost zmanjšanja konkurenčnosti ameriških podjetij na globalnem trgu.
Praktične posledice in širši pomen zakonodaje
Če bi zakon SB 53 začel veljati, bi se morala podjetja, ki razvijajo sisteme za avtonomno vožnjo, kot je Waymo, podrobneje ukvarjati z vodenjem in preverjanjem varnostnih protokolov. Vsaka večja nadgradnja AI sistema bi morala pridobiti potrdilo neodvisnega nadzornika, kar bi lahko upočasnilo objavo novih funkcionalnosti. Pri podjetjih, ki ponujajo storitve prepoznave obrazov ali avtomatizirane vsebinske algoritme, bi zakon lahko zahteval tudi izbris ali anonimizacijo določenih podatkov, če bi nadzorni organ presodil, da predstavljajo tveganje za zasebnost uporabnikov.
Odzivi industrije so raznoliki. Predstavniki velikih tehnoloških podjetij svarijo, da bi lahko zakon povzročil povečanje stroškov razvoja in s tem zmanjšal investicije v inovacije. Na drugi strani zagovorniki pravic posameznikov izpostavljajo, da je regulacija nujna za preprečevanje scenarijev, kjer podjetja z neomejenimi viri podatkov ustvarjajo produkte brez učinkovitega nadzora nad njihovimi posledicami. Strokovnjaki za etiko opozarjajo na potrebo po jasnih pravilih, ki bodo varovala uporabnike predvsem pri uporabi AI v občutljivih segmentih, kot so javna varnost, zdravstvo in izobraževanje.
SB 53 se umešča v širši trend naraščajočega nadzora nad umetno inteligenco. Podobne pobude se pojavljajo v Evropski uniji z Aktom o umetni inteligenci in na Kitajskem, kjer oblasti uvajajo strogo kontrolo nad razvojem in uporabo naprednih tehnologij. Kalifornijski predlog tako predstavlja pomemben korak v smeri postavljanja standardov, ki bi jih lahko postopoma prevzeli tudi drugi zakonodajalci po svetu.
