Kalifornijski zakonodajalci so potrdili zakon SB 53, ki uvaja prva jasna pravila za varnost umetne inteligence v ZDA. Zakon je usmerjen v preprečevanje tveganj, kot so diskriminacija pri avtomatiziranem odločanju, zloraba biometričnih podatkov in širjenje dezinformacij, ki jih ustvarja umetna inteligenca. Prizadeta bodo predvsem velika tehnološka podjetja kot so Google, Meta in OpenAI, ki bodo morala prilagoditi svoje procese razvoja in nadzora naprednih algoritmov.
Vir: Pixabay
Specifične obveznosti in praktične prilagoditve podjetij
Zakon SB 53 določa, da bodo razvijalci naprednih modelov umetne inteligence morali izvesti stroge ocene tveganja pred vsakim večjim nadgrajevanjem ali implementacijo novih funkcij. Ti postopki bodo zajemali analizo, ali bi lahko modeli povzročili diskriminacijo pri zaposlovanju ali kreditiranju, ali omogočili nepooblaščeno prepoznavanje obrazov in zbiranje biometričnih podatkov.
Podjetja kot so Google, Meta in OpenAI bodo morala uvesti postopke za stalno spremljanje in preverjanje delovanja svojih algoritmov. To vključuje vzpostavitev notranjih nadzornih skupin, ki bodo preverjale, ali umetna inteligenca deluje skladno z zakonodajo, ter redno poročanje regulatorju o vseh incidentih ali sumih zlorab, na primer lažno generiranih videoposnetkih ali manipulaciji informacij.
Poleg tega zakon zahteva javno poročanje o sprejetih varnostnih ukrepih, vključno z objavo povzetka ocene tveganj. Regulatorni organ v Kaliforniji bo imel pristojnost za izvajanje nenapovedanih pregledov in izrekanje sankcij v primeru ugotovljenih nepravilnosti. Nadzor bo vključeval tudi preglede varnostnih protokolov pri razvoju novih produktov umetne inteligence.
Zemljevid zveznih držav ZDA z razmišljanjem o podobni zakonodaji. Vir: Wikimedia Commons
Argumenti nasprotnikov in potencialni izzivi za inovacije
Nasprotniki zakona SB 53 opozarjajo, da bi zahteve po podrobni dokumentaciji in ocenjevanju tveganj lahko upočasnile razvoj novih tehnologij. Tehnološka podjetja izpostavljajo tveganje prevelike birokracije, saj bi morali razvijalci več časa nameniti pripravi poročil in izpolnjevanju administrativnih nalog namesto inovacijam.
Poleg tega so nekateri nasprotniki prepričani, da bodo stroški prilagoditev predstavljali znatno oviro predvsem za manjša podjetja in start-upe, ki si ne morejo privoščiti vzpostavitve celotnega oddelka za skladnost z zakonodajo. Povdarjeno je tudi, da se lahko zaradi strožjih pravil inovacije selijo iz Kalifornije v druge ameriške zvezne države ali celo v tujino.
Največji izziv za podjetja predstavlja stalna negotovost glede zahtev, saj se tehnologija umetne inteligence hitro razvija, hkrati pa zakon zahteva sprotno prilagajanje varnostnih postopkov. Nasprotniki menijo, da bi lahko to povzročilo zavoro pri implementaciji novih rešitev, še posebej na področjih, kjer bi umetna inteligenca lahko prinašala koristi za javnost, kot so zdravstvo ali izobraževanje.
