Podjetje OpenAI se te dni sooča z uradno preiskavo državnih pravobranilcev Kalifornije, New Yorka in Massachusettsa zaradi domnevnih tveganj za varnost in zasebnost uporabnikov generativnih AI-modelov. Državni organi so napovedali preiskavo, potem ko so civilnodružbene organizacije, kot sta Electronic Privacy Information Center (EPIC) in AI Now Institute, opozorile na pomanjkanje transparentnosti pri obdelavi osebnih podatkov in možne kršitve obstoječe zakonodaje. Preiskava zajema tudi vprašanja avtorskih pravic v povezavi z uporabo javno dostopnih podatkov pri treniranju modelov, kar postavlja OpenAI v središče razprav o etičnem razvoju umetne inteligence.
Podatkovni izzivi in pravna tveganja za AI
Organi pregona so v okviru preiskave izpostavili sporne vidike glede obdelave občutljivih osebnih podatkov, kot so elektronske komunikacije, podatki o lokaciji in celo biometrične informacije, ki jih lahko sistemi pridobijo iz javno dostopnih virov. Posebno pozornost namenjajo vprašanjem, ali so bili ti podatki zbrani z ustrezno privolitvijo uporabnikov ter ali so izpolnjene zahteve po anonimizaciji in pravici do pozabe. Zakonodaja v ZDA temelji na principih preglednosti in minimalne obdelave podatkov, a pravobranilci opozarjajo, da so v primeru OpenAI ti principi lahko ogroženi.
Poleg osebnih podatkov preiskava vključuje tudi vprašanja avtorskih pravic, saj AI-modeli uporabljajo vsebine iz knjig, novinarskih člankov in drugih virov brez izrecnega dovoljenja avtorjev. Civilnodružbene skupine poudarjajo, da takšno ravnanje lahko ogroža pravice ustvarjalcev in spodkopava pravni red na področju intelektualne lastnine. Ti primeri odpirajo razpravo o tem, kako naj podjetja v prihodnje zagotovijo pravno skladnost in hkrati omogočijo razvoj umetne inteligence.
Poznavalci opozarjajo tudi na primer, ko so uporabniki v preteklosti poročali, da je generativni model umetne inteligence izpisal osebne podatke iz javnih ali celo zasebnih virov. Ta dejanski primer dokazuje, da so tveganja realna in da podjetja potrebujejo robustnejše mehanizme za preverjanje ter filtriranje izhodnih vsebin svojih modelov. Strokovnjaki menijo, da bi moralo biti to prednostna naloga vseh razvijalcev AI-rešitev.
Regulatorni izzivi, odzivi industrije in evropska perspektiva
Razkritja so sprožila odzive v tehnološki industriji, kjer številna podjetja že prilagajajo svoje politike zbiranja podatkov, da bi zmanjšala tveganja za podobne preiskave. OpenAI je napovedal tesnejše sodelovanje z organi pregona in izboljšave pri nadzoru nad osebnimi podatki, kar pa za zdaj ni pomirilo kritikov. Državni pravobranilci zahtevajo vpogled v konkretne postopke odstranjevanja osebnih podatkov in mehanizme za uresničevanje pravice do izbrisa, tudi pri že izurjenih modelih.
V industriji se krepi zavedanje, da je treba zagotavljati večjo transparentnost ter jasne in razumljive pogoje za uporabnike. Nekatera podjetja razvijajo orodja, s katerimi uporabnikom omogočajo vpogled v lastne podatke in možnost upravljanja z njimi. Vzporedno pa so regulatorji v Evropski uniji že sprejeli strožje standarde za AI, kot jih določa Akt o umetni inteligenci (AI Act), ki v ospredje postavlja pravice posameznikov in stroge zahteve glede varnosti, sledljivosti ter odgovornosti.
Primer OpenAI zato predstavlja pomembno prelomnico tudi za evropski kontekst. Slovenija in druge članice EU se lahko iz ameriških izkušenj naučijo, da je nujna proaktivna zakonodaja in tesno sodelovanje med industrijo, regulatorji in civilno družbo. V prihodnosti se pričakujejo konkretni ukrepi, kot so zahteve po popolnem beleženju izvorov podatkov, obveznost preverjanja zakonitosti uporabe vsebin in stroge kazni za nespoštovanje pravic uporabnikov. Dolgoročno to lahko upočasni razvoj določenih AI-funkcionalnosti, a obenem zagotovi večjo varnost in zaupanja vredno uporabo umetne inteligence tudi za evropske državljane.
