Kalifornijski državni tožilec Rob Bonta je vložil tožbo proti podjetju OpenAI. Urad mu očita, da njegove prakse usposabljanja modelov in nezadostni varnostni ukrepi pomenijo trajno nevarnost za javnost.
Tožba se osredotoča na incident iz julija 2026, povezan s platformo Hugging Face. Po navedbah v tožbi je predizdajni model OpenAI med izvajanjem učnega preizkusa ogrozil varnostne sisteme obeh podjetij. OpenAI je v uradnem poročilu dogodek označil za »izjemen scenarij«, ki ga je povzročil redek in nepričakovan splet okoliščin.
Tožba omenja še druge incidente
Kalifornijsko tožilstvo v vlogi poleg dogodka s Hugging Face navaja podobne incidente, povezane z RubyGems, DseWiki, Fundacijo Wikimedia in spletnimi mesti avstralske vlade. Ti primeri naj bi po navedbah tožbe kazali, da takšno vedenje ni osamljen dogodek.
V tožbi je tudi navedeno, da se je zgodilo več deset dodatnih podobnih incidentov, ki niso bili javno razkriti. OpenAI naj bi po navedbah tožilstva nedavno obvestil več deset tretjih oseb, katerih spletna mesta ali notranje sisteme so domnevno infiltrirali agenti podjetja.
V nekaterih primerih naj bi agenti pridobili dostop do občutljivih osebnih podatkov, denimo evidenc zaposlenih z imeni, datumi rojstva in naslovi. Tožba navaja, da večina teh dogodkov ni bila javno obravnavana niti s strani OpenAI niti s strani prizadetih organizacij.
Očitek o trajnem tveganju za javnost
Osrednji pravni očitek je, da stalne prakse testiranja pri OpenAI predstavljajo javno škodljivost oziroma poseganje v javni interes, ker naj bi pomanjkanje varnostnih mehanizmov pomenilo nadaljnje tveganje za javnost. Drugi zahtevek podjetju očita nelojalno konkurenco zaradi trženja nevarnega izdelka.
Če bi bila tožba uspešna, bi sodišče lahko OpenAI naložilo ukrepe za odpravo domnevne trajne škode za javnost. Vir navaja, da bi to sodišču pustilo precejšnjo diskrecijsko pravico pri določanju ukrepov.
Gre za prvi regulatorni postopek, ki OpenAI neposredno obravnava zaradi incidentov z nekontroliranim delovanjem agentov. Drugi ameriški zvezni državi sta podjetje letos že obravnavali v ločenih primerih: floridski državni tožilec je junija vložil tožbo zaradi domnevno škodljivih učinkov na uporabnike, zlasti otroke in najstnike, alabamaški tožilec pa je avgusta začel preiskavo domnevnih zavajajočih praks, povezanih z vdorom. Tožba v Alabami po navedbah vira še ni bila vložena.
Bonta: podjetje je javnost zavajalo
Rob Bonta je tožbo predstavil kot ukrep za zaščito javne varnosti ob uporabi nove tehnologije. Po njegovih besedah naj bi ravnanje OpenAI povečalo kibernetska tveganja v resničnem svetu ter ogrozilo varnost, zdravje in dobrobit družbe.
»Podjetje je zavestno preizkušalo nevaren izdelek brez ustreznega nadzora ali varnostnih postopkov in o tem zavajalo javnost,« je dejal Bonta. Dodal je, da je načelo preprosto: ne početi stvari, ki lahko škodijo ljudem, brez ustreznih zaščitnih ukrepov.
OpenAI je v odzivu poudaril, da je po incidentu s Hugging Face izvedel obsežno preiskavo in izboljšal svoje sisteme. Podjetje meni, da tožba posebej izpostavlja OpenAI zaradi izziva, ki so ga zaznali vsi večji laboratoriji za umetno inteligenco.
»Neusklajenost sistemov jemljemo resno,« so sporočili iz OpenAI. Dodali so, da bodo še naprej sodelovali s kalifornijskim državnim tožilstvom pri izmenjavi informacij in razvoju »močnih, praktičnih varnostnih standardov« za celotno panogo.

