Trideset novih tožb proti OpenAI odpira vprašanje, kako daleč sega odgovornost razvijalca umetne inteligence, kadar uporabnik njegovo orodje domnevno uporablja pri načrtovanju nasilja. Tožbe so povezane z napadom v Tumbler Ridgeu v Britanski Kolumbiji, kjer je najstnica Jesse Van Rootselaar po navedbah tožb najprej ubila mater in polbrata, nato pa na srednji šoli ubila še šest ljudi ter ranila več deset drugih, preden je umrla zaradi samomora.
Odvetniška družba Edelson PC je v Kaliforniji vložila 30 dodatnih tožb v imenu učiteljev, ravnatelja in dijakov, ki so bili med napadom v šolski stavbi, a niso bili fizično ranjeni. Pisarna je aprila že vložila sedem podobnih tožb v imenu žrtev in njihovih družin.
Novi postopki pomembno zaostrujejo očitke proti OpenAI. Tožniki podjetju ne očitajo več le malomarnega neukrepanja, temveč prvič tudi pomoč in napeljevanje pri množičnem streljanju. Gre za pravno bistveno zahtevnejšo trditev, saj mora tožeča stran praviloma dokazovati, da je toženi vedel za dejanje oziroma tveganje in je k njemu zavestno prispeval.
V središču spora: opozorila zaposlenih in odločitev, da policije ne obvestijo
Po poročanju Wall Street Journala so bili nekateri zaposleni v OpenAI zaskrbljeni zaradi pogovorov, ki jih je Van Rootselaar vodila s ChatGPT-jem. Ti naj bi vključevali teme nasilja s strelnim orožjem in vprašanja, povezana z načrtovanjem napada.
Zaposleni naj bi vodstvo pozivali, naj opozori kanadske organe pregona. OpenAI naj bi namesto tega deaktiviral uporabničin račun, vendar je uporabnica kmalu ustvarila novega.
Prav tu tožniki vidijo razliko med zgolj tehnično napako ali premalo učinkovitim varnostnim sistemom ter domnevno zavestno odločitvijo, da se ne ukrepa. Njihova teza ni le, da OpenAI ni preprečil zlorabe svojega sistema, temveč da naj bi kljub internim opozorilom opustil korak, ki bi lahko omogočil pravočasno posredovanje oblasti.
Tožbe same po sebi teh navedb še ne dokazujejo. Predstaviti bodo morale konkretne dokaze o tem, kaj so zaposleni vedeli, kdo je odločal, kakšne informacije so bile na voljo vodstvu in ali bi obvestilo policiji lahko realno preprečilo napad.
OpenAI: prag za obvestilo oblasti ni bil dosežen
OpenAI svoje ravnanje utemeljuje z internim standardom za posredovanje informacij organom pregona. Družba trdi, da dejavnost uporabnice ni dosegla praga »neposrednega in verodostojnega tveganja« hude telesne poškodbe drugih.
Jason Kwon, glavni strateški direktor OpenAI, je za TechCrunch dejal, da takšna presoja ni nezmotljiva, vendar temelji na iskanju ravnotežja med varnostjo in drugimi interesi uporabnikov.
To ravnotežje je jedro širše etične dileme. Podjetja, ki razvijajo generativno umetno inteligenco, imajo dostop do pogovorov, v katerih se lahko pojavijo znaki samopoškodovanja, nasilja, kriminalnih namenov ali hude duševne stiske. Preširoko poročanje oblastem bi lahko pomenilo poseg v zasebnost uporabnikov in povzročilo lažne prijave. Prestrog prag pa lahko pomeni, da se opozorilni znaki prepoznajo šele, ko je prepozno.
Tožniki omenjajo Chrisa Lehana in Sama Altmana
Nove tožbe omenjajo tudi Chrisa Lehana, glavnega direktorja OpenAI za globalne zadeve. Tožniki trdijo, da je bila ekipa za obveščevalne dejavnosti in preiskave, ki naj bi spremljala resna tveganja nasilja v resničnem svetu, pod njegovim nadzorom.
V tožbah je navedeno, da je odločitev o tem, ali obvestiti kanadsko policijo, domnevno sprejel Lehane oziroma nekdo iz njegove hierarhije, potrditi pa naj bi jo moral izvršni direktor Sam Altman. Te navedbe so podane »na podlagi informacij in prepričanja«, kar pomeni, da tožniki zanje še nimajo neposrednih dokazov.
Lehane sicer ni naveden kot tožena stranka, Altman pa je. OpenAI zanika, da bi bil Lehane vpleten v odločitev glede prijave, in zavrača trditve, da bi preiskovalci poročali njemu ali da bi na odločitve vplivali odnosi z javnostmi oziroma politični premisleki.
Primer lahko vpliva na standarde AI-varnosti
Čeprav je do morebitne sodbe še daleč, primer odpira pomembna vprašanja za celotno industrijo umetne inteligence. Ali bi morale družbe, ki upravljajo velike pogovorne modele, vzpostaviti jasnejše postopke za nujno eskalacijo primerov? Kdaj lahko oziroma morajo omejiti zasebnost uporabnikov zaradi zaščite ljudi? In kakšno odgovornost nosijo, kadar njihov sistem prepozna možne znake nasilja, vendar podjetje ne opozori oblasti?
Tožniki skušajo dodatno izpodbiti argument OpenAI o nujnosti in zasebnosti s sklicevanjem na dogodek iz novembra 2025. Takrat je podjetje po domnevni grožnji aktivista zaprlo svoje pisarne v San Franciscu, obvestilo zaposlene, posredovalo podatke o osumljencu in stopilo v stik s policijo, čeprav naj ne bi bilo znakov aktivne neposredne grožnje.
Njihov argument je, da je OpenAI ob domnevni ogroženosti lastnih zaposlenih ukrepal hitreje in z manj zadržki kot pri opozorilih glede uporabnice v Kanadi. OpenAI bo moral v postopku pojasniti, ali sta bila primera primerljiva in zakaj je bila presoja tveganja različna.
Izid primera bi lahko določil pomembne meje med odgovornostjo ponudnikov umetne inteligence, zasebnostjo uporabnikov in dolžnostjo preprečevanja nasilja.
