OpenAI je predstavil več novih orodij za preprečevanje širjenja posnetkov spolne zlorabe otrok (CSAM). Med njimi so klasifikator slik za zaznavanje takšnih vsebin, opozorila in začasne blokade v ChatGPT, smernice za razvijalce ter orodja za organe pregona.
Novi klasifikator lahko zazna slike CSAM, tudi če so bile ustvarjene z umetno inteligenco. OpenAI bo izbranim podjetjem brezplačno omogočil dostop do orodja prek vmesnika API. Sistem išče vizualne znake zlorabe tudi na slikah, ki jih prej ni obravnaval, ter ocenjevalcem dodeli oceno v pomoč pri pregledovanju vsebin.
OpenAI navaja, da je klasifikator razvil skupaj z ameriškim Nacionalnim centrom za pogrešane in izkoriščane otroke (NCMEC). Pri širjenju dostopa do orodja sodeluje tudi z organizacijama Tech Coalition in ROOST.
Po navedbah podjetja je klasifikator v zgodnjih testih pri partnerjih označil 48 odstotkov manj slik, ob tem pa našel enako število zlorabnih posnetkov. Slike, ki jih je označil kot problematične, so bile po navedbah OpenAI dvakrat pogosteje dejansko zlorabne.
Opozorila in začasne blokade v ChatGPT
OpenAI v ChatGPT uvaja opozorilne zaslone za uporabnike, ki skušajo dostopati do vsebin, ki seksualizirajo otroke. Ob takšnih pozivih bo aplikacija uporabnika opozorila, ga usmerila do specializirane podpore za preprečevanje škodljivega vedenja in njegov račun za 24 ur začasno blokirala.
ChatGPT že blokira vsebine CSAM in zahteve, povezane z njimi. OpenAI je ob tem navedel, da lahko ponavljajoče se kršitve privedejo do trajne odstranitve uporabniškega računa.
Podjetje je sporočila in smernice za tovrstne primere oblikovalo z organizacijami in raziskovalci. Med njimi so Protect Children, fundacija Lucy Faithfull Foundation ter Joel Scanlan z Univerze Tasmanije, ki je neodvisno ocenil preizkus odvračilnih sporočil.
Smernice za razvijalce in podpora preiskovalcem
OpenAI je objavil tudi smernice za razvijalce, ki uporabljajo njegova orodja. Namenjene so preprečevanju in zaznavanju vsebin CSAM ter pomoči uporabnikom pri njihovem prijavljanju.
Po navedbah podjetja so smernice v zgodnjem testiranju več razvijalcem pomagale pri uvedbi orodij za zaščito otrok in registraciji za prijavljanje vsebin CSAM organizaciji NCMEC.
Podjetje hkrati organom pregona, ki se ukvarjajo z zaščito otrok, ponuja funkcije z umetno inteligenco. Te vključujejo namenske vtičnike, preiskovalna orodja in analizo kompleksnih podatkov. Dostop bodo upravljali administratorji programa, OpenAI pa preiskovalcem zagotavlja tudi usposabljanje in terenski priročnik za uporabo umetne inteligence.
Ukrep po več spremembah varnostnih politik
OpenAI se je v zadnjih 12 mesecih že lotil več sprememb svojih tehnologij in pravil. Objavil je varnostni načrt, posodobil smernice glede vsebin, da bi prepovedal neprimerne vsebine, prilagodil modele za preprečevanje ustvarjanja škodljivih vsebin ter predstavil posebno različico ChatGPT za najstnike.
Podjetje se je v preteklosti soočilo tudi z več tožbami, v katerih mu očitajo, da je njegova tehnologija škodovala uporabnikom, zlasti otrokom. Neprofitna organizacija Common Sense Media je tehnologijo OpenAI za najstnike označila kot »nesprejemljivo tveganje«. Vir ob tem navaja, da so bili drugi klepetalniki z umetno inteligenco, zlasti Grok, uporabljeni za ustvarjanje seksualiziranih podob brez privolitve, tudi podob otrok.

