OpenAI je v začetku oktobra 2025 sprožil razpravo, ki je razburila tehnološko in širšo javnost. Ustanovitelj podjetja je za več uglednih tujih medijev, med drugim TechCrunch, napovedal, da bo ChatGPT v prihodnjih mesecih ponujal možnost generiranja erotičnih besedil za odrasle uporabnike. Ta novica pomeni izjemen preobrat v politiki podjetja, ki je bilo doslej znano po strogi prepovedi eksplicitnih vsebin. Omenjena izjava izhaja iz nedavnega intervjuja, v katerem je vodstvo OpenAI izpostavilo, da bo funkcija dostopna samo polnoletnim, implementacija pa naj bi temeljila na preverjanju starosti.
Sprememba politike in tehnični izzivi
Odločitev OpenAI, da razširi nabor dovoljenih tem na področje erotike, izhaja iz odzivov uporabnikov in konkurence, ki že ponuja podobne funkcionalnosti. Po poročanju TechCrunch je vodstvo podjetja potrdilo, da išče rešitve za preverjanje starosti, denimo z uporabo podatkov uporabniškega profila ali zunanjih ponudnikov digitalne identifikacije. Tehnični izzivi preverjanja starosti ostajajo odprti, saj številne platforme na globalni ravni opozarjajo na možnosti zlorab ali vnos lažnih podatkov. Prav tako ostaja nejasno, kako učinkovito bodo novi filtri, ki naj bi prepoznali in onemogočili generiranje vsebin, ki bi lahko bile neprimerne ali nezakonite.
Primeri iz drugih industrij, kot so platforme OnlyFans, Reddit ali X, kažejo, da preverjanje starosti pogosto temelji na prostovoljni izjavi ali povezavi z drugimi spletnimi računi, vendar to ni vedno učinkovito. Pri implementaciji novih pravil bo tako ključno vprašanje, kako bodo rešitve zagotovile realno zaščito mladoletnih in hkrati omogočile svobodo odraslim uporabnikom. OpenAI napoveduje tudi razvoj dodatnih varnostnih algoritmov, ki naj bi v realnem času analizirali vsebino in preprečevali zlorabe, a podrobnosti o teh mehanizmih za zdaj niso javno znane.
Med strokovnjaki za varnost in etiko umetne inteligence se pojavljajo različni pogledi. Nekateri ocenjujejo, da razširitev funkcionalnosti sledi logiki trga in potrebam ustvarjalcev, drugi opozarjajo, da je zagotavljanje varnosti otrok digitalna prioriteta in da podjetja pogosto podcenjujejo sposobnosti mladih pri obhodu zaščitnih ukrepov. Primeri iz preteklosti kažejo, da tehnološke rešitve pogosto zaostajajo za uporabniško domiselnostjo, kar pomeni, da utegne uvedba takšne storitve sprožiti nove izzive in zahteve po regulaciji.
Reakcije javnosti, etične dileme in globalni kontekst
Odzivi javnosti in strokovnjakov na napovedano spremembo politike so mešani. Nekateri podpirajo širitev možnosti in pravijo, da tehnologija mora slediti raznolikim potrebam polnoletnih uporabnikov. V javnih razpravah pa se pojavljajo tudi pomisleki o vplivu umetne inteligence na družbo. Strokovnjaki za zaščito otrok poudarjajo, da je nadzor ključnega pomena, saj bi dostop do erotičnih vsebin lahko povečal tveganje za mlajše uporabnike, če zaščita ne bo dovolj učinkovita. Regulatorji v Evropski uniji in ZDA pozorno spremljajo razvoj, saj so prav v zadnjih letih močno zaostrili smernice za zaščito otrok na spletu.
Primerjava z drugimi platformami pokaže, da se spletne storitve z eksplicitnimi vsebinami pogosto znajdejo v pravni sivini, kjer odgovornost za preverjanje starosti pogosto ni dovolj jasno določena. OpenAI se s tem pridružuje obstoječim ponudnikom, kot so X, Reddit in OnlyFans, a hkrati sporoča, da bo iskal lasten model zaščite in filtriranja. Tehnična nezrelost in pomanjkanje enotnih standardov še vedno ostajata izziva na globalni ravni, kar povečajo tudi razlike v zakonodajah po državah.
Odločitev OpenAI je sprožila tudi razmislek o etičnih mejah umetne inteligence. Nekateri etiki opozarjajo, da je pomembno jasno razmejiti, kaj je dovoljeno v kreativne namene in kaj lahko predstavlja tveganje za družbo. Vse več držav zato razmišlja o oblikovanju strožjih predpisov za AI, ki vključujejo tudi področje eksplicitnih vsebin. Naslednji meseci bodo pokazali, ali bo tehnološka rešitev podjetja dejansko sledila visokim standardom varnosti in ali bo OpenAI s svojim pristopom postavil nov industrijski standard ali naletel na povečane zahteve po regulaciji.
