Prepoznavanje besedil, ki jih je ustvarila umetna inteligenca, postaja eno ključnih vprašanj digitalnega okolja. V času, ko lahko generativni modeli v nekaj sekundah ustvarijo prepričljive članke, objave, naloge ali politična sporočila, je vse težje ugotoviti, kdo oziroma kaj stoji za posamezno vsebino.
OpenAI bo zato v Evropski uniji začel uvajati nevidni vodni žig za besedila, ustvarjena s ChatGPT-jem in Codexom. Poteza je neposredno povezana z zahtevami evropskega akta o umetni inteligenci, vendar obenem odpira pomembnejše vprašanje: ali lahko tehnološko označevanje res pomaga ločiti človeško in strojno ustvarjeno vsebino — ali pa bo ustvarilo predvsem nov občutek navidezne varnosti?
Označevanje kot odgovor na problem zaupanja
EU AI Act od ponudnikov generativne umetne inteligence zahteva več preglednosti pri vsebinah, ki jih ustvarijo njihovi sistemi. Namen pravil je zmanjšati zmedo pri prepoznavanju umetno ustvarjenih besedil, slik, zvoka in videa ter omejiti tveganja, povezana z dezinformacijami, manipulacijami in zlorabami identitete.
OpenAI je napovedal, da bo nevidni vodni žig v prihodnjih tednih uvedel za upravičene uporabnike ChatGPT-ja in Codexa v EU, ne glede na vrsto naročnine. Razvijalci, ki uporabljajo OpenAI-jev API, bodo lahko označevanje vključili za določene modele kjerkoli po svetu, vendar bo možnost privzeto izključena.
To pomeni, da OpenAI označevanja ob začetku ne uvaja kot globalnega standarda. Za evropske uporabnike bo funkcija del širšega regulatornega okvira, medtem ko bo za razvijalce zunaj EU pretežno stvar prostovoljne odločitve.
Vodni žig ne bo viden uporabniku
OpenAI ne bo dodajal vidnega simbola, oznake ali podpisa na konec besedila. Namesto tega bo model pri pisanju subtilno prilagajal izbiro besed, tako da bo v besedilu nastal statistični vzorec, ki ga človek ne zazna, lahko pa ga zazna ustrezno orodje z dostopom do ključa za preverjanje.
Metoda, imenovana textGrain, uporablja skrivni ključ za usmerjanje izbire naslednjih besed med generiranjem odgovora. Posamezna izbira besede sama po sebi ne pomeni veliko, vendar lahko kombinacija več sto takšnih odločitev ustvari dovolj močan signal za zaznavo.
Prednost takšnega pristopa je, da oznaka ostane v besedilu tudi po kopiranju, lepljenju ali objavi na drugi platformi. OpenAI ob tem navaja, da vodni žig ne razkriva identitete uporabnika in da njegova vključitev po njihovih meritvah ni bistveno poslabšala kakovosti odgovorov modelov.
Za povprečnega uporabnika bo sprememba najverjetneje nevidna. OpenAI v objavi ni podrobno pojasnil, ali bodo uporabniki pri posameznem odgovoru jasno obveščeni, da je bil ta vodno žigosan, niti kako bo vmesnik prikazoval morebitno zaznavo pri branju vsebin.
Omejitve kažejo, da vodni žig ni zanesljiv dokaz
Ključna težava je, da se signal z urejanjem besedila hitro oslabi. OpenAI je v testu ugotovil, da je zamenjava približno desetih odstotkov besed s sopomenkami znižala stopnjo zaznave z okoli 92 na 66 odstotkov.
To je pomembna omejitev. Če lahko že razmeroma blago urejanje bistveno zmanjša zaznavnost, bo sistem manj uporaben prav v primerih, kjer bi ga javnost morda najbolj potrebovala — pri namerno prirejenih dezinformacijah, propagandi ali zavajajočih objavah. Akter, ki želi prikriti izvor besedila, ga lahko prepiše, prevede, povzame ali kombinira z lastnim besedilom.
OpenAI priznava tudi, da je vodni žig težje zaznati v kratkih odlomkih, matematičnih odgovorih in prevedenih besedilih. Zaradi teh omejitev bo podjetje začetni dostop do detektorja zagotovilo le odobrenim raziskovalcem in strokovnim organizacijam.
To je razumljiv previdnostni ukrep, saj bi široko dostopen detektor lahko povzročil napačne interpretacije. Če bi uporabniki rezultat detekcije razumeli kot dokončen dokaz, bi lahko spregledali bistveno dejstvo: vodni žig lahko pokaže, da je sistem OpenAI ustvaril ali obdelal del besedila, ne more pa pokazati, kolikšen delež končnega izdelka pripada človeku.
Odsotnost oznake ne pomeni, da je besedilo človeško
OpenAI posebej opozarja, da odsotnost vodnega žiga ni dokaz človeškega avtorstva. Besedilo je lahko prekratko za zanesljivo analizo, dovolj spremenjeno, prevedeno ali pa ga je ustvaril model drugega podjetja.
To pomeni, da je vodni žig predvsem dokaz izvora v omejenem smislu, ne pa univerzalni test resničnosti ali avtorstva. V novinarstvu, izobraževanju in javni upravi bi zato njegova uporaba zahtevala previdnost.
Šole denimo ne bi smele zgolj na podlagi odsotnosti zaznanega vodnega žiga sklepati, da je učenec nalogo napisal sam. Enako velja za uredništva, delodajalce in spletne platforme: detekcija lahko predstavlja dodaten signal, ne more pa nadomestiti presoje, preverjanja virov, pogovora z avtorjem ali poznavanja okoliščin nastanka vsebine.
Za novinarstvo bi tehnologija lahko pomagala pri pregledovanju sumljivih besedil in spremljanju izvora vsebin. Vendar bi lahko prinesla tudi novo breme: uredništva bodo morala razlikovati med povsem strojno ustvarjenim člankom, besedilom, ki je bilo le jezikovno popravljeno z umetno inteligenco, in delom, pri katerem je človek uporabil model kot pomoč pri raziskovanju ali strukturi.
Razvijalci bodo morali presoditi med preglednostjo in uporabniško izkušnjo
Za razvijalce, ki uporabljajo OpenAI API, bo vodni žig neobvezen in privzeto izključen. To jim daje več nadzora, a hkrati pomeni, da bodo morali sami sprejeti odločitev o preglednosti svojih storitev.
Razvijalec aplikacije, ki ustvarja marketinška besedila, povzetke dokumentov ali pomoč uporabnikom, bo moral presoditi, ali je označevanje primerno glede na namen orodja, pričakovanja uporabnikov in pravila trga, na katerem deluje. V EU bodo takšne odločitve še posebej občutljive zaradi zahtev AI Acta in širšega pritiska po jasnem obveščanju o uporabi umetne inteligence.
Na eni strani lahko označevanje okrepi zaupanje uporabnikov, saj pokaže pripravljenost ponudnika na večjo transparentnost. Na drugi strani lahko podjetja skrbi, da bo oznaka pri uporabnikih samodejno ustvarila vtis manj kakovostne ali manj avtentične vsebine, tudi kadar je človek pri njenem nastanku opravil večino ključnega dela.
Začetek tekme med ustvarjanjem in zaznavanjem
OpenAI pri tem ni osamljen. Anthropic je že napovedal globalno označevanje besedil, ustvarjenih z modelom Claude, medtem ko so Anthropic, Google, Meta, Microsoft in OpenAI med podjetji, ki so se zavezala evropskemu kodeksu ravnanja za vsebine, ustvarjene z umetno inteligenco.
Vendar vodni žigi niso končna rešitev. Gre za del širše tehnološke tekme med sistemi, ki ustvarjajo prepričljivo vsebino, in orodji, ki jo poskušajo prepoznati. Vsaka izboljšava pri označevanju lahko spodbudi nove načine izogibanja, od prepisovanja in prevajanja do kombiniranja več modelov ali človeškega urejanja.
Dolgoročno bo verjetno potreben večplasten pristop: tehnični vodni žigi, podatki o izvoru vsebine, jasne oznake na platformah, odgovornost ponudnikov in boljša medijska pismenost uporabnikov. Nevidni vodni žig OpenAI je zato pomemben korak k večji preglednosti, vendar ne rešuje temeljnega problema zaupanja v digitalnem okolju.
Najpomembnejše vprašanje tako ne bo zgolj, ali je neko besedilo ustvarila umetna inteligenca, temveč ali razumemo, kako je nastalo, kdo zanj odgovarja in ali mu lahko v danem kontekstu zaupamo.
