Opozorilo, da je internet »nevarno blizu« teoriji mrtvega interneta, ni več le provokacija s tehnoloških forumov. Max Spero, soustanovitelj in izvršni direktor podjetja Pangram, meni, da bi lahko v nekaj letih velik del spletnih vsebin nastajal avtomatizirano, uporabniki pa bi vse težje vedeli, ali za objavo, komentarjem, oceno izdelka ali celo prijavo za delo stoji človek.
Teorija mrtvega interneta predvideva splet, na katerem večino prometa in vsebin ustvarjajo algoritmi, roboti in generativni modeli, medtem ko resnični človeški pogovori postajajo redki in težje opazni. Za povprečnega uporabnika to pomeni predvsem izgubo zaupanja: če ni mogoče preveriti izvora informacij, postanejo manj zanesljivi tudi pregledi izdelkov, novice, strokovna mnenja in identiteta avtorjev.
Prav v tej vrzeli želi delovati Pangram. Podjetje razvija orodja za zaznavanje besedil in slik, ustvarjenih z umetno inteligenco, nedavno pa je zbralo 9 milijonov dolarjev financiranja. Sklenilo je tudi partnerstvo s Substackom, kjer naj bi tehnologija bralcem pomagala prepoznati, kateri avtorji pri pisanju svojih novičnikov uporabljajo UI.
Meja med človeškim in umetno ustvarjenim je vse manj jasna
Težava ni več zgolj v prepoznavanju povsem avtomatsko ustvarjenega članka ali slike. Velik del vsebin nastaja v sivi coni: človek lahko besedilo napiše sam, nato pa z UI popravi slovnico, pripravi osnutek, predlaga naslov, skrajša odstavke ali ustvari posamezne dele. V takem primeru oznaka »ustvarjeno z UI« hitro postane preveč poenostavljena.
Spero zato poudarja, da bi bilo uporabnejše ugotavljati, kolikšen delež dela je opravila umetna inteligenca, ne pa vsebin razvrščati zgolj v dve kategoriji – človeške ali strojne. To pa je bistveno zahtevnejša naloga.
Orodja za zaznavanje UI namreč ne morejo zanesljivo ugotoviti izvora vsebine na enak način, kot bi denimo preverili digitalni podpis dokumenta. Delujejo na podlagi vzorcev v jeziku ali sliki in podajo verjetnostno oceno. Kakovostnejši modeli lahko takšne vzorce prikrijejo, človeško pisanje pa je lahko zaradi sloga, prevajanja ali jezikovnih popravkov napačno označeno kot umetno ustvarjeno.
Pri napačnih oznakah je cena lahko visoka
Zaradi teh omejitev je napačna zaznava eden ključnih problemov celotne panoge. Če sistem besedilo napačno označi kot ustvarjeno z UI, lahko avtor izgubi ugled ali priložnost za delo. Še občutljivejše so slike: pri spornih, osebnih ali dokaznih fotografijah bi napačna oznaka lahko vplivala na zaupanje v posameznika, medij ali celo postopek zavarovalniškega zahtevka.
Vsebina, ustvarjena z umetno inteligenco, se po navedbah TechCruncha že pojavlja v prijavah za zaposlitev, ocenah izdelkov in zavarovalniških zahtevkih. Zato zaznavanje ni več le vprašanje akademske poštenosti ali moderiranja spletnih platform, temveč tudi vprašanje preprečevanja prevar in ohranjanja verodostojnosti digitalnih storitev.
Pangram pri tem ni edino podjetje, ki želi postati del internetne »trust layer« oziroma zaupanja vredne infrastrukture. Celotna industrija išče načine za označevanje, preverjanje in sledenje izvoru digitalnih vsebin. Nekateri pristopi temeljijo na zaznavanju statističnih vzorcev, drugi na metapodatkih, vodnih žigih ali sistemih dokazovanja izvora. Nobena od teh rešitev pa sama po sebi še ne ponuja dokončnega odgovora.
Internet ne potrebuje le zaznavanja, temveč tudi kontekst
Sperovo opozorilo odpira širše vprašanje: ali lahko tehnologija, ki omogoča množično ustvarjanje vsebin, hkrati razvije dovolj dobre mehanizme za ohranjanje zaupanja vanje? Pangramov pristop nakazuje, da prihodnost morda ne bo v absolutnem ločevanju med človekom in strojem, temveč v večji preglednosti glede njunega sodelovanja.
To bo pomembno tudi za ustvarjalce. Spero ocenjuje, da bi lahko najnižje plačana pisna dela zaradi generativne UI trajno izginila, medtem ko bi kakovostno človeško pisanje postalo dragocenejše. Če bo splet preplavljen s poceni avtomatizirano vsebino, bodo izvirnost, strokovnost, odgovornost in preverljiv avtorski glas postali še pomembnejši.
Podjetja, kot je Pangram, zato ne odločajo le o tem, ali je nek odstavek napisal jezikovni model. Sodelujejo pri oblikovanju pravil, po katerih bo mogoče presoditi, komu – in čemu – na prihodnjem internetu še verjeti.
