V času, ko postaja meja med človeško in strojno ustvarjeno spletno vsebino vse manj jasna, želi zagonsko podjetje Pangram nastopati kot del tako imenovane internetne »plasti zaupanja«. Podjetje razvija sisteme za zaznavanje vsebin, ustvarjenih z umetno inteligenco, nedavno pa je zbralo 9 milijonov dolarjev financiranja in sklenilo partnerstvo s platformo Substack. Ta Pangramovo tehnologijo uporablja za prikaz, kateri avtorji pri pisanju svojih novičnikov uporabljajo umetno inteligenco.
Novica odpira precej širše vprašanje od samega označevanja vsebin na eni platformi: kako naj uporabniki, podjetja in ustanove presojajo pristnost digitalnih informacij, ko lahko generativna UI v nekaj sekundah ustvari prepričljivo besedilo ali sliko?
Od objav na spletu do prijav in zahtevkov
TechCrunch opozarja, da se besedila in slike, ustvarjene z umetno inteligenco, ne pojavljajo več le v objavah na družbenih omrežjih. Uporabljajo se tudi v prijavah za delo, ocenah izdelkov in celo zavarovalniških zahtevkih. V takšnih primerih vprašanje izvora vsebine ni le uredniško ali estetsko, ampak lahko vpliva na zaposlovanje, ugled podjetij, odločanje potrošnikov in presojo dokazov.
Pri spletnih ocenah lahko množica samodejno ustvarjenih zapisov izkrivlja podobo izdelka ali storitve. Pri prijavah za delo se odpira vprašanje, koliko prijava zares izraža znanje, slog in komunikacijske sposobnosti kandidata. Pri zavarovalniških zahtevkih pa bi lahko manipulirane ali generirane slike dodatno otežile preverjanje dejanskega stanja.
Pangramov primer s Substackom zato ni pomemben zgolj zaradi tehnološkega partnerstva. Gre za poskus večje preglednosti pri ustvarjanju vsebin: bralec naj bi vedel, ali avtor pri pripravi novičnika uporablja UI. Toda že takšno označevanje odpira dilemo, kaj natančno pomeni »uporaba UI«.
Ni vse le vprašanje »resnično ali lažno«
Ključna tema, ki jo v podkastu Equity odpira Pangramov soustanovitelj in izvršni direktor Max Spero, je meja med vsebino, pri kateri UI pomaga avtorju, in vsebino, ki jo UI ustvari sama.
Ta razlika je pomembna. Umetna inteligenca lahko avtorju pomaga pri odpravljanju slovničnih napak, prevajanju, pripravi osnutka, iskanju naslovov ali strukturiranju besedila. To ni nujno enako položaju, ko sistem sam napiše celoten članek, oceno ali prijavo, človek pa besedilo objavi brez bistvenega prispevka.
Zato zaznavanje UI ne more biti zgolj binarna oznaka »resnično« ali »lažno«. Tudi človeško napisano besedilo je lahko zavajajoče, medtem ko je lahko z UI podprta vsebina koristna, jasno označena in uredniško pregledana. Bolj relevantno vprašanje je, ali uporabnik dobi dovolj informacij, da lahko presodi izvor, način nastanka in verodostojnost vsebine.
Omejitve orodij za zaznavanje
Razvoj takšnih sistemov prinaša tudi tveganja. Generativni modeli se hitro izboljšujejo, zato lahko njihovi izdelki postajajo vse težje prepoznavni. Hkrati lahko orodja napačno označijo človeško delo kot vsebino, ustvarjeno z UI. Takšni lažno pozitivni rezultati bi lahko imeli resne posledice, če bi jih šole, delodajalci, mediji ali druge ustanove obravnavali kot dokončen dokaz.
Zato bi morali biti rezultati detektorjev predvsem signal za dodatno preverjanje, ne pa avtomatična sodba o avtorstvu ali integriteti posameznika. V predstavitvi TechCruncha niso navedeni podatki o natančnosti Pangramovega sistema, njegovi metodologiji ali načinu obravnave morebitnih napačnih zaznav. Prav transparentnost glede teh vprašanj bo ključna za zaupanje v tovrstna orodja.
Vprašanje tudi za slovenski prostor
Izziv ni omejen na velike angleško govoreče platforme. Tudi slovenski mediji, izobraževalne ustanove, delodajalci in podjetja se srečujejo z vsebinami, pri katerih ni vedno jasno, koliko je v njih človeškega dela in koliko avtomatizirane produkcije.
Za lokalni prostor bo pomembno predvsem, ali bodo pravila uporabe UI jasna in sorazmerna. Namesto splošne stigmatizacije uporabe umetne inteligence bo verjetno potrebna kombinacija preglednega označevanja, uredniškega nadzora, preverjanja dejstev in odgovorne uporabe orodij.
Pangramova rast in sodelovanje s Substackom kažeta, da zaznavanje vsebin, ustvarjenih z UI, postaja samostojen tehnološki in poslovni segment. Toda prihodnost zaupanja na spletu ne bo odvisna le od tega, ali lahko sistem prepozna strojno ustvarjeno besedilo ali sliko. Odvisna bo tudi od tega, kako pošteno bodo platforme, avtorji in institucije razkrivali uporabo UI — ter kako previdno bomo rezultate takšnih zaznav interpretirali.
