Ko postajajo prepričljivi deepfaki, umetno ustvarjeni posnetki in manipulirane slike vsakdanji del spletnega prostora, postaja vprašanje njihovega izvora pomembnejše od same kakovosti vsebine. Google želi z javno dostopnim orodjem SynthID Detector ponuditi en del odgovora: uporabnikom omogoča preverjanje, ali je bila slika, videoposnetek ali zvočni posnetek ustvarjen oziroma urejen z umetno inteligenco, ki uporablja vodni žig SynthID.
To je pomembno predvsem za medije, raziskovalce, preverjevalce dejstev in širšo javnost. V okolju, kjer lahko generativna umetna inteligenca ustvari verodostojne posnetke politikov, javnih dogodkov ali domnevnih dokazov, mora obstajati način, kako preveriti vsaj del digitalnega izvora vsebine. SynthID Detector ni univerzalni detektor umetne inteligence, temveč orodje za prepoznavanje specifičnega digitalnega vodnega žiga.
Kako deluje SynthID Detector
Uporabnik na spletno stran naloži datoteko, sistem pa preveri, ali vsebuje oznako SynthID. Google je tehnologijo predstavil leta 2023; vodni žig je zasnovan tako, da ni neposredno viden ali slišen ljudem, vendar ga lahko zazna ustrezno orodje.
Na predstavitvenem primeru, ki ga je objavil Google, orodje pri zaznani vsebini jasno pokaže obvestilo »SynthID was detected« in navede, da je bila vsebina ustvarjena ali urejena z Googlovo umetno inteligenco. Ob tem doda pomembno opozorilo: datoteka je bila po nastanku lahko dodatno spremenjena.
Storitev podpira širok nabor formatov. Med slikami so JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF in GIF. Pri videu podpira MP4, MOV in WEBM, pri zvoku pa WAV, MP3, OGG, FLAC, AAC in M4A. Uporabniška izkušnja je tako precej preprosta: nalaganje datoteke in prikaz rezultata, brez potrebe po posebnem tehničnem znanju.
Orodje ni splošni test za vse AI-vsebine
Ključna omejitev SynthID Detectorja je, da ne more zanesljivo odgovoriti na širše vprašanje, ali je bila katerakoli vsebina na spletu ustvarjena z umetno inteligenco. Zazna lahko predvsem vsebine, pri katerih je prisoten podprt vodni žig. Negativen rezultat zato ne pomeni nujno, da posnetek ni umetno ustvarjen – lahko pomeni zgolj, da v njem ni zaznavnega SynthID podpisa.
To razlikovanje je ključno. Vsebino je mogoče ustvariti z modeli, ki vodnega žiga ne uporabljajo, z odprtokodnimi sistemi ali s storitvami, ki uporabljajo drugačen standard. Prav tako je mogoče posnetke po nastanku obrezovati, ponovno kodirati, sestavljati z drugimi elementi ali drugače urejati. Google sam pri rezultatih opozarja, da je bila zaznana vsebina morda naknadno spremenjena.
Iz javno dostopnih informacij ni mogoče sklepati, kako dobro SynthID prestane vse vrste naknadnih obdelav ali namernih poskusov odstranitve oznak. Zato bi bilo napačno orodje razumeti kot dokončen dokaz pristnosti ali nepristnosti posnetka. Uporabno je kot forenzični signal, ne pa kot edina podlaga za uredniško, pravno ali družbeno presojo.
Google gradi širši ekosistem označevanja
Google SynthID uporablja v svojih generativnih modelih in orodjih. TechCrunch med njimi navaja modele Veo in Lyria ter storitve Gemini, Flow, ProducerAI in Vids. V izvirnem poročilu je omenjen tudi model oziroma oznaka »Nano Banana«, vendar brez dodatne razlage, zato je njen natančen položaj v Googlovi ponudbi iz objavljenih informacij nejasen.
Podporo za SynthID imajo po navedbah Googla tudi OpenAI, Nvidia in Kakao, medtem ko OpenAI vzdržuje še lastno spletno mesto za preverjanje vsebin. Microsoft in Meta razvijata svoja pristopa k označevanju in preverjanju digitalnih medijev.
Ta razdrobljenost odpira širše vprašanje standardizacije. Če vsako večje podjetje uporablja svoj sistem oznak, bodo uporabniki potrebovali več različnih preverjevalnikov, rezultati pa ne bodo nujno primerljivi. Za res učinkovito preverjanje izvora vsebin bi industrija potrebovala širše sprejete, medsebojno združljive standarde – ter jasna pravila o tem, kaj rezultat preverjanja dejansko pomeni.
Vpliv na zaupanje in možne zlorabe
Digitalni vodni žigi lahko medijem pomagajo pri hitrejšem preverjanju gradiva, ustvarjalcem pri označevanju lastnega dela in uporabnikom pri razumevanju, kako je bila določena vsebina ustvarjena. Google navaja, da ljudje prek njegovih storitev vsak dan opravijo okoli milijon zahtevkov za preverjanje vsebine.
Toda tehnologija odpira tudi etična vprašanja. Oznaka, da je bila vsebina ustvarjena z umetno inteligenco, sama po sebi ne pove, ali je zavajajoča, škodljiva ali nekakovostna. Enako velja v obratni smeri: odsotnost zaznanega vodnega žiga ne dokazuje avtentičnosti. Obstaja tudi tveganje, da bi se takšna orodja uporabljala preveč poenostavljeno – denimo za samodejno diskreditiranje vsebin brez dodatnega preverjanja njihovega konteksta, izvora in namena.
SynthID Detector je zato pomemben korak, ne pa dokončna rešitev problema dezinformacij. V prihodnje bo zaupanje v digitalne vsebine verjetno odvisno od kombinacije tehničnih oznak, uredniškega preverjanja, medijske pismenosti in preglednih standardov med tehnološkimi podjetji.
Ostaja vprašanje: bo takšno označevanje res pomagalo zajeziti val umetno ustvarjenih zavajajočih vsebin ali pa gre predvsem za začetek nove tekme med sistemi za ustvarjanje in sistemi za zaznavanje?
