Ko je mogoče prepričljiv video, fotografijo ali zvočni posnetek ustvariti v nekaj sekundah, vprašanje ni več le, ali je vsebina resnična, temveč tudi, kako to sploh preveriti. Google v odgovor odpira SynthID Detector, javno dostopno spletno orodje za iskanje oznak, ki jih v AI-vsebine vgrajuje tehnologija SynthID. To ni rešitev za vse dezinformacije, je pa pomemben korak pri vračanju vsaj dela preverljivosti v digitalno okolje.
Orodje je Google sprva omogočil izbranim novinarjem, medijskim strokovnjakom in raziskovalcem, zdaj pa ga odpira širši javnosti. Uporabnik lahko naloži sliko, video ali zvočno datoteko in preveri, ali vsebuje zaznavni vodni žig SynthID oziroma ali je bila po zaznavi sistema ustvarjena ali urejena z Googlovimi AI-orodji.
Kako deluje preverjanje
Uporabniška izkušnja je preprosta: na strani SynthID Detector uporabnik datoteko povleče v okno ali jo izbere iz svoje naprave. Sistem nato preveri, ali datoteka vsebuje oznako SynthID, in prikaže rezultat zaznave.
V predstavljenem primeru orodje izpiše, da je bil »SynthID zaznan« in da je bila vsebina ustvarjena ali urejena z Googlovo umetno inteligenco. Ob tem opozori tudi, da je bila datoteka po nastanku morda dodatno urejena. To je pomembna podrobnost: zaznan vodni žig ne pove nujno celotne zgodbe o nastanku posnetka, prav tako pa odsotnost zaznave še ne pomeni, da vsebina zagotovo ni bila ustvarjena z AI.
SynthID Detector podpira slike v formatih JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF in GIF. Za video sprejema MP4, MOV in WEBM, za zvok pa WAV, MP3, OGG, FLAC, AAC in M4A.
SynthID: oznaka, ne univerzalni detektor laži
Google je SynthID predstavil leta 2023 kot tehnologijo za vgrajevanje digitalnih vodnih žigov v vsebine, ustvarjene z umetno inteligenco. Takšni žigi naj bi bili za ljudi neopazni, sistemom za preverjanje pa prepoznavni tudi, ko je vsebina do določene mere spremenjena.
Tehnologijo uporabljajo Googlovi modeli Nano Banana, Veo in Lyria ter generativna orodja Gemini, Flow, ProducerAI in Vids. Google navaja, da je preverjanje SynthID že vključil v Gemini in Chrome ter da uporabniki opravijo približno milijon zahtevkov za preverjanje vsebin na dan.
Vendar je bistvena omejitev jasna: SynthID ne ugotavlja, ali je katerakoli vsebina na spletu umetno ustvarjena. Preverja predvsem, ali vsebina nosi vodni žig sistema SynthID oziroma oznake podprtih ponudnikov. Če je bil posnetek ustvarjen z modelom, ki takšnega žiga ne vgrajuje, če je oznaka odstranjena ali če izvorna datoteka ni več na voljo, rezultat morda ne bo koristen.
Za uporabnika to pomeni, da negativni rezultat ni potrdilo pristnosti. Orodje lahko poda dragocen signal, ne more pa nadomestiti preverjanja vira, konteksta, datuma objave in drugih dejstev. Prav v tem je temeljna dilema obdobja generativne AI: tehnologija lahko pomaga graditi zaupanje, ne more pa ga samodejno ustvariti.
Več standardov, manj enotnosti
Podporo za SynthID imajo po navedbah Googla tudi OpenAI, Nvidia in Kakao, medtem ko OpenAI vzdržuje tudi lastno storitev za preverjanje vsebin. Apple naj bi podporo dodal pozneje. Microsoft in Meta uporabljata svoje pristope k označevanju in preverjanju AI-vsebin.
To odpira vprašanje standardov. Če ima vsako veliko tehnološko podjetje svoj način označevanja ustvarjene vsebine, uporabnik ne dobi enega samega univerzalnega preverjevalnika, temveč zbirko ločenih sistemov z različnimi pravili in omejitvami. Fragmentacija lahko zmanjša uporabnost oznak ravno takrat, ko bi javnost potrebovala enostaven in splošno razumljiv način preverjanja.
Industrija zato ne potrebuje le boljših detektorjev, ampak tudi širše sprejete standarde, jasne oznake in odgovornost ponudnikov modelov. Vodni žig je koristen predvsem, če ga ustvarjalci AI dosledno uporabljajo, platforme ohranijo njegove podatke, uporabniki pa razumejo, kaj rezultat dejansko pomeni.
Orodje za novo digitalno pismenost
Googleov SynthID Detector je pomemben zato, ker preverjanje AI-vsebin približuje navadnim uporabnikom, novinarjem in uredništvom. Toda njegova največja vrednost ni v tem, da bi dokončno odgovoril na vprašanje, kaj je resnično. Njegova vrednost je v tem, da uporabnika spodbudi k pravemu vprašanju: od kod vsebina prihaja in ali obstaja dokaz o njenem nastanku?
V prihodnjih letih bodo takšna orodja verjetno postala del vsakodnevne digitalne higiene, podobno kot preverjanje povezav, virov ali opozoril o zlonamernih datotekah. Toda bitka proti zavajajočim vsebinam ne bo odločena z enim vodnim žigom ali enim gumbom za preverjanje. Odločena bo s kombinacijo tehnoloških standardov, transparentnosti podjetij, odgovornosti platform ter kritične presoje uporabnikov.
