Konec ugibanja? Google s SynthID Detectorjem preverja, ali je vsebino ustvarila umetna inteligenca
Ko lahko prepričljiv videoposnetek, fotografija ali zvočni posnetek nastane v nekaj sekundah, postaja vprašanje izvora digitalne vsebine vse pomembnejše. Globoki ponaredki, manipulirane objave in množica vsebin, ustvarjenih z generativno umetno inteligenco, otežujejo presojo, čemu na spletu še lahko zaupamo. Google želi del tega problema nasloviti z javno dostopnim orodjem SynthID Detector.
Gre za spletno stran, na katero uporabnik naloži sliko, videoposnetek ali zvočno datoteko, orodje pa preveri, ali vsebuje digitalni vodni žig SynthID. Ta žig naj bi razkril, da je bila vsebina ustvarjena oziroma urejena z umetno inteligenco, ki uporablja Googlov sistem označevanja.
Preverjanje poteka z nalaganjem datoteke
Uporaba je preprosta: uporabnik v spletni vmesnik naloži datoteko, nato pa sistem preveri prisotnost oznake SynthID in prikaže rezultat. To bi lahko bilo uporabno denimo ob sumljivem videu na družbenem omrežju: če posnetek vsebuje zaznaven vodni žig, lahko uporabnik dobi pomemben podatek, da je bil ustvarjen ali spremenjen z AI-orodjem.
SynthID Detector podpira številne razširjene formate. Med slikami so JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF in GIF. Pri videu so podprti MP4, MOV in WEBM, pri zvoku pa WAV, MP3, OGG, FLAC, AAC in M4A.
Google tehnologijo SynthID uporablja pri modelih Nano Banana, Veo in Lyria ter v svojih orodjih, kot so Gemini, Flow, ProducerAI in Vids. Vsebina, ustvarjena s temi storitvami, naj bi bila opremljena z digitalnim vodnim žigom, ki ga človeško oko ali uho praviloma ne zazna, ga pa lahko preveri ustrezno orodje.
Pomembno: rezultat ni dokončen dokaz resnice
Največja omejitev takšnih sistemov je, da ne morejo zanesljivo odgovoriti na vprašanje, ali je katerakoli vsebina na spletu ustvarjena z umetno inteligenco. SynthID Detector lahko zazna predvsem vsebine, pri katerih je bil uporabljen podprt vodni žig. Če ga v datoteki ne najde, to še ne pomeni, da je posnetek zagotovo pristen ali da ni nastal z AI.
Vodni žig je lahko odsoten, ker je bila vsebina ustvarjena z orodjem, ki SynthID ne podpira. Njegovo zaznavanje lahko otežijo tudi ponovna kodiranja, izrezovanje, stiskanje datoteke, spreminjanje zvoka ali druge obdelave. Zato je med digitalnimi ponaredki in sistemi za njihovo odkrivanje neizogibna stalna tehnološka tekma.
To je posebej pomembno za novinarje, uredništva in uporabnike družbenih omrežij. Orodje je lahko koristen signal pri preverjanju izvora, ne sme pa postati edino merilo verodostojnosti. Pri spornih objavah bodo še vedno potrebni preverjanje vira, iskanje izvirnika, analiza konteksta in primerjava z zanesljivimi informacijami.
Ali nastaja skupni standard?
Poleg Googla podporo za SynthID navajajo tudi OpenAI, Nvidia in Kakao, OpenAI pa ima lastno spletno stran za preverjanje vsebin. Apple naj bi podporo dodal pozneje. Google je preverjanje SynthID že vključil tudi v Gemini in brskalnik Chrome ter navaja, da uporabniki dnevno opravijo približno milijon preverjanj.
Microsoft in Meta medtem razvijata lastne pristope k označevanju in preverjanju AI-vsebin. Razdrobljenost predstavlja težavo: če vsako podjetje uporablja drugačen sistem, uporabnik težko dobi celovito sliko o izvoru posamezne datoteke.
Prav zato bo prihodnost takšnih orodij verjetno odvisna od širše standardizacije in sodelovanja med tehnološkimi podjetji, platformami ter mediji. SynthID Detector je korak k večji preglednosti, vendar sam po sebi ne bo odpravil dezinformacij. Lahko pa pomaga vzpostaviti novo navado: preden vsebini verjamemo ali jo delimo, preverimo, od kod prihaja.
