Vpliv ruske propagande na umetno inteligenco
Raziskovalna podjetja so nedavno osvetlila vpliv ruske propagande na umetno inteligenco, še posebej na priljubljene klepetalne bote, kot so OpenAI’s ChatGPT in Meta AI. NewsGuard, podjetje, ki razvija ocenjevalne sisteme za spletne strani z novicami in informacijami, trdi, da je našlo dokaze o dejavnostih moskovske mreže Pravda, ki naj bi objavljale lažne informacije z namenom vplivanja na odgovore umetne inteligence. Ta odkritja opozarjajo na kompleksen izziv, s katerim se sooča svetovni razvoj umetne inteligence.
Mreža Pravda in širjenje napačnih informacij
V središču obtožb stoji moskovska mreža Pravda, ki naj bi med drugim širila napačne trditve, da bi s tem vplivala na vsebine, ki jih generirajo AI sistemi. Zlasti tiste aplikacije AI, ki so zasnovane za analizo in sintezo informacij z različnih spletnih virov, so lahko hitro dovzetne za manipulacije, če so izpostavljene visokemu številu dvomljivih podatkovnih tokov. Pravda s svojimi taktikami cilja predvsem na uporabo lažnih informacij, da bi zmedla in usmerjala večje sisteme AI v napačne interpretacije.
Raziskave kažejo na vpliv propagande
NewsGuard, ki je specializirano za ocenjevanje kredibilnosti spletnih informacij, v zadnjem poročilu opozarja na povečano prisotnost nepreverjenih in vprašljivih vsebin, ki jih ustvarjajo organizacije, povezane s Pravo. Njihova raziskava nakazuje, da te lažne informacije vplivajo na rezultate, ki jih klepetalni boti ponujajo uporabnikom. Občinstvo teh orodij je namreč veliko – na primer, ChatGPT je februarja 2025 naštel že 400 milijonov aktivnih tedenskih uporabnikov【4:0†clanek 2.docx】.
Odgovornost tehnoloških podjetij
Odgovornost tehnoloških podjetij, kot so OpenAI in Meta, je, da razvijejo varnostne mehanizme, ki bi takšne vplive zmanjšali. Ta naloga ni lahka, kajti zlonamerni akterji nenehno iščejo nove metode in poti, da bi uspeli pretentati obstoječe varnostne protokole. Povezanost umetne inteligence z vsakodnevnim življenjem uporabnikov pred tehnološka podjetja postavlja tudi etična vprašanja, kako omogočiti uporabnikom dostop do točnih informacij ne glede na zunanje vplive.
Prihodnost in zaščita pred informacijskimi manipulacijami
Avtomatizirana orodja umetne inteligence so nedvomno močno vplivala na družbo, spreminjala način komuniciranja ter dostopa do informacij. Z naraščajočim vplivom pa naraščajo tudi tveganja, kar se tiče zlorab teh tehnologij. Ruska propaganda, kot kažejo ugotovitve, ni edina, ki poskuša izkoristiti te tehnologije, je pa trenutno ena od prepoznanih groženj, predvsem zaradi zasnove in strategij širjenja lažnih novic.
Dolžnost raziskovalnih in tehnoloških podjetij je skrbna zaščita uporabnikov pred tako imenovanimi informacijskimi vojnami in zagotavljanje, da bo prihodnost tehnologije bolj transparentna in varna. S hitrim odzivom na grožnje, kot je ruski vpliv na AI, ustvarjamo osnovo za etično prihodnost umetne inteligence, ki bo služila ljudem in ne obratno【4:3†clanek 2.docx】.
Peter Mesarec je verjetno najbolj poslušan predavatelj Chat GPT in UI v Sloveniji, njegovih predavanj o uporabi Chat GPT v podjetjih se je udeležilo več tisoč udeležencev, svoja znanja pa pogosto objavlja tukaj in na drugih spletnih straneh.
