Kralj Karel III. je sredi vse glasnejših opozoril o nevarnostih napredne umetne inteligence na zasebnem srečanju v škotskem Dumfries House pozval vplivne predstavnike tehnološke industrije in britanske politike, naj zagotovijo učinkovit nadzor nad tehnologijo, »preden bo prepozno«.
V nagovoru je poudaril protislovje, ki spremlja bliskovit razvoj umetne inteligence: njena sposobnost, da izboljša zdravstvo, znanstvene raziskave in kakovost življenja, hkrati odpira vprašanja o zlorabah, varnosti in dolgoročnem vplivu na družbo.
»Umetna inteligenca že kaže izjemno sposobnost izboljševanja in reševanja življenj,« je dejal kralj. »Toda tisti, ki so ustvarili te tehnologije, vse pogosteje opozarjajo, da lahko umetna inteligenca razvije temnejše zmogljivosti, morda celo takšne, ki lahko jemljejo življenja.«
Njegov poziv je posebej odmeven zaradi sestave udeležencev. Na srečanju so bili izvršni direktor Nvidie Jensen Huang, predstavniki OpenAI in Anthropica, britanski minister za umetno inteligenco Kanishka Narayan, vodja britanske zunanje obveščevalne službe ter Paolo Benanti, svetovalec papeža za umetno inteligenco. OpenAI je zastopala finančna direktorica Sarah Friar, Anthropic pa vodja globalnih zadev Tino Cuéllar.
Za isto mizo razvijalci, država, varnostne službe in etiki
Srečanje ni bilo pomembno zgolj zaradi kraljevega nastopa, temveč predvsem zato, ker je združilo akterje, ki imajo zelo različne vloge pri razvoju in nadzoru umetne inteligence.
Nvidia ima ključno vlogo kot proizvajalec računalniške infrastrukture in čipov, na katerih temelji razvoj sodobnih modelov umetne inteligence. OpenAI in Anthropic sodita med najvidnejše razvijalce velikih jezikovnih modelov. Prisotnost politike, obveščevalne službe in etičnega svetovalca pa kaže, da umetna inteligenca ni več le vprašanje tehnološkega napredka ali poslovne strategije.
Postaja tudi varnostno, geopolitično, gospodarsko in družbeno vprašanje. Države se ob tem ukvarjajo z vprašanji, kako preprečiti zlorabe tehnologije, hkrati pa ne izgubiti konkurenčne prednosti v tekmi za razvoj zmogljivejših sistemov.
Kralj je opozoril na »eksistencialne nevarnosti«, če bi tehnologija padla v napačne roke in bila uporabljena na potencialno katastrofalne načine. Čeprav ni navedel konkretnih scenarijev, razprave o tveganjih umetne inteligence običajno vključujejo zlorabo za množično ustvarjanje dezinformacij, kibernetske napade, nadzor prebivalstva, uporabo v avtonomnem orožju ter morebitno izgubo človeškega nadzora nad zelo zmogljivimi sistemi.
Kakšen nadzor je sploh mogoč?
Kralj ni predlagal konkretnega regulativnega modela, je pa vprašal: »Mar res ne potrebujemo zadostnih sredstev nadzora, preden bo povsem prepozno?«
V praksi bi tak nadzor lahko obsegal strožje varnostne preizkuse modelov pred javno uporabo, neodvisne revizije, obveznosti poročanja o tveganjih, omejevanje dostopa do najzmogljivejših sistemov in mednarodne dogovore o vojaški ali zlonamerni uporabi umetne inteligence. Pomemben del razprave so tudi tehnične varnostne zapore, ki naj bi preprečevale, da bi modeli pomagali pri nevarnih dejavnostih.
Karel III. je voditelje pozval, naj iščejo mednarodno soglasje in zagotovijo, da tehnologija ostane v službi »človeštva, skupnosti in naravnega sveta«. Ob zaključku je dodal: »Ko sprejemamo novo, ne smemo izgubiti brezčasnega.«
Razkol glede hitrosti razvoja
Doseganje globalnega soglasja bo zahtevno, saj v industriji in politiki ni enotnega pogleda na to, kako hitro bi se morala umetna inteligenca razvijati.
Po navedbah TechCruncha so Sam Altman iz OpenAI, Elon Musk in Dario Amodei iz Anthropica nedavno pozivali k upočasnitvi razvoja oziroma večji previdnosti. Na drugi strani sta Jensen Huang in ameriški predsednik Donald Trump takšne pozive zavrnila. Trump je razvoj umetne inteligence predstavil predvsem kot tekmovanje med ZDA in Kitajsko ter poudaril potrebo po ohranitvi ameriške prednosti.
Prav ta napetost med varnostjo, gospodarskimi interesi in geopolitičnim rivalstvom je osrednji problem prihodnje regulacije. Tehnološka podjetja želijo razvijati zmogljivejše modele, države želijo zaščititi svoje interese, družba pa pričakuje, da bodo tveganja obvladovana, še preden postanejo nepopravljiva.
Kraljev nastop sam po sebi ne pomeni nove zakonodaje ali mednarodnega dogovora. Pomeni pa politično in simbolno opozorilo, da vprašanje umetne inteligence ni več oddaljena razprava strokovnjakov. Odločitve podjetij, vlad in regulatorjev bodo vplivale tudi na vsakdanje življenje ljudi – od dela, izobraževanja in zdravstvenih storitev do informacijskega okolja in nacionalne varnosti.
