Varnost najzmogljivejših sistemov umetne inteligence postaja eno ključnih vprašanj tehnološke industrije in politike. V ospredju so tveganja, povezana z zlorabo naprednih modelov, izgubo nadzora nad njihovim delovanjem ter možnostjo, da bi lahko bistveno vplivali na varnost, gospodarstvo in družbo. Prav zato naj bi OpenAI, Anthropic in Google DeepMind že več tednov vodili pogovore o skupnih pristopih k varnosti UI.
Chris Lehane, vodja globalne politike pri OpenAI, je po poročanju TechCruncha novinarjem v torek potrdil, da pogovori med tremi podjetji potekajo že več tednov. Lehane je bil takrat v Washingtonu, kjer se je ukvarjal tudi z zakonodajnimi razpravami o katastrofalnih tveganjih umetne inteligence.
Novico je pred tem objavil Bloomberg. Čeprav podrobnosti pogovorov niso javne, potrjujejo, da največji razvijalci naprednih modelov iščejo skupne varnostne mehanizme v času, ko se tekmovanje za zmogljivejšo UI pospešuje.
Amodeijev poziv k skupnemu ukrepanju
Razkritje sledi eseju izvršnega direktorja Anthropica Daria Amodeija, objavljenemu v soboto. Amodei je industrijo pozval, naj sodeluje pri upočasnitvi razvoja najnaprednejših oziroma mejnih modelov UI, če bi se pokazalo, da tveganj ni mogoče ustrezno obvladovati.
Njegov poziv so podprli številni vidni predstavniki industrije, med njimi izvršni direktor OpenAI Sam Altman, vodja Google DeepMinda Demis Hassabis in Elon Musk. Altman je ob tem navedel, da bi se OpenAI lahko pridružil Anthropicu pri vključevanju neodvisnih zunanjih ocenjevalcev, ki bi v podjetjih spremljali, ali se modeli razvijajo varno.
Takšni ocenjevalci bi lahko preverjali postopke testiranja, varnostne omejitve in pripravljenost podjetij na morebitne zlorabe njihovih sistemov. Vendar pa odprto ostaja vprašanje, koliko dostopa bi podjetja dejansko omogočila neodvisnim organizacijam in kdo bi določal standarde za tak nadzor.
Varnostno sodelovanje in tveganje za omejevanje konkurence
Največja dilema pri skupnih varnostnih dogovorih je meja med legitimnim sodelovanjem in morebitnim omejevanjem konkurence. Če se tekmeci dogovarjajo o skupnih tehničnih standardih, testih ali odzivih na nevarne zmogljivosti modelov, lahko to izboljša varnost. Hkrati pa bi lahko usklajevanje glede hitrosti razvoja, dostopa do trga ali pogojev za objavo novih modelov vplivalo na konkurenčni položaj podjetij.
Tudi Altman je opozoril, da bi se podjetja lahko izpostavila protimonopolnim tveganjem, če bi regulatorji presodili, da koordinacija zatira konkurenco. Amodei je zato predlagal omejeno vladno izjemo, ki bi podjetjem izrecno dovolila sodelovanje pri varnostnih vprašanjih.
Lehane pa je po navedbah TechCruncha menil, da takšna izjema ni potrebna. Razlika med stališčema kaže na osrednji spor: ali obstoječa pravila že omogočajo dovolj varnega sodelovanja ali pa bi zakonodaja morala jasno določiti, katere oblike koordinacije med največjimi laboratoriji so dovoljene.
Pogovori med podjetji sicer niso povsem nepričakovani. Altman je v intervjuju za Fortune konec prejšnjega tedna namignil, da se zasebno pogovarja z drugimi voditelji na področju UI. The Information je nato poročal, da OpenAI, Anthropic in Google DeepMind sodelujejo pri oblikovanju standardizacijskega organa za industrijo umetne inteligence.
Altman naj bi zaposlenim povedal, da bi moral takšen organ nastati brez podpore ameriške vlade. To nakazuje možnost samoregulacije industrije, pri kateri bi največja podjetja sama postavila skupna pravila za razvoj in nadzor najzmogljivejših modelov.
Pozivi k nadzoru in nasprotovanje strožji regulaciji
Demis Hassabis je že julija pozval ZDA k ustanovitvi posebnega standardizacijskega oziroma nadzornega organa za UI. Tak organ bi po njegovi zamisli lahko pregledoval najnaprednejše modele in usklajeval širše upočasnitve razvoja, če bi se pojavili znaki resnih nevarnosti.
Podobno smer podpira OpenAI. Lehane je na istem torkovem srečanju dejal, da podjetje podpira določilo predloga zakona FRONTIER Act, po katerem bi morali vodilni laboratoriji za razvoj mejnih modelov v podjetja omogočiti dostop »neodvisnim organizacijam za preverjanje«. Njihova naloga bi bila preveriti, ali se modeli razvijajo v skladu z varnostnimi zahtevami.
Tak pristop bi pomenil kombinacijo notranjih varnostnih postopkov podjetij in zunanjega nadzora. Podporniki takšnih ukrepov menijo, da samonadzor industrije pri sistemih z velikim družbenim vplivom ne zadostuje, saj imajo podjetja hkrati močne komercialne spodbude za čim hitrejši razvoj in objavo novih izdelkov.
Na drugi strani predsednik Donald Trump po navedbah TechCruncha zavrača opozorila glede varnosti UI. Njegov glavni argument je, da bi strožja pravila ali upočasnitev razvoja ZDA lahko postavila v slabši položaj v tehnološkem tekmovanju s Kitajsko. David Sacks, Trumpov svetovalec za umetno inteligenco, je podobno ocenil, da so opozorila o eksistencialnih tveganjih pretirana.
Gre za širši politični spor o tem, ali je največja nevarnost prehiter razvoj umetne inteligence ali pa možnost, da bi ZDA zaradi regulacije izgubile tehnološko in gospodarsko prednost pred tekmeci.
Odločilni meseci za prihodnja pravila
Pogovori med OpenAI, Anthropicom in Google DeepMindom lahko pomenijo začetek bolj usklajenega pristopa k varnosti UI, vendar sami po sebi ne rešujejo vprašanj odgovornosti, nadzora in konkurence. Ključno bo, ali bo industrija oblikovala verodostojne skupne standarde, ali bodo te standarde preverjali neodvisni organi in kakšno vlogo bodo pri tem prevzele vlade.
V prihodnjih mesecih se bo zato odločalo med tremi možnimi smermi: prevlado samoregulacije, strožjim državnim nadzorom ali kombinacijo obeh pristopov. Razplet bo pomembno vplival na to, kako hitro bodo podjetja razvijala najzmogljivejše modele in pod kakšnimi varnostnimi pogoji bodo ti sistemi dosegli širšo javnost.
