Dario Amodei, izvršni direktor podjetja Anthropic, poziva k bolj usklajenemu in varnostno naravnanemu razvoju najzmogljivejših sistemov umetne inteligence. Njegova zamisel, ki jo je predstavil po odmevnem opozorilu raziskovalca iz lastnega podjetja, temelji na neodvisnem preverjanju varnosti in tesnejšem sodelovanju vodilnih laboratorijev za UI v demokratičnih državah.
Anthropic, podjetje, znano predvsem po jezikovnih modelih Claude, se že od ustanovitve postavlja kot eden vidnejših zagovornikov varnosti umetne inteligence. Razprava zato ni zgolj tehnično vprašanje o testiranju modelov, temveč se dotika širše dileme: kako preprečiti, da bi razvoj sistemov, ki postajajo vse zmogljivejši in samostojnejši, prehitel sposobnost družbe, podjetij in držav, da jih nadzorujejo.
Kaj pomeni »upočasniti razvoj«?
Amodeijev predlog govori o »omejevanju tempa na tehnološki meji« oziroma o previdnejšem napredovanju pri najnaprednejših modelih. To ne pomeni nujno splošne ustavitve razvoja umetne inteligence. Bolj verjetno pomeni, da bi podjetja pred učenjem ali javno uvedbo posebej zmogljivih modelov opravila strožje varnostne preglede.
Takšni pregledi bi lahko preverjali, ali je model mogoče zlorabiti za kibernetske napade, razvoj nevarnih snovi, obsežno manipulacijo javnosti ali druge oblike škode. V razpravah o napredni UI se pojavljajo tudi dolgoročna tveganja: možnost, da bi ljudje izgubili dejanski nadzor nad sistemi, katerih sposobnosti in načini odločanja ne bi bili dovolj razumljeni.
Ključno vprašanje pa ostaja, kdo bi smel presoditi, da je sistem dovolj varen. Če ocenjevalce najamejo ali financirajo podjetja, katerih izdelke preverjajo, se hitro pojavi vprašanje njihove neodvisnosti. Če bi merila postavljale države, bi lahko varnostna pravila postala tudi instrument gospodarskega ali geopolitičnega tekmovanja.
Industrija se ne strinja glede tempa
Amodeijev pristop je v delu industrije naletel na podporo, vendar ne brez odpora. Med kritiki oziroma skeptiki se je pojavil tudi Jensen Huang, izvršni direktor Nvidie, podjetja, ki ima osrednjo vlogo pri dobavi čipov za razvoj umetne inteligence.
Podrobnosti Huangovega odziva niso bile predstavljene, vendar je razhajanje pričakovano. Podjetja, ki stavijo na hitro širitev infrastrukture za UI, lahko strožje omejitve razumejo kot nevarnost za inovacije, konkurenčnost in dostop do tehnologije. Po drugi strani zagovorniki strožjih varnostnih pravil opozarjajo, da tekma med laboratoriji ustvarja pritisk, zaradi katerega bi lahko podjetja varnostne preglede obravnavala kot oviro namesto kot nujni pogoj razvoja.
Prav zato prostovoljni dogovori med podjetji morda ne bodo zadostovali. Laboratorij, ki bi sam upočasnil razvoj, bi lahko izgubil prednost pred tekmecem, ki tega ne bi storil. Učinkovit sistem bi zato potreboval skupna pravila, primerljive standarde testiranja in mehanizme za preverjanje, ali se zaveze tudi dejansko izvajajo.
Vloga držav in mednarodnega sodelovanja
Amodei izpostavlja sodelovanje laboratorijev v demokratičnih državah. Takšna uskladitev bi lahko pomenila skupne minimalne standarde za najnaprednejše modele, izmenjavo informacij o varnostnih tveganjih in skupne protokole za primer incidentov.
Vendar pristop odpira tudi zahtevna vprašanja. Kako določiti prag, pri katerem model postane dovolj zmogljiv, da zahteva poseben nadzor? Kdo bi imel dostop do občutljivih podatkov o njegovih sposobnostih? In kako preprečiti, da varnostna pravila ne bi postala le prednost za največja podjetja, ki si lahko privoščijo drage postopke preverjanja?
Za Slovenijo in Evropo razprava ni oddaljena. Evropska pravila za umetno inteligenco že uvajajo obveznosti glede tveganj, preglednosti in odgovornosti, vendar se bodo morala prilagajati hitro razvijajočim se splošnonamenskim modelom. Odločitve največjih ameriških laboratorijev, proizvajalcev čipov in regulatorjev bodo zato vplivale tudi na evropska podjetja, javne ustanove in uporabnike.
Amodeijev predlog tako odpira temeljno vprašanje prihodnosti umetne inteligence: ne le ali jo je mogoče razvijati varneje, temveč ali se bodo največji akterji lahko dogovorili, kdaj je hitrost razvoja postala preveliko tveganje.
