Na podlagi poročanja TechCruncha je izvršni direktor Anthropica Dario Amodei v ospredje razprave o umetni inteligenci postavil vprašanje, ki postaja vse težje prezreti: ali lahko podjetja, ki razvijajo najzmogljivejše modele, sama določijo, kdaj je treba razvoj upočasniti?
Amodei je svoj pristop opisal kot »omejevanje tempa na meji zmogljivosti« oziroma *pacing the frontier*. Ideja ni popolna ustavitev razvoja umetne inteligence, temveč previdnejše napredovanje pri sistemih, ki presegajo dosedanje zmožnosti modelov in lahko prinašajo tudi nova, težje predvidljiva tveganja.
Ne gre za konec razvoja, temveč za varnostne zavorne mehanizme
V središču predloga sta dva elementa: neodvisno ocenjevanje varnosti ter koordinacija med vodilnimi laboratoriji za umetno inteligenco v demokratičnih državah.
Neodvisni ocenjevalci bi lahko preverjali, ali so novi modeli dovolj robustni in varni pred širšo uporabo. To je pomembno predvsem pri modelih z naprednimi sposobnostmi sklepanja, programiranja, avtomatizacije nalog ali vplivanja na uporabnike. Ključno vprašanje pri tem ostaja, kako neodvisni bi takšni ocenjevalci v resnici bili, kdo bi jih imenoval in po katerih merilih bi odločali o sprejemljivem tveganju.
Drugi del Amodeijevega predloga predvideva več usklajevanja med laboratoriji. Takšen pristop bi lahko zmanjšal pritisk, da mora vsako podjetje čim hitreje izdati zmogljivejši model zgolj zato, ker ga razvija konkurenca. Če bi se ključni akterji dogovorili o skupnih varnostnih pragovih, bi bilo manj razlogov za tekmovanje na račun previdnosti.
Težava: kdo določa, kaj pomeni »preveč nevarno«?
Predlog odpira tudi zahtevna vprašanja. Podjetja in vlagatelji lahko opozarjajo, da bi preveč stroga pravila upočasnila inovacije, zmanjšala konkurenčnost zahodnih podjetij ter prednost prepustila državam ali skupinam, ki podobnih omejitev ne bi spoštovale.
Po drugi strani zagovorniki strožjih varnostnih postopkov opozarjajo, da tehnološka tekma sama po sebi ni dovolj dober razlog za uvajanje sistemov, katerih posledic razvijalci še ne razumejo v celoti. Zlasti pri najnaprednejših modelih se razprava ne vrti več le okoli napačnih odgovorov, avtorskih pravic ali pristranskosti, temveč tudi okoli možnosti zlorabe, avtomatizacije kibernetskih napadov, manipulacije informacij in izgube nadzora nad kompleksnimi sistemi.
Amodeijev nastop sledi opozorilu raziskovalca iz Anthropica o tveganjih napredne umetne inteligence. Podrobnosti tega opozorila iz povzetka TechCruncha niso razvidne, vendar je očitno, da je prispevalo k zaostritvi javne razprave o tempu razvoja industrije.
Industrija še nima skupnega odgovora
Amodeijev predlog je po navedbah TechCruncha že prejel del podpore v industriji, vendar tudi odzive kritikov. Med njimi je Nvidia CEO Jensen Huang, ki je do takšnega pristopa izrazil zadržke. Razhajanje je pričakovano: podjetja, ki stavijo na hitro širjenje zmogljivosti umetne inteligence, razvoj pogosto vidijo kot nujen pogoj za gospodarski in znanstveni napredek, medtem ko varnostno usmerjeni akterji opozarjajo, da morajo varovalke slediti tehnologiji hitreje kot doslej.
Najpomembnejše vprašanje zato ni več, ali bo razvoj umetne inteligence napredoval, temveč pod kakšnimi pogoji. Amodeijev predlog odpira možnost, da bi najzmogljivejši sistemi potrebovali več kot le interne varnostne teste in prostovoljne zaveze podjetij. Ali se lahko industrija o takšnih pravilih dogovori sama — in ali ji bo javnost pri tem zaupala — pa ostaja odprto.
