Razprava o tem, ali bi morali razvoj najzmogljivejših sistemov umetne inteligence upočasniti oziroma ga vsaj strožje usmerjati, se znova seli v ospredje tehnološke industrije. Povod je načrt izvršnega direktorja Anthropica Daria Amodeija, ki govori o »določanju tempa na meji zmogljivosti« oziroma *pace the frontier*.
V pogovoru podkasta Equity, ki ga povzema TechCrunch, so novinarji Anthony Ha, Kirsten Korosec in Sean O’Kane razpravljali predvsem o ključni dilemi: ali vodilni laboratoriji, kot sta Anthropic in OpenAI, res zagovarjajo previdnejši razvoj – ali pa predvsem želijo oblikovati pravila, po katerih bodo morali igrati tudi njihovi tekmeci.
To ni nepomembno niti za Slovenijo. Evropska podjetja, razvijalci in javne ustanove bodo pri uporabi umetne inteligence vse bolj delovali v okviru evropske uredbe o umetni inteligenci, AI Acta. Evropski pristop temelji na oceni tveganj: bolj kot je sistem tvegan, strožje zahteve veljajo za njegove razvijalce in uporabnike. Ameriška razprava o prostovoljnih zavezah velikih laboratorijev zato odpira vprašanje, ali so samoregulacija, tržni pritiski in mednarodni dogovori dovolj ali pa bodo odločilna zavezujoča pravila, kakršna uvaja EU.
»Določanje tempa« ni nujno enako upočasnitvi
Izraz »upočasnitev« lahko pomeni moratorij, omejitev računske moči, zamik objave zmogljivejših modelov ali prepoved posameznih vrst razvoja. Izraz »določanje tempa« je manj neposreden. V praksi bi lahko pomenil, da podjetje ne objavi ali ne razširi uporabe novega modela, dokler ne opravi varnostnih preverjanj, ne oceni možnih zlorab in ne vzpostavi ustreznih zaščitnih ukrepov.
Po povzetku TechCruncha so med predlogi neodvisni zunanji ocenjevalci, ki bi spremljali varnostne prakse in incidente v podjetjih, kot sta Anthropic in OpenAI. Omenjena je tudi koordinacija večjih podjetij iz demokratičnih držav pri oblikovanju skupnih varnostnih standardov in omejitev ter širše mednarodno sodelovanje.
Takšni ukrepi sami po sebi ne pomenijo, da bi se tehnološki napredek nujno upočasnil. Lahko pa pomenijo, da razvoj in uvajanje novih sistemov nista več povsem prepuščena ritmu tekmovanja za zmogljivejši model, več uporabnikov in več investicij.
Anthony Ha je v podkastu opozoril prav na to razliko. Predlogi govorijo o nadzoru in osnovnih varnostnih mehanizmih, vendar po njegovem ne določajo jasno, da bi morali laboratoriji razvoj izvajati počasneje kot danes.
Katerih tveganj se industrija pravzaprav boji?
Razprava o »tempu« razvoja ni samo tehnično vprašanje. Povezana je z več vrstami tveganj, ki se med seboj razlikujejo po verjetnosti in resnosti.
Med bolj neposrednimi so zlorabe za prevare, lažno predstavljanje, množično ustvarjanje dezinformacij, kibernetske napade in avtomatizacijo škodljivih vsebin. Pomembna so tudi vprašanja zasebnosti, avtorskih pravic, diskriminacije pri avtomatiziranem odločanju ter nezanesljivosti modelov, ki lahko prepričljivo ustvarijo napačne odgovore.
Nekateri raziskovalci in vodilni v industriji opozarjajo tudi na dolgoročnejša oziroma eksistencialna tveganja. Gre za skrb, da bi zelo zmogljivi prihodnji sistemi lahko delovali na načine, ki jih ljudje ne bi več dovolj dobro razumeli, nadzorovali ali usmerjali. Takšni scenariji so predmet intenzivnih razprav; niso enotno sprejeta napoved prihodnosti, so pa eden od razlogov, da del industrije zahteva strožja preverjanja še pred množično uvedbo novih generacij modelov.
Za slovenska podjetja je morda še bolj otipljivo vprašanje vpliva na delo in konkurenčnost. Umetna inteligenca lahko avtomatizira del administrativnega, programerskega, ustvarjalnega in analitičnega dela. Hkrati lahko poveča produktivnost podjetij, ki jo znajo uporabljati odgovorno. Ključno vprašanje zato ni le, ali razvoj napreduje hitro, temveč kdo ima dostop do tehnologije, kdo nosi tveganja in kdo pobere gospodarske koristi.
Varovanje ali kartel velikih laboratorijev?
Kirsten Korosec je v podkastu opozorila, da je soglasje med velikimi podjetji lahko koristno, vendar ima tudi drugo plat: lahko pomeni začetek kartelnega ravnanja. Če bi peščica največjih laboratorijev skupaj določala varnostne standarde, pogoje dostopa in pragove za razvoj, bi lahko manjši tekmeci težje vstopali na trg.
To bi lahko utrdilo položaj podjetij z največ računske infrastrukture, kapitala in dostopa do podatkov. Velike družbe bi lahko lažje financirale drage varnostne ocene, pravne ekipe in poročanje regulatorjem, medtem ko bi startupi, raziskovalne skupine in odprtokodni projekti nosili nesorazmerno veliko breme.
Varnostni standardi so zato nujni, vendar morajo biti oblikovani pregledno in pod javnim nadzorom. V nasprotnem primeru se lahko varnostna retorika spremeni v orodje za omejevanje konkurence. To je posebej pomembno za evropski prostor, kjer želi AI Act hkrati zmanjševati tveganja in ohranjati prostor za inovacije.
Trg sam po sebi verjetno ne bo dovolj
Sean O’Kane je skeptičen do ideje, da bodo trg in obstoječa pravila sami učinkovito kaznovali nevarno ravnanje. Po njegovem imajo uporabniki omejeno možnost izbire, zlasti ker se umetna inteligenca vse bolj prodaja podjetjem in vključuje v širše poslovne procese.
Podjetje, ki je svoje delovne tokove zgradilo okoli določenega ponudnika modelov, ne bo nujno hitro zamenjalo storitve zaradi etičnega ali varnostnega pomisleka. Prehod je lahko drag, tehnično zahteven in poslovno tvegan. Velike naložbe v vodilne laboratorije jim obenem omogočajo, da lažje prenesejo kratkoročne posledice morebitnih napak ali kritik.
Prav tu se pokaže razlika med ameriško in evropsko razpravo. Prostovoljni dogovori podjetij lahko izboljšajo prakso, vendar ne nadomestijo neodvisnega nadzora, jasnih pravil in odgovornosti. Evropski okvir lahko slovenskim organizacijam ponudi več predvidljivosti, vendar bodo morale tudi same razviti znanje za presojo tveganj in odgovorno uporabo sistemov.
Osrednja dilema zato ni, ali se mora umetna inteligenca povsem ustaviti. Gre za vprašanje, kdo bo določal njen tempo: podjetja, vlagatelji, trg, države ali širša javnost. Umetna inteligenca morda ne bo hodila počasneje – toda če bo hodila hitreje, bo toliko pomembneje, kdo določa smer in varovala na poti.
