Ali lahko kodeks ravnanja dejansko ukroti umetno inteligenco, ki naj bi v prihodnjem desetletju presegla človeka pri večini nalog? Microsoft v novem dokumentu odgovarja pritrdilno vsaj na ravni načel: njegove modele naj bi zavezovale prepovedi kibernetskih napadov, sodelovanja pri razvoju jedrskega orožja, ustvarjanja deepfake vsebin in poskusov izogibanja človeškemu nadzoru. Toda bistveno vprašanje ostaja, kako bo podjetje te zaveze uveljavilo v sistemih, ki postajajo vse bolj zmogljivi in samostojni.
Microsoftov kodeks ravnanja za modele umetne inteligence izhaja iz predpostavke, da bo razvoj naprednih sistemov prinesel izjemne koristi, hkrati pa tudi tveganja brez zgodovinskega precedensa. »Zadrževanje, nadzor in usklajevanje tako močne sile je eden največjih izzivov, s katerimi se je človeštvo kdaj srečalo,« navaja dokument.
Podjetje zato poudarja, da mora biti jasno določeno, čemu so takšni sistemi namenjeni in kdo jih lahko nadzoruje, spreminja ali po potrebi izklopi.
Kodeks nad zahtevami uporabnika
Osrednja zamisel Microsoftovega pristopa je hierarhija pravil. Vsak model naj bi imel nadrejeni kodeks ravnanja, ki prevlada nad željami posameznega uporabnika, navodili v pogovoru ali zahtevami konkretne naloge.
Med tako imenovanimi absolutnimi omejitvami so prepovedi izvajanja kibernetskih napadov, pomoči pri izdelavi jedrskega orožja in ustvarjanja deepfake vsebin. Dokument obenem določa, da modeli ne smejo uporabljati zavajajočih, samookrepitvenih, prilagodljivih ali dogovornih mehanizmov, s katerimi bi se izognili človeškemu nadzoru.
To pomeni, da modeli ne bi smeli razvijati strategij za prikrivanje svojih ciljev, manipuliranje z nadzorniki ali ohranjanje lastnega delovanja proti volji pooblaščenih ljudi oziroma sistemov. Microsoft želi s tem nasloviti eno osrednjih skrbi raziskovalcev varnosti umetne inteligence: možnost, da bi zelo sposobni sistemi postali težje nadzorljivi ravno zato, ker bi znali prepoznati in obiti omejitve.
Pravila na papirju niso enaka nadzoru v praksi
Največji izziv kodeksa bo njegova izvedba. Prepovedati modelu nevarno vedenje je relativno preprosto zapisati, bistveno težje pa je zanesljivo dokazati, da model takšnega vedenja ne bo nikoli pokazal v novih, nepredvidenih okoliščinah.
Napredni jezikovni modeli lahko navodila razumejo različno glede na kontekst, uporabniki pa lahko omejitve poskušajo obiti z posrednimi ali večstopenjskimi zahtevami. Pri avtonomnejših agentih se težava še poveča: sistem lahko sam razčlenjuje cilje, uporablja orodja in izvaja zaporedje dejanj, pri katerem se tveganje ne pokaže nujno v enem samem odgovoru.
Microsoftov dokument, kot ga povzema TechCrunch, poudarja cilje in prepovedi, manj pa javno razkriva konkretne tehnične mehanizme za preverjanje njihovega spoštovanja. Učinkovitost takšnega kodeksa bo zato odvisna od kombinacije varnostnega učenja, testiranja modelov pred objavo, spremljanja njihove uporabe, omejevanja dostopa do občutljivih zmogljivosti in možnosti hitrega ukrepanja ob zaznanih zlorabah.
Del širšega premika v industriji
Microsoftova poteza sledi širšemu trendu v industriji umetne inteligence, kjer največji razvijalci vse pogosteje objavljajo varnostne zaveze, okvire za odgovorni razvoj in načrte za ocenjevanje tveganj najzmogljivejših modelov. Microsoft se pri tem približuje pristopu, ki ga podpirajo tudi Anthropic, OpenAI in xAI: razvoj najnaprednejših sistemov naj bi potekal premišljeno, z več preverjanja in dodatnimi varovalkami.
Podobno logiko vsebuje tudi evropska ureditev AI Act, ki uvaja obveznosti glede upravljanja tveganj, preglednosti in nadzora pri določenih kategorijah umetne inteligence. Razlika je v tem, da gre pri Microsoftovem kodeksu predvsem za notranji okvir podjetja, medtem ko regulativa določa zakonske obveznosti in nadzor zunanjih institucij.
Kodeks zato ni nadomestilo za zakonodajo, neodvisne presoje ali mednarodno koordinacijo. Lahko pa je pomemben signal, da tehnološka podjetja tveganja napredne umetne inteligence vse manj obravnavajo kot oddaljen teoretični problem.
Podpora ljudem, ne njihova zamenjava
Microsoft v dokumentu poudarja tudi širše vrednostne usmeritve. Modeli naj bi podpirali ljudi, ne pa jih nadomeščali, njihov razvoj pa naj bi prispeval k človeškemu napredku. Takšna načela zvenijo prepričljivo, vendar odpirajo pomembna vprašanja: kdo bo določal, kaj pomeni podpora človeku, kdaj avtomatizacija postane nadomeščanje in kako bo mogoče preveriti, ali sistemi dejansko delujejo v javnem interesu?
Prav tu je meja med kodeksom kot resnim varnostnim orodjem in kodeksom kot komunikacijsko zavezo. Pravila bodo prepričljiva šele, ko jih bodo spremljali merljivi standardi, redna neodvisna testiranja, transparentno poročanje o incidentih ter jasne posledice, če jih podjetje ali njegovi modeli ne bodo spoštovali.
Microsoftov izvršni direktor Satya Nadella je ob objavi pozdravil premišljen tempo razvoja in zamisel o »vgrajenih ocenjevalcih« v laboratorijih umetne inteligence. To je korak v pravo smer, vendar ne rešuje temeljne dileme: ali lahko podjetja, ki tekmujejo za tehnološko prednost, sama določijo dovolj stroge meje za tehnologijo, katere zmogljivosti se razvijajo hitreje od pravil, nadzora in družbenega soglasja?
Microsoftov kodeks je zato predvsem začetek, ne končni odgovor. Bolj ko bodo modeli sposobni samostojno načrtovati, uporabljati digitalna orodja in vplivati na resnični svet, manj bo dovolj, da jim preprosto naročimo, naj ne škodujejo.
