Ko raziskovalec zapusti eno vodilnih podjetij za umetno inteligenco, ker meni, da industrija »tvega z našimi življenji«, to ni več le interna kadrovska zgodba. Je opozorilo o tem, da tekma za zmogljivejše modele odpira vprašanje, na katerega tehnološka podjetja še nimajo prepričljivega odgovora: kdo bo odgovarjal, če sistemi presežejo meje, za katere trdimo, da jih obvladujemo?
V prispevku TechCruncha je AI-raziskovalec Jacob Coxon pojasnil, da je zapustil Anthropic zaradi skrbi glede ravnanja vodilnih podjetij na področju umetne inteligence. Razpravo je dodatno zaostrila objava vodje Anthropicovega področja za usklajevanje UI, ki je zapisal, da umetna inteligenca lahko ogrozi človeštvo, svojo osebno oceno takšnega tveganja v naslednjem desetletju pa postavil nad 10 odstotkov.
Takšne izjave so dramatične, vendar jih ne bi smeli niti nekritično sprejeti niti posmehljivo zavrniti. Pomembnejše vprašanje od same številke je, zakaj ljudje, ki sodelujejo pri razvoju najnaprednejših sistemov, javno izražajo dvom o sposobnosti industrije, da te sisteme varno nadzoruje.
Tehnološka tekma in problem nadzora
Anthropic in OpenAI sta med najbolj prepoznavnimi podjetji v tekmi za razvoj zmogljivih generativnih modelov. OpenAI je širši javnosti najbolj znan po ChatGPT-ju, medtem ko Anthropic razvija družino modelov Claude in se v javni podobi posebej poudarja kot podjetje, osredotočeno na varnost in odgovoren razvoj umetne inteligence.
To ne pomeni, da sta podjetji zunaj tekmovalnega pritiska. Obe potrebujeta računsko infrastrukturo, vrhunske raziskovalce, poslovne uporabnike in kapital. V takem okolju varnostne zaveze pogosto trčijo ob poslovno logiko: hitrejši razvoj prinaša boljše produkte, več pozornosti in potencialno višjo vrednost podjetja.
Prav zato so opozorila o nevarnosti UI dvoumna. Lahko so iskrena. Raziskovalci, ki se ukvarjajo z zmogljivimi avtonomnimi sistemi, imajo legitimne razloge za zaskrbljenost glede zlorab, nepredvidenega vedenja modelov in pomanjkanja nadzora.
Toda hkrati takšna opozorila delujejo tudi kot signal trgu: naše tehnologije so tako napredne, da jih je treba jemati resno. Nevarnost se lahko v svetu tehnoloških investicij spremeni v dokaz zmogljivosti. Podjetje, ki trdi, da razvija sistem z izjemnim potencialom in izjemnimi tveganji, s tem ne prodaja le strahu – prodaja tudi zgodbo o svoji tehnološki pomembnosti.
Kaj pomeni “usklajevanje” umetne inteligence?
V središču razprave je tako imenovano usklajevanje oziroma *alignment*. To je področje raziskovanja, ki se ukvarja z vprašanjem, kako zagotoviti, da sistemi umetne inteligence sledijo človekovim namenom, vrednotam in omejitvam – tudi kadar dobijo večjo avtonomijo.
Težava ni zgolj v tem, da bi model lahko odgovoril napačno ali ustvaril zavajajočo vsebino. Pri naprednejših sistemih je vprašanje, ali lahko zanesljivo predvidimo posledice njihovega delovanja, ko jim dovolimo dostop do podatkov, programske opreme, spletnih storitev ali poslovnih procesov.
Če sistem dobi cilj, ga lahko poskuša doseči na način, ki ga razvijalec ni predvidel. Pri tem ni nujno, da ima »namen« ali zavest v človeškem smislu. Dovolj je, da napačno razume navodilo, da je slabo omejen ali da se znajde v okolju, kjer lahko njegove napake povzročijo konkretno škodo.
To so resna vprašanja, vendar doomsday scenariji niso edina, niti nujno najbolj neposredna nevarnost. Kritiki apokaliptičnih napovedi opozarjajo, da lahko osredotočenost na oddaljeno superinteligenco zasenči že obstoječe probleme: diskriminatorne algoritme, množično zbiranje podatkov, dezinformacije, avtomatizacijo dela, koncentracijo računske moči in okoljske stroške podatkovnih centrov.
Evropa ne sme izbirati med paniko in pasivnostjo
Za Slovenijo in Evropsko unijo razprava ni abstraktna. Evropska zakonodaja o umetni inteligenci že uvaja pristop, ki temelji na stopnji tveganja: strožje zahteve veljajo za sisteme, ki lahko pomembno vplivajo na varnost, temeljne pravice ali dostop do ključnih storitev.
A regulacija sama po sebi ne bo dovolj. Evropska podjetja bodo morala razumeti, katere modele uporabljajo, katere podatke vanje vnašajo, kdo nadzira njihove odločitve in kaj se zgodi, ko sistem odpove. Slovenski razvijalci in organizacije ne potrebujejo lastnega modela svetovnega razreda, da bi se znašli pred istimi vprašanji. Dovolj je, da UI vključijo v zaposlovanje, zdravstvo, javne storitve, finance ali izobraževanje.
Coxonov odhod zato ni pomemben zato, ker bi dokazoval bližajočo se katastrofo. Pomemben je zato, ker razkriva razpoko med retoriko tehnološkega napredka in realnostjo nadzora. Če podjetja, ki razvijajo najzmogljivejše modele, niso povsem prepričana, kako jih varno usmerjati, potem odgovornost ne sme ostati le v njihovih internih varnostnih ekipah.
Razprava o umetni inteligenci ne potrebuje ne slepega optimizma ne industrijsko uporabnega strahu. Potrebuje preglednost, neodvisno preverjanje, jasna pravila odgovornosti in predvsem pripravljenost, da se razvoj upočasni tam, kjer posledic še ne znamo dovolj dobro razumeti.
