Ko umetna inteligenca zapušča laboratorije in vstopa v pravne pisarne, banke, bolnišnice ter državne ustanove, postaja vprašanje zaupanja vse pomembnejše: kako sploh vemo, ali model res zna opraviti delo, za katero ga podjetje prodaja? In še pomembneje, kako preveriti, kje lahko naredi škodo?
Doslej so tehnološka podjetja svoje modele pogosto primerjala z javno dostopnimi akademskimi testi. Težava je, da lahko razvijalci modele prilagodijo prav tem nalogam in nato dosežejo bleščeč rezultat, ki ne pove nujno veliko o delovanju v resničnem okolju. Zagonsko podjetje Vals želi zapolniti prav to vrzel – z neobjavljenimi preizkusi, ki naj bi preverjali sposobnost umetne inteligence pri konkretnih poklicnih nalogah.
Podjetje je v seriji A zbralo 40 milijonov dolarjev, krog pa je vodil sklad Andreessen Horowitz. Vals, ustanovljen leta 2024, je pred tem zagotovil začetno financiranje skladov 8VC in Bloomberg Beta. Po navedbah podjetja so njegovi prihodki osemkrat višji kot pred letom, ekipa pa se je od začetka leta povečala z osem na 25 zaposlenih.
Od testa znanja do testa sposobnosti
Soustanovitelj Valsa Rayan Krishnan meni, da klasična merila vse težje dohajajo hiter razvoj novih modelov. Akademski testi lahko preverijo, ali model zna odgovoriti na vprašanje ali rešiti nalogo iz zbirke podatkov, precej manj pa povedo o tem, ali bo zanesljivo opravil večstopenjsko delo v podjetju ali ustanovi.
Vals zato svoje testne naloge skriva pred javnostjo. Logika je preprosta: če so vprašanja javno znana, se lahko razvijalci naučijo predvsem odgovore nanje – podobno, kot če bi dijak pred izpitom dobil celoten seznam vprašanj in se naučil rešitve na pamet.
Namesto splošnega znanja Vals modele ocenjuje pri nalogah s področij prava, financ in programiranja. Cilj naj bi bil ugotoviti, ali lahko model ustvari izdelek primerljive kakovosti kot človek, ne le navidezno prepričljiv odgovor.
Podjetja za takšno ocenjevanje plačujejo sama. Krishnan to primerja s plačilom za pristop k standardiziranemu izpitu: slaba ocena ni prijetna, je pa lahko dragocena, če podjetju pokaže, kaj mora izboljšati. Za naročnike modelov pa lahko neodvisna ocena pomeni dodatno merilo pri izbiri ponudnika.
Testiranje tam, kjer napake niso nedolžne
Posebej občutljiva so področja, na katera se Vals širi: duševno zdravje, kibernetska varnost, biološka varnost in pravo oboroženih spopadov. Prav tu razlika med dobro formuliranim odgovorom in dejansko zanesljivim sistemom ni le tehnična podrobnost.
Pri duševnem zdravju bi lahko ocenjevanje denimo preverjalo, ali model v pogovoru z uporabnikom pravilno prepozna znake stiske, se izogne nevarnim ali zavajajočim nasvetom ter uporabnika ustrezno usmeri k strokovni pomoči. Pri kibernetski varnosti je vprašanje, ali model zna pomagati pri obrambi sistemov, ne da bi hkrati ustvarjal navodila, ki bi olajšala zlorabe.
Vals omenja tudi preizkuse, povezane z mednarodnim humanitarnim pravom in uporabo Ženevskih konvencij. Takšni testi bi lahko preverjali, ali model pri hipotetičnem vojaškem scenariju razume razliko med civilisti in borci, omejitve uporabe sile ali pravila ravnanja z vojnimi ujetniki. To so področja, kjer samozavesten, a napačen odgovor ni zgolj napaka v klepetalniku.
Krishnan poudarja, da Vals ne preverja le pozitivnih izidov, temveč tudi možne negativne posledice uporabe modelov. V ospredju je vprašanje, kaj se zgodi, ko sistem deluje izven nadzorovanega demonstracijskega okolja.
Kaj to pomeni za Evropo in Slovenijo
Čeprav je Vals ameriško podjetje in je nedavno vzpostavil program za ocenjevanje modelov za ameriške zvezne agencije, je trend pomemben tudi za evropski prostor. Evropska unija z Aktom o umetni inteligenci uvaja strožja pravila za sisteme z večjim tveganjem, zlasti tam, kjer lahko vplivajo na zdravje, zaposlovanje, izobraževanje, varnost ali dostop do ključnih storitev.
Za slovenska podjetja in javne ustanove, ki uvajajo generativno umetno inteligenco, to pomeni, da vprašanje ne bo več zgolj, kateri model je najzmogljivejši ali najcenejši. Pomembno bo tudi, ali je njegovo delovanje mogoče dokazljivo preveriti: kako pogosto halucinira, pri katerih nalogah odpove, ali enako dobro deluje v slovenščini in ali so njegovi odgovori varni za uporabo v konkretnem okolju.
Neodvisna merila bi lahko postala pomembna tudi za evropske razvijalce. Dober rezultat na preglednem, zahtevnem in za industrijo relevantnem testu bi lahko podjetjem olajšal dokazovanje zanesljivosti pred kupci, vlagatelji in regulatorji.
Vals medtem načrtuje nadaljnjo rast, selitev v večje prostore in zaposlitev dodatnih 10 do 15 ljudi. Njegova ambicija je jasna: da bi ocenjevanje modelov postalo nekaj tako običajnega kot varnostni pregled avtomobila ali revizija podjetja. Ker umetna inteligenca prevzema vse več odločitev in nalog, bo verjetno prav vprašanje preverljivosti odločalo, katerim sistemom bomo pripravljeni zares zaupati.
