V poplavi novic o umetni inteligenci se jezik spreminja skoraj tako hitro kot modeli sami. En teden so v ospredju veliki jezikovni modeli in agenti, naslednjič se razprava vrti okoli sklepanja, računske moči, žetonov in preglednosti odločanja. Brez osnovnega besednjaka je zato vse težje presoditi, kaj nove tehnologije zares zmorejo – in kje so njihove omejitve.
TechCrunch je v svojem posodobljenem slovarju zbral ključne izraze, s katerimi se srečujejo razvijalci, podjetja, vlagatelji in vsakdanji uporabniki. Med njimi je tudi »opaque recurrence«, pojem, ki odpira širše vprašanje: ali bodo modeli prihodnosti učinkovitejši, vendar hkrati težje razumljivi in nadzorovani?
Od velikih jezikovnih modelov do žetonov
Veliki jezikovni modeli oziroma LLM so temelj orodij, kot so ChatGPT, Claude, Gemini in Copilot. Gre za obsežne nevronske mreže, sestavljene iz milijard številskih parametrov oziroma uteži. Med učenjem iščejo vzorce v velikih količinah besedil, nato pa ob uporabnikovem vprašanju ustvarijo nadaljevanje, ki statistično najbolje ustreza danemu pozivu.
Pri tem ne berejo besedil povsem tako kot ljudje. Osnovne enote, ki jih obdelujejo, so žetoni oziroma tokeni. Lahko si jih predstavljamo kot majhne gradnike: včasih je žeton cela beseda, pogosto pa le njen del, ločilo ali presledek. Iz njih model sestavlja pomen, stavek in končni odgovor.
To ni le tehnična podrobnost. Številni ponudniki modele zaračunavajo po številu uporabljenih žetonov. Za slovensko podjetje, ki želi denimo v podporo strankam vključiti klepetalnega asistenta, je zato upravljanje z dolžino pozivov, dokumentov in odgovorov neposredno povezano s stroški.
Pomembna je tudi pretočnost žetonov: koliko besedilnih enot sistem obdela v določenem času. Večja pretočnost pomeni hitrejše odgovore in več uporabnikov hkrati – podobno kot več odprtih blagajn v trgovini skrajša čakanje kupcev.
Zakaj AI potrebuje toliko računske moči
Izraz compute oziroma računska moč označuje strojno infrastrukturo, ki omogoča učenje in uporabo modelov. Sem sodijo grafični procesorji GPU, osrednji procesorji CPU, čipi TPU ter strežniki in podatkovni centri.
Za lažjo predstavo: če je model orkester, so GPU-ji njegovi glasbeniki. Namesto da bi vsak izračun izvedli zaporedno, lahko tisoči procesorskih jeder hkrati opravijo veliko manjših delov naloge. Temu pravimo paralelizacija. Prav sposobnost vzporednega računanja je eden od razlogov, da so GPU-ji postali osrednji del sodobne infrastrukture za umetno inteligenco.
Razlikovati je treba med učenjem in sklepanjem. Učenje oziroma trening je faza, v kateri model iz podatkov prepoznava vzorce in prilagaja svoje uteži. Sklepanje oziroma inference pa je vsakodnevna uporaba že naučenega modela: trenutek, ko ta odgovarja na vprašanje, pripravi povzetek ali predlaga programsko kodo.
Agenti: od odgovarjanja k dejanjem
UI-agent ni zgolj klepetalnik, ki odgovori na eno vprašanje, temveč sistem, ki lahko samostojno izvede več korakov za dosego cilja. Lahko pridobi podatke, primerja možnosti, uporabi zunanje aplikacije in opravi določeno nalogo.
Predstavljajmo si slovenskega podjetnika, ki se pripravlja na službeno pot. Agent bi lahko poiskal vlakovno ali letalsko povezavo, preveril hotelske možnosti, pripravil potni nalog, zbral račune in podatke posredoval računovodskemu sistemu. V praksi takšni sistemi še niso zanesljivi za vsako nalogo in zahtevajo jasna dovoljenja ter človeški nadzor, vendar kažejo smer razvoja: umetna inteligenca prehaja od ustvarjanja besedil k izvajanju dejanj.
Pri tem postanejo ključne končne točke API – programski vmesniki, prek katerih lahko ena aplikacija komunicira z drugo. Protokol MCP oziroma Model Context Protocol je zasnovan kot standardiziran način povezovanja modelov z datotekami, podatkovnimi zbirkami in poslovnimi orodji. Pogosto ga opisujejo kot nekakšen USB-C priključek za umetno inteligenco.
Fine-tuning, destilacija in učenje s povratnimi informacijami
Podjetja redko želijo splošen model, ki zna »malo o vsem«. Pogosto potrebujejo sistem, prilagojen lastnim dokumentom, strokovnemu jeziku ali postopkom. Temu služi fino prilagajanje oziroma fine-tuning: dodatno učenje že obstoječega modela na specializiranih podatkih.
Primer bi lahko bil asistent za pravno, zdravstveno ali finančno dokumentacijo, ki ga je treba prilagoditi konkretnemu področju in internim pravilom organizacije. Tak pristop sicer ne odpravi vseh napak, lahko pa izboljša uporabnost pri ozko določenih nalogah.
Destilacija pomeni prenos znanja iz velikega modela na manjši model. Veliki »učitelj« ustvari odgovore ali primere, manjši »učenec« pa se uči posnemati njegovo vedenje. Cilj je praviloma izdelati hitrejši in cenejši model, ki ohrani dovolj kakovosti za konkretno uporabo.
Pomembno vlogo ima tudi okrepitveno učenje, pri katerem model prejema nagrade za uspešne rezultate. Pri metodi RLHF – okrepitvenem učenju s človeškimi povratnimi informacijami – ljudje ocenjujejo odgovore, model pa se postopoma prilagaja temu, kaj se šteje za uporaben, varen ali ustrezen odziv.
Učinkovitost proti preglednosti
Eden najbolj zanimivih izrazov v slovarju je »opaque recurrence«. Opisuje pristop, pri katerem model isto poizvedbo večkrat vodi skozi svoje notranje plasti, namesto da bi problem razčlenjeval po vidnih, jezikovno izraženih korakih.
Tak način bi lahko prinesel večjo učinkovitost: manjši modeli bi lahko dosegali boljše rezultate z manj računske moči. Toda obstaja tudi druga plat. Če je pot do odgovora manj berljiva, je težje preveriti, zakaj je sistem sprejel določeno odločitev, ali je ravnal pristransko in kje je prišlo do napake.
To je bistvo razprave o modelih kot »črnih skrinjicah«. Pri priporočilu filma morda ne predstavlja velikega tveganja, pri odločitvah v zdravstvu, zavarovalništvu, zaposlovanju ali javni upravi pa je razložljivost lahko nujna za zaupanje, nadzor in odgovornost.
S tem je povezan tudi pojem »neuralese« – hipotetični scenarij, v katerem bi model sklepal izključno prek notranjih številskih predstavitev, brez človeku razumljive razlage. Takšni sistemi niso predstavljeni kot običajna praksa, vendar pojem dobro ponazarja dilemo prihodnosti: kako zagotoviti nadzor nad tehnologijo, ki postaja vse zmogljivejša in hkrati vse manj intuitivna?
Razumevanje izrazov, kot so žetoni, agenti, uteži, sklepanje in fino prilagajanje, zato ni zgolj tehnično vprašanje. Gre za osnovno pismenost v času, ko umetna inteligenca vse bolj vpliva na delo, podjetja in vsakdanje odločitve. Slovar se bo gotovo še spreminjal, toda vprašanje bo ostalo enako: ne le kaj modeli zmorejo, temveč tudi kako jih lahko razumemo, preverjamo in odgovorno uporabljamo.
