Trenutno poteka intenzivna razprava o odprtosti umetne inteligence, predvsem o vprašanjih, ali naj napredni AI modeli ostanejo dostopni le izbranim podjetjem ali naj bodo njihove t. i. “uteži” javno dostopne. Uteži predstavljajo srž delovanja AI – gre za izjemno kompleksne matematične vrednosti, ki jih model pridobi z učenjem in so ključne za njegovo končno zmogljivost. Prav odprtost teh uteži je v zadnjih letih sprožila burne odzive v tehnološki industriji, kjer se pojavljata dva močna tabora: zagovorniki popolne odprtosti in tisti, ki opozarjajo na nevarnosti brezmejne dostopnosti.
Kdo se boji odprtih AI uteži in zakaj?
OpenAI in Anthropic, vodilna podjetja iz Silicijeve doline, opozarjajo na tveganja, povezana z razširjanjem odprtih uteži. Njihova glavna skrb je možnost, da bi lahko z odprtimi utežmi kdorkoli ustvarjal sofisticirane ponaredke, izvajal sofisticirane kibernetske napade ali pomagal pri razvoju avtomatiziranih propagandnih orodij. Predstavniki teh podjetij pogosto poudarjajo, da so uteži bolj kot koda tisto, kar AI modelu daje moč – s kodo brez uteži ne more nihče ustvariti uporabnega modela, z utežmi pa je to mogoče tudi brez poglobljenega znanja strojnega učenja.
Na drugi strani Meta in francoski Mistral AI zagovarjata odprtost. Njuni modeli, kot sta Llama 2 in Mistral Large, so v skupnosti znanstvenikov povzročili val navdušenja, saj omogočajo, da manjša podjetja in raziskovalci razvijajo lastne rešitve brez astronomskih vložkov. Poznavalci izpostavljajo, da je odprta dostopnost uteži pomembno pospešila razvoj jezikovnih modelov za manjše jezike in domenske aplikacije, kjer veliki akterji nimajo komercialnega interesa. Uspešni primeri inovacij so vidni v številnih odprtokodnih projektih in startupih, ki temeljijo na prilagojeni uporabi Llama 2 ali Mistral Large in s tem demokratizirajo dostop do napredne umetne inteligence.
Kritiki popolne odprtosti pa opozarjajo tudi na konkretne zlorabe. Odprtokodni modeli z javno objavljenimi utežmi so že bili uporabljeni za množično generiranje lažnih vsebin, v nekaterih primerih celo za avtomatizirano obdelavo zaupnih podatkov ali ustvarjanje zlonamerne programske opreme. Razprava tako presega zgolj tehnična vprašanja in se dotika temeljnih dilem o odgovornosti, nadzoru in etiki razvoja AI.
Čezatlantska dilema: ZDA med varnostjo in inovacijami pri odprtih AI modelih
V ZDA soočanje med inovacijami in varnostjo postaja vse bolj izrazito. Na zakonodajni ravni se pojavljajo predlogi, da bi bila javna objava uteži podvržena določenim omejitvam ali nadzoru, kar podpirajo predvsem podjetja z lastniškimi modeli, ki želijo zaščititi svoje razvojne vložke. Evropska unija je s sprejetjem Akta o umetni inteligenci (EU AI Act) šla korak dlje in skuša vzpostaviti okvir, ki ločuje med odprtokodnimi rešitvami, kjer je odprta le koda, ter modeli, ki vključujejo tudi javno dostopne uteži in podatke za učenje. Prav uteži so v regulativi izpostavljene kot potencialno tveganje, saj omogočajo hitro širjenje naprednih zmogljivosti tudi izven nadzora avtorjev ali regulatorjev.
Poleg varnostnih vidikov ima odprtost uteži tudi pomembno ekonomsko razsežnost. Največji igralci, kot so Google, Microsoft in OpenAI, opozarjajo, da je razvoj velikih jezikovnih modelov izjemno drag, javna dostopnost uteži pa bi lahko zmanjšala njihov konkurenčni položaj in s tem zmanjšala spodbude za vlaganje v prihodnje raziskave. Po drugi strani odprtost uteži omogoča vznik inovacij med manjšimi podjetji, startupi in akademsko skupnostjo, kar lahko dolgoročno prispeva k bolj uravnoteženemu tehnološkemu razvoju, širši uporabnosti in hitrejšemu napredku celotnega sektorja.
Prihodnost ostaja odprta. Nekateri strokovnjaki menijo, da bo industrija razvila učinkovite samoregulativne mehanizme, ki bodo omogočili varno uporabo odprtih uteži, spet drugi vidijo prihodnost v strogi regulaciji in selektivni dostopnosti modelov. Nastajajo tudi hibridni pristopi, kjer so posamezne komponente modelov odprte, polni dostop do uteži pa je omejen ali pogojevan z varnostnimi preverjanji. Ključno vprašanje ostaja, kako zagotoviti javno korist in hkrati preprečiti tveganja, ki jih prinaša neomejen dostop do najnaprednejših orodij sodobne umetne inteligence.
