Pogajanja o prihodnosti umetne inteligence v zadnjih mesecih dobivajo povsem novo razsežnost. Velikani, kot so Google, OpenAI in Microsoft, javno opozarjajo na nujnost skupnih pravil, saj so napredki generativnih modelov kot je GPT-4 prinesli tako izjemne priložnosti kot tudi zahtevne izzive. Evropska unija medtem pripravlja zakonodajo EU AI Act, najobsežnejšo ureditev umetne inteligence doslej, s katero želi postaviti stroga pravila glede varnosti, preglednosti in odgovornosti ustvarjalcev AI.
Glavni akterji in pobude za skupno upravljanje AI
Google, OpenAI in Microsoft so v zadnjem letu večkrat opozorili na tveganja, ki jih prinaša nepregledno razvijanje umetne inteligence. Razvoj naprednih modelov, ki jih zmorejo le še največja podjetja, postaja vse bolj centraliziran. Med osrednjimi prizadevanji izstopa Partnership on AI, konzorcij vodilnih tehnoloških podjetij, nevladnih organizacij in raziskovalnih ustanov, ki se zavzema za odprto razpravo in skupne standarde pri razvoju umetne inteligence. Pomembno vlogo ima tudi IEEE, ki pripravlja mednarodne standarde za etično uporabo AI.
Na zakonodajni ravni je najvidnejši primer evropska iniciativa EU AI Act, namenjena postavitvi pravnih okvirov za uporabo umetne inteligence. Zakonodaja predvideva stroge zahteve glede transparentnosti in varnosti, še posebej za sisteme, ki lahko pomembno vplivajo na človekove pravice. Podobne razprave potekajo tudi v Združenih državah Amerike, kjer se krepijo pozivi po enotni regulaciji in večji odgovornosti razvijalcev AI.
Vzporedno poteka tudi razprava o vlogi odprtokodnih skupnosti. Projekti, kot je Hugging Face, omogočajo širši dostop do orodij AI, vendar se pojavlja vprašanje, kako zagotoviti varnost in nadzor nad tehnologijami, ki jih lahko vsakdo prilagodi svojim ciljem. Ta odprtost sicer spodbuja inovacije, a zvišuje tudi tveganja za neustrezno ali škodljivo uporabo.
Transparentnost in njene pasti: konkretni izzivi ter evropski pogled
Eden izmed konkretnih izzivov, ki ga izpostavljajo regulatorji in raziskovalci, je pomanjkanje transparentnosti delovanja umetne inteligence. Sistemi, ki odločajo o kreditni sposobnosti posameznikov, zaposlitvenih možnostih ali sodnih postopkih, pogosto delujejo na način, ki ga končni uporabniki ali celo strokovnjaki težko razumejo. Posledica je, da lahko avtomatizirane odločitve povzročijo diskriminacijo ali neupravičeno zavrnitev, uporabniki pa nimajo dostopa do jasnega pojasnila, zakaj je bila odločitev taka.
Evropska unija naslavlja ta tveganja z določbami o pravici do razlage avtomatiziranih odločitev, ki jo predvideva tudi prihajajoči EU AI Act. Ta pristop lahko postane zgled tudi za druge dele sveta in odpira vprašanje, ali bo Evropa uspela določiti globalne standarde na področju odgovorne uporabe AI. Vzporedno opozarjajo strokovnjaki, da bo brez ustreznih smernic fragmentacija na trgu povzročila pravno negotovost in otežila sodelovanje med različnimi državami in podjetji.
Slovenska podjetja in raziskovalci sodelujejo pri pripravi evropskih smernic, pri čemer je poudarek na vključevanju vseh deležnikov in zagotavljanju, da prihodnost AI ne bo v rokah zgolj nekaj tehnoloških velikanov. V tem kontekstu se kot ključno vprašanje pojavlja, kakšno vlogo bo lahko odigrala Slovenija pri implementaciji najboljših praks in ali bodo lokalni inovatorji lahko ohranili konkurenčnost ob strogih evropskih pravilih.
Pogumne odločitve pri oblikovanju pravil igre bodo določile, ali bo umetna inteligenca prinesla koristi celotni družbi ali ostala v rokah peščice akterjev. Evropski pristop, ki izpostavlja človekove pravice, transparentnost in sodelovanje, bi lahko postal temelj za novo dobo odgovorne umetne inteligence. Ključno pa je vprašanje, ali bodo vsi deležniki pripravljeni poslušati in sodelovati pri tej viziji prihodnosti.
