Vprašanja o varnosti umetne inteligence so v zadnjem letu vse bolj v ospredju, predvsem zaradi napetosti med največjima tehnološkima silama, ZDA in Kitajsko. Skrbi, povezane s kitajskimi AI modeli, vključujejo pomisleke glede državnega nadzora, možnosti kraje podatkov, pristranskosti algoritmov in uporabe za širjenje dezinformacij. V tem ozračju se v javnosti pogosto pojavljajo trditve, da bi kitajski odprtokodni AI modeli lahko predstavljali večje tveganje za druge uporabnike, še posebej ko gre za poslovna okolja ali javne storitve. Laboratorij Arcee, ki ima sedež v ZDA in velja za enega vodilnih centrov za razvoj in preizkušanje odprtokodnih rešitev umetne inteligence, je julija objavil poročilo, v katerem raziskuje te trditve ter izpostavlja pomen transparentnosti in odgovorne uporabe AI, ne glede na izvor tehnologije.
Teze laboratorija Arcee in konkretne posledice za uporabnike
Arcee v svojem poročilu poudarja, da izvor modela sam po sebi ne določa ravni tveganja. Po njihovih analizah ni dokazov, da bi kitajski odprtokodni modeli umetne inteligence vsebovali nevarnejše ali bolj skrite ranljivosti kot primerljivi modeli iz drugih držav. Ključno vlogo ima način, kako se ti modeli uporabljajo in kakšna je stopnja transparentnosti kode. Primer neodgovorne uporabe bi bil, če podjetje brez preverjanja implementira AI model, ki ga uporablja za obdelavo občutljivih osebnih podatkov, brez ustreznega nadzora ali razumevanja morebitnih posledic. Ravno pri takšnih scenarijih lahko odprtokodnost zelo pomaga – če je koda javno dostopna, jo lahko neodvisni strokovnjaki pregledajo in opozorijo na morebitne varnostne luknje.
Transparentnost odprtokodnih rešitev v praksi pogosto pomeni, da se napake hitreje prepoznajo in odpravijo. Arcee izpostavlja primer, ko je bila v enem izmed odprtokodnih modelov hitro zaznana potencialna varnostna težava, ker je skupnost razvijalcev nenehno spremljala spremembe in rešitve. To ne pomeni, da je vsa odprtokodna programska oprema enako varna – velikost in aktivnost skupnosti, ki stoji za določenim projektom, je pomemben dejavnik pri zmanjševanju tveganj. Manjši ali manj pregledi projekti lahko ostanejo spregledani, zato so uporabniki pozvani k dodatni previdnosti.
Poročilo priznava, da obstajajo razlike v regulativnih okvirih med državami, kar vpliva na uporabniško izkušnjo in varnost. V ZDA in EU veljajo stroge zahteve glede ravnanja s podatki ter odgovornosti za zlorabo AI, medtem ko so nekateri kitajski modeli lahko podvrženi drugačnim pravilom in nadzoru. Vendar Arcee meni, da se s pravim pristopom, ki vključuje odprtokodnost, neodvisno preverjanje in stalno nadgrajevanje, lahko zmanjša tveganje, ne glede na izvor modela. To odpira vprašanje, ali je za uporabnika bolj pomembno slediti izvoru modela ali spremljati, kako je model vključen v lastno okolje in kdo skrbi za njegovo varnost.
Evropski in slovenski kontekst: regulacija in prihodnji izzivi
Za slovenska podjetja in razvijalce je vprašanje izbire AI modela vse bolj aktualno, saj se soočajo z zahtevami evropske regulative, kot je EU AI Act. Ta zakonodaja zahteva oceno tveganj, transparentnost in sledljivost pri uporabi naprednih AI modelov, ne glede na to, iz katere države izvirajo. Poročilo laboratorija Arcee je v tem pogledu pomembno, saj opozarja, da ni smiselno zavračati kitajskih ali kateregakoli tujih modelov zgolj zaradi njihovega porekla, temveč je ključno, kako so modeli pregledani in kako se jih vključi v končno rešitev.
Evropska strategija na področju umetne inteligence stavi na varnost, preglednost in nadzor nad uporabo AI. Slovenska podjetja, ki pri razvoju ali uporabi umetne inteligence sodelujejo s tujimi partnerji, lahko s pomočjo odprtokodnih rešitev povečajo svojo konkurenčnost, pod pogojem, da sledijo najboljšim praksam varnosti in transparentnosti. Pri tem je pomembno, da imajo na voljo dovolj znanja in virov za preverjanje tako kode kot tudi samega poslovnega ali etičnega vpliva AI rešitev.
Prihodnji izzivi ostajajo povezani z vzpostavitvijo standardov, ki bodo veljali globalno. Le z mednarodnim sodelovanjem in izmenjavo izkušenj lahko države in podjetja zagotovijo okolje, kjer bo razvoj umetne inteligence varen, pregleden in v skladu z evropsko zakonodajo. To je še posebej pomembno v času, ko AI rešitve presegajo meje držav in postajajo temelj sodobne digitalne družbe.
