Bi umetna inteligenca lahko spremenila prihodnost javne uprave ali odpira vrata novim tveganjem? Kalifornija je kot prva ameriška zvezna država sklenila dogovor, ki njenim uradnikom omogoča uporabo naprednega sistema Claude podjetja Anthropic po polovični ceni, kar sproža razprave o koristi, nevarnostih in prenosljivosti takšnih praks v evropski prostor. V času, ko umetna inteligenca že preoblikuje storitve po svetu, se javni sektor sooča z vprašanji, ki zadevajo varnost podatkov, vpliv na zaposlitve in prihodnjo digitalno suverenost držav.
Konkretna raba Claude v kalifornijski javni upravi: več kot avtomatizacija
Platforma Claude bo v kalifornijski javni upravi uporabljena na področjih, ki zahtevajo hitrejše obdelovanje podatkov, avtomatizacijo administrativnih postopkov in boljšo komunikacijo z državljani. Med konkretnimi nalogami izstopa pomoč pri obdelavi vlog za gradbena dovoljenja, avtomatizirano odgovarjanje na vprašanja prebivalcev ter priprava analiz za oblikovanje javnih politik. Sistem naj bi omogočal tudi optimizacijo internih procesov, kot so upravljanje s kadri ali urejanje evidenc, kar lahko zmanjša obremenitev zaposlenih in izboljša odzivnost uprave.
S takšnim uvajanjem umetne inteligence se pojavljajo nova tveganja. Obdelava vlog in analiziranje velikih količin osebnih podatkov predstavlja varnostno tveganje, če sistemi niso ustrezno zaščiteni pred zunanjimi vdori ali zlorabo s strani notranjih uporabnikov. Prav pri avtomatiziranih komunikacijah obstaja nevarnost pristranskosti algoritmov, ki lahko neenakomerno obravnavajo posamezne demografske skupine ali reproducirajo obstoječe neenakosti.
Kalifornijska vlada je zato vzpostavila dodatne varovalke, med katerimi so neodvisne varnostne revizije, stroga pravila glede zasebnosti in periodična preverjanja delovanja algoritmov. Kljub temu se pojavljajo pomisleki neodvisnih strokovnjakov, da bo dolgotrajni nadzor nad algoritmi in zaščita občutljivih podatkov izziv, zlasti če množično uvajanje umetne inteligence preseže zmogljivosti trenutnih regulatornih organov.
Kritični izzivi in širše lekcije za Slovenijo in EU
V Sloveniji in EU so razprave o uporabi umetne inteligence v javnem sektorju v polnem teku, pri čemer ključni evropski regulativni okvirji, kot sta Uredba AI Act in GDPR, postavljajo strožje pogoje za varovanje zasebnosti, transparentnost in odgovornost. Za razliko od Kalifornije evropski javni sektor ne more tako preprosto sklepati dogovorov s ponudniki umetne inteligence, saj mora upoštevati lokalne in evropske standarde. V Sloveniji že potekajo pilotni projekti avtomatizacije v zdravstvu, socialnem varstvu in upravnih postopkih, vendar je uvajanje počasnejše prav zaradi strogih zahtev glede varnosti in zaščite podatkov.
Poleg tehničnih vprašanj so pomembni tudi etični izzivi: Kako javni sektor zagotovi, da sistemi umetne inteligence ne ogrožajo demokratičnega odločanja in varstva človekovih pravic? Primer Kalifornije izpostavlja tudi tveganje prevelike odvisnosti od enega ponudnika – kar lahko v prihodnosti vodi do pomanjkanja izbire, višjih stroškov in manjšega nadzora države nad ključnimi digitalnimi sistemi.
Za Slovenijo in EU je ključno vprašanje, kako prenesti inovativnost in učinkovitost, hkrati pa ohraniti suverenost, transparentnost in zaščito javnega interesa. Dogovor Kalifornije s podjetjem Anthropic lahko služi kot študija primera: priložnosti, ki jih prinaša umetna inteligenca, se lahko uresničijo le skozi regulatorno uravnoteženje, stalno neodvisno preverjanje delovanja in odprto razpravo o vplivu na družbo in demokracijo.
Prihodnost javnega sektorja: digitalizacija, nadzor in (ne)odvisnost
Povečano zanašanje držav na storitve peščice tehnoloških podjetij rodi vprašanja o politični in ekonomski suverenosti. Če bodo javne storitve temeljile na komercialnih modelih, ki jih razvijajo globalna podjetja, lahko države izgubijo del nadzora nad tem, kako se podatki obdelujejo, kje so shranjeni in kdo ima dostop do njih. V prihodnosti bodo za preprečevanje teh tveganj ključni razvoj odprtokodnih rešitev, evropska standardizacija in okrepljeno sodelovanje med državami članicami.
Dogovor Kalifornije je napoved večjega trenda digitalizacije javnih storitev po svetu, kjer umetna inteligenca ni več zgolj pomočnik, ampak pomemben akter v procesih odločanja. S tem se poveča potreba po mehanizmih transparentnosti in demokratičnega nadzora, saj se lahko družbeni vpliv takšnih sistemov hitro razširi izven začetno načrtovanih okvirov. Za Slovenijo je ključnega pomena, da se vključi v mednarodne razprave o standardih, si izmenjuje izkušnje ter gradi lastne kompetence za razvoj in nadzor umetne inteligence v javnih storitvah.
Prihodnji razvoj bo odvisen od vzpostavitve zaupanja med državljani, javnim sektorjem in tehnološkimi podjetji. Le ob jasnih pravilih, učinkovitem nadzoru in nenehnem izobraževanju zaposlenih lahko umetna inteligenca postane orodje, ki učinkovito služi družbi in ohranja demokratične vrednote.
