Varen AI za najstnike: Je novi ChatGPT res odgovor na izzive digitalne dobe? Umetna inteligenca je postala stalnica v vsakdanjem življenju mladih in s tem tudi predmet skrbi številnih staršev ter učiteljev po vsem svetu. Ko najstniki vsakodnevno raziskujejo digitalni svet, se številni sprašujejo, ali so orodja, ki jih uporabljajo, dovolj varna in kako jih lahko zaščitimo pred nevarnostmi spletnega okolja. OpenAI je nedavno predstavil novo različico ChatGPT, namenjeno prav tej skupini uporabnikov, s čimer želi nasloviti pereče vprašanje: koliko lahko umetna inteligenca zares zaščiti najmlajše pred tveganji, ki jih prinaša splet?
Ali je “varna AI” sploh mogoča?
Podjetje je v novo različico ChatGPT vključilo dodatne varnostne funkcije, ki naj bi blokirale dostop do neprimerne vsebine in omejile možnosti zlorab. V praksi to pomeni, da bo sistem prepoznal in zavrnil vprašanja o občutljivih temah, kot so samopoškodovanje, nasilje ali ilegalne dejavnosti. Če bi najstnik poskušal poiskati informacije o nevarnih izzivih na družbenih omrežjih ali načinih goljufanja pri šolskih nalogah, ga ChatGPT ne bo podprl, ampak bo ponudil varne in spodbudne odgovore ali ga napotil k zanesljivim virom pomoči.
Vendar pa se pojavljajo vprašanja, ali lahko algoritmi vedno sledijo kreativnosti mladih pri iskanju “lukenj” v sistemu ali pri preoblikovanju vprašanj, da zaobidejo filtre. Strožje omejitve lahko pomenijo tudi tveganje za prekomerno cenzuro in omejevanje relevantnih izobraževalnih informacij, zlasti če AI orodje napačno prepozna delikatno vprašanje kot škodljivo. Poleg tega se nekateri strokovnjaki sprašujejo, kakšen vpliv ima filtriranje vsebine na razvoj kritičnega mišljenja in digitalne pismenosti pri mladih, če jim je ves čas ponujena le varna različica informacij.
Zavedanje o omejitvah umetne inteligence je pomembno, saj noben filter ni popoln. Najstniki danes pogosto prehitevajo razvoj zaščitnih ukrepov, zato se odgovornost porazdeli med tehnološka podjetja, starše in izobraževalce. Kritično vprašanje ostaja, ali je mogoče ustvariti popolnoma varen prostor za digitalno raziskovanje ali so najpomembnejše veščine še vedno dialog doma in v šoli ter spodbujanje odgovorne uporabe novih tehnologij.
Kaj pomeni “varen AI” v praksi: izzivi, priložnosti in scenariji uporabe
Nova različica ChatGPT omogoča staršem in skrbnikom pregled nad uporabo orodja. V praksi to lahko pomeni prejemanje periodičnih poročil o temah, ki zanimajo njihove otroke, možnost nastavitve urnikov uporabe ali celo blokado določenih vprašanj. Če najstnik poskuša dostopati do potencialno spornih informacij, AI odgovori nevtralno ali preusmeri pozornost na varne vsebine. Uporabniški nadzor vključuje tudi možnost nastavitve različnih stopenj filtriranja – od temeljnega bloka neprimerne vsebine do naprednejših orodij, kot so pregledi zgodovine pogovorov.
Tipične nevarnosti, na katere želi podjetje odgovoriti, vključujejo izkoriščanje AI za širjenje dezinformacij, iskanje nasvetov za nevarne izzive ali uporabo orodja za medvrstniško nadlegovanje. Posebej velik izziv so sofisticirani poskusi izogibanja filtrom, kjer lahko mladi uporabniki s preoblikovanimi vprašanji ali metaforami zaobidejo osnovne zaščite. Novi sistem se temu poskuša zoperstaviti z naprednimi jezikovnimi modeli, ki prepoznajo tudi posredna vprašanja ali prikrite namige.
Vse večja uporaba AI med mladimi odpira tudi vprašanje, kako vpliva na njihove veščine reševanja problemov in odločanja. Če jim ChatGPT vedno ponudi le “pravilen” odgovor in jih odvrača od tveganih tem, obstaja nevarnost, da bodo razvili odvisnost od tehnologije in izgubili priložnost za učenje iz napak. Pomembno je, da inovacije na tem področju spremljajo tudi ustrezne vzgojne strategije in podpora s strani šol in družin.
Evropski okvir in slovenske izkušnje: učenje iz globalnih trendov
Vprašanje etike in odgovornosti pri uporabi umetne inteligence v izobraževanju in družini postaja tudi v Sloveniji vse bolj aktualno. Evropska unija je z uredbo o digitalnih storitvah (DSA) in načrtovanim Aktom o umetni inteligenci vzpostavila jasnejše okvire za zaščito otrok na spletu. Slovenski starši, učitelji in šole se že srečujejo z izzivi nadzora uporabe AI, pri čemer se pojavljajo pobude za izobraževanje otrok o tveganjih ter za razvoj lastnih smernic varne uporabe.
V šolah se začenja razprava o tem, kako pravilno vključiti AI orodja v pouk, ne da bi pri tem ogrozili zasebnost in varnost otrok. Nekatere slovenske starševske organizacije pozivajo k večji transparentnosti pri uporabi tovrstnih orodij in k vzpostavitvi nacionalnih priporočil za varno uporabo umetne inteligence. Uspešnost novih pristopov bo odvisna od sodelovanja med šolami, družinami in tehnološkimi podjetji.
OpenAI-jeva poteza kaže, da se tudi globalni velikani zavedajo odgovornosti pri razvoju AI za mlade. V Sloveniji bo prihodnost uporabe umetne inteligence v veliki meri odvisna od pravočasnega odzivanja na tehnološke novosti in implementacije dobrih praks, ki izhajajo iz najnovejših globalnih izkušenj. Vprašanje, ali lahko AI resnično zagotovimo varno in spodbudno okolje za mlade, ostaja odprto tudi v našem prostoru.
