Ali lahko umetna inteligenca res pomaga pravočasno prepoznati in preprečiti samopoškodovalno vedenje – ali pa ustvarja nova tveganja za uporabnike? OpenAI je z uvedbo funkcije Trusted Contact postavil pomembno vprašanje o vlogi AI v občutljivih življenjskih situacijah. Gre za tehnološki poskus reševanja duševnih stisk, ki odpira številna vprašanja o zasebnosti, etiki in mejah umetne inteligence.
Izzivi etike in zasebnosti
Funkcija Trusted Contact pomeni, da AI analizira uporabnikove pogovore in lahko sproži obvestilo osebi, ki jo je uporabnik določil kot zaupanja vredno. S tem se pojavljajo pomembna vprašanja o ravnanju z občutljivimi podatki. Kdo ima dostop do teh pogovorov? Podjetje trdi, da so podatki zaščiteni in dostop omejen, a ostaja nejasno, kakšen je protokol, če uporabnik pozneje prekliče soglasje. Še pomembneje je vprašanje, kaj se zgodi, če AI napačno oceni situacijo in pošlje lažni alarm. Tak dogodek lahko povzroči nepotreben stres tako uporabniku kot obveščeni osebi.
Pritisk na zaupanja vredno osebo ni zanemarljiv. Osebe, ki prejmejo sporočilo, pogosto niso strokovno usposobljene za odzivanje v kriznih trenutkih, kar lahko povzroči dodatno stisko ali občutek odgovornosti. Odpira se tudi tveganje zlorabe funkcije, na primer za nadzor posameznika ali ustvarjanje lažnega občutka ogroženosti. Ostaja vprašanje odgovornosti: do kod sega odgovornost OpenAI in AI sistema, in kje se začne človeška odgovornost?
Omejitve trenutnega pristopa so očitne tudi pri obravnavi mejnih primerov. Če sistem napačno prepozna ton, sarkazem ali kulturne razlike, se lahko odločitev o obveščanju izkaže za napačno. Uporabnikom je omogočeno, da funkcijo izklopijo ali spremenijo nastavitve, a postopek mora biti jasen, hiter in diskreten, kar še ne odpravlja vseh pomislekov glede varnosti in psihološkega vpliva na uporabnika.
Meje umetne inteligence in uporabniška izkušnja
AI v ozadju funkcije Trusted Contact temelji na modelih naravnega jezikovnega procesiranja in strojnega učenja. Ti modeli zaznavajo ključne besede, fraze in vzorce, ki bi lahko kazali na duševno stisko. AI še vedno težko razume subtilnosti kot so sarkazem, ironične pripombe in kulturne razlike v izražanju stiske. Zaradi tega je možnost napačnih alarmov ali spregledanih opozoril realna. OpenAI poudarja, da AI ni strokovnjak za duševno zdravje, temveč le orodje za posredovanje.
Uporabniška izkušnja se začne z vklopom funkcije, kjer aplikacija jasno ponudi možnosti za določitev zaupanja vredne osebe. V primeru sprožitve alarma uporabnik prejme obvestilo, prav tako tudi kontaktna oseba, ki je o tem vnaprej obveščena in lahko dostopa do priporočil o ravnanju. Vendar pa se postavlja vprašanje, kako se uporabnik počuti, če ve, da ga AI ves čas spremlja. Poveča se lahko občutek varnosti, a hkrati tudi nelagodje ali sram, če se alarm sproži po nepotrebnem.
Možnost izklopa ali urejanja kontaktov mora biti dostopna brez zapletenih postopkov. Pomembno je, da je odločitev uporabnika spoštovana, sicer bi lahko občutek nadzora ali stigme še dodatno poslabšal duševno počutje. Psihološki vpliv na odnos med uporabnikom in kontaktno osebo je nepredvidljiv, še posebej če oseba ni pripravljena ali ne ve, kako ustrezno pomagati.
Kontekst v ekosistemu in prihodnost takih rešitev
OpenAI ni edini, ki razvija tovrstne funkcije. Podobne pobude so zasledili pri drugih tehnoloških korporacijah, kot sta Meta in Google, ki prav tako eksperimentirata z AI za prepoznavanje kriznih stanj v svojih platformah. Razlika je pogosto v načinu integracije in stopnji sodelovanja s strokovnjaki za duševno zdravje. Sodelovanje z zdravstvenimi organizacijami in nevladnimi institucijami je nujno, saj lahko le tako zagotovijo, da tehnologija ne nadomešča, temveč dopolnjuje strokovno pomoč.
Funkcija Trusted Contact je lahko pomemben člen v mreži podpore duševnemu zdravju, vendar nikoli ne sme biti razumljena kot nadomestek strokovnega svetovanja ali terapevtske pomoči. V najboljšem primeru lahko služi kot most do hitrejše intervencije, v najslabšem pa kot orodje za napačne ali celo škodljive odzive. Kritična presoja in sodelovanje s stroko ostajata ključna.
Predstavljajmo si hipotetično situacijo: mladostnik, ki se znajde v hudi stiski, se pogovarja z AI in izrazi obup. Sistem prepozna tvegane znake in sproži obvestilo materi, to pa vodi v hitro iskanje strokovne pomoči. Vendar pa bi lahko sistem v drugem primeru sprožil alarm pri povsem nenevarnem pogovoru, kar lahko sproži paniko ali zmedo v družini. Ti scenariji ponazarjajo, kako pomembno je, da razvoj takih funkcij spremljata previdnost in etična presoja.
