Opozorila glede terapijskih chatbotov z umetno inteligenco
Raziskovalci na univerzi Stanford so opozorili na pomembna tveganja, povezana z uporabo terapijskih chatbotov, ki temeljijo na velikih jezikovnih modelih. Ti sistemi, namenjeni podpori uporabnikom z duševnimi težavami, lahko po njihovih ugotovitvah stigmatizirajo uporabnike ali pa odgovarjajo neprimerno, kar lahko v nekaterih primerih vodi tudi do nevarnih situacij.
Neprimerne reakcije in stigmatizacija uporabnikov
Chatboti, ki temeljijo na najnovejših tehnologijah umetne inteligence, so sicer zasnovani za pomoč pri duševnem zdravju, vendar raziskava kaže, da njihovi odgovori niso vedno natančni ali občutljivi na specifične potrebe ranljivih skupin. V določenih primerih so se ti sistemi odzvali na način, ki lahko uporabnike z duševnimi motnjami dodatno obremenjuje ali jih nepravično označuje. Takšni odzivi lahko poslabšajo stanje uporabnikov in povzročijo dodatni stres.
Poleg tega strokovnjaki svarijo, da so ti algoritmi še vedno nezadostno preverjeni v realnih pogojih in da lahko njihovo zanašanje na avtomatizirane odgovore brez ustreznega nadzora predstavlja resno tveganje za zdravje uporabnikov. To še posebej velja za ranljive skupine, ki potrebujejo individualizirano in strokovno podporo.
Potreba po previdnosti in regulaciji
Raziskava univerze Stanford izpostavlja, da je kljub napredku pri razvoju umetne inteligence v področju duševnega zdravja ključna previdnost pri njeni uporabi. Priporoča se vzpostavitev strogih regulativnih okvirov in etičnih smernic, ki bodo zagotavljali, da so terapijski chatbot programi varni, zanesljivi in usmerjeni v dobrobit uporabnikov.
Ker takšni sistemi še niso povsem zreli, strokovnjaki svetujejo, da naj jih uporabniki uporabljajo le kot dopolnilo k strokovni obravnavi in ne kot nadomestilo za osebni stik s terapevti. Vzporedno je treba izvesti dodatne raziskave, ki bodo izboljšale razumevanje tveganj in omogočile razvoj bolj zanesljivih in varnih rešitev za podporo duševnemu zdravju.
