Uporaba umetne inteligence v terapiji: zakonodaja, tveganja in priporočila za Slovenijo
V zadnjih letih opažamo hitro širitev uporabe umetne inteligence (UI) na številnih področjih, tudi v podpori duševnemu zdravju in terapijah. V Sloveniji že obstajajo primeri spletnih rešitev, ki uporabljajo pogovorne asistente za svetovanje ali samopomoč, kar pa odpira številna vprašanja glede varstva osebnih podatkov, zasebnosti, pa tudi odgovornosti za morebitne napake ali zlorabe.
Slovenski pravni okvir: ZVOP-2 in Splošna uredba o varstvu podatkov (GDPR)
V Sloveniji ureja področje varovanja osebnih podatkov predvsem Zakon o varstvu osebnih podatkov (ZVOP-2) ter Splošna uredba o varstvu podatkov (GDPR). ZVOP-2 določa stroge pogoje za obdelavo osebnih in posebej občutljivih podatkov, kamor sodijo tudi podatki o zdravju. Vsi, ki obdelujejo take podatke – torej tudi podjetja ali posamezniki, ki nudijo UI terapevtske rešitve –, morajo zagotavljati soglasje uporabnika, varnost podatkov, pravico do izbrisa, omejitve obdelave in podobno. Prav tako zakon prepoveduje obdelavo občutljivih podatkov brez izrecne pravne podlage ali izrecnega soglasja.
Posebej pomembno je, da za izvajanje (psihološke) terapije v Sloveniji obstajajo dodatne poklicne in etične zahteve. Licencirani psihologi in psihoterapevti so zavezani k poklicni molčečnosti ter strokovni odgovornosti. Kadar pa pomoč nudi UI, ta ne izpolnjuje pogojev za varovano terapevtsko razmerje, kar pomeni, da je stopnja pravne zaščite podatkov lahko bistveno manjša kot v tradicionalnem terapevtskem odnosu.
Uporaba umetne inteligence v terapevtskem kontekstu
Medtem ko se v javnosti največ omenja ChatGPT, je v resnici ponudnikov UI rešitev za področje psihološke podpore več. Značilnost vseh teh sistemov je, da delujejo brez osebne avtentikacije, licenciranja ali poklicne odgovornosti. Uporabnikova komunikacija z UI je shranjena v informacijskih sistemih ponudnika, ki običajno ni zavezan strogi molčečnosti, ki bi veljala za človeške izvajalce psihološke pomoči.
Posebej problematično je, da zaupni pogovor s “terapevtsko UI” ni zajet s klasičnim razmerjem terapevt-klient, zato tudi ni podvržen pravni zaščiti, kot je poklicna molčečnost. V primeru spora, uhajanja informacij ali napačnih nasvetov UI, lahko uporabnik uveljavlja le pravice iz naslova varstva osebnih podatkov, ne pa ugotovljene nepremostljive škode, kot bi jo lahko v primeru napake usposobljenega terapevta.
Stališča slovenskih strokovnjakov
Po mnenju strokovnjakov za pravo in varstvo podatkov je uporaba UI za psihološke svetovalne storitve v Sloveniji izjemno tvegana, če ni vzpostavljenih dodatnih varoval in nadzora. Odvetniki opozarjajo, da v primeru uhajanja podatkov uporabnik praviloma nima enakih pravnih vzvodov kot pri tradicionalnih terapevtskih odnosih.
Psihologi poudarjajo, da UI ne zmore zagotavljati empatije, etičnih standardov in strokovnega presojanja, ki jih zahtevajo slovenske smernice in kodeksi duševnozdravstvene stroke. Slovenski etični kodeks za psihologe, ki zavezuje k varstvu zasebnosti in koristi klienta, za UI ne velja, ker UI ni posameznik z odgovornostjo.
Primeri tveganj in možnih zapletov
V praksi lahko pride do različnih zapletov. Če UI, ki temelji na avtomatski analizi besedila, napačno interpretira simptome in poda neprimeren nasvet, ni jasne odgovornosti za posledice – za razliko od človeškega terapevta, ki nosi poklicno odgovornost.
Če pride do uhajanja podatkov, so lahko razkriti izredno občutljivi podatki o uporabnikovem duševnem zdravju, kar ima lahko trajne psihosocialne in pravne posledice (npr. stigmatizacija, diskriminacija pri zaposlitvi ipd.). V primeru tovrstnega incidenta lahko uporabnik sicer poda prijavo informacijski pooblaščenki, a možnosti za učinkovito reparacijo so omejene.
Možne rešitve in usmeritve za prihodnost
Za večjo varnost in zaščito uporabnikov UI v terapevtske namene strokovnjaki priporočajo naslednje ukrepe:
– Obvezno vključevanje slovenskih standardov za informacijsko varnost, kot jih določa ZVOP-2, in uporaba strogega šifriranja ter anonimizacije podatkov.
– Jasna in dostopna obvestila o obdelavi podatkov ter omejitev obdelave izključno na nujno potrebne podatke.
– Reden strokovni nadzor in certificiranje UI rešitev za terapevtsko rabo, v sodelovanju s slovenskimi strokovnimi združenji psihologov in informatike.
– Razvoj nacionalnih smernic in priporočil za uporabo UI v duševnem zdravju, ki bi jasno določile, katere funkcije so primerne za avtomatizacijo in kje mora biti vključena človeška strokovna pomoč.
– Omejitev uporabe UI za podporo in samopomoč, ne pa za diagnostiko ali kompleksne terapevtske postopke.
Uporabnikom svetujemo veliko previdnost – vseh občutljivih osebnih podatkov o zdravju in psihološkem stanju ne zaupajte UI, če ni jasno opredeljeno, kako so varovani in kdo nosi odgovornost. Prav tako naj se regulatorji čim prej odločijo za sprejem posebnih pravil in nadzora nad tovrstnimi rešitvami, saj se v Sloveniji povpraševanje in ponudba v tej smeri hitro razvijata.
Dolgoročno je potrebna vzpostavitev tesnejšega sodelovanja med razvijalci, odvetniki, regulatorji in stroko, da bo razvoj umetne inteligence v terapiji varen in koristen za vse uporabnike v Sloveniji.
