# Hot Girl Hotline: AI za ljubezenske dileme obljublja varnejši pogovor, a ključna vprašanja ostajajo odprta
Newyorški startup Hot Girl Hotline razvija aplikacijo z umetno inteligenco za pogovore o zmenkih, odnosih in osebnih dilemah. Za projektom stojita sestri Baila in Sumrin »Sumi« Mudgil, ki ga predstavljata kot zasebno alternativo objavam na forumih, spraševanju prijateljev ali uporabi splošnonamenskih klepetalnikov, kot je ChatGPT.
Njuna osrednja obljuba je jasna: uporabnicam ponuditi neobsojajoč pogovor in dodatno perspektivo, ne pa graditi čustvenega »AI spremljevalca«. Toda prav na tem področju se začnejo pomembna vprašanja o varnosti, zasebnosti, pristranskosti in meji med koristnim nasvetom ter odnosom, ki lahko preraste v odvisnost.
Ni jasno, kako natančno deluje AI v ozadju
Hot Girl Hotline po navedbah ustanoviteljic uporablja kombinacijo več modelov umetne inteligence, vendar javno dostopne informacije ne razkrivajo, kateri modeli so to, kateri ponudniki jih zagotavljajo ali kako so prilagojeni za svetovanje o odnosih.
Prav tako ni podrobneje opisano, kaj v tehničnem smislu pomeni, da so nasveti »utemeljeni v vedenjski znanosti«. To bi lahko pomenilo vse od vnaprej določenih pogovornih pravil in varnostnih navodil do razvrščanja tveganih vsebin, analize tona pogovora ali uporabe strukturiranih vprašanj. Brez dodatnih tehničnih pojasnil ni mogoče presoditi, ali gre predvsem za standardni veliki jezikovni model z dobro pripravljenimi navodili ali za bolj specializiran sistem.
Podjetje navaja, da pri uporabi modelov tretjih ponudnikov uporablja politiko brez hrambe podatkov oziroma »zero data retention«. To praviloma pomeni, da zunanji ponudnik po obdelavi zahtevka ne bi smel dolgoročno shranjevati vsebine pogovora ali je uporabljati za nadaljnje učenje modelov. Vendar takšna politika sama po sebi še ne pove, kako dolgo podatke hrani Hot Girl Hotline, kdo ima do njih dostop, kako se obravnavajo varnostne kopije in ali se lahko posamezne informacije uporabijo za izboljševanje produkta v anonimizirani obliki.
Pri aplikaciji, kjer uporabniki razkrivajo podatke o partnerjih, spolnosti, konfliktih, duševnem počutju in družinskih odnosih, so to bistvena vprašanja.
Sokratski pristop: pomoč pri razmisleku ali prikrito usmerjanje?
Posebnost aplikacije naj bi bil sokratski pristop. Namesto neposrednih odgovorov naj bi UI uporabnici postavljala vprašanja, s katerimi ji pomaga oblikovati lastno presojo. To je načeloma manj tvegano kot kategorični nasveti v slogu »prekini odnos« ali »ostani z njim«.
Vendar sokratski dialog ni nevtralen zgolj zato, ker temelji na vprašanjih. Že izbira vprašanja lahko uporabnika usmeri v določeno interpretacijo: ali sistem sprašuje o mejah, zaupanju, komunikaciji, ljubosumju, čustveni varnosti ali rdečih zastavicah? Kateri vidik odnosa izpostavi najprej? In na podlagi katerih podatkov presodi, da je neko vprašanje primerno?
Pri generativni umetni inteligenci obstaja tveganje, da model zveni prepričljivo tudi takrat, ko nima dovolj konteksta. Pri odnosih to pomeni, da lahko sistem napačno razume šalo, kulturno razliko, enkraten konflikt ali nepopolno opisan dogodek kot dokaz širšega vzorca. Nasprotno pa lahko spregleda opozorilne znake čustvene manipulacije, nasilja ali prisile.
Ustanoviteljici navajata, da aplikacija v tveganih primerih uporabnice usmeri na pomoč, med drugim na ameriško krizno številko 988. Ni pa javno pojasnjeno, kako se takšni primeri prepoznajo, koliko je pri tem avtomatizacije, ali so varnostni mehanizmi testirani z neodvisnimi strokovnjaki in kakšna je stopnja napačnih alarmov oziroma spregledanih primerov.
»Nismo AI spremljevalec« ni popolna zaščita pred navezanostjo
Baila Mudgil poudarja, da Hot Girl Hotline ni namenjen reševanju osamljenosti, pobegu pred vsakdanom ali ustvarjanju čustvene odvisnosti. A razlika med »orodjem za nasvet« in »AI spremljevalcem« v praksi ni vedno ostra.
Uporabnik lahko čustveno navezanost razvije tudi na sistem, ki se predstavlja kot zaupanja vredna prijateljica ali starejša sestra. Še posebej, če je aplikacija vedno dosegljiva, odgovarja sočutno, si zapomni osebne okoliščine in ponuja personalizirane odzive. Prav personalizacija – prilagajanje vrednotam, ciljem, identiteti in okusom uporabnice – lahko izboljša uporabniško izkušnjo, hkrati pa okrepi občutek intimnega odnosa s sistemom.
Podjetje pravi, da zna AI pogovor tudi zaključiti in uporabnico spodbuditi k dejanjem v resničnem svetu, namesto da bi jo vodil v neskončno premlevanje. To je pomembna oblikovna odločitev, vendar brez vpogleda v konkretna pravila ni mogoče oceniti, ali je ta omejitev dosledna ali predvsem del trženjskega sporočila.
Del širšega trenda AI za čustveno podporo
Hot Girl Hotline ni prvi produkt, ki umetno inteligenco postavlja v vlogo sogovornika za osebne in čustvene teme. Na trgu že obstajajo AI spremljevalci, aplikacije za digitalno dobro počutje, klepetalniki za podporo duševnemu zdravju in številne storitve, ki uporabnike usmerjajo pri odnosih, navadah ali samorefleksiji.
Razlika Hot Girl Hotline je v nišnem pozicioniranju: ne želi nagovarjati vseh uporabnikov in vseh oblik čustvene podpore, temveč mlajše ženske z dilemami glede zmenkov in odnosov. Takšna osredotočenost lahko omogoči bolj ciljno oblikovanje tona, scenarijev in varnostnih pravil. Hkrati pa pomeni, da mora podjetje paziti na pristranskosti: nasvet, ki ustreza eni kulturni, družbeni ali vrednotni predstavi o odnosih, ni nujno ustrezen za vse uporabnice.
Ime je del produkta
Ime Hot Girl Hotline je očitno namenjeno določeni internetni in kulturni estetiki. Deluje igrivo, samozavestno in neposredno nagovarja mlajšo ciljno skupino. To je lahko učinkovita marketinška poteza v okolju, kjer se aplikacije borijo za pozornost na TikToku, Instagramu in v kulturi zmenkarskih aplikacij.
Toda ime hkrati ustvarja napetost z resnostjo vsebin, ki jih aplikacija obravnava. Pogovori o zavrnitvi, posesivnosti, prevari, osamljenosti ali duševni stiski niso nujno lahkotni. Prav zato bo za podjetje pomembno, ali bo uspelo ohraniti dostopen in topel ton, ne da bi banaliziralo težke izkušnje uporabnic.
Hot Girl Hotline je trenutno financiran brez zunanjih vlagateljev, dostopen pa je v sistemu iOS in prek spleta. Najaktivnejši uporabniki po navedbah TechCruncha že plačujejo 9,99 dolarja mesečne naročnine.
Osnovna ideja je razumljiva: ljudje že uporabljajo generativno AI za zelo osebna vprašanja, zato je smiselno razmišljati o varnejših in bolj omejenih oblikah takšne uporabe. Toda pri aplikaciji, ki posega v intimne odnose in čustveno ranljivost, niso dovolj le izjave o varovalkah. Ključni bodo preglednost delovanja, preverljive prakse varovanja podatkov, neodvisno testiranje varnostnih mehanizmov in jasne meje med podporo, usmerjanjem ter nadomeščanjem človeških odnosov.
