Generativna umetna inteligenca že spreminja telefonske klice: podjetja lahko z glasovnimi agenti avtomatizirajo prodajo, podporo uporabnikom, izterjavo in obveščanje. Enaka tehnologija pa odpira prostor za prepričljive prevare, množične robotske klice in vse težje razlikovanje med človekom ter sintetiziranim glasom. Indija zdaj posega neposredno v ta prostor.
Indijski telekomunikacijski regulator TRAI je z novimi pravili za komercialne komunikacije določil, da bodo aplikacije za prepoznavanje klicateljev in upravljanje klicev morale prijave neželenih klicev posredovati telekomunikacijskim operaterjem. Hkrati je razširil nadzor nad avtomatiziranimi klici, vključno s tistimi, ki uporabljajo predhodno posnete ali z umetno inteligenco ustvarjene glasove.
Gre za pomemben premik: regulacija se ne osredotoča več le na vsebino posameznega klica, temveč tudi na njegovo tehnološko infrastrukturo, način vzpostavitve in podatke, s katerimi sistemi prepoznavajo spam. Za ponudnike AI glasovnih rešitev to pomeni, da postaja vprašanje skladnosti z regulatorji enako pomembno kot kakovost sintetiziranega glasu ali zmogljivost pogovornega modela.
Prijave uporabnikov kot del telekomunikacijske infrastrukture
Po novih pravilih bodo morale aplikacije, ki uporabnikom omogočajo označevanje klicev kot neželenih ali sumljivih, prijave posredovati na platformo telekomunikacijskih operaterjev. Ta platforma temelji na tehnologiji veriženja blokov in je namenjena spremljanju komercialnih komunikacij ter izvajanju ukrepov proti spamu.
TRAI trdi, da želi s tem povečati količino podatkov, ki so na voljo za ukrepanje proti pošiljateljem neželenih klicev. V teoriji bi lahko operaterji hitreje prepoznali vzorce zlorab, blokirali problematične številke in omejili množične kampanje, še preden dosežejo veliko število uporabnikov.
Toda pri aplikacijah, ki za zaznavanje spama uporabljajo strojno učenje, prijave uporabnikov niso le administrativni podatek. So pomemben signal, s katerim modeli ocenjujejo ugled telefonskih številk, prepoznavajo nove taktike goljufov in izboljšujejo samodejno filtriranje klicev. Obvezno deljenje teh podatkov zato odpira vprašanje, komu dejansko pripada vrednost podatkov, ki jih ustvarjajo uporabniki.
Truecaller, eden največjih ponudnikov takšnih storitev, je ukrep označil za enosmerno izmenjavo podatkov in za protikonkurenčnega. Podjetje meni, da mora telekomunikacijskim operaterjem predajati komercialno dragocene informacije, ne da bi bilo jasno, kaj bo dobilo v zameno.
To vprašanje je posebej pomembno v Indiji, ki je največji trg za Truecaller. Podjetje ima v državi več kot 350 milijonov uporabnikov, globalno pa več kot 500 milijonov mesečno aktivnih uporabnikov. Pri identifikaciji in blokiranju neželenih klicev uporablja kombinacijo skupnostnih prijav, avtomatiziranega zaznavanja in drugih signalov.
Po podatkih podjetja so njegovi uporabniki v Indiji leta 2025 naleteli na okoli 42 milijard neželenih klicev. V številko so vključeni blokirani, označeni in prezrti klici. Truecaller je navedel še, da je v istem obdobju blokiral skoraj 12 milijard takšnih klicev.
UI klic ni nujno problem – neprijavljen avtomatiziran klic pa bo
Najpomembnejši del spremembe za področje umetne inteligence je nova obravnava avtomatiziranih klicev. Klici, ki se vzpostavijo brez neposrednega ročnega izbiranja številke, bodo uvrščeni v okvir komunikacij med aplikacijo in osebo oziroma A2P.
Pravila zajemajo robotske klice, avtomatizirane sisteme ter klice s predhodno posnetimi ali umetno ustvarjenimi glasovi. Podjetja bodo morala telekomunikacijskim operaterjem vnaprej prijaviti uporabo takih sistemov in telefonske številke, s katerih opravljajo klice. Neprijavljeni A2P-klici bodo obravnavani kot spam.
To ne pomeni prepovedi glasovne umetne inteligence. Satya N. Gupta, nekdanji dodatni sekretar pri TRAI, je poudaril, da ureditev podjetjem ne preprečuje uporabe umetne inteligence ali drugih tehnologij za avtomatizirano klicanje. Od njih zahteva predvsem razkritje uporabe takšnih tehnologij telekomunikacijskim operaterjem.
Ključni regulatorni test naj bi bil način začetka klica in ne zgolj to, ali je glas ustvarjen z umetno inteligenco. To je pomembna razlika. Človeški agent lahko na primer uporablja AI orodje za povzemanje pogovora, predlaganje odgovorov ali prevajanje v realnem času, ne da bi bil sam klic nujno avtomatiziran. Nasprotno pa lahko sistem samodejno sproži tisoče klicev, tudi če uporablja povsem običajen posneti glas.
V praksi meja ne bo vedno jasna. Sumeysh Srivastava iz svetovalnega podjetja The Quantum Hub opozarja, da ostaja negotovost pri AI-podprtih klicih, pri katerih sodeluje človek. Kazim Rizvi iz think tanka The Dialogue pa opozarja, da bi lahko široka opredelitev A2P zajela tudi kontaktne centre in storitve »klikni za klic«, kjer je človek še vedno del procesa.
Če bo definicija preširoka, lahko regulacija zajame tudi legitimne poslovne primere, ki jih ne bi smela obravnavati enako kot množične goljufive robotske klice. Če bo preozka, pa bodo goljufi lahko našli tehnične obvoze.
Zasebnost, podatki in prihodnost modelov za prepoznavanje spama
Pravila še ne pojasnjujejo dovolj natančno, katere podatke bodo morale aplikacije predati. To je bistvena odprta točka. Obstaja velika razlika med posredovanjem posamezne prijave uporabnika, da je določena številka neželena, in deljenjem širših podatkovnih zbirk, signalov zaupanja, modelskih ocen tveganja ali analitičnih metod.
Rizvi opozarja, da bodo potrebna jasna pravila o obsegu podatkov, obveščanju uporabnikov, pridobivanju soglasja ter hrambi in nadaljnji uporabi informacij. TRAI ni odgovoril niti na vprašanje, ali bodo zahteve veljale tudi za funkcije prijavljanja neželenih klicev, ki so že vgrajene v Android, iOS in sistemske telefonske aplikacije.
Za AI podjetja je to več kot vprašanje zasebnosti. Podatki o neželenih klicih so lahko ključni za učenje sistemov, ki zaznavajo prevaro, manipulativne vzorce in sumljive številke. Če bodo regulativne zahteve določile, da morajo biti ti podatki centralizirani pri operaterjih, se lahko spremeni razmerje moči med aplikacijami, telekomi in ponudniki AI rešitev.
Na eni strani bi centraliziran sistem lahko izboljšal odziv proti organiziranim prevaram. Na drugi strani pa pomeni koncentracijo občutljivih komunikacijskih signalov in odpira vprašanja dostopa, nadzora ter poslovne uporabe podatkov.
Indija kot preizkusni primer za regulacijo glasovne umetne inteligence
Indija zaradi velikosti svojega digitalnega trga in obsega neželenih klicev predstavlja pomemben preizkusni primer. Če se bo model izkazal za učinkovit, bi lahko vplival na razmišljanje regulatorjev tudi drugod: ne nujno v enaki obliki, temveč kot načelo, da morajo ponudniki avtomatiziranega klicanja razkriti tehnologijo, identiteto in uporabljene številke.
Za evropske in slovenske ponudnike AI rešitev je sporočilo jasno. Razvoj prepričljivega sintetičnega glasu sam po sebi ne bo dovolj. Glasovni agenti bodo morali postati preverljivi, sledljivi in skladni s pravili posameznih trgov. Prihodnji boj proti telefonskim prevaram se zato ne bo odvijal le med goljufi in operaterji, temveč tudi med modeli umetne inteligence, podatkovnimi platformami in regulatorji, ki bodo odločali, kdo sme klicati, pod kakšnimi pogoji in s kakšno stopnjo transparentnosti.
