Udobje, da si ura zapomni ravno izrečeno priporočilo ali povzame sestanek, je mamljivo. Toda ista zmožnost odpira neprijetno vprašanje: ali nam tehnologija, ki pomaga ujeti pomembne besede, hkrati jemlje pravico do pogovora brez občutka, da ga lahko nekdo neopazno spremeni v trajen zapis?
Apple je ob predstavitvi novih funkcij za Apple Watch napovedal zmogljivosti, ki z umetno inteligenco obdelujejo zvok iz okolice. Med njimi so Audio Intelligence, Live Rewind in Siri Recap. Podjetje poudarja, da ne ustvarja oziroma ne hrani zvočnih posnetkov, vendar to ne odpravi vprašanj o privolitvi, odgovornosti uporabnika in zasebnosti ljudi, katerih besede se lahko znajdejo v prepisu ali povzetku.
Od dostopnosti do zapisa pogovora
Med tremi funkcijami so pomembne razlike, zlasti z vidika zasebnosti.
Audio Intelligence je predvsem dostopnostna in varnostna funkcija. Z umetno inteligenco, ki deluje v napravi, lahko Apple Watch uporabnika opozori na pomembne zvoke, kot so sirene, alarmi, zvonec pri vratih ali jok dojenčka. Deluje lahko tudi, ko iPhone ni v bližini. Takšna uporaba ne ustvarja zapisa pogovora, temveč uporabniku pomaga zaznati dogodek v okolju. Za gluhe in naglušne osebe je lahko to pomembna pomoč, v nekaterih okoliščinah tudi varnostna.
Precej drugače je pri funkcijah Live Rewind in Siri Recap, saj obdelujeta govor drugih ljudi.
Live Rewind naj bi z dvojnim pritiskom na digitalno krono omogočil prepis zadnjih 15 sekund izrečenega. Uporabnik lahko zapis nato shrani v Applovo samostojno aplikacijo Siri. Apple kot možne primere navaja priporočilo za knjigo, idejo sodelavca ali podatek, ki ga uporabnik ni slišal prvič.
Toda meja med uporabno pomočjo pri pomnjenju in zapisovanjem nekoga drugega je zelo tanka. Sodelavec morda res izreče dobro idejo, vendar verjetno ne pričakuje nujno, da bo njegova izjava prepisana, shranjena in pozneje iskana v aplikaciji.
Siri Recap gre še korak dlje. Funkcija naj bi z uporabo zvoka iz okolice pripravljala splošne zapiske pogovorov: naslov, povzetek in ključne točke. Apple poudarja, da ne gre za dobesedne prepise. Kot primere navaja sestanke in pogovore med starši ter učitelji.
Apple ne shranjuje zvoka, a zapis ostaja zapis
Apple po navedbah v predstavitvi ne ustvarja ali shranjuje zvočnih posnetkov, surovi zvok pa naj ne bi bil dostopen niti podjetju. Sistem tudi ne bi prepoznaval oziroma pripisoval identitete govorcev, prepisi in povzetki pa naj bi bili zaščiteni s šifriranjem od konca do konca.
To so pomembne zaščite, vendar niso odgovor na vsa vprašanja. Čeprav zvočni posnetek ni shranjen, lahko prepis ali povzetek še vedno vsebuje osebne podatke, občutljive informacije, poslovne podrobnosti ali izjave, iztrgane iz konteksta.
Poleg tega povzetek, ki ga pripravi umetna inteligenca, ni nevtralen zapisnik. Sistem odloča, kaj je bistveno, katere točke poudariti in kako jih oblikovati. To pomeni, da lahko uporabnik pozneje razpolaga ne le z zapisom pogovora, temveč z interpretacijo pogovora, ki jo je ustvarila umetna inteligenca.
Kaj to pomeni v Sloveniji in EU?
Za slovenski in evropski prostor je treba razlikovati med zasebno rabo in uporabo v službi, šoli, ustanovi ali podjetju.
Če obdelava podatkov presega izključno osebno oziroma gospodinjsko uporabo, lahko pridejo v poštev pravila Splošne uredbe o varstvu podatkov (GDPR). Glas, vsebina pogovora in iz njih nastali prepisi lahko pomenijo osebne podatke, kadar je posameznika mogoče neposredno ali posredno določiti.
Organizacija, denimo podjetje, šola ali javni organ, zato ne more preprosto uvesti stalnega povzemanja pogovorov samo zato, ker je funkcija tehnološko na voljo. Potrebovala bi ustrezno pravno podlago, jasno obvestilo udeležencem, omejitev namena uporabe in varnostne ukrepe. Posebno občutljivi so pogovori, ki vključujejo zdravstvene, družinske, kadrovske ali druge občutljive podatke.
Tudi slovenska pravila glede tajnega prisluškovanja in zvočnega snemanja so stroga. Konkretna pravna presoja je odvisna od okoliščin: kdo sodeluje v pogovoru, kaj se zajema, ali gre za zasebni ali službeni prostor, ali so ljudje o tem obveščeni ter kaj se z zapisom naredi pozneje. Dejstvo, da naprava po Applovih navedbah ne hrani zvoka, samo po sebi ne pomeni, da za nastali prepis ali povzetek ne veljajo pravne in etične omejitve.
TechCrunch v izhodiščnem članku opozarja tudi na dokazno vprašanje: besedilni prepis brez izvirnega zvoka bi bilo lahko težje preveriti in potrditi kot avtentičen. To ni stališče konkretno navedenega pravnega strokovnjaka, temveč novinarska ocena, da se bodo pravila in sodna praksa okoli takšnih zapisov še oblikovali.
Odgovornost ni samo na Applu
Apple navaja, da Siri Recap ni privzeto vedno vključena. Uporabnik naj bi jo lahko omejil na določene ure dneva ali delovno okolje ter jo kadar koli izključil v Nadzornem središču. Pri Live Rewind naj bi sistem prikazal celozaslonsko animacijo mikrofona in predvajal zvočni signal.
Toda vprašanje je, ali je to dovolj za resnično obveščenost vseh prisotnih. Kratek zvok ali ikona na zaslonu ure sta lahko neopazna, zlasti v hrupnem prostoru, na sestanku ali med neformalnim pogovorom. Oseba, katere besede bodo pretvorjene v zapis, pogosto sploh ne bo vedela, da je funkcija aktivna.
Apple ima zato odgovornost, da uporabnike jasno opozarja na pravne in družbene posledice uporabe takšnih funkcij. Uporabnik pa ne more odgovornosti preložiti na napravo. Če želi zajemati pogovor drugih ljudi, bi moral o tem odkrito povedati, pridobiti potrebno privolitev ter dobro premisliti, ali je zapis res potreben.
Najpreprostejše pravilo ostaja tudi najbolj človeško: če ne bi bilo sprejemljivo, da bi nekdo med pogovorom na mizo postavil vidni snemalnik, verjetno ni samoumevno sprejemljivo niti, da njegove besede v zapis spremeni ura na zapestju.
Ko poslušanje postane običajna funkcija
Apple s temi funkcijami ni prvi. Naprave, kot so AI obeski in drugi osebni snemalniki, že stavijo na idejo, da je stalno ali skoraj stalno zajemanje informacij uporabna pomoč pri spominu. Razlika je v dosegu: Apple Watch je množično razširjena naprava, zato lahko takšne zmožnosti bistveno hitreje postanejo del vsakdana.
To lahko spremeni način, kako ljudje govorimo drug z drugim. Če obstaja možnost, da bo neformalna pripomba postala iskalni zapis ali povzetek, se lahko ljudje začnejo izražati bolj zadržano. Posledica ni nujno le večja previdnost, ampak tudi manj spontanosti, zaupanja in občutka zasebnosti v medosebnih odnosih.
Tehnologija, ki pomaga ljudem slišati, si zapomniti in organizirati informacije, ima nedvomno vrednost. Vendar mora družba jasno določiti, kdaj gre za dostopnost in samopomoč uporabnika ter kdaj za poseg v zasebnost nekoga drugega. Prihodnost umetne inteligence ne bo odvisna le od tega, kaj naprave zmorejo slišati, ampak tudi od pravil in navad, ki bodo odločale, česa ne smejo spremeniti v trajen digitalni spomin.
