Zasebnost na nitki: Pametna očala podjetja Meta v središču škandala zaradi zlorabe podatkov
Nedavno razkritje, da so zaposleni pri podjetju Meta pregledovali posnetke, ki jih zajemajo njihova pametna očala z umetno inteligenco, je sprožilo val ogorčenja in vprašanj o varnosti osebnih podatkov. Uporabniki so presenečeni, da lahko zasebni trenutki, vključno z intimnimi prizori, pristanejo na zaslonih anonimnih delavcev, ki naj bi s tem »izboljševali delovanje umetne inteligence«. Skupinska tožba v ZDA opozarja na pomanjkljivo zaščito zasebnosti in sproža razpravo o tem, ali so trenutni zakoni in regulative, kot je GDPR v Evropski uniji, sploh zmožni zaščititi uporabnike pred sodobnimi praksami zbiranja podatkov.
Vloga umetne inteligence in etične dileme pri obdelavi občutljivih podatkov
Podjetje Meta je pojasnilo, da so zaposleni analizirali zajete posnetke zato, da bi izboljšali algoritme umetne inteligence, predvsem na področjih, kot so prepoznavanje čustev, konteksta, vedenjskih vzorcev in glasovnih ukazov. Pri tem so bili vključeni tudi eksplicitni in občutljivi trenutki, saj naj bi »realni podatki« omogočali hitrejše in natančnejše učenje AI sistemov. Strokovnjaki opozarjajo, da se prav tu pojavlja ključno vprašanje: ali lahko podjetje za urjenje naprednih modelov uporablja takšne posnetke brez izrecnega in granularnega soglasja vsakega posameznega uporabnika?
Alternativne prakse za urjenje umetne inteligence vključujejo uporabo sintetičnih podatkov, anonimizacijo ali zbiranje podatkov zgolj na podlagi jasno pojasnjenega soglasja za vsako vrsto vsebine posebej. V številnih primerih bi podjetja lahko podatke uporabnikov ustrezno zaščitila z večstopenjskim nadzorom, strogo omejitvijo dostopa ter uporabo metod, ki posnetke samodejno zabrišejo že na napravi. Etična dilema izvira prav iz »podatkovne lakote« sodobne umetne inteligence in vedno večjih zahtev, ki jih imajo sistemi za učenje iz raznolikih in realnih situacij.
Z vidika uporabnikov in strokovnjakov za varstvo podatkov je ključno, da podjetja postavijo jasne meje pri uporabi občutljivih podatkov za razvoj umetne inteligence. Kadar podjetja zanemarijo načelo minimalnosti podatkov ali ne zagotovijo možnosti učinkovitega nadzora uporabnikov nad podatki, lahko hitro prestopijo mejo sprejemljivega. Primer Meta smartglasses postavlja nova vprašanja o tem, ali ni mogoče doseči tehnološkega napredka z manj invazivnimi metodami.
Regulativni okvir, pravice uporabnikov in prihodnost zaupanja v AI naprave
Skupinska tožba proti podjetju Meta, ki jo je vložila skupina uporabnikov v Kaliforniji, temelji na domnevni kršitvi več zakonov, vključno z ameriškim zakonodajnim okvirom in evropsko Uredbo o varstvu osebnih podatkov (GDPR). V Evropi so se že odzvali nekateri nacionalni regulatorji, kot sta Urad informacijskega pooblaščenca v Sloveniji in Evropski odbor za varstvo podatkov, ki preučujejo, ali podjetje zagotavlja ustrezno transparentnost, nadzor nad podatki in možnosti izbrisa oziroma omejitve obdelave občutljivih vsebin.
Za prihodnost AI naprav bo ključno, da podjetja upoštevajo najboljše prakse varovanja zasebnosti: uporabniki morajo biti jasno in v razumljivem jeziku obveščeni, kako in zakaj se njihovi podatki zbirajo ter kdo ima dostop do njih. Poleg tega je treba zagotavljati možnost izrecnega in granularnega soglasja, strog interni nadzor nad dostopom do posnetkov ter hitro odzivanje na morebitne zlorabe. Primeri iz preteklosti, kot so incidenti s pametnimi zvočniki ali sistemi za prepoznavanje obrazov, kažejo, da tehnološka podjetja pogosto prestopijo začrtane meje, če jim to dopušča pomanjkljiva regulativa ali premajhen nadzor uporabnikov.
Za uporabnike to pomeni večjo potrebo po ozaveščenosti in poznavanju svojih pravic. Pred nakupom ali uporabo pametnih očal oziroma drugih AI naprav naj preverijo, katere podatke naprava zbira, kako jih obdeluje in katerim tretjim osebam jih lahko posreduje. Razvoj umetne inteligence sicer ponuja številne prednosti, vendar je vprašanje zaupanja in zaščite zasebnosti danes bolj aktualno kot kadarkoli prej. Novi škandali pa bodo najverjetneje še naprej vplivali na zakonodajno okolje in standarde, ki jih bodo morala upoštevati tako velika kot manjša podjetja.
