Sodišče v ameriški zvezni državi Novo Mehiko je Meta Platforms, lastnico družbenih omrežij Facebook in Instagram, obsodilo k dodatnemu plačilu 567 milijonov dolarjev v odmevnem sodnem primeru State of New Mexico v. Meta Platforms, Inc. Razsodba je rezultat dolgoletne tožbe, ki so jo sprožili državni tožilci zaradi domnevnega ogrožanja otrok in mladostnikov, ki uporabljajo Instagram. Sodni postopek je sledil večletnim opozorilom nevladnih organizacij in zveznih agencij glede pomanjkljivosti pri zaščiti mladih uporabnikov na platformah podjetja Meta.
Kronologija spora in odzivi vpletenih
Sodni spor se je začel leta 2023, ko je pisarna državnega tožilca Nove Mehike skupaj z več starši vložila tožbo proti Meti. Prvi večji preobrat se je zgodil istega leta, ko je sodišče začasno odredilo uvedbo dodatnih zaščitnih mehanizmov na Instagramu. Sledile so obsežne preiskave algoritmov, ki priporočajo vsebine, in preverjanje učinkovitosti obstoječih filtrov za zaščito mladoletnih uporabnikov.
Meta je doslej v primeru zatrjevala, da aktivno vlaga v izboljšanje varnosti otrok in da platforma že omogoča številne funkcije za prijavo neprimernih vsebin ter starševski nadzor. Po nedavni odločitvi je podjetje sporočilo, da so “zavezani vzpostavitvi varnega digitalnega okolja za vse uporabnike, še posebej za otroke”. Državni tožilec pa je poudaril, da “Meta ni storila dovolj ter je dovolila, da so škodljive vsebine ostale dostopne mladim uporabnikom”.
Organizacije za zaščito otrok so sodbo pozdravile kot prelomnico in dodale, da je “pomembno, da tehnološka podjetja odgovarjajo za posledice svojih algoritmov in slabih praks”. Pravni strokovnjaki menijo, da gre za najvišjo dosojeno kazen na področju zaščite otrok v digitalnem okolju v ZDA doslej.
Podrobnosti o ukrepih in AI perspektiva
Sodba poleg denarne kazni zahteva tudi konkretne izboljšave. Meta bo morala v roku šestih mesecev uvesti naprednejša AI orodja za prepoznavo in blokiranje škodljivih vsebin, ki so namenjene ali dostopne mlajšim od 16 let. Prav tako mora razširiti orodja za prijavo neprimernih vsebin, omogočiti več možnosti starševskega nadzora ter pogostejše interno testiranje učinkovitosti algoritmov za varnost otrok.
V prihodnje bo Meta pod nadzorom neodvisnih revizorjev, ki bodo redno preverjali, ali podjetje ustrezno izvaja predpisane varnostne ukrepe. Uporabniška izkušnja mladostnikov na Instagramu bo zaradi tega bistveno drugačna: več opozoril pri nevarnih vsebinah, omejitve pri interakcijah z neznanci in proaktivno brisanje sumljivih računov.
V središču primera je tudi vprašanje uporabe umetne inteligence. Preiskava je pokazala, da so AI algoritmi na Instagramu pogosto priporočali vsebine, ki bi lahko škodile psihičnemu zdravju otrok. Sodišče je zato odredilo razvoj novih AI rešitev, ki bodo bolje prepoznavale in filtrirale škodljive objave. Meta že napoveduje partnerstva z raziskovalnimi institucijami za razvoj bolj transparentnih in odgovornejših AI sistemov, ki bodo lahko učinkoviteje zaščitili otroke pred tveganji na spletu.
