Flock Safety, ameriško podjetje, ki razvija sisteme za prepoznavanje registrskih tablic, je zaposlenim ponudilo odpravnine za prostovoljni odhod. Po poročanju Wired želi podjetje s tem zmanjšati število zaposlenih, ne da bi takoj izvedlo klasična odpuščanja.
Flock naj bi imel približno 1.500 zaposlenih, vodstvo pa naj bi pričakovalo večje zanimanje za program. Interno obvestilo je ponujene pakete opisalo kot najradodarnejše doslej. Wired navaja tudi, da bi podjetje brez prostovoljnih odhodov skoraj zagotovo moralo odpustiti del ekipe.
Odločitev prihaja v obdobju vse močnejšega nasprotovanja uporabi Flockove tehnologije. The Washington Post je avgusta navedel 46 primerov domnevne zlorabe sistema, med njimi primere, v katerih naj bi policisti tehnologijo uporabili za sledenje ženam, partnerkam ali nekdanjim partnerkam. Florida in Teksas sta napovedala opustitev uporabe tehnologije, skupina za zaščito pred nadzorom pa je navedla, da je sodelovanje s Flockom samo avgusta prekinilo 90 mest.
## AI kot jedro sistemov za prepoznavanje tablic
Sistemi za samodejno prepoznavanje registrskih tablic praviloma temeljijo na računalniškem vidu, optičnem prepoznavanju znakov in modelih strojnega učenja. Kamera najprej zazna vozilo in območje tablice, sistem nato iz slike izlušči znake ter jih primerja z bazami podatkov ali opozorilnimi seznami.
Takšna tehnologija lahko policiji pomaga pri iskanju ukradenih vozil ali osumljencev, vendar njena razširjena uporaba odpira pomembna vprašanja. Tudi kadar sistem tehnično pravilno prebere tablico, lahko zbiranje podatkov skozi čas omogoči sestavljanje podrobnega vzorca gibanja posameznikov. Težava zato ni le natančnost algoritma, temveč tudi vprašanje, kdo ima dostop do podatkov, za kakšen namen jih lahko uporablja in kako dolgo se hranijo.
Pri sistemih računalniškega vida so pomembne tudi napake in pristranskosti podatkov. Slabša kakovost posnetkov, svetlobne razmere, poškodovane tablice ali neustrezno učenje modelov lahko vodijo v napačne zadetke. Če so takšni sistemi povezani s policijskimi postopki, imajo lahko napačne odločitve neposredne posledice za posameznike.
## Odgovornost podjetij in regulacija
Primer Flocka kaže, da tehnološko podjetje ne more odgovornosti omejiti zgolj na razvoj programske opreme. Ključni so zaščitni ukrepi proti notranjim zlorabam, jasna pravila dostopa, beleženje uporabe sistema, neodvisni nadzor ter učinkovite sankcije ob kršitvah.
V Evropi širši okvir predstavlja Akt EU o umetni inteligenci oziroma AI Act, ki za določene rabe umetne inteligence določa strožje zahteve glede upravljanja tveganj, dokumentacije, človeškega nadzora in transparentnosti. Pravna obravnava posameznega sistema za prepoznavanje tablic je odvisna od njegove konkretne uporabe, vendar je smer jasna: bolj ko AI posega v nadzor, varnost in temeljne pravice ljudi, večja mora biti odgovornost razvijalcev in uporabnikov.
Izvršni direktor Flocka Garrett Langley je dejal, da je odziv javnosti najbolj prizadel notranjo moralo podjetja. A širše vprašanje ostaja pomembnejše: kje potegniti mejo med legitimno uporabo AI za javno varnost in infrastrukturo množičnega nadzora, ki jo je mogoče zlorabiti?
