GPT TL;DR: Evropski parlament sprejel Akt o umetni inteligenci za zaupanja vredno UI
Evropski parlament je sprejel prelomen Akt o umetni inteligenci, ki uvaja celovita pravila za zaupanja vredno uporabo UI v Evropi. Akt zagotavlja, da bo UI v Evropi varen, bo spoštoval temeljne pravice in demokracijo ter hkrati omogočil razvoj gospodarstva.
Med ključnimi določbami akta so varnostni ukrepi za splošno uporabo UI, omejitve za uporabo biometričnih identifikacijskih sistemov s strani organov pregona, prepovedi socialnega ocenjevanja in UI za manipulacijo ali izkoriščanje ranljivosti uporabnikov. Akt prav tako določa jasne obveznosti za visoko tvegane UI sisteme in predpisuje kazni za neskladnost.
V aktu so izrecno prepovedane naslednje uporabe UI:
- Biometrični kategorizacijski sistemi, ki uporabljajo občutljive značilnosti, kot so politična, verska, filozofska prepričanja, spolna usmerjenost in rasa.
- Neciljano zbiranje slik obrazov z interneta ali iz CCTV posnetkov za ustvarjanje baz podatkov za prepoznavanje obrazov.
- Prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah.
- Socialno ocenjevanje, ki temelji na socialnem vedenju ali osebnih lastnostih.
- UI sistemi, ki manipulirajo s človeškim vedenjem, da bi obšli svobodno voljo.
- UI, ki se uporablja za izkoriščanje ranljivosti ljudi zaradi njihove starosti, invalidnosti, socialnega ali ekonomskega položaja.
Ta akt predstavlja pomemben korak za Evropo na poti do uravnoteženega in etičnega razvoja UI, pri čemer daje poudarek na varovanje pravic državljanov in spodbujanju inovacij.
Ukrepi za podporo inovacijam in MSP-jem:
Evropski poslanci so želeli zagotoviti, da podjetja, še posebej MSP-ji, lahko razvijajo UI rešitve brez nepotrebnega pritiska s strani industrijskih velikanov, ki obvladujejo verigo vrednosti. V ta namen sporazum spodbuja tako imenovane regulativne peskovnike in testiranje v realnem svetu, ki jih vzpostavljajo nacionalni organi za razvoj in usposabljanje inovativnega UI pred uvedbo na trg.
Sankcije in začetek veljavnosti:
Neskladnost s pravili lahko privede do glob, ki se gibljejo od 35 milijonov evrov ali 7% svetovnega prometa do 7,5 milijona evrov ali 1,5 % prometa, odvisno od kršitve in velikosti podjetja. Akt bo zaključen v 2024 in bo postopoma stopal v veljavo vse do 2026.
Kritike zakonodaje
Kritike razumljivo prihajajo iz različnih glasov in strani.
Prva kritika prihaja že iz procesa priprave zakonodaje, saj je trajal tako dolgo, da so se v vmesnem času zgodile izjemne spremembe. Prihod Chat GPT in drugih LLM je AI act le delno zajel, saj je bil v velikem delu že pripravljen.
Zakonodajo so v Juniju 2023 že kritizirali predstavniki gospodarstva, saj naj bi delala EU nekonkurenčno s prevelikimi omejitvami, več kot 160 vodilnih mož in žena iz največjih evropskih podjetij je takrat podpisalo odprto pismo (vir).
Viri:
- https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
- https://www.forbes.com/sites/craigsmith/2023/09/05/act-one-opposition-takes-center-stage-against-eu-ai-legislation/?sh=772759c249b8
- https://eaiforum.org/news-insights/eaif-welcomes-landmark-agreement-on-ai-act
- https://www.igizmo.it/wp-content/uploads/2023/06/Open-Letter-EU-AI-Act-and-Signatories.pdf
