Close Menu
    Najnovejše objave

    Nvidia pred ključnim poročilom: Kress pod pritiskom zaradi Kitajske, čipov in krize v vrhu

    November 16, 2026

    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti

    November 16, 2026

    Trump o domnevni aferi nekdanjega šefa Nvidie: Nacionalna varnost ni bila ogrožena

    November 16, 2026
    • Demos
    • Buy Now
    Vse novice in druge informacije – Umetna inteligenca v Sloveniji
    Subscribe
    Tuesday, November 17
    • Domov
    • Splošno o UI
    • Intervjuji s SLO podjetji
    • Generativna UI
    • UI za grafike
    • AI zakonodaja
    • Konference in dogodki o UI
    • Tedenski podcast o UI
    • Oglaševanje
    • O nas
    Vse novice in druge informacije – Umetna inteligenca v Sloveniji
    Home » Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti

    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti

    Peter MesarecBy Peter MesarecNovember 16, 2026 No Comments3 Mins Read
    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti
    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti
    Share
    Facebook Twitter LinkedIn Pinterest Email

    Kalifornijski državni tožilec Rob Bonta je vložil tožbo proti podjetju OpenAI. Urad mu očita, da njegove prakse usposabljanja modelov in nezadostni varnostni ukrepi pomenijo trajno nevarnost za javnost.

    Tožba se osredotoča na incident iz julija 2026, povezan s platformo Hugging Face. Po navedbah v tožbi je predizdajni model OpenAI med izvajanjem učnega preizkusa ogrozil varnostne sisteme obeh podjetij. OpenAI je v uradnem poročilu dogodek označil za »izjemen scenarij«, ki ga je povzročil redek in nepričakovan splet okoliščin.

    Tožba omenja še druge incidente

    Kalifornijsko tožilstvo v vlogi poleg dogodka s Hugging Face navaja podobne incidente, povezane z RubyGems, DseWiki, Fundacijo Wikimedia in spletnimi mesti avstralske vlade. Ti primeri naj bi po navedbah tožbe kazali, da takšno vedenje ni osamljen dogodek.

    V tožbi je tudi navedeno, da se je zgodilo več deset dodatnih podobnih incidentov, ki niso bili javno razkriti. OpenAI naj bi po navedbah tožilstva nedavno obvestil več deset tretjih oseb, katerih spletna mesta ali notranje sisteme so domnevno infiltrirali agenti podjetja.

    V nekaterih primerih naj bi agenti pridobili dostop do občutljivih osebnih podatkov, denimo evidenc zaposlenih z imeni, datumi rojstva in naslovi. Tožba navaja, da večina teh dogodkov ni bila javno obravnavana niti s strani OpenAI niti s strani prizadetih organizacij.

    Očitek o trajnem tveganju za javnost

    Osrednji pravni očitek je, da stalne prakse testiranja pri OpenAI predstavljajo javno škodljivost oziroma poseganje v javni interes, ker naj bi pomanjkanje varnostnih mehanizmov pomenilo nadaljnje tveganje za javnost. Drugi zahtevek podjetju očita nelojalno konkurenco zaradi trženja nevarnega izdelka.

    Če bi bila tožba uspešna, bi sodišče lahko OpenAI naložilo ukrepe za odpravo domnevne trajne škode za javnost. Vir navaja, da bi to sodišču pustilo precejšnjo diskrecijsko pravico pri določanju ukrepov.

    Gre za prvi regulatorni postopek, ki OpenAI neposredno obravnava zaradi incidentov z nekontroliranim delovanjem agentov. Drugi ameriški zvezni državi sta podjetje letos že obravnavali v ločenih primerih: floridski državni tožilec je junija vložil tožbo zaradi domnevno škodljivih učinkov na uporabnike, zlasti otroke in najstnike, alabamaški tožilec pa je avgusta začel preiskavo domnevnih zavajajočih praks, povezanih z vdorom. Tožba v Alabami po navedbah vira še ni bila vložena.

    Bonta: podjetje je javnost zavajalo

    Rob Bonta je tožbo predstavil kot ukrep za zaščito javne varnosti ob uporabi nove tehnologije. Po njegovih besedah naj bi ravnanje OpenAI povečalo kibernetska tveganja v resničnem svetu ter ogrozilo varnost, zdravje in dobrobit družbe.

    »Podjetje je zavestno preizkušalo nevaren izdelek brez ustreznega nadzora ali varnostnih postopkov in o tem zavajalo javnost,« je dejal Bonta. Dodal je, da je načelo preprosto: ne početi stvari, ki lahko škodijo ljudem, brez ustreznih zaščitnih ukrepov.

    OpenAI je v odzivu poudaril, da je po incidentu s Hugging Face izvedel obsežno preiskavo in izboljšal svoje sisteme. Podjetje meni, da tožba posebej izpostavlja OpenAI zaradi izziva, ki so ga zaznali vsi večji laboratoriji za umetno inteligenco.

    »Neusklajenost sistemov jemljemo resno,« so sporočili iz OpenAI. Dodali so, da bodo še naprej sodelovali s kalifornijskim državnim tožilstvom pri izmenjavi informacij in razvoju »močnih, praktičnih varnostnih standardov« za celotno panogo.

    Peter Mesarec

    Ustanovitelj SEOS AI, predavatelj in svetovalec o uporabi umetne inteligence v podjetjih.

    Add A Comment
    Leave A Reply Cancel Reply

    Sorodna Objava
    Kategorije
    • AI zakonodaja (53)
    • Generativna Umetna Inteligenca (1,157)
    • Orodja UI (155)
    • Splošno o umetni inteligenci (77)
    • UI Dogodki (40)
    • UI v podjetjih (19)
    • UI za grafike (3)
    • Uncategorized (21)
    Splošno o UI

    Kaj sploh je Akt o UI in zakaj je pomemben?

    Kalifornija prva uvaja stroga pravila za AI digitalne spremljevalce: kaj to pomeni za uporabnike in industrijo

    Bivši britanski premier Rishi Sunak svetovalec Microsofta in Anthropica pri oblikovanju AI politik

    Kalifornija uvaja prvi celovit zakon o varnosti umetne inteligence in izziva Evropo z novimi pravili

    Kategorije
    • AI zakonodaja (53)
    • Generativna Umetna Inteligenca (1,157)
    • Orodja UI (155)
    • Splošno o umetni inteligenci (77)
    • UI Dogodki (40)
    • UI v podjetjih (19)
    • UI za grafike (3)
    • Uncategorized (21)
    Najnovejše objave

    Nvidia pred ključnim poročilom: Kress pod pritiskom zaradi Kitajske, čipov in krize v vrhu

    November 16, 2026

    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti

    November 16, 2026

    Trump o domnevni aferi nekdanjega šefa Nvidie: Nacionalna varnost ni bila ogrožena

    November 16, 2026
    Vse pravice pridržane seos.si | Theme: News Portal
    • O nas
    • Oglaševanje

    Type above and press Enter to search. Press Esc to cancel.