Close Menu
    Najnovejše objave

    Nvidia pred ključnim poročilom: Kress pod pritiskom zaradi Kitajske, čipov in krize v vrhu

    November 16, 2026

    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti

    November 16, 2026

    Trump o domnevni aferi nekdanjega šefa Nvidie: Nacionalna varnost ni bila ogrožena

    November 16, 2026
    • Demos
    • Buy Now
    Vse novice in druge informacije – Umetna inteligenca v Sloveniji
    Subscribe
    Tuesday, November 17
    • Domov
    • Splošno o UI
    • Intervjuji s SLO podjetji
    • Generativna UI
    • UI za grafike
    • AI zakonodaja
    • Konference in dogodki o UI
    • Tedenski podcast o UI
    • Oglaševanje
    • O nas
    Vse novice in druge informacije – Umetna inteligenca v Sloveniji
    Home » OpenAI uvaja nov sistem za zaznavanje zlorabnih podob otrok

    OpenAI uvaja nov sistem za zaznavanje zlorabnih podob otrok

    Peter MesarecBy Peter MesarecNovember 16, 2026 No Comments3 Mins Read
    OpenAI uvaja nov sistem za zaznavanje zlorabnih podob otrok
    OpenAI uvaja nov sistem za zaznavanje zlorabnih podob otrok
    Share
    Facebook Twitter LinkedIn Pinterest Email

    OpenAI je predstavil več novih orodij za preprečevanje širjenja posnetkov spolne zlorabe otrok (CSAM). Med njimi so klasifikator slik za zaznavanje takšnih vsebin, opozorila in začasne blokade v ChatGPT, smernice za razvijalce ter orodja za organe pregona.

    Novi klasifikator lahko zazna slike CSAM, tudi če so bile ustvarjene z umetno inteligenco. OpenAI bo izbranim podjetjem brezplačno omogočil dostop do orodja prek vmesnika API. Sistem išče vizualne znake zlorabe tudi na slikah, ki jih prej ni obravnaval, ter ocenjevalcem dodeli oceno v pomoč pri pregledovanju vsebin.

    OpenAI navaja, da je klasifikator razvil skupaj z ameriškim Nacionalnim centrom za pogrešane in izkoriščane otroke (NCMEC). Pri širjenju dostopa do orodja sodeluje tudi z organizacijama Tech Coalition in ROOST.

    Po navedbah podjetja je klasifikator v zgodnjih testih pri partnerjih označil 48 odstotkov manj slik, ob tem pa našel enako število zlorabnih posnetkov. Slike, ki jih je označil kot problematične, so bile po navedbah OpenAI dvakrat pogosteje dejansko zlorabne.

    Opozorila in začasne blokade v ChatGPT

    OpenAI v ChatGPT uvaja opozorilne zaslone za uporabnike, ki skušajo dostopati do vsebin, ki seksualizirajo otroke. Ob takšnih pozivih bo aplikacija uporabnika opozorila, ga usmerila do specializirane podpore za preprečevanje škodljivega vedenja in njegov račun za 24 ur začasno blokirala.

    ChatGPT že blokira vsebine CSAM in zahteve, povezane z njimi. OpenAI je ob tem navedel, da lahko ponavljajoče se kršitve privedejo do trajne odstranitve uporabniškega računa.

    Podjetje je sporočila in smernice za tovrstne primere oblikovalo z organizacijami in raziskovalci. Med njimi so Protect Children, fundacija Lucy Faithfull Foundation ter Joel Scanlan z Univerze Tasmanije, ki je neodvisno ocenil preizkus odvračilnih sporočil.

    Smernice za razvijalce in podpora preiskovalcem

    OpenAI je objavil tudi smernice za razvijalce, ki uporabljajo njegova orodja. Namenjene so preprečevanju in zaznavanju vsebin CSAM ter pomoči uporabnikom pri njihovem prijavljanju.

    Po navedbah podjetja so smernice v zgodnjem testiranju več razvijalcem pomagale pri uvedbi orodij za zaščito otrok in registraciji za prijavljanje vsebin CSAM organizaciji NCMEC.

    Podjetje hkrati organom pregona, ki se ukvarjajo z zaščito otrok, ponuja funkcije z umetno inteligenco. Te vključujejo namenske vtičnike, preiskovalna orodja in analizo kompleksnih podatkov. Dostop bodo upravljali administratorji programa, OpenAI pa preiskovalcem zagotavlja tudi usposabljanje in terenski priročnik za uporabo umetne inteligence.

    Ukrep po več spremembah varnostnih politik

    OpenAI se je v zadnjih 12 mesecih že lotil več sprememb svojih tehnologij in pravil. Objavil je varnostni načrt, posodobil smernice glede vsebin, da bi prepovedal neprimerne vsebine, prilagodil modele za preprečevanje ustvarjanja škodljivih vsebin ter predstavil posebno različico ChatGPT za najstnike.

    Podjetje se je v preteklosti soočilo tudi z več tožbami, v katerih mu očitajo, da je njegova tehnologija škodovala uporabnikom, zlasti otrokom. Neprofitna organizacija Common Sense Media je tehnologijo OpenAI za najstnike označila kot »nesprejemljivo tveganje«. Vir ob tem navaja, da so bili drugi klepetalniki z umetno inteligenco, zlasti Grok, uporabljeni za ustvarjanje seksualiziranih podob brez privolitve, tudi podob otrok.

    Peter Mesarec

    Ustanovitelj SEOS AI, predavatelj in svetovalec o uporabi umetne inteligence v podjetjih.

    Add A Comment
    Leave A Reply Cancel Reply

    Sorodna Objava
    Kategorije
    • AI zakonodaja (53)
    • Generativna Umetna Inteligenca (1,157)
    • Orodja UI (155)
    • Splošno o umetni inteligenci (77)
    • UI Dogodki (40)
    • UI v podjetjih (19)
    • UI za grafike (3)
    • Uncategorized (21)
    Splošno o UI

    Kaj sploh je Akt o UI in zakaj je pomemben?

    Kalifornija prva uvaja stroga pravila za AI digitalne spremljevalce: kaj to pomeni za uporabnike in industrijo

    Bivši britanski premier Rishi Sunak svetovalec Microsofta in Anthropica pri oblikovanju AI politik

    Kalifornija uvaja prvi celovit zakon o varnosti umetne inteligence in izziva Evropo z novimi pravili

    Kategorije
    • AI zakonodaja (53)
    • Generativna Umetna Inteligenca (1,157)
    • Orodja UI (155)
    • Splošno o umetni inteligenci (77)
    • UI Dogodki (40)
    • UI v podjetjih (19)
    • UI za grafike (3)
    • Uncategorized (21)
    Najnovejše objave

    Nvidia pred ključnim poročilom: Kress pod pritiskom zaradi Kitajske, čipov in krize v vrhu

    November 16, 2026

    Kalifornija toži OpenAI zaradi domnevno nevarnih incidentov z AI agenti

    November 16, 2026

    Trump o domnevni aferi nekdanjega šefa Nvidie: Nacionalna varnost ni bila ogrožena

    November 16, 2026
    Vse pravice pridržane seos.si | Theme: News Portal
    • O nas
    • Oglaševanje

    Type above and press Enter to search. Press Esc to cancel.