Close Menu
    Najnovejše objave

    Everful zbral 48,5 milijona dolarjev za AI nabavo neposredno iz kitajskih tovarn

    November 19, 2026

    Amodei ob zgodovinskem IPO Anthropica: razvoj UI ne sme prehiteti varnosti

    November 19, 2026

    Anthropicov IPO razkriva milijardni krog vlagateljev in dobaviteljev AI

    November 19, 2026
    • Demos
    • Buy Now
    Vse novice in druge informacije – Umetna inteligenca v Sloveniji
    Subscribe
    Thursday, November 19
    • Domov
    • Splošno o UI
    • Intervjuji s SLO podjetji
    • Generativna UI
    • UI za grafike
    • AI zakonodaja
    • Konference in dogodki o UI
    • Tedenski podcast o UI
    • Oglaševanje
    • O nas
    Vse novice in druge informacije – Umetna inteligenca v Sloveniji
    Home » Amodei ob zgodovinskem IPO Anthropica: razvoj UI ne sme prehiteti varnosti

    Amodei ob zgodovinskem IPO Anthropica: razvoj UI ne sme prehiteti varnosti

    Peter MesarecBy Peter MesarecNovember 19, 2026 No Comments3 Mins Read
    Amodei ob zgodovinskem IPO Anthropica: razvoj UI ne sme prehiteti varnosti
    Amodei ob zgodovinskem IPO Anthropica: razvoj UI ne sme prehiteti varnosti
    Share
    Facebook Twitter LinkedIn Pinterest Email

    Anthropic je ob četrtkovem prvem nastopu na Wall Streetu, ki ga TechCrunch opisuje kot največjo prvo javno ponudbo delnic v zgodovini, znova poudaril zavezo k previdnemu razvoju umetne inteligence. Izvršni direktor Dario Amodei je pred začetkom trgovanja na borzi Nasdaq dejal, da podjetje ne bo popustilo poslovnim ali političnim pritiskom ter da morajo sistemi UI ostati pod človeškim nadzorom.

    Amodei je napovedal, da bo Anthropic hitrost urjenja in uvajanja svojih sistemov prilagajal varnostnim preverjanjem. »V razvoj in uporabo sistemov UI bomo vnašali tempo ter si vzeli toliko časa, kot bo potrebno, da bomo prepričani, da so varni in bodo ostali pod človeškim nadzorom,« je dejal.

    UI kot pomoč pri raziskovanju zdravljenja

    V govoru je Amodei izhajal iz osebne izkušnje: z sestro Danielo sta očeta izgubila zaradi bolezni, ki je nekaj let pozneje postala ozdravljiva. Povedal je, da je kariero začel v biologiji z željo, da bi prispeval k hitrejšemu razvoju zdravljenj.

    Po njegovih besedah znanstvenikom pri proučevanju bolezni primanjkuje časa in razpoložljive raziskovalne zmogljivosti. Kot področja, kjer naj bi Claude že pomagal pri raziskovalnem delu, je navedel zvijanje proteinov, načrtovanje zdravil, genetiko raka in administracijo kliničnih preskušanj.

    Amodei meni, da bi dovolj zmogljiva umetna inteligenca v sodelovanju z ljudmi lahko močno pospešila znanstveni in medicinski napredek. Obenem je poudaril, da gre trenutno za zgodnje rezultate ter da bodo poskusi in klinična preskušanja še vedno zahtevali čas.

    Podjetje izpostavlja zlorabe in izgubo nadzora

    Direktor Anthropica je v govoru opozoril na, kot jih je opisal, zelo resnična tveganja umetne inteligence. Med njimi je navedel zlorabo tehnologije s strani posameznikov ali držav, gospodarske motnje in možnost izgube nadzora nad sistemi UI.

    Po njegovih besedah ta tveganja niso neizogibna, če so vzpostavljene ustrezne varovalke. Anthropic namerava zato nadaljevati delo na usklajevanju sistemov UI s človeškimi cilji, testiranju ter metodah za boljše razumevanje in usmerjanje vedenja modelov.

    »Najzahtevnejše varnostno delo je še pred nami,« je dejal Amodei. Dodal je, da bo moralo podjetje več svojih zmogljivosti usmeriti v večkratno preverjanje, ali so njegovi sistemi varni in pod človeškim nadzorom.

    Podpora sodelovanju med vodilnimi podjetji

    Amodei je že septembra predstavil predlog za postopnejši razvoj UI. Ta je med drugim vključeval usklajevanje vodilnih podjetij glede varnostnih standardov in vključevanje neodvisnih ocenjevalcev, ki bi preverjali spoštovanje varnostnih zavez.

    TechCrunch navaja, da so stališče podprli izvršni direktor OpenAI Sam Altman, vodja Google DeepMind Demis Hassabis in lastnik xAI Elon Musk, vendar konkretnih zavez ni bilo veliko.

    Daniela Amodei, soustanoviteljica Anthropica, je v četrtkovem pogovoru za CNBC dejala, da so tveganja resnična, hkrati pa je po njenem mnenju velik tudi potencial umetne inteligence. »Ustanovljeni smo bili z idejo, da je naša naloga zmanjševati ta tveganja,« je povedala in dodala, da podjetje ostaja globoko zavezano varnosti.

    Peter Mesarec

    Ustanovitelj SEOS AI, predavatelj in svetovalec o uporabi umetne inteligence v podjetjih.

    Add A Comment
    Leave A Reply Cancel Reply

    Sorodna Objava
    Kategorije
    • AI zakonodaja (53)
    • Generativna Umetna Inteligenca (1,157)
    • Orodja UI (155)
    • Splošno o umetni inteligenci (77)
    • UI Dogodki (40)
    • UI v podjetjih (19)
    • UI za grafike (3)
    • Uncategorized (21)
    Splošno o UI

    Kaj sploh je Akt o UI in zakaj je pomemben?

    Kalifornija prva uvaja stroga pravila za AI digitalne spremljevalce: kaj to pomeni za uporabnike in industrijo

    Bivši britanski premier Rishi Sunak svetovalec Microsofta in Anthropica pri oblikovanju AI politik

    Kalifornija uvaja prvi celovit zakon o varnosti umetne inteligence in izziva Evropo z novimi pravili

    Kategorije
    • AI zakonodaja (53)
    • Generativna Umetna Inteligenca (1,157)
    • Orodja UI (155)
    • Splošno o umetni inteligenci (77)
    • UI Dogodki (40)
    • UI v podjetjih (19)
    • UI za grafike (3)
    • Uncategorized (21)
    Najnovejše objave

    Everful zbral 48,5 milijona dolarjev za AI nabavo neposredno iz kitajskih tovarn

    November 19, 2026

    Amodei ob zgodovinskem IPO Anthropica: razvoj UI ne sme prehiteti varnosti

    November 19, 2026

    Anthropicov IPO razkriva milijardni krog vlagateljev in dobaviteljev AI

    November 19, 2026
    Vse pravice pridržane seos.si | Theme: News Portal
    • O nas
    • Oglaševanje

    Type above and press Enter to search. Press Esc to cancel.