Anthropic je ob četrtkovem prvem nastopu na Wall Streetu, ki ga TechCrunch opisuje kot največjo prvo javno ponudbo delnic v zgodovini, znova poudaril zavezo k previdnemu razvoju umetne inteligence. Izvršni direktor Dario Amodei je pred začetkom trgovanja na borzi Nasdaq dejal, da podjetje ne bo popustilo poslovnim ali političnim pritiskom ter da morajo sistemi UI ostati pod človeškim nadzorom.
Amodei je napovedal, da bo Anthropic hitrost urjenja in uvajanja svojih sistemov prilagajal varnostnim preverjanjem. »V razvoj in uporabo sistemov UI bomo vnašali tempo ter si vzeli toliko časa, kot bo potrebno, da bomo prepričani, da so varni in bodo ostali pod človeškim nadzorom,« je dejal.
UI kot pomoč pri raziskovanju zdravljenja
V govoru je Amodei izhajal iz osebne izkušnje: z sestro Danielo sta očeta izgubila zaradi bolezni, ki je nekaj let pozneje postala ozdravljiva. Povedal je, da je kariero začel v biologiji z željo, da bi prispeval k hitrejšemu razvoju zdravljenj.
Po njegovih besedah znanstvenikom pri proučevanju bolezni primanjkuje časa in razpoložljive raziskovalne zmogljivosti. Kot področja, kjer naj bi Claude že pomagal pri raziskovalnem delu, je navedel zvijanje proteinov, načrtovanje zdravil, genetiko raka in administracijo kliničnih preskušanj.
Amodei meni, da bi dovolj zmogljiva umetna inteligenca v sodelovanju z ljudmi lahko močno pospešila znanstveni in medicinski napredek. Obenem je poudaril, da gre trenutno za zgodnje rezultate ter da bodo poskusi in klinična preskušanja še vedno zahtevali čas.
Podjetje izpostavlja zlorabe in izgubo nadzora
Direktor Anthropica je v govoru opozoril na, kot jih je opisal, zelo resnična tveganja umetne inteligence. Med njimi je navedel zlorabo tehnologije s strani posameznikov ali držav, gospodarske motnje in možnost izgube nadzora nad sistemi UI.
Po njegovih besedah ta tveganja niso neizogibna, če so vzpostavljene ustrezne varovalke. Anthropic namerava zato nadaljevati delo na usklajevanju sistemov UI s človeškimi cilji, testiranju ter metodah za boljše razumevanje in usmerjanje vedenja modelov.
»Najzahtevnejše varnostno delo je še pred nami,« je dejal Amodei. Dodal je, da bo moralo podjetje več svojih zmogljivosti usmeriti v večkratno preverjanje, ali so njegovi sistemi varni in pod človeškim nadzorom.
Podpora sodelovanju med vodilnimi podjetji
Amodei je že septembra predstavil predlog za postopnejši razvoj UI. Ta je med drugim vključeval usklajevanje vodilnih podjetij glede varnostnih standardov in vključevanje neodvisnih ocenjevalcev, ki bi preverjali spoštovanje varnostnih zavez.
TechCrunch navaja, da so stališče podprli izvršni direktor OpenAI Sam Altman, vodja Google DeepMind Demis Hassabis in lastnik xAI Elon Musk, vendar konkretnih zavez ni bilo veliko.
Daniela Amodei, soustanoviteljica Anthropica, je v četrtkovem pogovoru za CNBC dejala, da so tveganja resnična, hkrati pa je po njenem mnenju velik tudi potencial umetne inteligence. »Ustanovljeni smo bili z idejo, da je naša naloga zmanjševati ta tveganja,« je povedala in dodala, da podjetje ostaja globoko zavezano varnosti.

