Težave z orodjem Claude podjetja Anthropic
Podjetje Anthropic, poznano po razvijanju naprednih orodij umetne inteligence, se je znašlo v težavah zaradi programske napake, ki je vplivala na številne računalniške sisteme. Njihovo orodje Claude, ki se pogosto uporablja za avtomatizacijo različnih procesov v podjetjih, je vsebovalo napako, ki je spremenila dovoljenja za datoteke na prizadetih sistemih, kar je povzročilo resne preglavice uporabnikom.
Prepoved spreminjanja datotek, nastala zaradi napake, je povzročila nezmožnost dostopa do ključnih podatkov in sistemske prekinitve. Prizadeti posamezniki in podjetja so morali vložiti ogromno časa in sredstev za ponovno vzpostavitev dostopa in popravljanje škode. Napaka v kodi je bila v obliki izdaje posodobitve, po kateri so se dovoljenja za datoteke nepričakovano spremenila, kar je povzročilo nefunkcionalnost številnih sistemov.
Reakcije in ukrepi podjetja
Nekateri uporabniki so se obrnili na podporo podjetja Anthropic in izrazili svoje nezadovoljstvo z nepričakovano napako. Podjetje je hitro odreagiralo in objavilo izjavo, v kateri so se opravičili za nevšečnosti ter zagotovili, da delajo na odpravi napake. Njihovi inženirji so posodobili orodje in odpravili težavo z dovoljenji datotek, medtem ko so uporabnikom priporočali, da se iz previdnosti vrnejo na prejšnjo, stabilno različico programa do popolne rešitve.
Naslednji koraki podjetja vključujejo izboljšanje procesa nadzora kakovosti ter uvedbo dodatnih testov pred izdajami prihodnjih posodobitev, da se zagotovi, da do podobnih težav ne pride ponovno. Poleg tehničnih rešitev so se pri Anthropicu odločili za nekaj dodatnih usposabljanj za svoje ekipe, da bi okrepili svojo infrastrukturo in tehnično podporo v prihodnosti.
Vpliv na uporabnike
Uporabniki, ki so se soočili s težavo, poročajo o velikih pritiskih in dodatnih stroških, ki so nastali zaradi napake. Veliko podjetij uporablja sistem Claude za vsakodnevno delovanje in podporo kritičnih operacij, zato je bila vsakršna prekinitev delovanja nepotrebna dodatna obremenitev. Organizacije so morale prilagoditi svoje procese in nekatere celo začasno ustaviti svoje poslovanje, dokler ni bila težava odpravljena.
Ta dogodek je postavil pod vprašaj zaupanje mnogih uporabnikov v programsko opremo podjetja Anthropic. Mnogi zdaj od proizvajalcev programske opreme zahtevajo večjo preglednost in boljše varnostne mehanizme, preden implementirajo kritične posodobitve, zlasti tiste brez možnosti razveljavitve.
Prihodnje smernice
Podjetja, kot je Anthropic, so v zadnjih letih postavila velik poudarek na stalne inovacije in hitro izdajanje posodobitev za svoje rešitve za umetno inteligenco. Vendar pa take situacije kot je bila ta, ko je programska napaka povzročila sistemske prekinitve, poudarjajo potrebo po ravnotežju med inovacijami in stabilnostjo. V prihodnje bodo morali razvijalci zagotoviti večji poudarek na testiranju in nadzoru kakovosti, da ohranijo zaupanje svojih uporabnikov.
Poleg tega bo morda potrebna tudi prenova komunikacijskih kanalov med ponudniki in uporabniki, tako da lahko slednji prejmejo hitra obvestila o morebitnih težavah in na voljo uporabijo podporne vire za hitro reševanje težav. Prehod na tak pristop bo ključen za ohranitev konkurenčnosti na hitro razvijajočem se trgu umetne inteligence.
Peter Mesarec je verjetno najbolj poslušan predavatelj Chat GPT in UI v Sloveniji, njegovih predavanj o uporabi Chat GPT v podjetjih se je udeležilo več tisoč udeležencev, svoja znanja pa pogosto objavlja tukaj in na drugih spletnih straneh.
