Podjetje Irregular je pridobilo 80 milijonov dolarjev investicij za razvoj varnostnih rešitev na področju umetne inteligence, kar potrjuje vse večje zaupanje vlagateljev v pomen zaščite naprednih AI modelov. Investicijski krog so vodili pri Founders Fund, kjer je sodeloval tudi Peter Thiel, v partnerstvu s Kleiner Perkins in Menlo Ventures. Irregular z inovativnimi rešitvami že nagovarja ključna vprašanja varnosti, s katerimi se soočajo tehnološka podjetja ob uvedbi zmogljivih generativnih orodij.
Konkretne rešitve za izzive varnosti umetne inteligence
Irregular ponuja platformo za preverjanje izhodnih rezultatov generativnih AI modelov, ki samodejno zaznava in blokira neprimerne, zlonamerne ali zavajajoče odgovore, še preden dosežejo uporabnika. Njihova tehnologija omogoča stalno spremljanje podatkovnih tokov ter opozarja na nenavadne vzorce, kot so poskusi pridobivanja občutljivih informacij ali masovno ustvarjanje škodljive vsebine. Po podatkih podjetja so njihova orodja v podjetjih v zadnjih šestih mesecih zmanjšala pojavnost zlorab izhodov AI modelov za več kot 40 odstotkov.
V praksi to pomeni, da lahko podjetja, ki vpeljujejo generativno umetno inteligenco za podporo strankam ali avtomatizacijo procesov, zagotovijo višjo raven zaščite pred neprimernimi odgovori in uhajanjem zaupnih podatkov. Irregularjevi sistemi nudijo podrobno sledljivost podatkov, kar olajša skladnost z regulativo ter omogoča hitro reakcijo v primeru incidenta. Med najpogostejšimi izzivi v industriji so t.i. prompt injection napadi, širjenje dezinformacij in nenadzorovana uporaba osebnih podatkov, ki jih Irregular naslavlja z naprednimi filtri in nadzornimi moduli.
Podjetje je v zadnjem letu sodelovalo s številnimi partnerji iz bančnega, zdravstvenega in tehnološkega sektorja, kjer so njihova orodja pripomogla k zmanjšanju tveganja in povečani zanesljivosti delovanja AI sistemov. Uporabniki poročajo o manj incidentih ter boljši preglednosti procesov, kar povečuje zaupanje v uvajanje novih tehnologij.
Trg, konkurenca in vizija prihodnosti
Vlagatelji, med katerimi so tudi Anne Lai iz Kleiner Perkins in Shawn Carolan iz Menlo Ventures, v Irregular prepoznavajo enega ključnih igralcev na hitro rastočem trgu varnosti umetne inteligence. Glavni konkurenti podjetja so Anthropic, Robust Intelligence in HiddenLayer, ki prav tako razvijajo varnostne ščite za AI, a Irregular izstopa po celoviti integraciji preverjanja, filtriranja in upravljanja podatkov v enotno platformo. Ocenjuje se, da bo trg AI varnosti do leta 2027 presegel vrednost 10 milijard dolarjev.
Vizija Irregularja je razvijati platformo, ki bo omogočila odgovorno uvajanje frontier AI modelov v vsakdanje poslovanje, ne glede na panogo. Podjetje želi postati sinonim za varnost v svetu umetne inteligence in postaviti standarde na področju zaščite podatkov, nadzora in transparentnosti. Ekipa, ki jo vodi izvršni direktor Nick Frosst, namerava v prihodnjih dveh letih podvojiti število zaposlenih in še okrepiti sodelovanje z regulatorji ter raziskovalno skupnostjo.
Irregularjeva dolgoročna strategija temelji na razvoju rešitev, ki bodo omogočale pravočasno zaznavanje novih vrst groženj ter prilagodljivo zaščito tudi za najbolj kompleksne AI modele. Podjetje vidi prihodnost v ustvarjanju varnega ekosistema, kjer bodo orodja za avtomatsko upravljanje tveganj postala standard pri vseh večjih implementacijah umetne inteligence.
