Ilya Sutskever, eden od soustanoviteljev OpenAI, je mesec dni po svojem formalnem odhodu iz OpenAI ustanovil novo podjetje, Safe Superintelligence Inc. (SSI). Sutskever, ki je dolgo časa deloval kot glavni znanstvenik pri OpenAI, je SSI ustanovil skupaj z bivšim partnerjem Y Combinatorja, Danielom Grossom, in nekdanjim inženirjem OpenAI, Danielom Levyjem.
V OpenAI je Sutskever igral ključno vlogo pri prizadevanjih podjetja za izboljšanje varnosti AI ob pojavu “supernadpametnih” AI sistemov. Na tem področju je sodeloval z Janom Leikom, ki je sovodil ekipo za superusklajevanje pri OpenAI. Toda tako Sutskever kot Leike sta podjetje zapustila maja po dramatičnem razkolu z vodstvom OpenAI glede pristopov k varnosti AI. Leike zdaj vodi ekipo pri konkurenčnem podjetju za AI, Anthropic.
Sutskever že dolgo opozarja na težavnejše vidike varnosti AI. V blogu, objavljenem leta 2023, sta Sutskever in Leike napovedala, da bi v naslednjem desetletju lahko prišlo do AI z inteligenco, ki presega človeško, in da takšna inteligenca ne bo nujno dobronamerna, kar poudarja potrebo po raziskavah metod za njeno nadzorovanje in omejevanje.
Sutskever je še vedno močno zavzet za to vprašanje. V sredo popoldne je tvit, ki napoveduje ustanovitev novega podjetja Sutskeverja, zapisal: “SSI je naše poslanstvo, naše ime in celoten načrt naših izdelkov, saj je to naš edini fokus. Naša ekipa, vlagatelji in poslovni model so popolnoma usklajeni za doseganje SSI. Varnost in zmožnosti obravnavamo vzporedno, kot tehnične težave, ki jih je mogoče rešiti z revolucionarnim inženiringom in znanstvenimi preboji.“
“Naš cilj je čim hitrejše napredovanje zmožnosti, pri čemer vedno zagotavljamo varnost. Tako lahko mirno širimo obseg našega delovanja. Naš enoten fokus pomeni, da nas ne odvračajo upravne obveznosti ali cikli izdelkov, naš poslovni model pa zagotavlja, da so varnost, varovanje in napredek izolirani od kratkoročnih komercialnih pritiskov.”
Sutskever je o novem podjetju govoril podrobneje z Bloombergom, čeprav ni želel razpravljati o financiranju podjetja ali njegovi vrednosti.
Zdi se, da za razliko od OpenAI — ki je bil sprva ustanovljen kot neprofitna organizacija leta 2015, nato pa se je prestrukturiral, ko so postale očitne visoke potrebe po računski moči— je SSI zasnovan od vsega začetka kot podjetje, ki ustvarja dobiček. Glede na zanimanje za AI in posebej kvalifikacije ekipe, utegne kmalu preplaviti kapital. “Izmed vseh problemov, s katerimi se soočamo,” pravi Gross za Bloomberg, “pridobivanje kapitala zagotovo ne bo med njimi.”
SSI ima pisarne v Palo Altu in Tel Avivu, kjer trenutno zaposluje tehnične strokovnjake.
