Ali bi morale biti »skrivne formule« najzmogljivejših modelov umetne inteligence na voljo za posnemanje in učenje drugih sistemov? Garry Tan, izvršni direktor Y Combinatorja, meni, da bi morale ZDA ameriškim razvijalcem modelov z odprtimi utežmi omogočiti destilacijo vodilnih lastniških modelov. Njegov argument: brez močnejšega odprtega ekosistema bi lahko trg umetne inteligence obvladovala peščica tehnoloških velikanov – ali pa bi odprte alternative vse bolj prihajale predvsem iz Kitajske.
Tanovo mnenje ima posebno težo, ker Y Combinator ni običajen zagonski pospeševalnik. Gre za eno najvplivnejših institucij v Silicijevi dolini, ki je skozi leta podprla številna danes velika tehnološka podjetja in pomembno vpliva na to, katere ideje, ustanovitelji in tehnološke usmeritve dobivajo kapital. Stališče njegovega vodje zato ni le osebna ocena, temveč signal širšemu startup ekosistemu in vlagateljem.
»Ameriški režim destilacije«
Tan je za CNBC dejal, da glede kitajske uporabe tehnik destilacije regulatorji po njegovem ne bi smeli ukrepati. »Ne bi naredil ničesar,« je povedal in dodal, da bi lahko obstajal tudi »ameriški režim destilacije«.
V pogovoru za TechCrunch je pojasnil, da bi morali manjši ameriški laboratoriji umetne inteligence z odprtimi utežmi uporabljati podobne učne tehnike na ameriških vodilnih modelih. Cilj naj bi bil vzpostaviti robustnejši nabor odprtih modelov, ki bi predstavljali alternativo tako zaprtim ameriškim platformam kot kitajskim odprtim modelom.
Destilacija pri umetni inteligenci pomeni, da razvijalec z velikim številom premišljenih poizvedb pridobiva odgovore zmogljivejšega modela ter jih uporabi pri urjenju novega, običajno manjšega ali cenejšega modela. Gre za razširjeno tehniko strojnega učenja, vendar postane sporna, kadar je izvedena proti pravilom ponudnika, z lažnimi identitetami, ukradenimi dostopnimi podatki ali z namenom neposrednega kopiranja komercialno zaščitenih zmogljivosti.
Tan pri tem poudarja, da ne zagovarja goljufanja ali uporabe ukradenih poverilnic. Ameriški laboratoriji bi po njegovem morali v modele vstopati »skozi glavna vrata« – torej prek uradnega dostopa in API-jev.
Vprašanje odprtosti je tudi geopolitično vprašanje
Izraz »modeli, ki niso kitajski« razkriva širši kontekst razprave. Tekmovanje med ZDA in Kitajsko na področju umetne inteligence ni več omejeno na razvoj najzmogljivejših modelov. Vse pomembnejše je tudi vprašanje, kdo bo nadzoroval odprto infrastrukturo: uteži modelov, orodja za razvoj, podatkovne zbirke in skupnosti, ki na teh tehnologijah gradijo nove izdelke.
Za odprte modele se pogosto odločajo raziskovalci, manjša podjetja, javne ustanove in organizacije, ki ne želijo biti popolnoma odvisne od API-jev nekaj velikih ponudnikov. Če bi bile najuporabnejše odprte alternative predvsem kitajskega izvora, bi to po Tanovi logiki vplivalo na tehnološko neodvisnost ameriških podjetij in institucij.
Vendar to ne pomeni, da je izbira preprosta: »ameriško« proti »kitajskemu«. Odprt model lahko krepi inovacije, lokalno prilagoditev in neodvisnost uporabnikov, hkrati pa povečuje tveganje, da se zmogljivosti uporabijo brez nadzora ali varnostnih omejitev.
Anthropic opozarja na zlorabe
Tanovo stališče se precej razlikuje od stališča Anthropica. Podjetje je nedavno objavilo drugo poročilo, v katerem kitajske laboratorije obtožuje »nedovoljenih destilacijskih napadov«. Po navedbah Anthropica naj bi nekateri akterji skrivali identiteto, zaobšli omejitve dostopa in uporabljali ukradene prijavne podatke za pridobivanje odgovorov njihovih modelov.
Izvršni direktor Anthropica Dario Amodei je ameriške regulatorje že pozval k strožjemu ukrepanju proti takšnim praksam.
Toda pomisleki niso omejeni le na krajo dostopov. Kritiki širše dovoljene destilacije opozarjajo na vprašanja intelektualne lastnine: vodilni modeli nastajajo z večletnimi raziskavami in ogromnimi vložki v računsko infrastrukturo, podatke, zaposlene ter varnostne sisteme. Če bi konkurenti njihove sposobnosti hitro posnemali z množičnim poizvedovanjem, bi se lahko zmanjšala poslovna spodbuda za razvoj novih generacij najdražjih modelov.
Poleg tega lahko destilirani modeli prevzamejo tudi napake, pristranskosti ali nevarne vzorce iz izvornega sistema. Destilacija zato ni nevtralna tehnika; odvisna je od načina izvedbe, pravic dostopa, uporabljenih podatkov in varnostnih ukrepov razvijalca.
Ali je večja nevarnost monopol ali razdrobljenost?
Tan zagovarja ravnotežje med vodilnimi lastniškimi laboratoriji in razvijalci odprtih modelov. Priznava, da morajo podjetja na tehnološki meji ostati financirljiva in imeti vzdržen poslovni model. Obenem pa želi odprte modele, ki bi ljudem in podjetjem omogočali več svobode ter manj odvisnosti od enega samega ponudnika.
Njegov osrednji strah je koncentracija moči. »Nočna mora, katastrofični scenarij za umetno inteligenco je, da obstaja le eno podjetje,« je dejal. Podjetje z najboljšim dostopom do kapitala, računalniških virov in raziskovalcev bi lahko po njegovem postalo skoraj monolitni upravljavec najpomembnejše tehnologije prihodnosti.
Ali se bo Tanova ideja uresničila, bo odvisno od več akterjev: ameriških in evropskih regulatorjev, velikih AI-podjetij, vlagateljev, odprtokodne skupnosti ter uporabnikov, ki bodo odločali, ali želijo udobje zaprtih platform ali več nadzora nad lastno infrastrukturo.
Ključno vprašanje zato ni zgolj, ali dovoliti destilacijo. V ospredju je širša dilema: kako ohraniti dovolj odprtosti, da umetna inteligenca ne postane monopol, ne da bi pri tem uničili motivacijo za razvoj in varno uporabo najzmogljivejših modelov.
