Nepričakovani telefonski klic Donalda Trumpa med nastopom Jensena Huanga na konferenci All-In Summit v Los Angelesu ni bil le nenavaden trenutek za občinstvo. Postal je tudi javna demonstracija političnega in tehnološkega zavezništva okoli vprašanja, ki bo močno vplivalo na prihodnost umetne inteligence: ali naj se razvoj najzmogljivejših sistemov UI pospeši ali omeji.
Izvršni direktor Nvidie je Trumpov klic predvajal občinstvu prek zvočnika, potem ko je na odru z voditelji podkasta All-In razpravljal o pozivu izvršnega direktorja Anthropica Daria Amodeija k počasnejšemu izboljševanju zmogljivosti umetne inteligence. Trump je pozive k upočasnitvi zavrnil z zelo neposredno retoriko in dejal, da ZDA ne bodo dovolile, da bi se razvoj ustavil.
»Ne bomo dovolili, da bi se to zgodilo,« je dejal Trump. Huang mu je odgovoril: »Imate prav. Tega ne bomo dovolili, gospod.«
Spor ni le tehnološki, ampak tudi političen
Razprava o »upočasnitvi UI« ne pomeni nujno zahteve po popolni prepovedi razvoja umetne inteligence. Gre predvsem za pozive, naj podjetja in države pred nadaljnjim stopnjevanjem zmogljivosti naprednih modelov uvedejo strožje varnostne preizkuse, več nadzora in jasnejša pravila odgovornosti.
Zagovorniki previdnejšega pristopa opozarjajo na več tveganj: možnost zlorabe modelov za kibernetske napade, širjenje dezinformacij, avtomatizacijo nevarnih bioloških ali kemičnih znanj, koncentracijo moči v rokah majhnega števila podjetij ter dolgoročna tveganja sistemov, katerih ravnanja ljudje ne bi mogli več zanesljivo nadzorovati.
Amodei je pozval k »upočasnitvi tempa, s katerim izboljšujemo zmogljivosti UI«. TechCrunch ob tem navaja, da sta Elon Musk in Sam Altman javno izrazila strinjanje z Amodeijevim širšim opozorilom glede potrebe po previdnosti, medtem ko Huang zastopa bistveno bolj razvojno usmerjeno stališče.
Za Huanga in Trumpa je hitro napredovanje UI predvsem vprašanje inovacij, gospodarske rasti in geopolitične konkurenčnosti. Nvidia je ključni dobavitelj čipov za učenje in poganjanje naprednih modelov UI, zato ima podjetje neposreden interes v nadaljnjem širjenju infrastrukture za umetno inteligenco. Trumpovo stališče pa razvoj UI postavlja v okvir tekmovanja s Kitajsko in ohranjanja ameriškega tehnološkega vodstva.
»Ne bomo ustavili industrije«
Trump je med klicem dejal, da tisti, ki zagovarjajo upočasnitev, »igrajo na roko mnogim ljudem, ki ne želijo, da bi se to zgodilo«, pri čemer je omenil politične akterje in Kitajsko. Takšne izjave niso bile podprte s konkretnimi dokazi, vendar kažejo, kako se razprava o varnosti UI vse bolj spreminja v politično vprašanje nacionalne varnosti in gospodarske strategije.
Predsednik je sicer dodal, da mora biti razvoj preudaren: »Moramo biti malo previdni … stvari moramo delati preudarno, vendar to ne pomeni, da bomo ustavili industrijo.«
Ta poudarek je pomemben. Tudi zagovorniki hitrega razvoja praviloma ne trdijo, da varnost ni potrebna, temveč nasprotujejo ukrepom, ki bi lahko bistveno upočasnili raziskave, gradnjo podatkovnih centrov ali uvajanje novih modelov. Osrednji spor je zato v tem, kdo naj določa sprejemljivo raven tveganja in kako hitro naj se tehnološki razvoj odvija.
Podatkovni centri kot naslednja fronta
Spor o hitrosti razvoja UI je tesno povezan z gradnjo podatkovnih centrov, saj ti predstavljajo fizično infrastrukturo za razvoj in uporabo velikih modelov. Več zmogljivosti UI pomeni več čipov, električne energije, vode za hlajenje in novih objektov v lokalnih skupnostih.
TechCrunch navaja Gallupovo raziskavo, po kateri sedem od desetih Američanov nasprotuje gradnji podatkovnih centrov v svoji okolici. Več kot polovica vprašanih kot razlog izpostavlja vpliv na okoljske vire, približno petina pa morebitne podražitve življenjskih stroškov in slabšo kakovost življenja.
Trump in njegovi zavezniki tak odpor razlagajo predvsem skozi prizmo oviranja ameriške gospodarske rasti. Kritiki pa opozarjajo, da gre pogosto za konkretna lokalna vprašanja: porabo energije, pritisk na vodne vire, hrup, zemljišča in stroške za prebivalce.
Telefonski pogovor med Huangom in Trumpom tako presega anekdoto s tehnološke konference. Razkriva nastajajočo delitev: med tistimi, ki v hitrem razvoju UI vidijo nujen pogoj za ameriško konkurenčnost, in tistimi, ki menijo, da mora sposobnost nadzora, varnosti in družbene odgovornosti dohitevati tehnološki napredek.
