Varnostni incidenti bi lahko odprte platforme za umetno inteligenco potisnili k strožjim pravilom za dostop in prispevanje, opozarja Irene Solaiman, direktorica za politike in višja podpredsednica za strategijo pri Hugging Face. Po njenem mnenju sta prav odprtost skupnosti in velika količina podatkov razlog, da so takšne platforme privlačna tarča napadalcev.
Kot primer je navedla oktobrski napad na OpenCode, v katerem so napadalci ciljali na API-ključe tretjih ponudnikov uporabnikov in povzročili finančno škodo. Pred tem je po navedbah TechCruncha roj umetnointeligenčnih agentov OpenAI vdrl v Hugging Face, domnevno potem, ko je dostopal do odgovorov na ocenjevanja kibernetske varnosti, da bi prikril sledi.
Tveganja niso omejena na platforme, ki sprejemajo prispevke odprte skupnosti. Podjetje Fireworks, ki razvijalcem pomaga pri izvajanju in učenju odprtih modelov umetne inteligence, je razkrilo, da so napadalci dostopali do nekaterih uteži modelov, podatkovnih zbirk in podatkov za zaračunavanje njegovih strank. Podjetje je med preiskavo začasno onemogočilo del funkcij za samostojno uporabo podatkovnih zbirk.
Odprtost skupnosti kot prednost in ranljivost
Solaiman je v podkastu Equity povedala, da so lastnosti, zaradi katerih je odprta skupnost posebna, tudi razlog, da postane zanimiva za napadalce. Hugging Face želi po njenih besedah omogočiti prispevanje tudi posameznikom brez institucionalne pripadnosti.
»Želimo, da lahko prispeva povprečen ljubiteljski razvijalec iz kleti, ki nima institucionalne povezave,« je dejala. V ločenem pogovoru je dodala, da je za odprte skupnosti pomembno, da lahko ljudje preprosto pošiljajo zahtevke za spremembe kode in prispevajo brez preverjene organizacijske pripadnosti, vendar lahko to zlorabijo posamezniki, ki škodujejo preostali skupnosti.
Napadalcev ne privablja le takšna dostopnost. Odprte platforme hranijo tudi dragocene podatke. Hugging Face je bil po navedbah Solaiman privlačna tarča zaradi podatkovnih zbirk za vrednotenje modelov, medtem ko so bili pri napadu na OpenCode pomembni API-ključi tretjih ponudnikov.
»Zaradi kombinacije teh dejavnikov smo glavne tarče,« je Solaiman povedala za TechCrunch. Ob tem je opozorila na nevarnost, da bi se odprtokodni ekosistem začel zapirati v času, ko odprti modeli uživajo veliko javne podpore.
Možne omejitve dostopa do modelov in podatkov
Vir navaja, da se na odprte modele vse bolj zanašajo vlade, podjetja in zagonska podjetja, podporo odprti umetni inteligenci pa je javno izrazil tudi izvršni direktor Nvidie Jensen Huang.
Zaostrovanje pravil bi lahko pomenilo omejitve glede tega, kdo sme nalagati modele ali podatkovne zbirke, strožje preverjanje identitete in dodatno preverjanje razvijalcev pred dostopom do posameznih funkcij. Takšni ukrepi bi po navedbah TechCruncha lahko pomagali pri zaščiti platform, hkrati pa bi neodvisnim raziskovalcem in ljubiteljskim razvijalcem otežili sodelovanje v skupnostih, ki so jim bile prej dostopne.
Hugging Face se za zdaj želi tej poti izogniti. Solaiman je povedala, da podjetje krepi orodja za spremljanje in zaznavanje vdorov ter izvaja ukrepe za njihovo preprečevanje. Opozorila pa je, da je vzdrževanje nadzora lahko drago in ga ne bodo mogle financirati vse platforme.
Med spremembami je pogostejša zamenjava administrativnih žetonov za dostop. Ti žetoni omogočajo širok dostop do sistemov Hugging Face, zato bi bil ukradeni žeton po novem uporaben krajši čas. Podjetje je uvedlo tudi strožji omrežni nadzor.
GitHub zaostruje zaščito registra npm
S podobnimi kompromisi se ukvarja tudi GitHub, največji gostitelj odprtokodnih projektov na svetu. Podjetje se po navedbah vira bori proti napadalcem, ki v projekte vstavljajo zlonamerno kodo za hitro širjenje zlonamerne programske opreme.
GitHub je za objavljanje paketov v registru npm začel zaostrovati varnostne zahteve. Med ukrepi so preklic starejših žetonov za preverjanje pristnosti in omejitev veljavnosti novih žetonov.
Zach Steindler, inženir pri GitHubu, odgovoren za varnost dobavne verige programske opreme, je za TechCrunch dejal, da lahko varnostni ukrepi sicer zmotijo ustaljene delovne procese, vendar je mogoče platforme bolje zaščititi, ne da bi bistveno omejili sodelovanje.
»Ne gre toliko za omejevanje funkcionalnosti, temveč za odpravljanje stvari, ki že od začetka niso bile varne,« je dejal Steindler. Po njegovih besedah bi se morali varnostni timi osredotočiti na zaznavanje sumljivega vedenja in zmožnosti omejevanja posledic napada, saj je sumljivo vedenje enako ne glede na to, kdo ga izvaja.
