Umetna inteligenca je tokrat pomagala odkriti pot v sisteme podjetja, ki je eno najbolj prepoznavnih imen na področju umetne inteligence. Trije varnostni raziskovalci iz zagonskega podjetja Hacktron AI so z Anthropicovim modelom Claude našli in v okviru OpenAIjevega programa za nagrajevanje ranljivosti dokazali kombinacijo dveh kritičnih pomanjkljivosti, ki je vodila do dostopa do računov zaposlenih v OpenAIju.
Primer ni klasična zgodba o nepooblaščenem vdoru. Raziskovalci so ugotovitve prijavili OpenAIju in Discourseu, podjetji pa sta ranljivosti odpravili. OpenAI je Hacktronu za prijavo namenil 6.500 dolarjev nagrade. Kljub temu dogodek odpira pomembnejše vprašanje: kako hitro modeli umetne inteligence spreminjajo razmerje med napadalci, varnostnimi raziskovalci in obrambnimi ekipami?
## Forum kot trojanski konj
Vstopna točka ni bila zapletena infrastruktura OpenAIja, temveč njegov skupnostni forum, ki uporablja programsko opremo Discourse. Raziskovalci so ranljivost našli 25. julija pri obdelavi slikovnih datotek HEIF in HEIC, formatov, ki ju iPhoni pogosto uporabljajo privzeto.
Ko uporabnik takšno datoteko naloži na forum, jo sistem pretvori v bolj razširjen format JPEG. Pri tem gre datoteka skozi več komponent, vključno z orodjem ImageMagick in knjižnico libheif, ki skrbi za dekodiranje Applovih slikovnih formatov.
Prav v knjižnici libheif se je skrivala napaka pri upravljanju pomnilnika. Posebej oblikovana slikovna datoteka je lahko povzročila napačno obdelavo podatkov in raziskovalcem omogočila prevzem strežnika, na katerem je tekel forum.
Posebej zgovorno je, da je bila napaka v libheifu po navedbah Hacktrona popravljena že več mesecev prej. Ker popravek ni bil uradno označen kot varnostna ranljivost in ni prejel oznake CVE, standardnega identifikatorja za znane ranljivosti, ranljiva različica očitno ni bila pravočasno zamenjana v celotni programski verigi.
To je pomemben opomnik, da sodobna digitalna varnost ni odvisna le od zaščite lastne kode. Pogosto jo določa tudi varnost številnih zunanjih knjižnic, odprtokodnih projektov in storitev, ki jih podjetje uporablja.
## Ključni preobrat: model, ki mu je uspelo
Najbolj zanimiv del zgodbe ni sama ranljivost, ampak vloga modela Claude. Raziskovalci so sprva uporabljali posebno različico Claude Opus 4.8, namenjeno varnostnim raziskovalcem. Po njihovih navedbah modelu v več poskusih ni uspelo sestaviti delujočega izkoriščanja ranljivosti.
Nato je Anthropic izdal Claude Opus 5. Hacktron je novemu modelu predložil isto težavo, rezultat pa je bil drugačen: model je v nekaj urah ustvaril delujočo rešitev.
Tak preskok sam po sebi še ne pomeni, da je model samostojno izvedel celoten napad ali nadomestil varnostne strokovnjake. Raziskovalci so določili cilj, usmerjali delo, preverjali rezultate in odgovorno prijavili ugotovitve. Pomeni pa, da lahko nove generacije modelov bistveno pospešijo posamezne, tehnično zahtevne dele varnostnega raziskovanja.
Pri tem je ključno prav dejstvo, da je prehod med dvema različicama modela pomenil razliko med neuspešnim poskusom in delujočim izkoriščanjem. Zmogljivosti na področju kibernetske varnosti ne napredujejo nujno postopno. Včasih lahko razmeroma majhna izboljšava modela odklene naloge, ki so bile še včeraj zunaj njegovega dosega.
## Od strežnika do računov zaposlenih
Po prevzemu strežnika Discourse je raziskovalna skupina našla še drugo pomanjkljivost. Ta jim je po njihovih navedbah omogočila prevzem računov ChatGPT in Codex, tudi računov zaposlenih v OpenAIju.
V enem od primerov so prevzeli račun zaposlenega, katerega Codex je bil povezan z OpenAIjevo organizacijo na GitHubu. Prav povezave med uporabniškimi računi, orodji za razvoj programske opreme in internimi sistemi so lahko občutljiva točka tudi v zelo dobro varovanih okoljih.
Hacktron je o ugotovitvah obvestil OpenAI in Discourse, ki je popravek izdal 27. julija. OpenAI je potrdil, da je težave odpravil.
## AI spreminja ekonomiko kibernetske varnosti
Ustanovitelj Hacktrona Mohan Pedhapati je ob primeru opozoril, da umetna inteligenca zmanjšuje količino redkega strokovnega znanja, potrebnega za razvoj izkoriščanj ranljivosti. Delo, za katero so strokovnjaki prej potrebovali mesece, je po njegovih besedah lahko opravljeno v dnevih.
To ima dvojni učinek. Na eni strani lahko varnostne ekipe z umetno inteligenco hitreje iščejo napake, analizirajo veliko količino kode, preverjajo popravke in izvajajo varnostna testiranja. Na drugi strani postajajo podobna orodja dostopna tudi ljudem z manj poglobljenega znanja ali zlonamernimi nameni.
Matt Fredrikson, izvršni direktor podjetja za varnost umetne inteligence Gray Swan, je za TechCrunch dejal, da lahko posameznik za okoli 200 dolarjev na mesec dostopa do takšnih orodij. Če lahko modeli pomagajo pri iskanju poti v infrastrukturo podjetja, kot je OpenAI, je sporočilo jasno: nobena organizacija ne more predpostaviti, da je zaradi svoje velikosti ali tehnološke naprednosti samodejno varna.
## Kaj morajo storiti podjetja
Za podjetja to pomeni, da klasično upravljanje varnosti ne bo več zadostovalo. Posodabljanje odvisnosti, spremljanje ranljivosti in omejevanje dostopa ostajajo temeljni ukrepi, vendar bodo morala podjetja vse več vlagati tudi v redno simuliranje napadov.
Tako imenovani *red teaming* – nadzorovano iskanje šibkih točk v lastnih sistemih – postaja še pomembnejši, če ga dopolnjujejo modeli umetne inteligence. Organizacije bodo morale uporabljati AI ne le za produktivnost, temveč tudi za preverjanje, kako bi jo lahko uporabil napadalec.
Primer Hacktrona obenem pokaže razliko med odgovornim varnostnim raziskovanjem in zlorabo. Raziskovalci so delovali v okviru programa za prijavo napak, ugotovitve posredovali prizadetim podjetjem in omogočili odpravo ranljivosti. Enaka tehnična sposobnost pa bi bila v rokah drugačnih akterjev lahko uporabljena precej manj odgovorno.
Primer zato ni le zgodba o ranljivem forumu ali uspešni prijavi za nagrado. Je opozorilo, da umetna inteligenca postaja hkrati orodje napada in obrambe. Vprašanje ni več, ali bo AI sodelovala v boju za digitalno varnost, temveč ali bodo podjetja, razvijalci in regulatorji dovolj hitro vzpostavili varovalke za svet, v katerem bo meja med človeškim znanjem in zmogljivostmi modelov vse manj jasna.
