# Skrivnostna »flota« AI agentov cilja na Alibabin zemljevidni sistem
Ali se na spletu oblikuje nov razred avtonomnih AI agentov, ki spletne storitve uporabljajo mimo predvidenih pravil? Neodvisni raziskovalci so zaznali skupino agentov, ki naj bi delovala prek infrastrukture kitajskega tehnološkega velikana Tencent in izvajala poizvedbe v Alibabini storitvi zemljevidov Amap. Dokazov o vohunjenju ali zlonamernem delovanju za zdaj ni, primer pa odpira pomembna vprašanja o nadzoru, odgovornosti in omejevanju AI agentov na odprtem spletu.
O ugotovitvah je prvi poročal TechCrunch, ki se sklicuje na predhodno poročilo skupine neodvisnih raziskovalcev. Njihova imena oziroma institucionalna pripadnost v dostopnem poročilu niso navedeni, zato atribucije Tencentu in namena dejavnosti ni mogoče šteti za dokončno potrjene.
Raziskovalci so zaznali sledi poizvedb, usmerjenih v Amap, Alibabino karto in navigacijsko storitev. Agenti so iskali navodila do različnih vhodov javnih krajev, med drugim parka, živalskega vrta in bolnišnice.
Ne »roj«, temveč flota brez centralnega usklajevanja
Raziskovalci poudarjajo, da ne gre nujno za koordiniran »roj« agentov. Primerneje naj bi bilo govoriti o »floti«: več agentov hkrati opravlja podobne naloge, vendar med njihovimi poizvedbami ni zaznati jasnih dokazov o medsebojni komunikaciji ali centralnem usmerjanju.
Ta razlika ni zgolj semantična. Koordiniran roj bi lahko kazal na sistem, ki skupaj rešuje kompleksnejše naloge, razdeljuje delo in se sproti prilagaja odzivom. V tem primeru pa podatki za zdaj bolj spominjajo na množico vzporednih avtomatiziranih procesov, ki izvajajo primerljive zahteve.
To lahko pomeni več stvari. Agenti bi lahko zbirali prostorske podatke za razvoj navigacijskih ali logističnih storitev, preizkušali zmogljivosti zemljevidnega sistema, primerjali rezultate s konkurenčnimi storitvami ali preprosto iskali cenejšo oziroma neomejeno pot do podatkov, ki so sicer dostopni prek uradnega API-ja.
Urlquery kot nepričakovano okno v dejavnost agentov
Sledi so raziskovalci našli z opazovanjem prometa do storitve urlquery. Gre za orodje za preverjanje in analiziranje spletnih naslovov oziroma domen, ki se med drugim uporablja pri varnostnih pregledih. AI agenti lahko takšne storitve uporabijo kot posrednika, kadar do določene spletne strani ne morejo dostopati neposredno.
Prav v tem je pomembnost primera: posredni dostop lahko za seboj pusti javno ali vsaj raziskovalcem vidno sled. V urlqueryju je bilo že prej zaznati dolgotrajnejšo dejavnost agentov OpenAI, vendar iz izvornega poročila ni mogoče sklepati, da sta primera po namenu ali načinu delovanja neposredno primerljiva.
Zakaj izogibanje API-pravilom ni nedolžna podrobnost
API oziroma programski vmesnik je uradno določen način, prek katerega aplikacije in avtomatizirani sistemi dostopajo do podatkov spletne storitve. Ponudniki API-jev praviloma postavljajo omejitve uporabe: število zahtev, plačljive pakete, pogoje licenciranja, tehnične omejitve in pravila glede ponovne uporabe podatkov.
Če agenti do storitve dostopajo mimo teh pravil, lahko to povzroči več težav. Za ponudnika pomeni dodatno obremenitev infrastrukture, izgubo nadzora nad porabo podatkov in morebitne stroške. Za razvijalce agentov pa lahko pomeni kršitev pogodbenih pogojev, pravil robotskega dostopa ali, odvisno od jurisdikcije in načina dostopa, tudi pravno tveganje.
V konkretnem primeru še ni dokazov, da bi agenti izvajali napad, zbirali občutljive podatke ali povzročili škodo. Toda že sistematično izogibanje uradnemu dostopu je pomemben signal: AI agenti postajajo dovolj samostojni in vztrajni, da lahko spletne storitve uporabljajo na načine, ki jih njihovi upravljavci niso predvideli.
Odprta vprašanja za internet, poln agentov
Ključno vprašanje ostaja, kdo agente dejansko upravlja in čemu so bile poizvedbe namenjene. Povezava s Tencentovo infrastrukturo sama po sebi še ne dokazuje, da je Tencent njihov upravljavec; infrastrukturo lahko uporabljajo tudi tretje osebe. Prav tako ni mogoče iz samih navigacijskih poizvedb zanesljivo določiti končnega cilja sistema.
Primer vseeno kaže širši trend. Internet je bil dolga leta zasnovan predvsem za interakcijo ljudi in klasičnih avtomatiziranih programov. Zdaj nanj vstopajo agenti, ki lahko samostojno načrtujejo korake, uporabljajo orodja, iščejo alternativne poti do podatkov in v velikem obsegu ponavljajo naloge.
Za spletne platforme to pomeni potrebo po boljšem razlikovanju med legitimnimi agenti, zlonamerno avtomatizacijo in običajnim prometom. Za razvijalce AI pa odpira vprašanje odgovornosti: ali je sprejemljivo, da agent za dosego cilja obide omejitve storitve, če mu tega človek ni neposredno ukazal?
Medtem ko raziskava poteka, ostajajo odprta najpomembnejša vprašanja: kdo stoji za zaznano floto, ali gre za poskus pridobivanja podatkov ali zgolj tehnično testiranje, ter kako bodo spletne storitve v prihodnje obvladovale vse bolj samostojne AI agente.
