Grok je napredni umetno inteligentni asistent, ki ga razvija podjetje xAI pod vodstvom Elona Muska. Ob lansiranju je platforma obljubljala dostop do informacij v realnem času prek povezave s platformo X ter konkurenčnost največjim LLM-om na trgu. Grok je bil predstavljen kot orodje, ki omogoča hitre in ažurne odgovore ter naj bi predstavljal novo raven interakcije z umetno inteligenco. Zadnje dogajanje pa je pokazalo, da tudi najbolj izpostavljeni projekti na področju AI niso imuni na resne tehnične izzive.
Konfuzni odgovori asistentov in odzivi skupnosti
V zadnjih dneh se je na platformi X pojavilo več objav uporabnikov, ki so svoje izkušnje z Grokom delili javno. Med izpostavljenimi primeri so odgovori, kot je »%$# kljuc123 … b3st konfuzija dan«, ali pa popolne naplavine naključnih znakov sredi sicer smiselnega odgovora. Drugi so poročali, da Grok na vprašanja o vremenu vrača odlomke iz znanstvenih člankov ali celo tvite iz leta 2021, ki nimajo povezave z vprašanjem. V nekaterih primerih je Grok uporabnikom vrnil verige besed brez ločil, kar je bilo za mnoge presenetljivo in moteče.
Takšni primeri so hitro sprožili reakcije. Uporabniki so z objavami posnetkov zaslona pokazali, kako Grok odgovarja z npr. nizom »ajsdh asd89a8« ali navidezno naključnimi deli kode. To je povzročilo dvome o sposobnosti modela, da razume in odgovarja na osnovna vprašanja. Številni so izrazili razočaranje, saj so Grok uporabljali za profesionalne naloge, kjer je natančnost ključna. Medtem so mediji, kot sta TechCrunch in The Verge, že poročali o tem valovanju nerazumljivih odzivov in opozorili na širše posledice za ugled xAI.
Odziv razvijalcev je bil zaenkrat omejen na priznanje težav ter splošno zagotovilo, da ekipa problem preiskuje in odpravlja. Podjetje xAI je doslej pojasnilo, da gre za “osamljene primere”, vendar število prijavljenih napak kaže na širši vpliv. Uporabniki na X so medtem opozorili, da podobne težave trajajo že več dni in se pojavljajo v različnih jezikih, kar kaže na globlji sistemski problem.
Možni vzroki, širše posledice in prihodnost Groka
V svetu velikih jezikovnih modelov so takšni izpadi pogosto povezani z nadgradnjami, spremembami parametrov ali s težavami pri integraciji podatkov v realnem času. Strokovnjaki opozarjajo, da lahko pride do t. i. “model drift” ali nenamernih posledic finetuninga, ko posodobitve modela povzročijo izgubo stabilnosti ali nastanek »halucinacij«. Pojav naključnih znakov ali neustreznih vsebin lahko nakazuje tudi na motnje v delovanju API-jev ali na težave z vhodnimi podatki, ki jih model prejme s platforme X. Ena od hipotez je, da bi lahko šlo za kolaps procesa generiranja odgovorov zaradi nepričakovanih podatkov ali motenj v povezavi z realnočasovnimi viri.
Incident ima pomemben vpliv na ugled podjetja xAI in neposredno tudi na vizijo, ki jo ima Elon Musk z Grokom kot konkurenčnim globalnim AI pomočnikom. Podobni incidenti lahko zmanjšajo zaupanje uporabnikov, ki se na AI zanašajo za poslovne in osebne odločitve. Vprašanje zaupanja in predvidljivosti se v industriji AI izpostavlja kot ključno, zlasti ob vse večji uporabi teh tehnologij v zahtevnih okoljih.
Dogodek postavlja Groka v zahtevno pozicijo na trgu, kjer prevladujejo tekmeci, kot so OpenAI, Google in Anthropic. Pričakovanja uporabnikov glede stabilnosti in transparentnosti delovanja AI asistenta so visoka. Primer Groka poudarja, kako pomembna je odprta komunikacija razvijalcev in hitro ukrepanje ob morebitnih napakah. Hkrati pa vzbuja vprašanje, ali se lahko podobni izpadi ponovijo tudi pri drugih velikih modelih in kako naj industrija zagotovi zanesljivo delovanje v prihodnosti.
