Kako zanesljive so poslovne analize, ki jih ustvarja umetna inteligenca? Primer, ki je te dni močno odmeval v mednarodnem okolju, ponuja pomembno opozorilo vsem, ki se zanašajo na avtomatizirane rešitve. KPMG je v začetku junija 2026 umaknil poročilo z naslovom »AI Adoption in Business 2026«, potem ko so bile odkrite vsebinske napake, ki jih je povzročila uporaba generativne umetne inteligence. Ta dogodek ponovno odpira vprašanje zaupanja v orodja umetne inteligence in opozarja na nevarnosti, ki spremljajo njihovo vključevanje v ključne poslovne procese.
Zakaj je KPMG umaknil poročilo in kaj pomenijo “halucinacije” umetne inteligence
Poročilo »AI Adoption in Business 2026«, ki ga je KPMG objavil 3. junija 2026, je bilo v nekaj dneh umaknjeno zaradi nepravilnosti, ki so jih zaznali tako interni revizorji kot neodvisni strokovnjaki iz mednarodne skupnosti za etiko umetne inteligence. Prve dvome je javno izpostavila organizacija Center for AI Safety, ki je opozorila na nenavadna odstopanja v predstavljenih podatkih. Medtem ko je poročilo trdilo, da je 50 odstotkov podjetij povečalo produktivnost s pomočjo AI, so uradne raziskave izkazovale znatno nižjo rast v enakem obdobju.
KPMG je ob umiku pojasnil, da je bil del poročila ustvarjen s pomočjo generativnega modela umetne inteligence, ki je na podlagi ključnih besed in podatkov generiral povzetke in analize. Prav tu se je pojavil problem tako imenovanih »halucinacij« umetne inteligence, ko model ustvari prepričljive, a izmišljene podatke ali sklepe. V tem primeru je AI model samostojno oblikoval podatke o trendih, ki jih v izvornih raziskavah ni bilo. S tem je nastala situacija, kjer so bili ključni poslovni podatki napačno interpretirani ali celo izmišljeni.
Halucinacije so znan pojav pri generativnih modelih, kjer AI zaradi pomanjkanja preverjanja virov ali ustrezne validacije ustvari vsebine, ki zvenijo verodostojno, vendar nimajo opore v realnosti. V poslovnih okoljih so posledice lahko resne, saj napačne informacije vplivajo na strateške odločitve podjetij in njihovih partnerjev. Ta primer jasno kaže, da mora biti uporaba umetne inteligence v analitičnih procesih vedno dopolnjena z neodvisnim preverjanjem dejstev in metodološkim nadzorom.
Poučne posledice za podjetja in prihodnost uporabe umetne inteligence
Odmevni umik KPMG-jevega poročila je sprožil razprave v širšem gospodarskem prostoru o tem, kako zagotoviti kredibilnost in zanesljivost podatkov, ki jih generira umetna inteligenca. Strokovnjaki s področja poslovne analitike in AI etike, kot je denimo ekipa iz Mednarodnega združenja za etiko umetne inteligence, poudarjajo pomen večstopenjskega preverjanja rezultatov. Ključni izziv ostaja vzpostavitev jasnih notranjih postopkov za validacijo izhodov AI modelov in večja transparentnost glede uporabljenih orodij.
V praksi to pomeni, da morajo podjetja poleg avtomatizacije, ki jo omogoča AI, razviti tudi robustne protokole za preverjanje podatkov. Med priporočili strokovnjakov je večja vključenost človeških nadzornikov, redno izobraževanje ekip in sodelovanje z neodvisnimi revizorji. Posebno velja izpostaviti pomen transparentnosti, kjer mora biti jasno navedeno, kateri deli poročil so delo umetne inteligence in kateri so rezultat analize strokovnjakov.
Tudi v Sloveniji se podjetja vse pogosteje srečujejo z vprašanjem, kako vključiti umetno inteligenco v svoje analitične procese. Primer KPMG zato pomeni pomembno opozorilo in priložnost za odprto razpravo o najboljših praksah v lokalnem okolju. Na našem portalu bomo v prihodnjih tednih predstavili poglede slovenskih strokovnjakov na etične ter poslovne izzive AI v analitiki. Ključna lekcija tega dogodka je jasna: kritični pristop, transparentnost in metodološka doslednost so nepogrešljivi za zaupanje v rešitve umetne inteligence, ne glede na njihovo naprednost.
