# Od pilotov do robotov: Disrupt 2026 v ospredje postavlja zaupanje v umetno inteligenco
Umetna inteligenca vse manj ostaja zgolj pomočnik za pripravo besedil, analizo podatkov ali ustvarjanje slik. Vstopa v poslovne procese, dobiva dostop do informacijskih sistemov, sprejema odločitve in se seli tudi v vozila, robote ter industrijska okolja. S tem pa se ključno vprašanje razvoja UI spreminja: ne gre več le za to, kaj modeli zmorejo, temveč predvsem, ali jim lahko podjetja in uporabniki dovolj zaupajo, da jih bodo dejansko uporabili.
Prav varnost, zanesljivost in uvajanje umetne inteligence v realna okolja bodo med osrednjimi temami konference TechCrunch Disrupt 2026. Dogodek bo med 13. in 15. oktobrom potekal v Moscone Westu v San Franciscu, na programu pa bo pet razprav na odrih AI Stage in Real World AI Stage.
Za razvijalce, ustanovitelje podjetij in vse, ki spremljajo hitro širjenje umetne inteligence, so te teme pomembne tudi zunaj Silicijeve doline. Podjetja po svetu se namreč srečujejo s podobnimi dilemami: kako UI vključiti v delo brez ogrožanja podatkov, kako preveriti njene odločitve in kdaj je sistem dovolj varen za uporabo v fizičnem svetu.
Ko pilotni projekt ni več dovolj
Prva razprava, »What Anthropic Sees When Enterprises Actually Deploy Claude«, bo osvetlila razliko med podjetji, ki umetno inteligenco uspešno vključijo v vsakodnevne procese, in tistimi, ki ostanejo ujeti v neskončnih pilotnih projektih.
Cat de Jong, vodja uporabne umetne inteligence pri Anthropicu, pri svojem delu sodeluje s podjetji, ki model Claude uvajajo v ključne delovne tokove. V ospredju bodo razlogi, zaradi katerih nekateri projekti prinesejo merljivo poslovno vrednost, drugi pa se ustavijo še pred produkcijsko uporabo.
To je eno osrednjih vprašanj za podjetja, ki vlagajo v UI. Dober prototip lahko hitro pokaže potencial, vendar je za širšo uvedbo potrebna povezava z obstoječimi sistemi, jasen nadzor nad podatki, odgovornost za odločitve modela in dokaz, da rešitev dejansko izboljšuje poslovne rezultate.
Avtonomni agenti odpirajo nova varnostna tveganja
Razprava »The Agent Security Problem Nobody Is Talking About« bo namenjena varnosti avtonomnih UI-agentov. Ti sistemi ne odgovarjajo le na vprašanja, temveč lahko izvajajo naloge: dostopajo do dokumentov, uporabljajo poslovne aplikacije, sprožajo postopke in komunicirajo z drugimi sistemi.
V pogovoru bosta sodelovala Ric Smith, predsednik za produkte in tehnologijo pri Okta, ter Gavriel Cohen, soustanovitelj in izvršni direktor podjetja NanoCo. Raziskovala bosta varnost agentov na ravni infrastrukture, omejitve običajnih dovoljenj v aplikacijah in arhitekturne odločitve pri uvajanju agentske UI.
Težava je v tem, da klasični modeli dostopa pogosto predvidevajo človeka kot uporabnika. Avtonomni agent pa lahko v kratkem času izvede veliko število dejanj, zato lahko preširoka dovoljenja ali napačno razumevanje navodil povzročijo večjo škodo kot pri običajni programski opremi. Podjetja bodo zato morala določiti jasne meje pristojnosti, nadzorovati dejavnosti agentov in ohraniti možnost človeškega posredovanja.
Podjetniška UI potrebuje več kot dober model
V razpravi »Securing the AI Enterprise: Why the Cloud Just Got a Lot More Complicated« bodo sodelovali Rudy Mitra, podpredsednik varnostnih storitev pri AWS, Katie Moussouris, izvršna direktorica Luta Security, in strokovnjakinja za kibernetsko varnost Wendy Nather.
Osredotočili se bodo na varnost, upravljanje in opazljivost sistemov, ko UI prevzema bolj avtonomne naloge v podjetniških okoljih. V praksi to pomeni, da organizacije ne potrebujejo zgolj zmogljivega modela, temveč tudi pregled nad tem, katere podatke uporablja, do katerih storitev dostopa, kako sprejema odločitve in kdo je odgovoren, ko pride do napake.
To postaja posebej pomembno v panogah z občutljivimi podatki, kot so finance, zdravstvo, javna uprava in industrija. V teh okoljih je zaupanje v rešitev pogosto enako pomembno kot njena tehnološka zmogljivost.
V fizičnem svetu napake niso le digitalne
Razprava »Building AI Systems When Failure Is Not an Option« bo vprašanje zanesljivosti postavila v še zahtevnejši okvir: v okolja, kjer lahko napaka vpliva na vozilo, letalo, proizvodno linijo ali kritično operacijo.
Na odru Real World AI Stage bodo nastopili Nathan Michael, tehnološki direktor podjetja Shield AI, Mikell Taylor, direktor strategije robotike pri General Motorsu, ter Raquel Urtasun, ustanoviteljica in izvršna direktorica podjetja Waabi.
Govorili bodo o vzpostavljanju varnostne kulture, testiranju in validaciji sistemov, regulatornih ovirah ter načinih gradnje zaupanja v avtonomne tehnologije. Pri fizični umetni inteligenci namreč ni dovolj, da sistem v večini primerov deluje dobro. Razvijalci morajo razumeti tudi redke, nepredvidljive situacije, v katerih bi lahko model ali senzorji odpovedali.
Roboti čakajo na svoj preboj
Peta seja, »Robots Are Waiting for Their ChatGPT Moment. Here Is What Is Standing in the Way«, se bo posvetila eni glavnih omejitev robotike: pomanjkanju obsežnih in kakovostnih podatkov za učenje.
Les Karpas, globalni vodja fizične umetne inteligence v programu Nvidia Inception, bo predstavil vlogo podatkovnih cevovodov, simulacijskih okolij in temeljnih modelov pri razvoju bolj sposobnih robotov. Jezikovni modeli so napredovali predvsem zaradi dostopa do ogromnih količin besedilnih podatkov, roboti pa se morajo učiti iz mnogo bolj zapletenega sveta predmetov, prostora, gibanja in nepredvidljivih okoliščin.
Simulacije lahko pri tem pomagajo, saj omogočajo testiranje velikega števila scenarijev brez tveganja za ljudi ali opremo. Vendar ostaja ključen izziv prenos znanja iz virtualnega okolja v resnični svet, kjer so razmere bistveno manj predvidljive.
Zaupanje bo naslednja velika konkurenčna prednost
Program Disrupta 2026 kaže, da se razprava o umetni inteligenci pomika od vprašanja zmogljivosti k vprašanju odgovornosti. Podjetja bodo lahko razvila hitrejši model, sposobnejšega agenta ali naprednejšega robota, toda uspeh na trgu bo vse bolj odvisen od tega, ali bodo uporabniki, regulatorji in poslovne stranke tem sistemom zaupali.
Prav zato varnost, preverjanje, nadzor in zanesljivost ne bodo več dodatki k izdelku, temveč temeljni del njegovega razvoja. Razprave v San Franciscu bodo ponudile vpogled v izzive, s katerimi se industrija srečuje že danes – in ki bodo odločali o tem, kako hitro bo umetna inteligenca prešla iz predstavitev v vsakdanje poslovanje in fizični svet.
