Salesforce s predstavitvijo modela Koa ne napoveduje le še enega poslovnega klepetalnika. Velikan poslovne programske opreme poskuša zmanjšati svojo odvisnost od najdražjih zaprtih modelov, kot sta ChatGPT in Claude, ter v Agentforce vgraditi lastno plast umetne inteligence za zahtevnejše poslovne procese.
Koa je prvi Salesforceov model za sklepanje, razvit v sodelovanju z Nvidio. Zgrajen je na Nvidijinem odprtoutežnem modelu Nemotron, Salesforce in Nvidia pa sta ga dodatno usposobila za prodajo, trženje in podporo strankam. Sporočilo je jasno: podjetja ne potrebujejo nujno splošnega modela, optimiziranega za najtežje matematične ali programerske izzive, temveč zanesljivo in stroškovno učinkovito umetno inteligenco za vsakodnevno delo.
Odvisnost od velikih modelov postaja poslovno vprašanje
Doslej je Salesforce pri nalogah, ki zahtevajo več korakov sklepanja, uporabljal zunanje modele. Če je agent v platformi Agentforce naletel na zahtevnejše vprašanje, je sistem zahtevo prek tako imenovanega AI-prehoda usmeril k ponudnikom, kot sta Anthropic ali OpenAI.
To podjetjem omogoča dostop do zmogljivih modelov, vendar odpira pomembna vprašanja: stroške uporabe, nadzor nad podatki, skladnost z regulativo in odvisnost od ponudnikov, katerih modeli so zaprti in se hitro spreminjajo.
S Koo želi Salesforce del teh zahtevnejših nalog obdržati znotraj svojega ekosistema. Model bo na voljo kot ena izmed možnosti v Agentforceu, sistem pa bo lahko glede na vrsto zahteve izbral najustreznejši model.
Takšen pristop je strateško pomemben. Namesto da bi vse poslovne procese pošiljal enemu zunanjemu ponudniku umetne inteligence, Salesforce gradi hibridni model: za pogoste, specifične in podatkovno občutljive naloge lahko uporabi lastni sistem, za druge primere pa še vedno zunanje modele.
Kaj naj bi Koa prinesla podjetjem
Koa je namenjena zlasti nalogam, pri katerih mora agent povezati več informacij, slediti internim pravilom in izvesti več zaporednih korakov. To je pomembna razlika v primerjavi s preprostimi nalogami, kot sta povzetek e-pošte ali priprava osnutka odgovora.
V praksi bi lahko takšen agent v podpori strankam prejel zahtevek za vračilo izdelka, preveril naročilo, pogoje pogodbe, zgodovino komunikacije in veljavna pravila podjetja, nato pa pripravil odgovor ali predlagal naslednji korak zaposlenemu. Pri prodaji bi lahko agent pregledal stanje potencialne stranke, odprte priložnosti, prejšnje pogovore in predpisane popuste ter prodajalcu predlagal, katere informacije manjkajo za napredovanje posla.
Tudi v trženju je možna uporaba pri delu z več viri podatkov: agent bi lahko pomagal razvrstiti potencialne stranke glede na vedenje, panogo ali stopnjo zanimanja, pri tem pa upošteval pravila o tem, katere podatke je dovoljeno uporabiti.
Gre za hipotetične primere, saj Salesforce v predstavljenih informacijah ni objavil neodvisnih primerjalnih meritev natančnosti, cen ali konkretnih prihrankov. Je pa podjetje poudarilo, da naj bi Koa za primerljive poslovne naloge porabila manj žetonov kot uporaba večjih zunanjih modelov.
Zakaj sta pomembna odprtoutežni model in poraba žetonov
Nemotron je odprtoutežni model. To pomeni, da so njegove naučene uteži – parametri, ki določajo delovanje modela – dostopne uporabnikom pod pogoji licence. To ni isto kot popolnoma odprtokoden sistem, vendar podjetjem praviloma omogoča več nadzora kot pri povsem zaprtih modelih.
Pri zaprtih modelih, kot sta ChatGPT ali Claude, uporabnik praviloma dostopa do storitve prek vmesnika ali API-ja, ne pa do samih uteži modela. Odprtoutežni pristop lahko podjetjem olajša prilagajanje modelov lastnim potrebam, izvajanje v nadzorovanem okolju in preverjanje, kako je sistem vpet v njihovo infrastrukturo.
Pomembna je tudi omemba žetonov. Žetoni so osnovni deli besedila, ki jih model bere in ustvarja; lahko gre za dele besed, besede, številke ali ločila. Pri uporabi velikih jezikovnih modelov se cena pogosto obračunava glede na število obdelanih in ustvarjenih žetonov. Če model za isto nalogo potrebuje manj žetonov, to lahko pomeni nižje stroške in hitrejši odziv.
Nvidia pri Nemotronu izpostavlja učinkovitejše izvajanje sklepanja in hitrejši čas do prvega ustvarjenega žetona. Za velika podjetja, ki lahko vsak dan obdelajo na milijone zahtevkov podpore, prodaje ali administracije, takšne razlike hitro postanejo pomemben stroškovni dejavnik.
Poudarek na podatkih in zaupanju
Salesforce trdi, da pri dodatnem usposabljanju Koe ni uporabil dejanskih podatkov svojih strank. Namesto tega sta Salesforce in Nvidia izdelala sintetične podatke, ki posnemajo poslovne scenarije, kot so pogovori z nezadovoljnimi strankami ali prodajni postopki.
To je pomembno predvsem za organizacije v reguliranih panogah, denimo finančnih storitvah, zdravstvu in javnem sektorju. Pri teh podjetjih ni ključno le, kako dobro model odgovarja, ampak tudi kje se podatki obdelujejo, kdo ima do njih dostop ter ali se uporabljajo za nadaljnje učenje modela.
Salesforce poudarja tudi poreklo osnovnega modela. Podjetje je Nemotron označilo kot ameriški model z jasnejšim podatkovnim poreklom, kar postaja pomembno v času strožje regulacije umetne inteligence in zahtev po digitalni suverenosti. Jasno poreklo podatkov sicer samo po sebi ne zagotavlja varnosti ali skladnosti, lahko pa podjetjem olajša presojo tveganj in izpolnjevanje notranjih pravil.
Ne gre za slovo od Clauda in ChatGPT-ja
Koa ne pomeni, da Salesforce opušča partnerstva z vodilnimi laboratoriji. Podjetje je hkrati predstavilo sodelovanje z Anthropicom pod imenom Claudeforce. Ta podjetjem omogoča uporabo Clauda kot vmesnika umetne inteligence, medtem ko naj bi podatki ostali v Salesforceovem sistemu evidenc in pod njegovimi varnostnimi mehanizmi.
To ni protislovje, temveč pragmatična strategija. Lasten, specializiran model je lahko primernejši za pogosto ponavljajoče se procese z jasnimi poslovnimi pravili. Zunanji splošni modeli pa lahko ostanejo uporabni za naloge, kjer je pomembnejše širše znanje, kreativnost ali zmogljivosti, ki jih interno prilagojen model še ne dosega.
Za kupce je takšna večmodelna strategija privlačna, ker zmanjšuje vezanost na enega ponudnika. Hkrati pa prinaša večjo kompleksnost: podjetja bodo morala določiti, katere podatke sme obdelovati posamezen model, kako se preverja kakovost odgovorov in kdo nosi odgovornost, ko agent sprejme napačno odločitev.
Kaj to pomeni za slovenska podjetja
Poteza Salesforcea kaže širši trend: vrednost umetne inteligence se vse manj meri zgolj po splošnih sposobnostih modela in vse bolj po tem, kako dobro se ta vključi v konkretne poslovne procese. Za slovenska podjetja to pomeni, da pri uvajanju AI ni vedno smiselno iskati največjega ali najbolj prepoznavnega modela.
Pomembnejša vprašanja so, ali model razume poslovna pravila, ali je mogoče nadzorovati dostop do podatkov, kakšni so stroški uporabe in ali se lahko rešitev poveže z obstoječimi sistemi CRM, ERP ali podpore strankam.
Koa zato ni nujno prelomnica zato, ker bi presegla najboljše splošne modele. Prelomna je predvsem kot znak, da velika podjetja gradijo specializirane modele za lastne ekosisteme. Prihodnja konkurenca v poslovni umetni inteligenci se tako ne bo odvijala le med laboratoriji, ki razvijajo največje modele, temveč tudi med ponudniki programske opreme, ki bodo znali modele prilagoditi konkretnemu delu, podatkom in pravilom podjetij.
