Box je na svoji razvijalski konferenci predstavil funkcijo Box Content Retrieval, ki v osrednji del njegove storitve vključuje Nvidiin sistem vektorskih predstavitev Nemotron. Funkcija je namenjena učinkovitejšemu iskanju vsebin za agente umetne inteligence, pri čemer uporablja metapodatke, ustvarjene z Nemotronom.
Po navedbah podjetja Box naj bi sistem uporabnikom omogočil hitrejše, natančnejše in cenejše poizvedbe. Kari Briski, podpredsednica Nvidie za generativno umetno inteligenco, je za TechCrunch povedala, da pričakuje štirikrat hitrejše odgovarjanje na poizvedbe, 20 odstotkov manj napak in 90 odstotkov manj uporabljenih žetonov.
Box Content Retrieval bo predvidoma v začetku prihodnjega leta na voljo vsem naročnikom paketa Enterprise Advance.
Namesto branja celotnih dokumentov le najrelevantnejši deli
Izvršni direktor Boxa Aaron Levie je dejal, da nova funkcija povečuje relevantnost iskalne tehnologije podjetja in njegovih agentov. Sistem naj bi agentom namesto obdelave celotnega dokumenta vrnil dele dokumentov, ki so najbolj povezani z uporabnikovo poizvedbo oziroma nalogo, ki jo agent opravlja.
»To bistveno poveča tako relevantnost naše iskalne tehnologije kot naših agentov,« je povedal Levie. »Namesto da bi moral agent nekako prebrati vsak dokument, lahko vrnemo dele dokumentov, ki so najbolj relevantni za uporabnikovo poizvedbo ali katerokoli nalogo, ki jo agent izvaja.«
Uporaba Nemotron Embed za iskanje po pomenu
Nova funkcija temelji na projektu Nvidia Nemotron Embed, ki ponuja modele vektorskih predstavitev z odprtimi utežmi za izboljšanje avtomatiziranih sistemov pridobivanja informacij. Ti modeli uporabljajo velike jezikovne modele za predhodno obdelavo podatkov, da jih lahko agenti učinkoviteje uporabljajo.
TechCrunch navaja, da so bili tovrstni modeli v večjih laboratorijih pogosto manj izpostavljeni. Območje je hkrati eno od področij Nvidiinega projekta odprtokodnih modelov. Nvidiina izdaja Nemotron je julija dosegla vrh merila RTEB, ki meri kakovost pridobivanja informacij.
Po navedbah Boxa je sistem posebej uporaben skupaj z aktivnimi agenti. Kot primer podjetje omenja pravnike, ki bi lahko z njim lažje našli ustrezne pogodbene določbe in sodne precedente.
Vektorske predstavitve Nemotrona ne temeljijo zgolj na ključnih besedah, temveč preslikavajo osnovne koncepte. Iskalno orodje lahko zato prikaže povezane pravne teme tudi takrat, ko so zapisane z drugačnimi izrazi ali v drugem jeziku.
Box združuje Nvidiine modele z lastnimi metapodatki
Modeli Nemotron so sicer prosto dostopni, vendar sistem Box Content Retrieval temelji tudi na obstoječih metapodatkih podjetja Box in njegovih mehanizmih za nadzor dovoljenj. Levie je za TechCrunch dejal, da je takšno kombinacijo težko poustvariti od začetka.
»Verjetno v en preprost API združujemo pet različnih tehnologij,« je povedal Levie.
