# Reflection AI predstavlja Beam: odprte uteži, manj računske moči in velik izziv za zaprte modele
V tekmi za najzmogljivejše modele umetne inteligence običajno zmagujejo podjetja z največ podatkovnimi centri, največ čipi in največ kapitala. Startup Reflection AI zdaj trdi, da lahko del tega razmerja spremeni. Njegov novi model Beam naj bi ponujal zmogljivosti, primerljive z vodilnimi kitajskimi odprtimi modeli, vendar z bistveno nižjimi stroški izvajanja.
Če se bodo te navedbe potrdile, bi to lahko bilo pomembno predvsem za podjetja, razvijalce in javne institucije, ki želijo zmogljivo umetno inteligenco izvajati na lastni infrastrukturi ali jo prilagoditi lastnim podatkom. Model z odprtimi utežmi namreč omogoča več nadzora nad uporabo, stroški, varnostjo in lokacijo podatkov kot storitve zaprtih ponudnikov, kot sta OpenAI ali Anthropic.
Vendar je pri napovedi potrebna previdnost: ključne primerjalne rezultate je objavil Reflection AI sam, neodvisne preveritve zmogljivosti Beama pa ob objavi še niso bile na voljo.
## Model velikosti 501 milijard parametrov, a z omejenim aktivnim delom
Beam je besedilni model z 501 milijardami parametrov, vendar jih med posameznim izvajanjem uporablja le približno 23 milijard. Temelji na arhitekturi *mixture-of-experts* oziroma MoE.
Pri tej zasnovi model nima aktiviranih vseh svojih parametrov za vsak odgovor. Namesto tega sistem glede na nalogo izbere manjši nabor specializiranih »strokovnjakov« oziroma delov modela. Prednost takšne arhitekture je, da lahko model ohrani veliko skupno zmogljivost, medtem ko so stroški posameznega odgovora nižji kot pri klasičnem gostem modelu podobne velikosti.
Prav tu je bistvo Reflectionove napovedi. Podjetje navaja, da Beam na naprednih testih sklepanja dosega rezultate, primerljive z modelom GLM-5.2 kitajskega podjetja Z.ai, ob tem pa porabi od tri- do štirikrat manj računske zmogljivosti pri izvajanju.
GLM-5.2 ima po navedbah TechCruncha približno 744 milijard vseh parametrov in 40 milijard aktivnih parametrov. Beam je torej po skupnem številu parametrov manjši, vendar naj bi bil zaradi arhitekture in načina učenja učinkovitejši pri dejanski uporabi.
Takšne primerjave so pomembne, vendar niso dokončen dokaz premoči. Benchmarki so odvisni od izbire nalog, načina vrednotenja, uporabljenih pozivov, nastavitev modela in računske infrastrukture. Poleg tega je mogoče modele optimizirati posebej za določene teste. Dokler Beama ne preizkusijo neodvisni raziskovalci in razvijalci na širšem naboru nalog, je treba njegove rezultate razumeti predvsem kot trditev proizvajalca.
## Milijon žetonov konteksta: uporabno, a ne samodejno odločilno
Beam ima kontekstno okno z milijonom žetonov. To pomeni, da lahko model v enem pogovoru ali opravilu obravnava zelo veliko količino besedila, programske kode ali dokumentacije.
V praksi bi to lahko omogočilo analizo velikih zbirk pogodb, tehnične dokumentacije, obsežnih repozitorijev programske kode, notranjih pravilnikov ali arhivov poslovne komunikacije brez stalnega razbijanja vsebine na manjše dele.
A tudi tu velikost sama po sebi ni dovolj. Ključno vprašanje je, kako dobro model informacije iz zelo dolgega konteksta dejansko uporablja. Model lahko sicer sprejme milijon žetonov, vendar to ne zagotavlja, da bo zanesljivo našel najpomembnejši podatek, ga pravilno povezal z drugimi informacijami in ustvaril točen odgovor. Dolg kontekst je zato predvsem infrastrukturna prednost, ne pa samodejno dokaz boljše inteligence.
## Odprte uteži niso enako kot odprtokodna umetna inteligenca
Reflection napoveduje, da bo uteži modela Beam objavil skupaj s tehničnimi podrobnostmi. To je pomembna razlika v primerjavi z modeli, katerih uteži in način delovanja ostajajo izključno pri ponudniku.
Pri modelu z odprtimi utežmi lahko organizacija model prenese, izvaja na lastni infrastrukturi, ga prilagodi za notranje potrebe in ga poveže z lastnimi podatki. To je posebej zanimivo za banke, proizvodna podjetja, zdravstvene ustanove, javni sektor in države, ki imajo stroge zahteve glede zasebnosti, regulative in podatkovne suverenosti.
Vendar odprte uteži ne pomenijo nujno, da je model povsem odprtokoden. Pomembne ostajajo licenca, pogoji uporabe, dostop do učnih podatkov, objava izvorne kode in možnost komercialne predelave. Razlika je bistvena: odprte uteži lahko povečajo dostopnost modela, vendar še ne zagotavljajo popolne preglednosti njegovega razvoja.
## “Tovarne umetne inteligence” kot poslovni model
Reflection želi Beam in prihodnje modele ponuditi podjetjem ter državam prek koncepta tako imenovanih tovarn umetne inteligence. Ideja je, da organizacija na lastni infrastrukturi zgradi prilagojen sistem umetne inteligence, ki je učen ali dodatno prilagojen na njenih internih podatkih.
Tak pristop bi lahko zmanjšal odvisnost od velikih ameriških ponudnikov oblačnih storitev in zaprtih modelov. Podjetje bi lahko imelo jezikovni model, prilagojen lastnim procesom, dokumentaciji, jeziku in regulativnim zahtevam. Država pa bi lahko razvijala nacionalne ali sektorske sisteme, pri katerih občutljivi podatki ne zapuščajo domače infrastrukture.
Reflection je že začel preizkušati koncept partnerstva za suvereno tovarno umetne inteligence z južnokorejsko skupino Shinsegae Group. Med potencialnimi uporabniki naj bi bili tudi hedge skladi in trgovska podjetja, kjer je prednost lastnih podatkov in hitrega odziva lahko neposredno finančno pomembna.
## Ogromen kapital kaže na velike ambicije
Reflection AI je bil ustanovljen leta 2024, a je po podatkih PitchBooka zbral približno 4,7 milijarde dolarjev. Med vlagatelji so Nvidia, Sequoia Capital in Lightspeed Venture Partners, zadnja investicijska runda pa je podjetje vrednotila na približno 25 milijard dolarjev pred novo naložbo.
Podjetje je obenem sklenilo pogodbe s SpaceX in Nebius, ki naj bi bile skupaj vredne več kot 7 milijard dolarjev, za dostop do Nvidiinih čipov GB300 do leta 2029.
To kaže, da kljub obljubi učinkovitejšega izvajanja modelov razvoj vrhunskih sistemov umetne inteligence ostaja izrazito kapitalsko intenziven. Ni dovolj razviti dober algoritem; podjetje potrebuje tudi ogromne količine računske moči, dostop do čipov, infrastrukture, podatkov in raziskovalnega kadra.
Reflection se tako ne predstavlja kot majhen izzivalec, ki bi želel tekmovati brez velikih virov. Njegova strategija je drugačna: z velikim kapitalom želi razviti alternativo zaprtim ameriškim modelom in hkrati odgovoriti na vse močnejšo ponudbo kitajskih odprtih modelov.
## Kaj to pomeni za Slovenijo?
Za slovenska podjetja in javne ustanove bi lahko takšni modeli postali zanimivi predvsem zaradi možnosti lokalnega izvajanja in prilagajanja slovenskemu jeziku, zakonodaji ter internim podatkom. Toda koristi ne bodo samodejne. Za resno uporabo bodo potrebni računska infrastruktura, kakovostni slovenski podatki, strokovnjaki za uvajanje modelov in jasna pravila glede varstva podatkov.
Beam zato ni pomemben le kot še en velik jezikovni model. Je del širšega premika, v katerem se vprašanje ne glasi več samo, kdo ima najboljši model, temveč tudi kdo ga lahko uporablja, na čigavi infrastrukturi, s čigavimi podatki in pod kakšnim nadzorom.
Če bo Reflection AI svoje obljube tudi neodvisno dokazal, bi lahko Beam okrepil položaj odprtih uteži v konkurenci z zaprtimi sistemi. Če pa se bodo izkazale omejitve pri kakovosti, stroških ali licenci, bo ostal predvsem še en primer ambicioznih trditev v vse bolj dragi tekmi za umetno inteligenco.
