Na konferenci TechCrunch Disrupt 2025 je Thomas Wolf iz podjetja Hugging Face predstavil razvojne trende odprtokodne umetne inteligence, pri čemer je posebej izpostavil pomen skupnosti in sodelovanja za napredek na tem področju. Odprtokodna umetna inteligenca vse bolj pridobiva na pomenu zaradi dostopnosti, prilagodljivosti in možnosti hitrega odzivanja na tehnološke izzive. Med strokovnjaki v industriji prevladuje prepričanje, da tovrsten razvoj pomembno prispeva k demokratizaciji umetne inteligence.
Konkretni primeri odprtokodnih projektov in koristi skupnosti
Hugging Face je v zadnjih letih postal ključna platforma za razvoj in uporabo odprtokodnih modelov. Modeli, kot sta BERT in BLOOM, so na voljo v skupnosti in so bistveno izboljšani prav s povratnimi informacijami razvijalcev z vsega sveta. Projekt BLOOM je nastal v sodelovanju več kot tisoč raziskovalcev, ki so skupno razvili velik jezikovni model, prilagojen različnim jezikom in uporabi po vsem svetu. Podjetja, ki uporabljajo infrastrukturo Hugging Face, poročajo o zmanjšanju stroškov razvoja in hitrejšem uvajanju novih rešitev. Razvijalci lahko izbirajo med množico že preizkušenih modelov in jih prilagodijo svojim poslovnim potrebam.
Odprtokodni modeli so pogosto bolj kakovostni, saj so deležni stalnih izboljšav in javnega preverjanja. Skupnost hitro odkrije napake in predlaga izboljšave, kar omogoča agilno in prilagodljivo razvojno okolje. Primer tega je orodje Spaces na Hugging Face, ki omogoča hitro testiranje ter deljenje prototipov in končnih rešitev z uporabniki po vsem svetu.
Na področju varnosti Hugging Face ponuja konkretna orodja, kot je SafeTensors, ki omogoča shranjevanje modelov brez tveganja za vnašanje zlonamerne kode v podatkovne strukture modelov. Poleg tega podjetje sodeluje pri razvoju smernic za odgovorno uporabo umetne inteligence in standardov, ki naj bi olajšali nadzor nad rabo občutljivih podatkov.
Izpostavljeni izzivi in odzivi industrije
Med glavnimi izzivi ostajajo varnost, možnost zlorabe in pristranskost v podatkih, na katerih temeljijo veliki jezikovni modeli. Odprtokodni pristop sicer omogoča preverjanje izvorne kode, vendar še vedno obstajajo tveganja, kot so zlonamerna uporaba modelov za generiranje dezinformacij ali reproduciranje družbenih stereotipov v generiranih vsebinah. V industriji se ob tem pojavljajo razprave o potrebi po boljši regulaciji in uvajanju tehničnih rešitev za zmanjšanje tveganj.
Strokovnjaki s področja umetne inteligence opozarjajo, da odprtokodna narava modelov zahteva večplastno varnostno preverjanje. Raziskovalci z univerze Stanford izpostavljajo potrebo po razvoju neodvisnih testov pristranskosti ter sistemov za odkrivanje zlorab. Hkrati podjetja, kot je OpenAI, razvijajo lastne pristope k preverjanju modelov in usposabljanju razvijalcev za varno uporabo umetne inteligence.
Hugging Face ob tem sodeluje z drugimi akterji pri pripravi smernic in izobraževanju uporabnikov, a izzivi ostajajo. Poudarjena sta pomen transparentnosti in odprte razprave, ki omogočata lažje prepoznavanje težav in iskanje skupnih rešitev. Industrija tako poskuša z različnimi pristopi zagotoviti čim večjo varnost, etičnost in zanesljivost sodobnih AI sistemov.
