Nvidia je predstavila grafični procesor Blackwell B200, posebej zasnovan za hitrejšo in bolj učinkovito obdelavo dolgih zaporedij besedila v umetni inteligenci. Novi GPU prinaša kar 192 GB HBM3e pomnilnika in je zmožen obdelati več kot 30 TFlops FP8 procesne moči, kar je več kot dvakrat več kot prejšnja generacija. Razvijalci naprednih jezikovnih modelov, kot sta GPT-4 in Llama 3, lahko z novo arhitekturo bistveno pospešijo učenje in delovanje modelov, ki zahtevajo analizo dolgega konteksta ali kompleksne podatkovne nize.
Napredne specifikacije in merljive izboljšave
Blackwell B200 je trenutno najbolj zmogljiv Nvidia GPU za aplikacije umetne inteligence. Opremljen je z 192 GB HBM3e pomnilnika, kar omogoča trening modelov, ki obdelujejo zelo dolga besedilna zaporedja – do 3-krat daljša v primerjavi z A100 ali H100. Hitrost prenosa podatkov znaša 8 TB/s, kar omogoča, da modeli z več milijardami parametrov učinkovito obdelujejo celotne knjige, pravne dokumente ali medicinske kartoteke v eni potezi.
Pri primerjavi z Nvidia H100 novi Blackwell GPU prinaša več kot 2-krat večjo učinkovitost pri izračunu dolgih kontekstov, znižuje porabo energije (do 25 odstotkov manj za enak izračun) in omogoča hitrejše učenje velikih jezikovnih modelov za približno 40 odstotkov. To pomeni, da lahko laboratoriji in podjetja znatno skrajšajo čas treniranja, kar neposredno vpliva na hitrejše uvajanje novih rešitev.
Podpora za napredne modele, med katerimi so GPT-4, Llama 3 in drugi komercialni sistemi, omogoča uporabo pristopov, kjer je potrebno analizirati dolge pogovore, celotna poglavja knjig ali večletne nizke podatkov v analitiki. Novi GPU odpira možnosti za razvoj bolj preciznih, zanesljivih in hitro odzivnih aplikacij, ki so bile do zdaj omejene zaradi strojne opreme.
Konkretne rešitve za medicino, finance in raziskave
V medicini omogoča Blackwell B200 simultano analizo celotne zdravstvene dokumentacije posameznega pacienta. To pomeni, da lahko AI-modeli naenkrat pregledajo zapise, slike in rezultate preiskav, kar pohitri odkrivanje tveganj, sprememb v poteku bolezni ali identifikacijo napak pri diagnosticiranju. Na ta način se poveča zanesljivost obravnave in zmanjša možnost človeške napake.
V finančnem sektorju novi GPU omogoča sprotno analizo dolgih finančnih tokov, transakcij in dokumentacije za več let nazaj. Sistem lahko zazna netipične ali sumljive vzorce, ki bi jih sicer standardni procesorji zgrešili zaradi dolžine in kompleksnosti podatkov. To pripomore k učinkovitejšemu odkrivanju prevar ter boljšemu upravljanju tveganj v realnem času.
Raziskovalci na področju jezikoslovja in analize podatkov lahko z Blackwell B200 sproti procesirajo celotne korpuse, kompleksne raziskovalne podatke ali večje zgodovinske zbirke. To omogoča hitrejše prepoznavanje trendov, pomenov in povezav v podatkih, kar pospešuje znanstvena odkritja in razvoj novih metod na področju umetne inteligence.
