Nvidia, AI superstar

1. Extrémní poprávka
2. Inovativní řešení pro datacentra

Extrémní poptávka

V současnosti na poli učení umělé inteligence doslova kraluje Nvidia s jejich čipy Nvidia H100 Tensor Core GPU Hopper. Nabízí se v několika verzích, některé vypadají jako přerostlé grafické karty s rozhraním PCIe, jiné jsou určené pro rozhraní SXM, které je určené pro integraci do datacenter. Oficiální dovozci nabízejí tuto kartu na objednání od 890 tisíc Kč za kartu, ale v současné době poptávka naprosto převyšuje nabídku, takže je běžné, že se na eBayi prodávají tyto karty s pamětí s kapacitou 80 GB RAM v ceně 45 000 USD (více než milion korun).

Není to ale ani zdaleka poslední slovo NVIDIA v oblasti AI akcelerátorů. 19. března 2024 Jensen Huang představil novou generaci AI akcelerátorů Nvidia H200 Blackwell, které výrazně navyšují výkony s tím, že používají stejný software a stejnou infrastrukturu, takže je možné poměrně snadno upgradovat z H100 na H200.

Nový H200 vznikl spojením dvou fyzických čipů tak, že vytvořil jeden celek, který vnímají aplikace jako monolitický. Má 208 miliard tranzistorů (2,5x více než Hopper) na špičkové litografii 5 nm a nabízí celkem 16896 jader. Každý čip má paměťovou sběrnici o šířce 5120 bitů a dovoluje adresovat až 141 GB RAM. Jednotlivé čipy je možné propojovat sběrnicí NVLink s obousměrným spojením s propustností 900 GB/s, které dovolí propojit do jednoho celku až 576 takovýchto procesorů.

Inovativní řešení pro datacentra

Nvidia nabízí hotové řešení pro datacentra, které obsahuje na jedné desce dva procesory H200 doplněné o řídící procesor Nvidia Grace se 72 jádry ARM Neoverse V2, který slouží pro řízení a koordinaci práce obou čipů H200. Celý tento celek má udávaný příkon 2700 wattů a vyžaduje proto jak severové napájení, tak i chlazení.

Nvidia nabízí nejen extrémně výkonné čipy, ale celá hotová řešení včetně softwarové stránky, takže v současnosti má jenom velmi malou konkurenci. Zájem o umělou inteligenci jí vynáší nemalé zisky – a je vysoce pravděpodobné, že se pokusí udržet svou dominanci i do budoucnosti.

Nvidia si upevňuje svou pozici jako lídr v oblasti AI akcelerátorů s uvedením svých čipů Nvidia H100 Tensor Core GPU a novější generace H200 Blackwell. Tyto produkty, nabízející neuvěřitelnou výpočetní kapacitu a paměť, jsou navrženy pro vysokou poptávku v datacentrech a pokročilé AI aplikace. Přestože cena a dostupnost reflektují extrémní poptávku, Nvidia také přináší inovativní řešení pro efektivnější a výkonnější práci s AI, včetně integrovaných systémů pro datacentra. Dominance Nvidie na trhu s AI je zřejmá, a její produkty a inovace otevírají nové možnosti pro vývoj a aplikaci umělé inteligence.

Michal Rybka

Michal Rybka je publicista a nadšenec s 20 lety zkušeností v IT a gamingu. Je kurátorem AlzaMuzea a YouTube kanálu AlzaTech. Napsal několik fantasy a sci-fi povídek, které vyšly v knižní podobě, a pravidelně pokrývá páteční obsah na internetovém magazínu PCTuning.