Grafické karty NVIDIA Volta (VŠE CO VÍME)
GPU (Graphic Processor Unit) se už dávno netýkají jen her. A přesně o tom byla technologická konference s šéfem CEO NVIDIE Jensenem Huangem. Šéf nejúspěšnějšího výrobce grafických karet představil novou architekturu Volta, nástupce stávajícího Pascalu, a svými slovy vysvětloval, proč je tak důležité to, co NVIDIA dělá. A na blížícím se veletrhu CES 2018 NVIDIA určitě využije příležitosti pochlubit se s touto technologií na domácí půdě.
Začátek konference GTC17 proběhl ve velkém stylu. Skoro mi šel mráz po zádech. Přiznám se, miluji vědu. A pokaždé, když přijde výrobce s něčím, co přináší neskutečnou výpočetní sílu, hřeje mne skrytě u srdce. Víte proč? Protože bez výpočetní síly bychom byli stále sto let za opicemi. Zkoumání vesmíru, objevy na poli medicíny, vývoj léků na smrtelné a nelítostné nemoci, robotika, která stále více pomáhá postiženým a nemocným lidem, filtrační systémy vody pro lidi v rozvojových zemích, teoretická fyzika, chemie, nanotechnologie, všemožné a neuvěřitelně komplexně složité analýzy a predikce chování nejrůznějších situací, zkrátka za vším - od záchrany lidského života po záchranu planety Země - stojí právě výpočetní síla, a bez ní by to nešlo.
NVIDIA Volta – na hraně Moorova zákona?
NVIDIA má nejen s NVIDIA Volta menší problém, a není to myšleno v negativním smyslu. Chip GV100 s 21,1 miliardy tranzistorů při ploše 815mm2 je maximum, kterého lze při výrobě dosáhnout. Jednoduše řečeno, slovy Jensena Huanga, více tranzistorů na větší ploše chipu by už prostě nedrželo pohromadě.
Na čipu NVIDIA GV100 se vyskytuje neuvěřitelných 21,1 miliardy tranzistorů. Pro plochu o obsahu 815 mm2 je toto maximální možný počet. Došli jsme snad na hranici samotných možností techniky? Řešením je Deep Learning!
V hlavní roli večera byla NVIDIA TESLA V100 s grafickým jádrem GV100 založená na architektuře NVIDIA Volta. Věcička primárně sloužící pro tzv. Deep Learning. A Deep Learning je právě hudbou budoucnosti. Na konci Moorova zákona, který tvrdí, že počet tranzistorů umístěných na integrovaný obvod se při zachování stejné ceny zhruba každých 18 měsíců zdvojnásobí, máme problém. Máme ale i řešení, a tím je Deep Learning. Jde o velmi složitou algoritmickou záležitost, ale velmi zjednodušeně řečeno, pomocí Deep Learningu učíme počítače učit se. Již nepotřebujeme strojům vysvětlovat, co, a jak mají přesně dělat, ale pomocí výpočetní síly jim dáme možnost naučit se to, pochopit to a rozvíjet se.
Projekt HOLODECK, virtuální realita pro vzájemnou spolupráci
Poté, co se Jensen Huang věnoval tomu, co přijde po konci Moorova zákona, představil projekt HOLODECK. Jde o virtuální prostor, kam se mohou účastníci této velmi pokročilé on-line konference připojit, a kde mohou velmi reálně spolupracovat, na čem je potřeba. Jako příklad byla představena názorná ukázka spolupráce, které se účastnil inženýr ze švédského Koenigseggu, kdy velmi reálně na bázi přesného grafického renderingu se simulací fyzického prostředí mohli účastníci v HOLODECKU rozebrat automobil na ty nejmenší součástky. První early access (předběžný přístup) by měl být k dispozici v srpnu.
Ray Tracing za pomocí Deep Learningu
Následně ukazuje CEO NVIDIE rozdíl mezi klasickým Ray Tracingem a tím, když tato metoda analýzy fotonů používá Deep Learning. Věřte, nebo ne, dnes už rozdíl mezi kvalitně provedeným obrázkem Ray Tracingu a kvalitní fotografií stejné kompozice nemáte šanci poznat. Naopak budete mít dojem, že ta více reálně vypadající scéna je opravdu reálná, protože ta horší musí být přeci vytvořená počítačem.
Pouze hudba budoucnosti? Kdepak, již 1 300 Deep Learning startupů
Deep learning je velice složitý algoritmický proces, který využívá extrémní výpočetní výkon k tomu, aby se počítače sami učily, vyvíjely. O populatritě těchto postupů netřeba hovořit, sama NVIDIA prezentovala přes 1 300 deep learning startupů v různých odvětvích.
Mohlo by se zdát, že bude ještě trvat, než se tyto věci dostanou do běžné praxe. Opak je pravdou, Deep Learning je už hojně používaný po celém světě. Mimo jiné se tímto směrem vydal i Amazon se svými službami a stejně tak i Microsoft se svým Azure.
Nastal zlatý hřeb večera, Jensen Huang představil TESLA V100 s grafickým jádrem GV100 na architektuře NVIDIA Volta. Dámy a pánové, 815mm2, výrobní proces TSMC 12nm FinFet a 21 miliard tranzistorů v zařízení velkém jako vaše dlaň. Neuvěřitelný výkon, který se vejde do zadní kapsy u kalhot. Vývoj, který stál 3 miliardy amerických dolarů.
NVIDIA Volta – specifikace, parametry a porovnání s GPU Pascal a Kepler
| Model | GV100 | GP100 | GK110 |
|---|---|---|---|
| Počel jader | 5376 | 3840 | 2880 |
| Tensor jádra | 672 | – | – |
| SMs | 84 | 60 | 15 |
| CUDA jádra | 64 | 64 | 192 |
| Tensor jádra | 8 | – | – |
| Texturovací jednotky | 336 | 240 | 240 |
| Typ pamětí | HBM2 | HBM2 | GDDR5 |
| L2 Cache | 6MB | 4MB | 1.5MB |
| Velikost chipu | 815mm2 | 610mm2 | 552mm2 |
| Počet tranzistorů | 21,1 MLD | 15,3 MLD | 7.1 MLD |
| TDP | 300W | 300W | 235W |
| Výrobní proces | TSMC 12nm FFN | TSMC 16nm FinFET | TSMC 28nm |
| Architektura | Volta | Pascal | Kepler |
Grafický chip NVIDIA GV100 na architektuře NVIDIA Volta
Dosud nevětší vyrobený grafický čip NVIDIA GV100 je opravdu pozoruhodný kousek. Celková cena vývoje čipu se zastavila až na konečné částce 3 miliard dolarů. Celý projekt byl vytvořen s cílem rozvinout umělou inteligenci.
Grafický chip NVIDIA GV 100 je dosud největší vyrobený chip, ať už co do jeho velikosti, tak co do počtu tranzistorů. Od NVIDIE to je opravdu odvážný krok, kterým mění celou výrobní strategii. Celý chip obsahuje 84 streamovacích multiprocesorů a každý z nich obsahuje 64 CUDA jader, tudíž celý chip GV100 na architektuře Volta disponuje 5376 CUDA jádry. A aby toho nebylo málo, podívejte se na následující video.
Jensen Huang vysvětluje zásadní rozdíl mezi architekturou Pascal a novou architekturou NVIDIA Volta, kterou tvoří tzv. tensor jádra, která mnohonásobně urychlují výpočetní výkon celého chipu.
Huang ukazuje na videu nesmírně zajímavou věc. Nejdříve ale mluví o tom, jak disponují v NVIDII nadanými astrofyziky, teoretickými fyziky a chemiky a dalšími odborníky, se kterými dokážou pomocí Deep Learningu a s jejich technologií vytvářet tyto úžasné simulace. V době Tesly K40 dokázali nasimulovat naši galaxii Mléčnou dráhu a Andromedu na základě reálných dat, která má lidstvo prozatím k dispozici. S výpočetní silou TESLA V100 na architektuře NVIDIA Volta se jim povedlo nasimulovat velmi blízké střetnutí těchto dvou Galaxií v době daleké budoucnosti 5 miliard let, kde za dalších 0,3 miliard roků převážila gravitace a kde Andromeda s Mléčnou dráhou zanikly, protože se spojily v jednu velkou galaxii.
NVIDIA DGX-1 a DGX Station aneb superpočítač pod stolem?
NVIDIA TESLA V100 s grafickým chipem GV100 NVIDIA Volta je dostupná k předobjednání ve dvou variantách.
NVIDIA DGX-1
NVIDIA DGX-1 je zařízení rack formátu, osázeno je 8 Teslami V100, což znamená celkový výkon 960 TFLOPS. Zařízení nabízí až neuvěřitelný nárust efektivity, a přitom s velkou úsporou elektrické energie.
NVIDIA DGX-1 je zařízení rack formátu, které disponuje osmi Teslami V100, které dohromady nabízejí výkon o 960 TFLOPS, 120GB GPU paměti, se dvěma 20 jádrovými Intel Xeon procesory E5-2698 v4 s taktem 2.2 GHz. Celé zařízení DGX-1 obsahuje 40,960 CUDA jader a 5,120 Tensor jader. Úložný prostor je pak tvořen 4 1,92 TB SSD disky v poli RAID 0. Dokážete si představit výpočetní sílu jednoho takového zařízení? Ne? Tak jinak...
Viděli jste někdy datacentrum? Alespoň ve filmu nebo na obrázku? Řady a řady nekonečných serverů. TESLA V100 dokáže toto množství elektroniky zmenšit 15x, resp. 15 nodů založených na NVIDIA TESLA V100 s GPU GV100 nahradí 500 serverových nodů s 1000 CPU. Opravdu nebývalý nárůst efektivity…
NVIDIA DGX Station
Jistě, ale NVIDIA DGX-1 stojí celých 149 000 amerických dolarů. Sice je to vzhledem k výkonu poměrně dobrá cena, ale co když jste menší startup a nebo se prostě chcete začít věnovat Deep Learningu? NVIDIA DGX-1 by vás teoreticky po poplatcích z importu mohla klidně vyjít na něco kolem 5 000 000 Kč, což je dost. NVIDIA vyslyšela přání zákazníků, a proto dala dohromady právě DGX Station, u kterého je nastavena cca 2,15x menší cena, celých 69 000 amerických dolarů. To už je snesitelnější, ne?
Základním kamenem NVIDIA DGX STATION je NVIDIA TESLA V100 - nejpokročilejší GPU všech dob. Vše optimalizováno pro umělou inteligenci díky Tensor Core architektuře. Také Intel Xeon, který tvoří CPU tohoto superpočítače je uzpůsoben pro deep learning proces.
NVIDIA DGX STATION pak nabízí v podstatě poloviční výkon úměrně pořizovací ceně, ale v podstatě jde o formát normálního, běžného počítače. DGX STATION disponuje 4 TESLA V100 o celkovém výkonu 480 TFLOPS s 64 GB GPU paměti. Tento super comp určený na Deep Learning nabízí 2,560 Tensor jader a 20,480 CUDA jader. Vše řídí jeden 20 jádrový Intel Xeon E5-2698 V4, který „tiká“ na 2,2 GHz. Operační paměť má DGX Station s 256 GB LRDIMM DDR4 a úložný prostor je tvořen 3 1.92TB SSD v RAIDu 0 a jedním 1.92 TB SSD pro operační systém. Vše je chlazeno vodním chlazením a výrobce slibuje max. hlučnost celé sestavy pod 35 dB. No, řeknu vám, mít volné dva milióny, asi bych se začal o Deep Learning dost zajímat.
Jaká nás čeká budoucnost?
Byly doby, kdy umělá inteligence byla především tématem sci-fi filmů, ale to už je pryč, a AI nám „klepe na dveře“. Moje pocity oscilují mezi neuvěřitelným nadšením a, nevím, zda racionálním, či iracionálním strachem, protože budoucnost není jasná. Stephen Hawking velmi často varuje před umělou inteligencí ve spojitosti s koncem lidské rasy, ale přesto, pokud bychom měli něčí názor brát v potaz, je to právě jeho. Na druhou stranu, pokrok v technologiích, a právě usilování o výpočetní sílu přináší lidstvu tolik úžasných věcí, že může být Deep Learning naší spásou, ale také zkázou. A co říkáte vy na novinky z GPU Technology Conference 2017? Dejte nám vědět do komentářů. A pokud budete mít chuť, zde je kompletní záznam z živého přenosu z GTC2017.
NVIDIA GPU Technology Conference
Co jsme napsali o NVIDIA Volta dříve?
NVIDIA Volta, představujeme novou generaci GPU
Generace NVIDIA Volta měla dorazit už v roce 2016, ale na poslední chvíli došlo k jejímu nahrazení jádrem Pascal. Zpětně můžeme hodnotit tento krok jako úspěšný, protože grafické karty GTX 1050, 1060, 1070, 1080 a 1080 Ti si zcela podmanili trh. Nyní však nadešel ten správný čas na architekturu NVIDIA Volta. Zatím vám nabízíme dva možné scénáře pro budoucí vývoj. O kolik budou lepší, než stávající grafické karty?
Scénář č.1, NVIDIA Pascal Refresh
Úspěšná loňská generace NVIDIA Pascal je s námi teprve chvilku a ta nejlepší grafická karta současnosti GTX 1080 Ti doslova jen pár měsíců. Nemluvě o Titanu Xp. Náhrada za úplně něco nového v podobě generace Volta tak na první pohled nedává smysl. Je tak docela dobře možné, že místo nových kusů dorazí refreshované karty GeForce GTX 2050, 2060, 2070 a 2080. Díky upraveným jádrům a vyšším frekvencím přinesou tyto grafické karty nárůst výkonu v nižších desítkách procent. Dojde tak k vytěžení jádra Pascal na maximum a bude umetená cestička pro nove grafické karty s jádry NVIDIA Volta na začátku roku 2018.
Možná úplně přesně nevíte, jak se takový počítač vlastně skládá. Připravili jsme pro vás podrobný návod, který popisuje jak v 8 krocích postavit celý počítač. Vaším průvodcem bude ostřílený borec „Tukan“ alias Mikoláš Tuček.
Očekávané specifikace GPU Pascal Refresh
| Porovnávaná oblast | GTX 2080 Ti | GTX 2080 | GTX 2070 |
|---|---|---|---|
| Architektura | Pascal Refresh | Pascal Refresh | Pascal Refresh |
| GPU | GP102 | GP104 | GP104 |
| Paměť | 12 GB GDDR5X | 8 GB GDDR5X | 8 GB GDDR5X |
| Frekvence paměti | 10 GHz | 8 GHz | 8 GHz |
| Paměťová sběrnice | 384bit | 256bit | 256bit |
| Paměťová propustnost | 480 GB/s | 320 GB/s | 320 GB/s |
| Očekávaný start | 2017 | 2017 | 2017 |
Scénář č.2, NVIDIA Volta bude GeForce GTX 2050, 2060, 2070 a 2080
Přestože si myslíme, že grafické karty s refreshovaným Pascalem porazí v pohodě i nastupující novinku AMD Vega, tak může NVIDIA reagovat nasazením grafických karet s čipem Volta už letošní rok. Hynix, jeden z tří hlavních výrobců pamětí, totiž oznámil, že už má téměř připravenou technologii GDDR6 a grafiky s ní by brzy mohly být na trhu. Šířka sběrnice se dá u highendové karty očekávat na hodnotě 384 bitů a ve výsledku by NVIDIA Volta nabízela paměťovou propustnost 768 GB/s. Jedná se dokonce o 50 % více než AMD se svými pamětmi typu HBM2, které nabídne grafický čip AMD Vega 10.
Tuto technologickou lahůdku nabízí jako první společnost Hynix. Paměti GDDR6 půjde provozovat až na 16GHz frekvenci, což je o mnoho víc než stávající GDDR5X, která běhá zhruba na 11GHz rychlosti. Paměti typu GDDR6 mají mít také snížené provozní napětí, čímž klesne i jejich spotřeba. To bude možné jen díky přechodu na 20nm výrobní proces. Takto postavené paměti mají mít kapacitu 12 nebo 24 GB. Rozhodně významný pokrok v segmentu grafických karet a technologický náskok pro NVIDIA Volta.
Grafické karty NVIDIA Volta, datum vydání a cena
Některé servery spekulují o nástupu grafických karet generace NVIDIA Volta už během třetího čtvrtletí roku 2017. Důvodem jsou údajně nižší tržby společnosti NVIDIA za prodané GPU a také samozřejmě příchod konkurenční grafik AMD Vega. Nástup nové generace by byl tedy posunutý zhruba o 4 měsíce. Jelikož se ale jedná o produkt, který měl nahradit již architekturu Maxwell v roce 2014, nelze tuto spekulaci popřít.
Zejména z počátku však všechny spekulace hovoří o využití jen ve výpočetním segmentu. GPU NVIDIA Volta má totiž tvořit hlavní část výkonu některých superpočítačů, ohlášeným pro letošní nebo příští rok. Pro ty by měl být určen nejvýkonnější čip z řady, označený jako GV110. Kromě vědeckých výpočtů bude však pracovat i v oboru umělé inteligence (neuronových sítí i strojového učení). Teprve poté dojde na využití v desktopových a notebookových grafických kartách.
Ohledně ceny se bohužel všechny známé servery shodují v jediném. Cena opět vzroste, což však ve vidině prakticky dvojnásobného nárůstu výkonu lze pochopit.
Více informací o NVIDIA Volta budeme vědět hned po ukončení GPU Technology Conference, která proběhne mezi 8. a 11. květnem.
Zdroj: nvidia.com
