HBM3e
HBM3e je označení pro typ operační paměti, konkrétně pro vylepšenou verzi standardu „High Bandwidth Memory 3“, kde písmeno „e“ označuje vylepšenou a rychlejší revizi standardu HBM3 (výrobci jej vykládají jako „enhanced“ či „evolutionary“). Na rozdíl od běžných pamětí RAM, které se nacházejí v samostatných modulech na základní desce, je tato paměť integrována přímo na společném pouzdře s grafickým čipem nebo jiným AI akcelerátorem. Její konstrukce je založena na vertikálním vrstvení několika paměťových čipů na sebe, což umožňuje vytvořit velmi širokou komunikační cestu k procesoru. Díky této architektuře a krátké vzdálenosti od výpočetního jádra dokáže paměť přenášet obrovské množství dat v krátkém čase, což se označuje jako vysoká datová propustnost. Tato vlastnost je zásadní pro aplikace umělé inteligence, které pracují s rozsáhlými datovými modely a vyžadují okamžitý přístup k velkému objemu informací. Tím se zabraňuje vzniku takzvaného úzkého hrdla, kdy by výkonný procesor musel na data čekat a jeho potenciál by nebyl plně využit. Pro představu o rozdílu oproti běžné herní grafice je užitečné porovnání s pamětí GDDR (Graphics Double Data Rate), například GDDR6 nebo GDDR7. GDDR jsou samostatné čipy umístěné na desce kolem grafického jádra a spoléhají na velmi vysoké taktovací frekvence při relativně úzké sběrnici (typicky 32 bitů na čip). Paměti rodiny HBM jdou opačnou cestou. Pracují na nižších frekvencích, ale díky vertikálnímu vrstvení čipů a extrémně široké sběrnici (1024 bitů a více na stack) přenesou více dat najednou. Výsledkem je u HBM výrazně vyšší celková datová propustnost a lepší poměr výkonu na watt, což je klíčové pro datová centra a trénování AI. GDDR je naproti tomu levnější, snáze vyrobitelná a snadněji se u ní navyšuje kapacita, a proto převažuje u herních a spotřebních grafických karet.
