Společnost Intel chce více prorazit na trhu s AI akcelerátory a představuje novinku v podobě GPU D270. To má až opravdu velkorysých 480 GB paměti VRAM.
Společnost Intel by chtěla v oblasti AI akcelerátorů získat větší vliv, než jaký zatím má. Zatímco u CPU má solidní pozici, u GPU je to složitější, nicméně krokem vpřed by mohly být PCIe akcelerátory řady D, které byly představeny na OCP Global Summit. Ty jsme dosud znali jako Crescent Island. Jde o karty určené především pro agentické AI systémy a inferenci LLM, kde hraje zásadní roli kapacita paměti pro dlouhé kontexty nebo více souběžných relací.
Prvním modelem v této řadě je GPU D270, což je karta do slotu PCIe 5.0 postavená na architektuře Xe3P. Má 32 jader Xe3P a 256 XMX jednotek, přičemž z čipu byly odstraněny části pro grafiku a ray-tracing, aby se uvolnilo více prostoru pro AI výpočty. Co se týče paměti, karty od Intelu budou vybaveny 160 GB LPDDR5X, nicméně architektura dovoluje partnerům osadit na své akcelerátory až 480 GB této paměti. To je výrazně více než u konkurenčních řešení, což umožňuje spustit velmi velké LLM bez nutnosti používat drahé paměti HBM.
Vysoká kapacita paměti je tu prioritou, nicméně špatná není ani propustnost, která dosahuje 1,5 TB/s (tedy téměř na úrovni RTX 5090, která má ale jen 32 GB a pojme tedy jen podstatně “hloupější” modely). Ve srovnání s HBM kartami je to ale podstatně méně, ty mají několikanásobně vyšší propustnosti.
Intel chce sázet na vysokou efektivitu v poměru kapacity na watt a dolar. Jedna karta D270 dokáže hostovat modely s až 300 mld. parametrů a sestava s 8 kartami pak zvládne i přes jeden bilion parametrů. Výkon v FP8 dosahuje 1,3 PFLOPS a TDP pro vzduchem chlazený model činí 350 W.
K dispozici je podpora pro vLLM a ekosystém PyTorch včetně Day-0 podpory pro model Muse Glimmer od Mety s 30 mld. parametrů. K Intelu se připojilo přes 50 partnerů, mezi nimiž jsou výrobci jako Dell, HPE, Lenovo, Supermicro nebo Cisco. Na softwarové stránce spolupracuje Intel s firmami Red Hat, VMware nebo Hugging Face. Vzorky jsou už dodávány prvním obchodním partnerům, cenu ale zatím neznáme.
