AMD představilo spoustu novinek pro AI a jednou z nich jsou i akcelerátory Instinct MI455X. Ty mají 320 miliard tranzistorů a velkorysých 432 GB paměti.
V posledních dnech jsme si představili několik novinek společnosti AMD v oblasti AI a několikrát jsme zmínili i akcelerátor Instinct MI455X, nikdy jsme se mu ale pořádně nevěnovali. Dnes se na něj tedy podíváme v trochu větším detailu.
Ten je postavený na architektuře CDNA 5, a má být odpovědí na architekturu Rubin od Nvidie. Novinka je vyráběna pomocí kombinace 2nm a 3nm procesů od TSMC (N2 pro 8 akcelerátorů XCD, N3P pro IOD dlaždici a FCD - Fabric and Cache Die). Využívá pokročilé pouzdření CoWoS-L. Celý čip obsahuje 320 miliard tranzistorů a má 8 XCD, každé s 32 WGP, což dává celkově 256 WGP. Čip běží na frekvenci 2400 MHz.
Pokud jde o výpočetní výkon, MI455X zvládne až 40,3 PFLOPS v datovém typu MXFP4 (ten používá např. GPT-OSS) a 20,1 PFLOPS v FP8, což představuje dvojnásobek oproti předchozí řadě MI350. V srovnání s Nvidií Rubin je AMD o něco slabší v FP4 (Rubin má 50 PFLOPS a je tak o čtvrtinu výkonnější), nicméně v FP16 a BF16 nabízí o čtvrtinu vyšší výkon naopak AMD. Největší rozdíl je vidět u FP32, kde novinka dosahuje 315 TFLOPS, což je zhruba 2,4× více než u Rubin. K dispozici bude také varianta MI430X určená pro HPC, která nabízí špičkový výkon v FP64 až 288 TFLOPS, ale jen 9,2 PFLOPS v FP4.
AMD u akcelerátorů tradičně boduje pamětí. Instinct MI455X disponuje 432 GB paměti HBM4, což je o 50 % více než u konkurenční Nvidie Rubin nebo u předchozího MI355X. Propustnost pamětí vzrostla na 23,3 TB/s, tedy téměř trojnásobek oproti řadě MI350. L2 cache je zde ve formě 12 bloků po 16 MB, což dává celkem 192 MB cache. Pro srovnání, MI355X měla 256 MB Infinity Cache, došlo zde tedy ke změně architektury paměti a mírnému snížení kapacity.
Pokud jde o servery, kde se budou tyto akcelerátory používat, tak AMD představilo Helios AI Rack, což je referenční design obsahující 72 GPU MI455X. Celý rack tak dosahuje výkonu 2,9 ExaFLOPS v FP4 a disponuje celkově 31 TB paměti HBM4.
AMD plánuje udržet vysoké tempo a v roce 2027 by měly přijít akcelerátory řady MI500 s architekturou CDNA 6 následované řadou MI600 (CDNA-Next) v roce 2028.
