AMD uvedlo akcelerátor Instinct MI325X s 288GB HBM3E, nastínilo i 3nm MI350X

AMD se snaží konkurovat společnosti Nvidia na poli akcelerátorů pro AI a poslední dobou se jí to docela daří. Její Instinct MI300X je dost úspěšný a nyní představuje inovovanou verzi Instinct MI325X. Ten je nadále postaven na architektuře CDNA 3, nicméně přináší několik velmi užitečných vylepšení. Nyní se totiž dostává na 288 GB paměti HBM3E, takže nejnovější Nvidii H200 v tomto překonává 2násobně. Díky tomu by měl pojmout ještě větší modely. Na jediný akcelerátor by se tak měl vejít celý model s bilionem parametrů, zatímco na H200 se vejde jen poloviční.

 

 

Nová paměť HBM3E přináší také vyšší propustnost, a ta se dostala na 6 TB/s, což Nvidii překonává o 30 %. Maximální výkon s datovým typem FP16 vzrostl na 1,3 PFLOPS, v FP8 pak na 2,6 PFLOPS a obě tyto hodnoty překonávají výše zmíněnou Nvidii o 30 %. Tento akcelerátor by měl být k dispozici od 4. čtvrtletí letošního roku.

 

 

AMD ale rovněž poodhalilo blízkou budoucnost a akcelerátor Instinct MI350. Ten se má objevit v roce 2025 a přinést novou výpočetní architekturu CDNA 4. Jeho novinkou má být výroba pomocí 3nm procesu (nepůjde tedy o 4nm vylepšení MI300, jak se původně předpokládalo). Také zde máme najít až 288 GB paměti HBM3E a nově budou podporovány datové typy FP4 a FP6. CDNA 4 by měla proti CDNA 3 především vylepšit inferenci AI (běh natrénovaných algoritmů umělé inteligence), a to až 35násobně. Plánována je ještě CDNA "Next" pro rok 2026, o ní ale zatím nevíme v podstatě nic. Patrně se karty s ní budou jmenovat MI400, ale i to se teprve uvidí.

 

 

Zdroj: wccftech.com, hothardware.com