IBM uvádí procesor Telum II pro AI, má 36 MB L2 cache na jádro a 5,5 GHz
27.8.2024, Milan Šurkala, aktualita
IBM představilo novou generaci procesoru Telum II a akcelerátor Spyre AI pro úlohy umělé inteligence. Procesor má obří L2 cache a vysoký takt 5,5 GHz. Určen je především pro inferenci systémů AI.
Nejen Nvidia (a po troškách AMD s Intelem) mají ve výrobním programu akcelerátory pro běh algoritmů AI. Společnost IBM nyní představuje druhou generaci čipu Telum II a akcelerátor Spyre AI, které míří především na inferenci algoritmů AI (tedy běh již natrénovaných systémů). Druhá generace procesoru Telum je vyráběna pomocí 5nm technologie u společnosti Samsung a dokáže běžet na vysoké frekvenci 5,5 GHz. O 40 % navyšuje kapacitu cache paměti, která má opravdu extrémní velikost. Jde totiž o 8jádrový procesor a každé jeho jádro má 36 MB L2 cache. Aby toho nebylo málo, stejnou cache má ještě speciální DPU (Data Processing Unit) a IBM přidalo ještě dalších 36 MB paměti pro celý procesor. Toto vytváří 360MB virtuální L3 cache. Virtuální L4 cache má pak dle výrobce dokonce 2,88 GB.
AI akcelerační jednotky na procesorech Telum II dosahují výkonu 24 TOPS (4krát více než u předchůdce), což není zase nějak zázračně vysoké množství, nicméně osm jader se už takto poskládá na 192 TOPS. Samozřejmostí je podpora datových typů INT8. Zvýšila se také energetická efektivita (spotřeba jader klesla o 15 %). IBM říká, že už jeho předchozí generace procesorů byla populární např. pro detekci podvodů a bezpečnostních útoků, kde byly nasazeny AI algoritmy pro detekci.
To ale není vše. IBM představilo i dedikovaný akcelerátor Spyre AI, který má rovnou 32 podobných akceleračních jednotek pro AI se stejnou výchozí architekturou. Více karet Spyre lze kombinovat pomocí PCIe rozhraní do systémů IBM Z. Jedna tato karta má spotřebu 75 W a 128 GB paměti LPDDR5. Osm karet tak vytvoří výpočetní systém s 1 TB paměti. Výkon pak už vzroste natolik, že je vhodný i pro generativní AI a multimodální AI.
