Výkonné výpočetní karty budou moci využít nových paměťových čipů společnosti SK hynix. Ty mají navýšenou kapacitu na 36 GB, přitom jsou stále stejně tlusté a zabírají tedy na kartě stejnou výšku.
Už před nějakou dobou oznámila společnost SK hynix vývoj nových pamětí HBM3E s 12 vrstvami. Ty doplní a nahradí stávající modely s 8 vrstvami, přičemž se firmě povedlo vyrobit jednotlivé DRAM čipy o tloušťce o zhruba 40 % menší, takže při 12 vrstvách a kapacitě o 50 % větší na jednotlivou vrstvu má výsledný čip přibližně stejnou výslednou tloušťku. K vrstvení byla použita technologie TSV. Jednotlivé čipy mají nyní kapacitu 3 GB, takže celý čip se dostal s kapacitou na hodnotu 36 GB.
Rychlost se zvýšila na 9,6 Gbps na pin, takže pokud bude grafická nebo výpočetní karta vybavena čtyřmi takovými čipy s celkovou kapacitou 144 GB, zvládne přesunout LLM Llama 3 70B se 70 miliardami parametrů 35krát během jediné sekundy. Technologie Advanced MR-MUF pomáhá potlačovat problémy plynoucí z vysokého počtu vrstev na sobě a o 10 % zlepšuje přenos tepla. Konkrétně jde o vstřikování tekutiny mezi jednotlivé vrstvy, což pak pomáhá lepšímu přenosu a vyzařování tepla. Nové čipy jsou už velkosériově vyráběny a k zákazníkům by měly zamířit ještě před koncem letošního roku.
Zdroj: wccftech.com, prnewswire.com