Sam Altman asi naštve spoustu běžných uživatelů PC. Paměťová krize je v plném proudu, přičemž tvrdí, že RAM v běžných počítačích je mrhání pamětí a příšerný nápad.
Paměťová krize opětovně nabírá na síle a její dopady jsou cítit v mnoha segmentech IT. Nedostatek DRAM čipů způsobuje výrazný nárůst cen hardwaru, což je důsledkem rozmachu AI a stavby datových center pro ni. Datová centra totiž spolykají většinu pamětí RAM i NAND. V této situaci přilil do ohně Sam Altman z OpenAI, který v rozhovoru pro podcast Cheeky Pint vyjádřil názor, že držet velké množství RAM v osobních počítačích je neefektivním využíváním velmi omezených zásob těchto pamětí.
Altman tvrdí, že je v podstatě příšerné, když jsou paměti takto “uzamčeny” ve spotřebitelském hardwaru, kde jsou podle jeho odhadů využity jen zhruba 5 % času. Místo lokálního provozu AI modelů preferuje sdílenou cloudovou infrastrukturu, která dokáže hardware vytěžovat téměř neustále a tak maximalizovat efektivitu. Tento postoj je v rozporu s trendem PC pro lokální AI, jako jsou např. Microsoft Surface Laptop Ultra, které mohou být vybaveny až 128 GB jednotné paměti pro běh open-source modelů.
Na druhou stranu si přiznejme, že energeticky je skutečně efektivnější rozběhat AI algoritmy v cloudu než na vlastním PC. Stačí si spočítat náklady na elektřinu na svém vlastním PC a náklady na API volání. Pokud člověk nepotřebuje držet data v tajnosti, může být provoz lokální AI poměrně drahou záležitostí.
Pokud jde o dopady na trh, situace je dost vážná. Např. ceny DDR5 pamětí v Japonsku vzrostly za poslední rok na 8,6násobek. Jako extrémní příklad slouží 32GB DDR5-7600 kit, který stál v roce 2024 zhruba 110 USD a nyní se nabízí za více než 1500 USD, tady je to dokonce skoro 14krát tolik. Celý trh s elektronikou pocítil zdražení, což vedlo k poklesu prodejů herních konzolí, které se cenovkou nyní blíží hranici 1000 USD, máme tu i propad dodávek PC.
Problémy s dostupností a cenami zasáhly i grafické karty. GeForce RTX 5090 mizí z trhu poté, co se jejich cena dostala na 4násobek té normální (dnes okolo 230 tisíc místo původních 60 tisíc), a výrazně už zdražuje i RTX 5080, která se z 30 tisíc dostala na 50 tisíc.
