Pro běh lokální AI má Nvidia nový DGX Spark s 20jádrovým CPU za 4000 USD. Za poloviční cenu ale můžete mít i systém s AMD Ryzen AI a podobným výkonem.
Moderní počítače i mobilní zařízení jsou stále více a více optimalizovány pro běh lokálních AI modelů přímo na daném zařízení. To vyžaduje výkonná, ale současně také energeticky efektivní NPU, GPU a CPU, také to chce hodně operační paměti. Společnost Nvidia má pro takové potřeby spotřebitelskou variantu svých AI serverů v podobě počítače DGX Spark. Ten má 20jádrové CPU na architektuře ARM (10× Cortex-X925 a 10× Cortex-A725), k tomu je zde 128 GB unifikované paměti LPDDR5X a Blackwell GPU. Za toto vše chce Nvidia 4000 USD. Jsou ale i jiná konkurenční řešení.
Např. společnost GMKtec nabízí počítač EVO-X2, který je vybaven procesorem AMD Ryzen AI Max+ 395 (16jádro s 32 vlákny, takty 3,0/5,1 GHz, 64 MB L3, Radeon 8060S se 40 CU a NPU s 50 TOPS, celkový AI výkon 126 TOPS). Tato sestava je k dispozici ve variantách 64GB RAM+1TB SSD za 1699 USD, 96GB RAM+2TB SSD za 1999 USD a 128GB RAM+2TB SSD za 2199 USD. Cena proti řešení od Nvidie je tedy poloviční. Jde nicméně o akční ceny, původně byly o 500-600 USD vyšší. Pro běh LLM jde ale minimálně o stejně tak dobré řešení, ne-li lepší a výkonnější.
Společnost totiž provedla testy ve 4 různých LLM (Llama 3.3 70B, Qwen3 Coder, GPT-OSS 20B a Qwen3 0.6B) a řešení na bázi AMD na tom nebylo vůbec špatně. V počtech tokenů za sekundu zvítězilo v polovině testů, přičemž rozdíly mezi oběma platformami byly cca 5-8 % oběma směry, tady byly výsledky srovnatelné. Pokud jde o dobu do prvního tokenu, zde mělo řešení s procesorem AMD dokonce 3 vítězství ze 4, a to obvykle dost výrazně. V poměru ceny a výkonu tedy AMD vyhrává. Pokud ale potřebujete vyvíjet AI algoritmy pro Nvidii (a na to je DGX Spark určen především), pak bude zařízení postavené na AMD docela problém.
