Přestože se produkty Apple obvykle mají za drahé, Macy mini s procesorem M4 mizí z obchodů kvůli nízké ceně. Jde o skvělý prostředek pro běh lokální AI Moltbot.
Co je RTX AI
Web Světhardware.cz přináší velký přehled o NVIDIA RTX AI ve vašem počítači a popisuje spolehlivou a bezpečnou cestu, jak si na svém počítači vytvořit lokální umělou inteligenci.
Zájem o AI způsobuje nedostatky, kam se podíváme. O pamětech se toho napsalo už mnohé, a ať už jde o RAM nebo produkty obsahující různé typy DRAM, problémy jsou i s úložišti (SSD i HDD) a dalším produktem, který se stává v obchodech nedostatkovým, je Apple Mac mini s procesorem M4. Paradoxně jde o produkt s ne zrovna moc velkou pamětí, základ má sdílenou 16GB RAM, nicméně např. v USA jde doslova na dračku. Má totiž něco, co si s Applem obvykle nespojujeme. Fantastický poměr ceny a výkonu.
Jeho procesor M4 má totiž NPU s vysokým AI výkonem 38 TOPS, díky čemuž se stal velmi populárním pro běh lokálních AI. Zejména jde o LLM Moltbot (původně Clawdbot). Za ceny 549-599 USD za základní variantu se jen těžko najde na trhu něco, co by pro AI mělo vyšší výkon než nový Mac mini při takové spotřebě.
Výhodou tohoto řešení jsou velmi nízké latence ve srovnání s cloudovými řešeními, vyšší bezpečnost (AI běží lokálně), a to všechno při spotřebě pouhých 20 W. Moltbot dovoluje uživatelům např. přepis mluvené řeči na text, automatizaci procesů v browseru (agentická práce) a pro běžnou práci stačí i základní varianta.
Náročnější nasazení pochopitelně bude chtít spíše dražší variantu, a tam se to už začne trochu lámat, neboť Apple chce za paměť obvykle velmi výrazné příplatky, a to i bez paměťové krize. Tvůrci LLM totiž v takovém případě doporučují zvolit spíše 32 GB paměti a 512GB úložiště, a to už se bavíme o 1199 USD. S procesorem M4 Pro a 24GB/512GB pak začínáme na 1399 USD. Každopádně pokud jde o základ, ten je pro tuto AI cenově terno.
