Diskuze: DeepSeek-R1 (671B) běží na Apple M3 Ultra s 512 GB RAM: mnohem levněji než RTX 5090

apoage

Level

19. 3. 2025 18:52

Komentáře tohoto uživatele máš zablokované.

Jako 10gpu není zase takový problém pokud se použije bifurkace na pcie 8 .. tak barosto v pohodě na epycu jde nacpat 14 GPU .. jen to holt bude min U8 možná spíš u12 rack a 3fazovy zdroj nebo min 4 zdroje 2kw 8 v reduranci oproti maců to ale může mít až 2tb ram a regulérní U2 úložiště (něco jako nvme ) cena cca 1.6 - 2 M CZK .. problém je sehnat 5090 .. nebo alespoň 4090..

fybyfyby

Level

18. 3. 2025 14:42

Komentáře tohoto uživatele máš zablokované.

Tak to je právě přesně ten case! Ale i tak je cena vysoká. Za cca 50k se da sehnat mbp / studio s 64GB ram. To stačí už na solidní hrátky. Ale i tak pro většinu lidí je cena vysoká. Jsem zvědav na výkon ai 395 max.