Diskuze: Počítač Gigabyte AI TOP 100 B850 láká na dva 32GB Radeony

Lukáš Novák

Level

dnes 17:13

Komentáře tohoto uživatele máš zablokované.

Velikost VRAM není všechno. Hlavní brzda systému se dvěma radeony bude PCI express, přes který spolu karty musí komunikovat. Pokud se model vejde do VRAM jedné karty, bude inference slušně rychlá. Pokud ale bude model tak velký, že bude muset být nahraný v obou kartách, rychlost inference spadne na desetinu.
Nebo je zde úzké hrdlo v podobě PCIe nějak řešeno?