Zpět na článek

Diskuze: Tesla zvyšuje zisk a zahajuje produkci AI počítačů Dojo, bude tak konkurovat i Nvidii

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

sonofthebit

Level

22. 7. 2023 09:21

Komentáře tohoto uživatele máš zablokované.

@Milan Šurkala Rozbor architektury DoJo zde:
https://chipsandcheese.com/2022/09/01/hot-chips-34-teslas-dojo-microarchitecture/

2xALU
Out of Order
512-bit vektorovou SIMD
8x8x4 matrix SIMD

Zajímavé je že má vektorová SIMD zřejmě podle TFlops je 2x512-bit, což je 2x víc než AMD Zen 4 a je na úrovni toho superpočítačového ARMu Fujitsu A64FX. Tedy umí 32x FP32 / takt.

Nejbrutálnější je ovšem ta maticová jednotka, ta umí 512x BF16 / takt, což je 16x víc Flops než ta nabušná vektorová SIMD (byť s poloviční 16-bit přesností, tedy ve FP32 by měla mít 8x větší výkon). Tedy Zen 4 potřebuje 16 taktů pro výpočet toho co Dojo zvládne za jeden.

Celkově Matrix + Vector SIMD = Dojo má 18x větší výkon než Zen4. Naprostej výpočetní masakr. Možná proto ARM přišel s instrukcemi pro násobení matic SME, pravděpodobně pro nový Fujitsu.https://developer.arm.com/documentation/ddi0616/latest/

Zajímavé je, že zahodili virtuální paměť a tedy TLB buffery, takže na více uživatelský multitasking můžou zapomenout, což pro výpočetní čip vlastně ani nevadí tak proč plýtvat tranzistory. Stejně virtuální paměť je hloupý konstrukt vzniklý z používání přímé adresace v MS-DOSu.

Podle mne Dojo je velice povedený hybrid mezi CPU a GPU. Díky OoO by měl dosahovat vyššího IPC jak GPU a díky brutálním SIMD jako v GPU by měl být tedy celkově výkonnější. Řekl bych že Dojo je ještě lepší jak famózní Fujitsu A64FX a to je co říct. Podle mne by Dojo opravdu mohlo ydrtit Nvidii i AMD CDNA výpočetní GPU. Elon intelektem překonává Huanga, o manažerské slepici z IBM v AMD ani nemluvě, takže je celkem jasné že je Tesla všechny porazí.