Zpět na článek

Diskuze: Microsoft představuje 3nm AI procesor Maia 200 pro efektivní inferenci

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

snajprik
snajprik
Level Level
včera 21:21

Komentáře tohoto uživatele máš zablokované.

Prišli na to že za tie 5000 miliard čo dali za AI Nvidii si tie GPU vedia vyvinúť aj vyrobiť sami :D Nielen Čina sa im na to z vysoka ale už aj Mikrosoft.

honza1616
honza1616
Level Level
Operační systém: PC
Procesor: AMD
Grafická karta: NVIDIA
dnes 06:44

Komentáře tohoto uživatele máš zablokované.

@snajprik Pokud vím tak Nvidia dělá pouze trénovací akcelerátory,

Je rozdíl mezi tréninkem LLM a inferencí hotových modelů

honza1616
honza1616
Level Level
Operační systém: PC
Procesor: AMD
Grafická karta: NVIDIA
dnes 11:54 (Upraveno)

Komentáře tohoto uživatele máš zablokované.

@Milan Šurkala Jasně, jde to téměř na čemkoliv, trénování AI mohu rozběhat i doma na grafice.
Podobně těžba kryptoměn jde na akceleratorech, ASIC, nebo ze začátku i na CPU šel těžit i BTC (myslím)

Jenže provoz inference AI je vysoce neefektivní na běžných akceleratorech
a (exkluzivně) na inferenci Nvidia nenavrhuje žádný čip.

Reklama
Reklama