Zpět na článek

Diskuze: AMD také říká, že GPU jsou pro AI mnohem lepší než NPU, RX 7900 XT až 8× výkonnější

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

Pavel Matějka

Level

6. 5. 2024 15:18

Komentáře tohoto uživatele máš zablokované.

A nejvýkonnější kus hardwaru pro AI je AMD Instinct MI300A.

kutil05

Level

6. 5. 2024 17:13

Komentáře tohoto uživatele máš zablokované.

@Pavel Matějka Ale cenou je mimo možnosti běžných smrtelníků.

Pavel Matějka

Level

6. 5. 2024 17:58

Komentáře tohoto uživatele máš zablokované.

@kutil05 To samozřejmě ano. Ale totéž se v podstatě týká třeba i RTX 4090 - já si ji například rozhodně dovolit nemohu. :-)

snajprik

Level

6. 5. 2024 22:49

Komentáře tohoto uživatele máš zablokované.

@kutil05 RTX4090 stoji cca 2000€ ale s nalebkou profi to jest s 2x viac ram tato kartička stoji 18 000€ a Nvidia ju predava ako teple rožky :)

kutil05

Level

6. 5. 2024 23:07

Komentáře tohoto uživatele máš zablokované.

@kutil05 To je docela krádež. Radeon RX7900 XTX je za 1000 USD, tedy od 26 600 Kč po 30 000 Kč. AMD Radeon PRO W7900 se 48 GB je cca za 100 000 Kč, lehce přes trojnásobek.

kazaxx

Level

6. 5. 2024 13:29

Komentáře tohoto uživatele máš zablokované.

Celé to hype kolem AI už je docela únavné a trapné. Naprosto netuším, co to přináší obyčejným lidem? Určitě to chápu v laboratořích, v počítačích pro nevidomé či jinak postižené. Ale co to přináší 80 % populace, sjíždějící sociální sítě, hrající hry nebo čtoucí "dezinformační weby"? Proč bychom měli mít AI výpočetní jednotku na naší straně? Proč by mě měl zajímat procesor nebo GPU s lepším výkonem v AI? Fakt nechápu.

Thorleif

Level

6. 5. 2024 13:39

Komentáře tohoto uživatele máš zablokované.

@kazaxx Fakt se takhle boomersky ptáte, na co je AI počítaná v reálném čase na hw uživatele pro hráče her? XD
Právě lidem sjíždějícím desinfo a sociálky by AI asistenti mohli dost pomoct, třeba v ověřování a flagování obsahu.

Pavel Matějka

Level

6. 5. 2024 15:02

Komentáře tohoto uživatele máš zablokované.

@Thorleif Jasně. Místo aby mi o tom, co je pravda a co smím číst, rozhodoval vykulený ministr vnitra a pár špinavých novinářů, tak to za ně převezme moje soukromá AI. Ťuťuťu...

Thorleif

Level

6. 5. 2024 15:09

Komentáře tohoto uživatele máš zablokované.

@Thorleif To nikdo netvrdí, tyto nástroje vám můžou dopnit kontext, odkázat ověřené zdroje. Hysterický ťunťo.

kazaxx

Level

6. 5. 2024 15:15

Komentáře tohoto uživatele máš zablokované.

@Thorleif Tak si to shrneme. AI ve hrách doposud nepotřebovala žádné speciální instrukce v CPU nebo GPU ani jí nomezoval výkon procesorů nebo grafických karet. Jediné co jí omezovalo, tak množství použitelných skriptů v daném prostředí. Takže v případě hraní her AI jednotky v procesorech a GPU jsou naprostá zbytečnost. hry se obejdou i bez toho.

Co se týče filtrování dezinfo, jak už bylo zmíněno, fakt, že někdo bude dávat AI instrukce co je závadné a co ne je dost za hranou. A schvalovat to můžou tak maximálně fašisti. 25 let od revoluce i přes rozkradení (a tunelování) si republika žila docela dobře a vzkvétali jsme (změnu k horšímu přinesla až lisabonská smlouva). Za ty roky se šířila miliarda blbostí, dnes pojemnovaných jako dezinformace. Nikdo tomu nevěnoval pozornost, nikdo neměl potřebu blokovat nějaké weby nebo skupiny (kromě těch fašounských a bohužel ne i komunistických). Byla svoboda slova a projevu. Dnes, se pro udržení politické moci opět hledají třídní nepřátelé a schvalovači udavačů, vodítek a náhubků. AI soustředěná na tyhle věci to akorát prohloubí.

kazaxx

Level

6. 5. 2024 15:17

Komentáře tohoto uživatele máš zablokované.

@Thorleif "To nikdo netvrdí, tyto nástroje vám můžou dopnit kontext, odkázat ověřené zdroje."
Určitě ne, AI bude zobrazovat to, čím jí autor nasměruje. Krásně vidět u ChatGPT, napište mu odkud čerpá zdroje a zjistíte kdo mu formuje obsah.

Thorleif

Level

6. 5. 2024 15:26

Komentáře tohoto uživatele máš zablokované.

@Thorleif Je skvělý tu mít osobně ředitele kolotoče, který má 100% jasno v tom, jak věci v budoucnosti budou. Nejsem vaší moudrosti hoden.

Thorleif

Level

6. 5. 2024 15:29

Komentáře tohoto uživatele máš zablokované.

@Thorleif Fašisti, Lisabonská smlouva, která vás okradla o kvalitní život a skvostný výhled do rozvoje a aplikace AI a jí řízených nástrojů v počítačových hrách... Brilantní, děkuji.

Milan Šurkala

SHW

6. 5. 2024 16:44

Komentáře tohoto uživatele máš zablokované.

@Thorleif " AI ve hrách doposud nepotřebovala žádné speciální instrukce v CPU nebo GPU ani jí nomezoval výkon procesorů nebo grafických karet."

Tak ona tam především žádná pořádná AI (ne něco naskriptovaného jakože "AI", ale něco naučeného na příkladech) pořádně ani nebylo. Nyní je možné tam mít něco, co se bude chovat přirozeněji na základě reálnějších dat, schopné se učit, přizpůsobovat,... A to vše, aniž by to bralo výkon GPU nebo CPU.

kutil05

Level

6. 5. 2024 17:19

Komentáře tohoto uživatele máš zablokované.

@Thorleif SW, který bude AI využívat může být klidně Free a jeho autorem někdo na universitě. A finální donastavení může být v rukou uživatele. A celá funkce jen v tom, že když budou v článku nějaké zdroje, tak je ten SW najde a otevře. Co s nimi pak uživatel dál udělá, je na něm. Celá pointa je v tom, že dezinformační weby k žádným zdrojům buď vůbec nevedly a nebo pokaždé jednomu nechvalně známému webu jednoho člověka, ale dál už nikam. Z toho se dá poznat, čemu lze či nelze věřit. Pokud někoho zdroje informací nezajímají, jeho problém.

kutil05

Level

6. 5. 2024 17:20

Komentáře tohoto uživatele máš zablokované.

@Thorleif Aby za mne AI něco určovala, to bych taky nechtěl. Ale když pomůže najít původní zdroje informace, to naopak dost pomůže.

Pavel Matějka

Level

6. 5. 2024 18:00

Komentáře tohoto uživatele máš zablokované.

@Thorleif To je jen teorie. Ten jeden člověk může mít třeba pravdu, zatímco celý mediální aparát s televizemi v čele - odpovězte si sám, jestli vás informuje vždycky pravdivě a nezaujatě.

kutil05

Level

6. 5. 2024 18:17

Komentáře tohoto uživatele máš zablokované.

@Thorleif Ano, ale ozdrojovaným zprávám, případně by to mohlo hledat i další zprávy ze stejného zdroje vycházející, je lépe věřit, než informaci typu jedna paní povídala. A samozřejmě dlouhodobým sledováním toho, který zdroj má častěji pravdu by mohly některé zprávy mít větší váhu. V zásadě to lidi můžou dělat už teď, jde jen o to ušetřit čas.

mareknr

Level

7. 5. 2024 08:06

Komentáře tohoto uživatele máš zablokované.

@Thorleif Vies o tom, ze si mozes nainstalovat lokalneho chatbota a ucit ho z vlastnych zdrojov a este bez ukladania dat niekde do cloudu? Samozrejme na lokalnom HW nebude taky responzivny, ale aj tam sa uz dostava postupne vyssi vykon v akceleracii AI a ono sa to zlepsi. A tych aplikacii AI je o dost viac.

Uni

Level

7. 5. 2024 09:28

Komentáře tohoto uživatele máš zablokované.

@Thorleif Paradoxně máme ve hrách v poslední dekádě nejstupidnější AI ever...

Uni

Level

7. 5. 2024 09:31

Komentáře tohoto uživatele máš zablokované.

@Thorleif Hledání kontextu nedělá AI, ale NLP. Je jedno, zda při překladu nebo hledání zdrojů.

Uni

Level

7. 5. 2024 09:35

Komentáře tohoto uživatele máš zablokované.

@Thorleif Hledání kontextu nedělá AI, ale NLP. Je jedno, zda při překladu nebo hledání zdrojů.

Milan Šurkala

SHW

6. 5. 2024 15:19

Komentáře tohoto uživatele máš zablokované.

@kazaxx Vysvětloval jsem to tu nedávno, tak to jen zkopíruju z minulé diskuze: "A teď si to představte lokálně na počítači, když to rozumí takřka všemu, co tomu napíšete. Můžete tomu diktovat hlasem místo toho, abyste to psal, případně to nechat napsat kostru e-mailu podle zadaných instrukcí, můžete to podle popisu nechat najít soubor, který nevíte, jak se jmenuje, můžete to nechat vytvořit sumarizaci dlouhého textu, abyste ho nemusel celý číst, může Vám to pomoci vytvořit rovnici do Excelu, může Vám to pomoci vytvořit čitelnější text ve Wordu a přepsat kostrbatý text, může to posloužit k lepším překladům textů do jiných jazyků, můžete to využít k běhu algoritmů ovládajících protivníky a NPC v počítačových hrách, kteří už nebudou naskriptovaní, ale mohou se např. dynamicky učit z Vašich akcí budovat lépe protiakci, může na tom běžet rozpoznávání antivirů s využitím algoritmů AI (už dnes to má v sobě většina antivirů), může Vám to pomoci rychleji vyhledat fotky s hledanou osobou,... "

Reklama

fybyfyby

Level

6. 5. 2024 09:42

Komentáře tohoto uživatele máš zablokované.

Přece NPU jsou v procesorech primárně na vyhodnocování nikoliv na trénink či složitější generování.
Tohle je dost zavádějící tvrzení. Ač je pravdivé, tak by jeden mohl nabýt dojmu, že NPU jednotky jsou horší než jednotky na GPU. I kdyby byly stejné, tak s GPU si kupujete i renderovací engine a výstupy na monitor. Vždy bude levnější a efektivnější mít separé NPU jednotky (ať už přidané do GPU nebo do CPU). Jde jen o to, kolik jich tam výrobce dá. Proč cpát do CPU o tolik jednotek navíc, když to nebude potřeba. Procesor se tím prodraží.

JakubL

Level

6. 5. 2024 08:11

Komentáře tohoto uživatele máš zablokované.

Zase stejné téma, ale u NPU nejde o výkon, ale o spotřebu. Na realtime upscaling videa nebo čištění zvuku či "oříznutí hlavy" v Teams při meetingu nepotřebuju mít výkonné GPU s vysokou spotřebou, ale vystačím si s NPU a navíc mi v notebooku vydrží baterka i do konce toho meetingu ;) Je to podobné jako s dekodery a enkodéry videa, které v APU taky jsou, i když by to zvládl CPU/GPU, ale prostě za cenu vyšší spotřeby.
Na vážnou AI práci budou samozřejmně lepší GPU. Navíc ve výkoných PC žádná NPU nejsou a v dohledné době ani nebudou. A i když v desktopu NPU náhodou jsou (APU Phoenix), berru to spíš jako dobrou platformu pro vývojáře ;)

Milan Šurkala

SHW

6. 5. 2024 09:21

Komentáře tohoto uživatele máš zablokované.

@JakubL "Zase stejné téma, ale u NPU nejde o výkon, ale o spotřebu."

A nepíše se o tom snad v aktualitě?

JakubL

Level

6. 5. 2024 11:12

Komentáře tohoto uživatele máš zablokované.

@Milan Šurkala Omlouvám se, neměl jsem na mysli téma článku, ale téma vyjádření výrobců hardwaru, AMD a nVidia ;)
Jinak až čas ukáže, zda bude diskrétní NPU k něčemu, třeba se nakonec mobilní GPU optimalizují natolik, žer nebude potřeba a skončí v propadlišti dějin pododně jako akcelerátory fyziky.

hoch

Level

6. 5. 2024 11:28

Komentáře tohoto uživatele máš zablokované.

@Milan Šurkala Ano, v clanku zminka o vyssi efektivite NPU je, ale celkove ladeni clanku a jeste vic titulku je, ze AMD tvrdi, stejne jako nVidia, ze na AI je mnohem lepsi GPU, a to vyvolava dojem, ze NPU je temer k nicemu.

Nedohledaval jsem zdrojovy text od AMD, cetl jsem jen clanek od wccftech.com, ze ktereho tenhle clanek cerpa. Ale tam jsem nenasel nic o tom, ze by AMD tvrdilo, ze jsou na AI lepsi GPU, nez NPU. Pisou tam jen, ze zverejnilo vysledky srovnavaciho testu vykonu ruznych reseni.

GPU maji celkem pochopitelbe vyssi vykon, ale to neznamena, ze jsou automaticky lepsi. Uz proto, ze neni AI, jako AI. Pro trenovani velkych neuronovych siti jsou GPU s dostatkem pameti bezesporu lepsi, nez NPU v procesoru. Ale pro pouzivani natrenovane site koncovym uzivatelem staci mnohem mensi vykon i pamet a NPU asi bude vetsinou lepsi reseni nejen kvuli spotrebe, ale i kvuli porizovacim nakladum GPU.

Chapu, ze nVidia se svym agresivnim marketingem se snazi presvedcit uzivatele i oem partnery, ze je potreba davat do noutbuku jeji samostatne grafiky. A tak tvrdi, ze GPU je pro AI lepsi, nez NPU. Ale AMD tuhle potrebu asi moc nema.