Na trhu s čipy pro inferenci AI algoritmů bude možná nový hráč, DeepSeek. Několik zdrojů se mělo vyjádřit, že vyvíjí svůj vlastní inferenční čip.
AI algoritmy se musí natrénovat a potom na něčem běžet. Zatímco první část je především v režii společnosti Nvidia, běh natrénovaných algoritmů (inference) je už z pohledu čipů mnohem méně monopolní záležitostí. Své inferenční čipy si vyvíjí spousta společností a proslýchá se, že vývoj něčeho takového spustil i DeepSeek, známý svým úsporným LLM.
Podle posledních zákulisních zpráv se totiž několik zdrojů mělo nechat slyšet, že společnost chce snížit svou závislost na čipech Nvidia a Huawei, které používá k trénování i inferenci. Pokud by nemusely být využity pro běh algoritmů, teoreticky by zbylo více výpočetní kapacity na trénování, kde jsou tyto čipy lepší (to platí zejména o Nvidii, nicméně poslední model DeepSeek V4 byl natrénován na akcelerátorech Huawei Ascend 950DT). Zda je i toto motivací vývoje vlastního akcelerátoru, nevíme.
Celosvětově to ale pro firmy, jako jsou Nvidia nebo Huawei, není velkou hrozbou. Mimo Čínu se nové čipy DeepSeeku stejně asi nepodívají, a je vůbec otázkou, zda se firmě povede nějak smysluplně vyvinout a jak na tom budou po stránce výkonu a efektivity.
Pokud jde o Nvidii a Čínu, ta sem kvůli banu může dodávat jen starší čipy H200 a H20, což jsou starší a dnes už nepříliš výkonné akcelerátory. Zamíchat kartami by ale mohla v oblasti CPU, neboť na ta se takové restrikce nevztahují a nová CPU Vera mohou najít spoustu využití.
