Nvidia koná další konferenci GTX 2023 a na ní představila službu DGX Cloud. Díky tomu nabídne k pronájmu velmi výkonné systémy s kartami Nvidia A100 nebo H100 a umožní každému, kdo si zaplatí, využít tyto karty např. k trénování AI.
Náročné výpočetní úlohy jako např. trénování AI vyžadují velmi výkonný hardware. Dnes se k tomuto účelu často používají např. grafické karty Nvidia H100 a A100. Desítky tisíc takových karet posloužily např. k natrénování chatbota ChatGPT. Ne každý si ale může dovolit koupit extrémně drahý superpočítač s vysokým množstvím těchto karet, a tak tu do hry vstupuje nová služba DGX Cloud. Ta je flexibilní a škálovatelnou službou pro ty, kteří potřebují vysoká výpočetní výkon a chtějí podle svých potřeb např. navyšovat nebo naopak snižovat počet karet, které potřebují využívat.
Každá instance DGX Cloud, kterou si lze pronajmout, má 8 karet Nvidia H100 nebo A100, přičemž každá karta je vybavena 80 GB paměti. To tedy dělá 640 GB paměti na každou instanci. Využita byla sběrnice s ultra nízkými latencemi, o kterou se postarala Nvidia Networking, což zajišťuje pohodlné škálování systémů. Výsledek se pak tváří jako jedno masivní GPU nezávisle na tom, kolik instancí si uživatel vlastně objedná. Pokud jde o cenu, základní balíček vyjde na 36999 USD (817 tisíc Kč) za měsíc.
