Problémů kolem AI je hodně. Nedostatek hardwaru je trvalý, ale ještě větším problémem je někdy nedostatek elektrické energie a další infrastruktury, jak ukazuje situace kolem Amazonu.
Boj o vedení v oblasti umělé inteligence vyvolává docela zajímavé kroky a společnost Amazon se v tomto závodě rozhodla jít zvláštní cestou, i když svým způsobem pochopitelnou. AWS totiž v současnosti nakupuje hardware od Nvidie v takovém množství, že jej nestíhá ani pořádně instalovat.
Podle interních zpráv firma využívá nový proces Early Rack Receipt, díky kterému získává serverové racky s akcelerátory Nvidia GB300 mnohem dříve, než je možné je vůbec pořádně instalovat a než je možné je plně zprovoznit.
Problémem je, že řada amerických center sice má sice fyzický prostor pro nové racky, ale chybí jim dostatečná elektrická kapacita k jejich zapnutí a provozu. To vede k vzniku tzv. “dark GPU”, kdy drahý hardware v podstatě jen nehybně leží ve skladech a čeká, dokud není dokončena výstavba infrastruktury.
Některé týmy uvnitř Amazonu si navíc stěžovaly, že nemají ani jasný časový plán, kdy se počítá s tím, že se tyto systémy konečně dostanou do provozu. Mluvčí společnosti tento postup brání jako nejlepší obchodní strategii, protože prioritou je zajistit si kapacitu dříve než konkurence. Pokud by se čekalo, až bude elektřina, pak by zase nemusely být ony akcelerátory (nemluvě o ceně).
Tento přístup má však své negativní dopady i na finance firmy. Amazon totiž změnil svůj obvyklý postup a nyní platí miliardy USD dopředu. To výrazně zatěžuje cash flow, které se v druhém čtvrtletí poprvé od roku 2023 dostalo do mínusu a je pravděpodobné, že tu ještě nějakou dobu zůstane. Celkové výdaje společnosti mají letos dosáhnout zhruba 220 mld. USD, což je více než u jakéhokoli jiného konkurenta z Big Tech.
Šéf firmy Andy Jassy však tento stav vnímá jako jednorázovou životní příležitost. Celý tento proces je v podstatě sázkou na to, že budoucí výnosy z AI výrazně převáží současné finanční náklady na skladování nevyužitých serverů s GB300.
