Proč investoři z GPU sektoru začínají sázet na AI inference čipy: Případ General Compute a $400 milionů půjčky

Umělá inteligence se rychle vyvíjí a s ní i technologie, které stojí za jejím fungováním. Zatímco GPU čipy byly dlouho synonymem pro výkonné výpočty potřebné k trénování AI modelů, nová fáze vývoje staví do popředí inference čipy - zařízení optimalizovaná pro rychlé a efektivní nasazení již natrénovaných modelů. Tento trend potvrzuje nedávná investice 400 milionů dolarů startupu General Compute, která využívá právě tyto specializované čipy jako zástavu pro financování.

General Compute, vedený CEO Finnem Puklowskim, představuje inovativní přístup ke cloudové AI infrastruktuře. Namísto standardního využívání obecně dostupných GPU nabízí tzv. neocloud zaměřený přímo na AI inference postavený na čipech od SambaNova, což je firma podporovaná Intelem. Tyto SN50 čipy přinášejí oproti GPU výrazně vyšší rychlost inference (až 16násobnou), nižší spotřebu energie a eliminují potřebu nákladných chladicích systémů, což umožňuje jejich širší nasazení v různých datových centrech.

Význam specializovaných AI inference čipů

Hlavní rozdíl mezi GPU pro trénink a inference čipy spočívá v jejich účelu a efektivitě. Zatímco první skupina je designována pro složité výpočty a učení nových modelů, inference čipy jsou optimalizované pro rychlé a levné nasazení již existujících modelů, což je klíčové pro praktické využití AI v reálném čase. Díky tomu se snižují náklady a zrychluje odezva systémů, což je důležité například pro aplikace v zákaznické podpoře, lékařství nebo finančnictví.

Tradiční investoři často váhali financovat nákupy těchto zařízení kvůli nejistotě ohledně jejich ekonomické návratnosti a rychlého zastarávání. Nicméně firma Upper90, která již dříve financovala GPU zařízení startupu Crusoe, vidí v tomto segmentu příležitost. „S financováním Nvidia GPU jsme byli prvními, kdo trh využil efektivně. Nyní startujeme s inference čipy, protože věříme v budoucnost open source AI modelů,“ vysvětluje Billy Libby, CEO Upper90.

Nová éra AI infrastruktury a otevřený ekosystém

Investice do General Compute naznačuje posun v AI infrastruktuře směrem k větší diverzitě dodavatelů a technologií, mimo dominantní Nvidia ekosystém. Další hráči na trhu, jako TensorWave s AMD čipy, potvrzují tento trend. Širší nabídka umožní firmám volit mezi různými technologiemi podle svých potřeb a rozpočtů, což podpoří rozvoj open source modelů a dostupnější AI služby – například startupy OpenRouter nebo Fireworks již získávají vysoké ocenění právě díky přístupu k otevřeným AI modelům.

Tento vývoj má potenciál přinést i do neziskového sektoru dostupnější a efektivnější AI nástroje, které mohou pomoci organizacím lépe analyzovat data, zefektivnit komunikaci s dárci či automatizovat administrativu. Více o tom, jak AI mění neziskový sektor, najdete například v našem článku Jak umělá inteligence mění neziskový sektor: příležitosti, výzvy a inspirace.

Závěrem lze říci, že investice do specializovaných AI inference čipů představuje klíčový krok k rozšíření a zefektivnění AI technologií v praxi. Díky těmto technologiím můžeme očekávat rychlejší adopci AI napříč odvětvími, nižší náklady na provoz a větší flexibilitu v nasazení. Pro neziskové organizace to znamená příležitost využívat špičkové technologie i s omezenými rozpočty a zlepšovat tak svou efektivitu a dopad. Budoucnost AI infrastruktury tak zřejmě nebude patřit jen jednomu hráči, ale celé škále inovativních řešení, která umožní AI dostupnější a užitečnější pro všechny.