Francouzský startup ZML přináší revoluci ve využití AI čipů s novým bezplatným softwarem

Ve světě umělé inteligence často dominuje několik velkých hráčů, mezi které patří především Nvidia. Francouzský startup ZML však představuje významnou inovaci, která může tuto situaci změnit. Nedávno uvedl na trh nový software ZML/LLMD, který umožňuje spouštění různých open-source velkých jazykových modelů na široké škále čipů – nejen na těch od Nvidie, ale také AMD, Google TPU, Apple Metal či Intel Arc.

Hlavní myšlenkou ZML je odstranit bariéry mezi jednotlivými výrobci čipů a umožnit jejich využití na maximum, což přináší nejen vyšší výkon, ale i potenciální snížení nákladů na provoz AI systémů. Jak uvedl zakladatel ZML Steeve Morin, optimalizace inferenční fáze AI, tedy fáze zpracování dotazů a výstupů modelu, je dnes často opomíjena ve prospěch samotného tréninku modelů. Přitom právě inference představuje zásadní nákladovou položku a její zrychlení a zlevnění je klíčem k širšímu rozšíření AI technologií.

Proč je ZML/LLMD průlomem v AI infrastruktuře?

Software ZML/LLMD umožňuje podnikům i cloudovým platformám využívat kombinaci různých čipů. To je zásadní zejména vzhledem k růstu nákladů a energetické náročnosti AI systémů. Místo závislosti na jednom druhu hardwaru, který může být drahý nebo energeticky náročný, otevírá ZML cestu k efektivnějším a ekologičtějším řešením. Tento přístup by mohl pomoci i evropským čipovým výrobcům, jako jsou Axelera, Kalray nebo SiPearl, kteří tak mohou konkurovat globálním gigantům a rozšířit svoje možnosti na trhu.

Navíc ZML/LLMD není otevřený open-source projekt, ale přesto ho startup nabízí zdarma pro získání zpětné vazby a následné optimalizace. Tato strategie odráží moderní přístup k budování softwarových produktů, kdy je důležité nejprve nasbírat data o využití a až poté efektivně monetizovat bez omezení růstu uživatelské základny.

Evropský startup s globální ambicí

Za ZML stojí tým přibližně 20 lidí v Paříži, který díky zkušenostem zakladatele a podpoře významných investorů, včetně Yanna LeCuna, laureáta Turingovy ceny, může rychle reagovat na nové výzvy. Morin zdůrazňuje, že ZML nemůže vzniknout jinde než v Paříži, což poukazuje na sílu evropského ekosystému v oblasti AI a deep tech inovací.

Podobně jako další evropské projekty, například Mistral AI, ukazuje ZML, že Evropa má potenciál být významným hráčem v globálním závodě o umělou inteligenci. Otevření multiplatformního softwaru, který umožní snadnější přístup k AI technologiím na různých typech hardwaru, může být klíčem k větší nezávislosti a inovacím v tomto odvětví.

Zároveň je třeba zmínit, že i přes snahu o diverzifikaci zůstává Nvidia důležitým partnerem a dodavatelem hardwaru, což potvrzuje i dobré vztahy ZML s tímto gigantem. Současný trend nazývaný „inference gold rush“ ukazuje, jak obrovský je zájem o rychlé a efektivní spouštění AI modelů, což dává ZML velkou šanci na úspěch.

V kontextu rostoucích nákladů na AI, složitosti infrastruktury a snah o udržitelnost jde o příklad inovace, která by mohla pomoci širokému spektru organizací – od startupů přes velké podniky až po neziskové organizace, které hledají efektivní způsoby využití umělé inteligence bez nutnosti vysokých investic do specifického hardwaru.

Výhodou takového softwaru může být i jeho potenciál přispět k širšímu rozšíření AI technologií, snížení energetické náročnosti a podpoře technologické suverenity Evropy. Přestože ZML/LLMD zatím není placeným produktem, jeho budoucí monetizace může být postavena na službách přidané hodnoty a podpoře specifických čipových platforem.

Závěrem, ZML ukazuje, že inovace ve světě umělé inteligence nemusí vždy znamenat jen nové modely nebo algoritmy, ale také revoluci v infrastruktuře a softwarovém zázemí. Díky takovým projektům může být AI dostupnější, levnější a ekologičtější, což je klíčové pro její dlouhodobý úspěch a udržitelnost. Tento trend bude jistě zajímavý nejen pro technologické nadšence, ale i pro neziskové organizace, které často operují s omezenými rozpočty a hledají efektivní způsoby, jak využít AI ve své práci.