Americký přístup k otevřeným AI modelům: Výzvy a příležitosti distilace frontier modelů

V éře, kdy umělá inteligence urychluje inovace a mění svět, nabývá významu otázka, jak zajistit, aby vývoj a využití AI zůstaly transparentní, dostupné a demokratické. Garry Tan, šéf jednoho z nejrespektovanějších startupových inkubátorů Y Combinator, přichází s návrhem, který by mohl zásadně ovlivnit směřování AI v USA. Navrhuje, aby menší americké laboratoře s otevřeným přístupem k AI měly možnost využívat techniku zvanou distilace na špičkové frontier modely – tedy velmi pokročilé modely vyvíjené předními laboratořemi.

Distilace v AI znamená, že jeden model je detailně „dotazován“ a jeho znalosti jsou přenášeny do nového, často menšího a efektivnějšího modelu. Tento proces umožňuje vytvářet výkonné AI modely bez nutnosti přístupu k obrovským tréninkovým datům nebo výpočetnímu výkonu. V Číně je distilace běžnou praxí, ale americké regulátory i některé AI firmy varují před možnými riziky, zejména pokud jde o neautorizované využití duševního vlastnictví.

Otevřenost versus ochrana duševního vlastnictví

Anthropic, jeden z předních hráčů v AI, nedávno obvinil čínské laboratoře z „illicit distillation attacks“ – nelegálního využívání jejich modelů bez souhlasu, často za použití podvodných přístupových údajů. Jejich šéf Dario Amodei dokonce vyzval k přísnější regulaci tohoto fenoménu. Na druhé straně Garry Tan zdůrazňuje, že by americké laboratoře měly mít možnost legálně a transparentně distilovat modely špičkových amerických firem, čímž by se vytvořila zdravá konkurence a rozšířila nabídka otevřených AI nástrojů, které nejsou pod kontrolou čínských subjektů.

„Kontrola nad tím, co uživatelé a zákazníci dělají s API voláními k uzavřeným modelům, působí omezujícím dojmem,“ říká Tan a dodává, že vláda by měla hrát roli v tom, aby se z přístupu k inteligenci, která byla vytrénována na veřejně dostupných datech, stal spíše veřejný statek než něco, co je uzamčeno za restriktivními licenčními podmínkami.

Tento pohled otevírá širokou diskusi o tom, jak vybalancovat komerční zájmy, ochranu duševního vlastnictví a společenský prospěch z AI. Proprietární laboratoře přitom samy ve velkém využívaly data bez explicitního svolení jejich autorů při tréninku svých modelů, což vyvolává otázky o spravedlivém využívání a sdílení výsledků takového výzkumu.

Význam otevřených AI modelů pro budoucnost

Garry Tan je přesvědčen, že je důležité mít rovnováhu mezi velkými frontier laboratořemi a menšími open-weight laboratořemi. Ty první posouvají hranice inovací a musí mít možnost zabezpečit finanční podporu a udržitelný byznys model. Na druhou stranu otevřené modely jsou zásadní, protože poskytují svobodu a přístup širší veřejnosti a vývojářům.

„Noční můra pro AI je, když veškerá moc končí v rukou jediné dominantní společnosti,“ varuje Tan. Takový monopolitní scénář by mohl vést ke zpomalení inovací, omezení přístupu a zvýšení rizik zneužití AI.

V českém a evropském kontextu můžeme tuto výzvu srovnat s rostoucím tlakem na otevřenost a etiku ve vývoji AI, jak například reflektuje i evropský zákon o umělé inteligenci (EU AI Act). Otevřené modely také podporují nezávislé inovace a mohou být zásadní pro neziskové organizace a menší podniky, které nemají prostředky na drahé licence nebo infrastrukturu.

Podobně jako v článku Umělá inteligence v neziskovém sektoru zde vidíme, že přístup k otevřeným AI modelům může významně pomoci i v neziskové sféře, kde je potřeba dostupnost a transparentnost obzvlášť důležitá.

Závěrem je zřejmé, že otázka distilace a otevřených AI modelů není jen technologickou záležitostí, ale také otázkou regulace, etiky a geopolitiky. Podpora amerických otevřených laboratoří v této oblasti by mohla posílit domácí ekosystém AI a nabídnout alternativu k zahraničním, zejména čínským, technologiím. Současně je však potřeba pečlivě sledovat a regulovat možné zneužití, aby nový model AI vývoje byl prospěšný pro všechny.

Budoucnost AI bude pravděpodobně patřit těm, kteří dokážou nalézt rovnováhu mezi inovací, otevřeností a odpovědným přístupem. Garry Tan a Y Combinator tímto přístupem ukazují, že cesta vpřed nemusí být uzavřená, ale naopak otevřená a inkluzivní.