Bezpečnost AI a otevřenost: Proč tři průkopníci varují před uzavřením ekosystému

V současné době, kdy se umělá inteligence stává stále mocnějším nástrojem a zároveň potenciálním rizikem, nabývá na významu otázka, jak zajistit její bezpečnost a zároveň zachovat otevřenost, která dosud umožnila rychlý pokrok v této oblasti. Na konferenci Ai4 v Las Vegas nedávno vystoupili tři respektovaní experti na AI – Geoffrey Hinton, Fei-Fei Li a Andrew Ng – kteří vysvětlili, proč je důležité nezavírat výzkum AI do rukou pár velkých korporací, ale naopak podporovat otevřený přístup k technologiím.

Otevřenost AI totiž přináší nejen svobodu inovací, ale také zajišťuje, že technologie mohou být využívány různými subjekty a komunitami, což je zásadní pro jejich rozvoj a bezpečnost. Tato diskuse je o to důležitější, že v poslední době roste tlak na regulace a omezení volného přístupu k pokročilým AI modelům, a to kvůli rizikům zneužití.

Proč je otevřenost klíčová pro budoucnost AI

Andrew Ng, spoluzakladatel Coursery a významný propagátor AI, na konferenci varoval před vznikem monopolů, které by mohly zpomalit inovace. „Nechceme gatekeepery, kteří by omezovali přístup k AI,“ varoval. Podle něj by kontrola AI technologií v rukou několika velkých společností vedla k tomu, že pouze tyto firmy by mohly určovat směr vývoje a kdo bude mít k těmto technologiím přístup.

Ng proto doporučuje podporovat konkurenci a otevřenost, tedy existenci více poskytovatelů AI modelů a technologií. Podobný přístup lze vidět například v oblasti open source softwaru, který umožňuje rychlý rozvoj a bezpečnost díky transparentnosti. Pro neziskový sektor, který často spoléhá na dostupné a otevřené technologie, je to extra důležité – dostupnost AI nástrojů totiž může výrazně rozšířit možnosti pomoci a služeb.

„AI je úžasná technologie a chci, aby byla v rukou co nejvíce lidí,“ dodal Ng, čímž podtrhl význam globální dostupnosti AI jako zdroje společenského pokroku.

Bezpečnost versus otevřenost: jak najít správnou rovnováhu?

Geoffrey Hinton, nositel Nobelovy ceny a jeden z otců moderní AI, upozornil na rozdíl mezi otevřeným softwarem a otevřenými AI modely s volně dostupnými váhami (open-weight models). Jak vysvětlil, otevřený software umožňuje prohlížení a odhalování chyb v kódu, což zvyšuje bezpečnost. Naproti tomu otevřené váhy AI modelů umožňují kdokoli využívat a modifikovat komplexní a nákladné modely, což může usnadnit i jejich zneužití například k útokům v kyberprostoru.

Hinton připouští, že vývoj otevřených váhových modelů je již nevratný, a nevidí smysl tuto cestu uzavírat. Naopak zdůraznil nutnost regulace a odpovědného vývoje AI, která by omezila potenciální negativní dopady, aniž by přitom zmařila přínosy této technologie – například zvýšení produktivity, lepší vzdělávání či zdravotní péči.

Fei-Fei Li, spoluzakladatelka World Labs a odbornice na AI, upozornila, že debata o otevřenosti nemá být černobílá. Poukázala na příklady z jaderné fyziky, kde existuje různá úroveň otevřenosti – od volně dostupných vědeckých poznatků po regulovaný materiál, jako je uran. Podobně by měla fungovat i AI – kombinace otevřených a uzavřených systémů, které by zajistily jak vědecký pokrok, tak bezpečnost a komerční využití.

„Potřebujeme nuance – otevřenost v některých oblastech, spolupráci veřejného a soukromého sektoru, ale také určité limity," říká Li a zdůrazňuje význam partnerství a sdílení znalostí, které napomáhají rozvoji technologií s vysokým společenským přínosem, jakým byl například Human Genome Project.

V kontextu globální soutěže o dominanci v AI varoval Andrew Ng před rizikem, že levnější a dostupnější modely z Číny by mohly získat vliv v rozvojových zemích a ovlivnit tamní chápání demokracie, svobody a lidských práv. To podtrhuje, že AI není pouze technickou, ale i geopolitickou výzvou.

Ve světle těchto názorů je jasné, že umělá inteligence potřebuje nejen technologickou, ale i etickou a regulační rovnováhu. Regulace by podle odborníků měla bránit zneužívání a zároveň neomezovat inovační potenciál, což je velmi složitý úkol pro zákonodárce i vývojáře.

Pro neziskový sektor, který často spoléhá na dostupné a otevřené nástroje, je důležité sledovat tyto debaty a aktivně se zapojovat do diskuzí o regulaci AI. Jak ukazují příklady spolupráce a otevřených projektů v AI, otevřenost přináší nejen lepší dostupnost technologií, ale i větší důvěru a širší zapojení komunit, což zlepšuje bezpečnost a využitelnost AI v praxi.

Naše redakce se proto věnuje tématům regulace, bezpečnosti a otevřenosti AI nejen z technologického, ale i společenského a neziskového pohledu – více o tom najdete i v dalších článcích na AI4NGO.cz.

Shrnutí a výhled: Debata o bezpečnosti AI a otevřenosti ekosystému je klíčová pro budoucnost této technologie. Odborníci varují před koncentrací moci v rukou několika firem a zdůrazňují význam konkurence a dostupnosti AI pro všechny. Regulace by měla být promyšlená, aby nebrzdila inovace, ale zároveň chránila před možným zneužitím. Pro neziskový sektor to znamená, že se musí aktivně podílet na formování pravidel a využívat AI nástroje, které respektují hodnoty transparentnosti a zodpovědnosti. Otevřenost tedy nezůstává jen ideálem, ale nutností pro bezpečnou a spravedlivou budoucnost AI.