Kdo má skutečnou kontrolu nad umělou inteligencí? Pohled z TechBBQ v Kodani

Každoroční setkání TechBBQ v Kodani se letos neslo v duchu otázky, která je stěžejní nejen pro Evropu, ale i pro celý svět: kdo skutečně řídí a kontroluje vývoj umělé inteligence? Debaty, které se vedly na pódiích, během přestávek i večerních setkání, ukázaly, že AI není jen technický fenomén, ale i hluboká výzva v oblasti suverenity a lidské agentury.

Evropský kontext je zde zásadní, protože blok čelí silné závislosti na technologiích z USA a Číny, což se jasně odrazilo při letošním omezení dostupnosti AI modelů Anthropic (Mythos a Fable) mimo Evropu. Toto rozhodnutí přimělo mnoho evropských startupů a investorů zamyslet se nad tím, co znamená vlastnit AI platformy a kdo je skutečným vlastníkem technologie, na které závisí jejich inovace a produkty.

Evropská suverenita a závislost na globálních hráčích

Otázka suverenity v oblasti AI není pouze politickým tématem, ale má přímý dopad na technologický rozvoj a ekonomiku. Někteří z představitelů startupů vidí v závislosti na zahraničních technologiích dočasnou situaci, která zatím nevyvolává zásadní obavy. Jiní však upozorňují, že dlouhodobá závislost může Evropě způsobit značné problémy, například při omezení přístupu k potřebným AI modelům nebo výpočetní infrastruktuře.

Investoři a odborníci rovněž diskutovali o tom, jak podpořit evropské AI inovace a přilákat do regionu více kapitálu, aby Evropa mohla vyvíjet vlastní AI modely a infrastrukturu. Součástí těchto diskuzí byla i otázka, jak zachovat lidský úsudek a kontrolu nad AI, aby technologie nevyvíjela moc nad svými tvůrci a uživateli.

Etika, soukromí a role člověka v éře AI agentů

Na konferenci vystoupila také Meredith Whittaker, prezidentka společnosti Signal, která varovala před nebezpečím masivního sběru dat a integrace AI asistentů přímo do operačních systémů, což podle ní vytváří „aparát sběru dat“ a ohrožuje soukromí uživatelů. Mnozí účastníci si uvědomili, že AI nabízí obrovské možnosti, ale zároveň klade nové otázky o ochraně soukromí a o tom, jak zachovat lidskou kontrolu nad technologií.

Emad Mostaque, spoluzakladatel Stability AI, pak zdůraznil, že suverenita znamená schopnost odolat vnějšímu vlivu. Poukázal na koncentraci moci v rukou několika málo AI laboratoří a uvedl, že „každá země bude nakonec řízena AI, a ten, kdo ovládá AI, ovládá zemi.“ Tento výrok podtrhuje důležitost kontroly nad AI nejen z hlediska technologického, ale i geopolitického.

Mia Negru z neziskové organizace Life With Artificials naznačila, že příchod agentních AI, které budou vykonávat kognitivní i fyzickou práci, může znamenat zásadní přerozdělení moci a nutnost přehodnotit základní společenské struktury včetně vlastnictví, práce a demokracie.

Nicméně, ačkoliv se odborníci zabývali těmito vážnými tématy, neformální části konference připomněly, že v jádru všeho zůstává lidský kontakt a sdílení nápadů. Jak shrnula Ellen de Brever, angel investor a vedoucí partnerství v Novo Nordisk Foundation Cellerator: „V místnosti plné diskuzí o strojích jsou nejpamátnější okamžiky ty nejjednodušší – lidské spojení, setkání tváří v tvář, budování vztahů a připomínání si, co technologie nikdy nemohou zcela nahradit.“

Diskuze na TechBBQ tak reflektují i širší trend, kdy umělá inteligence v neziskovém sektoru a dalším odvětvích musí být rozvíjena s ohledem na lidskou kontrolu, transparentnost a odpovědnost. V době, kdy AI čím dál více proniká do našeho každodenního života, je otázka „kdo má nad AI kontrolu“ zásadní nejen pro technologické firmy, ale i pro společnost jako celek.

Závěrem lze říci, že TechBBQ přinesla nejen vhled do technických a obchodních aspektů AI, ale především otevřela prostor pro debatování o hodnotách, etice a suverenitě. Evropské země a startupy tak stojí před výzvou vytvořit nejen konkurenceschopné AI technologie, ale i modely, které budou respektovat lidskou agenturu a ochranu soukromí. To je klíčové pro udržitelný rozvoj AI, který nebude ohrožovat základní principy demokracie a svobody.