Evropský zákon o umělé inteligenci (EU AI Act): Jak mění pravidla hry pro inovace i bezpečnost

Umělá inteligence (AI) se rychle stává klíčovou technologií, která mění způsob, jakým žijeme, pracujeme i komunikujeme. S tím, jak roste její význam a nasazení v různých odvětvích, se zvyšují i obavy o její dopady na společnost, bezpečnost a lidská práva. Evropská unie proto vytvořila EU AI Act – první komplexní zákon na světě, který si klade za cíl regulovat používání AI systémů a zároveň podpořit inovace v této oblasti. Tento článek vám přiblíží hlavní zaměření tohoto zákona, jeho dopady a proč je důležitý i pro firmy a organizace mimo Evropu.

Co je EU AI Act a proč je důležitý?

EU AI Act představuje právní rámec, který se vztahuje na všechny organizace, které vyvíjejí nebo používají AI systémy na evropském trhu, ať už jsou evropské nebo ze třetích zemí. Evropská komise označuje tento zákon za první svého druhu, který komplexně řeší rizika a příležitosti AI. Cílem je zajistit, aby AI byla vyvíjena a využívána způsobem, který je „člověku centrický a důvěryhodný“, a zároveň chránit zdraví, bezpečnost, základní práva a životní prostředí.

Tento zákon je reakcí na rostoucí potřebu jednotných pravidel, které by zabránily nekontrolovanému nebo neetickému používání AI. Díky tomu by měly vzniknout spravedlivé podmínky pro všechny hráče na trhu a zároveň by se měly předejít negativní dopady, jako jsou diskriminace, zneužití dat nebo snížení odpovědnosti za rozhodování AI systémů. EU tak vytváří prostředí, kde technologie může prosperovat a zároveň respektovat základní hodnoty evropské společnosti.

Jak EU AI Act reguluje rizika a podporuje inovace?

Jednou z klíčových zásad EU AI Act je rizikově orientovaný přístup. Zákon zakazuje některé AI aplikace, které představují nepřijatelné riziko, například systémy umožňující masivní sledování nebo manipulaci. Dále rozlišuje „vysokorizikové“ AI systémy, které podléhají přísným požadavkům na transparentnost, bezpečnost a dohled. Pro méně rizikové aplikace platí lehčí pravidla, což umožňuje jejich rychlejší vývoj a nasazení.

Příklad z praxe může být nástroj pro automatizovaný výběr zaměstnanců, který musí splňovat přesné normy, aby nevedl k diskriminaci. Jiný příklad je bankovní systém využívající AI k hodnocení rizik – ten je považován za vysokorizikový a musí doložit řadu bezpečnostních a etických opatření. Naopak AI pro generování textů na weby nebo chatboti podléhají méně přísným pravidlům, pokud nenaplňují kritéria vysokého rizika.

Uplatnění zákona není omezeno pouze na evropské firmy. Například americké technologické společnosti jako Google, Meta, OpenAI či Anthropic musí zajistit, aby jejich modely – zejména tzv. obecné AI modely (GPAI) – splňovaly stanovené požadavky, pokud chtějí své služby poskytovat v EU. To znamená, že EU AI Act má globální dopad a stává se globálním standardem v regulaci AI.

Postupné zavádění a výzvy pro firmy

Implementace EU AI Act začala 1. srpna 2024, ale jeho plné uplatnění proběhne postupně, s hlavními termíny do poloviny roku 2026 a dále do roku 2027 pro novější typy AI systémů. První kritické datum bylo 2. února 2025, kdy vstoupil v platnost zákaz některých neetických a nebezpečných praktik, například nekontrolovaného sběru obličejových snímků z veřejných kamer nebo internetu.

Od 2. srpna 2025 se také začaly vztahovat pravidla na obecné AI modely, které mohou mít systémová rizika. Pro tyto modely platí povinnost dodržovat specifická opatření, která mají minimalizovat nechtěné důsledky jejich použití. Velké firmy již začaly podepisovat dobrovolný kodex chování pro tyto modely, ale některé, jako Meta, tento krok odmítly s argumentem, že regulace je příliš přísná a brzdí inovace.

Evropské firmy rovněž poukazují na možná rizika zbrklé regulace a žádají odklad některých povinností, což EU však zatím odmítá. V této debatě se ukazuje, jak náročné je najít rovnováhu mezi podporou rychlého rozvoje AI a ochranou společnosti před jejími možnými negativními dopady. Vývoj této legislativy proto budeme sledovat i nadále, protože ovlivní směřování AI v Evropě i ve světě.

Jak EU AI Act ovlivní neziskové organizace a další sektory?

EU AI Act není určen pouze pro komerční sektor, ale ovlivní i neziskové organizace, které AI využívají například při analýze dat, automatizaci komunikace nebo správě dárcovství. Tyto organizace budou muset zajistit, že používané AI nástroje splňují standardy transparentnosti a neohrožují práva jednotlivců, což zvyšuje odpovědnost i v neziskovém sektoru.

Například organizace pomáhající lidem s duševním zdravím či sociální služby, které integrují AI pro lepší diagnostiku či službu, musí pečlivě sledovat, zda nepoužívají rizikové systémy, které by mohly poškodit jejich klienty. Pro neziskovky je to výzva, ale zároveň příležitost přistupovat k AI odpovědně a budovat důvěru mezi svými uživateli a podporovateli. Více o roli AI v neziskovém sektoru najdete v našem článku Jak umělá inteligence mění neziskový sektor.

Závěr: Regulace jako krok k udržitelné AI budoucnosti

EU AI Act představuje zásadní krok v regulaci umělé inteligence, která již neprobíhá jen v rovině technologického pokroku, ale i společenských a etických otázek. Zavedením jasných pravidel EU usiluje o to, aby AI byla bezpečná, důvěryhodná a prosazovala základní hodnoty demokracie a lidských práv. Přitom ale zároveň nechce zbrzdit inovace, naopak se snaží vytvořit prostředí, kde mohou vznikat nové příležitosti pro firmy i neziskové organizace.

Pro organizace v Česku a celé Evropě je proto klíčové sledovat vývoj legislativy, připravovat se na nové požadavky a zároveň využívat AI k efektivnější práci a službám, které jsou v souladu s etickými normami. EU AI Act tak není jen právní překážkou, ale i nástrojem, který může podpořit důvěru uživatelů a společenskou odpovědnost v době digitální transformace.

Více o tématu regulace AI, její etice a dopadech na neziskový sektor najdete i v dalších článcích na našem webu AI4NGO.cz.