Kalifornie jako průkopník v regulaci umělé inteligence: Senátor Scott Wiener a zákon SB 53

Umělá inteligence (AI) stále více ovlivňuje náš každodenní život i průmyslové odvětví, což s sebou přináší nejen nové příležitosti, ale i významná rizika. V Kalifornii, jednom z hlavních technologických center světa, se proto rozvíjí debata o nutnosti regulace těchto technologií, která by zajistila jejich bezpečné a odpovědné využívání. Klíčovou postavou v této oblasti je senátor Scott Wiener, který po neúspěšném pokusu o přijetí přísnějších pravidel v roce 2024 přichází s novým, umírněnějším návrhem zákona SB 53.

SB 53 a jeho hlavní cíle

Zákon SB 53, který nyní čeká na podpis guvernéra Gavina Newsoma, je navržen tak, aby na rozdíl od svého předchůdce SB 1047 nebyl tvrdý a neomezoval technologický rozvoj, ale spíše podporoval transparentnost a odpovědnost velkých technologických firem v oblasti AI. Vyžaduje, aby společnosti jako OpenAI, Anthropic, xAI a Google zveřejňovaly bezpečnostní zprávy o svých nejvýkonnějších modelech umělé inteligence, zejména s ohledem na potenciální rizika jako jsou smrtelné nehody, kybernetické útoky či vývoj biovědeckých zbraní. Tento krok je zásadní, protože doposud neexistovala povinnost, aby tyto firmy informovaly veřejnost či regulační orgány o testování a možných nebezpečích svých produktů.

Proč je regulace AI důležitá právě teď?

AI technologie se vyvíjí rychlým tempem, což zvyšuje pravděpodobnost jejich zneužití nebo nechtěných negativních dopadů. Senátor Wiener upozorňuje, že přestože mnoho odborníků v AI pracuje na zmírnění rizik, „nejde o eliminaci rizika, ale o jeho rozumné řízení“. Zákon se proto zaměřuje na největší hrozby, které by mohly mít katastrofální následky, a zároveň nechává prostor pro inovace bez zbytečného dusění technologického pokroku. Přijetí takového zákona by mohlo znamenat, že Kalifornie opět nastaví tón zbytku světa, podobně jako to dělala v minulosti v oblasti ochrany soukromí či internetové regulace.

Podpora i kritika: Silné i slabé stránky SB 53

Na rozdíl od loňského návrhu byl SB 53 přijat klidněji, dokonce s podporou některých technologických firem. Například společnost Anthropic zákon otevřeně podpořila a Meta jej označila za krok správným směrem, i když připouští, že existují oblasti k vylepšení. Opačný postoj zaujímá část průmyslu, která tvrdí, že regulace by měla být spíše na federální úrovni, nikoli na úrovni jednotlivých států, kvůli možným právním komplikacím v rámci obchodních zákonů.

Senátor Wiener však vyjadřuje skeptický postoj vůči federální vládě, která podle něj selhává v prosazování účinných pravidel. Tvrdí, že současná administrativa klade větší důraz na podporu růstu AI než na bezpečnost, což se odráží i v politice bývalé Trumpovy vlády. Wiener proto vidí v kalifornském zákoně příležitost, jak nastavit standardy a poskytnout rámec pro zodpovědné inovace.

SB 53 rovněž obsahuje zajímavé inovace, jako je vytvoření chráněných kanálů pro zaměstnance AI firem, kteří by chtěli nahlásit bezpečnostní problémy, a založení státní cloudové platformy CalCompute, která má zpřístupnit výzkumné zdroje i mimo velké technologické giganty. Tyto prvky mohou pomoci zvýšit důvěru veřejnosti a podpořit férovější konkurenční prostředí.

Výzvy a příležitosti pro neziskový sektor a širší společnost

Pro neziskové organizace, které často pracují s daty a AI systémy, je transparentnost a regulace AI také klíčová. Zákon SB 53 může přispět k větší ochraně veřejnosti před škodlivými dopady vyspělých technologií, jejichž rizika doposud nebyla dostatečně řešena. Na druhou stranu může sloužit jako model pro další státy či země, jak postupovat v oblasti AI bezpečnosti, což je téma, které se dotýká i neziskového sektoru, jenž často využívá AI nástroje pro lepší efektivitu a dopad svých aktivit.

Bezpečnostní a etické aspekty AI jsou stále více diskutovány v kontextu odpovědného nasazení technologií. Kalifornský zákon tak může být úvodním krokem k vytvoření pravidel, která omezí rizika bez zbytečných bariér pro inovace. Podobné diskuze se vedou i v Evropě, kde je aktuálně připravován regulativní rámec na úrovni EU, a také v dalších částech světa, což ukazuje, jak důležité je téma AI bezpečnosti a transparentnosti na globální úrovni.

Závěrem lze říci, že boj za bezpečnost umělé inteligence není jen otázkou jednoho státu či politiky, ale především širšího dialogu mezi vládami, firmami, odborníky a společností jako celkem. Senátor Wiener a jeho návrh SB 53 reprezentují důležitý krok směrem k tomu, aby technologie sloužily lidstvu bezpečně a eticky, což je cíl, který stojí za podporu a sledování i u nás v Česku a v neziskovém sektoru. Více o tom, jak AI mění neziskový sektor, se můžete dozvědět v našem článku Jak umělá inteligence mění neziskový sektor (inspirace a výzvy).