Kalifornie ukazuje, že regulace AI nemusí brzdit inovace: Příběh zákona SB 53

Umělá inteligence (AI) se rychle rozvíjí a její dopady jsou stále hlubší napříč společností. S tím ale přicházejí i otázky ohledně bezpečnosti, zodpovědnosti a transparentnosti. Kalifornie se nedávno stala průkopníkem v oblasti regulace AI, když guvernér Gavin Newsom podepsal zákon SB 53, jenž stanovuje jasná pravidla pro velké AI laboratoře. Tento zákon je důkazem, že regulace nemusí brzdit inovace, ale může je naopak podpořit a učinit technologie bezpečnějšími pro společnost.

„Politici chápou, že je třeba něco dělat, a zároveň vědí, jak přijmout legislativu, která chrání inovace, ale zároveň zajišťuje bezpečnost produktů,“ vysvětluje Adam Billen, viceprezident pro veřejnou politiku v organizaci Encode AI. Tento zákon vyžaduje od AI laboratoří větší transparentnost a kontrolu bezpečnostních protokolů, které mají zabránit možným katastrofálním rizikům, jako jsou kybernetické útoky na kritickou infrastrukturu nebo zneužití AI k tvorbě bioteroristických zbraní.

Regulace jako nástroj bezpečnosti a důvěry

SB 53 ukládá firmám povinnost dodržovat bezpečnostní opatření, které budou kontrolovány Úřadem pro nouzové služby. Podle Billena některé společnosti již bezpečnostní testy provádějí a zveřejňují tzv. modelové karty popisující jejich AI modely. Nicméně v konkurenčním prostředí může docházet k tomu, že firmy na bezpečnostních standardech šetří, což právě tento zákon pomáhá minimalizovat. Jako příklad uvádí OpenAI, která přiznala, že může „uvolnit“ bezpečnostní opatření, pokud konkurenční firma uvede na trh vysoce rizikový AI systém bez adekvátních záruk.

Je proto důležité, aby takové zákony firmám připomínaly a vynucovaly jejich existující závazky vůči bezpečnosti. Ve světě, kde AI může ovlivnit například i dětskou bezpečnost nebo práva uživatelů, pomáhají jasná pravidla vybudovat důvěru nejen mezi firmami, ale především ve společnosti.

Konflikt mezi státní a federální regulací a globálními ambicemi

SB 53 sice není dokonalým řešením a zaměřuje se na vybrané aspekty bezpečnosti, ale představuje funkční model demokratického procesu, kde se legislativa vytváří za spolupráce politiků, odborníků a průmyslu. To je důležité zejména v kontextu soupeření s Čínou o prvenství v AI, kde se často regulace prezentují jako brzda. Adam Billen však upozorňuje, že tvrdé stanovisko proti regulacím je často krátkozraké.„Není pravda, že by takové zákony zastavily Ameriku v závodu s Čínou,“ říká. Podle něj by spíše měly být podporovány například exportní kontroly na pokročilé čipy, které jsou klíčovým zdrojem výpočetního výkonu pro AI, a které by skutečně mohly ovlivnit globální konkurenceschopnost.

Je zajímavé sledovat, že velké společnosti jako Meta, OpenAI či investoři z Andreessen Horowitz investují značné částky do politických kampaní, aby zabránili státním regulacím nebo prosadili federální moratorium na AI regulaci na deset let. Zároveň ale existují i iniciativy jako SB 53, které dokazují, že dialog a kompromis jsou stále možné a žádoucí. Pro neziskové organizace a další aktéry v českém prostředí je důležité sledovat tyto trendy a chápat, jak lze regulaci využít k podpoře bezpečného a zodpovědného využívání AI technologií.

V neposlední řadě je třeba zmínit i roli federální vlády, která plánuje zavést vlastní standardy a zákony, často s cílem sjednotit pravidla. Zde však hrozí, že by mohlo dojít ke snížení vlivu jednotlivých států a výraznému omezení místní legislativy, což by mohlo poškodit diverzitu přístupů a zvýšit riziko neadekvátních řešení. „Úzká federální legislativa může zcela vymazat federální principy, což by bylo nebezpečné,“ varuje Billen.

Kalifornie svým zákonem SB 53 ukazuje, že regulace AI není nutně bariérou pro inovace. Naopak může sloužit jako základ pro bezpečnější a důvěryhodnější technologický pokrok. Pro neziskové organizace, které často pracují s citlivými daty a potřebují důvěru svých klientů, je tento přístup inspirativní a může být impulzem pro zavádění odpovědných AI praktik i v Česku. Více o tom, jak AI mění neziskový sektor, najdete v našem článku Jak umělá inteligence mění neziskový sektor: příležitosti, výzvy a konkrétní přínosy.

Budoucnost AI je plná příležitostí i rizik. Regulace, která je promyšlená, transparentní a spolupracující s průmyslem, může být klíčem k tomu, jak tyto technologie využít ku prospěchu celé společnosti. Kalifornie nám tímto zákonem dává příklad, že inovace a bezpečnost nemusí být protiklady, ale mohou se vzájemně doplňovat a posilovat.