New York zavádí přísné pravidla pro bezpečnost umělé inteligence díky zákonu RAISE Act

Vývoj umělé inteligence výrazně urychluje tempo inovací, ale zároveň přináší nové bezpečnostní a etické výzvy. V tomto kontextu reaguje stát New York přijetím zákona RAISE Act, který stanovuje přísná pravidla pro velké vývojáře AI. Jeho cílem je nejen zvýšit transparentnost v oblasti bezpečnostních opatření, ale také zajistit rychlou reakci na případné incidenty související s využíváním AI systémů.

RAISE Act – co přináší nového?

Zákon, který guvernérka Kathy Hochul podepsala po debatách a tlacích ze strany technologického průmyslu, zavádí povinnost pro velké firmy vyvíjející umělou inteligenci publikovat informace o svých bezpečnostních protokolech. Kromě toho musí do 72 hodin hlásit veškeré bezpečnostní incidenty státu. Nově vznikající úřad v rámci Ministerstva finančních služeb bude mít na starosti kontrolu vývoje AI a dohled nad dodržováním této legislativy.

Tato opatření mají zajistit, že firmy budou odpovědné za transparentnost a bezpečnost svých produktů. Pokud by nedodržely povinnost podávat pravdivé zprávy nebo by informace utajovaly, hrozí jim pokuty až do výše jednoho milionu dolarů, přičemž opakované porušení může stát až tři miliony dolarů.

Inspirace Kalifornií a federální výzvy

Zákon je přímou reakcí na nedávné kroky Kalifornie, která v září přijala podobnou legislativu zaměřenou na bezpečnost AI. Guvernérka New Yorku při podepisování zákona přímo uvedla, že se tak vytváří jednotný standard mezi předními technologickými státy USA, zatímco federální vláda zaostává za potřebou regulace.

Podobně jako v Kalifornii i v New Yorku se ukazuje, že státy jsou připraveny převzít iniciativu v regulaci AI, pokud federální úroveň selhává. Některé technologické firmy a investoři však uvedli, že by bylo efektivnější mít jednotné federální zákony, což odráží napětí mezi státní a federální regulací. Například bývalý prezident Donald Trump podepsal exekutivní příkaz, který směruje federální agentury k odporu proti státní regulaci AI, což naznačuje budoucí právní spory o kompetence v této oblasti.

Podpora i odpor z technologického sektoru

Zákon RAISE Act získal podporu významných hráčů, jako jsou OpenAI a Anthropic, kteří zároveň volají po celostátním zákonodárství. Antropic dokonce uvedl, že přijetí průhlednostních předpisů ve dvou největších státech USA signalizuje klíčový význam bezpečnosti AI a měl by být impulzem pro Kongres.

Na druhé straně ale nemalá část technologických gigantů a jejich lobbistů se snažila zákon zmírnit nebo jej zcela zablokovat. Dokonce vznikl super PAC na podporu kandidáta, který chtěl zákon ve státní legislativě zpochybnit. Tato situace vypovídá o složitém vztahu mezi inovacemi, zájmy průmyslu a veřejným zájmem na bezpečnosti.

Proč je regulace AI důležitá právě nyní?

Umělá inteligence se stále více prosazuje v kritických oblastech, od zdravotní péče přes finance až po dopravu. Rizika spojená s nekontrolovaným vývojem AI mohou mít závažné důsledky – například šíření dezinformací, narušení soukromí nebo dokonce ohrožení fyzické bezpečnosti lidí. Proto je nezbytné nastavit jasná pravidla odpovědnosti a transparentnosti.

Newyorský přístup je příkladem, jak mohou státy aktivně regulovat rychle se rozvíjející technologie, aniž by zastavily inovace. Přitom zákon klade důraz na prevenci a včasné hlášení problémů, což je krok správným směrem k bezpečné implementaci AI do společnosti.

Co můžeme očekávat v budoucnu?

Regulace AI je globální téma, které vyžaduje spolupráci a sdílení standardů. Evropská unie již pracuje na svém zákonu AI Act, který nastavuje pravidla pro celý kontinent. V USA se zatím řeší spíše kolize mezi státy a federální vládou, což může vést k právním tahanicím.

Pro neziskové organizace a veřejnost je však klíčové sledovat tyto legislativní kroky, protože bezpečnost a transparentnost AI ovlivňují i jejich činnost a důvěru ve využívání technologií. Více o vlivu regulace AI na neziskový sektor najdete například v našem článku Jak umělá inteligence mění neziskový sektor.

Zákon RAISE Act představuje důležitý precedent, který může inspirovat další státy a země k aktivnímu přístupu v regulaci umělé inteligence. Transparentnost, rychlá odpověď na incidenty a přísné sankce jsou prvky, které mohou výrazně přispět k odpovědnému využívání AI a ochraně uživatelů i celé společnosti.

Bezpečnost a etika umělé inteligence nejsou jen technické problémy, ale i otázky zákonů, politiky a spravedlnosti. S nástupem AI technologií je nutné budovat i legislativní rámec, který tyto výzvy reflektuje a chrání veřejné zájmy.