New York přijímá zákon na prevenci katastrof způsobených AI

Technologický pokrok v oblasti umělé inteligence přináší nejen inovace, ale také výzvy a rizika, která nelze podceňovat. New York se proto rozhodl přijmout významný krok a zavést nový zákon s názvem RAISE Act, který má za cíl regulovat pokročilé AI modely a předejít potenciálním katastrofám způsobeným nedostatečně kontrolovanou technologií.

Co je RAISE Act?

RAISE Act je zákon, který se zaměřuje na zvýšení bezpečnosti v oblasti umělé inteligence, především na modely vyvíjené giganty jako OpenAI, Google nebo Anthropic. Jeho hlavním cílem je zabránit situacím, které by mohly vést k úmrtí nebo zranění více než sta lidí nebo finančním škodám přesahujícím miliardu dolarů. Součástí zákona je povinnost pro AI laboratoře zveřejňovat podrobné bezpečnostní a bezpečnostní zprávy o svých modelech a hlásit jakékoli incidenty, které by mohly představovat nebezpečí.

Podpora a kritika

Zákon získal podporu významných osobností i odborníků z oblasti AI, včetně laureáta Nobelovy ceny Geoffreyho Hintona. Přesto existují i kritici, zejména z technologického průmyslu, kteří se obávají, že by regulace mohla omezit inovace. Jak však uvádí spolusponzor zákona, senátor Andrew Gounardes, RAISE Act byl navržen tak, aby nebránil rozvoji startupů nebo akademickému výzkumu.

Důležité aspekty zákona

Zákon klade důraz na transparentnost a odpovědnost. AI laboratoře musí podávat zprávy při jakémkoli incidentu, jako je nevhodné chování modelu nebo krádež modelu. Pokud firmy tyto standardy nedodrží, mohou čelit civilním sankcím až do výše 30 milionů dolarů. Tato opatření se týkají těch největších AI hráčů, jejichž modely využívají více než 100 milionů dolarů na výpočetní prostředky.

Očekávané dopady a budoucnost

Přijetí RAISE Act by mohlo nastavit nové standardy pro odpovědnost a transparentnost v AI průmyslu nejen v USA, ale i globálně. Přestože se někteří obávají, že by to mohlo vést k odklonu technologických firem z New Yorku, ekonomická důležitost tohoto státu činí takový krok nepravděpodobným. Podle některých odborníků by přísnější regulace v New Yorku mohla inspirovat i další státy k podobným krokům.

RAISE Act představuje důležitý milník v regulaci a bezpečnosti umělé inteligence, který by mohl předejít nechtěným důsledkům této rychle se vyvíjející technologie. Jak se ukazuje, transparentnost a odpovědnost jsou klíčové pro udržení důvěry veřejnosti v AI a její bezpečné nasazení.

Podobné snahy o kontrolu a regulaci lze pozorovat i jinde ve světě, což naznačuje, že téma bezpečnosti AI je skutečně globální výzvou.