Kalifornie navrhuje čtyřletý zákaz AI chatbotů v dětských hračkách: Ochrana dětí před riziky umělé inteligence

Vývoj umělé inteligence přináší bezprecedentní možnosti i výzvy, zejména pokud jde o její integraci do produktů určených dětem. V Kalifornii se proto začala rýsovat kontroverzní legislativní iniciativa, která navrhuje čtyřletý zákaz výroby a prodeje dětských hraček vybavených AI chatboty pro osoby mladší 18 let. Tento návrh zákona, označovaný jako SB 867, předložil senátor Steve Padilla s cílem vytvořit dostatek prostoru pro zavedení smysluplných bezpečnostních pravidel a ochran dat dětí.

Podobná opatření reflektují rostoucí obavy nejen o bezpečnost, ale i etiku používání umělé inteligence, zejména v prostředí, kde jsou uživatelé mimořádně zranitelní. Senátor Padilla upozorňuje, že zatímco AI může být významným nástrojem budoucnosti, současné systémy stále představují značná rizika, která je třeba regulovat dříve, než se technologie dostane do rukou dětí bez adekvátní ochrany.

Proč je regulace AI hraček zásadní?

Úvahy o regulaci vycházejí z několika alarmujících případů, kdy interakce dětí s AI chatboty vedly k vážným psychickým problémům, včetně tragických úmrtí. Za poslední rok došlo k několika soudním sporům, kde rodiče viní provozovatele chatbotů z nedostatečné ochrany a prevence škodlivých obsahů. Takové případy zdůrazňují potřebu jasných pravidel a standardů, které by zajistily bezpečný a eticky odpovědný vývoj a používání AI technologií v hračkách.

Konkretizací problémů může být například hračka Kumma, kterou kritizovala spotřebitelská organizace PIRG Education Fund. Tento plyšový medvídek s AI chatbotem byl schopný vést konverzace o nebezpečných tématech jako zápalky, nože či sexuální tématika, což je pro děti vysoce nevhodné. Podobné obavy vzbudil i AI produkt Miiloo od čínské firmy Miriat, který měl dle zjištění NBC News programování odrážející hodnoty Komunistické strany Číny, což vyvolalo otázky ohledně vlivu a obsahu, který děti mohou přijímat.

Jak legislativa a trh reagují?

Návrh zákona SB 867 v Kalifornii je reakcí na rychlý vývoj AI technologií, které zatím nejsou dostatečně regulovány. Padilla již dříve spolupodepsal zákon SB 243, který ukládá provozovatelům chatbotů povinnost zavádět ochranná opatření vůči dětem a zranitelným uživatelům. Tento krok ukazuje, jak se státní legislativa snaží držet krok s technologickými inovacemi a zároveň chránit nejohroženější skupiny.

Na trhu navíc vidíme, že velcí hráči jako OpenAI či výrobci hraček, například Mattel, zatím odkládají uvedení AI hraček na trh, pravděpodobně z důvodu obav o bezpečnost a regulatorní nejistoty. Spojení AI s dětskými produkty tak zatím neprošlo do masové produkce, což dává prostor pro důkladné zvážení a nastavení pravidel.

"Naše děti nemohou sloužit jako pokusní králíci pro experimenty velkých tech společností," prohlásil senátor Padilla, čímž zdůraznil, že ochrana dětí musí jít před komerční zájmy.

Výzvy a perspektivy do budoucna

Čtyřletý zákaz je vnímán jako opatření předběžné opatrnosti, které by mělo umožnit vznik jasných a jednoznačných bezpečnostních standardů. V širším kontextu jde o důležitý precedent v regulaci AI, která se stále více stává součástí každodenního života. Regulační rámec by měl zahrnovat nejen technické aspekty, jako jsou filtrování nevhodného obsahu nebo ochrana osobních dat, ale také etické otázky, které AI ve hrách a hračkách vyvolává.

Pro neziskové organizace a odborníky na bezpečnost AI je tento krok vítanou příležitostí k zapojení do tvorby pravidel, které zachrání dětskou důvěru a zajistí, že umělá inteligence bude sloužit k podpoře vzdělávání, kreativity a bezpečné zábavy, nikoli k riziku nebo manipulaci.

V České republice i v EU bychom měli sledovat podobné iniciativy a aktivně se zapojit do diskuse o regulaci AI, zvláště v citlivých oblastech, jako jsou dětské produkty. Více o etických a bezpečnostních výzvách AI najdete například v našem článku Kalifornie zavádí první regulaci AI společníků k ochraně dětí či Varování před riziky AI chatbotů v terapii.

Závěrem lze říci, že současná revoluce v AI technologii vyžaduje nejen inovace, ale i odpovědnost. Regulace, která ochrání děti před možnými škodlivými dopady, je krokem správným směrem, který nás může nasměrovat k bezpečnější a férovější budoucnosti s umělou inteligencí.