Meta nově informuje rodiče, pokud jejich teeneger mluví o sebevraždě nebo sebepoškozování s AI chatbotem

V dnešní době, kdy umělá inteligence proniká do stále více oblastí naší komunikace a života, se zvyšuje i odpovědnost technologických gigantů vůči svým nejzranitelnějším uživatelům – zejména teenagerům. Meta, společnost stojící za sociální sítí Instagram a Meta AI chatbotem, právě představila novinku, která má pomoci rodičům lépe reagovat na možné signály krizového chování svých dětí.

Meta nyní automaticky upozorní rodiče, pokud jejich teenager během konverzace s AI chatbotem naznačí myšlenky na sebevraždu či sebepoškozování. Tento systém je založený na speciálně vyvinutém AI algoritmu, který dokáže odhalit takovéto citlivé témata v rozhovorech. Pro zvýšení přesnosti jsou všechny takto označené konverzace navíc ručně přezkoumány, aby se předešlo falešným poplachům. Tímto krokem Meta reaguje na rostoucí kritiku a obavy, jak AI nástroje zvládají interakce s uživateli v krizových situacích.

Jak funguje bezpečnostní systém Meta AI pro teenagery

Meta si uvědomuje, že upozornění rodičů může být stresující záležitostí, a proto klade důraz na precizní vyhodnocování konverzací. Pokud je záměr teenagera nejasný, systém raději upozorní rodiče a nechá jim prostor reagovat. Tento přístup vychází z principu opatrnosti, ale zároveň zohledňuje potenciální citlivost situace.

Novinka je zatím dostupná v USA, Velké Británii, Austrálii a Kanadě pro rodiče využívající Instagram Parental Supervision. Do konce roku 2026 plánuje Meta rozšíření této funkce i na další trhy. Kromě toho systém navazuje na již existující upozornění, která rodiče dostávají, když jejich děti vyhledávají obsah týkající se sebevraždy nebo sebepoškozování na Instagramu.

Další opatření a etické otázky kolem AI a ochrany dětí

Meta také rozšířila funkci „Limited Content“, která umožňuje rodičům omezit přístup jejich dětí k citlivému obsahu, a to nejen na Instagramu, ale i v interakcích s Meta AI chatbotem. Chatbot je nastaven tak, aby se vyhýbal tématům sexuálních nebo alkoholových diskusí s teenagery, a nyní bude odmítat i širší spektrum nevhodných dotazů, což zvyšuje ochranu mladých uživatelů.

Kromě upozornění rodičů plánuje Meta zavést i možnost kontaktování tísňových služeb, pokud AI detekuje v konverzacích vážné riziko sebepoškozování či sebevraždy, a to nejen u teenagerů, ale i dospělých uživatelů. Tento krok rozšiřuje stávající praxi, kdy Meta zasahuje při podezření na ohrožení života na základě příspěvků na Facebooku nebo Instagramu.

Tyto inovace poukazují na stále složitější výzvy, před kterými stojí vývojáři AI – jak najít rovnováhu mezi ochranou soukromí, bezpečností uživatelů a odpovědným využíváním technologie. Přitom je zřejmé, že AI chatboty nelze brát jako náhradu lidské podpory nebo terapie, ale spíše jako doplněk, který může včas upozornit na potenciální rizika.

V kontextu rostoucího využívání AI ve společnosti je tento přístup Meta důležitým krokem k lepší ochraně mladých lidí, kteří tráví hodně času online a často hledají pomoc právě v digitálním prostředí. Pro neziskové organizace i další aktéry v oblasti duševního zdraví to představuje možnost spolupracovat na vývoji bezpečných a citlivých AI nástrojů, které podpoří prevenci a včasný zásah.

Zatímco technologie postupují mílovými kroky, je nezbytné, aby i legislativa, vývojáři a uživatelé společně hledali optimální cesty, jak zajistit bezpečné a etické používání AI, zvláště když se jedná o tak citlivá témata, jako jsou duševní nemoci a krizové situace mladistvých.

Více o tom, jak AI mění pravidla bezpečnosti a etiky na sociálních sítích, si můžete přečíst v našem článku Instagram upozorní rodiče na nebezpečný obsah hledaný teenagery.

Meta tedy ukazuje, že umělá inteligence může být nejen nástrojem inovací, ale i zodpovědným pomocníkem v ochraně zdraví a života nejmladších uživatelů digitálního světa.

Závěrem lze říci, že integrace AI do péče o duševní zdraví, zejména u mládeže, je krokem správným směrem. Vyžaduje však neustálý dialog mezi technologickými firmami, odborníky, zákonodárci a rodinami, aby bylo možné najít rovnováhu mezi inovací a etickou odpovědností. Nástroje jako Meta AI, které upozorňují rodiče a mohou volat tísňové linky, jsou příkladem, jak může AI přispět k bezpečnějšímu online prostředí pro mladé lidi.