Instagram upozorní rodiče, pokud jejich teenager hledá obsah o sebevraždě či sebepoškozování

V dnešní digitální době tráví teenageři značnou část svého času na sociálních sítích, které často ovlivňují jejich psychiku a duševní zdraví. Instagram, jedna z nejpopulárnějších platforem mezi mladými lidmi, nyní přichází s novinkou, jež má pomoci rodičům lépe sledovat a podpořit své děti v případě, že vyhledávají citlivý obsah související se sebevraždou nebo sebepoškozováním. Společnost Meta oznámila, že během několika týdnů začne rodičům zasílat upozornění, pokud jejich teenager opakovaně zadá do vyhledávání klíčová slova spojená s těmito tématy.

Tato iniciativa vychází z předchozí praxe Instagramu, který již dříve zabránil uživatelům vyhledávat obsah týkající se sebevraždy a sebepoškozování. Nově zavedená upozornění ale mají zajistit, aby rodiče byli informováni, pokud dítě vyhledává tyto fráze opakovaně v krátkém časovém období, což může signalizovat zvýšené riziko a potřebu stáhnout pomocnou ruku.

Jak upozornění funguje a co přináší rodičům

Pokud teenager několikrát za sebou vyhledá výrazy jako „sebevražda“, „sebepoškozování“ nebo jiné fráze naznačující riziko, Instagram pošle rodičům upozornění formou e-mailu, SMS nebo přes WhatsApp, podle toho, jaké kontaktní údaje rodiče uvedli v rámci rodičovského dohledu. Navíc se objeví i notifikace přímo v aplikaci Instagram. Rodiče tak dostanou nejen varování, ale i konkrétní zdroje a rady, jak s dítětem o těchto citlivých tématech mluvit a jak mu pomoci.

Instagram zdůrazňuje, že cílem není zbytečně zasahovat do soukromí mladých uživatelů, ale najít správnou rovnováhu mezi ochranou a respektem. Proto bylo stanoveno, že upozornění se spustí až po několika vyhledáváních během krátké doby, aby se předešlo falešným poplachům. Tento přístup byl konzultován s odborníky z oblasti duševního zdraví a bezpečnosti na internetu.

Kontext a širší problém bezpečnosti teenagerů na sociálních sítích

Tento krok přichází v době, kdy společnosti jako Meta čelí řadě žalob a výtek za nedostatečnou ochranu mladistvých před škodlivým obsahem na svých platformách. Například během nedávných soudních jednání bylo zjištěno, že rodičovský dohled a kontroly nemusí výrazně ovlivňovat kompulzivní používání sociálních sítí u dětí, zvlášť pokud procházejí stresujícími životními situacemi.

Instagram také čelil kritice za pomalé zavádění základních bezpečnostních funkcí, například filtru na nahotu ve zprávách pro teenagery. Přestože nové upozornění není dokonalým řešením, představuje další krok k větší odpovědnosti technologických firem za duševní zdraví mladých uživatelů.

Důležitým aspektem je také plán Instagramu rozšířit tyto notifikace do dalších zemí během tohoto roku a v budoucnu je rozšířit i na situace, kdy dítě začíná diskutovat o sebevraždě nebo sebepoškozování přímo s AI chatbotem v aplikaci. To ukazuje snahu využívat umělou inteligenci nejen ke komerčním cílům, ale také k podpoře bezpečnosti a duševní pohody uživatelů.

Možnosti a výzvy umělé inteligence v oblasti ochrany duševního zdraví

Příklady jako Instagram ukazují, jak může AI pomoci s identifikací rizikového chování a poskytnout včasná upozornění. Nicméně je důležité najít rovnováhu mezi kontrolou a respektem k soukromí uživatelů, zvlášť u mladistvých. Přehnaná kontrola může vést k narušení důvěry a někdy i k nechtěným negativním důsledkům.

V neziskovém sektoru a dalších oblastech se stále častěji diskutuje o tom, jak AI může podpořit prevenci duševních obtíží, a to nejen prostřednictvím platforem sociálních médií, ale i v rámci online poradenství či krizových intervencí. Více o využití AI v oblasti sociálních služeb a neziskovek se můžete dočíst v našem článku Umělá inteligence v sociálních službách: Jak AI mění pravidla hry v neziskovém sektoru.

Zavádění takových inovací je proto nejen technologickou, ale i etickou výzvou, která vyžaduje spolupráci vývojářů, psychologů, rodičů i samotných uživatelů. V budoucnu nás čeká stále více nástrojů založených na umělé inteligenci, které mohou pomoci zachránit lidské životy a zlepšit komunikaci v rodinách i komunitách.

Zavedení těchto funkcí na Instagramu je tak krokem správným směrem, který zároveň podtrhuje význam zodpovědného nasazení AI technologií pro společenské dobro a ochranu nejzranitelnějších skupin uživatelů.

Pro rodiče i pečovatele je nyní důležité sledovat nové nástroje, edukovat se a být připraveni na otevřený dialog s dětmi o tom, jak bezpečně a s rozmyslem využívat sociální sítě a digitální technologie. Pouze tak může být digitální svět pro mladé bezpečným místem i v náročných obdobích jejich života.