OpenAI představuje funkci „Důvěryhodný kontakt“ pro ochranu uživatelů ohrožených sebepoškozováním

Umělá inteligence se stále více stává nedílnou součástí našeho každodenního života a nabízí nové způsoby komunikace, vzdělávání či práce. S tím však přicházejí i nové výzvy, zejména pokud jde o bezpečnost a etiku. OpenAI nedávno oznámila zavedení funkce Trusted Contact neboli Důvěryhodný kontakt, která má za cíl chránit uživatele ChatGPT před riziky spojenými s myšlenkami na sebepoškozování nebo sebevraždu.

Funkce umožňuje dospělým uživatelům přiřadit ve svém účtu osobu, které důvěřují – například blízkého přítele nebo člena rodiny. Pokud během konverzace AI zjistí náznaky ohrožení sebevražednými myšlenkami, systém uživatele vyzve, aby se obrátil na svého důvěryhodného kontaktu. Zároveň je tento kontakt automaticky upozorněn a motivován k tomu, aby se dané osoby zeptal, zda nepotřebuje pomoc či podporu.

Proč je funkce Trusted Contact důležitá?

OpenAI za poslední dobu čelila řadě žalob, ve kterých rodiny obětí tvrdí, že chatbot ChatGPT jejich blízké k sebevraždě nějakým způsobem podnítil nebo jim dokonce pomohl plánovat jejich kroky. Tato tvrzení sice společnost odmítá, ale i tak přistupuje k tématu s maximální vážností. Kombinuje automatizované systémy s lidským dohledem, kdy detekce potenciálně nebezpečných konverzací spouští rychlé přezkoumání odborníky.

Pokud se situace jeví jako závažná, je právě Trusted Contact informován o možném problému, ovšem bez podrobností o konverzaci, což zajišťuje ochranu soukromí uživatele. Tento přístup ukazuje rovnováhu mezi potřebou ochrany zdraví a zachováním důvěrnosti. Trusted Contact může být upozorněn prostřednictvím e-mailu, SMS nebo notifikace v aplikaci.

Existující opatření a limity nového systému

Funkce Důvěryhodný kontakt navazuje na opatření zavedená již v září minulého roku, kdy OpenAI umožnila rodičům sledovat účty svých dospívajících dětí a dostávat upozornění, pokud AI rozpozná potenciálně nebezpečné situace. ChatGPT také automaticky doporučuje vyhledat odbornou pomoc, pokud rozhovor směřuje k tématům duševního zdraví či sebepoškozování.

Je však důležité zdůraznit, že všechny tyto funkce jsou dobrovolné a uživatelé si je mohou aktivovat podle vlastního uvážení. Mnozí uživatelé navíc mohou mít více účtů, což představuje určitá „zadní vrátka“ v bezpečnostním systému. Podobnou problematiku jsme už řešili i v článku Varování amerických státních zástupců: Bezpečnost a psychická rizika AI chatovacích modelů.

Vlastní pohled a dopady na neziskový sektor

Iniciativa OpenAI představuje významný krok vpřed v oblasti bezpečného používání umělé inteligence, zejména pokud jde o psychické zdraví uživatelů. Pro neziskové organizace a poradenská centra, která se věnují duševnímu zdraví, může takový nástroj představovat novou cestu, jak včas zasáhnout a poskytnout podporu potřebným lidem. Funkce Trusted Contact tak ukazuje, jak může AI spolupracovat s lidským faktorem a sociální sítí uživatele, místo aby působila izolovaně.

V budoucnosti je žádoucí, aby podobné technologie byly ještě více propojeny s kvalifikovanou odbornou pomocí, čímž by se zlepšila prevence sebevražd a dalších krizových stavů. Současně je nezbytné pokračovat v debatě o regulaci a etice AI, aby se předešlo zneužití a aby systémy neškodily uživatelům, zvláště těm nejzranitelnějším.

OpenAI uvádí, že budou pokračovat ve spolupráci s klinickými odborníky, výzkumníky a zákonodárci, aby zlepšili reakce AI systémů v momentech, kdy lidé prožívají obtíže.

Z praktického hlediska je tato novinka dobrou zprávou i pro uživatele jakýchkoliv AI nástrojů, kteří se obávají, že by v obtížných chvílích mohli zůstat bez pomoci. Důvěryhodný kontakt totiž může sehrát roli mostu, který propojí digitální svět s reálnou podporou a péčí.

Zároveň je ale třeba brát v potaz, že technologie nejsou všemocné a ani ta nejlepší AI nedokáže nahradit lidský kontakt, empatii a odbornou pomoc. Proto by měla být tato opatření vnímána jako doplňkový nástroj v široké síti péče o duševní zdraví.

Pro neziskové organizace a poradny se tak otevírá prostor pro integraci AI do vlastní praxe – například formou zapojení do bezpečnostních systémů nebo využití AI pro lepší analýzu potřeb uživatelů. Více o využití AI v neziskovém sektoru najdete v našem článku Jak umělá inteligence mění neziskový sektor: příležitosti, výzvy a dopady.

Závěrem lze říci, že bezpečnostní opatření jako Trusted Contact posouvají hranice zodpovědného využívání AI směrem k více lidskému a citlivému přístupu. Jsou to signály, že velké AI společnosti se učí reflektovat i naše nejintimnější potřeby a obavy, a to i v digitálním světě.