Meta nasazuje pokročilé AI systémy pro moderaci obsahu a snižuje závislost na externích dodavatelích

Ve světě sociálních médií je moderace obsahu klíčovou výzvou, kterou musí velké platformy neustále zlepšovat. Meta, mateřská společnost Facebooku a Instagramu, nedávno oznámila nasazení pokročilých systémů umělé inteligence, které mají významně zvýšit kvalitu a efektivitu kontroly obsahu. Současně se Meta rozhodla snížit svou závislost na externích třetích stranách, které dlouhodobě pomáhaly s moderací, a více spoléhat na vlastní AI technologie.

Automatizace proti škodlivému obsahu je v dnešní době zásadní, protože platformy musí rychle odhalovat a odstraňovat příspěvky související s terorismem, zneužíváním dětí, drogami, podvody či scammy. Meta tvrdí, že nové AI systémy dokážou zachytit více porušení pravidel s větší přesností než dřívější metody, což přispívá k lepší prevenci a rychlejší reakci na aktuální situace v reálném čase.

Výhody a konkrétní výsledky nasazení AI

Podle prvních testů nové systémy detekují dvojnásobné množství nevhodného obsahu, například sexuálního obtěžování, a přitom snižují chybovost o více než 60 %. To představuje výrazné zlepšení oproti práci lidských týmů. AI navíc pomáhá odhalovat falešné účty, zejména ty, které se vydávají za celebrity nebo veřejné osobnosti, a také předchází zneužití účtů díky analýze neobvyklých přihlášení či změn hesel.

Denodenní boj s podvody je dalším polem, kde AI systémy ukazují své přednosti – Meta uvádí, že dokážou identifikovat a zastavit až 5 000 pokusů o podvod každý den. Zároveň AI pomáhá s opakovanými úkoly, jako je revize grafického obsahu, kde je potřeba rychlost a konzistence, což lidským moderátorům často znemožňuje vysoký objem práce.

Jak Meta kombinuje AI a lidský dohled

Meta zdůrazňuje, že i přes rozšíření AI nástrojů nehodlá lidské moderátory úplně nahradit. "Experti budou navrhovat, trénovat a dohlížet na AI systémy, přičemž budou rozhodovat o těch nejcitlivějších případech," uvádí společnost. Lidé tak zůstávají klíčoví zejména při řešení odvolání, deaktivaci účtů či spolupráci s orgány činnými v trestním řízení.

Tento hybridní přístup pomáhá zabránit tzv. přeaplikování pravidel, které může vést k neoprávněnému odstranění obsahu, a zároveň zvyšuje transparentnost a odpovědnost platformy. Meta také nedávno změnila své přístupy k moderaci, například ukončila spolupráci s externími faktickými kontrolory a přešla na komunitní model poznámek, což reflektuje snahu o větší zapojení uživatelů a flexibilitu pravidel.

Meta AI také představuje nový asistenční nástroj, který poskytuje uživatelům nepřetržitou podporu v aplikacích Facebook a Instagram, což dále zlepšuje zkušenost uživatelů při řešení problémů s obsahem nebo účty.

Implementace pokročilých AI systémů v oblasti moderace obsahu není jen technologickou inovací, ale také odpovědným krokem v éře, kdy se sociální média potýkají s rostoucí kritikou ohledně bezpečnosti, dezinformací a ochrany mladších uživatelů. Pro neziskové organizace i další subjekty, které se zabývají ochranou a podporou komunit, může být tento vývoj inspirací, jak využívat moderní technologie pro efektivnější a eticky zodpovědnou správu obsahu. Více o vlivu AI na neziskový sektor si můžete přečíst v našem článku Jak umělá inteligence mění neziskový sektor: příležitosti, výzvy a inspirativní příklady.

Závěrem je třeba zdůraznit, že cesta k dokonalé a spravedlivé moderaci obsahu je stále otevřená. Meta ukazuje, jak může kombinace umělé inteligence a lidského úsudku přinést významné zlepšení v ochraně uživatelů a kvalitě online prostředí. S pokračujícím rozvojem AI technologií lze očekávat další inovace, které pomohou udržet internet bezpečnějším místem pro všechny.