Anthropic a vodotisky v AI: Jak Claude odhaluje generovaný obsah a co to znamená

V době, kdy umělá inteligence hraje stále důležitější roli ve společnosti, roste i potřeba rozlišovat mezi lidsky vytvořeným obsahem a tím generovaným stroji. Společnost Anthropic, tvůrce AI chatbota Claude, nedávno zveřejnila podrobnosti o novém systému označování – tzv. "vodotisku" – který má za cíl transparentně označit texty vytvořené jejich modelem. Tento krok je odpovědí na evropský zákon o umělé inteligenci (EU AI Act), který požaduje větší průhlednost a možnost identifikace AI generovaného obsahu.

Ačkoliv tato novinka vyvolala smíšené reakce mezi uživateli, s debatami na Redditu či X, Anthropic zdůrazňuje, že vodotisk nemá vliv na kvalitu generovaného textu. Pro běžného čtenáře je totiž text nerozeznatelný od běžného lidského psaní. Podstata vodotisku spočívá v tom, že AI při generování textu provádí "nízkorozhodovací volby" (například mezi synonymy) tak, aby vytvořila vzor, který není viditelný pro oko, ale lze jej za pomoci speciálního klíče detekovat.

Jak funguje vodotisk AI textu?

Technologie, kterou Anthropic využívá, vychází z metody SynthID-Text, vyvinuté týmem Google DeepMind. Tato metoda umožňuje zakódovat do textu určitý „otisk“, který zůstává skrytý, pokud text čteme běžným způsobem, ale je čitelný pro detekční nástroje. Firma plánuje také zpřístupnit API pro detekci takto označených textů, což usnadní kontrolu obsahu na platformách i ve firmách.

Je důležité zmínit, že tento způsob označování se liší od současných detektorů AI textu, které se snaží najít charakteristické „známky“ ve stylu psaní nebo gramatice. Vodotisk je naopak zakódován přímo ve výběru slov a jejich vzorcích, což je mnohem spolehlivější a méně náchylné k chybám.

Co se stane, když text upravíme?

Jednou z nejčastějších otázek je, zda je možné vodotisk obejít úpravou textu. Anthropic přiznává, že lehké úpravy, jako jsou drobné změny slov, pravděpodobně nezruší celý vodotisk. Avšak kompletní přeformulování textu, kdy jsou nahrazena téměř všechna slova, už může vodotisk odstranit. V takovém případě lze však diskutovat o tom, zda text stále odpovídá původnímu AI generovanému obsahu.

Dále je zajímavé, že pokud Claude text pouze lehce upravuje nebo koriguje, například při kontrole pravopisu či stylu, vodotisk může být méně výrazný nebo dokonce zcela chybět, protože většina slov je pak původem lidská. To má významný dopad na praxi, kdy AI slouží spíše jako pomocník než primární autor.

U kódu je situace trochu jiná. Jelikož programovací jazyk často vyžaduje přesné a funkční konstrukce, možnosti pro „volné“ změny slov jsou omezené. Proto bude vodotisk v kódu méně výrazný a bude se spíš objevovat v komentářích nebo nepodstatných částech kódu. Výsledný kód pak zůstává plně funkční a vodotisk neovlivní jeho kvalitu nebo spolehlivost.

Vodotiskování textu AI je tak krokem k větší transparentnosti a důvěře ve svět, kde AI obsah hraje rostoucí roli. Pro neziskové organizace a instituce, které pracují s AI, to znamená nové možnosti ověřování pravosti a původu informací. Tento systém navíc spolu s dalšími technologiemi může přispět k boji proti dezinformacím a nepravdivému obsahu šířenému pomocí AI.

Podobné iniciativy v oblasti regulace a transparentnosti AI jsme sledovali i v souvislosti s Evropským zákonem o umělé inteligenci, který stanovuje jasná pravidla pro nasazení AI technologií v EU (Evropský zákon o umělé inteligenci (EU AI Act)).

Vize Anthropic ukazuje, že transparentnost nemusí jít na úkor kvality ani uživatelského zážitku. Vodotisk zůstává skrytý a neovlivňuje produkovaný obsah, což je důležité i pro vývojáře, kteří chtějí AI bezpečně a zodpovědně integrovat do svých aplikací. Jde tak o jeden z průkopnických kroků v regulaci AI, který může sloužit jako model i pro další hráče v odvětví.

Na závěr je třeba zmínit, že Anthropic není jediným vývojářem, který plánuje zavést podobné technologie. Další velcí hráči na trhu, včetně těch z oblasti open source AI, se zavazují k dodržování etických standardů a implementaci vlastních verzí vodotisku. Transparentnost a odpovědnost se tak stávají novými pilíři rozvoje umělé inteligence, což je velmi pozitivní trend i pro neziskové organizace, které potřebují důvěryhodné a ověřitelné nástroje.