Startup Pangram bojuje s přívalem AI obsahu: získal 9 milionů dolarů na detekci generovaného textu a obrázků

S rozvojem umělé inteligence a nástupem nástrojů jako ChatGPT se na internet dostává obrovské množství textů a obrázků vytvořených stroji. Tento nárůst přináší řadu výzev, zejména pokud jde o rozlišení mezi lidským a AI generovaným obsahem. Startup Pangram ze Spojených států se rozhodl této problematice věnovat a nedávno získal 9 milionů dolarů na rozšíření svých technologií pro detekci AI obsahu.

Zakladatelé společnosti, absolventi Stanfordu Max Spero a Bradley Emi, vyvinuli model Pangram 4, který dokáže s přesností přesahující 99 % identifikovat texty vytvořené či upravené pomocí umělé inteligence. Kromě toho startup testuje také model pro detekci AI generovaných obrázků, který je unikátní svou schopností odhalovat obrázky vytvořené různými AI modely na základě analýzy pixelových vzorců, nikoli pouze pomocí vodoznaků specifických pro jednotlivé platformy.

Jak Pangram detekuje AI obsah a proč je to důležité

Pangram využívá strojové učení trénované na desítkách milionů lidských dokumentů v páru s jejich „syntetickými zrcadly“, tedy texty napsanými AI se stejným tématem, délkou a stylem. Tímto způsobem model získává citlivost na stylistické nuance a vzorce typické pro AI generovaný obsah. Technologie nezávisí na metadatech nebo vodoznacích, což ji činí robustní proti pokusům o maskování původu textů.

Detekce AI obsahu má klíčový význam nejen pro média a akademickou sféru, kde je důvěryhodnost zdrojů zásadní, ale i pro boj proti dezinformacím a manipulacím, které mohou být šířeny prostřednictvím automaticky generovaného obsahu. Příkladem negativních dopadů je třeba situace, kdy politici nebo právníci používají AI generované texty bez dostatečné kontroly a odhalení, což může vést k ztrátě důvěry nebo dokonce právním postihům.

Praktické využití a integrace do platforem

Pangram nabízí své služby formou předplatného za 20 dolarů měsíčně a také prostřednictvím rozšíření pro prohlížeč Chrome, které automaticky označuje příspěvky na sociálních sítích jako X (dříve Twitter), LinkedIn, Reddit nebo Medium v reálném čase. Navíc poskytuje rozhraní API, které využívají platformy jako Substack, kde čtenáři mohou vidět, kteří autoři používají při tvorbě newsletterů AI pomocníka. Dalšími zákazníky jsou vzdělávací instituce, vydavatelé či náborové agentury.

V testech si Pangram vedl velmi dobře – dokázal spolehlivě odhalit kompletně AI generované texty i ty, které byly pouze částečně upraveny člověkem. I při snaze texty upravit tak, aby zněly lidsky, byl model schopný rozpoznat jemné rozdíly. U obrazové detekce pak dokázal identifikovat i AI obrázky vložené do reálných fotografií, což je velký krok vpřed proti dosavadním metodám založeným na jednoduchých vodoznacích.

„Budoucnost vidím v tom, že AI obsah bude stále více přibývat,“ říká Max Spero, „pokud nebudeme aktivně preferovat lidský obsah, AI ho postupně utopí a ztratíme cenný lidský signál.“ Tento výrok podtrhuje důležitost existence nástrojů, které pomohou udržet rovnováhu mezi kvalitou a kvantitou obsahu na internetu.

V kontextu neziskového sektoru a vzdělávání, kde je transparentnost a pravdivost informací zásadní, představuje technologie jako Pangram významný přínos. Umělá inteligence zde pomáhá nejen s tvorbou obsahu, ale i s jeho ověřováním, což umožňuje lepší rozhodování a vyšší důvěru v digitální prostředí. Více o tom, jak AI mění neziskový sektor, najdete v našem článku Jak umělá inteligence mění neziskový sektor: příležitosti, výzvy a praktické příklady.

Vývoj a investice do detekčních nástrojů jako Pangram ukazují, že společnost začíná klást větší důraz na zodpovědné používání AI. Regulace a standardy, například v akademické sféře (archiv arXiv zavádí sankce za nepřezkoumání AI výstupů), demonstrují rostoucí potřebu transparentnosti. Zároveň však Pangram zdůrazňuje, že AI asistence může být přijatelná, pokud je správně označena a uživatel s ní pracuje odpovědně.

Závěrem lze říci, že startupy jako Pangram představují nezbytnou protiváhu masivnímu nárůstu AI generovaného obsahu. Jejich technologie pomáhají udržovat kvalitu digitálního prostoru a chrání integritu informací, což je klíčové pro všechny, kdo pracují s daty, médii nebo vzděláváním v éře umělé inteligence.

Budoucnost digitálního světa bude stále více ovlivněna tím, jak dobře dokážeme odlišit a pracovat s obsahem vytvořeným lidmi a stroji. V tomto ohledu investice do vývoje detekčních technologií nejsou jen byznysovou příležitostí, ale i sociální nutností.