Datumo: Jižanský startup, který mění pravidla bezpečnosti a hodnocení AI modelů

Ve světě, kde umělá inteligence (AI) získává stále větší prostor, roste i potřeba bezpečného a odpovědného využívání těchto technologií. Podle nedávné zprávy McKinsey není většina organizací dostatečně připravena na bezpečné nasazení generativní AI, přičemž jedním z největších problémů je vysvětlitelnost rozhodnutí AI. Mnoho firem si uvědomuje rizika, ale jen malá část z nich je aktivně řeší.

V tomto kontextu přichází na scénu jihokorejský startup Datumo, který začínal jako společnost zaměřená na označování dat pro AI. Dnes však nabízí komplexní nástroje a datasetové služby, které umožňují firmám testovat, monitorovat a zlepšovat jejich AI modely bez nutnosti hlubokých technických znalostí. Tento přístup přináší dostupnost a přehlednost v oblasti, která je klíčová pro bezpečný rozvoj AI technologií.

Jak Datumo změnilo přístup k označování dat a hodnocení AI

Zakladatel Datumo, David Kim, původně čelil problému časově náročného označování dat, klíčové fáze při vývoji AI. Jeho inovativní řešení spočívalo v aplikaci založené na odměnách, která umožnila komukoliv označovat data ve volném čase a za to být finančně odměněn. Tento model nejen zrychlil proces, ale také otevřel dveře širšímu zapojení komunity.

Úspěch přišel rychle: ještě před dokončením aplikace startup získal první zákazníky, především z řad absolventů prestižního KAIST. Mezi klienty nyní patří velké korejské firmy jako Samsung, LG, Hyundai nebo SK Telecom. V posledních letech však Datumo reagovalo na poptávku po hlubších službách – například hodnocení výstupů AI modelů a jejich porovnání, čímž se plně etablovalo v oblasti bezpečnosti a důvěryhodnosti AI.

Inovace a konkurenceschopnost na globálním trhu AI dat

Datumo se svou platformou Datumo Eval přináší na trh první korejský benchmark zaměřený na bezpečnost a důvěru v AI. Tento nástroj automaticky generuje testovací data a vyhodnocuje modely z hlediska nebezpečných, zaujatých či nesprávných odpovědí, a to bez nutnosti programování. Tento přístup výrazně usnadňuje práci týmům odpovědným za dodržování pravidel, bezpečnost a etiku v rámci firem.

Investice ve výši 15,5 milionu dolarů, kterou Datumo nedávno získalo od významných investorů včetně Salesforce Ventures, umožní startupu zrychlit výzkum a vývoj, zejména v oblasti automatizovaného hodnocení AI pro podniky, a rozšířit svůj dosah na mezinárodních trzích jako jsou Japonsko a USA. Zároveň otevřelo kancelář v Silicon Valley, čímž potvrzuje svou ambici stát se globálním hráčem.

V kontextu nedávné mega investice Meta do konkurenční Scale AI, která zvýraznila důležitost trhu s daty pro AI, a zároveň poté, co OpenAI přestalo Scale AI využívat, ukazuje Datumo, že i menší a specializované společnosti mohou inovovat a konkurovat i velkým korporacím. Jejich unikátní zaměření na čištění komplexních datových sad, například z publikovaných knih, přináší novou kvalitu do předtrénovacích dat.

Datumo je tak příkladem startupu, který nejenže reaguje na současné potřeby trhu, ale zároveň posouvá hranice možného v oblasti bezpečnosti AI a jejího hodnocení. Pro neziskové organizace, které stále častěji využívají AI nástroje, může být inspirací, jak efektivně a zodpovědně integrovat AI do své práce, aniž by podcenily rizika a komplexnost těchto technologií.

Závěrem lze říci, že bezpečnost a důvěryhodnost AI modelů budou čím dál tím důležitější, a společnosti jako Datumo jsou klíčovými hráči, kteří pomáhají tuto výzvu zvládat. S rostoucí dostupností nástrojů pro testování a monitoring AI se můžeme těšit na rozvoj odpovědnějších a bezpečnějších AI systémů v různých sektorech, včetně neziskového.