Proč Deloitte sází na umělou inteligenci i přes problémy s kvalitou zpráv

Umělá inteligence (AI) patří mezi nejrychleji se rozvíjející technologie současnosti, která výrazně mění způsob práce ve firmách i neziskových organizacích. Příkladem je Deloitte, globální poradenská společnost, která nasadila AI systém Anthropic Claude do práce pro všech 500 000 svých zaměstnanců. I přes tento masivní krok však čelila významnému problému: australská vláda požadovala vrácení peněz za zprávu, kterou vytvořila právě tato AI, protože obsahovala smyšlené citace a nepřesnosti. Tento paradox odhaluje současnou realitu využívání umělé inteligence v praxi – firmy chtějí AI rychle zavádět, ale ještě se učí, jak pracovat s jejím rizikem a nedokonalostmi.

AI v podnikovém světě: mezi nadšením a riziky

Deloitte není jedinou firmou, která do AI investuje obrovské prostředky a ve velkém ji nasazuje do svých interních procesů. AI může pomoci zefektivnit rutinní úkoly, automatizovat tvorbu analýz nebo zlepšit zákaznický servis, jak ukazují i další případy např. Zendesk, který tvrdí, že jejich AI systémy zvládají samostatně až 80 % zákaznických požadavků. Avšak právě u tvorby komplexních dokumentů a zpráv často dochází k tzv. „halucinacím“ AI, tedy k generování nepravdivých, smyšlených nebo nepřesných informací. Takové chyby mohou mít závažné důsledky, zvláště pokud jsou AI výstupy využívány pro rozhodování na úrovni státní správy nebo velkých korporací.

Případ Deloitte a australské vlády tak slouží jako varování: AI je mocný nástroj, ale je potřeba ji používat s rozvahou a dostatečně kontrolovat. Jde o důležitou lekci nejen pro velké korporace, ale i pro neziskový sektor, který AI začíná využívat pro lepší správu projektů, fundraising nebo cílenou pomoc komunitám. Více o praktickém využití AI v neziskovkách najdete například v našem článku Jak umělá inteligence mění neziskový sektor: příležitosti, výzvy a inspirativní příklady.

Jak se připravit na zodpovědné využívání AI?

Firmy i organizace, které chtějí AI integrovat do svých procesů, by měly klást důraz nejen na rychlost zavádění, ale také na kvalitu a bezpečnost AI výstupů. To znamená mít jasná pravidla pro ověřování výsledků, využívat AI nástroje jako podpůrné a nikoliv rozhodující, a školit zaměstnance v porozumění možnostem i omezením AI.

Regulace a etika jsou další klíčové aspekty, jež doprovází rozvoj AI technologií. Například Kalifornie již přijala zákon regulující AI chatovací společníky, aby ochránila zranitelné uživatele a děti. V Evropě se připravuje EU AI Act, který stanoví pravidla pro bezpečné a odpovědné nasazení AI. Tyto legislativní kroky jsou důležité i pro neziskové organizace, které chtějí AI využívat transparentně a s ohledem na etické standardy.

V konečném důsledku je třeba chápat AI jako silný nástroj s potenciálem výrazně zlepšit efektivitu a kvalitu práce, ale také s riziky, která je nutné aktivně řídit. Deloitte i další velké firmy nyní předvádějí, že cesta k plnému využití AI je spíše maraton než sprint, a že úspěch přinese kombinace inovací, zodpovědnosti a neustálého učení se z chyb.

Budoucnost AI v byznysu a neziskovém sektoru tak bude záviset na schopnosti organizací vytvářet prostředí, kde technologie pomáhají, ale zároveň jsou jasně kontrolovány a doplněny lidským dohledem. To je klíč k tomu, aby AI mohla přinášet skutečnou hodnotu a zároveň minimalizovat negativní dopady chybných či nepřesných výstupů.

Výzvou následujícího období bude proto nejen investovat do špičkových AI technologií, ale i do jejich správného nasazení, regulace a vzdělávání uživatelů – to platí pro podniky i neziskový sektor stejně.

Více o tom, jak AI posouvá hranice inovací a jak se připravit na její zodpovědné využití, najdete v dalších článcích na AI4NGO.cz.