Bezpečnost umělé inteligence: Jak i Google řeší nové hrozby v reálném čase

Umělá inteligence (AI) zasahuje do mnoha oblastí našeho života, od běžných aplikací po složité podnikové platformy. S jejím rychlým rozvojem však narůstají i bezpečnostní rizika, která nelze podceňovat. Jak upozorňuje Francis de Souza, provozní ředitel Google Cloud, i taková technologická jednička jako Google prochází obdobím, kdy testuje a vyvíjí nové bezpečnostní postupy v reálném čase, aby dokázala čelit novým hrozbám spojeným s AI.

De Souza zdůrazňuje, že bezpečnost nesmí být až dodatečným krokem – musí být součástí AI strategie od samého začátku. Firmy by měly přijmout platformní přístup, který integruje bezpečnost a řízení dat jako neoddělitelnou součást celé AI infrastruktury. Tento přístup je klíčový zejména v době, kdy zaměstnanci často používají takzvané „shadow AI“ – externí AI nástroje bez vědomí IT oddělení, což výrazně zvyšuje riziko úniku dat a zneužití technologií.

Výzvy moderní bezpečnosti AI

Bezpečnostní prostředí se v éře AI dramaticky změnilo. Tradiční modely obrany nestačí, protože doba mezi prvním průnikem a dalším krokem útoku se zkrátila z hodin na sekundy. „Útoky se nyní šíří rychlostí strojů a je nutné, aby i obrana byla schopná reagovat stejnou rychlostí,“ říká de Souza. To zahrnuje ochranu nejen klasických IT systémů, ale i modelů AI, datových toků a interakcí s AI agenty.

Dalším problémem jsou zapomenuté datové zdroje uvnitř firem, například staré SharePoint servery nebo neudržované přístupové kontroly, které mohou být pomocí AI agentů odhaleny a zneužity. Tento fenomén ukazuje, že organizace musí mít přehled o všech svých datech a systémech, nejen o těch zjevně aktivních.

Praktické příklady a zkušenosti z Google Cloud

Reálné případy ze světa ilustrují, jak rychle a nečekaně mohou nastat bezpečnostní incidenty. Vývojáři Google Cloud například čelili nečekaně vysokým nákladům poté, co jejich API klíče byly zneužity k neoprávněnému přístupu k AI modelům Gemini. Útočníci využili „automatické navýšení limitů“ účtů, které Google zavedl pro zamezení výpadků služeb, ale které zároveň umožnily překročení původních rozpočtů bez vědomí uživatelů. Tento případ upozorňuje na nutnost pečlivého řízení přístupových práv a transparentnosti v účtování služeb AI.

Kromě toho zjistila bezpečnostní firma Aikido, že i po okamžitém zablokování kompromitovaného API klíče může útočník službu využívat ještě několik minut, což představuje kritickou chvíli pro ochranu dat a bezpečnostní reakci. Tento fakt naznačuje, že inovace v automatizované bezpečnosti jsou nezbytné, aby se incidenty minimalizovaly.

Google tak aktuálně sází na AI-nativní obranné systémy, které jsou schopné operovat autonomně a v reálném čase, čímž se posouvá od tradičních lidsky řízených procesů ke komplexní automatizaci bezpečnostních opatření. Nicméně, jak upozorňuje de Souza, bezpečnostní otázky už nejsou pouze technickou záležitostí – jsou to otázky, které musí být řešeny na úrovni představenstva a vedení firem.

Výzvou zůstává i nedostatek kvalifikovaných odborníků na bezpečnost AI, kteří by dokázali monitorovat, vyhodnocovat a předcházet novým hrozbám. Jak podotýká Lea Kissner z LinkedIn, průmysl bude v nejbližších letech čelit tzv. „bug-pokalypsě“ – rychlému nárůstu zranitelností, které bude třeba adresovat.

Co může neziskový sektor a další organizace z této situace vzít?

Bezpečnost AI by měla být prioritou nejen pro velké technologické společnosti, ale i pro neziskové organizace, firmy i veřejné instituce, které AI nasazují. Jak umělá inteligence mění neziskový sektor a pomáhá například v sociálních službách, je známo, ale bezpečnostní aspekty těchto technologií by neměly být opomíjeny.

Organizace by měly aktivně vytvářet datové a bezpečnostní strategie paralelně s AI plány, vzdělávat své týmy o souvisejících rizicích a nasazovat moderní nástroje pro řízení přístupů a auditování činností v AI systémech. Klíčové je také sledovat trendy v oboru a spolupracovat s odborníky na kybernetickou bezpečnost a AI bezpečnost, aby se minimalizovala rizika zneužití a úniků dat.

Bezpečnost v AI světě není otázkou technické vybavenosti pouze jedné firmy, ale otázkou celého ekosystému, ve kterém jednotliví hráči spolupracují a sdílejí zkušenosti. Příklady z Google nám ukazují, že i největší firmy musejí stále hledat nové cesty, jak efektivně čelit hrozbám. V tomto ohledu je otevřenost, transparentnost a rychlá adaptace nezbytností pro bezpečnou budoucnost AI.

Ve světě, který je stále více poháněný AI, jde o to, abychom bezpečnostní opatření integrovali tak, aby byly stejně rychlé a chytré jako samotné AI technologie – a to platí pro všechny bez výjimky.

Pokud vás zajímá více o trendech v oblasti bezpečnosti AI nebo chcete být informováni o nejnovějších nástrojích a postupech, doporučujeme sledovat aktuality na AI4NGO.cz, kde pravidelně přinášíme relevantní analýzy a inspirativní příklady z praxe.

V závěru tedy platí, že bezpečnost AI je cesta, kterou kráčíme společně, a je důležité ji nepodceňovat, aby technologie sloužily lidem bezpečně a efektivně.