Jak čínská kybernetická skupina využívala AI k masovým podvodům: Google podal žalobu

V dnešní době, kdy se umělá inteligence stává všudypřítomnou technologií, se bohužel zároveň rozšiřují i nové formy kybernetické kriminality. Příkladem je čínská skupina nazvaná Outsider Enterprise, kterou Google obvinil z masivních podvodných aktivit využívajících právě AI. Tato skupina zneužívala sofistikované technologie k oklamání stovek tisíc lidí a způsobila škody v řádu milionů dolarů.

Podle Google skupina vyslala během pouhých dvou týdnů 2,5 milionu textových zpráv na mobilní telefony uživatelů Androidu. Tyto zprávy se tvářily jako oficiální komunikace od Googlu nebo jiných známých značek, což mělo za cíl přimět oběti k zadání citlivých údajů, jako jsou hesla a čísla platebních karet. Pro zajištění co největšího dopadu využívali kyberzločinci až 9 000 falešných webových stránek a přes milion domén, které imitovaly legitimní služby a instituce.

Výzvy v boji proti AI-poháněným podvodům

Tento případ zdůrazňuje, jak umělá inteligence mění podobu kybernetických hrozeb. Skupina Outsider Enterprise nabízela jednoduchý software, který díky AI uměl během minut vytvořit realistické falešné weby s více než 290 šablonami napodobujícími známé značky. Tato služba byla dostupná za cenu 88 dolarů týdně, což umožnilo i technicky méně zdatným zločincům spustit sofistikované phishingové kampaně. Přes platformu také probíhala koordinace mezi členy skupiny na otevřených kanálech Telegramu, kde si předávali návody, školili se a vylepšovali taktiky útoků.

Google ve svém boji využívá vlastní AI nástroje, které dokážou detekovat podvodné zprávy a upozornit uživatele na podezřelé hovory či SMS. Díky těmto opatřením zachytí Google měsíčně přes 10 miliard podvodných zpráv. Firma také spolupracuje s hlavními americkými telekomunikačními operátory a FBI na blokaci škodlivých domén a infrastruktuře, která podporuje tuto kriminální činnost.

Konkrétní dopady a širší kontext kybernetické bezpečnosti

Podle FBI umožnila platforma Outsider Enterprise od července 2023 odcizení nejméně 3,87 milionu platebních karet po celém světě s odhadovanými škodami ve výši 1,9 miliardy dolarů. Kyberzločinci nejenže kradli data, ale také je následně prodávali a prali získané peníze prostřednictvím různých mechanismů. Google proto v žalobě obvinil členy skupiny z porušování autorských práv, podvodů a dalších trestných činů a usiluje o zastavení jejich činnosti a náhradu škody.

Tato kauza není ojedinělá, ale ilustruje obecné trendy v oblasti kybernetické bezpečnosti, kdy AI může být zneužita k vytváření stále sofistikovanějších podvodů. Stejně tak je ale AI používána i k obraně, například při monitorování a blokaci nebezpečných aktivit online. Pro neziskové organizace a další subjekty přináší tyto trendy nutnost zvyšovat povědomí o bezpečnosti a zavádět nové technologie a postupy pro ochranu uživatelů.

Je důležité, aby uživatelé byli obezřetní při otevírání nevyžádaných zpráv a zadávání osobních údajů na internetu. Zároveň musí společnosti jako Google, ale i státní instituce, pokračovat v inovacích v oblasti kybernetické bezpečnosti a legislativních opatření, které dokážou čelit novým hrozbám, jež umělá inteligence přináší.

Google a další technologičtí giganti tak ukazují, že boj proti zneužívání AI není jen otázkou technologií, ale i spolupráce mezi soukromým a veřejným sektorem. Pro neziskové organizace to zároveň znamená, že musí být připraveny na rychlé změny v digitálním prostředí a využívat AI eticky a bezpečně, aby pomáhaly svým komunitám efektivně a zároveň je chránily před riziky kybernetických útoků.

Více o bezpečnosti umělé inteligence a jejím dopadu na společnost najdete například v našem článku Jak AI bojuje proti zneužívání: Inovativní přístupy k bezpečnosti a zodpovědnému nasazení.

Závěrem lze říci, že umělá inteligence je mocným nástrojem, který může sloužit jak k dobru, tak k poškození. Odpovědný přístup, informovanost a technologická připravenost jsou klíče k tomu, aby přínosy AI převážily její rizika.