Umělá inteligence v rukou zla. Teroristé objevili její tajemství, tajné služby ztrácejí náskok

Ilustrační foto
Ilustrační foto, foto: Pixabay
Klára Marková 8. července 2025 20:14
Sdílej:

Teroristické skupiny stále častěji využívají umělou inteligenci (AI) k posílení své propagandy, náboru nových členů, šíření návodů na výrobu zbraní a zajišťování financí, čímž značně komplikují práci bezpečnostních složek. Podle expertů zpravodajské agentury po celém světě čelí situaci, kdy AI přestává být jen potenciální hrozbou budoucnosti – už nyní se stává mocným nástrojem v rukou extremistů.

Již dříve využívaly skupiny jako Islámský stát (IS), al-Káida nebo krajně pravicová organizace The Base digitální platformy k náboru, šifrované komunikaci či financování přes kryptoměny. Teď se k jejich arzenálu přidává i generativní umělá inteligence – a bezpečnostní služby se obávají, že tím získávají ještě větší efektivitu.

„Naše výzkumy předpověděly to, co teď pozorujeme: teroristé využívají AI k urychlení stávajících aktivit,“ říká Adam Hadley z iniciativy Tech Against Terrorism, podporované OSN. Dodává, že největší hrozbou není vznik nových způsobů útoků, ale posílení propagandy, komunikace a dostupnosti nebezpečných informací.

Například stoupenci IS již podle expertů používají ChatGPT k převodu textových prohlášení na audioverze či k tvorbě profesionálně vypadajících obrázkových sad propagandy. Ve své poslední digitální publikaci IS popisuje AI jako „sílu, která formuje válku“, a vyzývá své příznivce, aby její potenciál plně využili.

„AI není jen technologie. Je to síla, která mění charakter konfliktu,“ stojí v jednom z článků jejich online časopisu. Umělá inteligence má podle nich sloužit jako „digitální poradce“ či „výzkumný asistent“.

Na šifrovaných komunikačních kanálech, které IS využívá, probíhají diskuse o možnostech použití AI například pro tvorbu plánů výbušnin. Jeden z uživatelů se například ptal, zda je bezpečné požádat ChatGPT o návod na výrobu bomby. Jiný navrhl „bezpečnější“ cestu – získat plán na dálkově ovládané vozidlo, přičemž jako zdroj uvedl právě ChatGPT. Právě útoky vozidly patří k oblíbeným metodám IS v posledních letech.

V březnu také jeden z účtů napojených na IS sdílel video s návodem na výrobu bomby s pomocí AI – včetně avatara, který vysvětloval, jak použít běžné domácí potřeby.

Podobné využití AI ale není výlučně doménou džihádistů. Krajně pravicové skupiny využívají AI k výrobě dezinformačních memů, grafiky s Adolfem Hitlerem nebo zefektivnění propagandy. Některé nástroje, jako hlasové modulátory nebo šifrovací aplikace, pak napomáhají ke zlepšení tzv. „operational security“, tedy bezpečnosti komunikace a operací.

Využívání digitálních nástrojů není pro IS žádnou novinkou. V roce 2014 organizace během útoku na Mosul šokovala svět tím, že na Twitteru v reálném čase sdílela fotografie a zprávy z masových poprav více než 1 000 mužů. Následovalo rozsáhlé digitální tažení západních vlád i technologických gigantů za likvidaci účtů IS na sociálních sítích.

Od té doby se pozornost přesunula na kryptoměny, šifrované chaty a weby s návody na 3D tisk zbraní. Dnes je centrem zájmu právě umělá inteligence.

„AI posiluje jejich schopnosti, především v oblasti propagandy, šíření obsahu a maskování,“ říká Moustafa Ayad z Institutu pro strategický dialog. „Je to další fáze digitalizace jejich činnosti.“

Současně s růstem hrozby dochází ke snižování prostředků na boj proti terorismu. Například ve Spojených státech byly nedávno oznámeny škrty ve financování protiteroristických programů, což podle expertů výrazně oslabuje reakceschopnost.

„Naší největší zranitelností není AI jako taková, ale úpadek schopností bránit se stávajícím hrozbám,“ varuje Hadley. Kritizuje také technologické platformy a vlády za to, že se přestaly soustředit na boj proti terorismu v online prostoru.

Hadley vyzývá společnosti jako Meta nebo OpenAI, aby zesílily stávající mechanismy – jako je sdílení dat o škodlivém obsahu nebo tradiční formy detekce – a vytvořily nové způsoby moderace obsahu generovaného AI.

Tato nová fáze digitálního terorismu ukazuje, že technologický pokrok nemusí být vždy spojencem bezpečnosti – v rukou radikalizovaných skupin může být i hrozbou s globálním dopadem.

Stalo se