Foto: Freepik

AI mění pravidla hry pro útočníky

Google prostřednictvím své skupiny Google Threat Intelligence Group zveřejnil zprávu, která ukazuje, jak rychle se umělá inteligence zabydlela i na druhé straně barikády. Ve čtvrtém čtvrtletí roku 2025 podle ní zaznamenal výrazný nárůst využívání velkých jazykových modelů při přípravě kybernetických útoků.

Nejde o futuristickou představu. Útočníci podle Google využívají AI ke zrychlení celého životního cyklu útoku. Pomáhá jim při průzkumu cíle, přípravě podvodných zpráv i při vývoji malwaru. To, co dříve vyžadovalo hodiny ruční práce, dnes zvládne model během několika minut.

Zvláštní pozornost vzbuzuje skutečnost, že mezi aktéry mají být i skupiny spojované s vládami zemí jako Severní Korea, Írán, Čína nebo Rusko. Ty podle zprávy používají jazykové modely k technickému výzkumu, výběru cílů a generování velmi přesvědčivých phishingových zpráv. Tyto zprávy dokážou napodobit tón konkrétní organizace nebo jazykové nuance dané země.

Phishing s lidskou tváří a malware na míru

Jedním z trendů je takzvaný AI asistovaný phishing. Útočníci si pomocí modelů rychle zjišťují informace o potenciálních obětech a vytvářejí personalizované zprávy, které působí autenticky. Jazyk je plynulý, bez gramatických chyb a často přesně odpovídá stylu firmy nebo instituce, za kterou se vydávají.

Google také popisuje případy, kdy útočníci zkoušeli takzvané model extraction útoky. V praxi to znamená, že legálně přistupovali k jazykovému modelu a pokoušeli se z něj získat dostatek výstupů k napodobení jeho schopností. V jednom zaznamenaném případě mělo jít o více než 100 tisíc dotazů směřujících k napodobení uvažování modelu Gemini. To představuje spíše riziko pro firmy než pro běžné uživatele, ale ukazuje to, jak systematicky někteří aktéři postupují.

Další oblastí je generování kódu. Některé skupiny podle zprávy využívají AI k analýze zranitelností a plánování jejich testování. Objevil se také phishingový nástroj maskovaný jako kryptoměnový projekt, jehož vývoj byl pravděpodobně urychlen právě generativními nástroji pro psaní kódu.

Znepokojivě působí i experimenty s malwarem, který dokáže využívat AI nástroje přímo v napadeném systému k vytváření dalších variant škodlivého kódu. Takový přístup by mohl ztížit detekci, protože malware by se dokázal průběžně upravovat.

Google zároveň upozorňuje, že potenciál generativní AI je obrovský a že průmysl potřebuje jasná bezpečnostní pravidla pro její vývoj a nasazení. Realita posledních měsíců ukazuje, že umělá inteligence se stává nejen pomocníkem, ale i zbraní. A zatímco technologické firmy investují do ochrany, útočníci si evidentně osvojili stejný nástroj. Rozdíl spočívá jen v tom, k jakému cíli jej použijí.

Zdroj: PCGamer.com (odkaz)