ChatGPT jako vějička: Jak útočníci zneužívají známé AI nástroje

Rozvoj AI po celém světě je pro kyberútočníky příležitost, kterou si v žádném případě nenechají utéct. Už nyní vidíme, že tyto technologie mohou být zneužité k tomu, aby pomohly podvodníkům vytvářet přesvědčivé phishingové zprávy, produkovat škodlivý kód nebo sondovat zranitelnosti.

Zatím se ale příliš nemluví o tom, že AI slouží i jako návnada nebo jako trojský kůň, ve kterém se malware skrývá. Loni naši kolegové popsali kampaň na Facebooku, která vyzývala uživatele, aby vyzkoušeli poslední verzi legitimní aplikace Bard (AI společnosti Google). Místo nového AI nástroje si ale stáhli škodlivý adware, který jim zamořil prohlížeč reklamou.

Takové kampaně jsou příkladem znepokojivého trendu. Doposud útočníci zneužívali k podvodům jména bank nebo různé spediční společnosti. Bohužel, pokud lidé vidí logo jim známé značky, často přehlédnou další varovné signály. Pojďme se podívat, jak podvod poznat a ochránit si tak data.

Jak útočníci zneužívají AI k nalákání obětí?

Kyberzločinci používají různé způsoby, jak vás nalákat k instalaci malwaru, který se vydává za legitimní AI aplikace. Patří mezi ně:

Phishingové stránky

Ve druhé polovině roku 2023 naše programy zablokovaly přes 650 000 pokusů o přístup na škodlivé domény obsahující slova jako „chapgpt“. Oběti se na tyto stránky nejčastěji dostanou po kliknutí na odkaz na sociálních sítích nebo prostřednictvím e-mailu nebo SMS zprávy. Některé z těchto phishingových stránek obsahovaly odkazy na instalaci malwaru, který se vydává za různé AI aplikace.

Rozšíření prohlížeče

Na konci loňského roku jsme zaznamenali obrovský nárůst detekcí škodlivého rozšíření prohlížeče. Jde o malý prográmek, který si uživatelé instalují přímo do prohlížeče, aby měli rychlý přístup k nějaké službě – například e-mailu nebo password manageru.

V tomto případě lákaly k jeho stažení reklamy na Facebooku a slibovaly přístup na oficiální webové stránky OpenAI’s Sora nebo Google’s Gemini. Přestože se toto rozšíření vydávalo za Google Translate, ve skutečnosti šlo o infostealer známý jako „Rilide Stealer V4.“ Tento typ malware slouží k odcizení uživatelských přihlašovacích údajů k Facebooku.

Od loňského července jsme zachytili 4 000 pokusů o stažení jen tohoto konkrétního rozšíření.

Falešné aplikace

Setkat se lze také s falešnými aplikacemi, které se vydávají za známé AI nástroje. Objevují se zejména v obchodech s mobilními aplikacemi. Mnohé z těchto aplikací obsahují malware určený ke krádeži citlivých informací ze zařízení, typicky se útočníci zajímají o přihlašovací údaje, osobní identifikační údaje, finanční informace a další.

Další jsou scamy, které mají podvodníkům vydělat tím, že slibují pokročilé funkce umělé inteligence za poplatek. Po stažení mohou uživatele bombardovat reklamami, požadovat další nákupy v aplikaci nebo předplatné za služby, které buď neexistují nebo jsou velmi nekvalitní.

Podvodné reklamy

Zločinci využívají popularitu AI nástrojů k nalákání uživatelů na kliknutí na škodlivé reklamy. Takováto inzerce (malvertising) je obzvláště na Facebooku rozšířená. Meta varovala, že mnoho z těchto kampaní je navrženo ke kompromitaci „firem s přístupem k reklamním účtům na internetu.“

Útočníci se zmocní legitimního účtu nebo stránky, změní informace v profilu tak, aby vypadal jako autentický ChatGPT nebo jiný známý AI nástroj, a poté účty použijí ke spuštění falešných reklam.

Jaké triky používají útočníci?

Kyberútočníci nejčastěji pracují s našimi emocemi, využívají k tomu metody sociálního inženýrství. Nejčastěji v nás chtějí vyvolat strach, radost z výhry nebo chamtivost. Častým trikem je dostat uživatele do časového presu, například omezením nabídky na určitý počet stažení. To proto, abyste se nestihli v klidu zamyslet (protože byste pak podvod pravděpodobně prokoukli).

Útočníci dobře vědí, že často prohlížíme zprávy ve spěchu na mobilu a detailům věnujeme jen málo pozornosti. K šíření podvodů používají více kanálů. A maskují malware za vše od ChatGPT a tvůrce videí Sora AI až po generátor obrázků Midjourney, DALL-E a editor fotografií Evoto. Mnohé z verzí, kterými se ohánějí, ještě nejsou k dispozici, například „ChatGPT 5“ nebo „DALL-E 3“, čímž lákají další oběti.

Konkrétní podobu malwaru často mění, aby unikali detekcím. Věnují spoustu času a úsilí tomu, aby jejich návnady (například reklamy na Facebooku) vypadaly věrohodně.

Stáhněte si příručku
o sociálním inženýrství

Poznejte techniky sociálního inženýrství a naučte se, jak se proti nim úspěšně bránit.

STÁHNOUT PŘÍRUČKU

Co se stane, když si stáhnete malware?

Pokud kliknete a stáhnete si infikovanou aplikaci, půjde v mnoho případech o tzv. infostealer. Ten slouží k odcizení citlivých informací, například přihlašovacích údajů k vašim online účtům, pracovních hesel, údajů z platební karty a mnoho dalšího.

Hacker tak může použít vaše osobní informace k odcizení identity (a s ní dále páchat trestnou činnost). Může vás okrást o peníze z platební karty či bankovního účtu.

Může získat kontrolu nad vaším počítačem či telefonem a dále jej zneužívat. Takto infikovaná zařízení obvykle slouží k řetězovým DDoS útokům nebo se využívá jejich výpočetní výkon k prolamování hesel a dalším kybernetickým útokům.

Jak se vyhnout podvodům s AI?

Existuje několik obecných principů, které vás chrání i před těmito podvody. Důležité je primárně nevěřit lákavým nabídkám a vše si prověřit.

• Aplikace si instalujte výhradně z oficiálních obchodů. Nikdy je nestahujte z webových stránek nebo dokonce diskuzních fór.
• Zkontrolujte vývojáře aplikací a recenze.
• Buďte opatrní při klikání na digitální reklamy. Pokud je reklama velice lákavá, ověřte si její pravost ještě na jiném kanálu prodejce.
• Před instalací kontrolujte rozšíření webového prohlížeče. Prověřte si tvůrce a recenze.
• Používejte komplexní bezpečnostní software od renomovaného dodavatele.
• Dávejte pozor na phishing. Přečtěte si podrobný článek, jak phishing poznat.
• Zapněte dvoufaktorové ověřování (2FA), kdykoli to je možné.
• Buďte ostražití.

S rozvojem umělé inteligence se objevují nové příležitosti pro podvodníky, kteří využívají naši zvědavost a touhu po nejnovějších technologiích. Je důležité být obezřetný a dodržovat základní bezpečnostní pravidla, jako je instalace aplikací pouze z oficiálních zdrojů a ověřování recenzí a vývojářů. Buďte vždy na pozoru a nezapomeňte se chránit před potenciálními hrozbami v online světě.