Hlavní navigace

Zneužívání AI raketově stoupá, hackery čekají doslova žně

17. 6. 2024

Sdílet

 Autor: PCWorld s využitím DALL-E
Kybernetičtí zločinci začali ve velkém využívat umělou inteligenci, a to výrazně nad rámec úprav phishingových zpráv. A jejich možnosti rychle rostou.

Podobně jako u běžných podniků se i mezi zločinci letos rozhořely diskuse o možnostech využití umělé inteligenci, uvedli výzkumníci bezpečnostní organizace Intel 471 v nejnovější studii Cybercriminals and AI: Not Just Better Phishing.

Nepředstavuje umělá inteligence novou bublinu pro investory?

Hackeři se zaměřují na možnosti, které by jim AI mohla přinést v činnostech, jako je vytváření deepfake videí, překonání funkcí rozpoznávání obličeje či sumarizace z ukradených dat.

Další skupiny se zase soustřeďují na zabudování dovedností AI do hackerských nástrojů nebo dokonce k nekalým účelům vytvářejí různé chatboty.

Snad nejpozorovanějším dopadem AI na kyberkriminalitu je ale nárůst podvodů, zejména těch, které využívají technologii deepfake, tvrdí výzkumníci.

Například skupina kyberzločinců známá jako Yahoo Boys používá deepfakes pro vydírání v sexuální oblasti. 

Nejdříve získávají důvěru pomocí falešných osob, které pak oběti přesvědčí, aby sdílely kompromitující materiály, které pak využití k pohrůžkám zveřejnění (a také je zveřejní, pokud jim nezaplatí).

Zaměstnanci stále častěji vydávají výstup AI za svou práci Přečtěte si také:

Zaměstnanci stále častěji vydávají výstup AI za svou práci

Studie uvádí, že mnohé z cílových osob této skupiny jsou nezletilí, kteří v některých případech dokonce spáchali sebevraždu.

Meziročně se nabídky deepfake na dark webu výrazně rozšířily a zároveň i zlevnily. Jedna z nabídek uvádí, že vytváří audio a video deepfakes pomocí nástrojů AI za 60 až 400 dolarů za minutu v závislosti na složitosti.

Co přináší nový SecurityWorld 1/2024? Přečtěte si také:

Co přináší nový SecurityWorld 1/2024?

Další nabídkou je předplacená služba, která za roční poplatek tisíc dolarů udělá denně 300 výměn obličejů na obrázcích a videích.

V hledáčku hackerů je i zneužití umělé inteligence při útocích na firemními e-maily nebo  při podvodech se záměnou obsahu dokumentů.

Video ke kávě

Máte čas na rychlé a informativní video?

Jeden z hackerů podle výzkumníků vyvinul nástroj využívající AI k manipulaci s fakturami, zachycení komunikace mezi stranami a pozměnění informací, jako jsou čísla bankovních účtů, za účelem přesměrování plateb směrem k podvodníkům. Tento nástroj se nabízí na základě měsíčního předplatného 5 000 dolarů.

V dalším případě se zase používá velký jazykový model (LLM) Meta Llama k extrakci nejcitlivějších údajů z uniklých dat kvůli zvýšení nátlaku na oběť, aby zaplatila výkupné.

Umělá inteligence stojí za růstem úvěrových podvodů Přečtěte si také:

Umělá inteligence stojí za růstem úvěrových podvodů

Pro hackery může být přínosný i další nástroj, který za pomoci AI shromažďuje a sumarizuje data o zranitelnostech (CVE). Ty pak využije hackerský software pro skenování sítí a hledání chyb v různých systémech.

soutez_casestudy

Podle výzkumníků se situace bude jen zhoršovat – daleko nemusí být doba, kdy jazykové modely LLM budou schopné na základě jednoduchého slovního příkazu nekalé osoby schopné najít zranitelnost, napsat a otestovat kód pro zneužití a poté autonomně tu chybu zneužít.

I když bezpečnostní průmysl má také k dispozici AI nástroje, jejich schopnosti jsou často reaktivní, když odpovídají na akce, které udělají hackeři. A možnosti zločinců díky AI rychle stoupají.

 

Security World si můžete koupit i jako klasický časopis, buď v klasické tištěné formě nebo v elektronické verzi. Věnujeme se bezpečnosti počítačových systémů, ochraně dat, informací a soukromí.  Jsme jediný titul na českém a slovenském trhu, který oslovuje širokou čtenářskou obec – od ředitelů firem, přes odborníky na bezpečnost po koncové uživatele. Naším cílem je poskytnout ucelený přehled o bezpečnostních hrozbách a zejména o tom, proč a jak se jim bránit, případně proč respektovat a dodržovat nařízení IT manažerů ve firmách.

Byl pro vás článek přínosný?