Generativní AI začínají útočníci zneužívat k vytváření malware, takový virus se už našel

Systémy generativní AI mohou být použity k mnoha účelům. Jejich poslední verze výborně slouží jako pomůcka pro programování. Snadno vytvoří kód přímo pro zadané téma, které mohou doplnit o jasné vysvětlení toho, jak funguje. Jednoduchost vytváření kódu se dá ale i využít hůře nebo rovnou i zneužít. Někteří toho mohou využívat k tomu, aby si nechali kód vytvořit, ale na vysvětlování a pochopení se vykašlou, takže se v takovém případě neposunou vpřed. Jinou negativní situací může být zneužití generativní AI k vytváření škodlivého kódu. Jeden takový našli v laboratořích HP v červnu letošního roku. Objevil se totiž zajímavý phishingový e-mail, což by na první pohled nebylo nic tak zvláštního. Byla zde ale využita neobvyklá kombinace šifrovacího klíče a kódu. To bylo jedním ze spouštěčů zevrubnějšího studování malwaru.

 

Škodlivý kód využíval veřejně přístupného malwaru AsyncRAT, nicméně zajímavý byl další kód ve VBScriptu. Byl nečekaně přehledně strukturovaný a dokonce řádně okomentovaný. To není zrovna obvyklé, většinou se malware snaží zamaskovat to, jak funguje, a ne to vysvětlovat pomocí komentářů. Netradiční bylo i to, že byl napsán ve francouzštině. Není to sice jisté, ale různé indicie zde nasvědčují tomu, že kód nebyl napsán člověkem, ale pro člověka pomocí generativní AI. Aby si to výzkumníci ověřili, pokusili se sami nechat generativní AI vyprodukovat kód, který měl fungovat podobně, a AI opravdu vytvořila malware s velmi podobnou strukturou i komentáři. Ani to sice není naprosto průkazné, že zde byla použita AI, pravděpodobnosti této teorie to ale dost nahrává.

 

Zdroj: securityweek.com, obrázek (Adobe Firefly AI)