Ve Španělsku zneužili AI k vytvoření nahých deepfake snímků mladých školaček

Generativní AI se nám poslední dobou postarala o několik problémů, resp. se o to postarali lidé, kteří ji k těmto nekalým účelům zneužili. Nedávno se objevilo reklamní deepfake video s Tomem Hanksem, kde měl propagovat zubní připojištění, nyní tu máme další průšvih. Ve španělském městečku Almendralejo totiž někdo začal posílat mladým školačkám jejich falešné svlečené snímky. Tyto snímky vycházely z fotografií, které děvčata zveřejňovala na sociálních sítích, jmenovitě na Instagramu. Ty pak útočníci prohnali přes aplikaci, která pomocí generativní AI a vložených snímků umožňuje vytvořit nahé varianty takových fotografií.

 

 

Nejmladší oběti tohoto útoku bylo pouhých 11 let a rozplétání případu ukázalo, že se o to postarali např. i jejich vlastní spolužáci. V některých případech došlo např. k vydírání a žádosti o peníze, a když nebylo vyhověno, poslali pak nahé fotografie. Velké debaty se nyní vedou ohledně toho, do jaké kategorie vlastně takové činy budou spadat. Někteří by podobné činy chtěli kategorizovat jako dětskou pornografii, za což by padaly mnohem větší tresty. V tomto případě však byly mezi provinilci mnohdy jen děti bez trestné odpovědnosti.

 

Zdroj: diyphotography.net