Le Federal Bureau of Investigation (FBI) met en garde contre une tendance croissante des acteurs malveillants à créer du contenu deepfake pour effectuer des attaques de sextorsion.

La sextorsion est une forme de chantage en ligne où des acteurs malveillants menacent leurs cibles en divulguant publiquement des images et des vidéos explicites qu’ils ont volées (par piratage) ou acquises (par la coercition), exigeant généralement des paiements en espèces pour retenir le matériel.

Dans de nombreux cas de sextorsion, le contenu compromettant n’est pas réel, les acteurs de la menace faisant seulement semblant d’avoir accès pour effrayer les victimes afin qu’elles paient une demande d’extorsion.

Le FBI avertit que les sextortionnistes récupèrent désormais des images accessibles au public de leurs cibles, comme des images et des vidéos anodines publiées sur les plateformes de médias sociaux. Ces images sont ensuite introduites dans des outils de création de contenu deepfake qui les transforment en contenu sexuellement explicite généré par l’IA.

Bien que les images ou les vidéos produites ne soient pas authentiques, elles ont l’air très réelles, elles peuvent donc servir l’objectif de chantage de l’auteur de la menace, car l’envoi de ce matériel à la famille, aux collègues, etc. de la cible pourrait toujours causer de graves dommages personnels et à la réputation des victimes.

« En avril 2023, le FBI a observé une augmentation du nombre de victimes de sextorsion signalant l’utilisation de fausses images ou vidéos créées à partir de contenu publié sur leurs sites de médias sociaux ou de publications Web, fournies à l’acteur malveillant sur demande, ou capturées lors de chats vidéo,  » lit l’alerte publiée sur le portail IC3 du FBI.

« Sur la base de récents signalements de victimes, les acteurs malveillants ont généralement exigé : 1. Un paiement (par exemple, de l’argent, des cartes-cadeaux) avec des menaces de partager les images ou les vidéos avec des membres de la famille ou des amis des réseaux sociaux si les fonds n’étaient pas reçus ; ou 2. La victime envoie de vraies images ou vidéos à thème sexuel. »

Le FBI affirme que les créateurs de contenu explicites sautent parfois la partie d’extorsion et publient les vidéos créées directement sur des sites Web pornographiques, exposant les victimes à un large public à leur insu ou sans leur consentement.

Dans certains cas, les sextortionnistes utilisent ces téléchargements désormais publics pour augmenter la pression sur la victime, exigeant un paiement pour supprimer les images/vidéos publiées des sites.

Le FBI rapporte que cette activité de manipulation des médias a, malheureusement, également touché les mineurs.

Comment se protéger
La vitesse à laquelle des outils de création de contenu compatibles avec l’IA deviennent disponibles pour un public plus large crée un environnement hostile pour tous les internautes, en particulier ceux des catégories sensibles.

Il existe plusieurs projets d’outils de création de contenu disponibles gratuitement via GitHub, qui peuvent créer des vidéos réalistes à partir d’une seule image du visage de la cible, ne nécessitant aucune formation ni ensemble de données supplémentaires.

Beaucoup de ces outils disposent de protections intégrées pour éviter les abus, mais pas ceux vendus sur les forums clandestins et les marchés du dark web.

Le FBI recommande aux parents de surveiller l’activité en ligne de leurs enfants et de leur parler des risques associés au partage de médias personnels en ligne.

De plus, il est conseillé aux parents d’effectuer des recherches en ligne pour déterminer le degré d’exposition de leurs enfants en ligne et de prendre les mesures nécessaires pour supprimer le contenu.

Les adultes qui publient des images ou des vidéos en ligne doivent restreindre l’accès à un petit cercle privé d’amis afin de réduire l’exposition. Dans le même temps, les visages des enfants doivent toujours être flous ou masqués.

Enfin, si vous découvrez un contenu deepfake vous représentant sur des sites pornographiques, signalez-le aux autorités et contactez la plateforme d’hébergement pour demander la suppression du média incriminé.

Le Royaume-Uni a récemment introduit une loi sous la forme d’un amendement au projet de loi sur la sécurité en ligne qui classe le partage non consensuel de deepfakes comme un crime.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *