Deepfake : la demande pour les montages pornographiques explose, des pubs apparaissent sur Facebook
Les deepfakes pornographiques ont désormais envahi le web. Après la polémique qui a secoué Twitch ces dernières semaines, les analystes ont relevé une hausse significative du trafic vers les sites qui hébergent ces vidéos, réalisées sans le consentement des personnes dont le visage est utilisé. Dernièrement, une application réalisant ce type de montages a même fait sa publicité sur Facebook.
« Je suis tombée sur cette publicité hier et wow, sérieusement ? » Ce tweet, publié par la journaliste Lauren Barton le lundi 6 mars dernier, montre une vidéo dans laquelle figure l’actrice Emma Watson. Celle-ci se baisse tout en regardant la personne qui la filme, puis la caméra se coupe avant que les choses n’aillent plus loin. Si aucune image explicite n’est affichée à l’écran, aucun doute n’est permis : il s’agit d’un montage pornographique.
La publicité, qui contient en outre une photo de l’actrice lorsqu’elle était encore mineure, a été diffusée pendant plusieurs jours sur Facebook, Instagram et Messenger. Celle-ci fait la promotion de FaceMega, une application permettant d’importer le visage de n’importe qui et de l’appliquer sur différents templates de vidéos. D’après une enquête de la NBC, ce sont pas moins de 230 publicités de ce type qui ont été diffusées sur les réseaux sociaux de Meta durant le week-end.
i got this ad yesterday and wow what the hell pic.twitter.com/smGiR3MfMb
— lauren (@laurenbarton03) March 6, 2023
Une application de deepfake incite à faire des montages pornos sur Facebook
À aucun moment, FaceMega n’affirme explicitement que son application peut être utilisée pour réaliser des montages pornographiques. Néanmoins, l’insinuation manque de subtilité. Outre l’attitude très subjective des personnes en vidéo, certaines publicités se permettent même d’utiliser le son d’introduction des vidéos postées sur Pornhub. Qui plus est, et comme le rappelle NBC News, un rapport datant de 2019 a estimé à 96 % la part de montages pornographiques dans le milieu des deepfakes.
Autant dire que FaceMega ne dupe personne, bien que l’application propose tout type de templates, avec des catégories telles que « Mode » et « Mariage ». « Cela pourrait être utilisé avec les lycéens des écoles publiques qui sont victimes d’intimidation », alerte Lauren Barton. « Cela pourrait ruiner la vie de quelqu’un. Ils pourraient avoir des problèmes au travail. Et c’est extrêmement facile à faire et gratuit. Tout ce que j’ai eu à faire, c’est de télécharger une photo de mon visage et j’ai eu accès à 50 modèles gratuits. »
Sur le même sujet : Intel peut désormais détecter les deepfakes en temps réel avec une précision de 96 %
L’application est apparue en 2022 sur l’App Store et Google Play. Elle coûte désormais 8 dollars par semaine, mais permettait initialement de réaliser ces deepfakes gratuitement. Dans ses conditions générales d’utilisateurs, celle-ci stipule qu’elle peut être utilisée par des enfants à partir de 9 ans, mais précise qu’elle n’autorise pas la publication de vidéos à caractère pornographique.
Après la polémique, la montée en puissance des deepfakes pornos
Contactée par NBC, Apple a déclaré que le règlement de l’App Store n’interdit pas la publication d’application de deepfakes, mais que tout contenu pornographique et diffamatoire sera banni de la plateforme. De son côté, Google a indiqué avoir supprimé l’application du Play Store mercredi dernier. Apple en a fait de même. Mais FaceMega n’est que la partie visible d’un iceberg beaucoup plus grand.
D’après l’analyste Genevieve Oh, le trafic des sites web spécialisés dans les deepfakes pornographiques a littéralement explosé ces dernières semaines. En 2021, nous vous parlions déjà de cette plateforme qui a vu sa popularité grimper en flèche en seulement quelques mois. Aujourd’hui, des dizaines d’autres ont vu le jour. Sur les boutiques d’applications, une simple recherche pour « deepfake » donne de nombreux résultats.
Ce phénomène n’a rien d’un hasard. En début d’année, une polémique autour des deepfakes a secoué la sphère Twitch, après qu’un streamer ait diffusé des montages pornographiques de streameuses célèbres, telles Maya Higa ou encore Pokimane. Si le geste a maintes fois été condamné par la communauté, force est de constater que la polémique a permis à de nombreuses personnes de découvrir ce milieu. Selon Genevieve Oh, le nombre de deepfakes pornographiques sur Internet a doublé depuis 2018, février étant le mois le plus prolifique de l’histoire en la matière.
Source : NBC News