Sur les réseaux sociaux, une campagne de publicités met en scène la chanteuse Taylor Swift. Elle dit offrir des ustensiles de cuisine à ses fans, sauf que tout n'est qu'une escroquerie aidée par l'intelligence artificielle.

“Les gens feront n'importe quoi pour gagner de l'argent, même si ce sont des mensonges”, assenait la chanteuse de Country Lainey Wilson sur son compte Instagram l'été dernier. La cause de son énervement ? Une publicité mettant en scène un autre chanteur, Luke Combs, dans laquelle il vantait les mérites de bonbons pour perdre du poids. Des produits qu'il affirme recommandés par Lainey Wilson justement. Sauf que c'est faux. La pub a été générée par une intelligence artificielle, et son but était de faire payer les victimes sans qu'ils ne reçoivent rien en retour.

Ce phénomène n'est pas nouveau et a malheureusement le vent en poupe. Les avancées des technologies liées à l'IA rendant de plus en plus facile la création de tels contenus. Se servir des célébrités est d'autant plus simple qu'énormément de photos ou vidéos d'elles sont accessibles à tous sur Internet. Autant de matériel que pourra utiliser un programme pour générer un résultat réaliste. En fin d'année 2023, c'est carrément Elon Musk qui offrait de la cryptomonnaie dans une fausse vidéo diffusée sur TikTok. Et c'est loin d'être la seule personne connue à faire les frais de cette méthode.

Une fausse Taylor Swift générée par IA tente d'arnaquer des personnes sur les réseaux sociaux

Ces derniers mois, on pouvait voir sur Facebook et TikTok une vidéo dans laquelle la chanteuse Taylor Swift vantait les mérites des ustensiles de cuisine Le Creuset. Si vous ne connaissez pas, il s'agit d'une marque plutôt haut de gamme. Dans la publicité, celle qui a été élue personnalité de l'année 2023 par le Time Magazine explique qu'elle offre à ses fans différents produits Le Creuset. Pour cela, il suffit de se rendre sur le site indiqué et de répondre à quelques questions. La page en question imite un site légitime, auquel s'ajoute de faux articles parlant de “l'offre” et des avis positifs tout aussi fabriqués.

Si vous avez le malheur d'aller au bout de la démarche, vous avez payé de “petits frais d'expédition de 9,96 $”. Bien sûr, vous ne recevrez aucun produit, et votre compte en banque sera régulièrement ponctionné de sommes plus ou moins importantes jusqu'à ce que vous vous en rendiez compte. L'IA a servi ici à générer la voix de Talor Swift, tout en utilisant des vidéos d'elle sur lesquelles un programme s'est chargé de la synchronisation labiale avec le faux discours.

Les arnaques aux fausses publicités mettant en scène des célébrités générées par IA sont de plus en plus nombreuses et réalistes

Le choix d'associer Taylor Swift et Le Creuset peut paraître étrange, mais il en réalité très étudié. La chanteuse possède en effet plusieurs produits de la marque. On les retrouve sur un compte Tumblr dédié à la maison de l'artiste, de même que dans un article de Variety analysant sa cuisine et dans un documentaire Netflix. Le Creuset a d'ailleurs mis en avant ce dernier sur sa page Facebook. Les escrocs ont donc visiblement réfléchi à ce qui paraîtrait le plus plausible avant de lancer leur campagne.

Lire aussi – Google : une fausse pub pour ce logiciel connu cachait un malware

Il faut malheureusement s'attendre à voir proliférer ces fausses publicités. Siwei Lyu, professeur d'informatique à l'Université de Buffalo, rappelle que les outils d'IA générative sont “très accessibles”, et qu'il est possible de créer “une vidéo d'assez bonne qualité” en moins de 45 minutes. “Ça devient très facile, et c'est pour ça qu'on en voit plus”. La campagne “Taylor Swift” était composée de douzaines de publicités. Meta affirme avoir pris des mesures et engagé des poursuites judiciaires contre certains responsables de ces arnaques.

Le problème majeur vient de l'absence de régulation. Actuellement, au moins 9 états américains possèdent des lois concernant les contenus générés par l'intelligence artificielle, mais rien n'existe encore au niveau fédéral. En Europe, une loi de régulation de l'IA a été voté fin décembre 2023, sauf qu'elle ne semble pas s'attaquer spécifiquement au phénomène. D'autres célébrités en ont déjà fait les frais : en octobre dernier, l'acteur Tom Hanks s'est retrouvé sans le savoir dans une publicité pour des produits dentaires.

Source : The New York Times