Des escrocs utilisent l'intelligence artificielle pour rédiger des guides de voyage et les vendre sur Amazon via son système d'impression sur demande. La photo de l'auteur, le guide, les avis à 5 étoiles… Tout est faux.

Que l'intelligence artificielle s'immisce dans nos voyages, pourquoi pas après tout. Grâce à l'IA, Google peut vous aider à planifier vos vacances par exemple. Mais quand elle commence à rédiger de faux guides de voyage et surtout à rapporter de l'argent aux arnaqueurs qui les vendent sur Amazon, c'est plus problématique. Une Américaine souhaitant séjourner en France en a fait les frais. En tapant “voyage guide France” dans la barre de recherche d'Amazon, elle tombe sur un livre très bien noté, 4,4/5 pour une quarantaine d'avis, rédigé par un certain Mikes Steves.

Selon sa biographie, Steves est un écrivain de renom spécialisé dans les voyages depuis de nombreuses années. Une fois le guide en main, la future touriste déchante vite. Elle a l'impression que l'ouvrage est un assemblage de paragraphes tirés de Wikipédia. Presque : il a été rédigé par une intelligence artificielle. De son côté, Mike Steves est introuvable. Aucun des articles qu'il est censé avoir rédigé pour des revues prestigieuses n'existe, et sa photo présente tous les défauts d'un portrait généré par IA.

Sur Amazon, des escrocs vendent des guides de voyage rédigés par des intelligences artificielles

Les faux guides de Steves ne sont que la partie émergée de l'iceberg. Sur Amazon, des dizaines de guides de voyages très bien classés sur Amazon sont en réalité des livres composés par une intelligence artificielle, dans le seul but d'escroquer les acheteurs. Le New York Times a passé 35 paragraphes du fameux guide sur la France dans un outil donnant le pourcentage de chance qu'ils soient du contenus rédigés par IA. Ils ont tous obtenus un score de 100 %. Le créateur de l'outil précise que le taux d'erreur est de 1,6 % seulement.

Lire aussi – Une IA publie une fake news sur World of Warcraft après s’être fait troller par des internautes

Les avis 5 étoiles de ces guides sont également faux, mais permettent aux livres d'être bien référencés. Interrogé par le Times, Amazon a simplement répondu que la firme “dépensait beaucoup de temps et de ressources pour s'assurer que [ses] règles relatives au contenu soient suivies et que les livres qui n'y adhèrent pas soient retirés”. Certains sont même carrément dangereux : de faux guides sur la Russie et l'Ukraine ne mentionnent même pas la guerre en cours. À l’écriture de cet article, ils sont toujours disponibles à l'achat sur amazon.com.