Un récent rapport de NewsGuard, un groupe d'évaluation de l'actualité, a révélé que de nombreux sites d'information utilisent des chatbots propulsés par l’intelligence artificielle pour générer leurs articles.

Dans le cadre d’une nouvelle étude, NewsGuard aurait identifié près d’une cinquantaine de sites d’actualités spécialisés dans divers domaines, qui utilisent quotidiennement l’intelligence artificielle pour générer à la chaîne des articles entiers. Ceux-ci seraient rédigés en diverses langues, dont notamment l’anglais, le chinois, le français, le portugais, le thaï, le tagalog et le tchèque.

Bon nombre de ces sites semblent être des fermes de contenu gérées par des sources anonymes qui produisent des articles dans le seul but de récolter les revenus publicitaires. Cette pratique s’est largement démocratisée cette année, alors que les outils propulsés par l’IA devenaient largement utilisés par les internautes.

Lire également – ChatGPT : vous ne croirez jamais combien le chatbot coûte chaque jour à OpenAI

Les articles générés par l’IA posent problème

L'utilisation de chatbots d'IA soulève de sérieuses questions quant à la manière dont la technologie est capable de générer du contenu, puisqu’il arrive parfois que des outils tels que ChatGPT inventent des informations de toute pièce. Gordon Crovitz, co-directeur général de NewsGuard, a déclaré que le rapport du groupe montrait que des entreprises comme OpenAI et Google devraient veiller à former leurs modèles pour qu'ils ne fabriquent pas d'informations. Cela pourrait d’ailleurs bientôt être un problème de taille, puisque Wikipédia lui-même envisage d’utiliser l’IA pour créer des milliers d’articles.

OpenAI a déclaré qu'elle utilisait une combinaison de réviseurs humains et de systèmes automatisés pour identifier et lutter contre l'utilisation abusive de son modèle, notamment en émettant des avertissements ou, dans les cas les plus graves, en bannissant les utilisateurs. De son côté, Google a ajouté qu'il évaluait le contenu en fonction de ses règles d'édition existantes et que l'utilisation de l'automatisation pour générer du contenu dans le but de manipuler le classement dans les résultats de recherche violait les règles de l'entreprise en matière de spam.

Dans le cas des 49 sites identifiés par NewsGuard, aucun d'entre eux ne révèle qu'ils sont alimentés par des outils conversationnels, qui peuvent générer des textes détaillés à partir de simples demandes de l'utilisateur. Pourtant, une poignée de sites ont généré des revenus en faisant de la publicité de type “guest posting”, qui permet aux internautes de commander des mentions de leur entreprise sur les sites web, moyennant paiement, afin d'améliorer leur classement dans les moteurs de recherche. D’autres gagnent de l'argent en diffusant des publicités programmatiques, c'est-à-dire que l'espace publicitaire sur les sites est acheté et vendu automatiquement à l'aide d'algorithmes.