OpenAI prépare un outil capable de repérer les textes rédigés par ChatGPT. Cette innovation pourrait aider les professeurs dans la vérification des travaux des étudiants. Pourtant, des préoccupations sur son impact potentiel freinent sa mise en œuvre.

L'année dernière, OpenAI affirmait qu'il était impossible de détecter si un texte avait été écrit par ChatGPT. À l'occasion de la rentrée scolaire, l'entreprise avait même distribué un guide aux enseignants pour une utilisation éducative de l'IA, plutôt que punitive. Cependant, l'adoption massive de l'intelligence artificielle par les étudiants a changé la donne et a obligé l’entreprise à reconsidérer sa position.

Face à cette situation, OpenAI a développé un outil pour détecter les textes générés par ChatGPT. Ce dernier utilise une technique de filigrane qui consiste à faire de petits ajustements invisibles dans la sélection des mots que l'IA utilise. Ces modifications subtiles permettent ainsi de reconnaître si un texte a été rédigé par son intelligence artificielle.

OpenAI hésite à déployer son outil de détection de texte généré par ChatGPT

La méthode de filigrane développée par OpenAI se distingue par sa précision. Selon un porte-parole de l'entreprise, cette technique est efficace contre la falsification locale, comme la reformulation partielle d'un texte. Cependant, elle présente des limites face à des réécritures plus complexes, telles que l'utilisation de systèmes de traduction ou la modification avec un autre modèle d'IA. Cet outil pourrait apporter une solution aux enseignants, largement dépassés par son usage croissant. Une étude récente avait révélé que 99 % des étudiants utilisent des IA génératives comme ChatGPT, un chiffre hallucinant qui témoigne de l'ampleur du phénomène.

Cependant, OpenAI est conscient des implications de cette technologie. La société craint que la mise à disposition de cet outil puisse dissuader certains utilisateurs à utiliser ChatGPT. De plus, des chercheurs ont expliqué être préoccupés quant à son impact potentiel sur les non-anglophones. Ces derniers pourraient être injustement pénalisés par le filigrane textuel en raison des différences linguistiques et de la manière dont l'IA gère les langues autres que l'anglais. Actuellement, l’entrepreise évalue encore les avantages et les risques de cet outil avant de décider de sa diffusion plus large.

Source : The Wall Street Journal