Ce week-end, OpenAI a banni un chatbot basé sur ChatGPT imitant Dean Phillips, candidat démocrate à la présidentielle américaine. La firme et plusieurs chercheurs ont estimé que l’outil allait à l’encontre de son règlement, jugeant qu’il pouvait mener à des dérives pouvant menacer les élections elles-mêmes.

Depuis peu, ChatGPT permet à ses utilisateurs de créer des chatbots personnalisés, à partie d’une plateforme qui ne demande aucune compétence en programmation. L’outil est quelque peu révolutionnaire, mais pas sans risque. Or, à l’approche des élections présidentielles aux États-Unis, OpenAI a voulu s’assurer d’éviter à tout prix les problèmes. Ce faisant, un premier chatbot, nommé Dean.Bot, vient d’être banni.

Dean.Bot fonctionnait de la même manière que ChatGPT, à une différence près : il parlait en imitant Dean Phillips, actuel candidat à la primaire démocrate. L’IA a été créée par Matt Krisiloff et Jed Somers, deux entrepreneurs à l’origine de We Deserver Better, un comité d’action politique soutenant le candidat. Elle n’est restée en ligne que quelques jours, avant qu’OpenAI ne banisse le compte de ses créateurs.

Sur le même sujet — ChatGPT : surprise, cette autrice récompensée avoue avoir utilisé l’IA pour son dernier livre

Vous n’avez pas le droit de créer un ChatGPT qui imite une personnalité politique

Malgré un message d’alerte au lancement du chatbot, rappelant qu’il s’agit là d’une imitation de Dean Phillips et non du candidat lui-même, OpenAI et plusieurs chercheurs craignent en effet que les dérives soient nombreuses. Certains imaginent par exemple qu’il serait possible de détourner l’outil pour lancer une campagne massive de faux appels, imitant la voix de Dean Phillips et appelant à voter pour ce dernier. Sans compter les fausses publicités, faux sites, etc.

En face, We Deserve Better estime que son outil a au contraire une véritable valeur éducative, permettant de mieux connaître le candidat et son programme. Le comité a ainsi demandé à Delphi, l’entreprise ayant créé le chatbot de ressusciter ce dernier, cette fois en utilisant des technologies open source n’appartenant pas à OpenAI. Dean.bot est le premier chatbot banni par la firme de Sam Altmann pour des raisons politiques.

Source : The Washington Post