Des chercheurs de l’université Ben-Gourion du Néguev ont conçu une Intelligence artificielle capable d’identifier les « violations des normes sociales ». Les applications d'une telle technologie seraient nombreuses.

Le projet « AI for identifying social norm violation » est, a priori, un peu étrange. Il a été financé par l’agence américaine chargée de la recherche et du développement des nouvelles technologies destinées à un usage militaire, la DARPA. Les chercheurs de l’université israélienne ont conçu cette IA en utilisant, entre autres technologies, GPT-3, le modèle de langage conçu par OpenAI.

Les scientifiques ont publié les résultats de leurs recherches dans la prestigieuse revue Scientific Reports sous le titre « » (IA pour identifier les violations des normes sociales). Yair Neuman et Yochai Cohen Neuman ont formé leur IA pour qu’elle puisse identifier dix émotions sociales : la compétence, la politesse, la confiance, la discipline, l’attention, l’agréabilité, le succès, la conformité, la décence et la loyauté. Ce système est ainsi capable de classer une conversation écrite par SMS, email ou messagerie dans l’une de ces dix catégories, et déterminer si l’émotion exprimée est positive ou négative.

Le Pentagone finance cette IA capable de repérer les violations des normes sociales

Le professeur Neuman déclare dans les colonnes du Jerusalem Post qu’il « s’agit d’un travail préliminaire, mais qu’il fournit des preuves solides que l’approche est correcte et qu’elle peut être élargie pour inclure davantage de normes sociales ». Ces dernières peuvent varier selon les pays et les époques, mais certaines, telles que la honte, l’embarras ou le regret sont universelles. « Par conséquent, la violation d’une norme est accompagnée et signalée par des émotions sociales qui ont une fonction importante dans le « recalibrage de l’évaluation sociale dans l’esprit de soi et des autres ».

À lire — ChatGPT débarque enfin sur Android avec une application native

Mais pourquoi le Pentagone s’intéresse-t-il aux normes sociales ? Tout est parti de l’initiative « Computational Cultural Understanding » (CCU) qui vise à créer des technologies permettant de comprendre les langues étrangères et d’améliorer l’interculturalité et la connaissance du contexte. Concrètement, cette IA permettra aux soldats ou aux diplomates de comprendre leur environnement et d’être meilleur dans le cadre de négociations ou en temps de guerre, afin d’éviter de faire « monter la tension », en situation de crise, par exemple.