Une petite équipe d’ingénieurs de Google a mis au point Jigswaw, un nouvel outil dans la lutte contre le terrorisme en ligne. Ce dernier vise à aider les entreprises qui n’ont pas les moyens des gros poissons en termes de modération de repérer rapidement les contenus à caractère terroriste publiés sur leur plateforme, grâce à une base de données partagée.

Il fut un temps où les réseaux sociaux étaient un véritable jardin d’Eden pour les terroristes, grâce à un manque de modération qui leur permettait de partager des contenus violents et de recruter en (presque) toute tranquillité. Depuis les grands noms du secteur ont pris des mesures drastiques pour expulser ces derniers de leurs systèmes et, malgré encore quelques contenus passant au travers des mailles du filet, il est devenu très difficile de croiser la route d’un groupe radicalisé sur les réseaux principaux.

Alors, les groupes terroristes se sont tournés vers des plateformes moins connues, plus ciblées, mais surtout, avec une modération bien moins sévère, souvent pas par faute de moyen. Pour éviter que ces groupuscules se propagent sur le web au détriment des petites entreprises, Google a mis au point un nouvel outil. Plus précisément, les créateurs font partie de Jigsaw, une unité d’ingénieurs au sein de la firme dédiée à la lutte contre le terrorisme, les fake news et la censure sur le web.

Sur le même sujet —La Russie considère désormais Meta comme une organisation terroriste

Google veut aider les petites entreprises à lutter contre le terrorisme

Altitude, le nom de cet outil, a été lancé ce vendredi 10 novembre à Paris. Il s’intègre directement à la plateforme concernée puis commence à scanner chacun des contenus qui y sont publiés. En se connectant à la base de données de la Terrorist Content Analytics Platform, qui regroupe l’ensemble des groupes terroristes actifs sur le web connus à ce jour, Altitude est capable de détecter automatiquement les contenus problématiques et d’en signaler l’entreprise.

L’outil peut également fournir plusieurs informations à propos du groupe terroriste repéré, comme les autres sites où ce dernier est actif ou encore la loi en vigueur contre le type de contenu posté en fonction du pays d’origine de l’entreprise. En revanche, il est intéressant de noter qu’Altitude ne fournit pas de conseil sur la marche à suivre pour les administrateurs du site.

« Nous ne sommes pas là pour dire aux plateformes ce qu’elles doivent faire, mais plutôt pour leur fournir toutes les informations dont elles ont besoin pour prendre la décision de modération », a justifié Adam Hadley, directeur exécutif de Tech Against Terrorism. « Nous voulons améliorer la qualité des réponses. Il ne s’agit pas du volume de matériel supprimé, mais de s’assurer que le pire contenu est supprimé d’une manière qui respecte la loi ».

Selon Yasmin Green, PDG de Jigsaw, « l’État islamique et les autres groupes terroristes n’ont pas abandonné Internet simplement parce qu’ils n’avaient plus le mégaphone offert par leurs réseaux sociaux. Ils sont allés ailleurs. Ils ont trouvé l’occasion d’héberger du contenu sur des sites d’hébergement de fichiers ou d’autres sites web, des plateformes de petite et moyenne taille. Ces plateformes n’accueillaient pas le contenu terroriste, mais elles l’hébergeaient quand même — et en grande quantité, à vrai dire. »

Pour l’aider dans sa tâche, Altitude peut également compter sur l’aide du Global Internet Forum to Counter Terrorism, un collectif de lutte anti-terroriste créé en 2017 par Facebook, Microsoft, Twitter, et YouTube, qui possède sa propre base de données. En France, le gouvernement a promis l’année dernière qu’il sera bientôt possible de supprimer tout contenu terroriste — ou en faisant l’apologie — en seulement une heure.

Source : Wired