L'association allemande HateAid et la Ligue internationale contre le racisme et l'antisémitisme viennent de publier une étude sur la modération des commentaires sur Facebook. Ils pointent du doigt plusieurs défaillances dans la modération du réseau social. Pour cause, certains commentaires contraires à la loi française sont toujours en ligne, des mois après leur signalement.

La modération de Facebook a régulièrement fait l'objet de critiques vivaces. Bien entendu, les éléments accablants révélés par la lanceuse d'alerte Frances Haugen ne font qu'empirer la situation pour le réseau social. Cette ancienne cadre de l'entreprise a dévoilé que Facebook développait ses algorithmes pour mettre en avant les discours haineux, jugés plus rentables et engageants que d'autres sujets moins polémiques.

Bien entendu, ces commentaires toxiques et violents étaient sciemment ignorés par la modération. D'ailleurs et après la publication des informations prodiguées par Frances Haugen, Facebook a été accusé de complaisance envers plusieurs médias conservateurs pour avoir toléré des contenus extrémistes et racistes sur sa plateforme. Dans une ultime tentative de faire amende honorable, Facebook (Meta aujourd'hui) a expliqué que son IA luttait efficacement contre les contenus haineux. Ce n'était pas le cas.

Ce jeudi 10 mars 2022, l'ONG allemande HateAid et la Licra (la Ligne internationale contre le racisme et l'antisémitisme) publie une nouvelle étude sur la modération du réseau social. Les deux institutions pointent du doigt de nombreuses défaillances. Dans le cadre de cette analyse, HateAid a collecté 2,4 millions de commentaires publiés sur des pages Facebook françaises relatives à des sujets politiques et d'actualité.

À lire également : Facebook exempte 5,8 millions de personnalités de ses règles de modération

Des manquements fragrants de la modération de Facebook

Grâce à un outil d'apprentissage automatisé, ils ont sélectionné les 280 commentaires les plus toxiques et les plus violents. Ils les ont ensuite signalés auprès de la modération de Facebook, via l'option disponible Signaler un contenu. Sans surprise, 70% des commentaires en question étaient toujours présents en ligne des mois après leur signalement.

Comme le dénonce l'ONG allemande, ces manquements de la part de la modération de Facebook sont particulièrement inquiétants, d'autant que ces commentaires violent les règles d'utilisation de Facebook, mais aussi la loi française. “Nos juristes ont estimé que 94% des commentaires signalés qui n'ont pas été supprimés sont contraires à la loi”, assure HateAid, avec des menaces de mort comme “Et une balle dans ta tronche de PD, ça serait suffisant”. 

Les deux associations rappellent que dans quatre cas sur cinq, les auteurs de signalements n'ont pas été tenus informés des actions prises par le réseau social. Pourtant, cela fait partie des engagements forts de Facebook. En d'autres termes, la modération du réseau social est encore loin de tenir toutes ses promesses.

Source : Le Monde