Comment Facebook modère-t-il les contenus ? Dans un long témoignage relayé par BBC, une modératrice, Sarah Katz, raconte 8 mois de travail pour le réseau social : ses conditions de travail, le type de contenus qu'elle était amenée à voir à longueur de journée, et leur impact psychologique. Une plongée intéressante dans les coulisses infernales du réseau social, alors que Facebook renforce ses équipes de modération, pour tenter de mettre fin aux critiques. 

BBC rapporte le témoignage de Sarah Katz, l'une des milliers de modérateurs humains qui vérifient les signalements des internautes et modèrent Facebook. Sarah Katz a travaillé pour la modération du réseau social pendant huit mois en 2016 – avant l'élection de Donald Trump, donc, et que le terme fake news ne devienne un véritable mantra. Son témoignage donne néanmoins un aperçu de ce à quoi ces modérateurs sont en permanence exposés et leurs conditions de travail.

Facebook : plongée dans l'envers du décor de la modération

“Il faut vraiment se préparer à voir de tout dès le premier clic. Vous pouvez être choqué par des choses très vite, sans prévenir“, raconte-t-elle. Elle poursuit en ajoutant : “c'est surtout de la pornographie“. “L'un des contenus qui reste gravé dans ma tête, c'est de la pornographie infantile“, poursuit-elle, “On comprenait vraiment qu'un adulte leur disait quoi faire derrière la caméra. C'était très dérangeant, principalement parce que vous pouviez voir que c'était vrai“.

Elle raconte aussi d'autres cas : “il y a aussi beaucoup de violence, par exemple une femme avec la tête explosée et dont la moitié du corps était au sol et le torse debout sur une chaise”. Ou encore : “de la zoophophilie. Il y en avait une avec un cheval qui circulait”. Le reste des contenus signalés : essentiellement de la pornographie adulte.  Elle explique que ce genre de posts circulent et qu'il est du coup assez difficile de retourner la source. Ce genre de contenus à un rythme de 1000 posts à modérer par heure, ont un impact psychologique certain.

Sarah Katz, recrutée par une agence en Californie, raconte que ses employeurs l'ont averti de ce à quoi elle devait s'attendre. Hélas à l'époque à laquelle elle travaillait pour Facebook, il n'était pas encore question de soutien psychologique – elle affirme qu'elle en aurait profité si cela avait été disponible : “certains pensent qu'ils peuvent le supporter, mais il s'avère qu'ils ne le peuvent pas, ou que c'est en réalité pire que ce à quoi ils s'attendaient“. “Vous devenez assez insensible plus le temps passe. Je ne dirais pas que ça devient plus facile, mais vous vous habituez“,  remarque-t-elle. 

Elle revient enfin sur les fake news : à l'époque, explique-t-elle, de nombreux articles étaient déjà signalés par les utilisateurs. Mais le travail des modérateurs ne consistait pas selon elle encore à vérifier la véracité des informations. Recommanderait-elle de faire ce métier ? “Si vous avez le choix, je dirais non“. Dans la foulée de sa publication, un porte-parole de Facebook a réagi : “nos modérateurs jouent un rôle crucial pour faire de Facebook un environnement sûr et ouvert. Cela peut être un travail très difficile, et on veut faire en sorte qu'ils se sentent suffisamment soutenus“.

“C'est pour cela que nous offrons régulièrement formations, conseils, et soutien psychologique à tous nos employés et à tous ceux qui travaillent pour nous via nos partenaires. Bien que nous utilisons l'intelligence artificielle où nous le pouvons, il y a maintenant plus de 7000 personnes qui modèrent les contenus sur Facebook, et se préoccuper de leur bien-être est une vraie priorité pour nous“, conclut-il. Vous pouvez lire l'intégralité de ce témoignage (en Anglais) sur le site de BBC. Avez-vous déjà fait ce genre de travail ? Le feriez-vous ? Partagez-votre opinion dans les commentaires de cet article.