D'après la lanceuse d'alerte à l'origine des récentes révélations sur les effets pervers d'Instagram sur la santé mentale des adolescents, Facebook encourage les discours haineux sur ses plateformes pour faire du profit.

Comme vous le savez peut-être, le Wall Street Journal (WSJ) a publié une enquête coup de poing fin septembre 2021. L'article révélait notamment qu'Instagram était néfaste pour la santé mentale des adolescents. Bien entendu, les résultats de ces tests réalisés en interne par Facebook étaient restés secrets, et c'est grâce à la lanceuse d'alerte Frances Haugen que le WSJ a pu mettre la main sur ces documents accablants.

Jusqu'alors, la source du WSJ était restée anonyme, mais la data-scientifique de 37 ans a décidé de prendre la parole à la TV américaine ce dimanche 3 octobre 2021. Lors d'une interview exclusive pour l'émission 60 minutes (ndlr : le magasine star d'informations de CBS), elle explique que Facebook a développé ses algorithmes de sorte qu'ils mettent en avant les discours haineux, bien plus “rentables” et “engageants” que d'autres sujets moins polémiques.

Facebook priorise la croissance plutôt que la sécurité

Diplômée d'Harvard, elle fait ses armes chez Google et Pinterest notamment avant de rejoindre Facebook en 2019 au département Civil Integrity (Intégrité Civique), un service qui était censé prévenir et lutter contre la désinformation durant les élections présidentielles américaines. Seulement, une fois les élections conclues, Facebook dissout le département et supprime les paramètres mis en place pour réduire la diffusion de la désinformation afin “de prioriser la croissance plutôt que la sécurité”, assure-t-elle.

La suppression du Civil Integrity a été pour elle un électrochoc : “Je n'avais plus confiance dans leur volonté d'investir ce qui doit réellement être investi pour empêcher Facebook d'être dangereux. Il y avait visiblement un conflit entre ce qui était bon pour le public et ce qui était bon pour Facebook”, dit-elle à l'antenne de CBS.

Comme elle le précise dans l'entretien donné à CBS, c'est le manque de transparence et l'irresponsabilité de Facebook qui l'ont poussé à prendre la parole et à dévoiler ces quelque 10 000 documents internes qu'elle a pris soin de compiler et regrouper au fil des années. On y découvre que Facebook est au courant de tous les effets négatifs que provoquent ces services : favorisation des discours haineux, polarisation du débat politique, dégâts sur la santé mentale des plus jeunes, etc.

À lire également : Facebook ment dans ses rapports officiels – les articles anti-vaccins sont volontairement supprimés

Facebook a un impact catastrophique dans les pays instables

Ainsi, un document interne révèle que “la désinformation, la toxicité et le contenu violent sont excessivement répandus parmi les reshares”. Plus grave encore, il est écrit dans une autre note que Facebook a “des preuves provenant de diverses sources que les discours haineux, les discours politiques diviseurs et la désinformation sur Facebook et la famille d'applications affectent les sociétés du monde entier”.

D'après elle, l'influence de Facebook dans certains conflits est indéniable. Elle fait notamment référence au génocide au Myanmar où Facebook a été largement utilisé par les forces militaires en place pour traquer les Rohingyas. “Il y a une blague au service Civic Integrity qui dit que pour connaître les prochains pays en crise dans le monde, il faut regarder ceux qui ont commencé à être connectés à Facebook deux ans auparavant”, se remémore-t-elle au micro de Scott Pelley.

Dans l'argumentaire de Frances Haugen, il y a un point qui revient constamment : la volonté systématique de Facebook de mettre en avant discours haineux, désinformation et polarisation politique au centre de l'expérience utilisateur pour préserver ces revenus publicitaires. “Facebook a réalisé qu'ils changeaient l'algorithme pour que la plateforme soit plus sûre, moins de personnes resteront sur la plateforme, cliqueront sur moins de publicité et Facebook fera moins de profit”.

Les nouveaux algorithmes ont mis la haine au centre de l'expérience

Comme dit plus haut, ce sont les changements algorithmique effectués en 2018 qui ont permis de mettre en avant les contenus haineux sur les différents entités du groupe Facebook. À partir de cette date, l'engagement est roi et Facebook a rapidement constaté que les publications qui en suscitent le plus sont celles qui distillent la peur et la haine chez les utilisateurs. “Il est plus facile d'inciter les gens à la colère qu'à d'autres émotions”, reconnaît-elle.

Durant la publication des “Facebook Files” du Wall Street Journal, l'ancienne collaboratrice a déposé 8 plaintes contre le réseau social auprès des autorités fédérales compétentes. Elle doit d'ailleurs être entendue au Sénat ce mardi 5 octobre 2021 au sujet des révélations effectuées dans le quotidien et à l'antenne de CBS. Avant la diffusion de l'entretien, le vice-président de Facebook Nick Clegg est monté au créneau sur CNN, affirmant que ces allégations sont “ridicules” et qu'elles donnent “un faux réconfort de supposer qu'il doit y avoir une explication technologique, ou technique, aux problèmes politiques des États-Unis”.

Source : 60 minutes