En 2015, Google Photos avait confondu une personne noire avec un gorille. Suite à cet incident scandaleux, la firme avait promis de remédier au problème aussi rapidement que possible. Effectivement, depuis lors, Google Photos ne confond plus les personnes noires avec des singes. Cependant, le site Wired vient de découvrir que Google a tout simplement restreint son algorithme pour l'empêcher d'identifier les gorilles. Une drôle de manière de remédier au problème…

L'histoire débute en juin 2015. C'est à cette époque que l'ingénieur logiciel Jacky Alciné publie sur Twitter une capture d'écran sur laquelle on constate que les algorithmes de Google Photos confondent les personnes noires avec des gorilles. Gênant, pour une application comme Google Photos téléchargée plus d'un milliard de fois. Face à cette confusion pouvant facilement s'apparenter à du racisme, l'entreprise avait alors promis de remédier au problème, évoquant une « erreur ». Trois ans après l'incident, Google a enfin réparé son algorithme. Ou presque…

Google Photos n'est plus capable d'identifier les gorilles pour éviter toute confusion raciste

Comme le révèle le site Wired, pour éviter que Google Photos confonde les personnes noires avec des gorilles, la firme de Mountain View a tout bonnement supprimé les gorilles de son algorithme de reconnaissance d'image. De fait, on peut en déduire que Google a préféré restreindre son service plutôt que de remédier au problème en profondeur en apprenant à son intelligence artificielle à différencier les singes des êtres humains.

Pour vérifier son constat, Wired a effectué des tests sur des dizaines de milliers de photos de singes. Les babouins, gibbons et autres ouistitis sont identifiés correctement. En revanche, les gorilles et les chimpanzés ne sont plus reconnus. De plus, il est désormais impossible de rechercher des mots-clés comme « homme noir » ou « femme noire ». Google a confirmé que les catégories d'images correspondant aux singes sont bloquées depuis l'incident survenu en 2015. Selon un porte-parole de la firme, la technologie de reconnaissance d'image n'est pas encore parfaite et Google n'a pas trouvé de meilleure alternative.

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4

— Jacky Alciné (@jackyalcine) June 29, 2015