Apple prévoit de scanner les iPhone, iPad et iCloud à la recherche de contenus pédopornographiques. Concrètement, le géant californien va utiliser des algorithmes pour détecter des signes d'abus sexuel impliquant des enfants. De nombreux défenseurs de la vie privée craignent que cette nouvelle fonctionnalité ne soit détournée de son objectif initial. 

Ce jeudi 5 août 2021, Apple a annoncé une kyrielle de nouvelles fonctionnalités visant à endiguer la propagation de vidéos pédopornographiques sur iOS 15. La firme de Cupertino va désormais repérer les images à caractère sexuel impliquant des enfants sur ses iPhone, iPad et son serveur iCloud aux Etats-Unis.

Les photos stockées sur iCloud ou échangées par iMessage seront analysées par des algorithmes. Ces algorithmes vont comparer la signature numérique unique de l'image avec les signatures numériques de photos pédophiles contenues une base de données. Pour alimenter son système, Apple s'appuiera sur les photos fournies par le Centre national des enfants disparus et exploités (NCMEC).

Lire aussi : iOS 15 retire automatiquement les effets de lumière parasites des photos

Edward Snowden critique les nouvelles mesures d'iOS 15

Si la signature correspond, la photo sera marquée. Une fois qu'un compte dépasse un certain seuil de clichés marqués, un algorithme accèdera à la photographie afin de vérifier la présence de contenus répréhensibles. Un employé pourra alors jeter un oeil à l'image. En cas de contenu illégal, le compte sera rapporté aux autorités.

Dans la même optique, Apple va garder un oeil sur les images échangés par des comptes d'enfants liés à un abonnement familial. Si l'enfant envoie une image à caractère sexuel, il recevra un avertissement de la part d'iOS. Apple se réserve aussi le droit de prévenir les parents. “Nous voulons aider à protéger les enfants contre les prédateurs qui utilisent des outils de communication pour les recruter et les exploiter, et limiter la diffusion de contenus pédopornographiques”, explique Apple dans un communiqué.

Ces mesures ont suscité une volée de critiques. Pour de nombreux défenseurs de la vie privée, Apple va trop loin malgré ses intentions louables. “Apple remplace son système de messagerie crypté de bout en bout par une infrastructure de surveillance et de censure, qui sera vulnérable aux abus et aux dérives non seulement aux États-Unis, mais dans le monde entier”, regrette le Centre pour la démocratie et la technologie (CDT).

Pour le CDT, Apple intègre sciemment une porte dérobée à ses iPhone. “Le mécanisme qui permettra à Apple de numériser des images dans iMessages n'est pas une alternative à une porte dérobée – c'est une porte dérobée. L'analyse côté client à une extrémité de la communication brise la sécurité de la transmission et informer un tiers (le parent) du contenu de la communication porte atteinte à la vie privée”, tacle l'organisme.

De son côté, le lanceur d'alerte Edward Snowden craint que le système mis en place par Apple soit à terme exploité à d'autres fins. “Peu importe à quel point les intentions sont bonnes, Apple déploie la surveillance de masse dans le monde entier. Ne vous y trompez pas : s'ils peuvent rechercher du porno pour enfants aujourd'hui, ils peuvent rechercher n'importe quoi demain”, met en garde Snowden.