Il suffit de vous regarder pour savoir qui vous êtes et où vous habitez, l’outil créé par ces étudiants est terrifiant
Deux étudiants ont mis au point un système IA capable de trouver toutes les informations personnelles concernant une personne rien qu'en la regardant avec des lunettes connectées.
“Excusez-moi, vous êtes bien madame X ? Vous avez étudié à l'Université Y et en ce moment vous travaillez pour l'entreprise Z c'est bien ça ?” La scène se passe dans un métro. Une personne vient d'en accoster une autre et, malgré ce que laisse penser les questions précises, les deux ne se sont jamais rencontrées. Pourtant, toutes les informations citées sont exactes et il n'a fallu que quelques secondes pour les obtenir. Comment ? Simplement en regardant l'inconnu.
Nous ne sommes pas dans un film d'anticipation ou un épisode de Black Mirror, mais bien en 2024 à Cambridge aux États-Unis. AnhPhu Nguyen et Caine Ardayfio, deux étudiants d'Harvard, se sont juste servis de l'outil qu'ils ont créé parce qu'ils pensaient que “ce serait intéressant, ce serait cool“. Ça l'est peut-être, mais il est surtout très inquiétant quand on voit à quel point il est efficace.
Vous regarder quelques secondes suffit à trouver votre nom, adresse et numéro de téléphone
Le programme mis au point par les deux amis s'appelle I-XRAY. Installé sur une paire de lunettes connectées Ray-Ban Meta 2, son fonctionnement est le suivant : la caméra intégrée filme et envoie les images sur Instagram Live, un flux vidéo en direct.
L'intelligence artificielle repère alors un visage, la téléverse sur Pimeyes, une base de données de visages publique, puis fouille les résultats qu'elle fournit pour trouver un maximum d'informations sur la personne. Le tout est ensuite affiché sur le smartphone de “l'espion” via une application développée pour l'occasion.
Lire aussi – Reconnaissance faciale : 50 millions de personnes vont être surveillées par la police dans ce pays
Nom, prénom, numéro de téléphone, adresse, parcours scolaire et professionnel… Si c'est disponible publiquement sur le Web, I-XRAY le trouve et le synthétise. Une démonstration publié sur X (Twitter) et visible ci-dessous montrent des résultats saisissants. Les deux comparses sont capables d'accoster n'importe qui dans la rue et faire comme s'ils les connaissaient grâce aux renseignements glanés.
Are we ready for a world where our data is exposed at a glance? @CaineArdayfio and I offer an answer to protect yourself here:https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
— AnhPhu Nguyen (@AnhPhuNguyen1) September 30, 2024
Les créateurs de l'outil alertent sur les dangers de la reconnaissance faciale automatique
“Le but de la création de cet outil n'est pas d'être utilisé à mauvais escient et nous ne le publions pas. Notre objectif est de démontrer les capacités actuelles des lunettes intelligentes, des moteurs de recherche de visages, des grands modèles de langage et des bases de données publiques, en sensibilisant au fait qu'il est aujourd'hui possible d'extraire l'adresse d'une personne et d'autres informations personnelles à partir de son seul visage dans la rue“, écrivent Nguyen et Ardayfio dans un document détaillant leur travail.
Bien que techniquement, n'importe quelle caméra peut être utilisée avec I-XRAY, le choix d'une paire de lunettes connectées Ray-ban Meta 2 n'est pas anodin. Leur design fait qu'elles ressemblent à des lunettes classiques. Certes, quand vous filmez avec, une lumière s'allume pour l'indiquer aux gens autour de vous. Mais dans une foule ou même en pleine lumière, difficile de la distinguer ou d'être sûr que vous êtes la “cible”.
Meta rappelle que vous n'êtes pas censé cacher l'utilisation de l'appareil pour filmer, et encourage à se servir de commandes vocales intelligibles pour prévenir les passants. Rien de vous oblige à le faire cependant. Caine Ardayfio espère que dévoiler ce genre de dérives permettra une prise de conscience collective, en rappelant qu'il est possible de demander aux sites Web d'effacer les données personnelles qu'ils possèdent sur nous.
Source : 404 Media
