Alors qu’Amazon a dévoilé hier Astro, son premier robot domestique, les avis en interne ne sont pas tendres à son égard. Plusieurs sources anonymes rapportent que ce dernier ne fonctionne pas du tout. Sa reconnaissance faciale est un désastre et il va même jusqu’à tomber dans les escaliers. Sans compter la quantité phénoménale de données personnelles qu’il collecte.

Hier, Amazon a dévoilé son premier robot domestique du nom d’Astro. Équipé de plusieurs caméras, microphones et autres capteurs, celui-ci permet de constamment garder un œil sur sa maison. Il est capable de détecter les éventuels dangers et événements inhabituels, et prévient lorsqu’un inconnu fait irruption dans son domicile. Bref, Astro est la solution de sécurité pour se sentir bien chez soi, selon Amazon. Mais ses créateurs eux-mêmes ne semblent pas être du même avis.

Au-delà de son prix relativement élevé, 1499,99 dollars tout de même, c’est son fonctionnement qui pose problème. Ou du moins, les nombreuses failles dans ce dernier. Et les développeurs n’y vont pas de main morte pour les décrire. Selon deux sources internes souhaitant rester anonymes, acheter le robot serait tout simplement une erreur, tant les promesses d’Amazon sont éloignées de la réalité. Pire, il représente un réel danger pour la vie privée de ses utilisateurs.

Astro peut se jeter dans les escaliers à tout moment

Dans sa vidéo de promotion, tout semble aller — sans mauvais jeu de mots — comme sur des roulettes pour Astro. Mais la réalité serait toute autre, dévoile une personne ayant travaillé sur le projet. « Astro est terrible et se jettera certainement en bas d’un escalier si l’occasion se présente », avoue cette dernière. Elle qualifie alors la « proposition de sécurité à domicile » d’Amazon de « risible », tant ses fonctionnalités ne sont pas fiables.

Et ça ne s’arrête pas là. S’il s’avère que votre robot a bel et bien des tendances suicidaires, il y a de fortes chances qu’il ne survive pas à la chute. « L’appareil semble fragile pour un produit dont le coût est absurde », rapporte la source. « Le mât s’est cassé sur plusieurs appareils, se bloquant en position déployée ou rétractée, et il n’y a aucun moyen de le renvoyer à Amazon lorsque cela se produit. »

Astro en veut à vos données personnelles

Si ce constat est déjà bien embêtant pour Amazon, celui de l’utilisation des données personnelles des utilisateurs l’est encore plus. Dans un document interne, le système de reconnaissance et d’analyse d’Astro est appelé Sentry. Ce dernier a pour rôle de déterminer si une situation est anormale et, le cas échéant, de mener une enquête pour évaluer les risques. Cela s’applique notamment aux personnes n’étant pas enregistrées dans son répertoire comme résidant au sein de la maison.

Sur le même sujet : Pourquoi Amazon aimerait créer une sorte de robot Alexa humanoïde

« Sentry doit d’abord essayer d’identifier la personne si elle n’est pas encore inconnue pendant une durée de 30 secondes », peut-on lire dans le document. « Lorsque la personne est identifiée comme inconnue ou que 30 secondes se sont écoulées, Sentry doit commencer à suivre la personne jusqu’à ce que le mode Sentry soit désactivé ». Ce qu’Amazon appelle alors « une série d’actions menées par Sentry pour enquête » se révèle en réalité être un enregistrement vidéo et audio de la personne en question, sans que celle-ci n’ait donné son consentement.

« Selon moi, c’est un cauchemar pour la vie privée qui illustre la manière dont nous avons d’échanger nos données personnelles contre la commodité avec des appareils comme Vesta [nom de code en interne d’Asto, ndlr] », a commenté une seconde source ayant travaillé sur le robot. Cette dernière ajoute en outre que les performances en reconnaissance faciale d’Astro sont ridicules, ce qui n’est pas très rassurant compte tenu du fait qu’il est censé suivre des inconnus pour détecter leur potentielle dangerosité.

Amazon assure qu’Astro fonctionne correctement

De son côté, Amazon affirme qu’il n’y aucun problème à utiliser Astro. « Nous avons conçu Astro pour qu’il gère une grande partie du traitement des données sur l’appareil, notamment les images et les données brutes des capteurs qu’il traite lorsqu’il se déplace dans votre maison » a fait savoir le constructeur. « Cela permet à Astro de réagir rapidement à son environnement. En outre, votre identité visuelle est stockée sur l’appareil et Astro utilise le traitement sur l’appareil pour vous reconnaître. »

Ayanna Howard, experte en biais algorithmique qui a participé au projet, ajoute que « Amazon a conçu, testé et amélioré ses approches en fonction des données et du retour d’information, afin de minimiser les biais de sa fonction d’identification visuelle. Ils ont défini des objectifs de performance pertinents pour les cas d’utilisation de leurs produits, ont entraîné leurs modèles sur un grand volume de données incroyablement diverses et ont partagé avec moi suffisamment de détails sur leurs méthodes dans un effort sincère pour garantir que l’option fonctionne non seulement statistiquement bien pour tous leurs clients, mais qu’elle continue également à s’améliorer au fil du temps pour le compte de ces clients ».

Source : Vice