Facebook Messenger accueille de nouvelles fonctionnalités visant à protéger les utilisateurs contre les profils d'arnaqueurs d'une part, et les mineurs contre les adultes au comportement douteux. De nouveaux outils embarqués à base à l'intelligence artificielle vous alertent désormais lorsque vous discutez avec un pervers ou un escroc.

Pour tenter de contrer l’augmentation des cas d'escroqueries et autres interactions indésirables sur Facebook Messenger, le réseau social vient de présenter des fonctionnalités pour aider les utilisateurs et surtout les plus jeunes à se protéger des profils malveillants. Ces outils à base d'intelligence artificielle vont « aider des millions de personnes à potentiellement éviter des interactions dangereuses et des arnaques, sans compromettre leur vie privée », a expliqué Jay Sullivan, responsable de la sécurité des produits chez Facebook.

Aucune incidence sur le chiffrement de bout en bout

Facebook compte bientôt activer le chiffrement de bout en bout sur Messenger par défaut. La fonctionnalité est déjà disponible via une option des conversations secrètes. On se demande alors comment le réseau social compte repérer les profils dangereux sans accéder au contenu des messages. Facebook se veut rassurant à ce sujet. « Nous avons conçu cette fonctionnalité de sécurité pour qu'elle fonctionne avec le chiffrement complet », a déclaré Sullivan.

À défaut de lire le contenu des messages, la plateforme s'appuiera sur l'analyse de métadonnées et de modèles de comportement à l'aide du machine learning. Par exemple, l’envoi de messages et d'invitations à grande échelle. Le système s'appuie également sur les signalements rapportés aux équipes de modération.

L'objectif est de proposer aux utilisateurs des conseils salvateurs en cas d’interactions avec des profils d'arnaqueurs et de pervers, sans oublier le harcèlement qui trouve en la plateforme un terrain propice. Des messages d'alerte aideront les utilisateurs à se prémunir de ces abus. « Trop souvent les gens discutent avec quelqu’un en ligne qu’ils pensent connaître, alors qu’il s’agit d’un imposteur », a expliqué Jay Sullivan. « Ces faux comptes sont difficiles à identifier et les conséquences peuvent coûter cher ».

Facebook a déjà commencé à déployer la fonctionnalité sur Android depuis le mois de mars et annonce sa disponibilité sur iOS. Elle vise en partie à combler le fossé entre Messenger et Messenger Kids, l'alternative adaptée aux enfants qui embarque déjà de nombreux outils pour protéger les mineurs d'une interaction avec de potentiels pédocriminels.