Meta veut détecter les fichiers audio générés par IA, mais il y a un hic
Meta a développé un nouvel outil appelé capable de marquer les discours générés par l'intelligence artificielle. Cette innovation vise à lutter contre l'utilisation croissante des outils de clonage vocal pour des arnaques et de la désinformation. Aussi prometteuse qu’elle y paraisse, cette technologie est encore loin d'être au point.
Les technologies de génération de contenu par intelligence artificielle sont de plus en plus sophistiquées. Elles sont utilisées dans divers domaines et vont de la création artistique à l’imitation de voix humaines. Toutefois, cette avancée technologique présente aussi des risques importants, notamment en matière de désinformation et de fraude, comme récemment sous la forme de deepfakes qui imitaient Kylian Mbappé.
Meta continue d'intégrer l'IA dans ses applications mobiles telles que Facebook, Instagram, Messenger et WhatsApp et rend son utilisation presque inévitable pour les utilisateurs. Mais pour répondre aux préoccupations concernant les abus de cette technologie, la société vient de présenter AudioSeal. Ce système permet d'intégrer des signaux cachés dans les pistes audio générées par intelligence artificielle. Appelés filigranes ou watermarks, ils sont conçus pour être détectés facilement.
Cet algorithme de Meta permet de détecter facilement les deepfakes, mais il est encore inutile
AudioSeal se distingue par sa capacité à marquer des segments spécifiques d'un long fichier audio, comme un podcast d'une heure, pour signaler les parties générées par IA. Cela pourrait aider à combattre les deepfakes et les arnaques vocales, notamment celles utilisant des voix de personnalités publiques durant ces périodes d'élections. Meta affirme que son système atteint une précision de détection des filigranes comprise entre 90 % et 100 % et qu’elle surpasse toutes ses précédentes tentatives.
Malgré son potentiel, AudioSeal présente plusieurs limites. Actuellement, il n'existe pas de norme industrielle pour les filigranes audio. Cela signifie que ceux-ci peuvent être facilement modifiés ou supprimés. De plus, Meta n'a pas encore prévu d'appliquer ces watermarks aux audios générés par ses propres outils. Cette technologie nécessite également que les utilisateurs ajoutent volontairement ces watermarks à leurs propres fichiers audio, on imagine mal les pirates qui veulent voler vos codes d’identification les intégrer. Enfin, le fait que les détails sur cet algorithme soit public peut rendre le système vulnérable aux attaques.
-
L’application ChatGPT est disponible gratuitement sur Mac, à quand sur Windows ?L’application ChatGPT n’est plus réservée aux abonnés sur macOS, elle peut maintenant être utilisée à partir d’un compte gratuit. Une app devrait aussi arriver prochainement sur Windows. C’est une petite incongruité : Microsoft a investi des milliards de dollars dans…
-
Vous rêvez de discuter avec des célébrités ? Google a peut-être la solution
Google lance une expérimentation qui permettra à tout le monde de créer des IA se comportant comme ses célébrités et influenceurs préférés. À vous les discussions passionnées avec Taylor Swift ou Squeezie. Qui n’a jamais rêvé de papoter tranquillement avec…
-
ChatGPT, c’est dépassé : voici la nouvelle IA qui fait mieux à tous les niveaux
Anthropic vient de lancer Claude Sonnet 3.5, une nouvelle version de son modèle d’IA. Celui-ci double la vitesse de son prédécesseur et dépasse ChatGPT dans plusieurs domaines. Claude 3.5 offre de nouvelles fonctionnalités qui sont à la fois impressionnantes et…
-
Cette IA voit le futur, elle détecte si vous risquez une crise cardiaque dans 10 ans
Grâce à l’intelligence artificielle, il est possible de repérer les risques d’avoir une crise cardiaque jusqu’à 10 ans après avoir passé un scan. La technologie a été testée avec succès sur de nombreux patients. On a beau craindre que l’intelligence…
-
L’IA pourrait bientôt aussi se faire taxer ! Personne n’échappe au Fisc
Le FMI propose une nouvelle taxe pour compenser les impacts de l’IA et les émissions de CO2 générées par l’énergie utilisée pour les créer. La révolution de l’intelligence artificielle est en marche, elle offre maintenant des gains de productivité et…
-
Cet aimant créé par l’IA pourrait aider à protéger l’environnement, mais comment ?
Une entreprise britannique annonce la création d’un aimant permanent écologique et économique. Une avancée majeure dans le domaine de la protection de l’environnement. Vous avez déjà tous vu une voiture électrique ou une éolienne. Mais vous êtes-vous déjà demandé comment…
-
Si vous savez répondre à cette question, vous êtes plus intelligent que ChatGPT
Des chercheurs ont testé de nombreux modèles d’intelligence artificielle sur une question de logique simple et presque tous ont échoué. Parviendrez-vous à trouver la réponse ? À votre avis, l’intelligence artificielle est-elle supérieure aux êtres humains ? Il ne s’agit…
-
Il discute avec ChatGPT par la pensée, plus besoin de parler ou d’écrire !
Une start-up britannique a mis au point une IA qui décrypte les pensées de son utilisateur et les transforme en données. Le modèle envoie ensuite celles-ci à ChatGPT pour créer une discussion. Plus besoin de clavier, de souris ou de…
-
Cette fonction bien pratique de l’IA Copilot va disparaître, Microsoft ne veut plus que vous l’utilisiez
Quelques mois seulement après son lancement, Microsoft va retirer la fonctionnalité Copilot GPT Builder de l’abonnement Copilot Pro. Introduit en mars, ce service permettait aux utilisateurs de créer leurs propres assistants IA personnalisés. En janvier, Microsoft a lancé Copilot Pro,…
-
Des IA ont été entraînées illégalement avec des photos d’enfants selon ce rapport
Dans un rapport alarmant, l’organisation Human Rights Watch dévoile que plusieurs outils d’intelligence artificielle ont été entraînés avec des clichés d’enfants récupérés sur Internet sans consentement. Parfois des années après leur mise en ligne. Derrière les possibilités quasi-infinies de l‘intelligence…
