YouTube travaille sur de nouvelles technologies pour protéger ses créateurs. Face aux dérives liées à l'usage de l'intelligence artificielle, la plateforme prépare des outils qui pourraient changer la donne dès l’année prochaine.

Les deepfakes, ces vidéos modifiées par intelligence artificielle pour imiter la voix ou l'apparence d'une personne, sont de plus en plus utilisées à des fins malveillantes. Par exemple, une récente publicité frauduleuse a utilisé l'image de Kylian Mbappé pour inciter les spectateurs à participer à des jeux d’argent en ligne. Ce type d'arnaque inquiète les créateurs de contenu, qui voient leur identité numérique être de plus en plus souvent usurpée.

YouTube a déjà pris des mesures importantes pour lutter contre ces abus. Depuis l'année dernière, les créateurs doivent indiquer clairement lorsqu’une vidéo a été modifiée à l’aide de l’intelligence artificielle, en apposant un label « IA réaliste ». Le non-respect de ces règles peut entraîner la suppression du contenu ou la démonétisation des chaînes concernées. De plus, en janvier 2024, la plateforme a renforcé ses règles en interdisant les deepfakes impliquant des victimes de violences, ainsi que les vidéos où l'IA simule des personnes décédées décrivant leur mort.

Youtube développe de nouveaux outils pour contrer les deepfakes

Pour aller plus loin, YouTube prévoit de lancer début 2025 un outil capable de détecter les voix générées par IA. Ce dernier sera intégré à Content ID, le système de gestion des droits de la plateforme. Il permettra aux créateurs, en particulier les artistes, de mieux contrôler l'utilisation de leurs voix dans des vidéos générées par intelligence artificielle. Ce dispositif offre une protection supplémentaire contre l'usurpation de leur “identité vocale”, un problème de plus en plus préoccupant à mesure que cette technologie évolue.

En parallèle, un autre outil en développement vise à identifier les deepfakes de visages. Celui-ci va permettre aux créateurs, mais aussi aux personnalités publiques, de gérer les vidéos qui utilisent leur image sans autorisation. Avec ces deux nouvelles fonctions, YouTube fait un nouveau pas en avant pour protéger les créateurs tout en encadrant l'usage de l'intelligence artificielle sur sa plateforme. De plus, ces technologies contribueront aussi à limiter la diffusion de contenus trompeurs, qui seront plus fiables et moins sujets aux manipulations.

Source : Youtube