Twitch a enfin publié une déclaration sur la pornographie par deepfake et mis à jour sa politique d’utilisation après un incident survenu en janvier et impliquant plusieurs streamers de premier plan.

L'année 2023 a commencé par un nouveau type de scandale très grave. En effet, le streamer Atrioc s'est rendu en direct dans son live sur un site web, qui présentait des images explicites et truquées de streamers féminins, dont Maya Higa ou encore Pokimane. Il semblerait qu’il s’agisse du même site que nous évoquions il y a quelques mois, qui voyait sa base d’utilisateurs augmenter de manière inquiétante.

Pour éviter que cela ne se reproduise, Twitch a publié une longue déclaration concernant sa position sur la controverse et sur ce que l'entreprise appelle les « images synthétiques d'exploitation non consensuelle » ou NCEI. « En janvier, un bref incident de ‘deepfake porn' a été diffusé en direct sur Twitch », peut-on lire dans le billet. « Ce moment a causé une immense détresse à ceux dont les images ont été utilisées sans leur consentement, et a déclenché une vague de conversations sur les dangers que peut poser l'imagerie explicite générée par l'IA ».

Lire également – Deepfake : des escrocs usurpent l’identité d’experts pour voler les données sensibles des entreprises

Twitch resserre la vis autour des contenus partagés contenant des deepfakes

Le message explique ensuite que toute personne qui partage intentionnellement ce contenu adulte non consensuel s'expose à une suspension indéfinie immédiate, même en cas de première infraction. Ce sera le cas, quel que soit le contexte dans lequel le contenu est montré, le site ajoutant que les utilisateurs seront toujours bannis s'ils montrent des sites “deepfake” pour « exprimer leur indignation ou leur désapprobation » à l'égard du contenu.

Il s’agit donc d’un grand pas dans la bonne direction pour la plateforme. Auparavant, la position de Twitch sur les deepfakes était extrêmement limitée. Elle ne les mentionnait que dans le contexte du « partage de contenu artistique ou trafiqué pour abuser ou dégrader une autre personne ». Cependant, Twitch interdisait bien la « diffusion ou le téléchargement de contenu contenant des représentations de nudité réelle » et menaçait des créateurs de les bannir immédiatement en cas de « violence et exploitation sexuelles ».