Twitch poursuit ses efforts pour réduire le harcèlement avec un nouvel outil qui utilise l'apprentissage automatique pour détecter les personnes qui tentent d'échapper aux bannissements en contournant le système.

Twitch a annoncé l'ajout d'un nouvel outil de sécurité sur sa plateforme de streaming. Celui-ci permettra de détecter les utilisateurs se livrant à des activités suspectes, comme ceux qui contournent le système de modération pour échapper à un bannissement.

Le nouvel outil de détection des utilisateurs suspects « Suspicious User Detection » tire parti de l'apprentissage automatique pour signaler les spectateurs qui utilisent un nouveau compte pour contourner une interdiction antérieure sur des canaux spécifiques. Une fois ces utilisateurs repérés, le streamer ou ses modérateurs peuvent prendre les mesures qu'ils jugent nécessaires.

À lire également : Twitch est enfin disponible sur toutes les Nintendo Switch

Comment va fonctionner ce nouveau système de modération ?

Après avoir créé un nouveau compte, les éventuels haters récidivistes pourront envoyer des messages dans le chat, mais ils seront directement signalés par le système. La détection des utilisateurs suspects aura deux niveaux de modération.

En effet, la classification “Probable” masquera un commentaire du chat général et le signalera pour que seuls le streamer et ses modérateurs puissent le voir et prendre des mesures contre le compte. Le deuxième niveau est la classification “Possible”, qui signalera le compte d'où provient le commentaire, mais le message restera visible dans le chat.

Twitch précise que cette nouvelle fonctionnalité sera activée par défaut pour tous les streamers, vous n’aurez donc pas à l’activer une fois qu’elle sera déployée pour votre compte. Comme tout programme qui a recours à l’apprentissage automatique, les résultats ne seront pas parfaits au début. Il faudra un certain temps pour que le programme d'apprentissage automatique devienne précis et il faut, selon Twitch, s'attendre à quelques faux positifs et négatifs.

L'introduction de cet outil fait suite à l’arrivée d’un phénomène appelé “raids haineux” au cours de l’été dernier. Ces attaques ont vu des individus malveillants utiliser des milliers de bots pour spammer les chaînes avec des propos haineux. Une streameuse nommée Squid Game avait d’ailleurs subi un déferlement de messages haineux sur ses comptes. Cette nouvelle fonctionnalité devrait donc permettre aux créateurs de mieux contrôler les haters et s’assurer qu’ils restent bannis. Ce n’est pas le seul problème de Twitch, puisque la plateforme a aussi récemment vu des pirates utiliser le système de don pour blanchir 10 millions de dollars.

Source : Mashable