Accueil » Actualité » Twitch : l’apprentissage automatique détecte les utilisateurs qui reviennent après un bannissement

Twitch : l’apprentissage automatique détecte les utilisateurs qui reviennent après un bannissement

Twitch va se servir de l’apprentissage automatique pour détecter les utilisateurs qui reviennent sous un autre pseudo alors qu’ils ont été bannis d’une chaîne spécifique. La plateforme de streaming renforce ainsi sa lutte contre le harcèlement.

Twitch vient d’ajouter un nouvel outil activé par défaut sur toutes les chaînes de sa plateforme. Il s’appelle « Suspicious User Detection » et, comme son nom l’indique, il sert à détecter les utilisateurs suspicieux. Le nouvel outil se sert de l’apprentissage automatique pour détecter les utilisateurs qui tentent d’échapper à leur bannissement.

Twitch
Twitch – Crédit : Caspar Camille Rubin / Unsplash

Sur Twitch, les streamers et modérateurs d’une chaîne peuvent bannir temporairement ou définitivement un utilisateur qui enfreint les règles. Ces règles sont propres à chaque chaîne, mais les messages haineux, violents, racistes, sexistes et politiques sont généralement interdits sur la majorité des chaînes. Twitch a évidemment aussi ses propres règles qui doivent être respectées sur la plateforme, toutes chaînes confondues. Par exemple, des mots sensibles comme « obèse » sont interdits sur Twitch.

Le Suspicious User Detection de Twitch trie les utilisateurs « possibles » ou « probables » qui tentent d’échapper à un ban

Le bannissement ne suffit pas toujours à arrêter le harcèlement d’un utilisateur qui crée aussitôt un nouveau compte Twitch pour revenir sur la chaîne et réitérer ses propos. Avec son nouvel outil, Twitch qui est enfin disponible sur la Nintendo Switch compte bien mettre fin à ce phénomène tout en luttant contre le harcèlement sur sa plateforme.

Quand il est activé, le Suspicious User Detection identifie les utilisateurs « probables » ou « possibles » qui ont déjà été bannis. Le modèle d’apprentissage automatique détecte ces utilisateurs en évaluant leur comportement et en analysant les données de leur compte. Il compare ensuite les informations obtenues avec celles des comptes qui ont été bannis de la chaîne d’un streamer.

Les utilisateurs « probables » détectés par l’outil peuvent envoyer des messages sur le chat, mais ils seront uniquement visibles par le streamer et les modérateurs. Un avertissement d’utilisateur suspicieux est placé juste avant son pseudo. Quant aux utilisateurs « possibles », leurs messages apparaissent sur le chat, mais les modérateurs et le streamer peuvent les bloquer.

Alison Huffman qui est la responsable des produits pour la santé communautaire chez Twitch a déclaré que : « lorsque nous parlions avec les modérateurs au sujet de leurs points faibles, nous avons entendu qu’il peut être difficile de distinguer si un utilisateur qui a enfreint les règles de la chaîne est un harceleur dangereux et répétitif ou simplement un nouveau viewer qui ne les a pas lues ». Enfin, le Suspicious User Detection est activé par défaut, mais les streamers peuvent le désactiver. Il est encore trop tôt pour évaluer son efficacité face aux harceleurs prêts à tout pour nuire.

À lire aussi > Twitch : plus de 350 nouveaux tags pour décrire les streams tels que Noir, transgenre et handicapé

Source : The Verge