Accueil » Actualité » Sur YouTube, l’IA vous demande de modifier votre commentaire s’il est offensant

Sur YouTube, l’IA vous demande de modifier votre commentaire s’il est offensant

YouTube se dote d’une nouvelle fonctionnalité pour améliorer la plateforme, et surtout les commentaires des vidéos. L’intelligence artificielle analyse votre commentaire avant qu’il soit posté et vous demande de le modifier si elle l’estime offensant.

Le message qui apparaît si l'IA détecte un commentaire offensant
Le message qui apparaît si l’IA détecte un commentaire offensant – Crédit : YouTube

Sur YouTube, le géant des plateformes d’hébergement de vidéos, les commentaires ne sont pas toujours bienveillants. Certains utilisateurs ne sont pas respectueux envers les autres ou même envers les créateurs de contenu. C’est par exemple le cas sur des vidéos dont le contenu peut offusquer. On peut notamment citer celle de la PlayStation 5 violemment détruite pour faire le buzz. Plusieurs commentaires n’étaient pas du tout respectueux. YouTube a donc décidé de prendre des mesures pour améliorer l’espace commentaire.

L’IA avertit des commentaires offensants, mais elle ne les supprime pas automatiquement

Dorénavant, l’intelligence artificielle de Google va analyser tous les commentaires avant qu’ils soient postés. Si l’IA détecte des propos qui sont potentiellement offensants, un message s’affiche. Il demande à l’utilisateur de consulter le règlement de la communauté. Deux options se présentent alors. D’une part, il peut décider de modifier son commentaire s’il reconnaît que certains propos auraient pu être évités. D’autre part, l’utilisateur poste tout de même son commentaire sans aucune modification. Comme l’entreprise l’a précisé sur son blog, cela va permettre à « encourager des conversations respectueuses sur YouTube ».

Cette fonctionnalité est déjà déployée sur l’application Android. Bien entendu, YouTube se réserve toujours le droit de supprimer les commentaires qui ne respectent pas le règlement de la communauté. Par contre, cela ne signifie pas pour autant que tous les commentaires détectés par l’intelligence artificielle seront supprimés s’ils ne sont pas modifiés. D’ailleurs, l’IA est capable de reconnaître les propos offensants en se basant sur les commentaires qui ont déjà été signalés par le passé.

YouTube prend régulièrement de nouvelles mesures pour limiter les interactions négatives sur sa plateforme, mais aussi la désinformation. En effet, l’entreprise avait supprimé toutes les vidéos de fake news sur les vaccins contre la COVID-19 il y a deux mois. Plus récemment, YouTube a annoncé tester une fonctionnalité qui ajoute automatiquement des chapitres aux vidéos. Cela permet aux utilisateurs de facilement naviguer entre les différentes parties d’une vidéo.

Source : CNET