Instagram utilise une IA pour détecter le harcèlement

Octobre est le mois national de la prévention de l’intimidation et du harcèlement aux États-Unis. À cette occasion et parallèlement à la semaine de la lutte contre l’intimidation au Royaume-Uni, Instagram compte combattre le harcèlement et de l’intimidation sur qui peuvent avoir lieu sur sa plateforme. L’an dernier, l’entreprise a déjà mis en place une option qui permettait de filtrer les spams et les commentaires désagréables. Et cette fois-ci, elle étend le filtre aux photos et aux légendes en se servant de l’intelligence artificielle pour « détecter de manière proactive l’intimidation ». Proposée aux utilisateurs dans les semaines à venir, cette nouvelle fonctionnalité servira également à filtrer les commentaires dans les vidéos en direct. Mais évidemment, les contenus suspects seront d’abord envoyés à des modérateurs humains pour examen.

>>> Lire aussi : Instagram : bientôt plus besoin de fragmenter ses vidéos pour les stories

Il s’agit ici de la première annonce du nouveau dirigeant d’Instagram, Adam Mosseri. Celui-ci succède aux cofondateurs Kevin Systrom et Mike Krieger du réseau social qui ont démissionné suite à des tensions entre eux et la société mère Facebook. Avec les nombreux scandales qui ont entaché la réputation de Facebook, Instagram se doit de maintenir une bonne image, notamment en éliminant de sa plateforme les contenus choquants.

C’est probablement la raison pour laquelle, toujours dans le cadre de cette démarche anti-harcèlement, Instagram a également lancé un « Kindness camera effect » ou littéralement « effet caméra gentillesse » pour permettre aux utilisateurs de diffuser des messages positifs. Lorsque vous utilisez cette option, l’arrière-plan de votre vidéo se remplit de « commentaires aimables en de nombreuses langues ». Et si vous basculez votre caméra en mode frontale, des cœurs s’afficheront et Instagram vous demandera de « taguer un ami que vous souhaitez soutenir ».