Facebook travaille sur une IA capable de détecter les "meme" haineux

La modération de Facebook devrait bientôt faire des progrès grâce à l'intelligence artificielle. Un article posté sur le blog des développeurs de Facebook nous apprend que ceux-ci travaillent actuellement sur un programme d'intelligence artificielle capable de lire les "meme" postés par les utilisateurs et de déterminer leur caractère haineux ou non.
Évidemment, le volume d'information posté chaque jour sur Facebook et Instagram, la multitude de langues utilisées et les subtilités de langage ne vont pas simplifier la tâche des développeurs. Il n'est pas question ici d'une simple reconnaissance de caractères, mais bien de comprendre le contexte en fonction de l'image associée.

Afin de résoudre ces questions, ils ont développé Rosetta, un système d'apprentissage automatique (machine learning) à grande échelle. Rosetta va procéder en 2 étapes : détection et reconnaissance.
L'algorithme va donc chercher du texte dans les zones qui sont susceptibles d'en contenir, puis va extraire le texte.
Ensuite à charge de l'intelligence artificielle de déterminer si l'ensemble texte + image contrevient aux règles de Facebook sur le discours haineux.

Rosetta est déjà en place sur un certain nombre d'outils du réseau social, notamment pour la recherche d'image par mots-clefs.
Et son entrée dans la modération devrait être une aide précieuse aux équipes pour faire un peu de ménage parmi le milliard d'images et de vidéos postées chaque jour sur Facebook et Instagram.

Posez une question dans la catégorie News du forum
Cette page n'accepte plus de commentaires
Soyez le premier à commenter
Commenter depuis le forum
    Votre commentaire