Accueil » Actualité » Facebook utilise par erreur le mot « primates » pour faire référence à des personnes noires

Facebook utilise par erreur le mot « primates » pour faire référence à des personnes noires

Nouvelle gaffe du géant Facebook. Les utilisateurs du réseau social ont eu la surprise de découvrir le mot « primates » dans une recommandation de vidéos montrant des personnes noires.

Le New York Times vient de révoiler une erreur très embarrassante pour Facebook. Cette semaine, des utilisateurs sont tombés sur une recommandation très choquante du réseau social. Après avoir regardé une vidéo qui montrait entre autres des personnes noires, ces derniers ont vu apparaître un message leur proposant de « voir plus de vidéos sur les primates ».  

Facebook : une nouvelle erreur très gênante
Facebook : une nouvelle erreur très gênante – Crédit : pixabay

Pourtant, la vidéo en question, intitulée « White man calls cops on black men at marina. » (« Des hommes blancs appelent la police pour des hommes noirs à la marina »), ne contenait aucune image de singes ou autres primates. Pas de chance pour Facebook, Darci Groves, ancienne designer de contenus de la firme de Zuckerberg, fait partie de ces utilisateurs. Celle-ci a publié une capture d’écran du message sur Twitter, le qualifiant évidemment « d’inacceptable ».

Facebook a donc dû réagir très vite. Le réseau social a présenté des excuses « à tous ceux qui ont pu voir ces recommandations offensantes ». Facebook a ajouté avoir immédiatement désactivé son outil de recommandation en lien avec ce sujet et promet d’enquêter sur la cause du problème.

Facebook, YouTube : des algorithmes de recommandation encore très défaillants

La plateforme aux trois milliards d’abonnés n’est pas la seule à se retrouver au cœur de tels scandales. YouTube, dont l’outil de recommandation serait à l’origine de 70% des visionnages de ses utilisateurs, a encore bien du mal à contrôler ses suggestions. Selon une récente étude de Mozilla, 71% des vidéos recommandées par l’AI du réseau seraient problématiques. Au programme, contenus violents, racistes, ou encore fake news. Des vidéos qui violent évidemment toutes les règles de la plateforme Google.

Les réseaux sociaux tels que Facebook et YouTube affirment redoubler d’efforts pour entraîner leur intelligence artificielle à mieux catégoriser les contenus. Mais les systèmes de reconnaissance faciale, à l’origine de cette nouvelle erreur scandaleuse, ont encore de nombreuses failles à corriger. Aux États-Unis, déjà trois personnes ont été accusées et arrêtées à tort en raison d’une erreur d’un outil de reconnaissance faciale.

Source : Engadget