Quand Google Photos confond des noirs avec des gorilles

Cela fait longtemps que Google travaille à améliorer ses différents services de gestion de photos, notamment grâce à des algorithmes de reconnaissance des formes. Ainsi, Google Photos est capable de classer vos clichés par catégories en fonction de ce qu’ils contiennent : une photo de voiture, par exemple ira automatiquement dans la section idoine. Mais récemment, le service a été à l’origine d’un scandale, après avoir confondu deux personnes noires et les avoir classées dans la catégorie « gorilles ».

C’est un utilisateur américain du service, Jacky Alciné, qui a découvert cette erreur en voyant qu’une photo de lui et une amie, noire elle aussi, avait été classée dans la mauvaise catégorie. Après avoir simplement partagé la capture d’écran sur Twitter, il a reçu une réponse presque immédiate de Yonatan Zunger, un des responsables de la partie sociale de Google, lui expliquant qu’à l’évidence, ce comportement n’était pas normal. Dont acte : la catégorie concernée a été retirée dans les heures qui ont suivi.

Ce n’est pas la première fois qu’un logiciel de reconnaissance d’image affiche des résultats erronés, comme le prouve l’application How-Old, lancée récemment par Microsoft, et qui avait tendance à vieillir considérablement certains sujets en essayant de deviner leur âge. Dans ce cas, l’erreur est d’autant plus retentissante qu’elle reflète un problème de racisme qui anime beaucoup de tensions, surtout aux États-Unis. Il est toutefois difficile d’accuser une application, dont le fonctionnement est automatique, de racisme, et il est difficile d’imaginer qu’une personne chez Google ait volontairement « provoqué » ce bug. Les programmes de reconnaissance faciale sont connus pour être facilement mis en déroute par les visages à la peau sombre, qui ne sont parfois tout simplement pas reconnus.

Posez une question dans la catégorie News du forum
Cette page n'accepte plus de commentaires
2 commentaires
    Votre commentaire
  • Papounet17000
    De plus sur la photo, la fille fait la même mimique qu'un singe donc c'est assez logique avec le couleur de peau en plus que l'application l'ai mise dans la mauvaise catégorie.
    0
  • Roldie Gloria
    ce n'est pas normale car les noirs ne sont pas comme des forilles
    0