Accueil » Actualité » Panne Facebook et Instagram : l’algorithme sait tout de nos photos

Panne Facebook et Instagram : l’algorithme sait tout de nos photos

Un bug de Facebook et Instagram a dévoilé aux utilisateurs des informations sur la manière dont l’IA étiquette leurs photos.

Image 1 : Panne Facebook et Instagram : l’algorithme sait tout de nos photos

Les plateformes Facebook et Instagram ont été victimes hier d’une étrange panne qui a affecté l’affichage des images. Au lieu de voir apparaître leurs photos habituelles, les utilisateurs ont découvert un petit texte décrivant ce qui se trouve sur l’image. Il s’agit d’un attribut généré par l’algorithme de vision artificielle de Facebook. Cette IA a pour but de décrire les photos pour les personnes ayant des troubles de la vue. Les clichés étaient donc remplacés par ce type de phrase : « L’image peut contenir : 3 personnes, 1 chien, personnes qui sourient, arbre ».

Un algorithme (trop ?) puissant

Le texte décrit avec précision ce qui se trouve sur la photo, qu’il s’agisse de personnes, d’animaux, d’objets ou de paysages. Le système de reconnaissance faciale peut également reconnaître l’identité des personnes apparaissant sur la photo. D’après les constatations faites par les utilisateurs, l’IA ne se trompe pas. La panne a donc offert un aperçu des puissantes capacités de reconnaissance et de lecture des images de l’algorithme du réseau social.

Ces descriptions générées automatiquement par une simple machine amènent à se demander si les informations sont collectées et utilisées à d’autres fins. Difficile de savoir mais fort possible. Sans que l’on n’y pense vraiment, nos photos contiennent beaucoup de données renseignant sur nos centres d’intérêt et notre style de vie. Il deviendrait alors facile pour l’algorithme de prioriser des publicités pour des marques automobiles sur les fils d’actualités d’utilisateurs publiant souvent des photos de voitures.

>>> Facebook s’attaque aux faux remèdes miracles

Cette « lecture » des images a été mise en place par Facebook en 2016. Depuis, l’IA a visiblement bien appris son travail. L’algorithme est également utilisé sur Messenger, Instagram et WhatsApp. La panne quant à elle n’aura duré que quelques heures mais il s’agit du quatrième bug touchant les réseaux sociaux du groupe depuis le début de l’année.