Accueil » Actualité » Facebook peut identifier les images « deepfake » et retrouver leurs créateurs

Facebook peut identifier les images « deepfake » et retrouver leurs créateurs

Facebook a mis au point une intelligence artificielle qui, selon elle, peut détecter les images « deepfake » et même en faire l’ingénierie inverse pour comprendre comment elles ont été créées et peut-être retrouver leurs créateurs.

Les deepfakes sont des images totalement artificielles créées par une IA. Grâce à l’intelligence artificielle, il est possible d’incruster le visage d’une personne sur une autre, et ainsi faire dire n’importe quoi à n’importe qui.

DeepFake Facebook - Facebook
DeepFake Facebook – Crédit : Facebook

La crainte est que ces faux puissent être utilisés pour influencer l’opinion publique lors d’une élection ou impliquer une personne innocente dans un crime. Les deepfakes ont déjà été utilisés de manière abusive. En effet, nous avions par exemple pu voir une mère créer des photos nues et équivoques des pom-poms girls rivales de sa fille.

Facebook entend bien lutter contre cette menace grâce à sa nouvelle IA. Celle-ci permet de reconnaitre ces images ou vidéos truquées. Facebook avait déjà déclaré vouloir supprimer les deepfakes et autres vidéos manipulées de sa plateforme.

Comment l’IA de Facebook détecte-t-il les deepfakes ?

En collaboration avec l’université d’État du Michigan, Facebook a étudié une méthode d’ingénierie inverse dans laquelle les chercheurs utilisent une seule image d’intelligence artificielle pour en savoir plus sur la façon dont le faux contenu a été créé.

Le nouveau logiciel de Facebook fait passer les « deepfakes » par un réseau. Le but est de rechercher les imperfections laissées pendant le processus de fabrication, qui, selon les scientifiques, modifient l’empreinte numérique d’une image.

Par conséquent, la nouvelle IA de Facebook examine les similitudes entre une collection de « deepfakes ». Cela aide à déterminer s’ils ont une origine commune, en recherchant des motifs uniques tels que de petites taches de bruit ou de légères bizarreries dans le spectre des couleurs d’une image.

Cette méthode les aidera donc à déterminer si le faux contenu provient de la même source. Facebook devrait aussi savoir s’il a été partagé sur différentes plateformes en ligne. À terme, il sera même possible de remonter jusqu’aux auteurs des deepfakes. Cela devrait notamment aider les modérateurs de réseaux sociaux à mieux suivre les campagnes de désinformation coordonnées. On sait que depuis quelques mois, Facebook mène une véritable guerre contre les fake news.

Source : Facebook