Le Galaxy S24 sortait la semaine dernière, avec toute une ribambelle de fonctionnalités liées à l’intelligence artificielle, notamment pour retoucher les photos. Pour rassurer les critiques de l’IA, Samsung a intégré un watermark sur les photos modifiées, sauf qu’il peut facilement être supprimé.
Cela faisait partie des mesures promises par OpenAI, Microsoft et Google pour rendre l’intelligence artificielle (IA) plus sûre : mettre des watermarks (ou tatouage numérique) sur les images générées par IA. Samsung n’avait fait aucune promesse, néanmoins le géant sud-coréen a coupé l’herbe sous le pied des critiques en plaçant un signe distinctif sur les photos altérées par Galaxy AI.
Une excellente idée… mais qui ne sert à rien. Comme le montre des tests effectués sur le tout nouveau Galaxy S24 (voir le notre), il est très facile de supprimer le tatouage numérique sur les photos générées par l’IA.
Samsung veut rassurer les critiques de l’IA avec le Galaxy S24
Le symbole à étoiles est utilisé à travers toutes les applications du Galaxy S24 pour indiquer des fonctions d’intelligence artificielle. Dès lors que les étoiles sont là, Galaxy AI n’est pas loin. Il sert notamment de boutons dans l’application photos pour lancer Generative Edit.
Cette fonction est similaire à l’outil Magic Editor de Google, capable d’ajouter des éléments imaginaires dans un cliché. Une fois les modifications par IA terminées, Samsung ajoute un logo dans le coin inférieur gauche de la photo et modifie les métadonnées du fichier, pour indiquer que l’image a été retouchée par une IA. Mais comme le montre cette vidéo, le symbole visuel peut facilement être supprimé :
Paradoxalement, c’est l’IA qui est à l’œuvre pour supprimer ce symbole de son passage. Les premiers symptômes des dangers dénoncés par le “parrain” de l’intelligence artificielle ? Dans le cas de la vidéo, nos homologues de Gizmodo ont pu reproduire l’expérience. En outre, ils ont constaté que toutes les images modifiées à l’aide de l’outil de gomme par IA n’affichaient pas le watermark.
Les photos modifiées par intelligence artificielle sont inévitables
Samsung avait prévenu lors du Galaxy Unpacked que son IA n’était pas encore tout à fait au point : “L’exactitude et la fiabilité de l’image générée [par intelligence artificielle] ne sont pas garanties.” Une clause de non-responsabilité qui souligne que Galaxy AI en est encore à ses balbutiements. Samsung pourra toujours corriger ce problème logiciel.
À lire > Galaxy S24 : les fonctionnalités d’IA vont rapidement devenir payantes
Cependant il ne sera jamais bien compliqué de supprimer le watermark via une autre application de retouche. Et si la suppression du watermark visuel ne supprime pas les métadonnées, celles-ci peuvent être facilement modifiées. La démocratisation des photos trafiquées est inévitable, tatouage numérique ou non.
Google l’a bien compris et embrasse complètement les possibilités offertes par l’intelligence artificielle en la matière. Alors que Google Search ne sait toujours pas détecter les images générées par intelligence artificielle, la firme de Mountain View déploie son outil Retouche Magique tous azimuts. Dans sa dernière pub pour le Pixel 8, la firme vante ainsi la capacité du smartphone à retoucher des clichés dont il n’est pas à l’origine.
- Le nouveau Galaxy S24 intègre un watermark sur les images modifiées par IA.
- Ce tatouage numérique est inutile, puisqu’il peut être supprimé avec l’outil gomme.
- Même si Samsung apporte une mise à jour à cette faille, la modification des photos en masse est inévitable.
