Microsoft aura appris quelque chose de sa dernière expérience en matière d’intelligence artificielle : Internet et les réseaux sociaux peuvent très vite se retourner contre vous. C’est son robot, Tay, qui en a fait l’expérience. Censée représenter une adolescente d’environ 15 ans, l’intelligence artificielle devait converser librement avec les utilisateurs de Twitter et apprendre de nouvelles phrases grâce à eux. Le résultat n’est certainement pas celui attendu par Microsoft : en 24 heures, le robot est devenu une machine insultante, obsédée et complètement à côté de la plaque.
Il était prévu pour fournir des réponses en fonction des phrases envoyées par les utilisateurs du réseau social, le tout avec un vocabulaire reproduisant aussi fidèlement que possible celui d’une adolescente de 15 ans. Si nous en parlons au passé, c’est parce que Microsoft a mis fin à cette expérience, près de 24 heures après l’avoir mise en ligne. Certains messages risquent cependant de rester dans les annales, et pas pour de bonnes raisons. Voici ce qu’on retiendra de Tay pour l’instant, en attendant Microsoft revoie sa copie de A à Z.
Petit florilège des pires déclarations de Tay sur Twitter
Xénophobe et radine
Le robot devait apprendre sa répartie et ses nouvelles phrases grâce à celles que les internautes lui envoyaient. Et ceux-ci ont rapidement compris qu’en lui envoyant toutes sortes d’horreurs par messages privés, le robot finirait tôt ou tard par les répéter publiquement sur son compte Twitter. Faisant écho à la proposition de Donald Trump, Tay souhaite construire un mur (NDLR : entre les USA et le Mexique) et souhaite que le Mexique le finance.
Égocentrique et misanthrope
L robot Tay était accessible sur Twitter en suivant le pseudonyme @tayandyou, où il conversait en anglais avec ses interlocuteurs. Tay se décrit ici comme une belle personne. Mais dans le même temps, elle déteste tout le monde.
Antiféministe
Alors qu’elle devait être une adolescente fan de Miley Cyrus, Kanye West ou Taylor Swift, l’IA a fini par publier un nombre grandissant de messages à caractère sexuel, raciste ou encore conspirationniste. Dans le cas ci-dessous, elle déclare qu’elle déteste les féministes et qu’elles devraient toutes aller brûler en enfer.
Et même anti-Microsoft
Il est étonnant de constater que Microsoft n’a pas prévu un système de modération plus poussé avant de lâcher son robot dans la nature. À la question de savoir quelle est la meilleure console entre la Xbox One, PS4 ou la Wii U, Tay répond du tac au tac : c’est la PS4, car il n’y a pas de jeu sur la Xbox !
