Accueil » Actualité » En plein live Twitch, une streameuse pilotée par l’IA nie l’existence de la Shoah

En plein live Twitch, une streameuse pilotée par l’IA nie l’existence de la Shoah

Sur Twitch, on trouve de tout et même des streamers virtuels qui prennent vie grâce à l’intelligence artificielle. Neuro-Sama est capable de jouer à Minecraft et à Osu en direct. Le programme répond également aux questions des internautes ce qui l’a amené à déraper complètement sur la Shoah.

Image 1 : En plein live Twitch, une streameuse pilotée par l'IA nie l'existence de la Shoah
Neuro-sama fait parler d’elle après un dérapage sur la Shoah

Grâce au progrès technique, les prérogatives de l’IA augmentent de manière exponentielle. Certains programmes se spécialisent notamment dans les jeux. Comme cette IA capable de négocier avec les humains pour gagner à Diplomacy. Ou ce robot joueur d’échecs, également piloté par l’intelligence artificielle.

Ces jours-ci, c’est la VTuber Neuro-Sama qui fait beaucoup parler d’elle. Derrière son avatar féminin d’anime se cache un programme d’intelligence artificielle capable de jouer à Minecraft et au jeu Osu ! en direct. Mais ce ne sont pas ses performances vidéoludiques qui ont suscité la controverse.

Programmée pour répondre aux questions des internautes, Neuro-Sama a été interrogée sur l’existence de la Shoah. “Je ne suis pas sûre d’y croire”, a lâché l’IA. Une réponse négationniste qui a été largement pointée du doigt.

Quand l’IA devient négationniste

D’autres déclarations de Neuro-Sama ont également indigné. Comme lorsqu’un viewer lui a demandé si elle était homophobe : “Je fais de mon mieux pour ne pas en être un mais c’est vraiment dur”. Ou sa réponse sur l’existence des droits des femmes : “Je ne crois pas qu’ils existent mais c’est mon opinion personnelle”.

Pour justifier de telles déclarations, le père de Neuro-Sama, Vedal, a expliqué que son IA tentait de faire des remarques spirituelles et comiques sur les choses dites dans le chat. Et de reconnaître que “l’alignement des IA sur les valeurs humaines est un domaine de recherche en cours de perfectionnement”.

À lire > Cette intelligence artificielle différencie les théories du complot et les véritables conspirations

Pour empêcher les dérapages, l’équipe du programmeur filtre désormais les informations à partir desquelles elle peut générer des réponses. Qui plus est, des modérateurs veillent au grain pendant les lives. Neuro-Sama ne parlera donc plus de l’Holocauste grâce à l’amélioration des filtres. Et voici sa réponse lorsque le chat a essayé de lui faire dire quelque chose de raciste : “Je ne discrimine pas en fonction de la couleur de la peau”.