L’expérience s’est tenue sur le subreddit r/changemyview pour tenter de voir si des chatbots IA ne seraient pas plus persuasifs que des humains. Une initiative que n’ont pas appréciée les modérateurs de la plate-forme.
Avec 510 millions de visiteurs chaque mois, Reddit est à l’heure actuelle le plus gros forum au monde et traite d’à peu près tous les sujets. On a ainsi pu y trouver les dernières fuites sur la Switch 2 ou des tuyaux sur les émulateurs pirates.
Plus récemment, Elon Musk a tenté de faire pression sur le patron de Reddit pour que cesse le blocage des liens Twitter par les modérateurs qui protestent contre les prises de position d’extrême droite d’Elon Musk.
Cette fois-ci ce sont des scientifiques de l’Université de Zurich qui ont investi le forum pour mener leurs expérimentations sans prévenir personne.
Leur idée : utiliser une armée de chatbots IA pour infiltrer les conversations et voir s’ils parvenaient à influencer l’opinion des utilisateurs. Ils ont pour cela investi le forum r/changemyview dédié aux sujets polémiques et fréquenté par quelque 4 millions de personnes.
Des faux profils créés sur Reddit pour tenter de convaincre
Au total ce sont près de 1700 commentaires qui ont été postés dans ce forum pour tenter d’influencer les participants à ce forum.
Pour cela les chercheurs ont créé différents profils dont un homme victime de viol minimisant le traumatisme provoqué de cet événement, une personne opposée à différents mouvements sociaux, un conseiller en violence conjugale expliquant que les femmes les plus vulnérables sont celles qui sont élevées par des parents surprotecteurs, un homme noir opposé au mouvement Black Lives Matter… que des sujets sensibles et volontiers clivants.
Pour mesurer l’impact de ces robots, les scientifiques ont utilisé une fonction de Reddit qui permet aux utilisateurs de récompenser les commentaires qui les font changer d’avis. Et même si les résultats complets n’ont pas été publiés. Il s’avère que les réponses des chatbots IA étaient entre trois et six fois plus persuasives que celles des humains.
Mais les équipes de modérateurs du forum reddit r/changemyview n’ont pas du tout apprécié que les chercheurs s’invitent dans leur fil de discussion sans prévenir personne pour mener leur expérimentation et expliquent en détail leur point de vue dans un post.
Ils ont donc porté plainte auprès du comité IRB de l’Université de Zurich, un comité qui a pour but de s’assurer que les projets de recherche respectent les règles éthiques, médicales et sociales. Si la direction de l’Université déclare prendre le sujet au sérieux et mener une enquête, elle déclare cependant ne pas pouvoir interdire la publication des résultats.
