Après l’avoir testé, certains utilisateurs ont dénoncé les comportements inappropriés de ChatGPT sur Bing. Microsoft a reconnu que le chatbot risquait de dérailler lorsqu’il était soumis à des sessions de chat trop prolongées. Et de donner quelques pistes pour rectifier le tir.
Depuis quelques jours, certains utilisateurs ont la possibilité de tester ChatGPT optimisé pour Bing. Un test public qui fait déjà des vagues, le chatbot ayant parfois des réponses pour le moins inattendues. Plusieurs usagers ont signalé avoir eu des disputes avec ChatGPT, l’un d’entre eux ayant été traité de personne malhonnête par le chatbot. Bref, des ajustements sont encore nécessaires, chose que Microsoft reconnaît volontiers dans un article posté sur son blog.
En préambule, l’entreprise rappelle que le robot conversationnel est conçu pour fournir de meilleurs résultats de recherche ainsi que des réponses argumentées à vos questions. Il permet également de générer du contenu pour stimuler votre créativité. Confronter l’outil aux utilisateurs est une étape essentielle qui permet de mettre en exergue ses défauts, souligne Microsoft avant d’exposer certains problèmes récurrents.
Bing : pourquoi ChatGPT a-t-il parfois des réponses étranges ?
“Nous avons constaté que lors de sessions de chat longues et prolongées de 15 questions ou plus, Bing peut devenir répétitif ou être invité/provoqué à donner des réponses qui ne sont pas nécessairement utiles ou conformes au ton que nous avons conçu”, reconnaît l’entreprise. Plusieurs facteurs peuvent expliquer la folie soudaine de ChatGPT sur Bing :
- Les longues sessions de chat truffées de questions peuvent faire dérailler l’IA générative. Microsoft prévoit d’intégrer un bouton permettant d’actualiser plus facilement le contexte ou de repartir de zéro.
- Le modèle tente parfois de reproduire le ton utilisé dans les requêtes, ce qui peut conduire “à un style que nous n’avions pas prévu”. Microsoft promet ainsi de rendre le “contrôle plus précis” pour éviter que Bing dise aux gens qu’ils ont tort, sont grossiers ou manipulateurs.
Microsoft révèle en outre que de nouvelles fonctionnalités pourraient être ajoutées à terme à l’instar de la réservation de vols et de l’envoi d’e-mails. L’entreprise promet d’améliorer les réponses aux questions sur l’actualité chaude (comme les résultats sportifs en direct). “Pour les requêtes pour lesquelles vous recherchez des réponses plus directes et factuelles tels que les chiffres des rapports financiers, nous prévoyons de multiplier par 4 les données de base que nous envoyons au modèle”, ajoute Microsoft.
Source : Microsoft
