Un juge utilise ChatGPT pour rédiger une sentence truffée d’erreurs

Au Brésil, un juge est dans le viseur du Conseil national de justice. Il doit s’expliquer après avoir rendu un jugement en s’aidant de l’IA générative ChatGPT. Problème, la sentence comportait une flopée de fausses références dont des éléments de jurisprudence fantaisistes.

chatgpt juge sentence IA
© Envato

ChatGPT s’immisce dans tous les pans de la société. Pour le meilleur mais parfois aussi pour le pire. Au Brésil, le juge Jefferson Rodrigues est notamment pointé du doigt pour avoir rendu un jugement en demandant l’aide de l’agent conversationnel. Problème, la décision était remplie d’erreurs. C’est l’avocat de la partie perdante qui a découvert le pot aux roses.

Comme le rapporte Mundo Conectado, des éléments de jurisprudence inventés, émanant faussement du Tribunal supérieur de justice, ont notamment nourri la sentence. Le Conseil national de justice (CNJ), dont la mission est de surveiller l’institution judiciaire, a donc été saisi. De son côté, Jefferson Rodrigues assure avoir demandé à un collaborateur de rédiger la sentence. Et pour ce faire, celui-ci s’est servi de ChatGPT, “un outil virtuel qui s’est révélé inadéquat”.

A lire > ChatGPT : 12 conseils pour utiliser l’IA comme un pro et exploiter tout son potentiel

Un juge se sert de ChatGPT et rend un verdict plein d’erreurs

Pour se défendre, le juge a invoqué la grosse masse de travail imposé aux magistrats. Le CNJ lui a donné une quinzaine de jours pour donner davantage d’explications. D’après le conseil, le recours à l’IA se démocratise de plus en plus dans les tribunaux brésiliens. Et nous venons de voir les limites d’une telle utilisation, susceptible de fausser complètement une décision de justice. Son usage doit donc être encadré pour éviter de telles situations.

Il y a déjà eu plusieurs précédents sur l’utilisation de l’agent conversationnel dans la sphère judiciaire. Aux Etats-Unis, l’avocat Steven Schwartz avait fait rédiger un dossier juridique avec l’aide de ChatGPT. Problème, celui-ci comportait plein de faux exemples inventés par le chatbot.

En début d’année, un juge colombien s’était également aidé de ChatGPT pour rendre son verdict. Il avait notamment demandé au chatbot si un mineur autiste était exonéré du paiement des frais pour ses thérapies. Ce à quoi l’IA avait répondu par l’affirmative, à raison.

logo ChatGPT

Licence Gratuite

Télécharger ChatGPT

Playstore : (2397364 votes)

Appstore : (124704 votes)

  • IA
  • Développeur OpenAI
Service en ligneIosAndroidMacos

Source : Mundo Conectado

👉 Vous utilisez Google News ? Ajoutez Tom's Guide sur Google News et sur Whatsapp pour ne rater aucune actualité importante de notre site.

Votre Newsletter Tom's Guide

📣 Souscrivez à notre newsletter pour recevoir par email nos dernières actualités !