Accueil » Actualité » OpenAI partage finalement l’IA capable d’écrire de la fiction qu’elle jugeait trop dangereuse

OpenAI partage finalement l’IA capable d’écrire de la fiction qu’elle jugeait trop dangereuse

En février dernier, OpenAI annonçait GPT-2, une intelligence capable d’écrire de la fiction avec une excellente cohérence. Toutefois, dans la crainte de mauvaises utilisations décidaient de ne pas la rendre publique. Elle change aujourd’hui d’avis.

Image 1 : OpenAI partage finalement l’IA capable d’écrire de la fiction qu’elle jugeait trop dangereuse

GPT-2 est capable de générer du texte. Dédiée à l’écriture de fiction, elle peut générer tout type de contenu. Son utilisation pour diffuser massivement du spam ou de fausses informations avaient décidé OpenAI à ne pas publier le modèle entier. Finalement, tout en maintenant ses inquiétudes, elle a décidé de la rendre publique.

Bien que la jugeant dangereuse, OpenAI partage finalement son IA GPT-2 capable d’écrire de la fiction

L’intelligence artificielle permet des choses qui étaient à peine imaginables il y a quelques années à peine. Certaines composent de la musique, d’autres peignent ou deviennent championnes d’échec en quelques heures, d’autres bien sûr sont utiles telles que la conduite autonome que promet Tesla pour la fin de l’année ou celle de Deezer capable de séparer la voix de la musique. Mais si ces technologies peuvent améliorer le quotidien, elles peuvent, entre des mains mal intentionnées, créer d’énormes problèmes. C’est pourquoi OpenAI avait décidé de ne pas diffuser l’algorithme complet de son intelligence artificielle capable d’écrire du texte par elle-même, l’organisation la trouvant trop dangereuse.

OpenAI est une initiative créée dans le but de développer une intelligence artificielle qui bénéficie à l’humanité. Dirigée par Elon Musk, qui a une vision très noire l’IA, et Sam Altman, elle a été la première IA à battre une équipe championne du monde à un match d’E.-sport en battant OG lors de deux matchs de Dota 2. Mais son but est d’exceller dans tous les domaines. Elle est du coup également capable de manipuler un bras robot avec une grande dextérité, et également d’écrire de la fiction avec une cohérence jamais vue jusque là.

Vers une vague de spam et de fausses informations ?

Mais c’est là que se situe le problème. Ses créateurs voyaient en elle un pouvoir trop grand pour être rendu public. Ils craignaient la multiplication des campagnes de spam, mais surtout de fausses informations, les fameuses fake news. En février, elle avait annoncé attendre avant de publier GPT-2 en version complète. Aujourd’hui, n’ayant pas constaté de preuves de mauvais usage à grande échelle, elle a décidé de diffuser sa version basé sur un jeu de données d’1,5 milliards de paramètres. Il est même possible de la tester, en anglais, sur le site TalkToTransformer.com.

L’entreprise note que cette AI est capable de générer de la propagande de haute qualité et que les réseaux sociaux pourraient être envahis de ce genre de contenus. Elle annonce toutefois que ses propres chercheurs ont créé des modèles capables de reconnaitre à 95 % le contenu écrit pas GPT-2, qui devront être couplés à de vrais humains pour assurer une détection de 100 %. OpenAI va donc suivre comment est utilisé son algorithme et décidera de ses publications en fonction de ces observations.*

Source : TheVerge