Accueil » Actualité » Des scientifiques ont trouvé le moyen d’empêcher les IA de se rebeller

Des scientifiques ont trouvé le moyen d’empêcher les IA de se rebeller

Skynet et HAL 9000 n’ont qu’à bien se tenir : des chercheurs américains ont conçu un algorithme qui garantit que l’intelligence artificielle ne nuira pas aux humains.

Cela ressemble à un roman de science-fiction post-apocalyptique, et pourtant c’est vrai : à l’heure où l’intelligence artificielle fait ses premiers pas, des chercheurs des universités Amherst et Stanford ont créé un algorithme qui empêche les IA de se développer dans un sens qui puisse les pousser à se retourner contre ses créateurs.

Image 1 : Des scientifiques ont trouvé le moyen d'empêcher les IA de se rebeller

Les « Trois lois de la robotique » d’Asimov concrétisées dans un programme informatique

Ce framework de programmation est destiné à des développeurs informatiques en charge de la conception d’intelligences artificielles. En utilisant ce cadre, ces programmeurs disposeront de conditions de fonctionnement claires qui empêchera leurs IA de dépasser certains seuils qui pourraient les conduire à nuire aux humains ou à les discriminer.

Microsoft Azure rend l’accès à l’intelligence artificielle public pour la première fois

Cela peut prêter à sourire ou paraître anecdotique, sauf que l’idée ici n’est pas d’empêcher Skynet d’envoyer un Terminator frapper à votre porte. Les intelligences artificielles vont être de plus en plus amenées à nous assister sur des sujets sérieux, voire critiques, comme le dosage des médicaments ou l’obtention d’un diplôme en fonction de barèmes complexes. La marge d’erreur attendue dans ces cas-là est faible, voire nulle, et l’algorithme imaginé par ces chercheurs vise à éviter par exemple qu’un patient meure dans un accident de surdosage ou que des étudiants soient recalés à cause de de préjugés sexistes.

Les systèmes de reconnaissance faciale utilisées par les forces de l’ordre sont également concernées par ces questions éthiques, car les modèles actuels sont souvent atteints de préjugés basés sur la couleur de peau. Les implications à terme pour des technologies comme les voitures sans conducteur et les robots autonomes sont tout aussi énormes.

General Motors dépose un brevet utilisant l’IA pour couper et redémarrer le moteur au feu

Poussant le lien entre la réalité et la science-fiction, les chercheurs ont baptisé leur framework « Algorithme Seldonien » en référence à Hari Seldon, le héros de la série de romans Fondation, l’un des plus grands succès littéraires d’Isaac Asimov. Un hommage assumé à l’écrivain de science-fiction qui a théorisé dans les années 50 les Trois lois de la robotique empêchant les robots de nuire aux humains.

Energie solaire : une avancée majeure grâce à l’intelligence artificielle

Source : TNW