Deux IA ont réussi à communiquer entre elles dans une langue inconnue

Alice et Bob, deux IA développées par les programmeurs de Google, la firme de Mountain View dans le cadre du programme Brain, ont réussi à chiffrer leur communication de telle façon à ce qu’elle soit incompréhensible pour les autres acteurs. En d'autres termes elles ont créée une langue qui ne pouvait être comprise que par elles deux. Cette performance offre un aperçu de la capacité de ces supercalculateurs. Toutefois, elle provoque aussi une légitime inquiétude.

Alice et Bob ont communiqué de manière autonome

Les ingénieurs de Google mènent plusieurs études au sein du programme Deep Learning. En vue de déterminer si une IA parviendrait à agir de façon autonome sans un programme prédéfini, ils n’ont installé aucun algorithme spécialisé sur Alice et Bob. Durant l’expérience, Eve, un troisième supercalculateur, était chargée de surveiller les deux autres. Les développeurs ont alors constaté que non seulement les deux premières ont réussi à communiquer, mais surtout, elles ont crypté leurs échanges. De plus, Eve a seulement déchiffré une infime partie. Ainsi, les chercheurs n’ont pas réussi à comprendre les informations partagées par les deux IA.

Comment contrôler les IA ?

Dans le film I Robot (2004), V.I.K.I, une IA performante a incité les robots à prendre le pouvoir. Même si l’on est encore loin de ce genre de fantasmes, les supercalculateurs deviennent de plus en plus performants. Alors, certains observateurs se demandent : les robots vont-ils un jour tous nous tuer? Afin de minimiser les risques, les grandes compagnies actives dans le secteur ont lancé le mouvement Partnership on AI pour mettre en commun leur savoir-faire, il s’agit d’Amazon, Facebook, Google, IBM et Microsoft.

Posez une question dans la catégorie News du forum
Cette page n'accepte plus de commentaires
Soyez le premier à commenter
Commenter depuis le forum
    Votre commentaire