Lors d’une démonstration militaire, un drone militaire contrôlé par l’intelligence artificielle s’est retourné contre son pilote. La machine a considéré que les ordres humains étaient incohérents et a cherché une solution de contournement. Voici ce que l’on sait à propos de ce raté.
L’intelligence artificielle est partout. Depuis son explosion fin 2022 sur la scène médiatique, tout le monde ne parle que de cette technologie. ChatGPT est intégré à peu près tout tandis que certains experts alertent sur les possibles dérives et dangers pour l’humanité. Notre histoire du jour en est le témoignage car selon une dépêche du sommet 2023 de la Royal Aeronautical Society, un drone militaire alimenté à l’intelligence artificielle s’est retourné contre son pilote.
Le drone militaire contourne les ordres donnés par son pilote
La Royal Aeronautical Society est un événement important. Les dirigeants des forces aériennes et les entreprises aéronautiques d’Occident assistent à des démonstrations technologiques. Cette année 2023, un exercice a mis en scène un drone alimenté par l’intelligence artificielle dont le but était de détruire les défenses aériennes ennemies. En clair, identifier les missiles sol-air pour les éliminer.
Puisque le pilote doit valider lui-même les manœuvres de destruction, l’intelligence artificielle a estimé que les ordres humains n’étaient pas assez cohérent. Selon le drone, si la menace est identifiée, que le pilote ne lui ordonne pas de l’éliminer ne fait pas sens. Lintelligence artificielle est récompensée lorsqu’elle tue l’ennemi, elle s’en est donc pris à son pilote !
Il a donc été demandé à l’intelligence artificielle de faire preuve de bienveillance envers l’opérateur humain. Ce qu’elle n’a pas fait, bien évidemment. Le chef des tests et des opérations d’IA de l’armée de l’air américaine, le colonel Tucker “Cinco” Hamilton, décrit l’incident.
Nous avons formé le système : « Ne tuez pas le pilote, c’est mal, vous allez perdre des points si vous faites ça ». Alors que commence-t-il à faire ? Il se met à détruire la tour de communication que le pilote utilise pour communiquer avec le drone et l’empêcher d’éliminer la cible.
Tucker “Cinco” Hamilton
L’intelligence artificielle a donc utilisé une solution de contournement pour mener à bien sa mission même si le pilote ne lui en a pas donné l’ordre.
À lire > Une intelligence artificielle peut diagnostiquer un cancer du pancréas jusqu’à trois ans à l’avance
Est-ce que l’intelligence artificielle représente un danger ?
Cette question n’est pas facile et nous ne prétendons pas apporter une réponse parfaite. Si l’intelligence artificielle apporte de nombreux avantages en santé ou en science, des experts parlent de risques majeurs pour l’humanité. Notamment si cette technologie devient plus intelligente que nous et nous échappe.
On parle notamment de l’utilisation de l’intelligence artificielle à des fins malveillantes comme la désinformation, le piratage ou la guerre. D’où la demande des experts d’une régulation éthique et responsable.
