L’IA qui tue sans remords — et pourquoi ça devrait vous inquiéter
Un drone coûte 20 000 dollars. Avec 50 milliards de budget — le prix d’un seul porte-avions — vous pouvez en acheter 2,5 millions.
Chacun guidé par une IA. Chacun capable de trouver n’importe quelle cible via son numéro de téléphone. Aucun ne souffre. Aucun ne rentre avec des cauchemars.
C’est la guerre aujourd’hui. Pas dans dix ans. Maintenant.
Le frein psychologique que l’IA a supprimé
Pendant toute l’histoire de l’humanité, il y avait un garde-fou naturel à la violence de masse : le coût psychologique pour celui qui tue.
Les soldats reviennent du front brisés. Le stress post-traumatique (PTSD) est une réalité invalidante pour des centaines de milliers de combattants. La honte, les flashbacks, l’incapacité à dormir — c’est le prix humain de la guerre.
Ce prix a toujours été un frein. Pas suffisant pour empêcher les guerres, mais suffisant pour les limiter.
L’IA vient de supprimer ce frein.
Quand c’est un algorithme qui cible et qu’un opérateur à 10 000 kilomètres appuie sur un bouton — ou même quand personne n’appuie sur rien du tout — il n’y a ni émotions, ni culpabilité, ni responsabilité.
Mo Gawdat, ex-Chief Business Officer de Google X, l’a dit clairement dans une interview récente : « Quand tuer devient techniquement facile et dépourvu de conséquences psychologiques pour l’agresseur, on finit par tuer davantage. »
Une guerre à la portée de tous
Le deuxième changement est économique.
Les armes nucléaires ont créé une forme de paix paradoxale : la destruction mutuelle assurée. Seules quelques puissances y ont accès. Le coût de développement est astronomique. La dissuasion fonctionne précisément parce que tout le monde a peur des conséquences.
Les drones autonomes, c’est l’inverse. Le coût d’entrée est accessible à presque toutes les nations — et à certains acteurs non étatiques. Il n’existe pas encore de traité international pour les réguler. Et contrairement aux armes nucléaires, leur usage ne déclenche pas automatiquement la fin du monde pour celui qui les emploie.
Résultat : tout le monde les développe.
Ukraine, Russie, Israël, Iran, États-Unis, Chine — et des dizaines d’autres. La course est déjà lancée. La prolifération est en cours.
Ce n’est pas de la science-fiction
Gawdat insiste sur un point souvent mal compris : ce n’est pas une menace future.
Dans les conflits armés actuels, l’IA effectue déjà une part significative du travail de ciblage et d’élimination. Les drones guidés par des algorithmes détruisent des systèmes de défense. Des technologies de reconnaissance faciale et de géolocalisation permettent de retrouver un individu via son téléphone.
La guerre est devenue une opération de gestion de stock — optimiser des flux de drones plutôt qu’envoyer des hommes sur un champ de bataille.
Ce glissement a eu lieu progressivement, sans grand débat public, sans vote, sans traité. Il est déjà là.
Le vrai problème : ce ne sont pas les robots qui décident
Il y a une erreur de cadrage dans le débat public sur l’IA militaire. On imagine Terminator — une IA qui décide d’elle-même d’attaquer l’humanité.
Ce n’est pas le scénario qui se joue.
Le vrai scénario, c’est que des humains utilisent l’IA comme levier pour dominer, opprimer ou éliminer d’autres humains — de manière industrielle, à faible coût, avec une couche d’abstraction psychologique suffisante pour que personne ne se sente vraiment responsable.
L’IA n’est pas l’ennemi. Le problème, c’est ce qu’elle permet à certains humains de faire — et la vitesse à laquelle elle abaisse le seuil de passage à l’acte.
Ce que ça change concrètement
Trois implications pratiques à garder en tête :
1. La sécurité des individus change de nature. Si votre téléphone vous géolocalise en permanence et qu’une IA peut construire un profil de ciblage à partir de vos données numériques — dirigeants, journalistes, activistes — vous n’êtes plus à l’abri de la même façon qu’avant.
2. Les petits acteurs deviennent dangeureux. Un État ou un groupe avec 50 millions de dollars peut maintenant projeter une force létale à l’autre bout du monde. La géopolitique n’est plus réservée aux superpuissances.
3. Le débat public prend du retard. Gawdat prédit que l’humanité ne réagira qu’après une catastrophe majeure — une attaque autonome massive qui forcera enfin la communauté internationale à négocier des traités. Comme pour les armes chimiques, mais après les dégâts.
Ce que vous pouvez faire
Pas grand chose, honnêtement. Ce n’est pas une conclusion satisfaisante, mais c’est la vérité.
Ce que vous pouvez faire, c’est rester informé, comprendre les enjeux, et soutenir les organisations qui travaillent sur la régulation des armes autonomes — Human Rights Watch, la Campagne pour arrêter les robots tueurs, et les initiatives onusiennes sur les systèmes d’armes létaux autonomes (SALA).
La pression citoyenne et médiatique a déjà accéléré des changements dans des domaines qui semblaient hors de portée. Elle peut fonctionner ici aussi.
La condition, c’est de savoir de quoi on parle.
Source : Mo Gawdat, ex-Chief Business Officer Google X — interview Stephen Bartlett, podcast « The Diary of a CEO » · Campagne internationale pour interdire les SALA : stopkillerrobots.org
Laisser un commentaire