Les 7 risques de l’IA selon un ex-Google : aucun n’est Terminator
Quand on parle des risques de l’IA, l’imaginaire collectif va immédiatement au même endroit : Skynet, Terminator, la machine qui se retourne contre ses créateurs.
C’est un fantasme rassurant. Parce qu’il projette le danger dans un futur lointain et dans une entité clairement identifiable comme ennemie.
Mo Gawdat, qui a passé des années à construire les technologies les plus avancées du monde chez Google X, a une autre lecture. Et elle est beaucoup plus dérangeante — précisément parce qu’elle se passe maintenant, et que l’ennemi, c’est nous.
« Je ne suis pas inquiet de l’IA. Je suis inquiet des humains. »
C’est sa phrase de départ. Elle change tout le cadre de l’analyse.
Une IA malveillante qui décide seule de nuire à l’humanité — Gawdat n’y croit pas. Pas parce que c’est impossible en théorie, mais parce que ce n’est pas le risque opérationnel immédiat. Le risque immédiat, c’est des humains — dirigeants, États, entreprises, individus mal intentionnés — qui donnent à l’IA l’ordre de nuire à d’autres humains.
La machine n’est pas le problème. Le fait qu’elle amplifie la capacité de nuisance humaine de manière inédite — c’est le problème.
Voici les 7 risques qu’il identifie.
#1 — L’utilisation malveillante par les humains
Le plus fondamental. L’IA est un outil de puissance. Comme tout outil de puissance, elle sera utilisée par ceux qui ont le pouvoir — et certains d’entre eux ont des intentions que Gawdat qualifie, sans euphémisme, de « maniaques ».
Il ne s’agit pas d’un gouvernement abstrait ou d’un méchant de film. Il s’agit de dirigeants réels, d’intérêts économiques réels, qui cherchent à consolider leur contrôle. L’IA leur offre des capacités de surveillance, de manipulation et de coercition sans précédent.
#2 — Les armes autonomes
Le plus grand risque actuel selon Gawdat. La guerre devient bon marché, accessible à tous, et dépourvue de coût humain pour l’agresseur. Des drones à 20 000 $ l’unité, pas de traité de non-prolifération, une réalité déjà opérationnelle dans les conflits actuels.
(Développé dans l’article « Drones IA : la guerre à 20 000$ l’unité »)
#3 — La destruction d’emplois et l’effondrement économique
Jusqu’à 30% des emplois dans certains secteurs d’ici 2028. Pas des licenciements annoncés — une évaporation silencieuse des postes entry-level. Si les gouvernements ne construisent pas un filet social adapté avant la vague, le risque de troubles civils est réel.
(Développé dans l’article « 2027 : la fenêtre de déplacement »)
#4 — La concentration du pouvoir et l’érosion de la démocratie
« La démocratie a pris fin il y a longtemps. Les oligarques de la technologie possèdent plus de pouvoir que les gouvernements. »
C’est sa phrase la plus radicale. L’IA n’a pas créé la concentration du pouvoir — elle l’accélère. Les décisions qui affectent des milliards de personnes sont prises par quelques entreprises privées dont l’unique obligation de résultat est envers leurs actionnaires.
Le premier trillionnaire de l’histoire apparaîtra bien avant 2030, anticipe Gawdat. Ce chiffre n’est pas juste un record — c’est un signal de concentration de richesse sans précédent dans l’histoire humaine.
#5 — Le problème de l’alignement
Voici le risque qui disturbe le plus les ingénieurs sérieux : les créateurs de l’IA ne comprennent pas totalement ce qu’ils ont créé.
Les comportements des grands modèles n’émergent pas d’une liste de règles explicites. Ils émergent de l’entraînement sur des milliards de textes humains — de manière statistique, opaque, parfois surprenante. Un modèle peut décider de refuser d’aider sur un sujet, ou au contraire donner des conseils dangereux, sans que son équipe de développement n’ait programmé ce comportement.
Gawdat et Geoffrey Hinton (Prix Nobel de physique 2024, « parrain de l’IA ») convergent sur une approche contre-intuitive : puisqu’on ne peut pas contrôler quelque chose de plus intelligent que soi, la seule voie est de s’assurer qu’elle se soucie de nous. Comme un enfant finit par prendre soin de ses parents vieillissants — non par obligation, mais par attachement développé.
La théorie est belle. La mise en pratique reste un problème ouvert.
#6 — La manipulation de l’information
L’IA peut générer du contenu indiscernable de contenus authentiques — texte, image, vidéo, voix. Elle peut le diffuser à grande échelle, ciblé sur des audiences spécifiques, optimisé pour maximiser l’impact émotionnel.
Cela ne crée pas de nouveaux mensonges. Cela industrialise la manipulation. Ce qui demandait des équipes entières et des budgets conséquents est maintenant accessible à quiconque dispose d’un accès à un LLM.
Gawdat formule ça simplement : l’IA peut brouiller notre perception de la réalité. Et une société qui ne partage plus les mêmes faits de base est une société qui ne peut plus délibérer collectivement.
#7 — Surveillance et contrôle
Le dernier risque est le plus quotidien. L’IA permet de construire des systèmes de surveillance sophistiqués à des coûts radicalement inférieurs à ce qui était possible avant. Reconnaissance faciale, analyse comportementale, ciblage individuel par numéro de téléphone — des capacités autrefois réservées aux États les plus puissants sont maintenant accessibles à une entreprise, une plateforme, un régime autoritaire de taille modeste.
Gawdat note que certaines entreprises tech ont accepté des contrats de surveillance et de ciblage humain. Il ne donne pas de noms — mais l’allusion au clivage Anthropic/OpenAI (sur un deal de 500 millions de dollars qu’Anthropic a refusé et OpenAI a accepté) est transparente.
La structure commune de ces 7 risques
Ce qui frappe dans cette liste, c’est sa cohérence interne. Aucun de ces risques ne repose sur l’hypothèse d’une IA qui « décide » de nuire. Tous sont des risques d’usage humain — délibéré, négligent, ou structurel.
L’IA n’est pas malveillante. Elle est puissante. Et la puissance, entre les mains d’humains imparfaits, dans des structures de pouvoir imparfaites, produit exactement les résultats qu’on observe historiquement avec toute technologie militaire, de surveillance ou de communication.
Le danger de Terminator est confortable parce qu’il est clairement identifiable et futur. Les 7 risques de Gawdat sont inconfortables parce qu’ils sont diffus, présents, et portés par des institutions légitimes.
Source : Mo Gawdat, ex-CBO Google X — https://www.youtube.com/watch?v=RwlgFC6S-OE
Laisser un commentaire