La désinformation par l'IA désigne l'usage de l'intelligence artificielle générative pour produire et diffuser, à grande échelle et à faible coût, des contenus faux ou trompeurs : textes, images, voix et vidéos truqués. L'IA ne crée pas une nouvelle intention de tromper — elle amplifie une pratique ancienne en abaissant le coût de fabrication du faux et en démultipliant sa vitesse de diffusion. Les exemples documentés existent ; les parades aussi, et les plus efficaces sont préventives. Cet article fait le tri, sans panique ni accusation non prouvée.
Définition. La désinformation se distingue de la simple erreur (misinformation, fausse information diffusée sans intention de nuire) par son caractère délibéré : propager sciemment des contenus faux ou trompeurs pour produire un effet. L'IA est ici un outil d'amplification, non un acteur autonome : elle exécute, elle ne décide pas.
Un grand modèle de langage produit ce qui est plausible, pas ce qui est vrai. Il génère avec le même aplomb une information exacte et une information inventée — une citation qui n'existe pas, une référence fabriquée, un fait erroné formulé impeccablement. Ce phénomène, appelé « hallucination » ou « confabulation », n'est pas un bug accidentel : c'est une conséquence directe de l'objectif d'entraînement, qui maximise la vraisemblance et non la vérité. Un texte faux peut donc paraître parfaitement crédible.
À cette plausibilité s'ajoute l'échelle. Là où la propagande classique exigeait des rédacteurs, des studios et du temps, l'IA générative permet de produire des milliers de variantes d'un message en quelques minutes, dans plusieurs langues, à coût quasi nul. Le facteur qui change n'est pas la nature de la tromperie, mais sa vitesse, son volume et sa difficulté d'attribution.
Les deepfakes — vidéos, images et voix synthétiques truquées — sont l'exemple le plus visible. Ils permettent l'usurpation d'identité, la fabrication de fausses déclarations attribuées à des personnalités, et la création de « preuves » qui n'en sont pas. Leur danger tient moins à la perfection technique qu'à un effet second : à mesure que le public sait que tout peut être truqué, le doute s'étend aussi aux contenus authentiques. Une vraie vidéo peut alors être balayée d'un « c'est sûrement un deepfake ». La parade ne consiste donc pas seulement à détecter le faux, mais à savoir authentifier le vrai.
Deux cas datés et documentés illustrent le procédé. En janvier 2024, deux jours avant la primaire démocrate du New Hampshire, des milliers d'électeurs ont reçu un appel automatisé reproduisant la voix clonée par IA du président Joe Biden, les incitant à ne pas voter ; en septembre 2024, la Federal Communications Commission a infligé une amende de 6 millions de dollars au consultant politique Steve Kramer, à l'origine de cette campagne. En septembre 2023, deux jours avant les élections législatives slovaques, un faux enregistrement audio attribuait au chef du parti Slovaquie progressiste, Michal Šimečka, et à la journaliste Monika Tódová (Denník N) une conversation sur la fraude électorale ; le service de fact-checking de l'AFP a relevé des signes de manipulation par IA, et les deux personnes ont aussitôt dénoncé un faux. Dans les deux cas, c'est l'attribution — qui parle réellement — qui est en jeu.
Les fermes de contenu génèrent automatiquement quantité d'articles, de sites et de publications pour occuper l'espace, capter de la publicité ou pousser un récit. L'IA générative en abaisse radicalement le coût : un site entier de fausses « actualités » peut être alimenté sans rédacteur humain. L'objectif n'est pas toujours de faire croire une thèse précise — c'est souvent de noyer l'information fiable sous la masse, jusqu'à rendre épuisant le simple fait de distinguer le sérieux du factice.
Ce recours est désormais documenté par les plateformes elles-mêmes. En octobre 2024, OpenAI a indiqué avoir perturbé depuis le début de l'année plus de vingt opérations et réseaux trompeurs ayant tenté d'utiliser ses modèles, notamment pour générer des articles et des contenus de réseaux sociaux destinés à des campagnes d'influence. Au premier trimestre 2024, Meta a de son côté démantelé six nouvelles opérations d'influence coordonnée recourant à des contenus générés par IA (faux présentateurs vidéo, textes, photos de profil synthétiques). Le rapport 2024 du Service européen pour l'action extérieure (EEAS) sur la manipulation de l'information par des acteurs étrangers (FIMI) note lui aussi un usage croissant de l'IA pour faciliter la production et automatiser la diffusion de contenus.
En 2016, les chercheurs Christopher Paul et Miriam Matthews publient pour la RAND Corporation The Russian "Firehose of Falsehood" Propaganda Model. Ils y décrivent un modèle de propagande caractérisé par un volume élevé, une diffusion multicanale, une rapidité et une répétition continues, et une absence d'engagement envers la vérité ou même la cohérence. L'image de la « lance à incendie de mensonges » désigne une saturation : noyer l'espace public sous tant d'affirmations contradictoires que distinguer le vrai devient épuisant.
Ce modèle exploite des biais cognitifs documentés : l'effet de vérité illusoire (une affirmation répétée paraît plus vraie), le poids du premier message reçu, qui « ancre » la perception, et la multiplicité des sources — même factices — qui donne l'illusion d'une confirmation indépendante. L'IA générative est un accélérateur idéal de ce modèle : elle fournit le volume et la variété à la demande. Son objectif premier n'est pas toujours de convaincre, mais d'installer le doute généralisé — « on ne peut plus savoir qui dit vrai » —, un état d'esprit qui désengage le citoyen.
Il faut distinguer trois questions que le discours ambiant confond souvent : une campagne de désinformation a-t-elle existé ? (souvent, oui, et c'est documenté) ; visait-elle à influencer ? (oui, par définition) ; y est-elle parvenue, et dans quelle mesure ? (le plus souvent, indéterminé). Mesurer l'effet réel d'une opération sur les opinions, et plus encore sur les comportements, est extraordinairement difficile, et la recherche sérieuse reste prudente. Affirmer qu'une campagne « a fait basculer » une élection relève le plus souvent de l'hypothèse non démontrée. Reconnaître l'amplification par l'IA n'autorise donc pas à lui prêter un pouvoir illimité sur les esprits.
Bonne nouvelle : la défense la plus efficace ne consiste pas à réfuter chaque faux un à un — tâche sans fin, qui peut même renforcer la familiarité du faux par sa répétition. Elle consiste à renforcer en amont les capacités de discernement, et à diffuser l'information fiable en premier. Trois leviers sont documentés.
Le prebunking (ou inoculation). La théorie de l'inoculation, formulée par le psychologue William McGuire dans les années 1960, repose sur une analogie médicale : exposer une personne à une forme atténuée d'un argument trompeur, accompagnée de sa réfutation, renforce sa résistance future. Les travaux de Sander van der Linden et Jon Roozenbeek, à Cambridge, ont testé ce principe à grande échelle. Une étude publiée dans Science Advances en 2022, rassemblant sept expériences et près de 30 000 participants, a montré que de courtes vidéos d'inoculation amélioraient la capacité à repérer les techniques de manipulation ; menée avec Jigsaw (Google), elle a notamment exposé environ 5,4 millions d'internautes sur YouTube, près d'un million regardant la vidéo au moins 30 secondes. Résultat : exposer les gens à l'avance aux techniques de manipulation (langage émotionnel, fausses alternatives, incohérence, bouc émissaire, attaques ad hominem) réduit ensuite leur vulnérabilité. On ne vaccine pas contre un mensonge précis, mais contre une technique.
La littératie médiatique. L'éducation aux médias et à l'information complète le dispositif : apprendre à vérifier les sources, à identifier l'intention d'un message, à distinguer fait, opinion et propagande. Plusieurs évaluations montrent ses bénéfices sur la capacité à reconnaître un contenu trompeur. Ce n'est pas une parade infaillible, mais une compétence qui s'enseigne et se renforce.
Aucune de ces défenses n'offre une immunité totale, et le prétendre serait déjà une forme de désinformation. L'effet du prebunking décline avec le temps et appelle des « rappels » ; il protège mieux contre les techniques explicitement présentées que contre des procédés inédits. La littératie médiatique ne transforme personne en juge infaillible de la vérité. Ces outils réduisent une vulnérabilité ; ils ne l'annulent pas. Le reconnaître n'affaiblit pas la défense — cela la rend honnête, et donc durable.
L'IA va-t-elle rendre la désinformation impossible à combattre ? Non. Elle abaisse le coût et augmente le volume du faux, mais les mécanismes psychologiques qu'elle exploite (effet de vérité illusoire, ancrage, fatigue du doute) sont connus, et les parades — prebunking, vérification des sources, littératie — fonctionnent sur ces mécanismes, pas sur chaque contenu. Le terrain se durcit ; il ne devient pas désespéré.
Comment reconnaître un deepfake ? Aucun signe technique n'est fiable à coup sûr, et la détection à l'œil nu devient illusoire. Le réflexe le plus robuste n'est pas de scruter le pixel, mais de vérifier la source : qui publie ce contenu, est-il confirmé par des médias fiables et indépendants, existe-t-il une version originale traçable ? On authentifie le vrai plutôt que de courir après le faux.
Faut-il réfuter chaque fausse information ? Pas une à une : c'est sans fin, et la répétition d'un faux peut le rendre plus familier, donc plus crédible. Mieux vaut renforcer le discernement en amont (prebunking, éducation) et diffuser l'information fiable en premier. La prévention l'emporte sur le démenti tardif.
Pour comprendre comment ces mécanismes s'inscrivent dans les doctrines militaires contemporaines — du concept de guerre cognitive de l'OTAN au modèle de la saturation, jusqu'aux parades de défense cognitive —, voir notre enquête sur la guerre cognitive : le cerveau comme champ de bataille.
Pour aller plus loin, l'enquête complète La Guerre Cognitive — Doctrine 2026 réunit les sources réelles (rapport de l'OTAN, modèle RAND du « firehose of falsehood », théorie de l'inoculation de McGuire, prebunking de van der Linden et Roozenbeek) et propose six repères concrets de défense cognitive.
Non. Elle abaisse le coût et augmente le volume du faux, mais les mécanismes psychologiques qu'elle exploite (effet de vérité illusoire, ancrage, fatigue du doute) sont connus, et les parades — prebunking, vérification des sources, littératie — fonctionnent sur ces mécanismes, pas sur chaque contenu. Le terrain se durcit ; il ne devient pas désespéré.
Aucun signe technique n'est fiable à coup sûr, et la détection à l'œil nu devient illusoire. Le réflexe le plus robuste n'est pas de scruter le pixel, mais de vérifier la source : qui publie ce contenu, est-il confirmé par des médias fiables et indépendants, existe-t-il une version originale traçable ? On authentifie le vrai plutôt que de courir après le faux.
Pas une à une : c'est sans fin, et la répétition d'un faux peut le rendre plus familier, donc plus crédible. Mieux vaut renforcer le discernement en amont (prebunking, éducation) et diffuser l'information fiable en premier. La prévention l'emporte sur le démenti tardif.
Dossier : Guerre cognitive & neuro-armes
MINI10: La Guerre Cognitive — Doctrine 2026
Accueil · Collection · Journal · Dossiers · Sources