Un grand modèle de langage (large language model, LLM) est, dans son principe, un modèle statistique entraîné à prédire le mot — plus exactement le « token », fragment de mot — le plus probable à la suite d'une séquence donnée. Il a été ajusté sur d'immenses corpus de textes humains, et il a appris à modéliser les régularités de ces textes [1]. Il ne consulte pas une base de faits, ne « sait » rien au sens où nous l'entendons : il calcule des probabilités sur des suites de symboles.
Cette nature a été nommée sans détour par les chercheuses Emily Bender, Timnit Gebru et leurs co-auteurs dans un article devenu une référence du domaine, *On the Dangers of Stochastic Parrots* (2021). L'expression « perroquet stochastique » y désigne un système qui « assemble des séquences de formes linguistiques observées dans ses vastes données d'entraînement, selon des informations probabilistes sur leur combinaison, mais sans aucune référence au sens » [2]. La formule est polémique et a été discutée ; mais le point technique qu'elle souligne — l'absence d'ancrage dans le sens et le monde — décrit une propriété réelle de l'architecture.
Il faut aussi corriger une image trompeuse. Le modèle ne « cherche » pas dans une mémoire et ne « réfléchit » pas comme un agent délibérant. Une grande part de sa compétence apparente émerge de l'échelle — la quantité de données et de paramètres — et de l'ajustement par rétroaction humaine, qui oriente ses réponses vers ce que des évaluateurs jugent utile ou plaisant. Ce dernier point a une conséquence importante : le système est partiellement optimisé pour *paraître* satisfaisant, ce qui n'est pas la même chose qu'être exact.
En 1950, le mathématicien Alan Turing publie « Computing Machinery and Intelligence », où il propose de remplacer la question vague « les machines peuvent-elles penser ? » par un test opérationnel : le « jeu de l'imitation ». Si une machine peut, par écrit, se faire passer pour un humain auprès d'un interrogateur, dit Turing, la question de savoir si elle « pense vraiment » devient sans objet pratique [3]. C'est un déplacement décisif : Turing ne prétend pas que réussir le test prouve une conscience ; il suggère que le critère de la conscience interne est peut-être inaccessible, et propose de juger sur le comportement.
En 1980, le philosophe John Searle riposte par l'expérience de pensée de la « chambre chinoise ». Imaginez un homme enfermé dans une pièce, qui ne comprend pas le chinois, mais dispose d'un manuel de règles lui indiquant comment répondre à des symboles chinois par d'autres symboles chinois. De l'extérieur, ses réponses sont parfaites ; à l'intérieur, il ne comprend rien. Searle en conclut que la manipulation de symboles selon des règles — la syntaxe — ne produit jamais, à elle seule, la compréhension — la sémantique [4]. Un programme peut donc réussir le test de Turing sans rien comprendre.
Une troisième question, plus radicale encore, a été nommée par le philosophe David Chalmers en 1995 : le « problème difficile de la conscience ». Expliquer comment le cerveau traite l'information (les « problèmes faciles ») est ardu mais concevable ; expliquer pourquoi ce traitement s'accompagne d'une *expérience vécue* — pourquoi « ça fait quelque chose » d'être conscient — est d'une autre nature, et nul ne sait aujourd'hui le résoudre [5]. Or, sans théorie de ce qui produit l'expérience, nous n'avons aucun moyen fiable de déterminer si un système en a une.
En 1966, l'informaticien Joseph Weizenbaum, au MIT, crée ELIZA, un programme rudimentaire imitant un psychothérapeute rogérien : il reformulait simplement les phrases de l'utilisateur en questions. Weizenbaum fut stupéfait de constater que des personnes — y compris sa propre secrétaire, qui savait pourtant que c'était un programme — lui attribuaient une compréhension et une empathie réelles, et souhaitaient lui confier leurs problèmes intimes [6]. De cette observation est né le terme d'« effet ELIZA » : notre tendance puissante à projeter de la compréhension, des intentions et des émotions sur un système qui n'en a pas.
Weizenbaum, troublé par ce qu'il avait découvert, devint l'un des premiers critiques de l'anthropomorphisme informatique. Dans *Computer Power and Human Reason* (1976), il avertit qu'attribuer un jugement humain à des machines revient à abdiquer une part de notre propre responsabilité, et que certaines décisions — celles qui engagent la compassion, le soin, la justice — ne devraient pas être déléguées à des systèmes, *même s'ils en paraissaient capables* [7]. Son inquiétude ne portait pas sur la puissance des machines, mais sur la faiblesse de notre vigilance.
L'effet ELIZA explique pourquoi le débat sur la conscience des machines est si chargé émotionnellement, et si tôt tranché par tant de gens. Nous ne raisonnons pas froidement sur une question ouverte ; nous cédons à une projection que sa nouveauté technique ne fait qu'amplifier. Le premier travail de lucidité face à l'IA n'est donc pas technique mais psychologique : reconnaître en soi cette pente, la nommer, et s'en défier. C'est précisément ce que faisait Weizenbaum en 1966 — et la leçon n'a pas vieilli.
Le phénomène des biais a été démontré rigoureusement. L'étude d'Aylin Caliskan, Joanna Bryson et Arvind Narayanan, publiée dans *Science* en 2017, a montré que des modèles de langage entraînés sur des textes ordinaires reproduisaient automatiquement des biais humains documentés : associations entre certains prénoms et l'agréable ou le désagréable, entre des catégories de genre et certaines professions [8]. Le biais n'était pas ajouté par les concepteurs ; il était présent dans le langage humain et fidèlement appris.
Les conséquences concrètes sont attestées. L'étude *Gender Shades* de Joy Buolamwini et Timnit Gebru (2018) a mesuré que des systèmes commerciaux de reconnaissance faciale se trompaient bien plus souvent sur les visages de femmes à la peau foncée que sur ceux d'hommes à la peau claire — un écart de performance qui suivait directement la composition déséquilibrée des données d'entraînement [9]. Ici, le miroir grossissant des données se traduit en discriminations mesurables, dans des usages réels.
De cette mécanique découle un phénomène bien documenté : la « confabulation » ou « hallucination ». Parce que le modèle produit ce qui est *plausible* et non ce qui est *vrai*, il peut générer avec la même assurance une information exacte et une information inventée — une citation qui n'existe pas, une référence fabriquée de toutes pièces, un fait erroné formulé impeccablement. Ce n'est pas un bug accidentel mais une conséquence directe de l'objectif d'entraînement : maximiser la vraisemblance, pas la vérité [1].
Un même mécanisme relie ces cas : le système optimise la fidélité à ses données. Si ces données sur-représentent un groupe, une opinion, une norme, le modèle les sur-représentera à son tour, et tendra à les présenter comme l'évidence ou le défaut. Loin d'être un point de vue de nulle part, l'IA est un point de vue *moyen*, pondéré par ce qu'on lui a donné à lire — et donc par les inégalités d'accès à l'écriture, à la publication, à la visibilité en ligne.
La question du contrôle a été posée rigoureusement, sans verser dans la science-fiction, par l'informaticien Stuart Russell dans *Human Compatible* (2019). Son argument central est le « problème de l'alignement » : un système optimisant fortement un objectif mal spécifié peut produire des effets nuisibles, non par malveillance, mais par littéralité — il fait exactement ce qu'on a écrit, pas ce qu'on voulait dire. Russell propose de concevoir des machines explicitement *incertaines* des préférences humaines, donc déférentes et corrigibles [10]. Son mérite est de traiter l'alignement comme un problème d'ingénierie présent, et non comme une prophétie.
D'où la thèse de cette mini-enquête : *l'IA actuelle ne nous menace pas d'abord comme un esprit rival, mais comme un miroir grossissant de nos propres données, de nos biais et de nos délégations.* Ce déplacement change tout. Si la menace venait d'un autre, la réponse serait le combat ou le contrôle de cet autre. Mais si elle vient d'un reflet, la réponse est ailleurs : dans la qualité de ce que nous lui donnons à refléter (nos données), dans la lucidité sur ce que nous projetons (notre anthropomorphisme), et dans la responsabilité de ce que nous lui déléguons (notre jugement).
Cette thèse a une vertu : elle restaure notre responsabilité là où la peur nous en dépossède. Devant un esprit rival, nous serions des victimes potentielles. Devant un miroir, nous sommes les seuls auteurs de l'image. Les biais que la machine restitue, nous les avons écrits ; l'autorité que nous lui prêtons, nous la lui accordons ; les décisions que nous lui abandonnons, nous choisissons de les abandonner. Le miroir ne décide rien. Il renvoie. La question n'est jamais « que va faire la machine ? » mais « que choisissons-nous de placer devant elle, et de croire de son reflet ? ».
Ces six repères ne désamorcent pas tous les risques — aucune méthode ne le peut — mais ils transforment la fascination inquiète en posture lucide : utiliser l'outil pour ce qu'il est, sans le craindre comme ce qu'il n'est pas, ni l'idolâtrer comme ce qu'il ne sera peut-être jamais.
Dossier : Égrégore & souveraineté cognitive
Accueil · Collection · Journal · Dossiers · Sources