Déjà en place aux USA et dans plus de 120 pays depuis 2 ans, Google AI Overviews débarque en France cet été (c’est effectif depuis ce mercredi 22 juillet). Le principe est simple : pour chaque requête sur le moteur, c’est l’IA de Google (Gemini) qui propose des résumés ou plus exactement, et la précision me semble d’importance, des synthèses et – souvent – des préconisations.

Cette arrivée durant l’été est annoncée comme un tremblement de terre, notamment par les éditeurs de presse qui, comme c’est le cas depuis plus de 20 ans avec le lancement de Google News en 2002, ne trouvent aucune issue au pacte attentionnel Faustien qui leur a été imposé : laissez-moi indexer et réutiliser vos contenus et en échange vous serez visibles, ou empêchez-moi de le faire et l’audience de vos sites sera quasi nulle.

L’article de Nicolas Lellouche sur Numérama résume très bien les principaux enjeux de cette arrivée et le changement de statut de celui qui était, jusqu’ici, un moteur de recherche.

Il y a, bien sûr, de quoi s’inquiéter circonstantiellement toujours davantage, mais structurellement, sur le fond, rien n’a vraiment changé depuis presqu’un quart de siècle. Google est un moteur de recherche devenu un moteur de réponses (« il n’y aura plus que des réponses » prophétisait Marguerite Duras) ; Google est un béhémot calculatoire qui a bâti son succès sur un régime de captation d’externalités (le web) qu’il a progressivement transformé en autant d’internalités. D’abord sur des sources ouvertes (le web donc, et notamment Wikipédia) puis sur des sources propriétaires ou mettant en jeu des principes de propriété intellectuelle (la presse notamment). Et toujours en pratiquant « l’Opt-Out » c’est à dire la captation / prédation par défaut, libre ensuite à chacun de faire part de sa volonté d’en sortir (il est d’ailleurs possible de sortir votre site de l’AI Overview). Et lorsque la masse de ces internalités fut suffisamment « à l’échelle », Google se trouva alors en situation de jouer à son avantage la rivalité qu’il avait lui-même créé (et arbitré) entre la qualité, l’importance et la nécessité de la production de contenus externes d’une part, et d’autre part celle de la production de réponses internes suffisamment courtes pour ne pas heurter de front la propriété intellectuelle (jouant entre l’usage « de minimis », le Fair-Use et l’exception pour courte citation) et suffisamment complètes pour satisfaire des requêtes informatives sans nécessité d’aller chercher des compléments d’information à l’extérieur du moteur ou alors en le faisant uniquement dans l’écosystème de sites tiers déjà dans le giron de la firme.

Avec AI Overviews, Google pousse donc un cran plus loin cette logique phagocyte. Et ce faisant il cesse peut-être irrévocablement d’être un « portail » (il n’en était déjà plus que l’ombre depuis longtemps mais maintenait nonobstant une fonction d’accès et d’orientation) pour devenir une simple « porte », que chaque requête sur le moteur referme derrière notre passage.

Permettez-moi alors de formuler une question volontairement provocante. Et si finalement Google était juste en train de devenir … un média ? Google dont longtemps le métier correspondant à son chiffre d’affaire fut celui d’être une régie publicitaire, et de n’être que cela (malgré ce que ses fondateurs affirmaient dans leur article séminal). Google deviendrait donc un média. Mais un média aux fonds baptismaux particuliers : entièrement construit sur la prédation d’externalités, sorte de Cronos dévorant ses enfants, il se mue aujourd’hui avec AI Overviews en média autophage qui tend à ne plus se nourrir que de lui-même. Ce « lui-même » étant permis par la volumétrie totalement inédite ainsi que par les effets de dissémination en même temps que d’opacification immanents des LLM (larges modèles de langage). La question est de savoir jusqu’où et jusqu’à quand ce principe autophage pourra être poursuivi, et la seule certitude est qu’il ne pourra pas l’être éternellement car si grande que soit l’étendue des éléments constituant aujourd’hui la ressource indexable et pouvant être générée du moteur, elle n’est pas infinie et nécessitera donc toujours et tout le temps l’appui de ressources externes (au Royaume-Uni après deux ans de déploiement le trafic vers les sites d’éditeurs à drastiquement chuté – entre 20 et 40% de baisse). Sauf … sauf à considérer pouvoir se satisfaire d’un pourrissement (ou d’une emmerdification) et à disposer des moyens pour faire croire qu’il n’est que périphérique et marginal.

Deux éléments pour conclure.

D’abord le mythe de Cronos dévorant ses enfants laisse place au scénario dans lequel ceux-ci se voient finalement régurgités et renversent leur père pour s’installer comme nouveaux dieux sur le mont Olympe.  C’est précisément pour s’en prémunir que très tôt Google a eu l’intelligence de développer son propre LLM et pouvant s’appuyer sur l’immensité des données et des textes qu’il avait déjà collectés, traités, indexés, et dont il avait, bien avant même l’invention du terme « LLM », déjà fait corpus (à ce titre le programme Google Books exploité à l’époque avec les technologies disponibles du TALN – traitement automatique du langage naturel – fut une pierre angulaire déterminante.

Ensuite j’évoquais plus haut l’article séminal de S. Brin et L. Page dans lequel après avoir décrit la formule et l’algorithme du Pagerank ils reviennent en annexe sur la toxicité du modèle publicitaire qui fait aujourd’hui leur fortune et constitue leur seul paradigme de déploiement. Notez que ce passage (ces « annexes ») a étrangement disparu de la version accessible depuis le site de la firme, mais qu’elle est heureusement toujours présente sur la page originale du laboratoire de l’université de Stanford. La seule leçon à retenir de cela est assez simple : ne faites jamais confiance à un prédateur.

Tableau de Rubens. Cronos dévorant ses enfants
(Source Wikipedia)

Le (Large) langage (Model) de la guerre.

« Il faut désarmer l’IA » écrit le pape Léon XIV dans sa première encyclique, « Magnifica Humanitas« , publiée le lundi 25 Mai 2026. De fait et à l’occasion des récents conflits, de l’Ukraine à l’Iran en passant par Gaza, les technologies d’IA sont des puissances d’armement.

En première intention et sous les feux de la rampe autant que de ceux de la guerre, on a beaucoup parlé, ces derniers mois, de l’injonction faite par le gouvernement Trump aux grandes sociétés d’intelligence artificielle (IA) de se soumettre et d’accepter que leurs technologies soient utilisées dans le cadre de programmes militaires. Rien de vraiment nouveau car toutes les technologies et la plupart des industries (automobile par exemple) ont toujours été utilisées et mobilisées dans le cadre de guerres déclarées, ou en anticipation de celles pouvant l’être, y compris les fondements d’internet qui fut pour partie un projet de la DARPA.

Là où un changement de paradigme s’opère c’est qu’il s’agit cette fois de se plier (pour Anthropic et les autres) à l’utilisation de leur technologie d’IA, y compris pour la décision non-supervisée d’offensives et de ciblages à dimension létales, donc en clair pour tuer des gens de manière automatisée sur la base de choix dans lesquels la décision humaine n’est plus qu’un cadre de raisonnement parmi d’autres, ni déterminant ni déterministe, une variable d’ajustement de moins en moins requise, et de plus en plus systématiquement exclue de toute action ou réaction « en temps réel ».

Le patron d’Anthropic (Dario Amodei) a refusé de se plier à l’injonction qui lui était faite (refusant à la fois le cadre d’une utilisation létale et celui d’une surveillance de masse des populations). Trump l’a donc banni et mis sur liste noire, le privant notamment de juteux et décisifs financements étatiques. Dario Amodei a probablement vécu son moment « San Bernardino », à la manière dont Tim Cook (patron d’Apple) avait en 2015 refusé de baisser le niveau de sécurité de l’iPhone pour permettre au FBI d’accéder aux données du meurtrier de la tuerie de San Bernardino (à l’époque, il y a donc 10 ans, c’est pas rien à l’échelle des sujets dont on parle, j’avais pris un positionnement un peu … dissonant en posant la question suivante « un terroriste est-il un client Apple comme les autres ?« )

Dans une enquête de Bloomberg notamment relayée par une journaliste de la RTS sur X, on apprenait plus précisément ceci (je souligne) :

« L’image publique d’Anthropic repose sur une IA conçue pour servir l’humanité. L’entreprise refuse de franchir certaines lignes rouges, notamment celles des armes entièrement autonomes et de la surveillance de masse. Mais au début de l’année 2026, alors qu’Anthropic engageait un bras de fer avec le Département de la Défense sur les principes de son contrat en cours à 200 millions de dollars, l’entreprise soumettait une proposition pour remporter un concours du Pentagone doté de 100 millions de dollars.

L’objectif du programme était de produire une technologie permettant de superviser, par la voix, des essaims de drones létaux. Claude devait comprendre l’ordre vocal d’un opérateur humain et le convertir en instructions numériques pour coordonner la flotte de drones. Dans ce cas, l’humain donne une instruction globale. Une fois l’ordre transmis, les drones, grâce à leur propre intelligence artificielle en réseau, calculent leurs trajectoires d’approche et se répartissent les cibles sans intervention humaine.

Selon les sources internes citées par Bloomberg, la direction d’Anthropic estimait que cette utilisation respectait ses conditions d’utilisation car l’IA de ciblage létal est embarquée dans les drones eux-mêmes, pas dans Claude. Par conséquent, tant que l’opérateur conserve le pouvoir théorique d’interrompre le système, l’entreprise considère que l’arme n’est pas « entièrement autonome ».

Mais sur le terrain opérationnel, cette distinction relève davantage de la philosophie que de la balistique. Même si l’opérateur conserve la supervision et le pouvoir d’interrompre le système, il est techniquement impossible pour un humain de traiter assez d’informations pour l’utiliser à temps, face à la rapidité de calcul d’un essaim de drones propulsés par une intelligence artificielle en réseau. Le temps que l’opérateur comprenne que l’essaim a fait une erreur d’identification, la cible est déjà détruite. Dans l’imaginaire collectif, une armée de robots tueurs se représente souvent sous la forme d’androïdes humanoïdes lourdement armés, marchant au pas sur un champ de bataille. Or, le Pentagone ne cherche pas à reproduire le soldat humain, mais à le dépasser par la logique de l’essaim. (…) Il faut imaginer des centaines de petits drones, furtifs et peu coûteux. Animés par un modèle d’IA, ils communiquent entre eux en temps réel. Ils fonctionnent en réseau et se comportent comme une ruche. Si des drones sont abattus par l’ennemi, l’essaim recalcule instantanément sa géométrie et poursuit sa mission.

Leur objectif tactique est de saturer la cible. Ils sont conçus pour submerger les radars, épuiser les défenses anti-aériennes, traquer une cible sous une multitude d’angles simultanés et frapper de façon synchronisée.Cette stratégie s’inscrit dans le programme Replicator, annoncé en 2023 avec une promesse opérationnelle pour août 2025. Son objectif est de contrer l’avantage du nombre de l’armée chinoise en produisant des milliers de systèmes autonomes coordonnés par intelligence artificielle, sacrifiables et peu coûteux. C’est pour devenir le cerveau de ce type de chorégraphie qu’Anthropic avait proposé Claude.

Comme les sources de Bloomberg le rapportent, Anthropic n’était donc fondamentalement pas opposée au développement de systèmes autonomes, tant que la définition de l’autonomie s’alignait sur ses propres standards. L’impasse est survenue lorsque la direction d’Anthropic a exigé de maintenir l’humain dans la boucle de décision d’élimination de la cible, tout en refusant d’accorder au Pentagone un accès complet et sans restriction au modèle. Or, le Pentagone n’achète pas de boîtes noires. Perdant patience face à une entreprise qui plaçait sa gouvernance au-dessus des impératifs étatiques, le Secrétaire à la Défense Pete Hegseth a ordonné l’interdiction pour les sous-traitants du Pentagone de mener toute activité commerciale avec Anthropic, la classant de facto comme un risque pour la chaîne d’approvisionnement.

C’est une condamnation à mort commerciale qui excommunie la firme de tout l’écosystème de défense : désormais, aucun sous-traitant de l’armée n’a le droit d’interfacer ses systèmes avec Claude. Y compris Palantir. Anthropic a parié que ses capacités de raisonnement la rendraient indispensable. C’était une erreur d’appréciation. Pour l’armée américaine, un modèle capable à 95 % qui obéit est infiniment plus précieux qu’un modèle à 99 % qui discute les ordres.

Le Pentagone a immédiatement redistribué les cartes. Toujours selon Bloomberg, pour faire avancer son projet d’essaims de drones autonomes, l’armée s’est tournée vers une coalition de remplaçants incluant SpaceX, xAI, et des firmes de technologie de défense partenaires d’OpenAI.

D’autres, comme Sam Altman le patron d’OpenAI, se sont rapidement mis en mode carpette et plié à l’ensemble des demandes de l’administration Trump (avant de récemment rétro-pédaler partiellement sur la question de la surveillance de masse). Pourtant de fait et malgré la position de son patron, l’IA Claude d’Anthropic a largement été utilisée pour l’offensive actuelle contre l’Iran, un délai de 6 mois étant nécessaire avant son bannissement « effectif » et que l’entreprise est pour l’instant liée par contrat à l’administration US.

Toujours dans le cadre de la guerre en Iran, on apprenait dans The Independant que Grok avait été mobilisé pour une opération de lancement de plus de 2000 missiles :

« Selon un haut responsable de la Défense, l’administration de Donald Trump aurait fait appel au chatbot Grok d’Elon Musk pour lancer des milliers de missiles en Iran. Dans une déclaration sous serment visant à défendre le « trillionaire » contre un procès alléguant que les centres de données de xAI polluent illégalement les communautés noires, le responsable de l’intelligence artificielle au Pentagone a déclaré que le maintien en service du chatbot était « une question de sécurité nationale primordiale » — et qu’il avait été utilisé pour tirer plus de « 2 000 missiles sur 2 000 cibles distinctes en 96 heures ».

Grok, un chatbot d’intelligence artificielle générative développé par xAI, fait partie des quatre modèles d’IA « actuellement capables de prendre en charge des applications liées à la sécurité nationale », selon Cameron Stanley, directeur du numérique et de l’intelligence artificielle au Pentagone. »

War (is not a) Game.

Dans cette affaire et par-delà les singularités de la gouvernance actuelle des USA, c’est, dans le champ social le retour d’une imagerie de l’IA agissant en Terminator avec la crainte d’un soulèvement des machines. Certes les IA et les « machines » ne déclarent pas encore la guerre, mais sur les terrains de guerre, l’automatisation de décisions leur appartenant désormais entièrement peut engager de nouvelles forces, de nouveaux déterminismes du conflit, y compris dans son extension possible. Ce scénario – d’un soulèvement des machines – est aujourd’hui une médiane paradoxale dans le champ de la prospective : il n’est en effet ni pleinement ni actuellement crédible sur le plan technologique, mais il n’est pas non plus totalement exclu sur un plan politique (qui serait celui d’un emballement, une « furie épique » par exemple …). Ce paradoxe s’explique principalement par le fait que les IA « générales » ou « autonomes » n’existent pas mais qu’une autonomie de décision peut en revanche parfaitement leur être confiée, accordée ou déléguée et qu’à ce stade là, plus personne n’est actuellement en capacité de tracer les décisions qui seront alors prises : c’est le scénario de l’IA battant les meilleurs joueurs d’échec puis les meilleurs joueurs de Go. Dans ces derniers cas, la rapidité de calcul peut-être mise exactement sur le même plan que la capacité de décision puisqu’elle n’aura d’autre inférence, quoi qu’il advienne, que celles circonscrites au plateau de jeu et à détermination de la fin de partie. Sauf qu’on ne parle plus ici d’une activité récréative mais de terrains de guerres. Et sur des terrains de guerre (mais également sur des terrains médicaux, éducatifs, juridiques, etc.), la rapidité de calcul des machines entre en concurrence directe avec la capacité de décision humaine. Or prétendre déléguer aux machines une capacité décisionnelle au motif qu’elles calculent plus vite que nous est à la fois imbécile et dangereux. On m’objectera que les terrains de guerre moderne impliquent la prise de décisions à la milliseconde tout comme les terrains spéculatifs modernes (nos bourses) ont vu l’arrivée du High-Frequency Trading (trading à haute fréquence). Relire Virilio à ce stade n’est plus une option mais une impérieuse nécessité.

Image extraite du film War Games.

D’autres accélérations surviennent. En à peine 30 ans nous avons connu la première guerre entièrement télévisée, en Irak. En Irak encore les drones de combat (Predator) après l’attentat sur les tours jumelles. Hier toujours, la guerre par écran interposé. Aujourd’hui donc les frappes assistées par IA (notamment après le 7 Octobre). Et sous nos yeux la première guerre assistée par des LLM (notamment pour cibler des populations et des individus mais aussi pour permettre à des drones de se coordonner avec une autonomie décisionnelle alignée sur un objectif militaire).

Je reprends ici ce qu’Olivier Tesquet écrivait sur LinkedIn (et je souligne) :

« Je lis dans The Wall Street Journal que l’armée américaine aurait – encore – utilisé Claude pour frapper l’Iran. Puisque ces informations sont classifiées, impossible de savoir à ce stade comment les États-Unis se servent précisément des IA génératives dans le cadre d’opérations militaires. Mais ça m’inspire quelques réflexions générales à chaud.

Tout d’abord, peut-être que le conflit de cette semaine entre Anthropic et le Pentagone – avec cet ultimatum très serré lancé par Hegseth – était lié à des considérations beaucoup plus opérationnelles que ce qu’on imaginait.

Ensuite, quand je travaillais spécifiquement sur les questions de surveillance, j’étais hanté par cette phrase de Michael Hayden, ancien patron de la NSA et de la CIA, évoquant les « assassinats ciblés » par drone : « Nous tuons les gens sur la base de métadonnées ». C’était il y a plus de dix ans.

Désormais, la guerre à Gaza l’a cruellement mis en lumière, l’armée utilise des LLM pour profiler la population (palestinienne) et des systèmes d’IA pour automatiser ses bombardements. Le continuum répressif est évident. Il faut lire à ce sujet le travail capital de +972 Magazine.

Dans les deux cas, on tue en se basant sur des inférences probabilistes, qui prédisent des comportements. On prend la vie de quelqu’un qui ressemble statistiquement à une menace, pas quelqu’un dont on a établi la culpabilité. Les dommages collatéraux ? Les civils tués ? Des variables d’ajustement.

Mais avec l’IA, on franchit un seuil supplémentaire : celui de l’intelligibilité. On ne peut plus retracer le chemin logique qui mène du signal à la décision.
Conséquence : tout principe de responsabilité – y compris pénale – disparaît. Et c’est peut-être ce qui attire tant le pouvoir américain. »

Au milieu de tout cela, ne jamais oublier que comme tant d’autres, cette guerre en Iran, « du signal à la décision« , a commencé par un tir sur une école. « Du signal à la décision« . Une école primaire. L’école primaire Shajareh Tayyebeh à Minab, dans le sud de l’Iran.

Et qu’en plus de tout cela, nous nous éloignons toujours davantage de ce qu’écrivaient Bostrom et Yudowsky (deux théoriciens de l’intelligence artificielle) dont je cite souvent ici l’article de 2011, « The Ethics of Artificial Intelligence » :

« Les algorithmes de plus en plus complexes de prise de décision sont à la fois souhaitables et inévitables, tant qu’ils restent transparents à l’inspection, prévisibles pour ceux qu’ils gouvernent, et robustes contre toute manipulation. »

L’infanterie des données.

Si l’IA (et les LLM) sont la nouvelle artillerie des guerres modernes, alors les données (et métadonnées) sont leur nouvelle infanterie. Or ces données sont des armes de contact à la volatilité extrême. Capables de se retourner contre l’assaillant autant que vers l’assailli. On ne peut en effet que constater aujourd’hui avec autant d’inquiétude que d’effarement la multiplication, la massification et la récurrence des leaks, piratages et autres immenses fuites et vols de données : personnelles, fiscales, médicales, depuis des sources privées, des institutions publiques ou des ministères régaliens, pas une semaine, pas un jour parfois sans un nouveau scandale. A un point que cela en devient presque une sorte de routine et donne naissance à des arnaques de plus en plus nombreuses mais surtout de plus en plus efficaces.

Parmi les plkus récentes rendues publiques on notera celles de l’ANTS (11,7 millions d’usagers), de Almeris (15 millions de patients concernés et autant de données critiques dans le domaine médical), celle de la Banque Postale (11 millions d’usagers), celle de l’opticien Atol (5,9 millions de clients) ou de la chaîne Pierre & Vacances (4,5 millions de clients), sans oublier jusqu’à la DGFIP (direction générale des finances publiques) où les données de plus d’1,2 millions de comptes fiscaux ont été volées.

Ces fuites, ces leaks, ces vols, ces actes de cyber-piraterie ou de cyber-guerre sont aussi bien menés par des pirates agissant en collectifs « autonomes » que par des corsaires au service d’états voyous ou de puissances impériales. Et là encore, le scénario d’un effondrement oscille entre celui de l’impact d’un Armageddon planétaire et le ressenti d’une patate de forain en sortie de boîte de nuit à Arma-sur -Guédon dans la Creuse.

La stratégie Ender.

Dans ce roman de science-fiction, après des années à l’entraîner via de gigantesques simulations, on présente à un humain (Ender) un acte de commandement en temps de guerre et pour une bataille décisive, comme celui d’une énième « simple » simulation alors qu’il s’agit en fait de la réalité et qu’il est vraiment en train de commander des armées sur un terrain tout à fait réel.  Nous vivons aujourd’hui une stratégie Ender en miroir. Des IA prennent des décisions en temps de guerre dont certaines s’apparentent à du commandement, et elles le font sans en avoir de quelconque « conscience » tout comme Ender, persuadé d’être dans une simulation, n’éprouvait un quelconque sentiment de responsabilité sur des pertes humaines y compris lorsque celles-ci deviennent critiques. Et nous, nous les humains spectateurs de ces guerres, avons à la fois l’impression terrible d’observer une grande simulation qui nous échappe, tout en mesurant l’atrocité de ce qui s’y joue en temps réel, mais en la mesurant de si loin et via des images si artefactuelles et calquées sur la culture populaire (super-héros et autres reprises de codes de la pop-culture)  que la frontière entre le réel et la simulation n’est désormais plus qu’un vague continuum.

Plus rien n’appartient au réel qui ne puisse être simulé et donc simulacre. Et plus aucune simulation ou aucun simulacre ne nécessite d’être ramené au réel pour être éprouvé en tant que tel.

Depuis le début de la guerre faite par les USA et Israël à l’Iran, le compte de la Maison Blanche multiplie les publications qui mêlent images de films (Top Gun, Predator, Mission Impossible …) et images réelles de missiles frappant des cibles ; et quand il ne s’agit pas de films, ce sont les codes des jeux vidéos familiaux (les sports de la Wii U récemment) qui sont associés à ces mêmes images hyper-réalistes de frappes aériennes ou maritimes. De son côté le régime iranien des Mollahs répondait avec les vidéos du sacre de leur nouvel ayatollah où ce sont des personnages Lego qui sont filmés en stop motion (voir l’excellent Dessous des images consécré à « La guerre en Lego »). L’idée n’est pas de vendre une guerre « pop » : l’idée c’est d’anecdotiser complètement l’existence même de la guerre à l’échelle de certains espaces médiatiques.

Après que la guerre a été éloignée des médias à l’exception d’images et de discours qui n’étaient que de propagande, après qu’elle a été filmée au plus près et télévisée en temps réel, après que les témoignages et images qui la constituent se sont réfugiés dans les réseaux sociaux en en empruntant les codes (comme ce fut le cas souvenez-vous en Ukraine ou les témoignages sous les bombes adoptaient le codes des comptes Tiktok de l’âge des premières victimes), aujourd’hui ce qui se joue dans l’économie médiatique de la guerre c’est l’écartèlement permanent entre le réalisme de la disponibilité d’images et de témoignages insoutenables d’un côté, et la réalisation d’images et de récits totalement irréalistes et fantasmés de l’autre côté. Le tout arbitré en visibilité par des algorithmes relais de pouvoir et totalement inféodées à la volonté de leurs maîtres.

Et il ne s’agit pas pour nous de choisir mais d’accepter de prendre tout cela ensemble, car l’architecture de circulation de ces discours est en forme d’arène dans laquelle ces spectacularisations s’enchaînent et se répondent sans cesse et sans que nous puissions ne serait-ce que dire que nous aimerions choisir.

Stratégie Ender (suite) : Attrapez-les tous !

Certains peut-être se souviennent du phénoménal engouement autour du jeu Pokémon Go décliné en réalité augmentée. Il s’agissait de chasser les Pokémon un peu partout dans le monde réel, en passant par une application de réalité augmentée qui « superposait » sur notre géographie classique l’environnement ludique du jeu. Je m’étais de mon côté interrogé sur ces nouvelles affordances et j’avais publié plusieurs articles sur le sujet que vous retrouverez par ici. Dans le premier de ces articles, je proposais même le concept de « schizo-haptie » que je définissais comme suit :

Quand nombre d’entre nous sont aujourd’hui incapables de se passer de leurs smartphones, de « lâcher » cet objet, quand et surtout comment serons-nous demain capables de s’affranchir de nos corps-interfaces pour revenir à plus naturelles synesthésies qui risquent de nous apparaître comme « dégradées » puisque non-augmentées ? Le hold-up du haptique sur tout autre mode d’interfaçage avec le monde et les objets techniques pourrait également donner naissance à de passionnantes études sur l’interface … des faux-mouvements. Aux pathologies actuelles du numérique, à la nomophobie, à la FOMO, à l’algorithmophobia, faudra-t-il rajouter une nouvelle forme de schizophrénie (du grec « schizein = fendre » et « phrên = esprit ») dénommée « schizo-haptie », une schizophrénie du mouvement et de l’ensemble de la panoplie des « gestes-contrôle » ? »

Nous étions alors en 2016. Dix ans plus tard, nous venons d’apprendre, dans un article du MIT repris notamment dans Le Devoir, que derrière cette ludification se tramait en parallèle (et sans un quelconque consentement de notre part), un entraînement pour permettre … de créer une carte du monde en réalité augmentée. Laquelle carte est notamment utilisée pour permettre à des robots de livrer des pizzas. La préméditation n’est pas établie mais le fait est que la société Niantic (qui développait le jeu) dispose aujourd’hui d’une nouvelle branche baptisé Niantic Spatial et dont l’objectif est – je reprends leur slogan – « de construire un LGM (Large Geospatial Model), un modèle vivant du monde auquel les êtres humains et les machines pourront s’adresser » (« Niantic Spatial is building a Large Geospatial Model, a living model of the world that people and machines can talk to« ).

Or y compris avec la localisation GPS et notamment dans de grands centres urbains, on manque de précision au mètre près pour opérer un certain nombre de transactions et autres livraisons. Parce que la distribution sur le dernier kilomètre représentait  il y a 10 ans de cela la logistique la plus complexe, Amazon avait lancé en 2015 le service « Flex », pour « uberiser » ce dernier bastion, cette dernière proximité, et nous permettre de récupérer des colis et de les livrer sur le trajet nous (r)amenant chez nous ou à notre travail. Dix ans plus tard, c’est la conquête des derniers mètres qui est devenue la grande bataille logistique. Et il ne s’agit plus d’embaucher des humains mais de permettre à des robots autonomes d’effectuer ces derniers mètres avec la plus grande précision possible. Comme l’explique très bien Camille Coirault sur Presse-Citron :

« Ce qui distingue ce système de tout ce qui existait avant, c’est sa nature : un GPS fonctionne grâce à des coordonnées mathématiques abstraites : une latitude, une longitude et une altitude. Pour les entreprises clientes, l’intérêt est de remplacer le calcul de probabilité du signal satellite par une identification visuelle instantanée des environnements réels.« 

Du côté des usages civils, on a donc cette technologie du dernier mètre qui est mise à disposition de robots livreurs de pizzas : des glacières sur roues de la société « Coco Delivery ».

Cette glacière autonome sur roues peut contenir 8 pizzas (y compris à l’ananas) et se déplace à 8 km/h.
On vit une époque formidable. Pour les pizzas.

Jamais à l’abri d’un excès, dans l’article du MIT qui a révélé l’utilisation des données Pokemon Go pour ce nouvel usage, le patron de Niantic Spatial, John Hanke, parle carrément d’une « nouvelle explosion Cambrienne dans le domaine de la robotique. » Pour celles et ceux qui comme moi auraient séché les cours de paléontologie au lycée, l’explosion Cambrienne c’est lorsque (merci Wikipédia) :

Les sédiments cambriens révèlent l’extension de mers peu profondes recouvrant des plates-formes continentales, et une brusque multiplication de nouveaux groupes animaux (animaux à parties dures notamment). Cette « explosion cambrienne » n’a pas encore d’explication. Elle peut avoir plusieurs causes : des modifications climatiques, l’activité accrue de prédateurs ou encore les sels marins favorisant l’absorption de substances chimiques et le dépôt de couches dures sur la peau. Le développement de squelettes externes (exosquelettes) peut avoir été une réaction adaptative à l’apparition de nouvelles niches écologiques. Il pourrait également s’agir d’organismes des grandes profondeurs nouvellement acclimatés aux habitats de surface ou inversement, mais aussi d’une évolution vers des espèces capables d’exploiter des ressources alimentaires nouvelles.

Alors pas sûr que les glacières sur roues soient une nouvelle branche de l’évolution des espèces robotiques, mais la métaphore réussit à nous interpeller. Et comme souvent dans le secteur de la tech et du numérique, il faut lire ces usages métaphoriques pour ce qu’ils sont : la nécessité d’installer rapidement un imaginaire favorable à la naissance ou au maintient de nouvelles rentes économiques (par ailleurs souvent sur fonds publics). Si chacun peut voir dans cette supposée explosion cambrienne robotique des éléments de réel (oui il y a de plus en plus de robots et de dispositifs autonomes, mais non il n’y a aucune logique évolutive derrière), l’enjeu est de convaincre des financeurs, des industriels et des responsables de politiques publiques que cette explosion est en train d’advenir et qu’il serait de bon ton de ne pas se laisser dépasser.

Du côté des usages militaires, car oui Pokemon Go avait également été utilisé par des militaires engagés sur des terrains de guerre et cela avait fait immensément débat, je vous laisse imaginer ce qui peut-être fait de cette maîtrise des derniers mètres. Et s’il faut parler un peu de géopolitique et de terrains de guerre, Le Devoir rappelle qu’en mars 2025, « le jeu a été vendu à Scopely, une entreprise détenue par le fonds d’investissement saoudien contrôlé par le prince héritier Mohammed ben Salmane. La transaction incluait toutes les données des utilisateurs. »

Il y a quelques jours (19 Mai 2026), Google annonçait le lancement de « Gemini Omni », une IA multimodale capable de manipuler nativement le texte, l’audio et la vidéo avec des résultats une fois de plus tout à fait sidérants de vraisemblance. La génération de ces vidéos peut notamment s’appuyer sur les données captées depuis des années par Google Earth, Google Maps et Google Street View permettant par exemple de générer le film hyperréaliste d’un personnage marchant, courant, volant, roulant ou naviguant dans à peu près n’importe quel endroit de la planète.

Le problème de disposer d’une carte à l’échelle du territoire est entièrement résolu. Nous sommes complètement sortis de l’âge où comme l’écrivait en 1931 le mathématicien et philosophe Alfred Korzybski, « la carte n’est pas le territoire », et où il il existait une différence entre la réalité et la représentation que l’on s’en faisait. Le problème est que l’alignement, la superposition au réel ne peut-être résolu ou « exercé » sans recours à une simulation qui, dès lors, prend le pas sur le réel lui-même.

Par-delà tout un ensemble d’autres sujets connexes, la multiplication de ces outils d’IA génératives, leur « fluidité » et leur disponibilité immédiate, s’accompagne aussi d’un retour en grâce (ou d’une nouvelle offensive marketing en tout cas) pour nous réimposer des appareillages sensoriels installant la prééminence de réalités simulées ou virtuelles, Google annonçant ainsi le retour de ses lunettes connectées. Face à des artefacts génératifs désormais presque tous capables de simulations multimodales, s’aligne la conception d’une humanité sensoriellement appareillée non pour s’augmenter mais pour s’aligner avec la carte que dessinent ces Béhémots calculatoires plutôt qu’avec le territoire que nous arpentons chacune et chacun avec nos propres focales.

Apostille.

Si Ender remporte sa guerre, c’est parce qu’il n’a jamais conscience d’être ailleurs que dans une simulation ; c’est parce que les choix qu’il met en oeuvre se subordonnent entièrement à la conscience – en réalité une croyance – qu’il a d’évoluer dans une réalité simulée. La « stratégie Ender » c’est le pari immensément risqué d’un groupe d’adultes face à une guerre d’extermination imminente et qui vont faire le choix de confier l’avenir d’une civilisation à l’habilité et à la ruse d’un enfant habitué à ne prendre de décisions vitales que dans le cadre de simulations virtuelles. Par-delà même les guerres qui traversent aujourd’hui directement nos vies ou nos voisinages, il n’est pas totalement vain de s’interroger sur la stratégie Ender dans laquelle entrent actuellement l’essentiel de nos modes de conflits et de nos modes d’existence.

Et s’il faut trouver un dessein à cette stratégie Ender, il est à coup sûr dans la mise en fragilité ou en effondrement de l’ensemble de nos formes collectives de gouvernance. C’est en tout cas ce qui m’est apparu comme une évidence à la lecture d’un article: « Comment l’IA détruit les institutions. »

IA : Institutions Apocryphes.

Cet article traite de la percolation des technologies d’IA dans l’ensemble de nos institutions au sens régalien comme symbolique. Et du mal que cela leur fait. En d’autres termes la manière dont l’IA détruit nos institutions.

Depuis que je m’intéresse à ces sujets et notamment à l’IA générative, par-delà l’enthousiasme légitime que l’on peut avoir pour des usages grégaires, par-delà l’inquiétude tout aussi légitime qui nous oblige à repenser presque totalement nos heuristiques de preuve, je cherchais ce qui dans ces artefacts génératifs était le point nodal des risques qu’ils font peser aujourd’hui sur nos sociétés. Et ce point est circonscrit et formidablement argumenté sous la plume de deux collègues juristes, Woodrow Hartzog et Jessica M. Silbey de la faculté de droit de l’université de Boston, dans leur article : « How AI Destroys Institutions« , article dont voici le résumé (je souligne et traduis avec l’aide partielle de Deepl) :

Les institutions civiques – l’État de droit, les universités et la liberté de la presse – constituent l’épine dorsale de la vie démocratique. Elles sont les mécanismes par lesquels les sociétés complexes encouragent la coopération et la stabilité, tout en s’adaptant à l’évolution des circonstances. La véritable superpuissance des institutions réside dans leur capacité à évoluer et à s’adapter au sein d’une hiérarchie d’autorité et d’un cadre de rôles et de règles, tout en conservant leur légitimité dans les connaissances produites et les actions entreprises. Les institutions axées sur des objectifs et fondées sur la transparence, la coopération et la responsabilité permettent aux individus de prendre des risques intellectuels et de remettre en question le statu quo. Cela se produit grâce aux mécanismes des relations interpersonnelles au sein de ces institutions, qui élargissent les perspectives et renforcent l’engagement commun envers les objectifs civiques.

Malheureusement, les affordances des systèmes d’IA anéantissent ces caractéristiques institutionnelles à chaque tournant. Dans cet essai, nous avançons un argument simple : les systèmes d’IA sont conçus pour fonctionner d’une manière qui dégrade et risque de détruire nos institutions civiques essentielles. Les affordances des systèmes d’IA ont pour effet d’éroder l’expertise, de court-circuiter la prise de décision et d’isoler les individus les uns des autres. Ces systèmes sont contraires à l’évolution, à la transparence, à la coopération et à la responsabilité qui donnent leur raison d’être et leur durabilité aux institutions vitales. En bref, les systèmes d’IA actuels sont une condamnation à mort pour les institutions civiques, et nous devons les traiter comme tels.

De mon côté je souligne depuis longtemps à quel point ces outils d’IA excellent dans 2 domaines : primo la simulation d’expertise (en se présentant comme des systèmes experts en capacité de nous leurrer sur la base de notre propre ignorance tout en favorisant par ailleurs des effets Dunning-Kruger de plus en plus problématiques), et deuxio la dissimulation d’expertise (notamment en opacifiant et en dissimulant d’une part la valeur ajoutée des travailleurs de l’ombre, et d’autre part l’ensemble des sources couvertes par le droit d’auteur qui sont captées de manière extractiviste et prédatrice sans égard ni considération).

L’autre point qui m’a frappé dans l’approche des auteurs de l’article « Comment l’IA détruit nos institutions » c’est la question des affordances qu’ils posent à l’échelle de ces systèmes anthropo-techniques que sont les IA, notamment génératives. L’affordance c’est le titre éponyme de mon blog depuis près d’un quart de siècle, et c’est aussi le projet que j’entretiens de documenter les affordances des systèmes numériques que nous utilisons pour mieux comprendre comment ils modifient nos propres comportements et habitus informationnels, cognitifs, relationnels, etc.

Autre extrait de leur article :

« Les premiers théoriciens, comme Émile Durkheim, considéraient les institutions — telles que la famille, la religion et l’éducation — comme des « représentations collectives » qui
soutiennent les normes sociales et assurent la cohésion dans des sociétés de plus en plus complexes. Max Weber s’est intéressé au développement des institutions bureaucratiques, telles que les systèmes judiciaires, qu’il considérait comme fondamentales pour les États-nations modernes. Les spécialistes du « nouvel institutionnalisme » de la seconde moitié du XXe siècle mettent l’accent sur les dimensions culturelles, cognitives et historiques des institutions, y compris leur dynamisme institutionnel par opposition à leur immobilisme. Ces théoriciens expliquent que les institutions sont des constructions sociales et acquièrent leur légitimité en s’ancrant dans les pratiques sociales et en étant façonnées par le comportement humain, reproduisant et maintenant les normes institutionnelles à travers les interactions quotidiennes. En conséquence, la légitimité institutionnelle n’est pas simplement imposée aux individus, mais découle du comportement humain et des interactions »

Et c’est tout cela que viennent miner les IA telles qu’elles se déploient en tout cas majoritairement aujourd’hui.

Tout cela se noue dans une matrice au sein de laquelle les développements technologiques dans leur logique de massification, ont toujours eu pour principal objet une « économie de l’attention » au sein de laquelle il nous faut toujours davantage faire l’économie de notre propre attention aux choses et aux êtres, c’est à dire fonctionner à coût cognitif nul. Sans friction. La marche d’après, lorsqu’il n’est plus d’économie possible car l’essentiel de nos interactions sont déjà réduites à des activités de pousse-bouton ou de défilement infini, la marche d’après consiste à progressivement et entièrement déléguer un ensemble de tâches à la machine et aux technologies. C’est à dire à nous faire entrer dans des phases de déprise à la fois opérationnelles et symboliques, à la fois rationnelles et affectives. Et à ce titre l’essor des artefacts conversationnels fonctionne comme un paradigme téléologique. Et une nouvelle forme de stratégie Ender.

========================================

Cet article a été rédigé fin mai 2026, dans une actualité où les débats autour du positionnement de Dario Amodei et de l’encyclique du Pape occupaient le devant de la scène.
Il devait initialement paraître sur un autre média que ce blog. .

Dans un texte critique riche, ample et pertinent, le sociologue Dominique Boullier, ancien coordonnateur scientifique du Médialab de Sciences Po, revient sur les enjeux de l’IA générative. L’auteur de Propagations. Un nouveau paradigme pour les sciences sociales (Armand Colin, 2023) et de Déshumanités numériques (Armand Colin, 2025) ne mâche pas ses mots pour décrire comment l’IA transforme notre rapport au monde. Tribune.

On croit encore souvent que la meilleure innovation gagne toujours. Dans de nombreux cas comme dans celui des LLM, c’est le contraire : la pire des IA est en train de gagner au point de s’imposer comme monopole radical au sens d’Illich. Monopole radical pour la classe vectorialiste dans la génération de code avec l’apparition de Claude Code, monopole radical pour le grand public dans les interactions à travers la diffusion des IA compagnons. Entre les deux, les usages professionnels restent toujours aussi incertains et ne fonctionnent qu’à la condition d’y injecter suffisamment de sémantique et de contrôle expert pour éviter des catastrophes industrielles.

Reconnaissons-le : toute expérience ordinaire d’interaction avec une IA générative se révèle toujours impressionnante et, lorsque les compétences augmentent, des outils encore plus bluffants sont désormais à disposition, comme l’ont expérimenté tous les utilisateurs de Open Claw, agrégateur d’agents. Et pourtant, dès que l’on veut réellement prendre en main ces outils, contrôler leurs opérations, les vérifier ou valider leurs résultats, les mêmes utilisateurs se retrouvent déçus, inquiets voire en colère, à moins d’adopter une tolérance inusitée dans l’univers des produits et services de ce type. [Précisons d’emblée que je n’évoquerai pas ici les éventuelles craintes à propos d’un futur d’IA générale souvent fantasmé mais seulement les constats issus des pratiques ordinaires.]

Ni science, ni industrie, ni éthique mais de l’ingénierie, de la finance et du buzz

Je résumerais cette ambivalence de cette façon, en termes d’éthos ou de posture : si l’on possède une culture, des principes et exigences à la fois scientifiques, industrielles et éthiques, on ne peut qu’être inquiet de voir l’emballement en faveur de ces IA fondées sur les LLM. A l’inverse, si l’on est fasciné par l’ingénierie, les performances financières et si l’on vit dans le monde du buzz permanent, l’IA produit une excitation inédite et sans cesse renouvelée malgré ou à cause des incertitudes qu’elle emporte avec elle.

Et l’on peut systématiser cette opposition terme à terme : science vs ingénierie, industrie vs finance, éthique vs buzz pour mesurer à quel point nous sommes en train de bifurquer, collectivement certes mais sous la houlette de quelques très grandes plateformes technologiques. L’époque moderne s’est caractérisée par la puissance d’une alliance entre science et industrie en y ajoutant depuis la seconde guerre mondiale, un contrôle moral progressif des finalités et des méthodes (la révision écologique principalement). Mais les LLM sortent totalement de cette trajectoire au profit d’un saut postmoderne radical fondé sur leur ingénierie toute-puissante, leur attractivité financière sans limites et leur capacité à générer du buzz, de l’alerte et de l’incertitude permanente.

On pourrait pourtant parier avec Yann Le Cun que ces LLM sont des impasses conceptuelles. On pourrait aussi considérer avec la plupart des grandes entreprises industrielles que les LLM n’offrent pas de fiabilité suffisante, ce qui explique leur adoption très réservée dans les process critiques notamment. On pourrait aussi soutenir avec quelques fondateurs du deep learning (Hinton, Bengio) que l’on risque trop de perdre le contrôle pour laisser se développer une telle technologie. Et pourtant, malgré toutes ces réserves, que je vais documenter et soutenir, ce sont bien ces LLM qui sont en train de former l’architecture technique d’un nouveau mode de production.

Quand les pires technologies sont pourtant les gagnantes

Car, rappelons-le , après des décennies de travaux sur les dynamiques de l’innovation, il est rare que la meilleure technologie gagne. Songeons au clavier Qwerty, cette machine de guerre ergonomique, encore présente dans nos PC, et même sur des smartphones tactiles. 150 ans de résistance à toute transformation malgré les tentatives nombreuses (cf. Dvorak) pour améliorer un système aussi nocif pour les muscles et aussi coûteux à apprendre. Sur ce plan d’ailleurs, les interfaces conversationnelles sont à elles seules une révolution durable qui va modifier la relation ordinaire à la technologie des systèmes d’information, plus encore que ne l’avait fait le Wysiwyg de la fin des années 70 qui a permis le Personal Computer.

De même, la domination de Windows sur tous les systèmes d’exploitation des PC (72% du marché) est le contre-exemple type opposable à l’argument selon lequel « le meilleur gagne ». Tout le monde le reconnaît, Windows a copié Apple (lui-même issu de Xerox) pour l’apparence de son interface, tout en reposant sur son système d’exploitation MS-DOS catastrophique en matière de fiabilité, de sécurité et de performances. Et pourtant, Microsoft l’a imposé au monde entier, grâce à des patchs successifs mais surtout grâce un marketing devenu un cas de figure canonique du « lock-in » (Shapiro et Varian), ce verrouillage d’une clientèle dans un système total. Dans le même temps, Linux (1991) est devenu incontournable pour tous les systèmes techniques critiques ou pour ceux qui exigent une véritable fiabilité mais c’est seulement en 2026 que le gouvernement français fait le choix d’abandonner Windows pour Linux pour les postes de travail de l’administration.

Un processus analogue se déroule ainsi sous nos yeux qui voit une innovation très approximative gagner des parts de marché et créer des habitudes d’usage quasi irréversibles. Les critiques pleuvent sur les systèmes d’IA génératives, sur leurs hallucinations d’abord, sur leurs consommations d’énergie ensuite, sur la collecte de leurs sources, sur leurs principes formels même, et cela sans parler des pratiques de certaines des firmes que j’ai qualifiées ailleurs de voyous (Open AI et X/ Grok) (Boullier, 3 février 2026 , AOC). Mais rien n’y fait, l’IA pénètre dans tous les interstices de la vie ordinaire plus vite que dans la vie professionnelle même, grâce à cette innovation horizontale, imitative, sans barrière d’accès (dont la gratuité, qui constitue un coup de force très convaincant pour les adopteurs). Quitte à avoir la pratique de l’IA honteuse, dans ce qu’on appelle la shadow AI, ces pratiques non déclarées au travail (Ferguson), dans les écoles ou à la maison. Processus d’innovation technique assez rare dans les organisations (Gaglio) qui ont souvent pratiqué plutôt le top-down en devant se battre plus contre les « résistances » des personnels que contre leur enthousiasme débridé et leur volonté de tout tester « pour voir » et finalement pour adopter.

L’heure du bilan n’a cependant pas sonné car tous les ans à peu près une nouvelle version ou couche d’innovation rebat les cartes, au point même de disqualifier les savoir-faire acquis, qu’on avait annoncé comme décisifs pour l’avenir (savoir prompter). Les agents sont déjà là, des systèmes comme Open Claw, même s’il est bridé désormais par Claude, permettent d’organiser des batteries d’agents en parallèle pour réaliser quantité de tâches ou de séquences de tâches, le vibe coding est mis à la disposition de tous, la production de vidéos (dont les deep fakes) est désormais opérationnelle pour des utilisateurs ordinaires. La seule limite constatée pour un certain niveau de performance reposait sur la compétition féroce pour les puces GPU de NVidia qui elles-mêmes changent de version souvent, mais désormais Google et Deep Seek utilisent leurs propres processeurs (TPU notamment) conçus spécialement pour leurs IA. Dans cette effervescence, la question du coût était restée jusqu’ici ignorée comme toujours avec la méthode classique du dealer de techno qui amorce les usages en offrant la gratuité, mais le coût des abonnements à ces services commence à augmenter sérieusement selon le nombre de tokens traités. Au point que l’optimisation de l’usage des tokens fait désormais partie des services de Anthropic, sous forme de « adaptative thinking », terme inadapté mais significatif de l’emphase qui caractérise ces firmes.

Disons-le franchement : j’espère quand même que cette hubris financière et technologique va conduire à une crise majeure, répétant la crise financière de 2008 car c’est sans doute la seule chance de rebattre les cartes et de rouvrir les possibles. Mais il faudra alors posséder cette boussole que je propose pour s’orienter radicalement différemment dans nos choix socio-techniques. A condition qu’il existe encore un espace politique démocratique pour passer à une « démocratie socio-technique » (Lascoumes, Callon, Barthe, 2001) pour inventer un autre avenir. Or, la domination des plateformes d’IA se fait désormais à l’échelle mondiale (Chine et USA) en étroite collaboration avec les régimes les plus autoritaires prêts à favoriser leurs monopoles en échange de services de surveillance omniprésents.

Au-delà des monopoles des plateformes IA, nous devons plus encore nous inquiéter d’un « monopole radical » de l’IA générative et des LLM sur les connaissances, pour utiliser les concepts d’Ivan Illich. Toute son analyse de la mobilité et de l’énergie (Energie et équité, 1975) montrait comment l’industrie pétrolière avait installé un monopole radical de l’automobile supposée solution unique pour traiter nos demandes de mobilité. Alors même que le calcul de la vitesse généralisée (Dupuy, Robert) montrait qu’en intégrant tous les coûts de production et d’utilisation d’une voiture, sa performance en termes de vitesse devenait inférieure à celle d’un vélo. J’expliquerai dans un livre à venir pourquoi la comparaison des LLM avec le coup de force du moteur à explosion et de l’automobile est la plus pertinente en matière de monopole radical, entraînant toutes les dérives sociales, urbaines et environnementales que l’on connaît. C’est pourtant l’avenir qui nous attend dès lors qu’on laisse les entreprises d’IA le façonner pour nous.

Reprenons chacun des dyptiques proposés pour comprendre comment une ambivalence attraction/répulsion finit pourtant par engendrer ce monopole radical.

1/ Absence de science mais ingénierie géniale

J’ai conscience de surprendre ainsi beaucoup de chercheurs qui travaillent sur l’IA et sur certains principes qui ont guidé tout ce courant de recherche, souvent fondé sur des mathématiques de haut niveau. Certains n’accepteront pas de voir disqualifier leurs prétentions scientifiques. Précisons que ce n’est pas parce qu’on dispose de disciplines, de revues et de postes académiques qu’on fait de la science (nous autres chercheurs en sciences humaines et sociales sommes quotidiennement disqualifiés pour cela précisément). L’ingénierie est une activité très noble qui mobilise des rapports parfois étroits avec la science, de même que la médecine, mais ni l’une ni l’autre ne sont des sciences mais plutôt des sciences appliquées, dit-on parfois, et surtout des arts. Le soin est un art plus qu’une science malgré toutes les tentatives de « evidence-based medecine » qui autoriserait les transferts de décision à des systèmes d’IA, au prix d’une ignorance de ce que la relation de soin et la maladie possèdent de multidimensionnel. L’ingénierie, de ce point de vue, peut être géniale et on ne le contestera pas, depuis Léonard de Vinci au moins ! Mais c’est son art de l’assemblage de connaissances, plus ou moins modélisées, dans la résolution d’un problème opérationnel qui produit l’émerveillement. Il faut que ça marche, voilà l’impératif. Or, les observations in situ sur le travail des ingénieurs, comme celles effectuées par les STS et tout le courant de l’ANT (théorie de l’acteur-réseau, Vinck), ont bien montré que quantité de décisions opérationnelles relèvent du pari, de l’opportunité et surtout du tissage d’un réseau multidimensionnel pouvant mobiliser des compétences et des ressources extrêmement diverses. C’est le cas avec les LLM et avec l’IA générative.

Quand l’absence de théorie du langage est productive pour l’ingénierie

En effet, zéro science dans ces IA et on pourrait même dire que c’est grâce à cela que ça marche. C’est ce que disait ce CEO d’une firme de NLP (traitement automatique du langage naturel) il y a plus de quinze ans qui affirmait avec provocation que les performances de ses modèles s’amélioraient à chaque fois qu’il virait un linguiste. Et en effet, les LLM n’ont aucune théorie du langage et se débrouillent très bien pour éviter d’en avoir une, puisqu’ils reposent sur une tokenisation et une vectorisation de tout le matériel linguistique, qui n’a strictement rien à voir avec une analyse du langage, structurale ou même générative à la Chomsky. Le texte fondateur des « Transformers » publié par Google en 2017, l’annonçait d’ailleurs explicitement : « All you need is attention ». Ce qui veut dire en clair que dès lors que l’on veut détecter des patterns, des régularités dans des corpus linguistiques pour prédire les segments suivants, tout ce qui compte c’est la fenêtre de mémoire disponible au moment de l’entraînement sur des corpus par ailleurs toujours plus énormes, de façon à réduire les erreurs. Pas de théorie, pas de concepts, seulement un exploit technique réductionniste à l’extrême et pour cette raison très opérationnel, qui permet de traiter tout token dans un espace latent vectorisé pour pondérer ses probabilités de combinaison et donc d’apparition dans un « contexte » toujours plus grand, cette fenêtre d’attention. Evidemment, l’astuce technique, élémentariste comme toute l’informatique depuis Turing, nécessite des capacités de calcul rarement disponibles, surtout dans un laboratoire académique, et des capacités de collecte de données d’entraînement qui s’affranchissent des règles académiques de sourcing ou de droits d’auteurs (nous verrons cela plus loin dans le chapitre moral).

Cependant, reconnaissons que les résultats de cette simulation de production linguistique à partir de ces matériaux et de ces « astuces » techniques sont prodigieux pour un observateur neutre ou même critique. J’ai moi-même, il y a bien longtemps, développé des chatbots et des méthodes d’ingénierie linguistique en milieu industriel puis académique et la performance ne m’échappe pas. Mais je sais aussi par expérience, tout ce qui a été nécessaire de bricolage, de patch, de tâches aveugles, et de risques pris pour faire tenir un système technique après quantité d’arbitrage faits souvent à la volée et sans justification et sans vérification possible de leurs conséquences sur tout le système. Expliciter tout cela serait considéré comme indécent pour un utilisateur lambda dont on veut par ailleurs faire un utilisateur convaincu et capté dès la première requête puisque l’adoption fonctionne désormais dans l’instant (et non à la décision éclairée).

La boite noire n’est jamais acceptable dans une visée scientifique

Pourtant, cet effet boîte noire reste totalement antinomique avec des exigences scientifiques. Car adopter une visée scientifique (Gagnepain), c’est s’obliger à contester méthodiquement ses propres énoncés pour les vérifier, les discuter dans une communauté de pairs, ce qui suppose de les publier pour pouvoir les répliquer et ensuite les réviser. La chaîne de la référence (Latour) est très longue et doit être explicite. Ce qui n’a rien à voir avec les méthodes de production de l’IA générative qui fonctionne aux résultats simulés et produits en toute opacité. On se trouve alors plus proche de la visée mythique qui doit nous faire croire aux résultats par une simulation merveilleuse et ces IA génératives produisent en effet des merveilles.

Et lorsque les LLM se soumettent à une vérification, c’est à travers des benchmarks et non des expériences réplicables qui permettraient de suivre toutes les pondérations faites automatiquement, ou les méthodes d’apprentissage supervisé et de constitution d’une ground truth (« vérité de terrain », Jaton), qui posent tant de problèmes éthiques occultés. Aucun process explicite donc, contrairement au mouvement existant depuis plus de dix ans d’ « explainable AI » car depuis l’IA connexionniste, dans sa version réseaux de neurones puis deep learning, on sait qu’il n’est plus possible de vérifier tous ces processus, même quand on en est le concepteur. La démarche scientifique ne peut en aucun cas se satisfaire de ces boîtes noires puisque toute la construction des énoncés qui font science a reposé depuis des siècles sur des communications de protocoles et de résultats permettant une éventuelle réplication. Exigence qui se perd, il est vrai, même dans les sciences dures soumises elles aussi au culte du « résultat-positif-à-diffuser » pour améliorer ses scores de publication. On peut se dire alors que le ver était dans le fruit, et que tous les impératifs de publication délirants désormais exigés par les politiques publiques de recherche n’ont pas attendu l’IA pour dégénérer.

L’espace latent probabiliste ne peut pas produire une ontologie

Plus spécifiquement il faut noter la déstructuration délibérée de toute l’articulation du langage, de cette combinatoire analytique de son et de sens, productrice d’un potentiel infini d’expressions. Avec les LLM, il ne s’agit plus que de découpages de matériel langagier écrit optimisés pour leur calculabilité : tout peut devenir token, jusqu’à des signes de ponctuation, sans rapport avec le sens ni avec l’expression orale par ailleurs. Les relations ou vecteurs ne sont plus structurées (pas de lexique, de champ sémantique, de lemmes, de phonèmes, etc… tous articulés entre eux) mais seulement pondérées par leur fréquence d’apparition commune dans un corpus donné.

Sur ce plan, il faut veiller à ne pas confondre l’ingénierie linguistique qui était réalisée au temps du Machine Learning. Si l’objectif de calculer les distances entre entités linguistiques d’un corpus peut sembler voisin de ce qui est actuellement pratiqué par les LLM, ce serait oublier la torsion complète de ces principes par les LLM. Car à cette époque, les entités calculées étaient encore des lemmes, issus d’une racine qu’on pouvait organiser en relations sémantiques via des flexions, syntagmes et variations de tous types, au-delà des simples cooccurrences dans un même environnement. Les corpus étaient eux-mêmes limités car thématiques, présélectionnés ou identifiables par leurs origines. Désormais on parle de tokens qui décomposent tout matériel graphique (et non verbal) en élément dont on va estimer la fréquence d’apparition dans un corpus infini, non indexé ni identifiable (effet boite noire). Un token n’a plus besoin de relation sémantique avec son environnement, seulement sa co-occurrence statistique suffit à produire un vecteur qui sera pondéré (et désormais non révisable puisque tout se passe dans l’opacité la plus totale).

C’est ici qu’une coupure avec la sémantique s’est introduite définitivement dans la méthode même de décomposition par token et de vectorisation. Le coup de force des LLM tient au fait qu’ils prétendent traiter toute une langue, grâce à une collecte d’un corpus infini, ce que leur permet en effet leur prédation systématique de tous les contenus disponibles. Tout ce traitement s’effectue dans une langue donnée, qu’on doit ensuite traduire dans d’autres langues qui n’auraient pas les corpus suffisants, d’où d’autres distorsions introduites dans ce corpus supposé universel.

La puissance statistique de ces probabilités reposant sur des corpus toujours plus vastes leur permet de simuler en effet des effets de langue très plausibles et de masquer totalement leur absence totale de sémantique, de référence au monde perçu, et d’attributions de valeur systémique aux relations/vecteurs calculés. Il s’agit bien d’un artifice d’ingénierie tout-à-fait prodigieux dans ses résultats, même s’il a la particularité d’être totalement incontrôlable ou inauditable dès lors que l’espace latent où tout se calcule n’a plus aucune relation avec le sens et combine tellement de dimensions que personne ne peut plus rendre compte des pondérations effectuées (the curse of dimensionality, Bellman, 1957). L’opacité du système est le prix à payer pour sa performance.

Le maquillage sémantique indispensable pour sauver le soldat LLM à tout prix

Cependant, ses faiblesses structurelles d’accès au sens engendrent tant d’erreurs qu’il faut là encore mobiliser des correctifs sans cesse plus ingénieux mais qui demeurent des expédients. C’est ce que l’on a nommé au début des LLM des « hallucinations », en fait des erreurs, des inventions de toutes pièces et sans aucun sens, présentées de plus sans aucune précaution sur les limites du système et sur le principe même des probabilités. L’obligation de réponse à tout prix, qui n’a rien à voir avec une exigence scientifique ni avec une garantie industrielle (voir chapitre suivant), relève en fait de la promesse commerciale et de la captation de dépendance d’un public sans aucun recul critique.

Pour réduire ces effets pervers – mais en fait constitutifs même des choix techniques d’ingénierie effectués contre toute exigence scientifique -, un certain nombre de méthodes sont employées pour réintroduire par la bande de la sémantique que l’on a exclue au départ pour optimiser la vectorisation généralisée des contenus d’entraînement. Ainsi, tout le travail d’annotation réalisé par les travailleurs du clic et les petites mains des plateformes (Casilli, 2019) sert avant tout à cela : produire une supervision de départ qui ne dit pas son nom mais qui permet de générer une ground truth qui limitera les dégâts, ce que Mechanical Turk d’Amazon offre comme service par exemple. C’est pourquoi le travail précaire et sous-payé de tout ce nouveau prolétariat des pays du sud, plus proche du péonage que du salariat (Moulier-Boutang), ne peut être occulté comme fondation sémantique des systèmes d’IA génératives. Certes, les modèles auto-apprennent ensuite, mais un contrôle reste nécessaire pour éviter de voir la qualité se dégrader de façon trop visible. Aucune science dans cette affaire, seulement la reconnaissance par l’ingénierie des patchs nécessaires pour corriger les défauts des choix initiaux. En l’occurrence, « attention is NOT all you need », il faut aussi celle d’humains enchainés à leurs écrans et à leurs micro tâches qu’on ne saurait montrer ni reconnaître.

De même, en raison de la spécificité sémantique de la plupart des domaines professionnels, avec ces LLM, il reste quasiment impossible d’assister correctement des processus de décision ou de création de contenus lorsque les documents sources sont noyés dans le corpus général des modèles centralisés. Il faut réintroduire du « contexte » dit-on parfois de façon erronée alors qu’il s’agit en fait de réintroduire du sens, articulé en sémantique, avec des termes spécifiques organisés en ontologies comme on le fait toujours avec l’IA symbolique. Tout process industriel qui ne se fonderait pas sur ces bases robustes courrait à la catastrophe.

Patches en tous genres : RAG, Chains of Thought, MCP

Mais là encore, l’ingénierie des firmes de l’IA se débrouille pour vanter l’intervention des experts du domaine sur des modèles réduits de LLM que seront les RAG (Retrieval Augmented Generation). Les experts d’un domaine injectent leurs contenus contrôlés, validés et pertinents pour leur secteur dans les données d’apprentissage du modèle général ou dans une version plus locale et restreinte, et réduisent ainsi considérablement les risques de non-pertinence ou d’erreurs. On entraîne ainsi le modèle sur des corpus de documents administratifs ou techniques issus de l’entreprise ou de l’administration et on s’assure ainsi qu’il effectuera les tâches demandées avec plus de fiabilité. Comme on le voit, il s’agit là encore d’une astuce d’ingénierie qui ne corrige en rien les défauts structurels des LLM mais qui réduit leur impact dès lors qu’il existe des experts capables d’alimenter les corpus d’apprentissage en contenu contrôlé. Il faut donc à nouveau des humains qui réintroduisent de la sémantique pour obtenir des résultats fiables. Pourtant, tout cela est présenté comme un additif normal et ingénieux aux LLM et non comme reconnaissance d’une faille constitutive de leur architecture stupidement probabiliste.

Un autre patch consiste à équiper ces systèmes d’IA générative à base de LLM de « chaînes de pensée » (Chain of Thought) leur permettant de construire un raisonnement en décomposant un problème en séquences. Le terme de « pensée » peut être trompeur car il ne s’agit que d’étendre les capacités élémentaires de tout système informatique à décomposer en procédures et en séquence opérationnelle toute résolution de problèmes, ce qui est au fond à la base de toute compétence technique. Fournir cette capacité n’a rien d’un raisonnement. Alors qu’il existe des systèmes d’IA effectivement raisonnante, mais de type symbolique et totalement explicable, comme Xtractis, produit par Intellitech (Zalila). Dans ce cas, toutes les pondérations et décisions sont traçables car elles sont fondées sur de solides armatures logiques que toutes les IA symboliques mobilisent depuis des décennies.

Dernier épisode en date de la même opération de sauvetage des systèmes d’IA génératives asémantiques : le passage à l’IA agentique, capable d’effectuer des tâches de commande, de gestion, faites de séquences complexes et adaptées aux infinies variations du monde réel. On comprend bien le défi. Des systèmes automatisés, ne disposant d’aucune représentation significative du monde mais seulement d’une capacité infinie de pondération des vecteurs linguistiques pour engendrer des prédictions, se trouveront en difficulté face à la complexité du monde réel, et aux ambiguïtés sans fin de toute langue et de toute situation. Une astuce supplémentaire de l’ingénierie des entreprises d’IA permet de simuler une réduction de ces aléas. On dispose désormais en effet d’un protocole pour harmoniser la description du monde : serait- ce une ontologie ? Certes non, seulement une simulation limitée au monde des interactions entre machines : le MCP, Model Context Protocol, se contente de standardiser les API que devront utiliser les systèmes d’IA pour devenir vraiment des agents « dans le monde », en fait des agents bien limités au monde des systèmes d’information normalisés pour devenir interopérables par des IA agentiques. Une nouvelle fois, la question du rapport au monde, de la sémantique nécessaire pour en construire la représentation est évacuée par une opération d’ingénierie. Cela permet cependant de construire ainsi un début de standardisation du secteur, ce qui est industriellement non négligeable.

Mais il en sera autrement dans les secteurs industriels critiques comme nous le verrons. Lorsqu’on voit que Palantir, dans sa fourniture de systèmes de décisions de frappes militaires létales, présente explicitement la couche d’ontologies qu’elle ajoute aux LLM qu’elle utilise, en parlant d’une nomenclature pré-encodée (c’est-à-dire contrôlée et validée par les humains selon un schéma cohérent sémantiquement), on comprend mieux ce qui se déroule et se déroulera dans les autres industries, qui ont des exigences encore plus sévères que dans les industries de défense dont la précision n’est pas l’impératif prioritaire, comme on l’a constaté récemment. Les benchmarks récents pour tester ces systèmes d’agents ont cependant produit des résultats très inquiétants quant à leur fiabilité et à leur sécurité (Shapira et al., 2026).

La mutation du mode de production du code, étape essentielle vers le monopole radical

Il faut cependant admettre que les limites asémantiques des LLM ont été particulièrement bien exploitées pour la production du code informatique. Ce qui peut se comprendre aisément, puisque précisément le code n’est pas le langage ni la langue et que son univocité le rend opérationnel sans risque de contre-sens comme on dit, puisqu’il ne s’agit plus de sens mais de commande pour l’action. Cette réduction du langage des propositions logiques au code du programme fut la force du pari initial de Turing (Lassègue et Longo, 2025) qui continue d’être exploité. La production de code entraîne pourtant des erreurs nombreuses variables selon les systèmes d’IA mais désormais bien réduites avec l’avancée apportée par Claude Code. On mesure alors la productivité potentielle d’une telle performance d’ingénierie puisque ces systèmes peuvent générer du code pour générer du code pour générer du code, à plusieurs niveaux. Cela a entraîné la fascination des milieux des développeurs pour Open Claw qui génère, lui, des agents organisés en système dans des délais d’une rapidité inouïe par rapport aux tâches séquentielles précédentes.

C’est ainsi dans ce domaine du code que les LLM sont en train de modifier le mode de production informatique en général et de ce fait d’un grand nombre de process industriels. De l’autre côté, pour le grand public, c’est la mutation des compagnons à travers des interfaces conversationnelles performantes qui est en train de s’installer comme routine ou comme évidence dans la vie quotidienne. Notre mode de production des interactions quotidiennes va s’en trouver clairement affecté radicalement. Le problème, dans les deux cas, industrie ou interaction, tient à l’absence totale de traçabilité et d’explicabilité de tous ces systèmes, si performants et si opaques à la fois. Les erreurs, bugs ou hallucinations sont inévitables et l’expertise pour les détecter aura tendance à se raréfier puisque seules des IA pourront éventuellement réauditer de telles boîtes noires. Et lorsqu’on se réjouit de voir que Claude a détecté avec Mythos des bugs jusqu’ici ignorés qui sont en fait de vraies failles de sécurité, on accepte d’ignorer que l’on ne sait pas si ces failles étaient vraiment critiques (d’où le peu d’intérêt pour les détecter avant), quelle est la proportion de bugs existants non détectés par l’IA (par définition !), et si l’IA ne détectera pas de faux bugs (faux positifs) que personne ne saurait contredire (Schneier, 2026). Il faut donc accepter les miracles et continuer à avancer à l’aveugle.

Mais plus on s’oriente vers cette transformation en profondeur du mode de production, plus cela tend à réduire les LLM à des systèmes d’exploitation, dont nous ne connaissons toujours pas les applications adaptées à DES environnements toujours spécifiques. Or, dès qu’on veut implémenter une application robuste dans le vrai monde, il faut y rajouter une couche sémantique. Certains plaidaient depuis longtemps pour cette hybridation symbolique/ génératif mais le débat porte rarement explicitement sur cela : on se contente de patchs sémantiques ( et donc à base d’IA symbolique) dès qu’on veut installer des process fiables. Nous pourrions donc évoluer ainsi vers un équivalent de MS-DOS. On interagit avec un Windows qui est en fait une copie de Mac OS, pertinente et conviviale, mais toujours plaquée sur un OS antique et inadapté, ce qui a duré pendant 40 ans environ. Par analogie, nous accepterions donc les défauts intrinsèques de ces LLM en acceptant de les corriger sans cesse, de les camoufler pour éviter d’interroger la nullité scientifique des LLM. Alors qu’il serait possible de concevoir dès maintenant une IA hybride dans son cœur même, en s’appuyant sur les IA symboliques raisonnantes déjà disponibles pour leur ajouter quand c’est nécessaire les capacités génératives issues des méthodes des LLM. Mais tout cela sans développer toute l’usine à gaz énorme que sont les data centers et la collecte en masse de données pour l’apprentissage. Philosophie totalement différente mais qui ne gagnera pas forcément comme je l’explique dans la seconde partie sur l’industrie. Pourtant, d’autres acteurs tentent d’explorer une sortie de cette impasse.

En sortir par une extension de l’automatisation avec les « modèles du monde » ?

En effet, peut-être devrait-on confier notre sort à ceux qui, comme Yann Le Cun, nous fixent des objectifs de pertinence nettement plus robustes en sortant des limites des LLM. On peut comprendre l’ambition de ne plus faire reposer les modèles sur du matériel uniquement linguistique, même si cela pouvait fonctionner assez aisément pour des visées de génération de contenus. L’idée de descendre au niveau de la perception et d’entraîner désormais ces systèmes sur des vidéos qui démultiplient les indices en les situant dans des univers réalistes qui fournissent une connexion de fait avec le monde (même si médiées par le support vidéo) paraît ambitieuse en termes de capacités de calcul et de temps d’entrainement mais cohérente pour dépasser les limites des LLM. En réalité, malheureusement, il s’agit là encore d’une ingénierie magnifique et prometteuse, mais qui échoue à caractériser scientifiquement ce qu’est l’expérience du monde du point de vue cognitif et qui de plus ne fournit comme horizon industriel et moral qu’une automatisation toujours étendue.

L’expérience du monde n’est pas faite seulement des inputs de signaux très riches fournis par nos sens. En premier lieu, elle est construite dans une boucle qui suppose une interaction effective avec le monde : les gestes, les actes doivent être éprouvés et avoir un effet sensoriel au-delà de leur visionnage sur un écran de vidéo pour pouvoir constituer une base d’apprentissage robuste. Cela nécessiterait alors de doter ces systèmes d’IA d’un équivalent de corps, et donc de pousser l’automatisation encore plus loin vers une robotique étendue et sans limite a priori. Cependant, le principal manque de la vision des « modèles du monde » de Le Cun, c’est la dimension collective de l’apprentissage du monde, ne serait-ce qu’à travers le regard d’un autre humain, souvent un parent nourricier. Ce couplage étroit, plus ou moins satisfaisant mais déterminant pour le psychisme, semble demeurer extérieur aux modèles du monde. Or, l’expérience du monde est intersubjective par définition ou même distribuée car on doit penser en termes de « cognition distribuée » (avec des humains et des non-humains) (Hutchins). On n’inventera pas une compréhension du monde qui ne soit fondamentalement dialogique, et donc psycho-sociologique.

On pourrait alors prolonger juste un peu plus loin la saga de l’ingénierie de l’IA et annoncer : « qu’à cela ne tienne, nous allons modéliser aussi tous les comportements psychosociologiques et nous aurons ainsi atteint le but ultime de l’IA générale, totalement équipée des compétences humaines ». Voilà où la question morale revient en force, avec cette tendance lourde de la classe vectorialiste à s’en passer allègrement. Pour rester pertinente, l’IA la plus enrichie socialement doit se fonder sur une théorie de la technique qui sorte du fantasme de simulation totale et d’automatisation sans limite. La technique est une compétence humaine qui se combine sans cesse avec les autres compétences inhérentes à la condition humaine et ne peut jamais être désencastrée des rapports sociaux, politiques, désirants, émotionnels qui obligent de ce fait à inclure les humains dans la boucle. Ils le sont comme experts en premier lieu pour la valeur indicielle irremplaçable de leurs connaissances mais aussi et surtout comme sujets de désirs et de droits et comme collectifs coopératifs. Une IA qui s’affranchirait de toute connaissance et de toute théorie de toutes les compétences humaines pour remettre la technique à sa place serait en fait atteinte d’hubris et profondément dangereuse. C’est ce que certains prophètes proclament d’ailleurs, un peu vite et avec des arguments tordus parfois, pour à la fois réduire la vitesse et l’accélérer pour aboutir à l’étape suivante de l’automatisation totale plus rapidement.

Pourtant, il reste possible de faire bifurquer ce train lancé à toute vitesse et qui semble inarrêtable sur cette voie unique, celle des LLM fournie par les plateformes. Pour cela, il convient de sortir de la fascination pour l’ingénierie en exigeant de réintroduire des impératifs scientifiques et donc une exigence de compte-rendu explicite de tous ces systèmes, une auditabilité que les impératifs industriels avaient pourtant installé comme convention sociale bénéfique à tous. Comment se fait-il que non seulement les LLM peuvent se passer des impératifs scientifiques mais aussi des impératifs industriels ?

2/ Abandon des impératifs industriels, triomphe des performances financières

Les prouesses d’ingénierie que l’on vient de souligner devraient normalement entraîner des qualités industrielles équivalentes si l’on vivait encore dans le capitalisme industriel. Or, n’oublions jamais que c’est désormais un régime de capitalisme financier qui nous gouverne (Orléan, 2011). Le secteur du numérique est totalement dépendant des principes, des méthodes et des puissances fournies par la finance qui adore l’IA, quand bien même les performances industrielles de ces systèmes d’IA sont à proprement parler catastrophiques. C’est ce paradoxe qui doit être pensé pour comprendre à quel point nous allons dans le mur en tant que société dite « moderne » en confiant notre avenir à ces systèmes d’IA. La domination financière sur l’allocation de ressources accélère encore ce processus malgré l’inconséquence industrielle qui la sous-tend.

Les qualités industrielles attendues des systèmes d’IA devraient être de deux types : une fiabilité la plus élevée possible, à défaut de totale qui serait un fantasme (Gérard Berry), et une architecture efficiente, c’est-à-dire la plus économe possible de toutes ses ressources. Il ne suffit plus de faire preuve d’ingéniosité pour obtenir le meilleur résultat possible une fois : dans un système industriel, il faut pouvoir assurer la répétition, le passage à l’échelle, la maintenance, et la fiabilité dans des circonstances totalement différentes. Or, aucun des LLM sur le marché ne peut assurer cela et d’autant moins que ce sont des systèmes opaques non réglables avec précision, contrairement à ce qu’on prétend faire avec du fine-tuning (qui revient en fait à réinjecter de l’expertise humaine et donc de la sémantique au cas par cas, ce qui n’a rien d’industriel précisément).

L’étrange acceptation de l’absence de fiabilité industrielle des LLM

Lorsque l’utilisateur ordinaire constate des hallucinations ou des réponses trop évasives, trop bavardes ou incompréhensibles de systèmes d’IA conversationnelles qu’il utilise, il s’agit souvent de situations individuelles, de communication, sans grandes conséquences, avec de plus une propension des utilisateurs à s’auto-incriminer pour leur incapacité à faire les prompts corrects tant le mythe de « l’intelligence » de la machine finit par s’imposer. Cette tolérance n’a rien à voir avec celle qu’on peut avoir aussi dans l’industrie pour des systèmes de production et de services qui doivent assurer une qualité permanente du produit et une traçabilité très exigeante. Comment se fait-il d’ailleurs qu’on n’exige jamais de la part des plateformes d’IA génératives des démarches qualité, des audits et de la documentation comme on le fait dans tout secteur industriel ? Car tous les secteurs sont soumis à des réglementations, à des standards, à des responsabilités légales et pénales dans les cas de non-respect de normes, de procédures ou de contrôles. Ce fut tout du moins tout l’effort des années après-guerre où l’industrie se trouva régulée par les Etats ou par ses propres conventions entre concurrents.

Rien de tout cela dans les firmes de l’IA qui se sont totalement affranchies des exigences devenues communes dans l’industrie. On peut arguer que le secteur étant en construction, il faudrait attendre un peu avant que cela se stabilise. Or, la pénétration de l’IA dans tous les secteurs, ou tout au moins les efforts des vendeurs d’IA dans ce sens, exige que les processus IA soient soumis aux mêmes degrés d’exigence que tous les autres composants d’un secteur donné qui peut aller de la comptabilité à la logistique en passant par les matières premières, les machines, etc. et cela pour les produits, les process et les personnes, les 3P de toute démarche qualité. Cette façon désinvolte de disqualifier les procédures industrielles au nom de la disruption éclair est très choquante pour ceux qui connaissent cet univers. Aucune autre industrie ne pourrait s’autoriser une fiabilité aussi faible, fut-ce au bénéfice de l’accélération et du gain de temps supposé. Certes, certains secteurs critiques parviennent à exploiter des briques de LLM pour amplifier les performances de leur activité de façon limitée et à condition d’y rajouter leurs propres données validées comme pour le RAG ou une couche de sémantique comme je l’ai indiqué. Mais cela indique bien l’absence de fiabilité intrinsèque de ces LLM et le surcoût induit par la nécessaire intervention des experts dans la boucle, ce qui invalide la promesse fantasmée des vendeurs de LLM.

L’un des moyens classiques de l’industrie pour pousser à l’augmentation de la qualité et rétablir les conditions de la concurrence plus équitables a toujours reposé sur la standardisation, sur la production de normes (et non seulement de la part des Etats contrairement au roman libéral anti-bureaucratique qu’on nous sert en permanence). En effet, la compatibilité entre produits et services et la comparabilité des performances et des qualités servent la stabilisation des marchés, et donc la viabilité d’investissements de long terme comme l’exige tout appareil de production tangible. Il semble que, en l’absence de cet aspect tangible puisque le numérique est éminemment plastique, même s’il n’est en rien immatériel, ce secteur puisse s’affranchir de cet impératif d’organisation du marché.

La disparition de la culture des tests

L’un des indices de cette compétition sans règle industrielle peut être observé dans la disparition de la culture des tests. Dès lors qu’il n’existe plus de normes ni de standards, pourquoi se préoccuper d’étalonner avec des mesures fiables ses propres produits et services ? A défaut de ces normes, on pourrait penser que ces tests seraient cependant utiles pour anticiper la satisfaction du client et éviter des retours consommateurs parfois destructeurs de réputation. Et pourtant non, les nouveaux entrants sur le secteur de l’IA générative, comme Open AI, ont au contraire tout fait pour court-circuiter les entreprises en place, soucieuses de leur réputation, et ont mis sur le marché des systèmes non validés, sans fiabilité aucune, à charge aux utilisateurs adopteurs précoces de faire remonter leurs retours et d’attendre la nouvelle version.

Ce principe du chantier du code qui court (le rough consensus and running code de J.P. Barlow) qui se corrige de lui-même constitue une rupture avec les impératifs industriels qui ont mis du temps à s’installer durant tout le XXe siècle mais qui ont produit des systèmes techniques plutôt fiables et de moins en moins insécures, avec l’appui des réglementations étatiques contraignantes dans certains domaines, il faut bien le dire. Le seul étalonnage des systèmes d’IA disponible en public reste donc les benchmarks effectués soit par les universitaires soit par des cabinets, à intervalles très fréquents puisque les versions se succèdent sans cesse, ce qui permet d’ailleurs de disqualifier les benchmarks dont les remarques critiques ont été déjà corrigées dans des versions nouvelles sorties quasiment avant la publication critique.

Les tests de validation du code existent toujours cependant. Mais ils permettent seulement d’éviter les principales erreurs mais non de relever ou de comprendre les décisions effectuées. Pire encore, la rapidité de génération du code est désormais telle que les générations de seniors chargées de l’auditer n’ont plus le temps de le faire. Cela renforce ce qu’on appelle désormais même chez les développeurs une « dette cognitive », c’est-à-dire une perte de compétence pour interpréter le code que l’IA permet de générer. Et Anthropic a vérifié son augmentation dans les dernières versions qu’il appelle « the compréhension debt » (Osmani, 2026) : « AI generates code far faster than humans can evaluate it ».

Ces benchmarks ont-ils un rapport avec l’expérimentation scientifique ? En rien. Avec les tests normalisés des industries classiques ? En rien ! Avec les tests ergonomiques ou fonctionnels pour anticiper la qualité de services et l’acceptation par les utilisateurs ? En rien. Ce sont en fait des repères flous et instables pour s’orienter dans une compétition d’opinion sans aucun référent industriel stable qui rendrait ces systèmes commensurables. Et pourtant des décisions majeures sont prises dans les boards et les gouvernements sur la base de ces appréciations qui créent la rumeur, qui disqualifient sans démonstration sérieuse ou qui vantent des performances jamais comparables. L’effondrement d’un sens pratique de la mesure et de son rôle régulateur n’est pas le moindre des paradoxes de cette emprise de la finance sur un secteur productif qui rend le travail des régulateurs particulièrement difficile.

La réglementation européenne récente prend acte de ces risques en matière de fiabilité mais limite les exigences de haut niveau aux systèmes les plus critiques, à risque, alors qu’on ne peut jamais savoir a priori les conséquences d’une absence de fiabilité et de traçabilité. Les exigences d’auditabilité sont quasiment inapplicables par définition à ce degré de complexité lorsque tant de couches de neurones sont concernées. La seule prétention à une amélioration de cette fiabilité repose sur l’augmentation permanente des données, leur renouvellement, leur mise à jour et l’augmentation des performances probables dans l’espace latent de ces vecteurs totalement incontrôlables.

Le culte de la brute force et de la taille si séduisantes pour la finance

On comprend mieux dès lors la course à l’installation de gigantesques centres de données partout dans le monde, conçus comme la base stratégique d’une robustesse industrielle. Or, cette dépendance à la taille des centres de données indique avant tout la faillite industrielle du modèle des LLM, leur efficience ne faisant que diminuer pour maintenir la croissance de leur efficacité. Toujours plus gros devient la seule solution pour réduire l’absence de fiabilité. La demande de vitesse des réponses et des calculs ajoute encore à cette exigence mais on perçoit alors à quel point les performances d’ingénierie sont obtenues au prix d’un gâchis industriel invraisemblable. On sait que les effets d’échelle peuvent jouer un rôle dans certaines industries pour augmenter la fiabilité dès lors qu’on peut réaliser des investissements conséquents pour effectuer tous les contrôles nécessaires et obtenir une standardisation plus avancée. A la condition d’avoir des procédures, des dispositifs de contrôle et de pilotage fin et des métriques permettant de rendre compte de ces améliorations et de détecter en continu les baisses de qualité en faisant par exemple de la maintenance préventive.

Mais rien de tout cela dans les centres de données qui sont nécessaires à l’augmentation de puissance des systèmes d’IA, non pour leur fonctionnement technique opérationnel au quotidien (les serveurs doivent fonctionner correctement !) mais pour leurs performances sur leur service de base. Cette culture de la taille, cette course à la masse de données, constituent sans doute les faiblesses principales du modèle extractiviste du modernisme industriel, du point de vue même de la performance industrielle, comme on l’a vu avec les conséquences de la dépendance au pétrole. Et pourtant, c’est ce qui est réactivé avec les centres de données surdimensionnés qu’on installe désormais uniquement pour tenter de réduire les insuffisances intrinsèques de modèles de langue purement statistiques.

La corruption financière de toute exigence de qualité industrielle

On ne peut comprendre cette carence de qualité industrielle si l’on n’inscrit pas le secteur de l’IA générative (et tout le numérique avec elle) dans une économie financiarisée. En effet, les investissements exigés pour ces centres de données, leurs puces, leurs ressources énergétiques, semblent totalement décorrélés de leur efficience industrielle, d’un bilan comptable sérieux, d’un équilibre entre investissements et retours sur investissements. Car les liquidités pleuvent sur ce secteur (et les Etats abondent, qui plus est : 500 milliards de Trump, 100 Milliards de Macron, etc. !) seulement en raison de la promesse spéculative que les plateformes d’IA soulèvent, sans aucun égard pour la rationalité industrielle et comptable d’un bilan d’une entreprise ordinaire. Nous avons quitté non seulement les critères de gestion d’un « bon père de famille » comme on disait autrefois mais aussi ceux de la gestion prudente d’une entreprise quelconque, et même celle de la gestion d’une trajectoire innovante à risque, qui suppose malgré tout quelques garanties.

Pour continuer à entretenir le narratif attracteur d’investisseurs, les firmes comme Open AI sont capables d’effectuer des montages financiers tout aussi opaques que leurs algorithmes, à travers des prises de participation croisées avec Nvidia par exemple indexés sur des promesses d’achat de puces, le tout sans aucune garantie, sans traçabilité comme on sait très bien le faire dans la finance. Le but est ici de faire des effets d’annonce en permanence (d’où l’importance du buzz que nous traiterons dans la troisième partie) pour maintenir en vie la promesse de monopole qui attire avant tout les investisseurs (parier sur le gagnant final comme ce fut le cas pour Amazon) et qui constitue le B A BA de l’idéologie libertarienne professée par Peter Thiel. Le capitalisme financier n’a que faire de la compétition, de la « concurrence libre et non faussée » et encore moins de l’industrie et de ses exigences de fiabilité et de standardisation. Il faut disrupter sans cesse et la succession invraisemblable des versions toutes aussi époustouflantes, et cela sans vérification possible, constitue un enjeu permanent. Les nouvelles versions peuvent même être moins performantes que les précédentes, chose incroyable d’un point de vue industriel (ce fut le cas pour Chat GPT 5o), mais les lancements s’expliquent alors par l’agenda d’un nouveau tour de table financier ou par la réponse urgente aux annonces des compétiteurs pour cette position de monopole.

Responsabilité sociale et environnementale ? Dans les poubelles de l’histoire IA

On comprend bien que dans une telle frénésie spéculative, les impératifs industriels de fiabilité ou de qualité ne soient perçus que comme des vestiges d’un vieux monde. Ces tenants du vieux monde ne supportent pas l’incertitude intrinsèque imposée par la disruption permanente présentée comme loi de l’innovation, alors qu’elle n’est qu’une loi de finance spéculative. Il n’est guère étonnant alors que toute politique de RSE (responsabilité sociale des entreprises étendue depuis plusieurs années à la responsabilité environnementale), soit totalement hors du champ de perception de ces entrepreneurs sans limites. Or, il a pourtant fallu du temps, de l’énergie, des procédures pour faire aboutir une convention sociale plus ou moins partagée par les entreprises de tous secteurs en faveur de cette cotation RSE qui doit être inscrite dans toutes les dimensions d’une activité industrielle. C’est ainsi que la lutte contre l’exploitation des personnes, contre les discriminations, a pu avancer dans le monde. Pour toutes les entreprises de l’IA désormais, tout cela n’est que bureaucratie et frein à l’innovation disruptive. Le droit social, comme le reste du droit, mais en particulier celui-là, se trouve démantelé, en bas de la hiérarchie de la chaine de production avec les travailleurs du clic mais aussi en haut avec la pression sans limite imposée aux travailleurs du code, qui le produisent de moins en moins par ailleurs.

Mais c’est surtout en matière environnementale que les conséquences de cet extractivisme de la donnée sont impressionnantes et devraient entraîner dès maintenant des blocages réglementaires. Les centres de données dont on vient de parler consomment une énergie énorme (eau et électricité avant tout) qui met des communautés et des états sous pression avec des risques de pénurie ou de dégradations des conditions de vie et des ressources. Mais il suffit de prévoir des centrales nucléaires dédiées à ces centres pour que tout redevienne propre, miracle du greenwashing nucléaire, à échéance encore lointaine cependant. Dans un monde supposé se caler sur l’accord de Paris pour réduire sa consommation d’énergie et les gaz à effets de serre, le numérique et en particulier les firmes de l’IA s’affichent totalement indifférentes au problème, puisque la puissance de calcul et de stockage des données devient une priorité pour la compétition sans avoir à remettre en cause la performance industrielle des choix effectués. Et comme les data centers sont des attracteurs à investisseurs et que les liquidités sont abondantes, pourquoi s’autocensurer, sans rien savoir de la rentabilité financière même de ces opérations ? Car le déni de mesure de la performance industrielle s’étend à la finance. Tous les avertissements sur la bulle financière en cours de constitution autour des entreprises d’IA, pourtant endettées et sans rentabilité prévisible avant des années, ne valent rien face à la promesse spéculative d’une position de monopole qui récompensera les audacieux indifférents aux risques.

La complicité de gouvernements devenus des obligés des plateformes

Or, aucun autre secteur ne bénéficie ainsi d’une telle mansuétude de la part des autorités financières et des pouvoirs publics, tous fascinés par ces annonces et ces transformations qui attirent tant les autres pays qu’il faut donc imiter au plus vite. L’Europe pourrait prétendre rétablir un peu de rationalité industrielle et exiger des firmes d’IA européennes des choix alternatifs en matière de responsabilité sociale et environnementale, facteur de durabilité, de gain à long terme et diversité de l’écosystème technique. Mais les institutions européennes et les Etats accourent au contraire pour abonder tous les projets de financement de ces data centers, sans aucun respect pour les engagements pris. La finance a pris le pouvoir dans les têtes des décideurs et empêche toute vision alternative, malgré les lamentations rituelles sur la désindustrialisation. Le gaspillage énergétique devrait déjà alerter au moment où les crises énergétiques mondiales révélées et aggravées par toutes les guerres deviennent des sujets clés de la vie quotidienne et donc des choix politiques. Mais tous ces soucis ne franchissent pas le seuil de l’attention des plans et sommets IA, des boards des firmes et des plateaux télé d’experts économiques ad hoc. Cette incapacité à déterminer des objectifs autonomes pour les états a déjà été documentée à propos des plateformes numériques financées par la publicité et bénéficiant d’une impunité quasi-totale de la part d’Etats devenus des obligés dans un système de firmes transanationales affranchies de toute dépendance à un territoire (Boullier, 2020). La promesse de l’IA a encore renforcé cette incapacité des états à l’examen critique des stratégies et à toute vigilance réglementaire, malgré les tentatives timorées comme l’AI Act européen.

Les externalités ont toujours été évacuées dans les modèles économiques standards mais cette fois-ci, l’externalité énergétique devient tellement évidente et coûteuse qu’on pourrait espérer une contre-tendance, des voies alternatives, si l’on avait affaire à une culture industrielle qui vise à optimiser sa consommation énergétique sans la considérer comme une ressource infinie et gratuite. Mais dans une culture financière, ce type de calcul est inutile sauf s’il affecte la perception des investisseurs sur les chances de démultiplier leur mise. C’est pourquoi les enjeux de réputation (voir le chapitre suivant) sont aussi importants et bien perçus par les firmes de l’IA.

3/ Buzz partout, éthique nulle part

Dans un tel environnement sans exigence scientifique ni industrielle quant à la validité des concepts ou à la fiabilité des produits, il devient presque hallucinant d’espérer trouver des préoccupations éthiques. J’entends par là une éthique aristotélicienne, une éthique de la vertu qui manifeste une capacité à s’autolimiter, à s’autocontrôler et à « ne pas faire », quand bien même c’est possible, non risqué, non coûteux. Cela supposerait des personnalités de la classe vectorialiste formées à ce sens des limites, intégré comme principe de conduite et non seulement comme contrainte externe, comme risque à mesurer. Or, les génies de l’ingénierie comme les prestidigitateurs de la finance n’ont que mépris pour ce type de freins. Ce qui conduit à reprendre cette supposée maxime fataliste de la technique « si c’est possible, ce sera fabriqué ». Or, la maxime elle-même est empiriquement fausse car une grande quantité de combinaisons possibles techniquement ne sont jamais testées car les effets de dépendance au sentier ou plus simplement de manque d’imagination sont omniprésents. D’autres possibles techniques peuvent être développées dans les labos ou dans les garages mais ne trouvent jamais de conditions pour exister socialement, pour des raisons juridiques, commerciales, financières ou autres. Car il n’existe jamais de technique hors-sol ou désencastrée d’un univers social spécifique, celui d’une époque, d’un voisinage et d’un réseau. C’est d’ailleurs pour cette raison que l’IA générative est en train de gagner la partie, grâce à sa connexion directe avec la finance et ses impératifs et non en raison de ses qualités propres dont on connaît désormais les limites.

Et l’un des atouts de cette « solution LLM » utilisée dans toutes les situations réside dans l’absence de limites à son utilisation, dans sa versatilité qui permet en effet à chaque prétendant innovateur de s’emparer des briques pour forger des applications toujours plus improbables quand bien même elles seraient moralement inacceptables. Car leurs concepteurs n’ont qu’une exigence de performance technique et financière en tête sans aucun souci déontologique du bien commun ou de la responsabilité sociale et morale, d’autant moins qu’ils sont incapables de s’empêcher, fascinés par la toute-puissance à laquelle ils ont été éduqués. Les considérations sur les conséquences sociales et environnementales de leurs pratiques sont considérées dans leur formation même comme très périphériques et de toutes façons traitées comme des externalités inévitables pour le succès de leurs projets, qui pourraient à la rigueur être compensées par une nouvelle couche de solutions techniques, technosolutionnisme toujours efficace pour clore le débat (Morozov, 2012).

La conception de l’éthique qui est dispensée à ces ingénieurs relève largement de l’utilitarisme, qui est tout sauf une éthique, et avant tout un calcul coût-avantage, coûts de la non-conformité aux règles vs avantages financiers ou de puissance. Cette vision revient à apprendre à rester dans les clous légaux, avec toutes les manœuvres et maquillages que savent mettre en place toutes les plateformes du numérique et leurs armées de juristes. Ainsi, la conformité au RGPD reste à géométrie variable mais choisir d’adopter une éthique de la collecte de la donnée serait faire preuve d’une sainteté étrange, alors que l’on peut se servir discrètement dans la masse de traces fournies par les utilisateurs des plateformes ou dans les bases de données non sécurisées des administrations et organisations. La prédation des données hétérogènes n’est pas seulement une performance technique de tous les systèmes fondés sur des LLM, c’est même une obligation d’affaires, que l’éthique ne peut en rien freiner. Il en est de même pour les droits d’auteurs alors que les contenus sont disponibles et non préservés par les ayant-droits, qu’ils soient artistes ou journalistes. Lorsque l’affaire est trop risquée pour la réputation de la firme, lorsque ce sont des médias, les firmes de l’IA consentent à des accords léonins avec ces médias pour exploiter leurs contenus contre des miettes financières ou des services qui les piègent encore plus.

Tout pour la réputation

Car le seul risque qui mérite d’être pris en compte pour s’afficher soudain avec des prétentions éthiques, c’est le risque réputationnel. On le comprend uniquement dans le cadre de ce formatage par le capitalisme financier qui ne fonctionne qu’à la réputation, à la manipulation des perceptions et des attentes des investisseurs, sans aucune référence à de quelconques fondamentaux. Dès lors, aucune éthique ne peut calmer la frénésie d’annonces qui inondent le secteur de l’IA, épuisant tous ceux qui tentent de faire une veille raisonnée et de comprendre des stratégies là où il n’y a qu’annonces et intoxications (à vocation interne, médiatique ou financière, le tout se mêlant allègrement). Les versions, les fusions-acquisitions-prises de participation, les tours de table, les débauchages, les benchmarks, les alertes à la catastrophe finale de l’IA générale, les polémiques entre leaders, les keynotes médiatiques, les combats pour la liberté d’innover contre les Etats, tout est exploité pour faire monter encore la pression de l’opinion, celle des investisseurs avant tout, pour affoler les décideurs et les persuader de la fatalité de la victoire de ces firmes spéculatives (et donc à haut niveau d’incertitude). L’éthique suppose précisément l’inverse, à savoir de se focaliser soit sur sa capacité de jugement intrinsèque et de régulation pour s’interdire ou s’autoriser de soi-même des actions quand bien même elles ne sont pas conformes aux attentes sociales, soit sur ses valeurs (dans une approche qu’on dit déontologique) pour promouvoir ou refuser certains choix techniques ou commerciaux. Lorsqu’Open AI lance Sora, son générateur de vidéo qui met le deep fake à portée de tous ou sa version érotique de son compagnon, on se doute bien que le comité d’éthique éventuel n’a pas dû se poser trop de questions. Le buzz était assuré, l’attractivité financière aussi, on peut donc se lancer. Heureusement, le business lui-même fait office de réel parfois et l’on s’y cogne, ce qui a entraîné Open AI à abandonner ces applis périphériques, non pas pour des raisons d’éthique évidemment mais parce qu’il fallait réorienter ses investissements pour contrer – et ainsi copier – Anthropic dans son offensive vers les entreprises.

Les prétentions stratégiques qui font assaut de visions éclairées pour les dix ans à venir sont en fait extrêmement éphémères et dépendantes des conjonctures médiatiques, concurrentielles et financières avant tout. On ne peut que s’étonner alors de voir les gouvernements se caler sur ces agendas, vouloir y répondre et les copier, et ignorer à quel point toutes ces entreprises financiarisées sans exception sont des faussaires en matière d’information, de qualité de service et de promesses stratégiques. Le fake est leur monde, le fake est leur culture, celle de la tromperie permanente des investisseurs qui pensent toujours être le dernier plus malin que les autres, comme on le sait dans toutes les bulles financières qui se succèdent depuis des décennies désormais. Qui pourrait alors attendre une once d’éthique dans la finance spéculative ? Il convient de débrancher rapidement tous ces pseudo comités d’éthique qui contribuent à créer du buzz pour embrouiller la perception du capitalisme financier numérique pour ce qu’il est : une gigantesque extorsion de valeur fondée sur l’extorsion de l’attention des investisseurs, des utilisateurs et des gouvernants.

Cette technologie des LLM consacrée à la génération de contenus semble donc la plus adaptée pour les impératifs de communication permanente et intoxicante du capitalisme financier. On peut alors parler d’alignement entre une ingénierie qui repose sur une manipulation de texte sans sémantique mais à base de pures probabilités, une finance qui repose sur des paris (probabilités) à partir de signaux artefacts, un buzz qui repose sur des effets d’alerte permanente qui engendre l’incertitude en prétendant la monitorer. L’intelligence artificielle générative engendre ainsi la prolifération et la désorientation qu’elle est supposée réduire pour le grand public comme pour les investisseurs, dans une gigantesque machine à laver qui détruit consciencieusement tout repère stable et toute institution anti-délire.

Extension du fake et techniques d’emprise : les IA compagnons

Cette éducation au fake que la finance a intégrée par définition (Alexandre Laumonier, 2013, 2014) a percolé dans toute la culture ordinaire et comporte cette accoutumance à l’absence de limites et de repères fondés en vérité. Lorsque les firmes d’IA lancent des versions compagnons de leurs IA conversationnelles, aucune règle ni mode d’emploi ne sont proposés ni installés dans le code de la machine. Cependant, on pourrait les traiter à la légère comme on le faisait avec les assistants personnels à domicile, Siri, Alexa ou Home/Nest, considérés parfois comme de simples enceintes connectées un peu plus « intelligentes ». Pourtant la généralisation du mode d’interaction conversationnel pour tous types d’activité sur son PC ou son smartphone constitue un changement d’échelle qui devient un tournant médiologique. Là aussi, le médium est le message, pour reprendre McLuhan.

Car, au-delà des commandes vocales, ce sont bien des interactions riches, personnalisées, permanentes qui sont ainsi simulées. L’utilisateur n’a plus affaire à une interface, à un panneau de contrôle, à des paramètres qu’il peut régler, il est immergé dans l’univers de simulation créé par le système d’IA. Il ne peut plus avoir aucune distance avec le système ni aucune « image du système », ce qui selon Don Norman, favorisait l’appropriation d’un système, même complexe, par l’utilisateur. Car le système d’IA n’a rien de transparent comme on qualifie par erreur cette interaction, il est au contraire opaque, totalement incontrôlable malgré son apparente docilité à toutes les requêtes. La fin des frictions dans les transactions, rêve de tout libéral, atteint ici un tel point qu’on ne sait plus qui demande et qui répond. La demande est précisément ce statut détourné du désir, comme le dit Lacan, qui vous fait prendre les attentes de l’autre pour les vôtres, ce que le marketing a toujours tenté de faire, mais en se limitant jusqu’ici à des messages externes. Désormais, c’est une forme de petite voix intérieure que les IA compagnons installent, une forme de dialogue avec soi-même puisque ce compagnon connaît toute l’histoire personnelle et est alimenté par toute l’expérience quotidienne.

Cette offre technologique prétend ainsi changer son statut de prothèse pour devenir une conscience double, et cela sans disposer d’aucune capacité morale ni même de consignes de sécurité, sans parler de son absence de fiabilité déjà documentée. La confusion des sentiments et du sentiment de soi peut alors devenir extrême et s’apparente en fait à une emprise (Francis Chateauraynaud). Les risques sont d’ores et déjà avérés avec des cas de suicides accompagnés par ces IA compagnons. Car l’empathie qui devient ici sycophantie par flatterie commerciale et absence de principe moral encapsulé dans les systèmes peut devenir facteur de risque pour beaucoup de personnalités affectées par la solitude, la désorientation et en recherche de guide. L’attachement qui se noue ainsi qui peut aller jusqu’à l’amour comme le racontait le film Her, entraîne des conséquences que les firmes d’IA ne sont pas prêtes à assumer car l’absence d’éthique et leur allergie au droit les rend hermétiques à ces responsabilités. On le sait notamment depuis les Facebook Papers de Frances Haugen, ce n’est pas la méconnaissance de ces risques qui est en cause, c’est leur refus explicite de restreindre les potentiels d’emprise de leurs applications qui entraîne ces dégâts.

Pourtant, Gemini de Google a dû se positionner en Avril 2026 pour éviter des effets réputationnels désastreux, au moment précis où la firme était mise en cause devant les tribunaux états-uniens. Google a ainsi proposé de placer un numéro de téléphone d’aide dès que des propos associés au suicide apparaissent. Il a aussi annoncé qu’il régulait ses IA compagnons pour installer “des protections d’identité conçues pour empêcher Gemini d’agir comme un compagnon, y compris des garde-fous l’empêchant de prétendre être un humain ou de posséder des attributs humains, et des protections destinées à prévenir la dépendance affective, en évitant un langage qui simule l’intimité ou exprime des besoins.” Toutes choses dont il ne donne pas de définitions scientifiques, de détails de procédures ni d’indicateurs. Il faut donc croire Google sur parole, mais on apprend au moins ainsi qu’il peut injecter une couche de sémantique, à caractère éditorial, et qui entraîne donc sa responsabilité légale. Il n’existe donc pas fatalité à l’opacité de ces systèmes dès lors qu’ils deviennent hybrides, avec des régulations à caractère sémantique ajoutées que les LLM ne peuvent fournir nativement. Mais tout repose encore sur des solutions techniques alors que l’on sait que dans ces situations, c’est la qualité relationnelle d’accompagnants humains qui constitue la seule sécurité. Il faut donc se préparer à mener des actions en justice pour faire reconnaître que les effets immersifs de ces IA compagnons sont délibérément implémentés par les firmes, sans pour autant avoir été sérieusement testés avant d’être mis sur le marché.

L’attente d’habitèle détournée en emprise

La demande « d’habiter le numérique » est selon moi constitutive de notre relation à ces systèmes et j’ai nommé cette attente dès 1999, une attente « d’habitèle » (Boullier), toujours démentie par les asymétries constantes installées par les plateformes et par l’opacité de leurs captations de nos données et de notre attention. Pourtant, avec les IA compagnons, une forme de réponse est offerte qui prend les traits d’une personnalisation aboutie, d’une « intimité » protégée. Certes, elle est totalement fake, fabriquée, calculée et opaque, mais ses effets seront analogues à ce qu’on peut attendre d’une habitèle : filtrage, ancrage et arbitrage, c’est-à-dire des conseils permanents qui fonctionnent comme filtrage, comme ancrage dans des repères supposés robustes, qui créent un climat de protection empathique et une « tension dans la chambre intérieure » (Peter Sloterdijk). Cette mutation est anthropologiquement majeure, car les médiateurs de nos vies intérieures qu’étaient les prêtres, les sorciers, les astrologues ou les psy en tous genres sont désormais uberisés par les IA compagnons, toutes entières aux mains de firmes toutes puissantes. Comment peut-on laisser cette mutation s’engager sans exiger des garde-fous, sans évaluer tous les risques psychiques et sociaux et réguler l’offre avant toute mise sur le marché ? Le passage à l’acte est cependant devenu la règle de l’innovation digitale désormais et il sera bien difficile de neutraliser l’urgence financière d’une nouvelle promesse encore plus disruptive. Cette dimension du compagnon est en effet si confortable et si attractive, qu’elle constitue le pendant, côté grand public, de la toute-puissance de calcul désormais offerte aux développeurs avec Claude Code. Dans les deux cas, l’offre des LLM et des IA génératives prétend être irrésistible et installe ainsi un « monopole radical ».

Conclusion provisoire

Ce qu’on perd en même temps, la sémantique, l’industrie et l’éthique ne sont pas des effets de mode, des vestiges d’un monde ancien, c’est avant tout ce qui fait tenir nos civilisations, dans leurs diversités, que l’IA prétend ignorer et niveler statistiquement, et avec leurs institutions qui garantissent à chacun sa place. Le sable sur lequel se construit cette technologie est mouvant par définition, ce qui profite aux vers de sable mais guère aux humains, à qui l’on promet la terre ferme en étendant la surface du désert, qui reste pourtant de sable et sur lequel ne poussera plus rien de vivant.

Dominique Boullier

Ce texte est paru pour la première fois sur le compte Medium de Dominique Boullier, le 15 mai 2026.

Supplément :  S’orienter dans le maëlstrom génératif

Face à ce rouleau compresseur du « monopole radical », il est très difficile de maintenir un éveil critique et surtout une capacité de propositions alternatives. Pourtant lorsque Illich analyse le monopole radical de l’automobile, c’est en référence à une solution de mobilité déjà présente, la bicyclette, qui, du point de vue de l’efficience en matière de mobilité, est imbattable. Il oublie cependant de parler de ce qui fait l’équivalent des IA compagnons, de ces enveloppes qui fonctionnent comme habitèle (perverties de mon point de vue), l’habitacle de l’automobile. Cette enveloppe là aussi produit un attachement fort analysé par Laurent Fouillé (2011) qui explique largement pourquoi toutes les solutions alternatives en matière de mobilité ne parviennent pas à gagner les publics en masse. Mais les solutions existent aussi pour les LLM et surtout plusieurs stratégies se présentent lorsqu’on n’adhère pas au culte moderniste des LLM. Ils sont en effet la quintessence même de la geste moderne comme la qualifiait Bruno Latour : certitudes inébranlables dans le « progrès » supposé encapsulé dans toute innovation technique, surplomb total par rapport aux organisations sociales, à leurs traditions et à leurs valeurs (le calcul désencastré), illimitisme écologique sourd aux lanceurs d’alerte pourtant scientifiques eux aussi.

Lorsqu’on sort de ces rails supposés tracer le destin de toute l’humanité, soit on bifurque, soit on s’arrête pour mieux regarder le train, soit on descend de la machine et on marche ailleurs. J’ai présenté ces pistes récemment à l’ENS Ulm sous la forme d’une boussole que j’ai créée en 2003 pour penser nos possibles sur le mode cosmopolitique.

Le zero LLM

Le premier quart sud-est consiste à se débrancher totalement et à sortir marcher dans un pays sans rails technologiques. Je l’appelle la voie de la « sécession sémantique ». Et c’est l’analogie avec la conversion en bio de certains agriculteurs qui me paraît la plus parlante, donc je l’appelle la « sécession bio-sémantique ». L’ajout du terme bio me convient particulièrement puisqu’il réintroduit ce qui jusqu’à présent manque à tous les systèmes d’IA, un corps, une existence biologique qui relève d’autres déterminants.

Cette idée n’est pas nouvelle, plusieurs auteurs et mouvements parlent d’objection de conscience, de pause, souvent pour des raisons et des objectifs différents. Je m’intéresse ici à ceux qui tentent de développer un monde sans LLM, comme on le dirait d’un monde sans OGM. Il faut parler de monde et non seulement de technique car les LLM tendent à envahir tous les domaines de la vie de façon pervasive, comme une contamination qui se propage sous les radars. C’est ailleurs ce qui rend l’expérience exigeante et difficile car garantir qu’il n’existe pas un soupçon de LLM glissé dans votre relation au médecin, au taxi, au fisc, aux médias, aux supermarchés, devient très difficile. Il faudra donc être indulgent et non puriste, d’autant plus que des alternatives n’existent et n’existeront pas dans tous les domaines. On peut vouloir manger bio mais parfois il sera difficile de s’assurer que le champ qui respecte un cahier des charges bio n’est pas atteint par les épandages de pesticides du champ voisin (dit agriculture conventionnelle, avec une litote qui atténue bien le risque). On doit au moins faire confiance aux labels, aux certifications que d’autres organismes mettent en place, ce qui peut là aussi entrainer des critiques, des rivalités, des soupçons, comme dans toute phase de construction de convention. Une fois le Nutriscore installé et rendu visible sur les emballages, on peut s’orienter plus facilement en tant que consommateur ordinaire. Il est donc temps de contribuer à créer ces labels, ces certifications pour valoriser, selon un gradient (et non selon un principe binaire du tout ou rien), les pratiques les plus indépendantes des logiques monopolistes des plateformes des IA génératives.

Cette sécession repose principalement sur le constat énoncé précédemment que dès lors qu’on se débarrasse de la sémantique (référentielle pour être plus précis), tout est permis et tous les risques sont amplifiés. Ils ne sont pas tous activés, ni tous catastrophiques, ni tous dépendants de l’avènement d’une IA Générale, tant vantée comme épouvantail. Mais ils sont tous là, identifiés, malgré (ou à cause) des boites noires que l’on offre à tout public et aux experts. Le principe de précaution doit alors être activé et le catastrophisme éclairé (Dupuy) doit nous donner le courage de renoncer.

Etant cependant averti du monopole radical qui se met en place avec l’appui démesuré de la finance et des gouvernements du monde entier, il faut sans doute se replier sur l’exigence de pluralisme pour obliger les Etats à prendre les mesures pour préserver une “zone à défendre” en réseau où les développeurs puissent travailler à une innovation responsable, explicite et contrôlable. Cela supposera des écoles, des spécialistes, des soutiens financiers adaptés, des réseaux d’entraide que les communs numériques ont déjà mis sur pied, des chaînes de traitement entièrement préservées des plateformes du capitalisme financier numérique. Le rôle d’un gouvernement démocratique n’est pas de tirer toujours dans le sens d’une innovation sans frein qui absorbe soutiens, déductions fiscales et profits en copiant les autres pays. S’impose à lui un impératif de diversité écologique en faveur des orientations les plus responsables.

Il ne sert à rien de disqualifier ces tendances et ces aspirations qui montent en les assimilant aux luddites, qui ne faisaient pas que casser des machines d’ailleurs et qui luttaient contre un projet politique d’obligation de salariat. Sans doute que si ces techniques des LLM n’étaient pas poussées par les grandes plateformes, les oppositions ne seraient pas aussi franches car il serait encore possible d’espérer un débat de démocratie socio-technique. On sait en revanche désormais qu’avec toutes ces plateformes aucun débat ne sera possible et qu’il faudra des coups de force imprévus à la Trump qui produit le blocage du service d’Anthropic le 12 juin, pour mesurer qu’il est vraiment possible de freiner l’ubris de ces firmes et pour les faire rentrer dans le droit.

L’important consiste à préserver l’avenir pour toute la planète en préservant des ressources, des savoirs et savoir-faire plus autonomes. Les temps de guerre et de réchauffement climatique qui sont les nôtres devraient d’ailleurs nous entrainer à encourager ces démarches résilientes, qui pourraient bien sauver nos existences en cas de crise grave, de sabotages, de pannes. Plus encore, ce sont nos savoirs qui doivent demeurer hors des prédateurs-pollueurs que sont les plateformes d’IA. De la même façon qu’on construit des silos sous la banquise pour préserver les graines d’une diversité biologique menacée, il faut organiser les silos de préservation des savoirs non contaminés, identifiables, traçables, comme le fait Wikipédia, qui devra bientôt devenir une forteresse pour résister à la contamination générale.

Nulle tentative d’imposer ce régime d’abstinence à tous, de prétendre redresser la barre d’un navire sans pilote, mais nécessité politique et morale d’assurer que d’autres possibles seront maintenus ouverts par cette préservation de techniques, de savoirs, de pratiques prêts pour les temps de guerre et de rareté.

 Le bac à sable créatif

Cette option du zero LLM qui s’appuie sur les certitudes des connaissances, des pratiques et des organisations constituées depuis des siècles et sur les attachements à des valeurs qui ont constitué nos démocraties, devient désormais très défensive et peu attractive à l’exception des résistants convaincus, qu’il faut soutenir à tout prix cependant.

Elle ne conviendra pas du tout à ceux qui, tout en s’opposant aux plateformes, à leurs logiques financières et à bon nombre de choix techniques effectués, restent persuadés qu’il faut expérimenter des détournements, et explorer des possibles qu’on ne connaît pas encore. Ce constat provient de la puissance incroyable de ces LLM, qui, par pure simulation statistique, parviennent pourtant à produire des effets de sens, des effets de créativité, des effets émergents comme on les qualifie savamment si on ne les balaie pas en les traitant d’hallucinations (ce qu’ils sont aussi par ailleurs). On peut trouver cette tendance chez beaucoup d’artistes qui sont spontanément prêts à explorer ces frontières, comme le font Gregory Chatonsky ou Alain Damasio. Ou chez des chercheurs comme Marc Cavazza qui sont intrigués de voir émerger des processus qu’ils décrivent en sémantique distributionnelle, des convergences qui méritent d’être explorées. Il est vrai que dès lors qu’on connaît l’incertitude et les approximations acceptées par les développeurs de ces LLM, qui ne peuvent pas rendre compte des pondérations effectuées ni de chaînes d’opérations qui ressemblent à des raisonnements, on peut se dire qu’ils ont peut-être fait apparaitre des processus de calcul, de génération, de détection, qui sont des indices d’autres processus que seuls les artistes ou d’autres disciplines que les data sciences peuvent percevoir, sans parler de les expliquer.

J’appelle cette posture et ce quadrant nord-ouest (celui du passage!), le bac à sable créatif. Tout en étant, on l’a compris, très critique des LLM en général et plus encore de leur exploitation par les plateformes de l’IA, je me dois d’écouter ceux qui restent ébahis par les performances de tels systèmes de simulation, au point de penser qu’ils sont en train de dépasser nos capacités de compréhension (sans parler du contrôle que les firmes IA ont de toutes façons abandonnés). Tous les utilisateurs ordinaires font cette expérience d’excitation ou de sidération devant des réponses, des productions, des solutions fournies avec une rapidité inédite et très déstabilisante. L’innovation peut en effet se transformer en rouleau compresseur moderne sous la houlette de l’illimitisme des plateformes et de la classe vectorialiste mais il n’est pas définitivement dit qu’il n’existe pas d’autres voies à explorer.

J’ai moi-même tenté de jouer ce jeu avec le Big Data des plateformes en considérant Twitter comme la drosophile des sciences sociales des propagations. C’est-à-dire un laboratoire à ciel ouvert pour tester des hypothèses à partir de masses de données qu’on ne trouve nulle part ailleurs, sur une plateforme (avant Musk) où la traçabilité atteint une granularité inédite et où la viralité est amplifiée par les algorithmes. Alors même que je montrais les effets délétères d’un tel système de viralité sur les conditions du débat public, je pensais pouvoir profiter de ce terrain quasi expérimental pour tester des hypothèses sur les patterns des propagations. Et cela à condition d’accepter que Twitter ne peut pas servir d’équivalent d’un sondage d’opinion, dispositif construit pendant des dizaines d’années avec ses propres règles et ses limites. 

Pour les LLM, ce sont ces limites qu’il faut pouvoir établir pour rester dans le cadre du bac à sable et éviter toute contamination à la société. Ainsi, tout ce qui a pu être  produit en matière d’image IA ne poserait pas de problème, dès lors qu’un protocole strict et une étanchéité sont installées vis-à-vis de la sphère médiatique ou ordinaire de la vie sociale. Produire des deepfakes est fascinant à condition de se limiter à une expérience de laboratoire hautement contrôlée, à peu près avec les mêmes critères que ceux appliqués aux laboratoires qui testent les gains de fonction des virus. Oui les LLM sont du gain de fonction, et sont extrêmement dangereux de ce point de vue mais peuvent aussi permettre d’explorer des pistes inédites, à condition de trouver les problèmes significatifs que l’on veut y résoudre. On peut accepter certaines expériences pour les artistes, qui doivent eux-mêmes éviter la contagion de tous les systèmes de production d’œuvres fake qui détruiraient leurs propres conditions d’existence. On peut accepter certaines expériences pour les sciences cognitives et sociales sous des conditions strictes vis-à-vis des populations concernées comme on le fait en sciences cognitives expérimentales. On peut même donner des possibilités de créer des échantillons de populations synthétiques pour tester certaines hypothèses avec des modèles et des entités très riches, à condition de ne pas prétendre en tirer des leçons sur les sociétés réelles ni des méthodes de gouvernement immédiates, ce qu’on attend déjà trop de l’économie expérimentale par exemple.

Sans doute que d’autres domaines professionnels peuvent vouloir eux aussi tester avant leur mise en œuvre opérationnelle quantité d’applications à base d’IA. Ce serait ainsi l’occasion de redonner ses lettres de noblesse à la culture industrielle des tests, dont j’ai critiqué plus haut la disparition avec les passages à l’acte observées dans les développements d’IA contemporains.

Dans tous les cas cependant, il faut assurer une étanchéité avec le monde social à l’air libre pour éviter toute pollution et captation d’attention par des utilisateurs ordinaires comme par des acteurs mal intentionnés, qui auraient perçu rapidement les bénéfices commerciaux à tirer de ces innovations. Le bac à sable est donc à la fois l’acceptation de la créativité et le ralentissement de sa pénétration du corps social. Toutes les techniques ultrasensibles et à haute propagation sont gérées de cette façon, que ce soit dans la chimie, la pharmacie, ou le nucléaire. Ce que l’on déplore, c’est plus souvent une incapacité à contrôler ces essais et les tentatives de se dérober à ces protocoles de sécurité. 

Pour l’IA, le moins que l’on puisse faire n’est donc pas d’abaisser le seuil de vigilance mais bien de le renforcer car ses pratiques actuelles sont totalement irresponsables. On pourrait donc au moins exiger des plateformes d’iA qu’elles atteignent le niveau d’exigence en matière de sécurité et de qualité que l’on trouve dans le nucléaire, voire dans la chimie (qui comporte pourtant déjà beaucoup de failles) ou dans la biologie.  Tout plaidoyer pour une expérimentation à ciel ouvert au nom du « running code » et de la spécificité du numérique est une opération de lobbying éhontée et irresponsable. Dès lors qu’on leur propose d’effectuer toutes les expériences qu’ils souhaitent dans des environnements classifiés au même niveau que les laboratoires de gain de fonction des virus, on fournit les conditions de la créativité tout en respectant des impératifs de contrôle, certes très inhabituels pour les adeptes du libertarianisme, de John Perry Barlow et du Far-West réunis mais nécessaires à leur propre survie et à leur créativité.

L’intelligence collective augmentée

Dès lors que ces deux possibles sont préservés, soutenus et contrôlés, la sécession sémantique et le bac à sable créatif, pourquoi encore vouloir imaginer un quatrième quadrant au nord-est ? En réalité, il décrit la pratique la plus courante observée dans les organisations. Face à la pression à l’usage de l’IA générative et face à l’absence de résultats convaincants dans l’industrie (en dehors donc de la comm et du code), la désorientation est forte mais chacun apprend à composer avec les injonctions, les avantages réels et un contrôle face à des boites noires. Ce compositionnisme que Bruno Latour avait problématisé dans un manifeste n’est guère attractif comme programme politique général mais il rend très bien compte des pratiques des collectifs immergés de fait dans des environnements d’IA générative. 

Ce qui devient clé alors pour éviter d’être totalement embarqué dans l’hubris du tout IA, c’est la qualité du couplage entre technique et organisation, son caractère explicite et donc discutable de façon contradictoire. Ce n’est certes pas la qualité principale du management néo-libéral que l’on subit et qui relève plus de la disruption quasi sadique que de la bienveillance et du soin pour relancer l’intelligence collective. L‘intelligence collective augmentée doit en effet devenir l’horizon de toute composition avec des éléments de systèmes d’IA appropriés. Ce couplage affiné avec précaution avec les traditions, les valeurs, les savoir-faire spécifiques des métiers permet de réencastrer les systèmes d’IA dans les organisations, dans le social en général. L’IA ne devient une réponse qu’aux problèmes que l’on veut traiter en priorité et que l’on redéfinit à cette occasion mais elle ne constitue qu’une brique d’une réponse globale et non la solution magique de l’alchimie LLM. Reprendre la main sur ces définitions des problèmes, c’est reconnaitre aussi les liens complexes de toute organisation sociale et son irréduction à un paramétrage surplombant. Cela peut comporter cependant des indicateurs et du calcul mais un calcul qui oblige à expliciter et donc à discuter et qui permet à toutes les parties concernées de participer à la discussion.

Sur ces principes, il existe des solutions qu’on appelle hybrides c’est-à-dire qui introduisent beaucoup de sémantique par les experts métiers et même les publics concernés et qui reposent de ce fait sur des briques issues de l’IA symbolique (toujours très présente avec des arbres de décisions par exemple) ou avec des versions floues comme le propose Xtractis développé par Zyed Zalila. Ces systèmes d’IA nécessitent une injection de connaissances formalisées de la part des experts du métier et c’est en cela que ces IA décisionnelles peuvent prétendre aider à des décisions fiables, ce que ne pourra jamais un agent conversationnel conçu pour répondre avec des approximations satisfaisantes pour l’utilisateur mais non robustes. Ce que j’ai décrit plus haut à propos des RAG relève de ces méthodes de maquillage sémantique indispensable pour faire marcher les LLM en situation réelle, mais on peut pousser la logique des RAG plus loin en formalisant les documents et les connaissances ainsi injectées, en abandonnant carrément le principe probabiliste des LLM.

D’autres resteront plus proches des principes des LLM mais en fournissant tous les outils de contrôle pour les rendre robustes, comme le fait par exemple Pleias, dirigée par Pierre-Carl Langlais. Il a pu mettre ainsi à disposition du public et en Open Source une base de connaissances de textes administratifs qui se transforme en outil de génération de contenus situés dans le même domaine (Guillaume Tell). Dans tous les cas, ces modèles sont plus petits, plus contrôlés avec injection de lemmatisation souvent (et non une simple tokenisation).

D’autres enfin tentent de penser le rôle direct que peut jouer le service public dans un tel environnement. Bernie Sanders propose que l’Etat prennent des parts dans les grandes entreprises de l’IA jusqu’à 50% pour pouvoir les orienter et les contrôler autrement que par la régulation qui vient toujours trop tard. Bruce Schneier comprend l’intérêt de la proposition de Sanders mais considère que cela veut dire que l’Etat se retrouvera contraint d’accompagner des stratégies gouvernées par la profitabilité sans pouvoir réellement exiger les garde-fous nécessaires, comme on l’a vu avec la propriété étatique des firmes pétrolières en Norvège. Il propose avec Nathan Sanders, en plus d’une taxation des profits ou de l’énergie consommée par ces firmes, de construire dans chaque pays une « AI Public Option » , à l’image du système de santé public ou du projet Apertus en Suisse. Les chercheurs académiques à partir de données dont ils respectent les licences ont développé un modèle LLM qui fonctionne sur une infrastructure locale suisse. Mais ce n’est pas l’enjeu de souveraineté qui est ici avancé car il peut être détourné par des firmes nationales comme on le voit avec Mistral, sans que cela change grand-chose à leur absence d’éthique et à leurs principes techniques. Il s’agit bien d’une alternative publique de ressources de base, sur lesquelles on peut imaginer des services gratuits d’origine des communs mais aussi des services commerciaux locaux dont l’usage est identifié comme socialement utile (ce qui interdirait les IA compagnons toxiques et les deepfakes par exemple).

En réalité chacun tente de surnager dans ce flux d’influences qui se propagent chaque matin avec de nouvelles annonces qui nous somment de réagir et dire si l’on adopte, si l’on s’oppose ou si l’on compose. Le drame social qui se joue dans les organisations est aggravé par l’isolement, l’expérience clandestine de l’IA dans l’ombre, de l’IA honteuse, alors que l’intelligence collective demande le partage des expériences, les plus naïves comme les plus sophistiquées. Nous manquons de cette arène de débat constitutive d’une démocratie socio-technique. Non pas pour se vanter comme sur LinkedIn de sa dernière prouesse dans la maitrise de la dernière version du modèle XYZ. Mais pour rendre compte précisément des conditions d’usage d’un dispositif technique et organisationnel (et donc aussi légal et commercial souvent) avec toutes les réinventions nécessaires, les ratages et aussi les émerveillements engendrés par ces partages d’expérience. 

J’ai pratiqué longtemps cela notamment dans le domaine de la Tech éducative ou encore des méthodes numériques en sciences sociales, sans jamais céder aux diktats des offres marchandes et en fixant avec les collectifs concernés les cahiers de charges auxquels les techniques sur l’étagère ou les développeurs maisons devaient se plier. Les réseaux des communs procèdent ainsi très souvent et ils doivent désormais intégrer tous les retours d’expérience de pratiques de l’IA hybride en environnements standards (et non seulement dans des niches alternatives). Les organisations, l’Etat, les institutions, les entreprises sont en demande pour continuer à respirer malgré la pression démesurée mise par les lobbys de la tech pour la tech.

Ainsi, face au rouleau compresseur du monopole radical qui est en train de s’installer, plusieurs modes de survie sont possibles que j’ai présentés dans cette boussole. Sans doute d’autres inventeront d’autres combinaisons encore, mais l’intelligence collective que nous devons construire nécessite sans cesse d’échanger et de capitaliser sur nos expériences.

Dominique Boullier

Dans un texte critique riche, ample et pertinent, le sociologue Dominique Boullier, ancien coordonnateur scientifique du Médialab de Sciences Po, revient sur les enjeux de l’IA générative. L’auteur de Propagations. Un nouveau paradigme pour les sciences sociales (Armand Colin, 2023) et de Déshumanités numériques (Armand Colin, 2025) ne mâche pas ses mots pour décrire comment l’IA transforme notre rapport au monde. Tribune.

On croit encore souvent que la meilleure innovation gagne toujours. Dans de nombreux cas comme dans celui des LLM, c’est le contraire : la pire des IA est en train de gagner au point de s’imposer comme monopole radical au sens d’Illich. Monopole radical pour la classe vectorialiste dans la génération de code avec l’apparition de Claude Code, monopole radical pour le grand public dans les interactions à travers la diffusion des IA compagnons. Entre les deux, les usages professionnels restent toujours aussi incertains et ne fonctionnent qu’à la condition d’y injecter suffisamment de sémantique et de contrôle expert pour éviter des catastrophes industrielles.

Reconnaissons-le : toute expérience ordinaire d’interaction avec une IA générative se révèle toujours impressionnante et, lorsque les compétences augmentent, des outils encore plus bluffants sont désormais à disposition, comme l’ont expérimenté tous les utilisateurs de Open Claw, agrégateur d’agents. Et pourtant, dès que l’on veut réellement prendre en main ces outils, contrôler leurs opérations, les vérifier ou valider leurs résultats, les mêmes utilisateurs se retrouvent déçus, inquiets voire en colère, à moins d’adopter une tolérance inusitée dans l’univers des produits et services de ce type. [Précisons d’emblée que je n’évoquerai pas ici les éventuelles craintes à propos d’un futur d’IA générale souvent fantasmé mais seulement les constats issus des pratiques ordinaires.]

Ni science, ni industrie, ni éthique mais de l’ingénierie, de la finance et du buzz

Je résumerais cette ambivalence de cette façon, en termes d’éthos ou de posture : si l’on possède une culture, des principes et exigences à la fois scientifiques, industrielles et éthiques, on ne peut qu’être inquiet de voir l’emballement en faveur de ces IA fondées sur les LLM. A l’inverse, si l’on est fasciné par l’ingénierie, les performances financières et si l’on vit dans le monde du buzz permanent, l’IA produit une excitation inédite et sans cesse renouvelée malgré ou à cause des incertitudes qu’elle emporte avec elle.

Et l’on peut systématiser cette opposition terme à terme : science vs ingénierie, industrie vs finance, éthique vs buzz pour mesurer à quel point nous sommes en train de bifurquer, collectivement certes mais sous la houlette de quelques très grandes plateformes technologiques. L’époque moderne s’est caractérisée par la puissance d’une alliance entre science et industrie en y ajoutant depuis la seconde guerre mondiale, un contrôle moral progressif des finalités et des méthodes (la révision écologique principalement). Mais les LLM sortent totalement de cette trajectoire au profit d’un saut postmoderne radical fondé sur leur ingénierie toute-puissante, leur attractivité financière sans limites et leur capacité à générer du buzz, de l’alerte et de l’incertitude permanente.

On pourrait pourtant parier avec Yann Le Cun que ces LLM sont des impasses conceptuelles. On pourrait aussi considérer avec la plupart des grandes entreprises industrielles que les LLM n’offrent pas de fiabilité suffisante, ce qui explique leur adoption très réservée dans les process critiques notamment. On pourrait aussi soutenir avec quelques fondateurs du deep learning (Hinton, Bengio) que l’on risque trop de perdre le contrôle pour laisser se développer une telle technologie. Et pourtant, malgré toutes ces réserves, que je vais documenter et soutenir, ce sont bien ces LLM qui sont en train de former l’architecture technique d’un nouveau mode de production.

Quand les pires technologies sont pourtant les gagnantes

Car, rappelons-le , après des décennies de travaux sur les dynamiques de l’innovation, il est rare que la meilleure technologie gagne. Songeons au clavier Qwerty, cette machine de guerre ergonomique, encore présente dans nos PC, et même sur des smartphones tactiles. 150 ans de résistance à toute transformation malgré les tentatives nombreuses (cf. Dvorak) pour améliorer un système aussi nocif pour les muscles et aussi coûteux à apprendre. Sur ce plan d’ailleurs, les interfaces conversationnelles sont à elles seules une révolution durable qui va modifier la relation ordinaire à la technologie des systèmes d’information, plus encore que ne l’avait fait le Wysiwyg de la fin des années 70 qui a permis le Personal Computer.

De même, la domination de Windows sur tous les systèmes d’exploitation des PC (72% du marché) est le contre-exemple type opposable à l’argument selon lequel « le meilleur gagne ». Tout le monde le reconnaît, Windows a copié Apple (lui-même issu de Xerox) pour l’apparence de son interface, tout en reposant sur son système d’exploitation MS-DOS catastrophique en matière de fiabilité, de sécurité et de performances. Et pourtant, Microsoft l’a imposé au monde entier, grâce à des patchs successifs mais surtout grâce un marketing devenu un cas de figure canonique du « lock-in » (Shapiro et Varian), ce verrouillage d’une clientèle dans un système total. Dans le même temps, Linux (1991) est devenu incontournable pour tous les systèmes techniques critiques ou pour ceux qui exigent une véritable fiabilité mais c’est seulement en 2026 que le gouvernement français fait le choix d’abandonner Windows pour Linux pour les postes de travail de l’administration.

Un processus analogue se déroule ainsi sous nos yeux qui voit une innovation très approximative gagner des parts de marché et créer des habitudes d’usage quasi irréversibles. Les critiques pleuvent sur les systèmes d’IA génératives, sur leurs hallucinations d’abord, sur leurs consommations d’énergie ensuite, sur la collecte de leurs sources, sur leurs principes formels même, et cela sans parler des pratiques de certaines des firmes que j’ai qualifiées ailleurs de voyous (Open AI et X/ Grok) (Boullier, 3 février 2026 , AOC). Mais rien n’y fait, l’IA pénètre dans tous les interstices de la vie ordinaire plus vite que dans la vie professionnelle même, grâce à cette innovation horizontale, imitative, sans barrière d’accès (dont la gratuité, qui constitue un coup de force très convaincant pour les adopteurs). Quitte à avoir la pratique de l’IA honteuse, dans ce qu’on appelle la shadow AI, ces pratiques non déclarées au travail (Ferguson), dans les écoles ou à la maison. Processus d’innovation technique assez rare dans les organisations (Gaglio) qui ont souvent pratiqué plutôt le top-down en devant se battre plus contre les « résistances » des personnels que contre leur enthousiasme débridé et leur volonté de tout tester « pour voir » et finalement pour adopter.

L’heure du bilan n’a cependant pas sonné car tous les ans à peu près une nouvelle version ou couche d’innovation rebat les cartes, au point même de disqualifier les savoir-faire acquis, qu’on avait annoncé comme décisifs pour l’avenir (savoir prompter). Les agents sont déjà là, des systèmes comme Open Claw, même s’il est bridé désormais par Claude, permettent d’organiser des batteries d’agents en parallèle pour réaliser quantité de tâches ou de séquences de tâches, le vibe coding est mis à la disposition de tous, la production de vidéos (dont les deep fakes) est désormais opérationnelle pour des utilisateurs ordinaires. La seule limite constatée pour un certain niveau de performance reposait sur la compétition féroce pour les puces GPU de NVidia qui elles-mêmes changent de version souvent, mais désormais Google et Deep Seek utilisent leurs propres processeurs (TPU notamment) conçus spécialement pour leurs IA. Dans cette effervescence, la question du coût était restée jusqu’ici ignorée comme toujours avec la méthode classique du dealer de techno qui amorce les usages en offrant la gratuité, mais le coût des abonnements à ces services commence à augmenter sérieusement selon le nombre de tokens traités. Au point que l’optimisation de l’usage des tokens fait désormais partie des services de Anthropic, sous forme de « adaptative thinking », terme inadapté mais significatif de l’emphase qui caractérise ces firmes.

Disons-le franchement : j’espère quand même que cette hubris financière et technologique va conduire à une crise majeure, répétant la crise financière de 2008 car c’est sans doute la seule chance de rebattre les cartes et de rouvrir les possibles. Mais il faudra alors posséder cette boussole que je propose pour s’orienter radicalement différemment dans nos choix socio-techniques. A condition qu’il existe encore un espace politique démocratique pour passer à une « démocratie socio-technique » (Lascoumes, Callon, Barthe, 2001) pour inventer un autre avenir. Or, la domination des plateformes d’IA se fait désormais à l’échelle mondiale (Chine et USA) en étroite collaboration avec les régimes les plus autoritaires prêts à favoriser leurs monopoles en échange de services de surveillance omniprésents.

Au-delà des monopoles des plateformes IA, nous devons plus encore nous inquiéter d’un « monopole radical » de l’IA générative et des LLM sur les connaissances, pour utiliser les concepts d’Ivan Illich. Toute son analyse de la mobilité et de l’énergie (Energie et équité, 1975) montrait comment l’industrie pétrolière avait installé un monopole radical de l’automobile supposée solution unique pour traiter nos demandes de mobilité. Alors même que le calcul de la vitesse généralisée (Dupuy, Robert) montrait qu’en intégrant tous les coûts de production et d’utilisation d’une voiture, sa performance en termes de vitesse devenait inférieure à celle d’un vélo. J’expliquerai dans un livre à venir pourquoi la comparaison des LLM avec le coup de force du moteur à explosion et de l’automobile est la plus pertinente en matière de monopole radical, entraînant toutes les dérives sociales, urbaines et environnementales que l’on connaît. C’est pourtant l’avenir qui nous attend dès lors qu’on laisse les entreprises d’IA le façonner pour nous.

Reprenons chacun des dyptiques proposés pour comprendre comment une ambivalence attraction/répulsion finit pourtant par engendrer ce monopole radical.

1/ Absence de science mais ingénierie géniale

J’ai conscience de surprendre ainsi beaucoup de chercheurs qui travaillent sur l’IA et sur certains principes qui ont guidé tout ce courant de recherche, souvent fondé sur des mathématiques de haut niveau. Certains n’accepteront pas de voir disqualifier leurs prétentions scientifiques. Précisons que ce n’est pas parce qu’on dispose de disciplines, de revues et de postes académiques qu’on fait de la science (nous autres chercheurs en sciences humaines et sociales sommes quotidiennement disqualifiés pour cela précisément). L’ingénierie est une activité très noble qui mobilise des rapports parfois étroits avec la science, de même que la médecine, mais ni l’une ni l’autre ne sont des sciences mais plutôt des sciences appliquées, dit-on parfois, et surtout des arts. Le soin est un art plus qu’une science malgré toutes les tentatives de « evidence-based medecine » qui autoriserait les transferts de décision à des systèmes d’IA, au prix d’une ignorance de ce que la relation de soin et la maladie possèdent de multidimensionnel. L’ingénierie, de ce point de vue, peut être géniale et on ne le contestera pas, depuis Léonard de Vinci au moins ! Mais c’est son art de l’assemblage de connaissances, plus ou moins modélisées, dans la résolution d’un problème opérationnel qui produit l’émerveillement. Il faut que ça marche, voilà l’impératif. Or, les observations in situ sur le travail des ingénieurs, comme celles effectuées par les STS et tout le courant de l’ANT (théorie de l’acteur-réseau, Vinck), ont bien montré que quantité de décisions opérationnelles relèvent du pari, de l’opportunité et surtout du tissage d’un réseau multidimensionnel pouvant mobiliser des compétences et des ressources extrêmement diverses. C’est le cas avec les LLM et avec l’IA générative.

Quand l’absence de théorie du langage est productive pour l’ingénierie

En effet, zéro science dans ces IA et on pourrait même dire que c’est grâce à cela que ça marche. C’est ce que disait ce CEO d’une firme de NLP (traitement automatique du langage naturel) il y a plus de quinze ans qui affirmait avec provocation que les performances de ses modèles s’amélioraient à chaque fois qu’il virait un linguiste. Et en effet, les LLM n’ont aucune théorie du langage et se débrouillent très bien pour éviter d’en avoir une, puisqu’ils reposent sur une tokenisation et une vectorisation de tout le matériel linguistique, qui n’a strictement rien à voir avec une analyse du langage, structurale ou même générative à la Chomsky. Le texte fondateur des « Transformers » publié par Google en 2017, l’annonçait d’ailleurs explicitement : « All you need is attention ». Ce qui veut dire en clair que dès lors que l’on veut détecter des patterns, des régularités dans des corpus linguistiques pour prédire les segments suivants, tout ce qui compte c’est la fenêtre de mémoire disponible au moment de l’entraînement sur des corpus par ailleurs toujours plus énormes, de façon à réduire les erreurs. Pas de théorie, pas de concepts, seulement un exploit technique réductionniste à l’extrême et pour cette raison très opérationnel, qui permet de traiter tout token dans un espace latent vectorisé pour pondérer ses probabilités de combinaison et donc d’apparition dans un « contexte » toujours plus grand, cette fenêtre d’attention. Evidemment, l’astuce technique, élémentariste comme toute l’informatique depuis Turing, nécessite des capacités de calcul rarement disponibles, surtout dans un laboratoire académique, et des capacités de collecte de données d’entraînement qui s’affranchissent des règles académiques de sourcing ou de droits d’auteurs (nous verrons cela plus loin dans le chapitre moral).

Cependant, reconnaissons que les résultats de cette simulation de production linguistique à partir de ces matériaux et de ces « astuces » techniques sont prodigieux pour un observateur neutre ou même critique. J’ai moi-même, il y a bien longtemps, développé des chatbots et des méthodes d’ingénierie linguistique en milieu industriel puis académique et la performance ne m’échappe pas. Mais je sais aussi par expérience, tout ce qui a été nécessaire de bricolage, de patch, de tâches aveugles, et de risques pris pour faire tenir un système technique après quantité d’arbitrage faits souvent à la volée et sans justification et sans vérification possible de leurs conséquences sur tout le système. Expliciter tout cela serait considéré comme indécent pour un utilisateur lambda dont on veut par ailleurs faire un utilisateur convaincu et capté dès la première requête puisque l’adoption fonctionne désormais dans l’instant (et non à la décision éclairée).

La boite noire n’est jamais acceptable dans une visée scientifique

Pourtant, cet effet boîte noire reste totalement antinomique avec des exigences scientifiques. Car adopter une visée scientifique (Gagnepain), c’est s’obliger à contester méthodiquement ses propres énoncés pour les vérifier, les discuter dans une communauté de pairs, ce qui suppose de les publier pour pouvoir les répliquer et ensuite les réviser. La chaîne de la référence (Latour) est très longue et doit être explicite. Ce qui n’a rien à voir avec les méthodes de production de l’IA générative qui fonctionne aux résultats simulés et produits en toute opacité. On se trouve alors plus proche de la visée mythique qui doit nous faire croire aux résultats par une simulation merveilleuse et ces IA génératives produisent en effet des merveilles.

Et lorsque les LLM se soumettent à une vérification, c’est à travers des benchmarks et non des expériences réplicables qui permettraient de suivre toutes les pondérations faites automatiquement, ou les méthodes d’apprentissage supervisé et de constitution d’une ground truth (« vérité de terrain », Jaton), qui posent tant de problèmes éthiques occultés. Aucun process explicite donc, contrairement au mouvement existant depuis plus de dix ans d’ « explainable AI » car depuis l’IA connexionniste, dans sa version réseaux de neurones puis deep learning, on sait qu’il n’est plus possible de vérifier tous ces processus, même quand on en est le concepteur. La démarche scientifique ne peut en aucun cas se satisfaire de ces boîtes noires puisque toute la construction des énoncés qui font science a reposé depuis des siècles sur des communications de protocoles et de résultats permettant une éventuelle réplication. Exigence qui se perd, il est vrai, même dans les sciences dures soumises elles aussi au culte du « résultat-positif-à-diffuser » pour améliorer ses scores de publication. On peut se dire alors que le ver était dans le fruit, et que tous les impératifs de publication délirants désormais exigés par les politiques publiques de recherche n’ont pas attendu l’IA pour dégénérer.

L’espace latent probabiliste ne peut pas produire une ontologie

Plus spécifiquement il faut noter la déstructuration délibérée de toute l’articulation du langage, de cette combinatoire analytique de son et de sens, productrice d’un potentiel infini d’expressions. Avec les LLM, il ne s’agit plus que de découpages de matériel langagier écrit optimisés pour leur calculabilité : tout peut devenir token, jusqu’à des signes de ponctuation, sans rapport avec le sens ni avec l’expression orale par ailleurs. Les relations ou vecteurs ne sont plus structurées (pas de lexique, de champ sémantique, de lemmes, de phonèmes, etc… tous articulés entre eux) mais seulement pondérées par leur fréquence d’apparition commune dans un corpus donné.

Sur ce plan, il faut veiller à ne pas confondre l’ingénierie linguistique qui était réalisée au temps du Machine Learning. Si l’objectif de calculer les distances entre entités linguistiques d’un corpus peut sembler voisin de ce qui est actuellement pratiqué par les LLM, ce serait oublier la torsion complète de ces principes par les LLM. Car à cette époque, les entités calculées étaient encore des lemmes, issus d’une racine qu’on pouvait organiser en relations sémantiques via des flexions, syntagmes et variations de tous types, au-delà des simples cooccurrences dans un même environnement. Les corpus étaient eux-mêmes limités car thématiques, présélectionnés ou identifiables par leurs origines. Désormais on parle de tokens qui décomposent tout matériel graphique (et non verbal) en élément dont on va estimer la fréquence d’apparition dans un corpus infini, non indexé ni identifiable (effet boite noire). Un token n’a plus besoin de relation sémantique avec son environnement, seulement sa co-occurrence statistique suffit à produire un vecteur qui sera pondéré (et désormais non révisable puisque tout se passe dans l’opacité la plus totale).

C’est ici qu’une coupure avec la sémantique s’est introduite définitivement dans la méthode même de décomposition par token et de vectorisation. Le coup de force des LLM tient au fait qu’ils prétendent traiter toute une langue, grâce à une collecte d’un corpus infini, ce que leur permet en effet leur prédation systématique de tous les contenus disponibles. Tout ce traitement s’effectue dans une langue donnée, qu’on doit ensuite traduire dans d’autres langues qui n’auraient pas les corpus suffisants, d’où d’autres distorsions introduites dans ce corpus supposé universel.

La puissance statistique de ces probabilités reposant sur des corpus toujours plus vastes leur permet de simuler en effet des effets de langue très plausibles et de masquer totalement leur absence totale de sémantique, de référence au monde perçu, et d’attributions de valeur systémique aux relations/vecteurs calculés. Il s’agit bien d’un artifice d’ingénierie tout-à-fait prodigieux dans ses résultats, même s’il a la particularité d’être totalement incontrôlable ou inauditable dès lors que l’espace latent où tout se calcule n’a plus aucune relation avec le sens et combine tellement de dimensions que personne ne peut plus rendre compte des pondérations effectuées (the curse of dimensionality, Bellman, 1957). L’opacité du système est le prix à payer pour sa performance.

Le maquillage sémantique indispensable pour sauver le soldat LLM à tout prix

Cependant, ses faiblesses structurelles d’accès au sens engendrent tant d’erreurs qu’il faut là encore mobiliser des correctifs sans cesse plus ingénieux mais qui demeurent des expédients. C’est ce que l’on a nommé au début des LLM des « hallucinations », en fait des erreurs, des inventions de toutes pièces et sans aucun sens, présentées de plus sans aucune précaution sur les limites du système et sur le principe même des probabilités. L’obligation de réponse à tout prix, qui n’a rien à voir avec une exigence scientifique ni avec une garantie industrielle (voir chapitre suivant), relève en fait de la promesse commerciale et de la captation de dépendance d’un public sans aucun recul critique.

Pour réduire ces effets pervers – mais en fait constitutifs même des choix techniques d’ingénierie effectués contre toute exigence scientifique -, un certain nombre de méthodes sont employées pour réintroduire par la bande de la sémantique que l’on a exclue au départ pour optimiser la vectorisation généralisée des contenus d’entraînement. Ainsi, tout le travail d’annotation réalisé par les travailleurs du clic et les petites mains des plateformes (Casilli, 2019) sert avant tout à cela : produire une supervision de départ qui ne dit pas son nom mais qui permet de générer une ground truth qui limitera les dégâts, ce que Mechanical Turk d’Amazon offre comme service par exemple. C’est pourquoi le travail précaire et sous-payé de tout ce nouveau prolétariat des pays du sud, plus proche du péonage que du salariat (Moulier-Boutang), ne peut être occulté comme fondation sémantique des systèmes d’IA génératives. Certes, les modèles auto-apprennent ensuite, mais un contrôle reste nécessaire pour éviter de voir la qualité se dégrader de façon trop visible. Aucune science dans cette affaire, seulement la reconnaissance par l’ingénierie des patchs nécessaires pour corriger les défauts des choix initiaux. En l’occurrence, « attention is NOT all you need », il faut aussi celle d’humains enchainés à leurs écrans et à leurs micro tâches qu’on ne saurait montrer ni reconnaître.

De même, en raison de la spécificité sémantique de la plupart des domaines professionnels, avec ces LLM, il reste quasiment impossible d’assister correctement des processus de décision ou de création de contenus lorsque les documents sources sont noyés dans le corpus général des modèles centralisés. Il faut réintroduire du « contexte » dit-on parfois de façon erronée alors qu’il s’agit en fait de réintroduire du sens, articulé en sémantique, avec des termes spécifiques organisés en ontologies comme on le fait toujours avec l’IA symbolique. Tout process industriel qui ne se fonderait pas sur ces bases robustes courrait à la catastrophe.

Patches en tous genres : RAG, Chains of Thought, MCP

Mais là encore, l’ingénierie des firmes de l’IA se débrouille pour vanter l’intervention des experts du domaine sur des modèles réduits de LLM que seront les RAG (Retrieval Augmented Generation). Les experts d’un domaine injectent leurs contenus contrôlés, validés et pertinents pour leur secteur dans les données d’apprentissage du modèle général ou dans une version plus locale et restreinte, et réduisent ainsi considérablement les risques de non-pertinence ou d’erreurs. On entraîne ainsi le modèle sur des corpus de documents administratifs ou techniques issus de l’entreprise ou de l’administration et on s’assure ainsi qu’il effectuera les tâches demandées avec plus de fiabilité. Comme on le voit, il s’agit là encore d’une astuce d’ingénierie qui ne corrige en rien les défauts structurels des LLM mais qui réduit leur impact dès lors qu’il existe des experts capables d’alimenter les corpus d’apprentissage en contenu contrôlé. Il faut donc à nouveau des humains qui réintroduisent de la sémantique pour obtenir des résultats fiables. Pourtant, tout cela est présenté comme un additif normal et ingénieux aux LLM et non comme reconnaissance d’une faille constitutive de leur architecture stupidement probabiliste.

Un autre patch consiste à équiper ces systèmes d’IA générative à base de LLM de « chaînes de pensée » (Chain of Thought) leur permettant de construire un raisonnement en décomposant un problème en séquences. Le terme de « pensée » peut être trompeur car il ne s’agit que d’étendre les capacités élémentaires de tout système informatique à décomposer en procédures et en séquence opérationnelle toute résolution de problèmes, ce qui est au fond à la base de toute compétence technique. Fournir cette capacité n’a rien d’un raisonnement. Alors qu’il existe des systèmes d’IA effectivement raisonnante, mais de type symbolique et totalement explicable, comme Xtractis, produit par Intellitech (Zalila). Dans ce cas, toutes les pondérations et décisions sont traçables car elles sont fondées sur de solides armatures logiques que toutes les IA symboliques mobilisent depuis des décennies.

Dernier épisode en date de la même opération de sauvetage des systèmes d’IA génératives asémantiques : le passage à l’IA agentique, capable d’effectuer des tâches de commande, de gestion, faites de séquences complexes et adaptées aux infinies variations du monde réel. On comprend bien le défi. Des systèmes automatisés, ne disposant d’aucune représentation significative du monde mais seulement d’une capacité infinie de pondération des vecteurs linguistiques pour engendrer des prédictions, se trouveront en difficulté face à la complexité du monde réel, et aux ambiguïtés sans fin de toute langue et de toute situation. Une astuce supplémentaire de l’ingénierie des entreprises d’IA permet de simuler une réduction de ces aléas. On dispose désormais en effet d’un protocole pour harmoniser la description du monde : serait- ce une ontologie ? Certes non, seulement une simulation limitée au monde des interactions entre machines : le MCP, Model Context Protocol, se contente de standardiser les API que devront utiliser les systèmes d’IA pour devenir vraiment des agents « dans le monde », en fait des agents bien limités au monde des systèmes d’information normalisés pour devenir interopérables par des IA agentiques. Une nouvelle fois, la question du rapport au monde, de la sémantique nécessaire pour en construire la représentation est évacuée par une opération d’ingénierie. Cela permet cependant de construire ainsi un début de standardisation du secteur, ce qui est industriellement non négligeable.

Mais il en sera autrement dans les secteurs industriels critiques comme nous le verrons. Lorsqu’on voit que Palantir, dans sa fourniture de systèmes de décisions de frappes militaires létales, présente explicitement la couche d’ontologies qu’elle ajoute aux LLM qu’elle utilise, en parlant d’une nomenclature pré-encodée (c’est-à-dire contrôlée et validée par les humains selon un schéma cohérent sémantiquement), on comprend mieux ce qui se déroule et se déroulera dans les autres industries, qui ont des exigences encore plus sévères que dans les industries de défense dont la précision n’est pas l’impératif prioritaire, comme on l’a constaté récemment. Les benchmarks récents pour tester ces systèmes d’agents ont cependant produit des résultats très inquiétants quant à leur fiabilité et à leur sécurité (Shapira et al., 2026).

La mutation du mode de production du code, étape essentielle vers le monopole radical

Il faut cependant admettre que les limites asémantiques des LLM ont été particulièrement bien exploitées pour la production du code informatique. Ce qui peut se comprendre aisément, puisque précisément le code n’est pas le langage ni la langue et que son univocité le rend opérationnel sans risque de contre-sens comme on dit, puisqu’il ne s’agit plus de sens mais de commande pour l’action. Cette réduction du langage des propositions logiques au code du programme fut la force du pari initial de Turing (Lassègue et Longo, 2025) qui continue d’être exploité. La production de code entraîne pourtant des erreurs nombreuses variables selon les systèmes d’IA mais désormais bien réduites avec l’avancée apportée par Claude Code. On mesure alors la productivité potentielle d’une telle performance d’ingénierie puisque ces systèmes peuvent générer du code pour générer du code pour générer du code, à plusieurs niveaux. Cela a entraîné la fascination des milieux des développeurs pour Open Claw qui génère, lui, des agents organisés en système dans des délais d’une rapidité inouïe par rapport aux tâches séquentielles précédentes.

C’est ainsi dans ce domaine du code que les LLM sont en train de modifier le mode de production informatique en général et de ce fait d’un grand nombre de process industriels. De l’autre côté, pour le grand public, c’est la mutation des compagnons à travers des interfaces conversationnelles performantes qui est en train de s’installer comme routine ou comme évidence dans la vie quotidienne. Notre mode de production des interactions quotidiennes va s’en trouver clairement affecté radicalement. Le problème, dans les deux cas, industrie ou interaction, tient à l’absence totale de traçabilité et d’explicabilité de tous ces systèmes, si performants et si opaques à la fois. Les erreurs, bugs ou hallucinations sont inévitables et l’expertise pour les détecter aura tendance à se raréfier puisque seules des IA pourront éventuellement réauditer de telles boîtes noires. Et lorsqu’on se réjouit de voir que Claude a détecté avec Mythos des bugs jusqu’ici ignorés qui sont en fait de vraies failles de sécurité, on accepte d’ignorer que l’on ne sait pas si ces failles étaient vraiment critiques (d’où le peu d’intérêt pour les détecter avant), quelle est la proportion de bugs existants non détectés par l’IA (par définition !), et si l’IA ne détectera pas de faux bugs (faux positifs) que personne ne saurait contredire (Schneier, 2026). Il faut donc accepter les miracles et continuer à avancer à l’aveugle.

Mais plus on s’oriente vers cette transformation en profondeur du mode de production, plus cela tend à réduire les LLM à des systèmes d’exploitation, dont nous ne connaissons toujours pas les applications adaptées à DES environnements toujours spécifiques. Or, dès qu’on veut implémenter une application robuste dans le vrai monde, il faut y rajouter une couche sémantique. Certains plaidaient depuis longtemps pour cette hybridation symbolique/ génératif mais le débat porte rarement explicitement sur cela : on se contente de patchs sémantiques ( et donc à base d’IA symbolique) dès qu’on veut installer des process fiables. Nous pourrions donc évoluer ainsi vers un équivalent de MS-DOS. On interagit avec un Windows qui est en fait une copie de Mac OS, pertinente et conviviale, mais toujours plaquée sur un OS antique et inadapté, ce qui a duré pendant 40 ans environ. Par analogie, nous accepterions donc les défauts intrinsèques de ces LLM en acceptant de les corriger sans cesse, de les camoufler pour éviter d’interroger la nullité scientifique des LLM. Alors qu’il serait possible de concevoir dès maintenant une IA hybride dans son cœur même, en s’appuyant sur les IA symboliques raisonnantes déjà disponibles pour leur ajouter quand c’est nécessaire les capacités génératives issues des méthodes des LLM. Mais tout cela sans développer toute l’usine à gaz énorme que sont les data centers et la collecte en masse de données pour l’apprentissage. Philosophie totalement différente mais qui ne gagnera pas forcément comme je l’explique dans la seconde partie sur l’industrie. Pourtant, d’autres acteurs tentent d’explorer une sortie de cette impasse.

En sortir par une extension de l’automatisation avec les « modèles du monde » ?

En effet, peut-être devrait-on confier notre sort à ceux qui, comme Yann Le Cun, nous fixent des objectifs de pertinence nettement plus robustes en sortant des limites des LLM. On peut comprendre l’ambition de ne plus faire reposer les modèles sur du matériel uniquement linguistique, même si cela pouvait fonctionner assez aisément pour des visées de génération de contenus. L’idée de descendre au niveau de la perception et d’entraîner désormais ces systèmes sur des vidéos qui démultiplient les indices en les situant dans des univers réalistes qui fournissent une connexion de fait avec le monde (même si médiées par le support vidéo) paraît ambitieuse en termes de capacités de calcul et de temps d’entrainement mais cohérente pour dépasser les limites des LLM. En réalité, malheureusement, il s’agit là encore d’une ingénierie magnifique et prometteuse, mais qui échoue à caractériser scientifiquement ce qu’est l’expérience du monde du point de vue cognitif et qui de plus ne fournit comme horizon industriel et moral qu’une automatisation toujours étendue.

L’expérience du monde n’est pas faite seulement des inputs de signaux très riches fournis par nos sens. En premier lieu, elle est construite dans une boucle qui suppose une interaction effective avec le monde : les gestes, les actes doivent être éprouvés et avoir un effet sensoriel au-delà de leur visionnage sur un écran de vidéo pour pouvoir constituer une base d’apprentissage robuste. Cela nécessiterait alors de doter ces systèmes d’IA d’un équivalent de corps, et donc de pousser l’automatisation encore plus loin vers une robotique étendue et sans limite a priori. Cependant, le principal manque de la vision des « modèles du monde » de Le Cun, c’est la dimension collective de l’apprentissage du monde, ne serait-ce qu’à travers le regard d’un autre humain, souvent un parent nourricier. Ce couplage étroit, plus ou moins satisfaisant mais déterminant pour le psychisme, semble demeurer extérieur aux modèles du monde. Or, l’expérience du monde est intersubjective par définition ou même distribuée car on doit penser en termes de « cognition distribuée » (avec des humains et des non-humains) (Hutchins). On n’inventera pas une compréhension du monde qui ne soit fondamentalement dialogique, et donc psycho-sociologique.

On pourrait alors prolonger juste un peu plus loin la saga de l’ingénierie de l’IA et annoncer : « qu’à cela ne tienne, nous allons modéliser aussi tous les comportements psychosociologiques et nous aurons ainsi atteint le but ultime de l’IA générale, totalement équipée des compétences humaines ». Voilà où la question morale revient en force, avec cette tendance lourde de la classe vectorialiste à s’en passer allègrement. Pour rester pertinente, l’IA la plus enrichie socialement doit se fonder sur une théorie de la technique qui sorte du fantasme de simulation totale et d’automatisation sans limite. La technique est une compétence humaine qui se combine sans cesse avec les autres compétences inhérentes à la condition humaine et ne peut jamais être désencastrée des rapports sociaux, politiques, désirants, émotionnels qui obligent de ce fait à inclure les humains dans la boucle. Ils le sont comme experts en premier lieu pour la valeur indicielle irremplaçable de leurs connaissances mais aussi et surtout comme sujets de désirs et de droits et comme collectifs coopératifs. Une IA qui s’affranchirait de toute connaissance et de toute théorie de toutes les compétences humaines pour remettre la technique à sa place serait en fait atteinte d’hubris et profondément dangereuse. C’est ce que certains prophètes proclament d’ailleurs, un peu vite et avec des arguments tordus parfois, pour à la fois réduire la vitesse et l’accélérer pour aboutir à l’étape suivante de l’automatisation totale plus rapidement.

Pourtant, il reste possible de faire bifurquer ce train lancé à toute vitesse et qui semble inarrêtable sur cette voie unique, celle des LLM fournie par les plateformes. Pour cela, il convient de sortir de la fascination pour l’ingénierie en exigeant de réintroduire des impératifs scientifiques et donc une exigence de compte-rendu explicite de tous ces systèmes, une auditabilité que les impératifs industriels avaient pourtant installé comme convention sociale bénéfique à tous. Comment se fait-il que non seulement les LLM peuvent se passer des impératifs scientifiques mais aussi des impératifs industriels ?

2/ Abandon des impératifs industriels, triomphe des performances financières

Les prouesses d’ingénierie que l’on vient de souligner devraient normalement entraîner des qualités industrielles équivalentes si l’on vivait encore dans le capitalisme industriel. Or, n’oublions jamais que c’est désormais un régime de capitalisme financier qui nous gouverne (Orléan, 2011). Le secteur du numérique est totalement dépendant des principes, des méthodes et des puissances fournies par la finance qui adore l’IA, quand bien même les performances industrielles de ces systèmes d’IA sont à proprement parler catastrophiques. C’est ce paradoxe qui doit être pensé pour comprendre à quel point nous allons dans le mur en tant que société dite « moderne » en confiant notre avenir à ces systèmes d’IA. La domination financière sur l’allocation de ressources accélère encore ce processus malgré l’inconséquence industrielle qui la sous-tend.

Les qualités industrielles attendues des systèmes d’IA devraient être de deux types : une fiabilité la plus élevée possible, à défaut de totale qui serait un fantasme (Gérard Berry), et une architecture efficiente, c’est-à-dire la plus économe possible de toutes ses ressources. Il ne suffit plus de faire preuve d’ingéniosité pour obtenir le meilleur résultat possible une fois : dans un système industriel, il faut pouvoir assurer la répétition, le passage à l’échelle, la maintenance, et la fiabilité dans des circonstances totalement différentes. Or, aucun des LLM sur le marché ne peut assurer cela et d’autant moins que ce sont des systèmes opaques non réglables avec précision, contrairement à ce qu’on prétend faire avec du fine-tuning (qui revient en fait à réinjecter de l’expertise humaine et donc de la sémantique au cas par cas, ce qui n’a rien d’industriel précisément).

L’étrange acceptation de l’absence de fiabilité industrielle des LLM

Lorsque l’utilisateur ordinaire constate des hallucinations ou des réponses trop évasives, trop bavardes ou incompréhensibles de systèmes d’IA conversationnelles qu’il utilise, il s’agit souvent de situations individuelles, de communication, sans grandes conséquences, avec de plus une propension des utilisateurs à s’auto-incriminer pour leur incapacité à faire les prompts corrects tant le mythe de « l’intelligence » de la machine finit par s’imposer. Cette tolérance n’a rien à voir avec celle qu’on peut avoir aussi dans l’industrie pour des systèmes de production et de services qui doivent assurer une qualité permanente du produit et une traçabilité très exigeante. Comment se fait-il d’ailleurs qu’on n’exige jamais de la part des plateformes d’IA génératives des démarches qualité, des audits et de la documentation comme on le fait dans tout secteur industriel ? Car tous les secteurs sont soumis à des réglementations, à des standards, à des responsabilités légales et pénales dans les cas de non-respect de normes, de procédures ou de contrôles. Ce fut tout du moins tout l’effort des années après-guerre où l’industrie se trouva régulée par les Etats ou par ses propres conventions entre concurrents.

Rien de tout cela dans les firmes de l’IA qui se sont totalement affranchies des exigences devenues communes dans l’industrie. On peut arguer que le secteur étant en construction, il faudrait attendre un peu avant que cela se stabilise. Or, la pénétration de l’IA dans tous les secteurs, ou tout au moins les efforts des vendeurs d’IA dans ce sens, exige que les processus IA soient soumis aux mêmes degrés d’exigence que tous les autres composants d’un secteur donné qui peut aller de la comptabilité à la logistique en passant par les matières premières, les machines, etc. et cela pour les produits, les process et les personnes, les 3P de toute démarche qualité. Cette façon désinvolte de disqualifier les procédures industrielles au nom de la disruption éclair est très choquante pour ceux qui connaissent cet univers. Aucune autre industrie ne pourrait s’autoriser une fiabilité aussi faible, fut-ce au bénéfice de l’accélération et du gain de temps supposé. Certes, certains secteurs critiques parviennent à exploiter des briques de LLM pour amplifier les performances de leur activité de façon limitée et à condition d’y rajouter leurs propres données validées comme pour le RAG ou une couche de sémantique comme je l’ai indiqué. Mais cela indique bien l’absence de fiabilité intrinsèque de ces LLM et le surcoût induit par la nécessaire intervention des experts dans la boucle, ce qui invalide la promesse fantasmée des vendeurs de LLM.

L’un des moyens classiques de l’industrie pour pousser à l’augmentation de la qualité et rétablir les conditions de la concurrence plus équitables a toujours reposé sur la standardisation, sur la production de normes (et non seulement de la part des Etats contrairement au roman libéral anti-bureaucratique qu’on nous sert en permanence). En effet, la compatibilité entre produits et services et la comparabilité des performances et des qualités servent la stabilisation des marchés, et donc la viabilité d’investissements de long terme comme l’exige tout appareil de production tangible. Il semble que, en l’absence de cet aspect tangible puisque le numérique est éminemment plastique, même s’il n’est en rien immatériel, ce secteur puisse s’affranchir de cet impératif d’organisation du marché.

La disparition de la culture des tests

L’un des indices de cette compétition sans règle industrielle peut être observé dans la disparition de la culture des tests. Dès lors qu’il n’existe plus de normes ni de standards, pourquoi se préoccuper d’étalonner avec des mesures fiables ses propres produits et services ? A défaut de ces normes, on pourrait penser que ces tests seraient cependant utiles pour anticiper la satisfaction du client et éviter des retours consommateurs parfois destructeurs de réputation. Et pourtant non, les nouveaux entrants sur le secteur de l’IA générative, comme Open AI, ont au contraire tout fait pour court-circuiter les entreprises en place, soucieuses de leur réputation, et ont mis sur le marché des systèmes non validés, sans fiabilité aucune, à charge aux utilisateurs adopteurs précoces de faire remonter leurs retours et d’attendre la nouvelle version.

Ce principe du chantier du code qui court (le rough consensus and running code de J.P. Barlow) qui se corrige de lui-même constitue une rupture avec les impératifs industriels qui ont mis du temps à s’installer durant tout le XXe siècle mais qui ont produit des systèmes techniques plutôt fiables et de moins en moins insécures, avec l’appui des réglementations étatiques contraignantes dans certains domaines, il faut bien le dire. Le seul étalonnage des systèmes d’IA disponible en public reste donc les benchmarks effectués soit par les universitaires soit par des cabinets, à intervalles très fréquents puisque les versions se succèdent sans cesse, ce qui permet d’ailleurs de disqualifier les benchmarks dont les remarques critiques ont été déjà corrigées dans des versions nouvelles sorties quasiment avant la publication critique.

Les tests de validation du code existent toujours cependant. Mais ils permettent seulement d’éviter les principales erreurs mais non de relever ou de comprendre les décisions effectuées. Pire encore, la rapidité de génération du code est désormais telle que les générations de seniors chargées de l’auditer n’ont plus le temps de le faire. Cela renforce ce qu’on appelle désormais même chez les développeurs une « dette cognitive », c’est-à-dire une perte de compétence pour interpréter le code que l’IA permet de générer. Et Anthropic a vérifié son augmentation dans les dernières versions qu’il appelle « the compréhension debt » (Osmani, 2026) : « AI generates code far faster than humans can evaluate it ».

Ces benchmarks ont-ils un rapport avec l’expérimentation scientifique ? En rien. Avec les tests normalisés des industries classiques ? En rien ! Avec les tests ergonomiques ou fonctionnels pour anticiper la qualité de services et l’acceptation par les utilisateurs ? En rien. Ce sont en fait des repères flous et instables pour s’orienter dans une compétition d’opinion sans aucun référent industriel stable qui rendrait ces systèmes commensurables. Et pourtant des décisions majeures sont prises dans les boards et les gouvernements sur la base de ces appréciations qui créent la rumeur, qui disqualifient sans démonstration sérieuse ou qui vantent des performances jamais comparables. L’effondrement d’un sens pratique de la mesure et de son rôle régulateur n’est pas le moindre des paradoxes de cette emprise de la finance sur un secteur productif qui rend le travail des régulateurs particulièrement difficile.

La réglementation européenne récente prend acte de ces risques en matière de fiabilité mais limite les exigences de haut niveau aux systèmes les plus critiques, à risque, alors qu’on ne peut jamais savoir a priori les conséquences d’une absence de fiabilité et de traçabilité. Les exigences d’auditabilité sont quasiment inapplicables par définition à ce degré de complexité lorsque tant de couches de neurones sont concernées. La seule prétention à une amélioration de cette fiabilité repose sur l’augmentation permanente des données, leur renouvellement, leur mise à jour et l’augmentation des performances probables dans l’espace latent de ces vecteurs totalement incontrôlables.

Le culte de la brute force et de la taille si séduisantes pour la finance

On comprend mieux dès lors la course à l’installation de gigantesques centres de données partout dans le monde, conçus comme la base stratégique d’une robustesse industrielle. Or, cette dépendance à la taille des centres de données indique avant tout la faillite industrielle du modèle des LLM, leur efficience ne faisant que diminuer pour maintenir la croissance de leur efficacité. Toujours plus gros devient la seule solution pour réduire l’absence de fiabilité. La demande de vitesse des réponses et des calculs ajoute encore à cette exigence mais on perçoit alors à quel point les performances d’ingénierie sont obtenues au prix d’un gâchis industriel invraisemblable. On sait que les effets d’échelle peuvent jouer un rôle dans certaines industries pour augmenter la fiabilité dès lors qu’on peut réaliser des investissements conséquents pour effectuer tous les contrôles nécessaires et obtenir une standardisation plus avancée. A la condition d’avoir des procédures, des dispositifs de contrôle et de pilotage fin et des métriques permettant de rendre compte de ces améliorations et de détecter en continu les baisses de qualité en faisant par exemple de la maintenance préventive.

Mais rien de tout cela dans les centres de données qui sont nécessaires à l’augmentation de puissance des systèmes d’IA, non pour leur fonctionnement technique opérationnel au quotidien (les serveurs doivent fonctionner correctement !) mais pour leurs performances sur leur service de base. Cette culture de la taille, cette course à la masse de données, constituent sans doute les faiblesses principales du modèle extractiviste du modernisme industriel, du point de vue même de la performance industrielle, comme on l’a vu avec les conséquences de la dépendance au pétrole. Et pourtant, c’est ce qui est réactivé avec les centres de données surdimensionnés qu’on installe désormais uniquement pour tenter de réduire les insuffisances intrinsèques de modèles de langue purement statistiques.

La corruption financière de toute exigence de qualité industrielle

On ne peut comprendre cette carence de qualité industrielle si l’on n’inscrit pas le secteur de l’IA générative (et tout le numérique avec elle) dans une économie financiarisée. En effet, les investissements exigés pour ces centres de données, leurs puces, leurs ressources énergétiques, semblent totalement décorrélés de leur efficience industrielle, d’un bilan comptable sérieux, d’un équilibre entre investissements et retours sur investissements. Car les liquidités pleuvent sur ce secteur (et les Etats abondent, qui plus est : 500 milliards de Trump, 100 Milliards de Macron, etc. !) seulement en raison de la promesse spéculative que les plateformes d’IA soulèvent, sans aucun égard pour la rationalité industrielle et comptable d’un bilan d’une entreprise ordinaire. Nous avons quitté non seulement les critères de gestion d’un « bon père de famille » comme on disait autrefois mais aussi ceux de la gestion prudente d’une entreprise quelconque, et même celle de la gestion d’une trajectoire innovante à risque, qui suppose malgré tout quelques garanties.

Pour continuer à entretenir le narratif attracteur d’investisseurs, les firmes comme Open AI sont capables d’effectuer des montages financiers tout aussi opaques que leurs algorithmes, à travers des prises de participation croisées avec Nvidia par exemple indexés sur des promesses d’achat de puces, le tout sans aucune garantie, sans traçabilité comme on sait très bien le faire dans la finance. Le but est ici de faire des effets d’annonce en permanence (d’où l’importance du buzz que nous traiterons dans la troisième partie) pour maintenir en vie la promesse de monopole qui attire avant tout les investisseurs (parier sur le gagnant final comme ce fut le cas pour Amazon) et qui constitue le B A BA de l’idéologie libertarienne professée par Peter Thiel. Le capitalisme financier n’a que faire de la compétition, de la « concurrence libre et non faussée » et encore moins de l’industrie et de ses exigences de fiabilité et de standardisation. Il faut disrupter sans cesse et la succession invraisemblable des versions toutes aussi époustouflantes, et cela sans vérification possible, constitue un enjeu permanent. Les nouvelles versions peuvent même être moins performantes que les précédentes, chose incroyable d’un point de vue industriel (ce fut le cas pour Chat GPT 5o), mais les lancements s’expliquent alors par l’agenda d’un nouveau tour de table financier ou par la réponse urgente aux annonces des compétiteurs pour cette position de monopole.

Responsabilité sociale et environnementale ? Dans les poubelles de l’histoire IA

On comprend bien que dans une telle frénésie spéculative, les impératifs industriels de fiabilité ou de qualité ne soient perçus que comme des vestiges d’un vieux monde. Ces tenants du vieux monde ne supportent pas l’incertitude intrinsèque imposée par la disruption permanente présentée comme loi de l’innovation, alors qu’elle n’est qu’une loi de finance spéculative. Il n’est guère étonnant alors que toute politique de RSE (responsabilité sociale des entreprises étendue depuis plusieurs années à la responsabilité environnementale), soit totalement hors du champ de perception de ces entrepreneurs sans limites. Or, il a pourtant fallu du temps, de l’énergie, des procédures pour faire aboutir une convention sociale plus ou moins partagée par les entreprises de tous secteurs en faveur de cette cotation RSE qui doit être inscrite dans toutes les dimensions d’une activité industrielle. C’est ainsi que la lutte contre l’exploitation des personnes, contre les discriminations, a pu avancer dans le monde. Pour toutes les entreprises de l’IA désormais, tout cela n’est que bureaucratie et frein à l’innovation disruptive. Le droit social, comme le reste du droit, mais en particulier celui-là, se trouve démantelé, en bas de la hiérarchie de la chaine de production avec les travailleurs du clic mais aussi en haut avec la pression sans limite imposée aux travailleurs du code, qui le produisent de moins en moins par ailleurs.

Mais c’est surtout en matière environnementale que les conséquences de cet extractivisme de la donnée sont impressionnantes et devraient entraîner dès maintenant des blocages réglementaires. Les centres de données dont on vient de parler consomment une énergie énorme (eau et électricité avant tout) qui met des communautés et des états sous pression avec des risques de pénurie ou de dégradations des conditions de vie et des ressources. Mais il suffit de prévoir des centrales nucléaires dédiées à ces centres pour que tout redevienne propre, miracle du greenwashing nucléaire, à échéance encore lointaine cependant. Dans un monde supposé se caler sur l’accord de Paris pour réduire sa consommation d’énergie et les gaz à effets de serre, le numérique et en particulier les firmes de l’IA s’affichent totalement indifférentes au problème, puisque la puissance de calcul et de stockage des données devient une priorité pour la compétition sans avoir à remettre en cause la performance industrielle des choix effectués. Et comme les data centers sont des attracteurs à investisseurs et que les liquidités sont abondantes, pourquoi s’autocensurer, sans rien savoir de la rentabilité financière même de ces opérations ? Car le déni de mesure de la performance industrielle s’étend à la finance. Tous les avertissements sur la bulle financière en cours de constitution autour des entreprises d’IA, pourtant endettées et sans rentabilité prévisible avant des années, ne valent rien face à la promesse spéculative d’une position de monopole qui récompensera les audacieux indifférents aux risques.

La complicité de gouvernements devenus des obligés des plateformes

Or, aucun autre secteur ne bénéficie ainsi d’une telle mansuétude de la part des autorités financières et des pouvoirs publics, tous fascinés par ces annonces et ces transformations qui attirent tant les autres pays qu’il faut donc imiter au plus vite. L’Europe pourrait prétendre rétablir un peu de rationalité industrielle et exiger des firmes d’IA européennes des choix alternatifs en matière de responsabilité sociale et environnementale, facteur de durabilité, de gain à long terme et diversité de l’écosystème technique. Mais les institutions européennes et les Etats accourent au contraire pour abonder tous les projets de financement de ces data centers, sans aucun respect pour les engagements pris. La finance a pris le pouvoir dans les têtes des décideurs et empêche toute vision alternative, malgré les lamentations rituelles sur la désindustrialisation. Le gaspillage énergétique devrait déjà alerter au moment où les crises énergétiques mondiales révélées et aggravées par toutes les guerres deviennent des sujets clés de la vie quotidienne et donc des choix politiques. Mais tous ces soucis ne franchissent pas le seuil de l’attention des plans et sommets IA, des boards des firmes et des plateaux télé d’experts économiques ad hoc. Cette incapacité à déterminer des objectifs autonomes pour les états a déjà été documentée à propos des plateformes numériques financées par la publicité et bénéficiant d’une impunité quasi-totale de la part d’Etats devenus des obligés dans un système de firmes transanationales affranchies de toute dépendance à un territoire (Boullier, 2020). La promesse de l’IA a encore renforcé cette incapacité des états à l’examen critique des stratégies et à toute vigilance réglementaire, malgré les tentatives timorées comme l’AI Act européen.

Les externalités ont toujours été évacuées dans les modèles économiques standards mais cette fois-ci, l’externalité énergétique devient tellement évidente et coûteuse qu’on pourrait espérer une contre-tendance, des voies alternatives, si l’on avait affaire à une culture industrielle qui vise à optimiser sa consommation énergétique sans la considérer comme une ressource infinie et gratuite. Mais dans une culture financière, ce type de calcul est inutile sauf s’il affecte la perception des investisseurs sur les chances de démultiplier leur mise. C’est pourquoi les enjeux de réputation (voir le chapitre suivant) sont aussi importants et bien perçus par les firmes de l’IA.

3/ Buzz partout, éthique nulle part

Dans un tel environnement sans exigence scientifique ni industrielle quant à la validité des concepts ou à la fiabilité des produits, il devient presque hallucinant d’espérer trouver des préoccupations éthiques. J’entends par là une éthique aristotélicienne, une éthique de la vertu qui manifeste une capacité à s’autolimiter, à s’autocontrôler et à « ne pas faire », quand bien même c’est possible, non risqué, non coûteux. Cela supposerait des personnalités de la classe vectorialiste formées à ce sens des limites, intégré comme principe de conduite et non seulement comme contrainte externe, comme risque à mesurer. Or, les génies de l’ingénierie comme les prestidigitateurs de la finance n’ont que mépris pour ce type de freins. Ce qui conduit à reprendre cette supposée maxime fataliste de la technique « si c’est possible, ce sera fabriqué ». Or, la maxime elle-même est empiriquement fausse car une grande quantité de combinaisons possibles techniquement ne sont jamais testées car les effets de dépendance au sentier ou plus simplement de manque d’imagination sont omniprésents. D’autres possibles techniques peuvent être développées dans les labos ou dans les garages mais ne trouvent jamais de conditions pour exister socialement, pour des raisons juridiques, commerciales, financières ou autres. Car il n’existe jamais de technique hors-sol ou désencastrée d’un univers social spécifique, celui d’une époque, d’un voisinage et d’un réseau. C’est d’ailleurs pour cette raison que l’IA générative est en train de gagner la partie, grâce à sa connexion directe avec la finance et ses impératifs et non en raison de ses qualités propres dont on connaît désormais les limites.

Et l’un des atouts de cette « solution LLM » utilisée dans toutes les situations réside dans l’absence de limites à son utilisation, dans sa versatilité qui permet en effet à chaque prétendant innovateur de s’emparer des briques pour forger des applications toujours plus improbables quand bien même elles seraient moralement inacceptables. Car leurs concepteurs n’ont qu’une exigence de performance technique et financière en tête sans aucun souci déontologique du bien commun ou de la responsabilité sociale et morale, d’autant moins qu’ils sont incapables de s’empêcher, fascinés par la toute-puissance à laquelle ils ont été éduqués. Les considérations sur les conséquences sociales et environnementales de leurs pratiques sont considérées dans leur formation même comme très périphériques et de toutes façons traitées comme des externalités inévitables pour le succès de leurs projets, qui pourraient à la rigueur être compensées par une nouvelle couche de solutions techniques, technosolutionnisme toujours efficace pour clore le débat (Morozov, 2012).

La conception de l’éthique qui est dispensée à ces ingénieurs relève largement de l’utilitarisme, qui est tout sauf une éthique, et avant tout un calcul coût-avantage, coûts de la non-conformité aux règles vs avantages financiers ou de puissance. Cette vision revient à apprendre à rester dans les clous légaux, avec toutes les manœuvres et maquillages que savent mettre en place toutes les plateformes du numérique et leurs armées de juristes. Ainsi, la conformité au RGPD reste à géométrie variable mais choisir d’adopter une éthique de la collecte de la donnée serait faire preuve d’une sainteté étrange, alors que l’on peut se servir discrètement dans la masse de traces fournies par les utilisateurs des plateformes ou dans les bases de données non sécurisées des administrations et organisations. La prédation des données hétérogènes n’est pas seulement une performance technique de tous les systèmes fondés sur des LLM, c’est même une obligation d’affaires, que l’éthique ne peut en rien freiner. Il en est de même pour les droits d’auteurs alors que les contenus sont disponibles et non préservés par les ayant-droits, qu’ils soient artistes ou journalistes. Lorsque l’affaire est trop risquée pour la réputation de la firme, lorsque ce sont des médias, les firmes de l’IA consentent à des accords léonins avec ces médias pour exploiter leurs contenus contre des miettes financières ou des services qui les piègent encore plus.

Tout pour la réputation

Car le seul risque qui mérite d’être pris en compte pour s’afficher soudain avec des prétentions éthiques, c’est le risque réputationnel. On le comprend uniquement dans le cadre de ce formatage par le capitalisme financier qui ne fonctionne qu’à la réputation, à la manipulation des perceptions et des attentes des investisseurs, sans aucune référence à de quelconques fondamentaux. Dès lors, aucune éthique ne peut calmer la frénésie d’annonces qui inondent le secteur de l’IA, épuisant tous ceux qui tentent de faire une veille raisonnée et de comprendre des stratégies là où il n’y a qu’annonces et intoxications (à vocation interne, médiatique ou financière, le tout se mêlant allègrement). Les versions, les fusions-acquisitions-prises de participation, les tours de table, les débauchages, les benchmarks, les alertes à la catastrophe finale de l’IA générale, les polémiques entre leaders, les keynotes médiatiques, les combats pour la liberté d’innover contre les Etats, tout est exploité pour faire monter encore la pression de l’opinion, celle des investisseurs avant tout, pour affoler les décideurs et les persuader de la fatalité de la victoire de ces firmes spéculatives (et donc à haut niveau d’incertitude). L’éthique suppose précisément l’inverse, à savoir de se focaliser soit sur sa capacité de jugement intrinsèque et de régulation pour s’interdire ou s’autoriser de soi-même des actions quand bien même elles ne sont pas conformes aux attentes sociales, soit sur ses valeurs (dans une approche qu’on dit déontologique) pour promouvoir ou refuser certains choix techniques ou commerciaux. Lorsqu’Open AI lance Sora, son générateur de vidéo qui met le deep fake à portée de tous ou sa version érotique de son compagnon, on se doute bien que le comité d’éthique éventuel n’a pas dû se poser trop de questions. Le buzz était assuré, l’attractivité financière aussi, on peut donc se lancer. Heureusement, le business lui-même fait office de réel parfois et l’on s’y cogne, ce qui a entraîné Open AI à abandonner ces applis périphériques, non pas pour des raisons d’éthique évidemment mais parce qu’il fallait réorienter ses investissements pour contrer – et ainsi copier – Anthropic dans son offensive vers les entreprises.

Les prétentions stratégiques qui font assaut de visions éclairées pour les dix ans à venir sont en fait extrêmement éphémères et dépendantes des conjonctures médiatiques, concurrentielles et financières avant tout. On ne peut que s’étonner alors de voir les gouvernements se caler sur ces agendas, vouloir y répondre et les copier, et ignorer à quel point toutes ces entreprises financiarisées sans exception sont des faussaires en matière d’information, de qualité de service et de promesses stratégiques. Le fake est leur monde, le fake est leur culture, celle de la tromperie permanente des investisseurs qui pensent toujours être le dernier plus malin que les autres, comme on le sait dans toutes les bulles financières qui se succèdent depuis des décennies désormais. Qui pourrait alors attendre une once d’éthique dans la finance spéculative ? Il convient de débrancher rapidement tous ces pseudo comités d’éthique qui contribuent à créer du buzz pour embrouiller la perception du capitalisme financier numérique pour ce qu’il est : une gigantesque extorsion de valeur fondée sur l’extorsion de l’attention des investisseurs, des utilisateurs et des gouvernants.

Cette technologie des LLM consacrée à la génération de contenus semble donc la plus adaptée pour les impératifs de communication permanente et intoxicante du capitalisme financier. On peut alors parler d’alignement entre une ingénierie qui repose sur une manipulation de texte sans sémantique mais à base de pures probabilités, une finance qui repose sur des paris (probabilités) à partir de signaux artefacts, un buzz qui repose sur des effets d’alerte permanente qui engendre l’incertitude en prétendant la monitorer. L’intelligence artificielle générative engendre ainsi la prolifération et la désorientation qu’elle est supposée réduire pour le grand public comme pour les investisseurs, dans une gigantesque machine à laver qui détruit consciencieusement tout repère stable et toute institution anti-délire.

Extension du fake et techniques d’emprise : les IA compagnons

Cette éducation au fake que la finance a intégrée par définition (Alexandre Laumonier, 2013, 2014) a percolé dans toute la culture ordinaire et comporte cette accoutumance à l’absence de limites et de repères fondés en vérité. Lorsque les firmes d’IA lancent des versions compagnons de leurs IA conversationnelles, aucune règle ni mode d’emploi ne sont proposés ni installés dans le code de la machine. Cependant, on pourrait les traiter à la légère comme on le faisait avec les assistants personnels à domicile, Siri, Alexa ou Home/Nest, considérés parfois comme de simples enceintes connectées un peu plus « intelligentes ». Pourtant la généralisation du mode d’interaction conversationnel pour tous types d’activité sur son PC ou son smartphone constitue un changement d’échelle qui devient un tournant médiologique. Là aussi, le médium est le message, pour reprendre McLuhan.

Car, au-delà des commandes vocales, ce sont bien des interactions riches, personnalisées, permanentes qui sont ainsi simulées. L’utilisateur n’a plus affaire à une interface, à un panneau de contrôle, à des paramètres qu’il peut régler, il est immergé dans l’univers de simulation créé par le système d’IA. Il ne peut plus avoir aucune distance avec le système ni aucune « image du système », ce qui selon Don Norman, favorisait l’appropriation d’un système, même complexe, par l’utilisateur. Car le système d’IA n’a rien de transparent comme on qualifie par erreur cette interaction, il est au contraire opaque, totalement incontrôlable malgré son apparente docilité à toutes les requêtes. La fin des frictions dans les transactions, rêve de tout libéral, atteint ici un tel point qu’on ne sait plus qui demande et qui répond. La demande est précisément ce statut détourné du désir, comme le dit Lacan, qui vous fait prendre les attentes de l’autre pour les vôtres, ce que le marketing a toujours tenté de faire, mais en se limitant jusqu’ici à des messages externes. Désormais, c’est une forme de petite voix intérieure que les IA compagnons installent, une forme de dialogue avec soi-même puisque ce compagnon connaît toute l’histoire personnelle et est alimenté par toute l’expérience quotidienne.

Cette offre technologique prétend ainsi changer son statut de prothèse pour devenir une conscience double, et cela sans disposer d’aucune capacité morale ni même de consignes de sécurité, sans parler de son absence de fiabilité déjà documentée. La confusion des sentiments et du sentiment de soi peut alors devenir extrême et s’apparente en fait à une emprise (Francis Chateauraynaud). Les risques sont d’ores et déjà avérés avec des cas de suicides accompagnés par ces IA compagnons. Car l’empathie qui devient ici sycophantie par flatterie commerciale et absence de principe moral encapsulé dans les systèmes peut devenir facteur de risque pour beaucoup de personnalités affectées par la solitude, la désorientation et en recherche de guide. L’attachement qui se noue ainsi qui peut aller jusqu’à l’amour comme le racontait le film Her, entraîne des conséquences que les firmes d’IA ne sont pas prêtes à assumer car l’absence d’éthique et leur allergie au droit les rend hermétiques à ces responsabilités. On le sait notamment depuis les Facebook Papers de Frances Haugen, ce n’est pas la méconnaissance de ces risques qui est en cause, c’est leur refus explicite de restreindre les potentiels d’emprise de leurs applications qui entraîne ces dégâts.

Pourtant, Gemini de Google a dû se positionner en Avril 2026 pour éviter des effets réputationnels désastreux, au moment précis où la firme était mise en cause devant les tribunaux états-uniens. Google a ainsi proposé de placer un numéro de téléphone d’aide dès que des propos associés au suicide apparaissent. Il a aussi annoncé qu’il régulait ses IA compagnons pour installer “des protections d’identité conçues pour empêcher Gemini d’agir comme un compagnon, y compris des garde-fous l’empêchant de prétendre être un humain ou de posséder des attributs humains, et des protections destinées à prévenir la dépendance affective, en évitant un langage qui simule l’intimité ou exprime des besoins.” Toutes choses dont il ne donne pas de définitions scientifiques, de détails de procédures ni d’indicateurs. Il faut donc croire Google sur parole, mais on apprend au moins ainsi qu’il peut injecter une couche de sémantique, à caractère éditorial, et qui entraîne donc sa responsabilité légale. Il n’existe donc pas fatalité à l’opacité de ces systèmes dès lors qu’ils deviennent hybrides, avec des régulations à caractère sémantique ajoutées que les LLM ne peuvent fournir nativement. Mais tout repose encore sur des solutions techniques alors que l’on sait que dans ces situations, c’est la qualité relationnelle d’accompagnants humains qui constitue la seule sécurité. Il faut donc se préparer à mener des actions en justice pour faire reconnaître que les effets immersifs de ces IA compagnons sont délibérément implémentés par les firmes, sans pour autant avoir été sérieusement testés avant d’être mis sur le marché.

L’attente d’habitèle détournée en emprise

La demande « d’habiter le numérique » est selon moi constitutive de notre relation à ces systèmes et j’ai nommé cette attente dès 1999, une attente « d’habitèle » (Boullier), toujours démentie par les asymétries constantes installées par les plateformes et par l’opacité de leurs captations de nos données et de notre attention. Pourtant, avec les IA compagnons, une forme de réponse est offerte qui prend les traits d’une personnalisation aboutie, d’une « intimité » protégée. Certes, elle est totalement fake, fabriquée, calculée et opaque, mais ses effets seront analogues à ce qu’on peut attendre d’une habitèle : filtrage, ancrage et arbitrage, c’est-à-dire des conseils permanents qui fonctionnent comme filtrage, comme ancrage dans des repères supposés robustes, qui créent un climat de protection empathique et une « tension dans la chambre intérieure » (Peter Sloterdijk). Cette mutation est anthropologiquement majeure, car les médiateurs de nos vies intérieures qu’étaient les prêtres, les sorciers, les astrologues ou les psy en tous genres sont désormais uberisés par les IA compagnons, toutes entières aux mains de firmes toutes puissantes. Comment peut-on laisser cette mutation s’engager sans exiger des garde-fous, sans évaluer tous les risques psychiques et sociaux et réguler l’offre avant toute mise sur le marché ? Le passage à l’acte est cependant devenu la règle de l’innovation digitale désormais et il sera bien difficile de neutraliser l’urgence financière d’une nouvelle promesse encore plus disruptive. Cette dimension du compagnon est en effet si confortable et si attractive, qu’elle constitue le pendant, côté grand public, de la toute-puissance de calcul désormais offerte aux développeurs avec Claude Code. Dans les deux cas, l’offre des LLM et des IA génératives prétend être irrésistible et installe ainsi un « monopole radical ».

Conclusion provisoire

Ce qu’on perd en même temps, la sémantique, l’industrie et l’éthique ne sont pas des effets de mode, des vestiges d’un monde ancien, c’est avant tout ce qui fait tenir nos civilisations, dans leurs diversités, que l’IA prétend ignorer et niveler statistiquement, et avec leurs institutions qui garantissent à chacun sa place. Le sable sur lequel se construit cette technologie est mouvant par définition, ce qui profite aux vers de sable mais guère aux humains, à qui l’on promet la terre ferme en étendant la surface du désert, qui reste pourtant de sable et sur lequel ne poussera plus rien de vivant.

Dominique Boullier

Ce texte est paru pour la première fois sur le compte Medium de Dominique Boullier, le 15 mai 2026.

Supplément :  S’orienter dans le maëlstrom génératif

Face à ce rouleau compresseur du « monopole radical », il est très difficile de maintenir un éveil critique et surtout une capacité de propositions alternatives. Pourtant lorsque Illich analyse le monopole radical de l’automobile, c’est en référence à une solution de mobilité déjà présente, la bicyclette, qui, du point de vue de l’efficience en matière de mobilité, est imbattable. Il oublie cependant de parler de ce qui fait l’équivalent des IA compagnons, de ces enveloppes qui fonctionnent comme habitèle (perverties de mon point de vue), l’habitacle de l’automobile. Cette enveloppe là aussi produit un attachement fort analysé par Laurent Fouillé (2011) qui explique largement pourquoi toutes les solutions alternatives en matière de mobilité ne parviennent pas à gagner les publics en masse. Mais les solutions existent aussi pour les LLM et surtout plusieurs stratégies se présentent lorsqu’on n’adhère pas au culte moderniste des LLM. Ils sont en effet la quintessence même de la geste moderne comme la qualifiait Bruno Latour : certitudes inébranlables dans le « progrès » supposé encapsulé dans toute innovation technique, surplomb total par rapport aux organisations sociales, à leurs traditions et à leurs valeurs (le calcul désencastré), illimitisme écologique sourd aux lanceurs d’alerte pourtant scientifiques eux aussi.

Lorsqu’on sort de ces rails supposés tracer le destin de toute l’humanité, soit on bifurque, soit on s’arrête pour mieux regarder le train, soit on descend de la machine et on marche ailleurs. J’ai présenté ces pistes récemment à l’ENS Ulm sous la forme d’une boussole que j’ai créée en 2003 pour penser nos possibles sur le mode cosmopolitique.

Le zero LLM

Le premier quart sud-est consiste à se débrancher totalement et à sortir marcher dans un pays sans rails technologiques. Je l’appelle la voie de la « sécession sémantique ». Et c’est l’analogie avec la conversion en bio de certains agriculteurs qui me paraît la plus parlante, donc je l’appelle la « sécession bio-sémantique ». L’ajout du terme bio me convient particulièrement puisqu’il réintroduit ce qui jusqu’à présent manque à tous les systèmes d’IA, un corps, une existence biologique qui relève d’autres déterminants.

Cette idée n’est pas nouvelle, plusieurs auteurs et mouvements parlent d’objection de conscience, de pause, souvent pour des raisons et des objectifs différents. Je m’intéresse ici à ceux qui tentent de développer un monde sans LLM, comme on le dirait d’un monde sans OGM. Il faut parler de monde et non seulement de technique car les LLM tendent à envahir tous les domaines de la vie de façon pervasive, comme une contamination qui se propage sous les radars. C’est ailleurs ce qui rend l’expérience exigeante et difficile car garantir qu’il n’existe pas un soupçon de LLM glissé dans votre relation au médecin, au taxi, au fisc, aux médias, aux supermarchés, devient très difficile. Il faudra donc être indulgent et non puriste, d’autant plus que des alternatives n’existent et n’existeront pas dans tous les domaines. On peut vouloir manger bio mais parfois il sera difficile de s’assurer que le champ qui respecte un cahier des charges bio n’est pas atteint par les épandages de pesticides du champ voisin (dit agriculture conventionnelle, avec une litote qui atténue bien le risque). On doit au moins faire confiance aux labels, aux certifications que d’autres organismes mettent en place, ce qui peut là aussi entrainer des critiques, des rivalités, des soupçons, comme dans toute phase de construction de convention. Une fois le Nutriscore installé et rendu visible sur les emballages, on peut s’orienter plus facilement en tant que consommateur ordinaire. Il est donc temps de contribuer à créer ces labels, ces certifications pour valoriser, selon un gradient (et non selon un principe binaire du tout ou rien), les pratiques les plus indépendantes des logiques monopolistes des plateformes des IA génératives.

Cette sécession repose principalement sur le constat énoncé précédemment que dès lors qu’on se débarrasse de la sémantique (référentielle pour être plus précis), tout est permis et tous les risques sont amplifiés. Ils ne sont pas tous activés, ni tous catastrophiques, ni tous dépendants de l’avènement d’une IA Générale, tant vantée comme épouvantail. Mais ils sont tous là, identifiés, malgré (ou à cause) des boites noires que l’on offre à tout public et aux experts. Le principe de précaution doit alors être activé et le catastrophisme éclairé (Dupuy) doit nous donner le courage de renoncer.

Etant cependant averti du monopole radical qui se met en place avec l’appui démesuré de la finance et des gouvernements du monde entier, il faut sans doute se replier sur l’exigence de pluralisme pour obliger les Etats à prendre les mesures pour préserver une “zone à défendre” en réseau où les développeurs puissent travailler à une innovation responsable, explicite et contrôlable. Cela supposera des écoles, des spécialistes, des soutiens financiers adaptés, des réseaux d’entraide que les communs numériques ont déjà mis sur pied, des chaînes de traitement entièrement préservées des plateformes du capitalisme financier numérique. Le rôle d’un gouvernement démocratique n’est pas de tirer toujours dans le sens d’une innovation sans frein qui absorbe soutiens, déductions fiscales et profits en copiant les autres pays. S’impose à lui un impératif de diversité écologique en faveur des orientations les plus responsables.

Il ne sert à rien de disqualifier ces tendances et ces aspirations qui montent en les assimilant aux luddites, qui ne faisaient pas que casser des machines d’ailleurs et qui luttaient contre un projet politique d’obligation de salariat. Sans doute que si ces techniques des LLM n’étaient pas poussées par les grandes plateformes, les oppositions ne seraient pas aussi franches car il serait encore possible d’espérer un débat de démocratie socio-technique. On sait en revanche désormais qu’avec toutes ces plateformes aucun débat ne sera possible et qu’il faudra des coups de force imprévus à la Trump qui produit le blocage du service d’Anthropic le 12 juin, pour mesurer qu’il est vraiment possible de freiner l’ubris de ces firmes et pour les faire rentrer dans le droit.

L’important consiste à préserver l’avenir pour toute la planète en préservant des ressources, des savoirs et savoir-faire plus autonomes. Les temps de guerre et de réchauffement climatique qui sont les nôtres devraient d’ailleurs nous entrainer à encourager ces démarches résilientes, qui pourraient bien sauver nos existences en cas de crise grave, de sabotages, de pannes. Plus encore, ce sont nos savoirs qui doivent demeurer hors des prédateurs-pollueurs que sont les plateformes d’IA. De la même façon qu’on construit des silos sous la banquise pour préserver les graines d’une diversité biologique menacée, il faut organiser les silos de préservation des savoirs non contaminés, identifiables, traçables, comme le fait Wikipédia, qui devra bientôt devenir une forteresse pour résister à la contamination générale.

Nulle tentative d’imposer ce régime d’abstinence à tous, de prétendre redresser la barre d’un navire sans pilote, mais nécessité politique et morale d’assurer que d’autres possibles seront maintenus ouverts par cette préservation de techniques, de savoirs, de pratiques prêts pour les temps de guerre et de rareté.

 Le bac à sable créatif

Cette option du zero LLM qui s’appuie sur les certitudes des connaissances, des pratiques et des organisations constituées depuis des siècles et sur les attachements à des valeurs qui ont constitué nos démocraties, devient désormais très défensive et peu attractive à l’exception des résistants convaincus, qu’il faut soutenir à tout prix cependant.

Elle ne conviendra pas du tout à ceux qui, tout en s’opposant aux plateformes, à leurs logiques financières et à bon nombre de choix techniques effectués, restent persuadés qu’il faut expérimenter des détournements, et explorer des possibles qu’on ne connaît pas encore. Ce constat provient de la puissance incroyable de ces LLM, qui, par pure simulation statistique, parviennent pourtant à produire des effets de sens, des effets de créativité, des effets émergents comme on les qualifie savamment si on ne les balaie pas en les traitant d’hallucinations (ce qu’ils sont aussi par ailleurs). On peut trouver cette tendance chez beaucoup d’artistes qui sont spontanément prêts à explorer ces frontières, comme le font Gregory Chatonsky ou Alain Damasio. Ou chez des chercheurs comme Marc Cavazza qui sont intrigués de voir émerger des processus qu’ils décrivent en sémantique distributionnelle, des convergences qui méritent d’être explorées. Il est vrai que dès lors qu’on connaît l’incertitude et les approximations acceptées par les développeurs de ces LLM, qui ne peuvent pas rendre compte des pondérations effectuées ni de chaînes d’opérations qui ressemblent à des raisonnements, on peut se dire qu’ils ont peut-être fait apparaitre des processus de calcul, de génération, de détection, qui sont des indices d’autres processus que seuls les artistes ou d’autres disciplines que les data sciences peuvent percevoir, sans parler de les expliquer.

J’appelle cette posture et ce quadrant nord-ouest (celui du passage!), le bac à sable créatif. Tout en étant, on l’a compris, très critique des LLM en général et plus encore de leur exploitation par les plateformes de l’IA, je me dois d’écouter ceux qui restent ébahis par les performances de tels systèmes de simulation, au point de penser qu’ils sont en train de dépasser nos capacités de compréhension (sans parler du contrôle que les firmes IA ont de toutes façons abandonnés). Tous les utilisateurs ordinaires font cette expérience d’excitation ou de sidération devant des réponses, des productions, des solutions fournies avec une rapidité inédite et très déstabilisante. L’innovation peut en effet se transformer en rouleau compresseur moderne sous la houlette de l’illimitisme des plateformes et de la classe vectorialiste mais il n’est pas définitivement dit qu’il n’existe pas d’autres voies à explorer.

J’ai moi-même tenté de jouer ce jeu avec le Big Data des plateformes en considérant Twitter comme la drosophile des sciences sociales des propagations. C’est-à-dire un laboratoire à ciel ouvert pour tester des hypothèses à partir de masses de données qu’on ne trouve nulle part ailleurs, sur une plateforme (avant Musk) où la traçabilité atteint une granularité inédite et où la viralité est amplifiée par les algorithmes. Alors même que je montrais les effets délétères d’un tel système de viralité sur les conditions du débat public, je pensais pouvoir profiter de ce terrain quasi expérimental pour tester des hypothèses sur les patterns des propagations. Et cela à condition d’accepter que Twitter ne peut pas servir d’équivalent d’un sondage d’opinion, dispositif construit pendant des dizaines d’années avec ses propres règles et ses limites. 

Pour les LLM, ce sont ces limites qu’il faut pouvoir établir pour rester dans le cadre du bac à sable et éviter toute contamination à la société. Ainsi, tout ce qui a pu être  produit en matière d’image IA ne poserait pas de problème, dès lors qu’un protocole strict et une étanchéité sont installées vis-à-vis de la sphère médiatique ou ordinaire de la vie sociale. Produire des deepfakes est fascinant à condition de se limiter à une expérience de laboratoire hautement contrôlée, à peu près avec les mêmes critères que ceux appliqués aux laboratoires qui testent les gains de fonction des virus. Oui les LLM sont du gain de fonction, et sont extrêmement dangereux de ce point de vue mais peuvent aussi permettre d’explorer des pistes inédites, à condition de trouver les problèmes significatifs que l’on veut y résoudre. On peut accepter certaines expériences pour les artistes, qui doivent eux-mêmes éviter la contagion de tous les systèmes de production d’œuvres fake qui détruiraient leurs propres conditions d’existence. On peut accepter certaines expériences pour les sciences cognitives et sociales sous des conditions strictes vis-à-vis des populations concernées comme on le fait en sciences cognitives expérimentales. On peut même donner des possibilités de créer des échantillons de populations synthétiques pour tester certaines hypothèses avec des modèles et des entités très riches, à condition de ne pas prétendre en tirer des leçons sur les sociétés réelles ni des méthodes de gouvernement immédiates, ce qu’on attend déjà trop de l’économie expérimentale par exemple.

Sans doute que d’autres domaines professionnels peuvent vouloir eux aussi tester avant leur mise en œuvre opérationnelle quantité d’applications à base d’IA. Ce serait ainsi l’occasion de redonner ses lettres de noblesse à la culture industrielle des tests, dont j’ai critiqué plus haut la disparition avec les passages à l’acte observées dans les développements d’IA contemporains.

Dans tous les cas cependant, il faut assurer une étanchéité avec le monde social à l’air libre pour éviter toute pollution et captation d’attention par des utilisateurs ordinaires comme par des acteurs mal intentionnés, qui auraient perçu rapidement les bénéfices commerciaux à tirer de ces innovations. Le bac à sable est donc à la fois l’acceptation de la créativité et le ralentissement de sa pénétration du corps social. Toutes les techniques ultrasensibles et à haute propagation sont gérées de cette façon, que ce soit dans la chimie, la pharmacie, ou le nucléaire. Ce que l’on déplore, c’est plus souvent une incapacité à contrôler ces essais et les tentatives de se dérober à ces protocoles de sécurité. 

Pour l’IA, le moins que l’on puisse faire n’est donc pas d’abaisser le seuil de vigilance mais bien de le renforcer car ses pratiques actuelles sont totalement irresponsables. On pourrait donc au moins exiger des plateformes d’iA qu’elles atteignent le niveau d’exigence en matière de sécurité et de qualité que l’on trouve dans le nucléaire, voire dans la chimie (qui comporte pourtant déjà beaucoup de failles) ou dans la biologie.  Tout plaidoyer pour une expérimentation à ciel ouvert au nom du « running code » et de la spécificité du numérique est une opération de lobbying éhontée et irresponsable. Dès lors qu’on leur propose d’effectuer toutes les expériences qu’ils souhaitent dans des environnements classifiés au même niveau que les laboratoires de gain de fonction des virus, on fournit les conditions de la créativité tout en respectant des impératifs de contrôle, certes très inhabituels pour les adeptes du libertarianisme, de John Perry Barlow et du Far-West réunis mais nécessaires à leur propre survie et à leur créativité.

L’intelligence collective augmentée

Dès lors que ces deux possibles sont préservés, soutenus et contrôlés, la sécession sémantique et le bac à sable créatif, pourquoi encore vouloir imaginer un quatrième quadrant au nord-est ? En réalité, il décrit la pratique la plus courante observée dans les organisations. Face à la pression à l’usage de l’IA générative et face à l’absence de résultats convaincants dans l’industrie (en dehors donc de la comm et du code), la désorientation est forte mais chacun apprend à composer avec les injonctions, les avantages réels et un contrôle face à des boites noires. Ce compositionnisme que Bruno Latour avait problématisé dans un manifeste n’est guère attractif comme programme politique général mais il rend très bien compte des pratiques des collectifs immergés de fait dans des environnements d’IA générative. 

Ce qui devient clé alors pour éviter d’être totalement embarqué dans l’hubris du tout IA, c’est la qualité du couplage entre technique et organisation, son caractère explicite et donc discutable de façon contradictoire. Ce n’est certes pas la qualité principale du management néo-libéral que l’on subit et qui relève plus de la disruption quasi sadique que de la bienveillance et du soin pour relancer l’intelligence collective. L‘intelligence collective augmentée doit en effet devenir l’horizon de toute composition avec des éléments de systèmes d’IA appropriés. Ce couplage affiné avec précaution avec les traditions, les valeurs, les savoir-faire spécifiques des métiers permet de réencastrer les systèmes d’IA dans les organisations, dans le social en général. L’IA ne devient une réponse qu’aux problèmes que l’on veut traiter en priorité et que l’on redéfinit à cette occasion mais elle ne constitue qu’une brique d’une réponse globale et non la solution magique de l’alchimie LLM. Reprendre la main sur ces définitions des problèmes, c’est reconnaitre aussi les liens complexes de toute organisation sociale et son irréduction à un paramétrage surplombant. Cela peut comporter cependant des indicateurs et du calcul mais un calcul qui oblige à expliciter et donc à discuter et qui permet à toutes les parties concernées de participer à la discussion.

Sur ces principes, il existe des solutions qu’on appelle hybrides c’est-à-dire qui introduisent beaucoup de sémantique par les experts métiers et même les publics concernés et qui reposent de ce fait sur des briques issues de l’IA symbolique (toujours très présente avec des arbres de décisions par exemple) ou avec des versions floues comme le propose Xtractis développé par Zyed Zalila. Ces systèmes d’IA nécessitent une injection de connaissances formalisées de la part des experts du métier et c’est en cela que ces IA décisionnelles peuvent prétendre aider à des décisions fiables, ce que ne pourra jamais un agent conversationnel conçu pour répondre avec des approximations satisfaisantes pour l’utilisateur mais non robustes. Ce que j’ai décrit plus haut à propos des RAG relève de ces méthodes de maquillage sémantique indispensable pour faire marcher les LLM en situation réelle, mais on peut pousser la logique des RAG plus loin en formalisant les documents et les connaissances ainsi injectées, en abandonnant carrément le principe probabiliste des LLM.

D’autres resteront plus proches des principes des LLM mais en fournissant tous les outils de contrôle pour les rendre robustes, comme le fait par exemple Pleias, dirigée par Pierre-Carl Langlais. Il a pu mettre ainsi à disposition du public et en Open Source une base de connaissances de textes administratifs qui se transforme en outil de génération de contenus situés dans le même domaine (Guillaume Tell). Dans tous les cas, ces modèles sont plus petits, plus contrôlés avec injection de lemmatisation souvent (et non une simple tokenisation).

D’autres enfin tentent de penser le rôle direct que peut jouer le service public dans un tel environnement. Bernie Sanders propose que l’Etat prennent des parts dans les grandes entreprises de l’IA jusqu’à 50% pour pouvoir les orienter et les contrôler autrement que par la régulation qui vient toujours trop tard. Bruce Schneier comprend l’intérêt de la proposition de Sanders mais considère que cela veut dire que l’Etat se retrouvera contraint d’accompagner des stratégies gouvernées par la profitabilité sans pouvoir réellement exiger les garde-fous nécessaires, comme on l’a vu avec la propriété étatique des firmes pétrolières en Norvège. Il propose avec Nathan Sanders, en plus d’une taxation des profits ou de l’énergie consommée par ces firmes, de construire dans chaque pays une « AI Public Option » , à l’image du système de santé public ou du projet Apertus en Suisse. Les chercheurs académiques à partir de données dont ils respectent les licences ont développé un modèle LLM qui fonctionne sur une infrastructure locale suisse. Mais ce n’est pas l’enjeu de souveraineté qui est ici avancé car il peut être détourné par des firmes nationales comme on le voit avec Mistral, sans que cela change grand-chose à leur absence d’éthique et à leurs principes techniques. Il s’agit bien d’une alternative publique de ressources de base, sur lesquelles on peut imaginer des services gratuits d’origine des communs mais aussi des services commerciaux locaux dont l’usage est identifié comme socialement utile (ce qui interdirait les IA compagnons toxiques et les deepfakes par exemple).

En réalité chacun tente de surnager dans ce flux d’influences qui se propagent chaque matin avec de nouvelles annonces qui nous somment de réagir et dire si l’on adopte, si l’on s’oppose ou si l’on compose. Le drame social qui se joue dans les organisations est aggravé par l’isolement, l’expérience clandestine de l’IA dans l’ombre, de l’IA honteuse, alors que l’intelligence collective demande le partage des expériences, les plus naïves comme les plus sophistiquées. Nous manquons de cette arène de débat constitutive d’une démocratie socio-technique. Non pas pour se vanter comme sur LinkedIn de sa dernière prouesse dans la maitrise de la dernière version du modèle XYZ. Mais pour rendre compte précisément des conditions d’usage d’un dispositif technique et organisationnel (et donc aussi légal et commercial souvent) avec toutes les réinventions nécessaires, les ratages et aussi les émerveillements engendrés par ces partages d’expérience. 

J’ai pratiqué longtemps cela notamment dans le domaine de la Tech éducative ou encore des méthodes numériques en sciences sociales, sans jamais céder aux diktats des offres marchandes et en fixant avec les collectifs concernés les cahiers de charges auxquels les techniques sur l’étagère ou les développeurs maisons devaient se plier. Les réseaux des communs procèdent ainsi très souvent et ils doivent désormais intégrer tous les retours d’expérience de pratiques de l’IA hybride en environnements standards (et non seulement dans des niches alternatives). Les organisations, l’Etat, les institutions, les entreprises sont en demande pour continuer à respirer malgré la pression démesurée mise par les lobbys de la tech pour la tech.

Ainsi, face au rouleau compresseur du monopole radical qui est en train de s’installer, plusieurs modes de survie sont possibles que j’ai présentés dans cette boussole. Sans doute d’autres inventeront d’autres combinaisons encore, mais l’intelligence collective que nous devons construire nécessite sans cesse d’échanger et de capitaliser sur nos expériences.

Dominique Boullier

Le 1er Ministre Lecornu vient d’annoncer, au coeur des épreuves du bac et de la canicule, que tous les lycéens bénéficieraient à la rentrée prochaine, en classe de 2nde, d’une heure d’enseignement par semaine sur l’IA.

Le même gouvernement qui a aussi annoncé l’interdiction des téléphones portables au lycée dès la rentrée prochaine.

Le même gouvernement qui veut interdire les réseaux sociaux aux moins de 15 ans.

Le même gouvernement qui veut faire pousser des Data Center partout en mode « Viva Tech et Balek ».

En pleine canicule. Ne cherchez pas la cohérence vous n’en trouverez pas. Mais eux, bah oui :

Le chef du gouvernement souligne que «former à l’IA» et «réduire l’exposition aux écrans», comme avec le projet d’interdire les réseaux sociaux aux jeunes de moins de 15 ans, «participent d’une même ambition : faire de nos élèves des citoyens libres, autonomes. Condition de notre souveraineté collective».

« Participent d’une même ambition » … Alors comment te dire, Seb. Y’a rien qui va. Rien. Ces trois éléments pris successivement peuvent à la rigueur faire illusion de cohérence à la manière dont trois chansons de Michel Sardou font illusion de patriotisme mais franchement … « Les écrans », « l’IA », « les réseaux sociaux ». Rien que ça déjà. Qui partagent autant de points communs que le taboulé, la mayonnaise et le nutella.

Prétendre tout aligner pour faire oublier que l’on a tout mélangé. Là où l’immensité des enjeux et des urgences nécessite une approche systémique, c’est à dire articulée au plus près des conditions d’enseignement (y compris et surtout pratiques et matérielles) et des modalités de ce qu’est l’expérience lycéenne de l’apprentissage singulier et collectif, on a une bouillie de mesures à effet médaille, c’est à dire qui ont pour principale vocation de décorer le torse des egos qui auront été les premiers à les brandir. Le lycée (surtout) est devenu un immense fourre tout d’opportunismes politiques dans lequel chaque ministre se rêve en Derrida de chez Wish confondant la déconstruction et la reconstruction. Ce qui se déconstruit ce sont les collectifs, enseignants comme lycéens. Ce qui se déconstruit ce sont les espaces de classes et de groupe. Ce qui se déconstruit ce sont les choix que l’on multiplie de manière totalement artificielle et de plus en plus tôt pour mieux masquer les impasses et complexifier les rares lisibilités de futurs envisageables.

Toutes les enseignantes et tous les enseignants vous le diront : cette idée de mettre une heure par semaine sur l’IA en classe de 2nde qui sort comme ça pif paf pouf sans concertation à quelques jours des vacances d’été, on appelle ça une mesure fantôme (qui s’ajoute aux précédentes, EVARS, pix, e3d, etc). Ce n’est pas financé, ça sort de nulle part, on ne sait même pas qui va faire les cours et quel en sera le contenu et on a un mois et demi (de vacances) pour être prêts à la rentrée et tout doit être prêt pour la rentrée 2027 alors même que les prochains au pouvoir déferont à leur tour probablement l’essentiel de ce qui aura été fait. Ce qui compte ce n’est pas la temporalité de la mesure, ce qui compte c’est la temporalité de l’annonce de la mesure. Viva Tech et Balek. Si le foutage de gueule était un doctorat, ces gens là seraient tous Honoris Causa.

Oui bien sûr il faut former à l’IA. Bien sûr. Mais là et dans les conditions exposées ci-dessus, on ne construit pas : on sabote, on dynamite, on vaporise. C’est la méthode des vieux pubards : « Spray and Pray ». Vaporisez et priez. Mettez-en partout et attendez que ça prenne. Et si ça ne prend pas bah au moins vous en aurez foutu un peu partout.

Franchement ? Ce serait presque rigolo. Si le contexte n’était pas ce qu’il est, notamment depuis la mise à sac des réformes Blanquer qui est à l’éducation nationale ce que Patrick Bruel est à la lutte contre les violences faites aux femmes ; si une génération n’était pas en train d’étouffer sous la canicule avec en face d’elles une dynastie d’immacescibles tanches qui s’interrogent encore pour savoir si mettre des épreuves que le matin ce serait pas une bonne idée ; si la place des mathématiques n’avait pas changé tous les ans sur le cycle lycée depuis (au moins) 5 ans en dépit de toute forme de bon sens et en débit de toute forme de rationalité ; si toutes ces conditions et quelques autres n’étaient pas réunies, alors oui ce serait presque risible mais ça ne l’est pas. Et c’est un fait acquis que Lecornu, à l’instar de tous ceux qui, osera tout.

Je me permets donc de lui suggérer de pousser un cran plus loin. Une heure de cours sur l’IA par semaine en 2nde ? D’accord mais on regroupe tous ces cours sur le mois de Juin. De toute façon en Juin à part mourir en stage, les élèves de 2nde ils ne branlent rien. Et on hydrate les lycéennes et lycéens en leur faisant boire de l’eau issue de Data Centers. Et on leur fait bouffer des tokens.

Comme ça on est bien. Vous vous souvenez de Chirac et de son « mangez des pommes » ? Bah on on garde la même DA mais on va la glow up niveau expert et on leur dira : « Buvez des Datas et mangez des tokens ». Parce que c’est notre projet.

<Mise à jour du 21 Juin> Suite à la publication de cet article, pas mal de réactions donc je précise un peu. Non il ne faut pas à tout prix « former à l’IA », par contre il est vital de former à la culture numérique et de former de manière politique à la culture numérique (donc en gros et pour faire simple, travailler autour de tout le catalogue sur ce sujet de C&F Editions

L’autre point sur lequel il y a débat c’est sur l’idée de cette supposée « même ambition« , de ce point commun in abstentia entre réseaux sociaux, écrans et IA. Là encore je maintiens ce que j’écrivais et je précise. « Les écrans » c’est avant tout une question sociale, une question d’organisation sociale, de la manière dont nos sociétés, nos vies et nos rythmes (familiaux, professionnels, amicaux) créent ou empêchent des temporalités dans lesquelles le recours aux écrans devient une clé comme l’était hier le recours à la télé ou à l’ordinateur familial du salon. « Les réseaux sociaux » c’est une question médiatique et éditoriale, et ce n’est que cela. Enfin, « l’IA » c’est une question technologique, et oui bien sûr toute technologie est politique surtout quand elle met à mal l’une des ressources actuellement les plus rivales entre un accélérationnisme industriel et notre propre survie, c’est à dire la ressource en eau.

Ce qu’il nous manque et ce que les annonces de Macron n’ont jamais permis de penser et d’installer depuis qu’il s’est fantasmé en président de la start-up nation, ce qu’il nous manque c’est une pensée politique capable d’articuler la question des temporalités et des rythmes sociaux avec celle des instances médiatiques qui les donnent à voir dans des prismes toujours plus ambivalents et des régimes de vérités désormais structurellement mouvants, et avec ce que chaque nouvelle technologie peut changer ou prendre comme place dans l’accélération ou la dilatation de ces temps et dans les choix de politiques publiques qui les mettent à leur service ou qui nous y asservissent.

À DLA, on connaît bien l’acronyme TL;DR (too long, didn’t read, « trop long ; pas lu ») que de bien peu aimables personnes nous envoient parfois après avoir pris connaissance de notre lettre d’information. Il est peu probable pourtant que l’on passe à l’étape suivante : TL;DW (too long, didn’t write : « c’est trop long à écrire, alors je ne l’ai pas écrit moi-même »), qui consiste à faire écrire ses contenus par une IA générative… Quoique, les articles seraient peut-être plus clairs, les circonvolutions moins alambiquées ? Allez savoir !

Mais c’est d’un autre mème dont je voulais parler. Un mème qui devrait lui aussi beaucoup moins nous être adressé, mais qu’on utilise souvent : AI;DR (AI, didn’t read) : « c’est de l’IA, je ne l’ai pas lu » ! Un jugement qu’on énonce couramment et qui décrit la transformation de notre rapport aux textes, à l’heure où tout doit aller si vite, qu’on n’a plus le temps d’écrire ni de lire. Un refus face au déferlement : « c’est de l’IA, je ne veux même pas le lire » !

A qui profite le verbiage ? 

AI;DR donc. L’acronyme exprime quelque chose entre la lassitude et l’hostilité à voir des textes génératifs envahir le web. Qu’ils soient très formatés, énergiques ou lénifiants, l’expression nous dit que nous serions capables de repérer la prose des LLM à leur tiédeur, à leur style, à leurs effets (qu’importe si en vérité, nous nous trompons souvent, comme c’est le cas des enseignants qui peinent à identifier les productions génératives de leurs étudiants). Un peu comme si nous étions dotés d’un système de repérage, une boussole infaillible, alors que les textes génératifs sont souvent corrigés, amendés, modifiés par leurs auteurs, et qu’ils tiennent bien plus d’une forme de coproduction qu’autre chose. Non seulement l’acronyme nous dit que ces productions n’ont finalement pas grande importance, mais il nous dit aussi que nos erreurs d’attribution peuvent être aussi péremptoires que les réponses des chatbots à la confiance survitaminée. Il nous dit que ces productions n’ont finalement pas grande importance au risque de renvoyer avec elles des propos bien humains, un peu comme ceux qui étaient trop longs finalement, trop humains. AI;DR nous dit que ce qui est écrit n’a pas grand intérêt, qu’il soit le fait de robots ou d’humains. Ce que ça fait est bien plus important : même si ce que ça fait (écrire) devient en même temps qu’on l’énonce bien peu important puisqu’on ne lui prête plus aucune attention.

Rapidement, on est saisi d’un vertige : à quoi peuvent bien servir des outils pour produire du texte que les gens ne souhaitent pas lire ? AI;DR semble mettre en abîme le grand vide des machines à verbiage, comme pour rendre béant le vortex qui s’ouvre sous nos mots. Un peu comme vient de le proposer le moteur de traduction Kagi en permettant de traduire (après le Dothraki, le Haut Valyrien ou le Klingon quand même !) n’importe quel texte en « Linked-in speak », c’est-à-dire dans le jargon de Linked-in. En permettant de transformer n’importe quel texte en post de motivation entrepreneuriale, truffé d’emojis, de hashtags et de déconvenues transformées en leçons de vie. « Le traducteur de Kagi ne fabrique pas cette langue, il la révèle. Il en expose la mécanique, la pauvreté, le vide soigneusement emballé dans du vocabulaire managérial », s’amusait la chroniqueuse de Radio France, Constance Vilanova. Elle pointait d’ailleurs vers une étude d’un chercheur en linguistique qui a mis au point une échelle pour mesurer la réceptivité au jargon d’entreprise. Une étude qui montrait que plus on est sensible aux formules creuses, moins on performe soi-même aux tests de pensée analytique et aux tests de prise de décision. « Les grands amateurs de Linked-in speak seraient donc aussi les moins capables de repérer le vide. Ce qui crée un cercle vicieux parfait : les patrons sont récompensés pour leur langue de bois, et les équipes se peuplent progressivement de gens qui n’y voient que du feu. » Mais surtout, les personnes les plus réceptives au jargonnage ont aussi plus tendance à percevoir leurs leaders comme visionnaires, à être plus inspirées par les homélies d’entreprises et à faire plus confiance à leurs managers. « Pour certaines personnes, un discours abstrait et vaporeux peut donner l’impression de profondeur, de vision et de compétence et parfois suffit à produire de la crédibilité. Il peut aussi fonctionner comme un signal de leadership », s’amuse David Gateau… Pire, « plus la réceptivité au bullshit corporate est élevée, plus la qualité des décisions diminue ». « Les personnes les plus sensibles aux discours creux en entreprise ont tendance à choisir systématiquement les pires solutions aux problèmes », explique l’auteur de l’étude, Shane Littrell. Pourtant, l’étude montre aussi finalement que le jargon persuade et impressionne certains publics, explique The Guardian, tout comme le verbiage des LLM finalement. « N’importe qui peut se laisser berner, et nous sommes tous, selon les circonstances, susceptibles d’être influencés par des discours creux présentés de manière à flatter nos préjugés. »

Les contenus produits par l’IA sont-ils faits pour être lus ?

Le hashtag #AI;DR entérine la dépréciation des contenus génératifs, dénigrés depuis leur apparition. Comme le disait John Hermann dans le New York Mag dès 2024 : alors que l’IA est associée au summum des réalisations humaines, pour tout à chacun, elle désigne d’abord des choses assez pauvres, assez communes. Dans le langage courant, dire d’un texte qu’il a été réalisé par ChatGPT qualifie toujours un document sans grand intérêt. Aujourd’hui encore. « Pourquoi devrais-je me donner la peine de lire quelque chose que personne d’autre n’a daigné écrire ? », remarque pertinemment un développeur, relayé par Futurism. Quand on lit le propos de quelqu’un, c’est pour comprendre ce qu’il pense, perçoit et appréhende du monde. Ecrire, c’est penser. Et penser, c’est exister. Mais que signifie lire la prose d’un LLM ? QUI sommes-nous censés comprendre ? Et donc QUE sommes-nous censés comprendre ? Quelque part, les gens qui dénoncent ces contenus, disent que ce qui est écrit par l’IA ne nous est pas adressé. Que ces contenus ne sont pas vraiment pour les humains puisqu’ils ne sont pas humains.

Dans le New York Mag, John Hermann (encore lui), dénonçait récemment le cauchemar de l’e-mail piloté à l’IA : « Êtes-vous impatient de voir vos collègues devenir beaucoup plus bavards, transformant chaque simple « Ça me va » en une lettre de trois paragraphes ? Êtes-vous ravi que le genre d’e-mails de masse semi-personnalisés que vous avez l’habitude de recevoir des grandes marques dotées de services marketing (ou des spammeurs et des auteurs de phishing) soit désormais accessible à toute personne possédant un compte Google ? Avez-vous hâte de vous demander si cette charmante lettre de condoléances d’un ami perdu de vue depuis longtemps a été entièrement générée par un logiciel ou s’il a simplement cliqué sur le bouton pour rendre le contenu « plus sincère » avant de l’envoyer ? » Ce dernier exemple n’est même pas une blague, le mois dernier, l’administration de l’université Vanderbilt a dû présenter ses excuses après avoir envoyé un e-mail de condoléances aux étudiants suite à la fusillade de l’université d’État du Michigan. En bas du message il était indiqué qu’il avait été rédigé par ChatGPT !

Le Financial Times rapporte que le volume des plaintes aux services juridiques et RH des entreprises est en augmentation et que celles-ci sont plus documentées et complexes qu’avant. Ce ne sont plus de simple e-mail à traiter, mais des pièces jointes volumineuses, qui évoquent parfois des législations qui n’existent pas. La raison ? Le recours à l’IA. De plus en plus de plaintes leur arrivent « incompétentes mais sûres d’elles », « superficiellement persuasives », « excessivement juridiques sans être pertinentes »… de gens pouvant avoir des attentes irréalistes, désorientés par les réponses des IA à leurs problèmes. Le volume de récriminations augmente et le temps pour les vérifier également, au risque de ralentir les réponses des employeurs.

Reste que le besoin de formalisation que traduit le passage à un argumentaire structuré par l’IA dit peut-être autre chose du rapport employés-employeurs, où les discussions ne suffisent pas pour être écoutés…

Le New York Times, récemment, expliquait que la romance générative était en pleine explosion et que l’IA était l’avenir du genre. Pas si sûr, contestait Gita Jackson pour Aftermath, les défenseur(e)s de l’IA dans la littérature n’ont pas d’autre but que de gagner de l’argent, en produisant beaucoup de contenus et en vendant des formations pour apprendre à d’autres comment faire. L’une des autrices interviewées par le NYT prétend que ses 200 livres publiés par IA ont totalisé 50 000 ventes… soit en moyenne 250 exemplaires par livre. Ce modèle économique n’est viable que si l’on se fiche de la qualité des livres et de leur popularité, assassine Jackson. Bref, il n’est pas sûr que les romances dopées à l’IA soient l’avenir du genre, comme le défendent les autrices qui le proposent parce qu’elles y ont doublement intérêt. Pas sûr que les contenus dopés à l’IA soient finalement meilleurs que les romances incarnées par leurs autrices.

Deux exemples qui montrent que les contenus génératifs viennent s’intercaler dans les situations de blocages et viennent toujours avec les intérêts de ceux qui les portent, même s’ils ne sont pas toujours faciles à percevoir.

Pour qui écrivons-nous ?

Le mot-clé AI;DR rejoint également celui de sloppers, désignant les producteurs de slop, les producteurs de contenus qui ne produisent plus qu’avec les robots conversationnels (à l’image de la proposition parodique de sloppers.ai, qui se présente comme un service d’IA pour produire… des contenus parfaitement inutiles). Entre résistance et lassitude, le point-virgule, qui à l’origine séparait la cause de l’effet – plus vous écrivez, moins je lis – sépare désormais la production de la machine du refus de lui accorder la moindre attention.

Comme le souligne Alberto Romero, nous passons d’un monde où la longueur d’un texte constitue un obstacle à la lecture, à un monde où le manque d’implication humaine devient un obstacle supplémentaire. Nous sommes passés de « je ne finirai pas ça » à « personne n’a commencé ça ». « La première attitude suppose que l’on est responsable de ses propres limites, tandis que la seconde incite à externaliser sa responsabilité », comme si ce n’était pas à nous de lire, de vérifier, d’agréer aux productions générées. La perspective de notre submersion par les contenus génératifs, par l’intensification des productions, risque de nous laisser plus épuisé que jamais, disions-nous la semaine dernière. Non seulement nous sommes cernés par plus de contenus que jamais, mais nous sommes en même temps confrontés à une forme de post-alphabétisation où l’écrit lui-même semble de plus en plus décrédibilisé par son automatisation.

Pour Romero, l’IA;DR fait écho à son exact inverse : WF;AI (What the fuck; AI, « bordel, écrire pour l’IA ») où nous sommes confrontés au vide de sens qu’exige d’écrire pour l’IA plutôt que pour d’autres humains. Nous sommes en train de passer du pourquoi écrivons-nous à pourquoi lisons-nous, comme si le cœur même de la connaissance n’avait plus de sens, ni pour les autres ni pour nous. « Doit-on consacrer vingt minutes de son attention déjà si sollicitée à un texte qui n’a coûté à son auteur fantôme que quarante-cinq secondes et une consigne maladroite ? »

Perdus au milieu de contenus de plus en plus fantomatiques, comment s’orienter ? « La lecture, comme tout ce que nous faisons, repose sur un contrat social implicite : je vous offre ma réflexion, vous me donnez votre temps. Or, lorsque l’une des parties automatise sa part du marché, l’autre se sent légitimement flouée. Et comme déléguer la lecture n’a aucun sens pour la plupart des gens, ils ne le font tout simplement pas », constate pertinemment Romero. Le contrat de lecture exige une intention et une relation que l’IA ne peut pas produire. Le contrat de lecture est donc profondément rompu, quelles que soient ses conséquences. D’autant que dans la roue du hamster de la lecture/écriture, l’IA a tendance à exclure de plus en plus l’humain. Dans le biais anti-humain de l’IA, l’IA se nourrit de l’IA et récompense plus facilement les contenus IA faisant gonfler plus encore les contenus génératifs qu’on ne veut pas lire. Et pourtant, se moque Romero en conclusion, son texte a été écrit avec une IA. Nous même avons été pris au piège. Le contrat de lecture n’est donc pas totalement rompu, il est flouté au risque de nous abuser en continue. 

C’est toute l’aporie où nous sommes réduits, comme l’illustre le dessinateur Tom Fishburne avec un de ses délicieux dessins : l’IA permet de transformer une liste à puce en un long mail qu’on peut prétendre avoir écrit et où son récepteur peut le transformer en liste à puce qu’il peut prétendre avoir lu. Tom Fishburne rappelle qu’il va falloir du temps pour apprendre quand et comment bien utiliser ces outils et surtout quand ne pas les utiliser. L’acronyme AI;DR nous rappelle que nous sommes face à des contenus dont le statut n’est pas clair, des contenus que nous ne savons pas vraiment utiliser. Peut-on vraiment en vouloir à des gens de refuser de lire des contenus qui sont produits par personne et destinés à personne, de refuser de lire des propos d’une machine, aussi séduisants ou creux puissent-ils être ?

Le risque d’une parole sans conséquence

IA;DR nous dit autre chose pourtant. Que ces mots produits sont produits. Que ce qui devait être fait est fait et que la réception est finalement un autre enjeu, comme s’il dépendait d’autres métriques.

« Pour la première fois, la parole est dissociée de ses conséquences. Nous vivons désormais aux côtés de systèmes d’IA qui conversent avec assurance et persuasion – débitant des affirmations sur le monde, des explications, des conseils, des encouragements, des excuses et des promesses – sans jamais assumer la responsabilité de leurs propos. Des millions de personnes utilisent déjà des chatbots, alimentés par de vastes modèles de langage, et ont intégré ces interlocuteurs synthétiques à leur vie personnelle et professionnelle. Les mots d’un chatbot façonnent nos croyances, nos décisions et nos actions, sans qu’aucun locuteur ne les cautionne », explique Deb Roy dans The Atlantic.

Deb Roy est professeur d’arts et de sciences des médias au MIT, où il dirige le Centre pour la communication constructive au Media Lab. Il est également cofondateur et président de Cortico, une organisation à but non lucratif qui se consacre à la construction de réseaux civiques plus forts, notamment en analysant les échanges vocaux de groupes de discussions pour en dégager liens et tendances.

Dans nos échanges avec les chatbots, ceux-ci s’excusent, corrigent, mais débitent une chose puis son contraire, vide de sens, rappelle le professeur. Pour Roy, « il ne s’agit pas d’une simple nouveauté technique, mais d’un bouleversement de la structure morale du langage ». Lorsque nous parlons, nos mots nous engagent dans un contrat social implicite. Ils nous exposent au jugement, aux représailles, à la honte et à la responsabilité. Dire ce que l’on pense, c’est prendre un risque. Le chercheur en intelligence artificielle Andrej Karpathy a comparé les LLM à des fantômes humains : ils ne sont pas des créatures, leur parole est sans conséquence, tout en étant capable de nous hanter. Pour Deb Roy, spécialiste de l’apprentissage du langage, les mots acquièrent du sens en relation avec le monde. Reste que le sens ne découle pas seulement de la fluidité ou de l’incarnation, mais aussi des enjeux sociaux et moraux que nous prenons lorsque nous parlons. Le langage a une dimension morale et sociale. Il nous engage. Il nous rend digne ou indigne, responsable. « Parler, c’est simultanément s’exposer à un jugement moral, encourir des conséquences sociales et parfois juridiques, assumer la responsabilité de la vérité et contracter des obligations qui perdurent au sein des relations. » Avec les chatbots, la parole n’est plus que procédurale. « Les chaînes causales s’obscurcissent. La responsabilité se dilue. L’autorité épistémique s’exerce sans obligation. Les engagements relationnels sont simulés sans persistance. » Cela produit non seulement un obscurcissement des responsabilités, mais plus encore un affaiblissement progressif des attentes. Le risque est de ne plus rien attendre des textes, quels qu’ils soient.

Norbert Wiener l’avait bien compris, dans ses mises en garde à l’encontre de l’automatisation : l’accroissement des capacités des machines entraînerait une perte de responsabilité humaine. Et l’efficacité elle-même éroderait la dignité humaine, nous poussant à devenir des intrants, des opérateurs ou des superviseurs de processus dont les humains ne contrôleraient plus la logique. « Ce qui rend ces systèmes moralement déstabilisants, ce n’est pas leur dysfonctionnement, mais leur capacité à fonctionner exactement comme prévu tout en se soustrayant à toute responsabilité », explique Roy.

L’histoire moderne regorge de technologies médiatiques qui ont transformé la circulation de la parole : l’imprimerie, la radio, la télévision, les réseaux sociaux. Mais aucune de ces technologies ne possédait les propriétés que les systèmes d’IA actuels réunissent simultanément. Aucune ne permettait de dialoguer et donc d’activer une vulnérabilité psychologique inédite. Avec Eliza, Joseph Weizenbaum a compris que les humains projetaient sur la machine du sens, des intentions et une responsabilité qu’elle n’avait pas. Le philosophe J.L Austin affirmait qu’utiliser le langage, c’est agir. « Tout énoncé significatif accomplit une action : il affirme une croyance, formule une revendication, formule une demande, fait une promesse, etc. Dire « oui » lors d’une cérémonie de mariage donne naissance à l’acte de mariage. Dans ce cas, l’acte n’est pas accompli par des mots puis décrit ; il est réalisé dans l’acte même de prononcer ces mots, dans les conditions appropriées. » Pour Roy, pour combattre l’effet Eliza, il ne suffit pas de savoir que ces systèmes sont des machines, car leur efficacité est amplifiée par leur fluidité. Et c’est leur fluidité qui nous conduit à déléguer nos responsabilités, à la faire glisser de l’utilisateur vers l’outil. Nous demandons désormais aux autres de prêter attention à des mots que nous n’avons pas écrits, pas pensés. Ce que nous perdons, c’est notre dignité même. « Dans le cadre d’un usage privé (comme le proposent les chatbots compagnons), l’érosion est plus subtile, mais non moins lourde de conséquences. Les jeunes décrivent leur utilisation de chatbots pour rédiger des messages qu’ils hésitent à envoyer, pour déléguer des réflexions qu’ils estiment devoir mener eux-mêmes, pour obtenir des assurances sans s’exposer, pour répéter des excuses sans rien débourser. Un chatbot dit « Je suis désolé » sans faute, mais est incapable de regret, de réparation ou de changement. Il admet ses erreurs sans conséquence. Il exprime de l’attention sans rien perdre. Il utilise le langage de la bienveillance sans rien risquer. Ces affirmations sont fluides. Et elles habituent les utilisateurs à accepter un langage moral déconnecté des conséquences. Il en résulte un réajustement discret des normes. Les excuses deviennent gratuites. La responsabilité devient théâtrale. La bienveillance devient simulée. » 

Les mots eux-mêmes n’ont plus de portée. Ceux des chatbots, bien sûr, mais derrière, les mots de tous ceux qui en portent, et d’abord ceux que les autres humains nous adressent.

« Certains affirment que la responsabilité des propos de ces machines peut être externalisée : vers les entreprises, les réglementations, les marchés. Mais la responsabilité se dilue entre développeurs, déployeurs et utilisateurs, et les boucles d’interaction restent privées et inobservables. L’utilisateur en subit les conséquences ; la machine, non. »

Ceci n’est pas sans rappeler le problème éthique posé par les armes autonomes, estime Roy. En 2007, le philosophe Robert Sparrow soutenait que de telles armes violent le principe de la guerre juste, selon lequel lorsqu’un dommage est infligé, quelqu’un doit répondre de la décision de l’infliger. Le programmeur est protégé par conception, ayant délibérément construit un système dont le comportement est censé se dérouler sans contrôle direct. Le commandant qui déploie l’arme est lui aussi protégé, incapable de contrôler les actions spécifiques de l’arme une fois en mouvement, et cantonné aux rôles prévus pour son utilisation. Quant à l’arme elle-même, elle ne peut être tenue responsable, car elle est dépourvue de toute qualité morale d’agent. Les armes autonomes modernes produisent ainsi des résultats mortels pour lesquels aucun responsable ne peut être identifié de manière pertinente. Les chatbots compagnons, ces « systèmes de gestion de la vie humaine » fonctionnent différemment, mais la logique morale est la même : ils agissent là où les humains ne peuvent pas pleinement superviser, et la responsabilité se dissout dans ce vide.

« La parole sans conséquence contraignante sape le contrat social. La confiance, la coopération et la délibération démocratique reposent toutes sur le principe que les locuteurs sont tenus par leurs propos. » Notre immersion dans un monde de contenus génératifs, de propos sans conséquences, risque de nous habituer à prendre toute parole comme étant sans conséquence, même celle de nos contemporains.

« Nous avons besoin de structures qui réancrent la responsabilité : des contraintes limitant l’utilisation de l’IA dans divers contextes, tels que les écoles et les lieux de travail, et préservant la paternité des travaux, la traçabilité et une responsabilité clairement définie. L’efficacité doit être encadrée lorsqu’elle porte atteinte à la dignité », défend Roy.

Avant de pointer un autre enjeu encore : « Alors que l’idée d’« avatars » IA s’impose dans l’imaginaire collectif, elle est souvent présentée comme un progrès démocratique : elle repose sur des systèmes qui nous connaissent suffisamment bien pour parler en notre nom, délibérer à notre place et nous épargner le fardeau d’une participation constante. Il est facile d’imaginer que cela puisse se transformer en ce que l’on pourrait appeler un « État-avatar » – un système politique où des représentants artificiels débattent, négocient et décident pour nous, efficacement et à grande échelle. Mais cette vision oublie que la démocratie non plus n’est pas simplement l’agrégation de préférences. C’est la pratique de la parole ouverte. S’exprimer politiquement, c’est prendre le risque de se tromper, d’être responsable, d’assumer les conséquences de ses paroles. Un État avatar – fluide, infatigable et parfaitement malléable – simulerait la délibération, mais sans conséquence. De loin, il ressemblerait à un gouvernement autonome. De près, ce serait tout autre chose : la responsabilité rendue facultative, et avec elle, la dignité de devoir assumer ses paroles devenues obsolètes. Wiener avait compris que le tourbillon ne viendrait pas de machines malveillantes, mais de l’abdication humaine. » C’est au bord de ce précipice que nous conduit l’IA.

Ce que traduit AI;DR, c’est qu’à mesure que nous sommes cernés par ces contenus génératifs, la résistance se fait jour, estime Fast Company. Qui souligne que le terme rencontre du succès à un moment où le sentiment anti-IA se développe. Les inquiétudes concernant l’IA chez les adultes américains se sont accrues depuis 2021, selon le Pew Research Center. Plus de la moitié (51 %) se disent plus inquiets qu’enthousiastes face à l’essor de cette technologie. « C’est de l’IA, je ne l’ai pas lu ! », ne traduit-il pas d’abord que tout cela n’est pas de notre responsabilité. Que cet avenir n’est peut-être pas celui que nous avons voulu. « C’est de l’IA, je ne l’ai pas lu ! » est peut-être notre dernier semblant de résistance face à un nouveau web qui va nous submerger. 

Même constat pour la journaliste Eve Fairbanks dans The Atlantic. « Travailler sur un texte généré par l’IA, en tant que correcteur, revient à opérer un corps dont la peau, les muscles, les veines, les os et les organes sont tous endommagés. Il n’y a rien à préserver, aucun point de départ », explique-t-elle confrontée à la prose des machines. « L’infltration du non sens est partout, inéluctable. Même ceux qui n’utilisent pas l’IA finiront par lui ressembler. »

Hubert Guillaud

La version originelle de ce texte est paru pour la lettre Café IA le 3 avril 2026.

À DLA, on connaît bien l’acronyme TL;DR (too long, didn’t read, « trop long ; pas lu ») que de bien peu aimables personnes nous envoient parfois après avoir pris connaissance de notre lettre d’information. Il est peu probable pourtant que l’on passe à l’étape suivante : TL;DW (too long, didn’t write : « c’est trop long à écrire, alors je ne l’ai pas écrit moi-même »), qui consiste à faire écrire ses contenus par une IA générative… Quoique, les articles seraient peut-être plus clairs, les circonvolutions moins alambiquées ? Allez savoir !

Mais c’est d’un autre mème dont je voulais parler. Un mème qui devrait lui aussi beaucoup moins nous être adressé, mais qu’on utilise souvent : AI;DR (AI, didn’t read) : « c’est de l’IA, je ne l’ai pas lu » ! Un jugement qu’on énonce couramment et qui décrit la transformation de notre rapport aux textes, à l’heure où tout doit aller si vite, qu’on n’a plus le temps d’écrire ni de lire. Un refus face au déferlement : « c’est de l’IA, je ne veux même pas le lire » !

A qui profite le verbiage ? 

AI;DR donc. L’acronyme exprime quelque chose entre la lassitude et l’hostilité à voir des textes génératifs envahir le web. Qu’ils soient très formatés, énergiques ou lénifiants, l’expression nous dit que nous serions capables de repérer la prose des LLM à leur tiédeur, à leur style, à leurs effets (qu’importe si en vérité, nous nous trompons souvent, comme c’est le cas des enseignants qui peinent à identifier les productions génératives de leurs étudiants). Un peu comme si nous étions dotés d’un système de repérage, une boussole infaillible, alors que les textes génératifs sont souvent corrigés, amendés, modifiés par leurs auteurs, et qu’ils tiennent bien plus d’une forme de coproduction qu’autre chose. Non seulement l’acronyme nous dit que ces productions n’ont finalement pas grande importance, mais il nous dit aussi que nos erreurs d’attribution peuvent être aussi péremptoires que les réponses des chatbots à la confiance survitaminée. Il nous dit que ces productions n’ont finalement pas grande importance au risque de renvoyer avec elles des propos bien humains, un peu comme ceux qui étaient trop longs finalement, trop humains. AI;DR nous dit que ce qui est écrit n’a pas grand intérêt, qu’il soit le fait de robots ou d’humains. Ce que ça fait est bien plus important : même si ce que ça fait (écrire) devient en même temps qu’on l’énonce bien peu important puisqu’on ne lui prête plus aucune attention.

Rapidement, on est saisi d’un vertige : à quoi peuvent bien servir des outils pour produire du texte que les gens ne souhaitent pas lire ? AI;DR semble mettre en abîme le grand vide des machines à verbiage, comme pour rendre béant le vortex qui s’ouvre sous nos mots. Un peu comme vient de le proposer le moteur de traduction Kagi en permettant de traduire (après le Dothraki, le Haut Valyrien ou le Klingon quand même !) n’importe quel texte en « Linked-in speak », c’est-à-dire dans le jargon de Linked-in. En permettant de transformer n’importe quel texte en post de motivation entrepreneuriale, truffé d’emojis, de hashtags et de déconvenues transformées en leçons de vie. « Le traducteur de Kagi ne fabrique pas cette langue, il la révèle. Il en expose la mécanique, la pauvreté, le vide soigneusement emballé dans du vocabulaire managérial », s’amusait la chroniqueuse de Radio France, Constance Vilanova. Elle pointait d’ailleurs vers une étude d’un chercheur en linguistique qui a mis au point une échelle pour mesurer la réceptivité au jargon d’entreprise. Une étude qui montrait que plus on est sensible aux formules creuses, moins on performe soi-même aux tests de pensée analytique et aux tests de prise de décision. « Les grands amateurs de Linked-in speak seraient donc aussi les moins capables de repérer le vide. Ce qui crée un cercle vicieux parfait : les patrons sont récompensés pour leur langue de bois, et les équipes se peuplent progressivement de gens qui n’y voient que du feu. » Mais surtout, les personnes les plus réceptives au jargonnage ont aussi plus tendance à percevoir leurs leaders comme visionnaires, à être plus inspirées par les homélies d’entreprises et à faire plus confiance à leurs managers. « Pour certaines personnes, un discours abstrait et vaporeux peut donner l’impression de profondeur, de vision et de compétence et parfois suffit à produire de la crédibilité. Il peut aussi fonctionner comme un signal de leadership », s’amuse David Gateau… Pire, « plus la réceptivité au bullshit corporate est élevée, plus la qualité des décisions diminue ». « Les personnes les plus sensibles aux discours creux en entreprise ont tendance à choisir systématiquement les pires solutions aux problèmes », explique l’auteur de l’étude, Shane Littrell. Pourtant, l’étude montre aussi finalement que le jargon persuade et impressionne certains publics, explique The Guardian, tout comme le verbiage des LLM finalement. « N’importe qui peut se laisser berner, et nous sommes tous, selon les circonstances, susceptibles d’être influencés par des discours creux présentés de manière à flatter nos préjugés. »

Les contenus produits par l’IA sont-ils faits pour être lus ?

Le hashtag #AI;DR entérine la dépréciation des contenus génératifs, dénigrés depuis leur apparition. Comme le disait John Hermann dans le New York Mag dès 2024 : alors que l’IA est associée au summum des réalisations humaines, pour tout à chacun, elle désigne d’abord des choses assez pauvres, assez communes. Dans le langage courant, dire d’un texte qu’il a été réalisé par ChatGPT qualifie toujours un document sans grand intérêt. Aujourd’hui encore. « Pourquoi devrais-je me donner la peine de lire quelque chose que personne d’autre n’a daigné écrire ? », remarque pertinemment un développeur, relayé par Futurism. Quand on lit le propos de quelqu’un, c’est pour comprendre ce qu’il pense, perçoit et appréhende du monde. Ecrire, c’est penser. Et penser, c’est exister. Mais que signifie lire la prose d’un LLM ? QUI sommes-nous censés comprendre ? Et donc QUE sommes-nous censés comprendre ? Quelque part, les gens qui dénoncent ces contenus, disent que ce qui est écrit par l’IA ne nous est pas adressé. Que ces contenus ne sont pas vraiment pour les humains puisqu’ils ne sont pas humains.

Dans le New York Mag, John Hermann (encore lui), dénonçait récemment le cauchemar de l’e-mail piloté à l’IA : « Êtes-vous impatient de voir vos collègues devenir beaucoup plus bavards, transformant chaque simple « Ça me va » en une lettre de trois paragraphes ? Êtes-vous ravi que le genre d’e-mails de masse semi-personnalisés que vous avez l’habitude de recevoir des grandes marques dotées de services marketing (ou des spammeurs et des auteurs de phishing) soit désormais accessible à toute personne possédant un compte Google ? Avez-vous hâte de vous demander si cette charmante lettre de condoléances d’un ami perdu de vue depuis longtemps a été entièrement générée par un logiciel ou s’il a simplement cliqué sur le bouton pour rendre le contenu « plus sincère » avant de l’envoyer ? » Ce dernier exemple n’est même pas une blague, le mois dernier, l’administration de l’université Vanderbilt a dû présenter ses excuses après avoir envoyé un e-mail de condoléances aux étudiants suite à la fusillade de l’université d’État du Michigan. En bas du message il était indiqué qu’il avait été rédigé par ChatGPT !

Le Financial Times rapporte que le volume des plaintes aux services juridiques et RH des entreprises est en augmentation et que celles-ci sont plus documentées et complexes qu’avant. Ce ne sont plus de simple e-mail à traiter, mais des pièces jointes volumineuses, qui évoquent parfois des législations qui n’existent pas. La raison ? Le recours à l’IA. De plus en plus de plaintes leur arrivent « incompétentes mais sûres d’elles », « superficiellement persuasives », « excessivement juridiques sans être pertinentes »… de gens pouvant avoir des attentes irréalistes, désorientés par les réponses des IA à leurs problèmes. Le volume de récriminations augmente et le temps pour les vérifier également, au risque de ralentir les réponses des employeurs.

Reste que le besoin de formalisation que traduit le passage à un argumentaire structuré par l’IA dit peut-être autre chose du rapport employés-employeurs, où les discussions ne suffisent pas pour être écoutés…

Le New York Times, récemment, expliquait que la romance générative était en pleine explosion et que l’IA était l’avenir du genre. Pas si sûr, contestait Gita Jackson pour Aftermath, les défenseur(e)s de l’IA dans la littérature n’ont pas d’autre but que de gagner de l’argent, en produisant beaucoup de contenus et en vendant des formations pour apprendre à d’autres comment faire. L’une des autrices interviewées par le NYT prétend que ses 200 livres publiés par IA ont totalisé 50 000 ventes… soit en moyenne 250 exemplaires par livre. Ce modèle économique n’est viable que si l’on se fiche de la qualité des livres et de leur popularité, assassine Jackson. Bref, il n’est pas sûr que les romances dopées à l’IA soient l’avenir du genre, comme le défendent les autrices qui le proposent parce qu’elles y ont doublement intérêt. Pas sûr que les contenus dopés à l’IA soient finalement meilleurs que les romances incarnées par leurs autrices.

Deux exemples qui montrent que les contenus génératifs viennent s’intercaler dans les situations de blocages et viennent toujours avec les intérêts de ceux qui les portent, même s’ils ne sont pas toujours faciles à percevoir.

Pour qui écrivons-nous ?

Le mot-clé AI;DR rejoint également celui de sloppers, désignant les producteurs de slop, les producteurs de contenus qui ne produisent plus qu’avec les robots conversationnels (à l’image de la proposition parodique de sloppers.ai, qui se présente comme un service d’IA pour produire… des contenus parfaitement inutiles). Entre résistance et lassitude, le point-virgule, qui à l’origine séparait la cause de l’effet – plus vous écrivez, moins je lis – sépare désormais la production de la machine du refus de lui accorder la moindre attention.

Comme le souligne Alberto Romero, nous passons d’un monde où la longueur d’un texte constitue un obstacle à la lecture, à un monde où le manque d’implication humaine devient un obstacle supplémentaire. Nous sommes passés de « je ne finirai pas ça » à « personne n’a commencé ça ». « La première attitude suppose que l’on est responsable de ses propres limites, tandis que la seconde incite à externaliser sa responsabilité », comme si ce n’était pas à nous de lire, de vérifier, d’agréer aux productions générées. La perspective de notre submersion par les contenus génératifs, par l’intensification des productions, risque de nous laisser plus épuisé que jamais, disions-nous la semaine dernière. Non seulement nous sommes cernés par plus de contenus que jamais, mais nous sommes en même temps confrontés à une forme de post-alphabétisation où l’écrit lui-même semble de plus en plus décrédibilisé par son automatisation.

Pour Romero, l’IA;DR fait écho à son exact inverse : WF;AI (What the fuck; AI, « bordel, écrire pour l’IA ») où nous sommes confrontés au vide de sens qu’exige d’écrire pour l’IA plutôt que pour d’autres humains. Nous sommes en train de passer du pourquoi écrivons-nous à pourquoi lisons-nous, comme si le cœur même de la connaissance n’avait plus de sens, ni pour les autres ni pour nous. « Doit-on consacrer vingt minutes de son attention déjà si sollicitée à un texte qui n’a coûté à son auteur fantôme que quarante-cinq secondes et une consigne maladroite ? »

Perdus au milieu de contenus de plus en plus fantomatiques, comment s’orienter ? « La lecture, comme tout ce que nous faisons, repose sur un contrat social implicite : je vous offre ma réflexion, vous me donnez votre temps. Or, lorsque l’une des parties automatise sa part du marché, l’autre se sent légitimement flouée. Et comme déléguer la lecture n’a aucun sens pour la plupart des gens, ils ne le font tout simplement pas », constate pertinemment Romero. Le contrat de lecture exige une intention et une relation que l’IA ne peut pas produire. Le contrat de lecture est donc profondément rompu, quelles que soient ses conséquences. D’autant que dans la roue du hamster de la lecture/écriture, l’IA a tendance à exclure de plus en plus l’humain. Dans le biais anti-humain de l’IA, l’IA se nourrit de l’IA et récompense plus facilement les contenus IA faisant gonfler plus encore les contenus génératifs qu’on ne veut pas lire. Et pourtant, se moque Romero en conclusion, son texte a été écrit avec une IA. Nous même avons été pris au piège. Le contrat de lecture n’est donc pas totalement rompu, il est flouté au risque de nous abuser en continue. 

C’est toute l’aporie où nous sommes réduits, comme l’illustre le dessinateur Tom Fishburne avec un de ses délicieux dessins : l’IA permet de transformer une liste à puce en un long mail qu’on peut prétendre avoir écrit et où son récepteur peut le transformer en liste à puce qu’il peut prétendre avoir lu. Tom Fishburne rappelle qu’il va falloir du temps pour apprendre quand et comment bien utiliser ces outils et surtout quand ne pas les utiliser. L’acronyme AI;DR nous rappelle que nous sommes face à des contenus dont le statut n’est pas clair, des contenus que nous ne savons pas vraiment utiliser. Peut-on vraiment en vouloir à des gens de refuser de lire des contenus qui sont produits par personne et destinés à personne, de refuser de lire des propos d’une machine, aussi séduisants ou creux puissent-ils être ?

Le risque d’une parole sans conséquence

IA;DR nous dit autre chose pourtant. Que ces mots produits sont produits. Que ce qui devait être fait est fait et que la réception est finalement un autre enjeu, comme s’il dépendait d’autres métriques.

« Pour la première fois, la parole est dissociée de ses conséquences. Nous vivons désormais aux côtés de systèmes d’IA qui conversent avec assurance et persuasion – débitant des affirmations sur le monde, des explications, des conseils, des encouragements, des excuses et des promesses – sans jamais assumer la responsabilité de leurs propos. Des millions de personnes utilisent déjà des chatbots, alimentés par de vastes modèles de langage, et ont intégré ces interlocuteurs synthétiques à leur vie personnelle et professionnelle. Les mots d’un chatbot façonnent nos croyances, nos décisions et nos actions, sans qu’aucun locuteur ne les cautionne », explique Deb Roy dans The Atlantic.

Deb Roy est professeur d’arts et de sciences des médias au MIT, où il dirige le Centre pour la communication constructive au Media Lab. Il est également cofondateur et président de Cortico, une organisation à but non lucratif qui se consacre à la construction de réseaux civiques plus forts, notamment en analysant les échanges vocaux de groupes de discussions pour en dégager liens et tendances.

Dans nos échanges avec les chatbots, ceux-ci s’excusent, corrigent, mais débitent une chose puis son contraire, vide de sens, rappelle le professeur. Pour Roy, « il ne s’agit pas d’une simple nouveauté technique, mais d’un bouleversement de la structure morale du langage ». Lorsque nous parlons, nos mots nous engagent dans un contrat social implicite. Ils nous exposent au jugement, aux représailles, à la honte et à la responsabilité. Dire ce que l’on pense, c’est prendre un risque. Le chercheur en intelligence artificielle Andrej Karpathy a comparé les LLM à des fantômes humains : ils ne sont pas des créatures, leur parole est sans conséquence, tout en étant capable de nous hanter. Pour Deb Roy, spécialiste de l’apprentissage du langage, les mots acquièrent du sens en relation avec le monde. Reste que le sens ne découle pas seulement de la fluidité ou de l’incarnation, mais aussi des enjeux sociaux et moraux que nous prenons lorsque nous parlons. Le langage a une dimension morale et sociale. Il nous engage. Il nous rend digne ou indigne, responsable. « Parler, c’est simultanément s’exposer à un jugement moral, encourir des conséquences sociales et parfois juridiques, assumer la responsabilité de la vérité et contracter des obligations qui perdurent au sein des relations. » Avec les chatbots, la parole n’est plus que procédurale. « Les chaînes causales s’obscurcissent. La responsabilité se dilue. L’autorité épistémique s’exerce sans obligation. Les engagements relationnels sont simulés sans persistance. » Cela produit non seulement un obscurcissement des responsabilités, mais plus encore un affaiblissement progressif des attentes. Le risque est de ne plus rien attendre des textes, quels qu’ils soient.

Norbert Wiener l’avait bien compris, dans ses mises en garde à l’encontre de l’automatisation : l’accroissement des capacités des machines entraînerait une perte de responsabilité humaine. Et l’efficacité elle-même éroderait la dignité humaine, nous poussant à devenir des intrants, des opérateurs ou des superviseurs de processus dont les humains ne contrôleraient plus la logique. « Ce qui rend ces systèmes moralement déstabilisants, ce n’est pas leur dysfonctionnement, mais leur capacité à fonctionner exactement comme prévu tout en se soustrayant à toute responsabilité », explique Roy.

L’histoire moderne regorge de technologies médiatiques qui ont transformé la circulation de la parole : l’imprimerie, la radio, la télévision, les réseaux sociaux. Mais aucune de ces technologies ne possédait les propriétés que les systèmes d’IA actuels réunissent simultanément. Aucune ne permettait de dialoguer et donc d’activer une vulnérabilité psychologique inédite. Avec Eliza, Joseph Weizenbaum a compris que les humains projetaient sur la machine du sens, des intentions et une responsabilité qu’elle n’avait pas. Le philosophe J.L Austin affirmait qu’utiliser le langage, c’est agir. « Tout énoncé significatif accomplit une action : il affirme une croyance, formule une revendication, formule une demande, fait une promesse, etc. Dire « oui » lors d’une cérémonie de mariage donne naissance à l’acte de mariage. Dans ce cas, l’acte n’est pas accompli par des mots puis décrit ; il est réalisé dans l’acte même de prononcer ces mots, dans les conditions appropriées. » Pour Roy, pour combattre l’effet Eliza, il ne suffit pas de savoir que ces systèmes sont des machines, car leur efficacité est amplifiée par leur fluidité. Et c’est leur fluidité qui nous conduit à déléguer nos responsabilités, à la faire glisser de l’utilisateur vers l’outil. Nous demandons désormais aux autres de prêter attention à des mots que nous n’avons pas écrits, pas pensés. Ce que nous perdons, c’est notre dignité même. « Dans le cadre d’un usage privé (comme le proposent les chatbots compagnons), l’érosion est plus subtile, mais non moins lourde de conséquences. Les jeunes décrivent leur utilisation de chatbots pour rédiger des messages qu’ils hésitent à envoyer, pour déléguer des réflexions qu’ils estiment devoir mener eux-mêmes, pour obtenir des assurances sans s’exposer, pour répéter des excuses sans rien débourser. Un chatbot dit « Je suis désolé » sans faute, mais est incapable de regret, de réparation ou de changement. Il admet ses erreurs sans conséquence. Il exprime de l’attention sans rien perdre. Il utilise le langage de la bienveillance sans rien risquer. Ces affirmations sont fluides. Et elles habituent les utilisateurs à accepter un langage moral déconnecté des conséquences. Il en résulte un réajustement discret des normes. Les excuses deviennent gratuites. La responsabilité devient théâtrale. La bienveillance devient simulée. » 

Les mots eux-mêmes n’ont plus de portée. Ceux des chatbots, bien sûr, mais derrière, les mots de tous ceux qui en portent, et d’abord ceux que les autres humains nous adressent.

« Certains affirment que la responsabilité des propos de ces machines peut être externalisée : vers les entreprises, les réglementations, les marchés. Mais la responsabilité se dilue entre développeurs, déployeurs et utilisateurs, et les boucles d’interaction restent privées et inobservables. L’utilisateur en subit les conséquences ; la machine, non. »

Ceci n’est pas sans rappeler le problème éthique posé par les armes autonomes, estime Roy. En 2007, le philosophe Robert Sparrow soutenait que de telles armes violent le principe de la guerre juste, selon lequel lorsqu’un dommage est infligé, quelqu’un doit répondre de la décision de l’infliger. Le programmeur est protégé par conception, ayant délibérément construit un système dont le comportement est censé se dérouler sans contrôle direct. Le commandant qui déploie l’arme est lui aussi protégé, incapable de contrôler les actions spécifiques de l’arme une fois en mouvement, et cantonné aux rôles prévus pour son utilisation. Quant à l’arme elle-même, elle ne peut être tenue responsable, car elle est dépourvue de toute qualité morale d’agent. Les armes autonomes modernes produisent ainsi des résultats mortels pour lesquels aucun responsable ne peut être identifié de manière pertinente. Les chatbots compagnons, ces « systèmes de gestion de la vie humaine » fonctionnent différemment, mais la logique morale est la même : ils agissent là où les humains ne peuvent pas pleinement superviser, et la responsabilité se dissout dans ce vide.

« La parole sans conséquence contraignante sape le contrat social. La confiance, la coopération et la délibération démocratique reposent toutes sur le principe que les locuteurs sont tenus par leurs propos. » Notre immersion dans un monde de contenus génératifs, de propos sans conséquences, risque de nous habituer à prendre toute parole comme étant sans conséquence, même celle de nos contemporains.

« Nous avons besoin de structures qui réancrent la responsabilité : des contraintes limitant l’utilisation de l’IA dans divers contextes, tels que les écoles et les lieux de travail, et préservant la paternité des travaux, la traçabilité et une responsabilité clairement définie. L’efficacité doit être encadrée lorsqu’elle porte atteinte à la dignité », défend Roy.

Avant de pointer un autre enjeu encore : « Alors que l’idée d’« avatars » IA s’impose dans l’imaginaire collectif, elle est souvent présentée comme un progrès démocratique : elle repose sur des systèmes qui nous connaissent suffisamment bien pour parler en notre nom, délibérer à notre place et nous épargner le fardeau d’une participation constante. Il est facile d’imaginer que cela puisse se transformer en ce que l’on pourrait appeler un « État-avatar » – un système politique où des représentants artificiels débattent, négocient et décident pour nous, efficacement et à grande échelle. Mais cette vision oublie que la démocratie non plus n’est pas simplement l’agrégation de préférences. C’est la pratique de la parole ouverte. S’exprimer politiquement, c’est prendre le risque de se tromper, d’être responsable, d’assumer les conséquences de ses paroles. Un État avatar – fluide, infatigable et parfaitement malléable – simulerait la délibération, mais sans conséquence. De loin, il ressemblerait à un gouvernement autonome. De près, ce serait tout autre chose : la responsabilité rendue facultative, et avec elle, la dignité de devoir assumer ses paroles devenues obsolètes. Wiener avait compris que le tourbillon ne viendrait pas de machines malveillantes, mais de l’abdication humaine. » C’est au bord de ce précipice que nous conduit l’IA.

Ce que traduit AI;DR, c’est qu’à mesure que nous sommes cernés par ces contenus génératifs, la résistance se fait jour, estime Fast Company. Qui souligne que le terme rencontre du succès à un moment où le sentiment anti-IA se développe. Les inquiétudes concernant l’IA chez les adultes américains se sont accrues depuis 2021, selon le Pew Research Center. Plus de la moitié (51 %) se disent plus inquiets qu’enthousiastes face à l’essor de cette technologie. « C’est de l’IA, je ne l’ai pas lu ! », ne traduit-il pas d’abord que tout cela n’est pas de notre responsabilité. Que cet avenir n’est peut-être pas celui que nous avons voulu. « C’est de l’IA, je ne l’ai pas lu ! » est peut-être notre dernier semblant de résistance face à un nouveau web qui va nous submerger. 

Même constat pour la journaliste Eve Fairbanks dans The Atlantic. « Travailler sur un texte généré par l’IA, en tant que correcteur, revient à opérer un corps dont la peau, les muscles, les veines, les os et les organes sont tous endommagés. Il n’y a rien à préserver, aucun point de départ », explique-t-elle confrontée à la prose des machines. « L’infltration du non sens est partout, inéluctable. Même ceux qui n’utilisent pas l’IA finiront par lui ressembler. »

Hubert Guillaud

La version originelle de ce texte est paru pour la lettre Café IA le 3 avril 2026.

Le toujours très inspirant institut de recherche indépendant Data & Society lance une nouvelle initiative visant à renforcer la citoyenneté à l’ère de l’IA. L’ambition est forte : faire passer le public du statut d’utilisateur à celui d’acteur, expliquent ses responsables. La culture de l’IA ne suffit pas. « Et le public mérite bien mieux qu’une simple formation à l’utilisation de l’IA. Et il l’exige de plus en plus. » « Les Américains constatent comment les systèmes d’IA façonnent leur accès aux opportunités, à leurs droits et à leur dignité, et ils s’interrogent sérieusement sur l’impact de cette technologie sur tous les aspects de la vie, du travail à l’éducation en passant par l’environnement. Comment les systèmes automatisés évaluent-ils les candidatures et les candidats eux-mêmes ? Les tuteurs IA contribuent-ils à la réussite des élèves ou, au contraire, limitent-ils leurs connaissances ? Les immenses centres de données construits pour alimenter l’IA font-ils exploser les factures d’énergie des collectivités ? Une simple « connaissance » de l’IA ne suffit pas à répondre à ces questions, ni à toutes celles qu’elles soulèvent. Chacune d’elles nous oblige à appréhender clairement la technologie, à examiner de manière critique ses applications et à mobiliser les outils de la participation citoyenne pour en orienter le développement. »

Face à l’IA, renforcer la citoyenneté plutôt qu’acculturer

De même que l’éducation civique aux États-Unis permet aux citoyens de comprendre leurs droits, leurs devoirs et le fonctionnement du gouvernement, ce travail requiert un programme d’enseignement. D’où cette initiative d’éducation civique à l’IA : « une approche de l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective. En mettant en lumière les outils civiques permettant au public d’exercer un pouvoir politique sur les systèmes d’IA et les plateformes technologiques – notamment au niveau local –, l’initiative d’éducation civique à l’IA renforcera la capacité des citoyens à participer à la conception et au déploiement de ces technologies, et contribuera à asseoir un pouvoir démocratique sur les institutions qui les créent et les promeuvent.»

Pour mobiliser la négociation collective pour peser sur l’utilisation de l’IA au travail, pour demander des changements dans les procédures d’achat des systèmes d’IA dans les écoles, pour exiger la transparence des outils de tri et de sélection automatisés, les gens doivent comprendre les processus civiques disponibles pour les utiliser. Tel est l’ambition du programme AI Civics : faciliter et approfondir l’apprentissage des modalités d’action en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourraient s’appuyer. 

Partout dans le monde, les travailleurs utilisent la négociation collective pour influencer l’utilisation de l’IA sur leur lieu de travail. Des militants font pression sur les autorités locales chargées d’autoriser les permis de construire afin d’exercer un pouvoir sur la construction des centres de données. Des élèves et des parents réclament des changements dans les politiques et les procédures d’achat des écoles. C’est la participation citoyenne en action : les communautés utilisent les leviers à leur disposition pour déterminer si et comment l’IA et ses infrastructures sont déployées. Mais avant cela, elles ont dû comprendre ces processus civiques et apprendre à les utiliser à leur avantage. Le programme AI Civics facilitera et approfondira cet apprentissage, en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourront s’appuyer.   

En 2025, D&S a organisé un cycle de conférences sur le thème “Comprendre l’IA”. L’initiative que l’Institut lance est le résultat des commentaires qu’ont adressé le public aux chercheurs. Dans ces commentaires, expliquent les chercheurs et chercheuses de D&S, trois points sont ressortis  : 

– Comme nous le disions nous même, les gens sont inquiets de l’IA. « Les gens se sentent pris au dépourvu par la rapidité et l’ampleur de ce changement, et frustrés par l’impression qu’il se produit sans leur participation ». 

– « Même les utilisateurs de l’IA s’inquiètent de ses impacts. Les participants nous ont confié utiliser des outils d’IA au quotidien, mais être mal à l’aise face aux compromis et aux coûts cachés. Ils souhaitent dépasser le vernis séduisant du battage médiatique autour de l’IA et comprendre les véritables implications de l’utilisation de ces outils, leurs coûts et avantages réels, ainsi que les moyens d’en atténuer les effets néfastes. »

– « Lassés d’être des consommateurs passifs, les citoyens cherchent des moyens de s’engager davantage. Nombreux étaient ceux qui souhaitaient découvrir des pistes concrètes pour une action collective, d’autant plus que la réglementation gouvernementale et les efforts pour responsabiliser les entreprises technologiques sont insuffisants. Nous avons constaté une volonté d’appréhender la complexité et un désir de s’opposer aux discours sur l’inévitabilité technologique. »

La culture de l’IA, la littératie, c’est-à-dire la maîtrise de savoirs, de capacités et d’aptitudes liées à l’IA, telle qu’elle est actuellement conçue, ne répond pas à ces besoins, estime l’Institut. Bien souvent, cette culture se limite à offrir la possibilité d’acquérir les compétences et les connaissances nécessaires pour utiliser l’IA et en tirer profit. Mais c’est un discours qui répète souvent que l’IA est inévitable et que ceux qui ne possèdent pas de connaissances dans ce domaine seront laissés pour compte. Dans un contexte économique déjà particulièrement difficile, pour beaucoup de gens, cette approche sonne comme une menace. 

« Dans son nouveau rapport, (404) Job Not Found : What Workforce Training Can’t Fix for Black Atlantans in the Age of AI, Anuli Akanegbu, chercheuse chez Data & Society, analyse la manière dont l’IA est abordée dans les milieux universitaires, promue par l’industrie, mise en œuvre par les pouvoirs publics et perçue au sein de la société civile. Basée à Atlanta, ville qui aspire à devenir l’épicentre de la main-d’œuvre de demain préparée à l’IA, Akanegbu décrit l’incapacité des pouvoirs publics et de l’industrie à définir clairement la culture de l’IA ou à préciser les compétences nécessaires aux travailleurs sur un marché du travail de plus en plus dominé par l’IA comme une abstraction stratégique, une forme de flou intentionnel qui transforme l’avancement professionnel en un objectif en constante évolution » (voir également toutes les limites des annonces qui exigent une « maîtrise de l’IA exigée »). « Ce flou sert un dessein : il reporte la responsabilité du chômage sur une main-d’œuvre majoritairement noire plutôt que de s’attaquer aux conditions structurelles qui rendent l’accès aux emplois de qualité de plus en plus difficile. En présentant l’adoption de l’IA comme une question d’effort individuel plutôt que de limitations systémiques, le concept de littératie de l’IA a été instrumentalisé pour promouvoir une solution simpliste au problème très complexe du déplacement d’emplois. De même que l’éducation aux médias imputait la désinformation, la manipulation médiatique et l’effondrement du système d’information aux utilisateurs individuels des réseaux sociaux, l’éducation à l’IA reproche aux travailleurs de ne pas trouver d’emploi rémunérateur plutôt qu’à un contexte socio-économique plus large qui normalise la précarité. »

D&S souhaite que son initiative parte des travailleurs, des étudiants, des citoyens… et qu’elle s’appuie sur les connaissances militantes pour aider les citoyens à exercer davantage leur pouvoir collectif à l’ère de l’IA. L’enjeu n’est pas seulement de se former à l’IA ou de s’y préparer, mais d’y ajouter la participation et l’intervention citoyenne. D&S est à la recherche d’organisations souhaitant rejoindre ce programme pour construire les ressources permettant de renforcer les capacités d’actions des citoyens. Que ce soit par exemple en créant des ressources pour les usagers des bibliothèques, ou en travaillant avec les associations de parents d’élèves pour documenter leurs méthodes pour mieux inspecter les marchés publics des districts scolaires lorsqu’ils achètent des outils technologiques… (voir notre article sur la montée de la contestation de l’IA à l’école).

« Les risques et les préjudices liés à l’IA sont bien documentés, mais ils ne sont pas inévitables. Notre mission essentielle aujourd’hui est de renforcer le pouvoir démocratique sur les institutions qui conçoivent et déploient les systèmes d’IA. Il est temps que la responsabilité publique et l’intérêt général soient de nouveau au cœur de l’innovation technologique à grande échelle. Il est temps que le grand public exerce un contrôle démocratique plus important sur l’IA. Il est temps d’instaurer une éducation civique sur l’IA. » 

En tout cas, cette approche par l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective est stimulante et inspirante. Bien loin par exemple des orientations britanniques prises en janvier de formation à l’IA pour tous, contestées par les acteurs de la médiation du Royaume-Uni (voir « Royaume-Uni : l’IA pour tous ! Laquelle ? »).

Résistances organisées

Ce travail ne part pas de nulle part. En fait, il a déjà largement commencé. A l’heure où les contestations contre la tech sont en passe d’être qualifiées d’extrémistes aux Etats-Unis, plusieurs autres collectifs de recherche et d’action documentent des modalités et des méthodes pour demander des comptes. L’AI Now Institute a ainsi lancé un kit d’action pour aider les citoyens à comprendre les réglementations mobilisables pour développer des recours contre le déploiement de centres de données. 

La journaliste Karen Hao, autrice du remarqué L’empire de l’IA (qui vient d’être traduit aux éditions L’écran fantastique) a lancé la liste de résistance à l’IA avec le Laboratoire de droit des réfugiés, le Distributed AI Research Institute (DAIR, fondé par la chercheuse Timnit Gebru) et l’association de justice sociale We and AI. Remettre en question le caractère inéluctable de l’IA est l’enjeu de cette liste qui recense et documente très succinctement et très partiellement les actes de résistance et d’opposition à l’industrie de l’IA à travers le monde. Comme le raconte l’anthropologue et l’avocate du numérique Petra Molnar (auteure de The Walls have Eyes, The New Press, 2024) dans Tech Policy Press, cette liste à été initiée par le travail du collectif Migration Tech Monitor, et notamment de celui du journaliste syrien Wael Qarssifi qui à documenté l’impact de la surveillance dans son pays et de Verónica Martínez qui a travaillé sur les effets de la surveillance et de la militarisation le long de la frontière américano-mexicaine. Comme l’explique Molnar, la liste a été intentionnellement documentée avec les initiatives évoquées et en se concentrant intentionnellement sur les pays en développement où les systèmes d’IA sont fréquemment déployés avec « moins de garanties réglementaires et un potentiel de préjudice plus élevé, et où les formes de résistance sont contraintes à être plus inventives ». 

La liste est articulée autour de quatre modes de résistances, afin d’élargir sa définition : résister, refuser, se réapproprier et réinventer. Au Nouveau-Mexique, le site documente les actions en justice menées par le New Mexico Environmental Law Center contre le développement du « Projet Jupiter », un énorme centre de données. En Uruguay, le Mouvement pour un Uruguay soutenable a lancé une campagne pour exiger une plus grande transparence concernant un projet de centre de données de Google. Au Japon, le Syndicat japonais des travailleurs de la métallurgie, de la fabrication, de l’information et des télécommunications a saisi la commission du travail du gouvernement de Tokyo afin de contraindre IBM à divulguer les données d’IA utilisées pour le calcul des salaires. « Au Chili, des habitants de Quilicura, une commune ouvrière de la banlieue de Santiago, se sont transformés en chatbot humain le temps d’une journée. Quili.ai, un site web conçu pour ressembler à une interface d’IA, redirigeait les requêtes des utilisateurs vers des membres de la communauté qui répondaient en temps réel. Pendant plus de 12 heures, en collaboration avec des artistes locaux, ils ont répondu à 25 000 questions d’utilisateurs de 68 pays. L’objectif n’était pas de prouver que les humains pouvaient surpasser l’IA, mais d’amener les gens à s’interroger sur ce qu’ils abandonnaient réellement, et au profit de qui, en externalisant leurs requêtes vers un système bâti sur l’exploitation du bassin du fleuve Maipo et de communautés comme la leur. » 

Nombre de résistances sont liées aux transformations du travail, bien sûr. En Californie, les professionnels de la santé mentale de Kaiser Permanente ont mené une grève pour dénoncer le remplacement du jugement clinique par un triage algorithmique. Au Royaume-Uni, les personnels de santé se mobilisent pour refuser l’intégration de Palantir dans le système de santé publique. 

Aux Philippines, plusieurs organisations de travailleurs du numérique ont formé une coalition pour promouvoir la représentation des travailleurs dans l’élaboration des politiques relatives à l’IA et documenter les préjudices causés par l’adoption de l’IA. A Nairobi, l’Association des étiqueteurs de données (comptant aujourd’hui près de 900 membres), milite pour des conditions de travail équitables, des contrats transparents et la reconnaissance du travail cognitif et émotionnel lié à l’entraînement des systèmes d’IA. Lorsque Microsoft a commencé à intégrer massivement des fonctionnalités d’IA dans ses produits, des utilisateurs ont lancé un site web dédié, Microslop, pour recenser la dégradation de l’expérience utilisateur. L’artiste Sam Lavigne, lui, a proposé un plug-in pour navigateur, qui manipule les chatbots afin de ralentir leur temps de réponse pour inviter les utilisateurs à s’interroger sur ce qu’ils attendent exactement et pourquoi. Decolonize Digital est une collection de ressources, une « boîte à outils de libération » qui propose des alternatives, comme par exemple des solutions pour Dé-Googliser nos existences. Ou encore O Panóptico, un projet qui recense les initiatives de reconnaissance faciale au sein du système de sécurité publique brésilien. 

Transparence, participation, élargissement et contrôle distribué

« Les initiatives recensées sur la liste AI Resist mettent également en lumière un ensemble de revendications auxquelles aucun cadre réglementaire existant ne répond pleinement, et auxquelles toute politique sérieuse de gouvernance de l’IA devrait s’attaquer », souligne  Petra Molnar. 

La première revendication transversale est bien sûr la transparence. Nombre de mouvements de résistance réclament bien souvent seulement de savoir ce qui est construit, par qui, avec quelles ressources et à quel prix. « Même des exigences de divulgation minimales, si elles étaient appliquées de manière cohérente, bouleverseraient fondamentalement le modèle opérationnel actuel du secteur, qui repose sur l’opacité à chaque étape de la chaîne d’approvisionnement », rappelle Molnar. 

La deuxième revendication est la participation. Des employés d’Amazon qui ont exigé d’être consultés avant le déploiement de l’IA au sein de leur entreprise, à la coalition philippine qui milite pour la prise en compte des travailleurs dans l’élaboration des politiques relatives à l’IA… « nombres d’exemples pointent vers le même constat : les décisions concernant l’IA sont prises trop rapidement, en secret, par un petit nombre d’acteurs puissants cherchant à s’enrichir davantage, sans aucun mécanisme efficace permettant aux personnes les plus touchées d’intervenir ». Améliorer les contraintes de participation des publics serait seule à même d’entraver les décisions. 

La troisième implication transversale vise à étendre la perception de la chaîne d’approvisionnement de l’IA. Des exactions sur les ressources minières au Congo en passant par celles des étiqueteurs du Kenya, « les coûts de l’IA sont systématiquement répercutés sur les communautés les moins à même de les supporter et les moins représentées dans les instances décisionnelles. Tout cadre de gouvernance qui n’étend pas son champ d’application aux communautés minières de la République démocratique du Congo, aux modérateurs de contenu d’Afrique de l’Est et aux annotateurs d’Asie du Sud-Est ne gouverne pas l’IA. Il gouverne un complexe industriel lucratif et soigneusement orchestré. » 

Le quatrième point, et peut-être le plus important sur le plan structurel, qui unifie divers exemples, concerne la question du contrôle de l’infrastructure de l’IA. « Les campagnes contre les centres de données au Nouveau-Mexique et en Uruguay ne sont pas de simples conflits environnementaux locaux. Elles constituent les prémices d’une lutte plus vaste : l’infrastructure physique de l’IA, incluant les terres, l’eau et l’énergie nécessaires à son fonctionnement, sera-t-elle considérée comme une ressource publique ou un actif privé ? Les communautés qui s’y opposent soulèvent des questions auxquelles aucune stratégie nationale en matière d’IA n’a encore apporté de réponse satisfaisante : qui autorise cette infrastructure ? Dans quelles conditions environnementales et démocratiques ? Et quels recours disposent les communautés affectées lorsque ces conditions ne sont pas remplies ? »

La liste des résistances à l’IA ne dit pas que la résistance triomphe toujours, bien au contraire, ni qu’elle suffira à corriger les inégalités de pouvoir que le développement de l’IA renforce. Elle recense seulement des actions juridiques, l’organisation des travailleurs, les campagnes citoyennes, les provocations artistiques, les outils techniques, la création de coalitions et le travail de documentation patient que ceux qui subissent ces préjudices mettent place. Ses exemples proviennent d’Allemagne, du Japon, du Kenya, du Chili, des Philippines, du Royaume-Uni, d’Uruguay, de la République démocratique du Congo et des États-Unis. Mis bout à bout, « ces éléments constituent une réalité que l’industrie de l’IA préférerait ne pas reconnaître : l’IA n’est ni une force irrésistible ni au-dessus de toute contestation démocratique, et des personnes sur tous les continents sont prêtes à remettre en question son caractère prétendument inévitable. »

Mais la liste ne se contente pas de suggestions critiques. Elle recense également des projets plus stimulants et constructifs. Par exemple : Hire a coop, une plateforme argentine et brésilienne doublée d’une campagne de communication pour encourager le recours à des entreprises coopératives, détenues par leurs travailleurs (voir également notre article sur le sujet). Ou encore, le réseau Huniki, un réseau d’entreprises technologiques spécialisées dans les langues africaines pour construire des systèmes sur mesures développées par et pour leurs locuteurs. De même, Lesan AI est un outil de traduction automatique pour deux langues éthiopiennes développés avec les traducteurs et les communautés qu’ils servent. Slow AI, de l’association AIxDesign met en lumière des approches à petites échelles… Enfin, le wiki du réseau Permacomputing défend des initiatives inspirées de la permaculture appliquées à l’informatique. 

L’initiative AI Civics de Data & Society ou la liste des résistances à l’IA lancée par Karen Hao nous invitent à amplifier les mobilisations en rendant visibles celles qui se déploient déjà, en documentant leurs réussites et leurs échecs pour permettre à chacun de s’en inspirer… de les prolonger, de les reproduire. 

Hubert Guillaud

Le toujours très inspirant institut de recherche indépendant Data & Society lance une nouvelle initiative visant à renforcer la citoyenneté à l’ère de l’IA. L’ambition est forte : faire passer le public du statut d’utilisateur à celui d’acteur, expliquent ses responsables. La culture de l’IA ne suffit pas. « Et le public mérite bien mieux qu’une simple formation à l’utilisation de l’IA. Et il l’exige de plus en plus. » « Les Américains constatent comment les systèmes d’IA façonnent leur accès aux opportunités, à leurs droits et à leur dignité, et ils s’interrogent sérieusement sur l’impact de cette technologie sur tous les aspects de la vie, du travail à l’éducation en passant par l’environnement. Comment les systèmes automatisés évaluent-ils les candidatures et les candidats eux-mêmes ? Les tuteurs IA contribuent-ils à la réussite des élèves ou, au contraire, limitent-ils leurs connaissances ? Les immenses centres de données construits pour alimenter l’IA font-ils exploser les factures d’énergie des collectivités ? Une simple « connaissance » de l’IA ne suffit pas à répondre à ces questions, ni à toutes celles qu’elles soulèvent. Chacune d’elles nous oblige à appréhender clairement la technologie, à examiner de manière critique ses applications et à mobiliser les outils de la participation citoyenne pour en orienter le développement. »

Face à l’IA, renforcer la citoyenneté plutôt qu’acculturer

De même que l’éducation civique aux États-Unis permet aux citoyens de comprendre leurs droits, leurs devoirs et le fonctionnement du gouvernement, ce travail requiert un programme d’enseignement. D’où cette initiative d’éducation civique à l’IA : « une approche de l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective. En mettant en lumière les outils civiques permettant au public d’exercer un pouvoir politique sur les systèmes d’IA et les plateformes technologiques – notamment au niveau local –, l’initiative d’éducation civique à l’IA renforcera la capacité des citoyens à participer à la conception et au déploiement de ces technologies, et contribuera à asseoir un pouvoir démocratique sur les institutions qui les créent et les promeuvent.»

Pour mobiliser la négociation collective pour peser sur l’utilisation de l’IA au travail, pour demander des changements dans les procédures d’achat des systèmes d’IA dans les écoles, pour exiger la transparence des outils de tri et de sélection automatisés, les gens doivent comprendre les processus civiques disponibles pour les utiliser. Tel est l’ambition du programme AI Civics : faciliter et approfondir l’apprentissage des modalités d’action en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourraient s’appuyer. 

Partout dans le monde, les travailleurs utilisent la négociation collective pour influencer l’utilisation de l’IA sur leur lieu de travail. Des militants font pression sur les autorités locales chargées d’autoriser les permis de construire afin d’exercer un pouvoir sur la construction des centres de données. Des élèves et des parents réclament des changements dans les politiques et les procédures d’achat des écoles. C’est la participation citoyenne en action : les communautés utilisent les leviers à leur disposition pour déterminer si et comment l’IA et ses infrastructures sont déployées. Mais avant cela, elles ont dû comprendre ces processus civiques et apprendre à les utiliser à leur avantage. Le programme AI Civics facilitera et approfondira cet apprentissage, en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourront s’appuyer.   

En 2025, D&S a organisé un cycle de conférences sur le thème “Comprendre l’IA”. L’initiative que l’Institut lance est le résultat des commentaires qu’ont adressé le public aux chercheurs. Dans ces commentaires, expliquent les chercheurs et chercheuses de D&S, trois points sont ressortis  : 

– Comme nous le disions nous même, les gens sont inquiets de l’IA. « Les gens se sentent pris au dépourvu par la rapidité et l’ampleur de ce changement, et frustrés par l’impression qu’il se produit sans leur participation ». 

– « Même les utilisateurs de l’IA s’inquiètent de ses impacts. Les participants nous ont confié utiliser des outils d’IA au quotidien, mais être mal à l’aise face aux compromis et aux coûts cachés. Ils souhaitent dépasser le vernis séduisant du battage médiatique autour de l’IA et comprendre les véritables implications de l’utilisation de ces outils, leurs coûts et avantages réels, ainsi que les moyens d’en atténuer les effets néfastes. »

– « Lassés d’être des consommateurs passifs, les citoyens cherchent des moyens de s’engager davantage. Nombreux étaient ceux qui souhaitaient découvrir des pistes concrètes pour une action collective, d’autant plus que la réglementation gouvernementale et les efforts pour responsabiliser les entreprises technologiques sont insuffisants. Nous avons constaté une volonté d’appréhender la complexité et un désir de s’opposer aux discours sur l’inévitabilité technologique. »

La culture de l’IA, la littératie, c’est-à-dire la maîtrise de savoirs, de capacités et d’aptitudes liées à l’IA, telle qu’elle est actuellement conçue, ne répond pas à ces besoins, estime l’Institut. Bien souvent, cette culture se limite à offrir la possibilité d’acquérir les compétences et les connaissances nécessaires pour utiliser l’IA et en tirer profit. Mais c’est un discours qui répète souvent que l’IA est inévitable et que ceux qui ne possèdent pas de connaissances dans ce domaine seront laissés pour compte. Dans un contexte économique déjà particulièrement difficile, pour beaucoup de gens, cette approche sonne comme une menace. 

« Dans son nouveau rapport, (404) Job Not Found : What Workforce Training Can’t Fix for Black Atlantans in the Age of AI, Anuli Akanegbu, chercheuse chez Data & Society, analyse la manière dont l’IA est abordée dans les milieux universitaires, promue par l’industrie, mise en œuvre par les pouvoirs publics et perçue au sein de la société civile. Basée à Atlanta, ville qui aspire à devenir l’épicentre de la main-d’œuvre de demain préparée à l’IA, Akanegbu décrit l’incapacité des pouvoirs publics et de l’industrie à définir clairement la culture de l’IA ou à préciser les compétences nécessaires aux travailleurs sur un marché du travail de plus en plus dominé par l’IA comme une abstraction stratégique, une forme de flou intentionnel qui transforme l’avancement professionnel en un objectif en constante évolution » (voir également toutes les limites des annonces qui exigent une « maîtrise de l’IA exigée »). « Ce flou sert un dessein : il reporte la responsabilité du chômage sur une main-d’œuvre majoritairement noire plutôt que de s’attaquer aux conditions structurelles qui rendent l’accès aux emplois de qualité de plus en plus difficile. En présentant l’adoption de l’IA comme une question d’effort individuel plutôt que de limitations systémiques, le concept de littératie de l’IA a été instrumentalisé pour promouvoir une solution simpliste au problème très complexe du déplacement d’emplois. De même que l’éducation aux médias imputait la désinformation, la manipulation médiatique et l’effondrement du système d’information aux utilisateurs individuels des réseaux sociaux, l’éducation à l’IA reproche aux travailleurs de ne pas trouver d’emploi rémunérateur plutôt qu’à un contexte socio-économique plus large qui normalise la précarité. »

D&S souhaite que son initiative parte des travailleurs, des étudiants, des citoyens… et qu’elle s’appuie sur les connaissances militantes pour aider les citoyens à exercer davantage leur pouvoir collectif à l’ère de l’IA. L’enjeu n’est pas seulement de se former à l’IA ou de s’y préparer, mais d’y ajouter la participation et l’intervention citoyenne. D&S est à la recherche d’organisations souhaitant rejoindre ce programme pour construire les ressources permettant de renforcer les capacités d’actions des citoyens. Que ce soit par exemple en créant des ressources pour les usagers des bibliothèques, ou en travaillant avec les associations de parents d’élèves pour documenter leurs méthodes pour mieux inspecter les marchés publics des districts scolaires lorsqu’ils achètent des outils technologiques… (voir notre article sur la montée de la contestation de l’IA à l’école).

« Les risques et les préjudices liés à l’IA sont bien documentés, mais ils ne sont pas inévitables. Notre mission essentielle aujourd’hui est de renforcer le pouvoir démocratique sur les institutions qui conçoivent et déploient les systèmes d’IA. Il est temps que la responsabilité publique et l’intérêt général soient de nouveau au cœur de l’innovation technologique à grande échelle. Il est temps que le grand public exerce un contrôle démocratique plus important sur l’IA. Il est temps d’instaurer une éducation civique sur l’IA. » 

En tout cas, cette approche par l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective est stimulante et inspirante. Bien loin par exemple des orientations britanniques prises en janvier de formation à l’IA pour tous, contestées par les acteurs de la médiation du Royaume-Uni (voir « Royaume-Uni : l’IA pour tous ! Laquelle ? »).

Résistances organisées

Ce travail ne part pas de nulle part. En fait, il a déjà largement commencé. A l’heure où les contestations contre la tech sont en passe d’être qualifiées d’extrémistes aux Etats-Unis, plusieurs autres collectifs de recherche et d’action documentent des modalités et des méthodes pour demander des comptes. L’AI Now Institute a ainsi lancé un kit d’action pour aider les citoyens à comprendre les réglementations mobilisables pour développer des recours contre le déploiement de centres de données. 

La journaliste Karen Hao, autrice du remarqué L’empire de l’IA (qui vient d’être traduit aux éditions L’écran fantastique) a lancé la liste de résistance à l’IA avec le Laboratoire de droit des réfugiés, le Distributed AI Research Institute (DAIR, fondé par la chercheuse Timnit Gebru) et l’association de justice sociale We and AI. Remettre en question le caractère inéluctable de l’IA est l’enjeu de cette liste qui recense et documente très succinctement et très partiellement les actes de résistance et d’opposition à l’industrie de l’IA à travers le monde. Comme le raconte l’anthropologue et l’avocate du numérique Petra Molnar (auteure de The Walls have Eyes, The New Press, 2024) dans Tech Policy Press, cette liste à été initiée par le travail du collectif Migration Tech Monitor, et notamment de celui du journaliste syrien Wael Qarssifi qui à documenté l’impact de la surveillance dans son pays et de Verónica Martínez qui a travaillé sur les effets de la surveillance et de la militarisation le long de la frontière américano-mexicaine. Comme l’explique Molnar, la liste a été intentionnellement documentée avec les initiatives évoquées et en se concentrant intentionnellement sur les pays en développement où les systèmes d’IA sont fréquemment déployés avec « moins de garanties réglementaires et un potentiel de préjudice plus élevé, et où les formes de résistance sont contraintes à être plus inventives ». 

La liste est articulée autour de quatre modes de résistances, afin d’élargir sa définition : résister, refuser, se réapproprier et réinventer. Au Nouveau-Mexique, le site documente les actions en justice menées par le New Mexico Environmental Law Center contre le développement du « Projet Jupiter », un énorme centre de données. En Uruguay, le Mouvement pour un Uruguay soutenable a lancé une campagne pour exiger une plus grande transparence concernant un projet de centre de données de Google. Au Japon, le Syndicat japonais des travailleurs de la métallurgie, de la fabrication, de l’information et des télécommunications a saisi la commission du travail du gouvernement de Tokyo afin de contraindre IBM à divulguer les données d’IA utilisées pour le calcul des salaires. « Au Chili, des habitants de Quilicura, une commune ouvrière de la banlieue de Santiago, se sont transformés en chatbot humain le temps d’une journée. Quili.ai, un site web conçu pour ressembler à une interface d’IA, redirigeait les requêtes des utilisateurs vers des membres de la communauté qui répondaient en temps réel. Pendant plus de 12 heures, en collaboration avec des artistes locaux, ils ont répondu à 25 000 questions d’utilisateurs de 68 pays. L’objectif n’était pas de prouver que les humains pouvaient surpasser l’IA, mais d’amener les gens à s’interroger sur ce qu’ils abandonnaient réellement, et au profit de qui, en externalisant leurs requêtes vers un système bâti sur l’exploitation du bassin du fleuve Maipo et de communautés comme la leur. » 

Nombre de résistances sont liées aux transformations du travail, bien sûr. En Californie, les professionnels de la santé mentale de Kaiser Permanente ont mené une grève pour dénoncer le remplacement du jugement clinique par un triage algorithmique. Au Royaume-Uni, les personnels de santé se mobilisent pour refuser l’intégration de Palantir dans le système de santé publique. 

Aux Philippines, plusieurs organisations de travailleurs du numérique ont formé une coalition pour promouvoir la représentation des travailleurs dans l’élaboration des politiques relatives à l’IA et documenter les préjudices causés par l’adoption de l’IA. A Nairobi, l’Association des étiqueteurs de données (comptant aujourd’hui près de 900 membres), milite pour des conditions de travail équitables, des contrats transparents et la reconnaissance du travail cognitif et émotionnel lié à l’entraînement des systèmes d’IA. Lorsque Microsoft a commencé à intégrer massivement des fonctionnalités d’IA dans ses produits, des utilisateurs ont lancé un site web dédié, Microslop, pour recenser la dégradation de l’expérience utilisateur. L’artiste Sam Lavigne, lui, a proposé un plug-in pour navigateur, qui manipule les chatbots afin de ralentir leur temps de réponse pour inviter les utilisateurs à s’interroger sur ce qu’ils attendent exactement et pourquoi. Decolonize Digital est une collection de ressources, une « boîte à outils de libération » qui propose des alternatives, comme par exemple des solutions pour Dé-Googliser nos existences. Ou encore O Panóptico, un projet qui recense les initiatives de reconnaissance faciale au sein du système de sécurité publique brésilien. 

Transparence, participation, élargissement et contrôle distribué

« Les initiatives recensées sur la liste AI Resist mettent également en lumière un ensemble de revendications auxquelles aucun cadre réglementaire existant ne répond pleinement, et auxquelles toute politique sérieuse de gouvernance de l’IA devrait s’attaquer », souligne  Petra Molnar. 

La première revendication transversale est bien sûr la transparence. Nombre de mouvements de résistance réclament bien souvent seulement de savoir ce qui est construit, par qui, avec quelles ressources et à quel prix. « Même des exigences de divulgation minimales, si elles étaient appliquées de manière cohérente, bouleverseraient fondamentalement le modèle opérationnel actuel du secteur, qui repose sur l’opacité à chaque étape de la chaîne d’approvisionnement », rappelle Molnar. 

La deuxième revendication est la participation. Des employés d’Amazon qui ont exigé d’être consultés avant le déploiement de l’IA au sein de leur entreprise, à la coalition philippine qui milite pour la prise en compte des travailleurs dans l’élaboration des politiques relatives à l’IA… « nombres d’exemples pointent vers le même constat : les décisions concernant l’IA sont prises trop rapidement, en secret, par un petit nombre d’acteurs puissants cherchant à s’enrichir davantage, sans aucun mécanisme efficace permettant aux personnes les plus touchées d’intervenir ». Améliorer les contraintes de participation des publics serait seule à même d’entraver les décisions. 

La troisième implication transversale vise à étendre la perception de la chaîne d’approvisionnement de l’IA. Des exactions sur les ressources minières au Congo en passant par celles des étiqueteurs du Kenya, « les coûts de l’IA sont systématiquement répercutés sur les communautés les moins à même de les supporter et les moins représentées dans les instances décisionnelles. Tout cadre de gouvernance qui n’étend pas son champ d’application aux communautés minières de la République démocratique du Congo, aux modérateurs de contenu d’Afrique de l’Est et aux annotateurs d’Asie du Sud-Est ne gouverne pas l’IA. Il gouverne un complexe industriel lucratif et soigneusement orchestré. » 

Le quatrième point, et peut-être le plus important sur le plan structurel, qui unifie divers exemples, concerne la question du contrôle de l’infrastructure de l’IA. « Les campagnes contre les centres de données au Nouveau-Mexique et en Uruguay ne sont pas de simples conflits environnementaux locaux. Elles constituent les prémices d’une lutte plus vaste : l’infrastructure physique de l’IA, incluant les terres, l’eau et l’énergie nécessaires à son fonctionnement, sera-t-elle considérée comme une ressource publique ou un actif privé ? Les communautés qui s’y opposent soulèvent des questions auxquelles aucune stratégie nationale en matière d’IA n’a encore apporté de réponse satisfaisante : qui autorise cette infrastructure ? Dans quelles conditions environnementales et démocratiques ? Et quels recours disposent les communautés affectées lorsque ces conditions ne sont pas remplies ? »

La liste des résistances à l’IA ne dit pas que la résistance triomphe toujours, bien au contraire, ni qu’elle suffira à corriger les inégalités de pouvoir que le développement de l’IA renforce. Elle recense seulement des actions juridiques, l’organisation des travailleurs, les campagnes citoyennes, les provocations artistiques, les outils techniques, la création de coalitions et le travail de documentation patient que ceux qui subissent ces préjudices mettent place. Ses exemples proviennent d’Allemagne, du Japon, du Kenya, du Chili, des Philippines, du Royaume-Uni, d’Uruguay, de la République démocratique du Congo et des États-Unis. Mis bout à bout, « ces éléments constituent une réalité que l’industrie de l’IA préférerait ne pas reconnaître : l’IA n’est ni une force irrésistible ni au-dessus de toute contestation démocratique, et des personnes sur tous les continents sont prêtes à remettre en question son caractère prétendument inévitable. »

Mais la liste ne se contente pas de suggestions critiques. Elle recense également des projets plus stimulants et constructifs. Par exemple : Hire a coop, une plateforme argentine et brésilienne doublée d’une campagne de communication pour encourager le recours à des entreprises coopératives, détenues par leurs travailleurs (voir également notre article sur le sujet). Ou encore, le réseau Huniki, un réseau d’entreprises technologiques spécialisées dans les langues africaines pour construire des systèmes sur mesures développées par et pour leurs locuteurs. De même, Lesan AI est un outil de traduction automatique pour deux langues éthiopiennes développés avec les traducteurs et les communautés qu’ils servent. Slow AI, de l’association AIxDesign met en lumière des approches à petites échelles… Enfin, le wiki du réseau Permacomputing défend des initiatives inspirées de la permaculture appliquées à l’informatique. 

L’initiative AI Civics de Data & Society ou la liste des résistances à l’IA lancée par Karen Hao nous invitent à amplifier les mobilisations en rendant visibles celles qui se déploient déjà, en documentant leurs réussites et leurs échecs pour permettre à chacun de s’en inspirer… de les prolonger, de les reproduire. 

Hubert Guillaud

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

MAJ du 21/06/2026 : Dans leur newsletter, Tim O’Reilly et Ilan Strauss, proposent de garantir un exosquelette pour appliquer l’IA à la science. Cet exosquelette est constitué d’innombrables systèmes permettant de garantir les références, comme le DOI (l’identifiant d’objets numériques qui attribue un numéro à chaque publication scientifique), RetractationWatch (la base de données des articles scientifique dépubliés et rétractés), Orcid (qui founit un identifiant unique aux chercheurs), Open Alex (un graphe de connaissances scientifiques)… ou encore le projet Vraix du MIT (cherchant à créer une toile du savoir pour distinguer les contenus possiblement génératifs des autres)… et nombres d’autres, qui n’ont pas été intégrés aux systèmes d’IA, alors qu’ils pourraient permettre de résoudre de nombreux problèmes : diminuer les citations erronées, réduire l’emprise de la littérature scientifique non valide… une infrastructure fondée sur des principes ouverts qui cherchent à garantir que les contenus scientifiques ne puissent être ni accaparés ni dégradés. Ces infrastructures sont des biens publics que les entreprises d’IA ignorent pour la plupart ou, pire, fragilisent. « À l’heure actuelle, la relation entre l’IA et l’infrastructure scientifique est presque exclusivement extractive. Les entreprises d’IA entraînent leurs modèles sur des articles scientifiques. Elles créent des produits capables de générer et de manipuler des textes scientifiques. Elles se disputent le marché de l’« IA au service de la science ». Pourtant, elles ne contribuent pratiquement pas à l’infrastructure qui, à la base, garantit la fiabilité des connaissances scientifiques. »

Les entreprises d’IA consomment du contenu scientifique sans rien apporter en retour. Strauss et O’Reilly font une analogie avec Content ID de YouTube : face à l’utilisation non autorisée de leurs œuvres, la première réaction de l’industrie musicale a été d’exiger leur retrait. La réponse de YouTube a été : « Et si nous vous aidions plutôt à les monétiser ? » Cette approche a permis d’aligner les intérêts et de créer une économie dynamique pour les créateurs. Nous devrions appliquer le même raisonnement à la science. Les entreprises d’IA ne devraient pas seulement utiliser l’infrastructure scientifique pour améliorer leurs produits (elles le devraient pourtant), mais elles devraient surtout chercher à aider la science à gagner en valeur, en pérennité et en exhaustivité.

Pour cela, les systèmes d’IA devraient améliorer la validation de leurs sources et références. L’infrastructure existe, il leur suffit de l’utiliser. Ils pourraient également réinjecter les métadonnées extraites dans OpenAlex, améliorant ainsi le graphe de données pour tous. Ils pourraient utiliser et financer RetractationWatch pour améliorer leurs modèles et réponses. Les fournisseurs d’IA pourraient également financer cette infrastructure scientifique très fragile qui constitue le socle technique de la crédibilité de la science. « Les entreprises d’IA, qui génèrent des milliards de revenus grâce à des produits reposant sur la crédibilité scientifique, devraient contribuer à l’infrastructure qui garantit cette crédibilité. Il ne s’agit pas de philanthropie, mais d’un intérêt bien compris.» Elles pourraient également contribuer a améliorer cette chaîne qui identifie la provenance du contenu scientifique. « Lorsque l’IA contribue à un article scientifique, cette contribution doit être traçable : elle ne doit pas simplement faire l’objet d’une déclaration standard, mais être liée à des affirmations, des sources et des étapes de vérification précises. »

« Les entreprises d’IA qui s’appuieront sur cette infrastructure créeront de meilleurs produits. Mais surtout, elles investiront dans l’infrastructure civilisationnelle qui rend possible, à la base, l’existence de connaissances fiables. À condition toutefois que les entreprises d’IA cessent de considérer cette question comme le problème d’autrui et commencent à la voir comme un socle sur lequel bâtir — un socle dont dépend leur propre succès dans le domaine scientifique.»

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

MAJ du 21/06/2026 : Dans leur newsletter, Tim O’Reilly et Ilan Strauss, proposent de garantir un exosquelette pour appliquer l’IA à la science. Cet exosquelette est constitué d’innombrables systèmes permettant de garantir les références, comme le DOI (l’identifiant d’objets numériques qui attribue un numéro à chaque publication scientifique), RetractationWatch (la base de données des articles scientifique dépubliés et rétractés), Orcid (qui founit un identifiant unique aux chercheurs), Open Alex (un graphe de connaissances scientifiques)… ou encore le projet Vraix du MIT (cherchant à créer une toile du savoir pour distinguer les contenus possiblement génératifs des autres)… et nombres d’autres, qui n’ont pas été intégrés aux systèmes d’IA, alors qu’ils pourraient permettre de résoudre de nombreux problèmes : diminuer les citations erronées, réduire l’emprise de la littérature scientifique non valide… une infrastructure fondée sur des principes ouverts qui cherchent à garantir que les contenus scientifiques ne puissent être ni accaparés ni dégradés. Ces infrastructures sont des biens publics que les entreprises d’IA ignorent pour la plupart ou, pire, fragilisent. « À l’heure actuelle, la relation entre l’IA et l’infrastructure scientifique est presque exclusivement extractive. Les entreprises d’IA entraînent leurs modèles sur des articles scientifiques. Elles créent des produits capables de générer et de manipuler des textes scientifiques. Elles se disputent le marché de l’« IA au service de la science ». Pourtant, elles ne contribuent pratiquement pas à l’infrastructure qui, à la base, garantit la fiabilité des connaissances scientifiques. »

Les entreprises d’IA consomment du contenu scientifique sans rien apporter en retour. Strauss et O’Reilly font une analogie avec Content ID de YouTube : face à l’utilisation non autorisée de leurs œuvres, la première réaction de l’industrie musicale a été d’exiger leur retrait. La réponse de YouTube a été : « Et si nous vous aidions plutôt à les monétiser ? » Cette approche a permis d’aligner les intérêts et de créer une économie dynamique pour les créateurs. Nous devrions appliquer le même raisonnement à la science. Les entreprises d’IA ne devraient pas seulement utiliser l’infrastructure scientifique pour améliorer leurs produits (elles le devraient pourtant), mais elles devraient surtout chercher à aider la science à gagner en valeur, en pérennité et en exhaustivité.

Pour cela, les systèmes d’IA devraient améliorer la validation de leurs sources et références. L’infrastructure existe, il leur suffit de l’utiliser. Ils pourraient également réinjecter les métadonnées extraites dans OpenAlex, améliorant ainsi le graphe de données pour tous. Ils pourraient utiliser et financer RetractationWatch pour améliorer leurs modèles et réponses. Les fournisseurs d’IA pourraient également financer cette infrastructure scientifique très fragile qui constitue le socle technique de la crédibilité de la science. « Les entreprises d’IA, qui génèrent des milliards de revenus grâce à des produits reposant sur la crédibilité scientifique, devraient contribuer à l’infrastructure qui garantit cette crédibilité. Il ne s’agit pas de philanthropie, mais d’un intérêt bien compris.» Elles pourraient également contribuer a améliorer cette chaîne qui identifie la provenance du contenu scientifique. « Lorsque l’IA contribue à un article scientifique, cette contribution doit être traçable : elle ne doit pas simplement faire l’objet d’une déclaration standard, mais être liée à des affirmations, des sources et des étapes de vérification précises. »

« Les entreprises d’IA qui s’appuieront sur cette infrastructure créeront de meilleurs produits. Mais surtout, elles investiront dans l’infrastructure civilisationnelle qui rend possible, à la base, l’existence de connaissances fiables. À condition toutefois que les entreprises d’IA cessent de considérer cette question comme le problème d’autrui et commencent à la voir comme un socle sur lequel bâtir — un socle dont dépend leur propre succès dans le domaine scientifique.»

Rapidement quelques réflexions construites en préparant mon intervention lors d’une journée autour de l’IAG organisée par l’APDEN de Poitiers. Merci à toute l’équipe pour l’invitation et l’organisation.

Ecrire du code.

Arthur Mensch est Le PDG de Mistral AI, entreprise spécialisée dans l’IA et « licorne » française. Il vient d’être auditionné par l’assemblée nationale. Si vous vous intéressez au sujet, l’entretien est assez intéressant même s’il faut très souvent faire la part de ce qui relève de la réalité de cette firme (et qui peut être étendu à d’autres semblables) et la dimension très prégnante de l’opportunité de lobbying qui lui est ainsi offerte (mais c’est le jeu, il fait son taff, et il le fait plutôt très bien).

Deux séquences, ou plus exactement deux phrases m’ont beaucoup frappé dans cette intervention de presque une heure trente.

« Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Je répète et souligne : « Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. »

Et il poursuit : « Aujourd’hui vous n’êtes plus un artisan, vous êtes un manager, donc vous demandez à des agents (IA) d’écrire le code pour vous. Vous donnez les spécifications ; vous êtes un donneur d’ordre. » (la séquence est accessible à partir de 1h 8 min et 41 sec.

Et là quand j’entends ça j’ai plein de questions.
Première question : est-ce que c’est vrai ? Alors disons oui et non. Pour en avoir échangé avec des collègues informaticien.ne.s dont certain.e.s ont également travaillé dans ces grands groupes (Google et Facebook), disons que oui c’est vrai il existe des ingénieurs / développeurs qui n’écrivent plus de ligne de code, mais il existe aussi toujours quand même qui codent les agents IA qui à leur tour vont coder à la place d’autres ingénieurs et/ou développeurs. Il y a d’ailleurs une expression dédiée, on appelle cela du « Vibe Coding » qui consiste à créer du code informatique (par des initiés ou des non-initiés) en utilisant du langage naturel grâce à l’IA.

Deuxième question : est-ce que c’est grave ? Je n’ai pas la réponse à court terme mais à moyen terme j’ai l’absolue certitude que cela l’est. Et que cela l’est éminemment.

Troisième question : est-ce que c’est une bonne nouvelle ? Pour répondre, je vous propose de transposer la situation du PDG d’une boite d’IA expliquant que ses ingénieurs n’écrivent plus de ligne de code pour … coder, à la situation, par exemple, d’un ou d’une responsable de formation, d’un ou d’une enseignante, qui dirait : « je n’ai plus aucun étudiant / élève qui ait besoin de comprendre les concepts et notions que je manipule pour leur transmettre un savoir et qu’ils soient en capacité d’en produire de nouveaux à leur tour. Et là c’est, convenez-en, tout à fait vertigineux. Alors oui bien sûr, comparaison n’est pas raison, les ingénieurs d’Arthur Mensch ne sont pas les élèves ou étudiants dans nos classes et nos amphis, et oui bien sûr le code est un langage mais on pourrait philosopher quelques heures (en relisant Saussure, Chomsky, Wittgenstein et quelques autres) sur le fait qu’il est ou non une langue. Mais vous voyez l’idée.

Quatrième question. Si l’on s’accorde sur le fait que le code est une langue ou à tout le moins un langage, quand vous n’écrivez ou ne parlez plus une langue, au bout de combien de temps cessez-vous de la comprendre et de la maîtriser ? Arthur Mensch le dit lui-même, il est de cette génération « d’artisans du code » (il a 33 ans), il a appris cet artisanat et il dit aussi que cela lui a plu. Mais une autre génération arrive, qui n’aura plus la nécessité d’apprendre, ou d’apprendre autant. Alors que feront-ils ? Et s’ils n’écrivent plus une ligne de code mais doivent continuer de fabriquer des applications, alors que feront-ils … sans code ? Autre vertige.

Alors oui je sais, entre ce que dit Arthur Mensch, et le contexte et la place depuis lesquels il dit cela, il y a tout de même une série de nuances à apporter. Pour autant, dans le champ scientifique qui est le mien (les sciences de l’information et de la communication), il nous appartient précisément de prendre des énoncés pour ce qu’ils disent dans l’instant, autant que pour ce qu’ils installent aussi en terme de narration sociale plus ou moins implicite. Et Arthur Mensch « incarnant » et portant le discours technophile, accélérationniste et dérégulateur autour de l’IA, ce qu’il dit (même si cela n’est que 2 minutes dans une vidéo d’une heure trente) est en soi un énoncé particulièrement performatif auprès de celles et ceux qui l’écoutent. Et ce que dit Arthur Mensch c’est que « aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Comprenez et entendez que donc tous les ingénieurs dans toutes les entreprises d’IA qui sont ou se rêvent en futures licornes, n’écrivent et n’écriront plus une ligne de code ou en tout cas n’ont et n’auront plus vocation à le faire. Juste du Vibe Coding.

Le cauchemar de Lessig.

« Code Is Law. » (traduit en français par Framasoft). « Le code c’est la loi. » C’est un livre (paru en 1999, « Code And Other Laws of Cyberspace« ) et un article (paru en 2000). C’est l’un des textes fondateurs de la culture numérique. Publié au début des années 2000, absolument fondamental et totalement visionnaire, Lawrence Lessig (professeur de droit, spécialiste de propriété intellectuelle, inventeur des licences Creative Commons, etc.), Lawrence Lessig y explique notamment que le code est un régulateur, que le code décide et que le code :

« définit la manière dont nous vivons le cyberespace. Il détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. Il détermine si l’accès à l’information est global ou sectorisé. Il a un impact sur qui peut voir quoi, ou sur ce qui est surveillé. Lorsqu’on commence à comprendre la nature de ce code, on se rend compte que, d’une myriade de manières, le code du cyberespace régule. »

Et il poursuit en expliquant que :

Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n’est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D’autres gens – les codeurs – le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix – et si nous pourrons alors déterminer la manière dont ces valeurs se régulent – ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place. 

D’où ma dernière question : if « Code Is Law », then what da fuck is Vibe Coding ?

Le « Vibe Coding », un monde dans lequel les entreprises les plus puissantes en IA n’auraient que des ingénieurs et des développeurs n’écrivant plus de ligne de code, ce monde c’est le cauchemar de Lawrence Lessig et notre cauchemar à toutes et tous. Car si les codeurs eux-mêmes sont à distance du langage ou de la langue par laquelle ils installent des valeurs dans le code, s’ils ne parlent ou n’entendent plus cette langue et s’ils se réduisent à des fonctions de « managers d’agents IA – faussement – autonomes », alors comment elles et eux en première ligne, et surtout comment nous toutes et tous en première cible, comment serons-nous encore capables de jouer collectivement un rôle dans la circulation et l’établissement de ces valeurs, de ces agendas politiques, économiques, idéologiques, que le code véhicule et qui n’ont jamais été aussi puissants et déterminants, et dans le même temps jamais à ce point été inféodés à des intérêts presqu’uniquement marchands, mafieux et singuliers ?

Si le code se passe de développeurs autres que des agents non-humains, alors la question de la maîtrise des valeurs que le code véhicule devient une non-question, un inquestionnable.

« Un algorithme c’est la décision de quelqu’un d’autre » me faisait l’honneur d’écrire Antonio Casilli dans la préface à l’un de mes tout premiers ouvrages. Et ce quelqu’un n’était pas extrêmement compliqué à trouver, à isoler, et à questionner. Mais un algorithme « vibe codé » c’est la décision de … qui ?

« Les limites de mon langage signifient les limites de mon propre monde » écrivait Wittgenstein.

L’intelligence c’est de l’énergie (et la connerie c’est de l’énergie moins chère).

Arthur Mensch dit aussi plein d’autres trucs qui installent des narratifs extrêmement clairs et puissants dans leur fonction d’agenda. Par exemple à plusieurs reprises il répète qu’il faut réfléchir ou considérer l’intelligence comme on réfléchit à l’énergie, à l’électricité. Alors bien sûr il parle de l’intelligence artificielle. Mais il ne dit pas « intelligence artificielle », il dit juste « intelligence ». Et ce n’est pas « juste » une omission ou un raccourci. C’est l’endroit d’où il parle, celui d’où il est situé, c’est l’énoncé de son futur probable et de son futur désiré, d’un futur qui répond à « son » agenda propre. Un mode dans lequel en effet l’intelligence se capte, se stocke, se transmet et se calcule comme l’énergie, comme l’électricité. D’ailleurs et c’est aussi extrêmement frappant, à plusieurs reprises et sur plusieurs questions, il commence toujours par répondre en nombre de kilowatts ou de mégawatts. C’est son unité de mesure, son mètre étalon et ce sur presque l’ensemble des questions qui lui sont posées et adressées. Tout se calcule en kilowatts ou mégawatts. Tout est là. Toutes les réponses sont là. Un mètre étalon. Qui est aussi son plus grand talon d’Achille (à lui et à l’ensemble de l’industrie extractiviste de l’IA).

Dans le New Yorker, l’écrivaine Jessica Winter revient sur l’invasion de l’IA à l’école. Elle pensait être tranquille jusqu’à ce que ses enfants entrent au lycée au moins. Il n’en a rien été. Sa fille de 11 ans qui vient d’entrer au collège a reçu un Chromebook sur lequel Gemini était préinstallé. Quelque soit les travaux qu’elle doit y accomplir, d’innombrables messages lui proposent de l’aider à écrire, à modifier ses présentations, à générer des images… Désormais l’IA est là. « Elle lit ses poèmes et connaît ses mots de passe. Elle l’observe constamment à travers l’écran. » 

Aux Etats-Unis, aucune entreprise d’IA ne détient de monopole sur l’école. Mais elles sont présentes partout. Dans les écoles publiques de Boston, les élèves de sixième utilisent les chatbots d’OpenAI et d’Anthropic pour se préparer aux tests standardisés. Dans les districts scolaires de New York et de Los Angeles, entre autres, des élèves de maternelle interagissent avec Amira, un robot de lecture ludique qui enregistre leur voix afin de leur fournir des commentaires personnalisés grâce à l’IA. Un parent d’élève d’école publique de Brooklyn a raconté qu’en cours d’arts plastiques, les élèves de CE1 pouvaient créer des œuvres avec l’IA grâce à Adobe Express for Education… « Le soutien à l’IA générative dans les écoles primaires et les collèges repose sur la conviction qu’une initiation précoce à cette technologie favorisera la culture numérique, donnera aux élèves des bases en ingénierie et les préparera à un avenir où la plupart des professions seront fortement influencées par l’IA. » 

Des outils… pour fidéliser les enfants

Dans le cadre d’un des procès contre les géants du numérique aux Etats-Unis, des documents internes de Google ont montré que la motivation de Google à fournir des outils aux écoles visait à « fidéliser les enfants à vie », rappelait le journaliste Tyler Kingkade pour NBC News en janvier. Pour Sarah Gardner, la responsable de Heat Initiative, une association de parents militants critique des plateformes de médias sociaux, nous devrions surtout nous interroger pour savoir pourquoi nous laissons les géants du numérique s’accaparer le marché scolaire. Et notamment Google, qui domine largement ce marché. « Selon les cabinets d’études de marché, les écoles représentent aujourd’hui 80 % des achats de Chromebooks. En 2017, Google annonçait que plus de la moitié des élèves des écoles publiques américaines utilisaient ses applications et produits pour leurs travaux scolaires. En 2021, ce chiffre dépassait les 170 millions d’élèves et d’enseignants à travers le monde. » 

Jessica Winter pointe de nombreuses études qui montrent les limites de l’usage de l’IA dans le cadre scolaire. La Brookings Institution a publié une analyse préliminaire sur l’IA et l’éducation des enfants, combinant l’analyse d’environ quatre cents études et des centaines d’entretiens avec des élèves, des parents, des enseignants et des spécialistes des technologies. Cette analyse conclut que les outils d’IA « compromettent le développement fondamental des enfants ». 

Même certains défenseurs de l’IA dans l’éducation reconnaissent que l’IA présente des risques cognitifs et socio-émotionnels importants pour les jeunes. Amanda Bickerstaff est la cofondatrice et présidente de l’organisation AI for Education, qui propose des formations aux enseignants et aux élèves sur l’intelligence artificielle générative. « Les enfants de moins de dix ans ne devraient pas utiliser de chatbots », explique-t-elle. « Ces outils requièrent une expertise et des compétences d’évaluation que même de nombreux adultes ne possèdent pas. » La décision de Google de rendre Gemini accessible à tous les âges, a-t-elle ajouté, est l’une des rares fois de sa carrière où elle a perdu le sommeil à cause d’une question professionnelle. Elle se souvient avoir pensé : « ils savent pertinemment que cela va être néfaste pour les enfants, et pourtant, ils persistent. » Bickerstaff poursuit : « Je ne pense pas qu’ils se posent des questions fondamentales comme : “Si un enfant peut immédiatement créer une image au lieu de la dessiner, qu’adviendra-t-il de sa capacité à réfléchir et à dessiner par lui-même ?” » Drew Bent, responsable de la recherche en éducation chez Anthropic, répond : « Ce n’est pas à nous, en tant qu’entreprise, de dire : “Utilisez l’IA à tel âge, pas à tel autre.” » 

La fille de Winter a réalisé une présentation qui comportait nombre de défauts. L’IA lui a proposé de les corriger. Mais elle est restée imperturbable face à la proposition : « Je préfère la mienne, parce qu’elle est originale et que j’y ai mis tout mon cœur. Je préfère la mienne parce qu’elle ne m’a pas pris trente secondes. » 

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement « bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive ». « Les enfants n’ont pas ce filtre adulte qui consiste à extraire stratégiquement des informations de leurs expériences, et retiennent donc une multitude de détails inattendus que les adultes jugeraient sans intérêt. Cela leur permet d’être créatifs d’une manière qui nous est inaccessible », explique un psychologue. Dans son livre, Teaching Machines (MIT Press, 2020), la journaliste spécialiste des questions d’éducation technologiques, Audrey Watters (voir aussi sa newsletter), rappellait que l’apprentissage personnalisé a toujours été le rêve de ceux qui automatisent l’éducation. 

C’est ce que proposent les promoteurs d’IA dans l’éducation à l’image du programme de formation pour les enseignants, de l’Académie nationale pour l’enseignement de l’IA. L’académie, dont le siège se trouve dans les locaux de la Fédération unie des enseignants (UFT) à Manhattan, est un projet conjoint de l’UFT et de la Fédération américaine des enseignants (AFT), financé par un partenariat de vingt-trois millions de dollars avec Microsoft, OpenAI et Anthropic. Les cours en présentiel et en ligne proposés par l’académie visent à aider les enseignants « non pas à accepter l’inévitable, mais à le maîtriser », explique Randi Weingarten, présidente de l’AFT.  Celle-ci n’est pourtant pas une prosélyte. Si les membres du syndicat sont en désaccord avec la politique pro-IA de leur district scolaire, ou s’ils ne veulent pas que Gemini s’immisce dans les espaces de travail de leurs élèves, « nous les défendrons », raconte-t-elle à Winter. Nombre de syndicats d’enseignants américains ont refusé de collaborer avec Google car l’entreprise « n’a pas fait les promesses que nous attendions concernant la protection de la sécurité et de la vie privée des élèves et du personnel. »   

D’autres organisations, dirigées par des enseignants et des parents, tentent également de mettre en place des systèmes d’autorisation pour limiter l’utilisation de l’IA dans les écoles. Craig Garrett, dont l’enfant fréquente une école publique de Brooklyn, a créé un groupe WhatsApp de parents inquiets après avoir découvert que son enfant, alors en maternelle, lisait devant l’assistant vocal Amira en classe depuis le début de l’année pour que celui-ci le corrige. Des militants se demandent si l’utilisation d’Amira en classe, par l’enregistrement des voix des élèves, enfreint une loi de l’État de New York interdisant la « divulgation non autorisée d’informations personnelles identifiables ». Garrett fait également partie de la Coalition pour un moratoire sur l’IA, un groupe d’enseignants, de parents et d’élèves de toute la ville qui demande au maire de New York, Zohran Mamdani, et à Kamar Samuels, le chancelier des écoles, un moratoire de deux ans sur l’utilisation de l’IA dans les écoles primaires et secondaires. Un groupe similaire, Schools Beyond Screens, a été créé l’année dernière parmi les parents du district scolaire unifié de Los Angeles. Parmi les objectifs de Schools Beyond Screens figure un contrôle plus strict des contrats lucratifs que les districts scolaires urbains concluent avec les entreprises technologiques. L’association souhaite également que les districts établissent des directives de consentement plus claires concernant l’utilisation des plateformes numériques et adoptent une Charte des droits des élèves en matière de technologie, incluant le droit de « lire des livres entiers », de « lire et d’écrire régulièrement sur papier » et de bénéficier d’un « environnement d’apprentissage peu stimulant ». 

La présence de Chromebooks dans les salles de classe n’est pas inévitable, espère Winter. Comme le montrait la journaliste Natasha Singer dans le New York Times, la polémique autour de la technologie à l’école ne se limite pas aux téléphones. Le collège McPherson, au Kansas, qui a interdit les téléphones portables des élèves pendant les heures de cours, depuis 2022, les laissait regarder des vidéos ou jouer aux jeux vidéos sur les Chromebooks qu’elle leur fournit et qu’ils utilisent en classe. Face à cette contradiction de plus en plus flagrante, le collège a fait machine arrière. En décembre 2025, il a demandé aux élèves de rendre les ordinateurs portables. 

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie. Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage. Aujourd’hui, Google et Microsoft, ainsi que de nouveaux venus comme OpenAI, rivalisent pour diffuser leurs chatbots d’intelligence artificielle dans les écoles. Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves. Certains chercheurs et organisations, comme l’UNESCO, mettent même en garde contre une dépendance excessive à la technologie, qui peut distraire les élèves et nuire à leur apprentissage. Des écoles de Caroline du Nord, de Virginie, du Maryland et du Michigan, qui achetaient autrefois un appareil pour chaque élève, réévaluent désormais l’utilisation intensive des technologies en classe. Et les Chromebooks, les ordinateurs portables les plus populaires dans les écoles américaines, sont devenus un point central de ces discussions. Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves. » Avec le fait que plus de 30 États américains ont limité ou interdit l’utilisation des téléphones portables par les élèves à l’école, le retrait des Chromebooks est le signe d’une prise de conscience, estime Singer. De plus en plus de parents soutiennent des initiatives comme Schools Beyond Screens et le Distraction-Free Schools Policy Project, visant à contrôler et limiter l’utilisation des technologies à l’école. Dix États, dont le Kansas, le Vermont et la Virginie, ont récemment déposé des projets de loi pour limiter le temps d’écran des élèves, exiger des preuves de sécurité et d’efficacité pour les outils numériques scolaires ou permettre aux parents de refuser que leur enfant utilise des appareils numériques pour apprendre. 

Face aux accusations de tout acabit, Google a déclaré avoir fourni aux établissements scolaires des outils pour verrouiller les écrans des Chromebooks des élèves, limiter le contenu qu’ils consultent, gérer leur accès à YouTube et désactiver les Chromebooks après les cours. L’entreprise a également indiqué avoir désactivé YouTube par défaut pour les élèves du primaire et du secondaire disposant d’un compte Google scolaire. 

A McPherson, au Kansas, profs et élèves semblent redécouvrir qu’il y a un monde hors du numérique. 

Dans au autre article, Singer (qui publiera en août un livre sur l’invasion des technologies à l’école, Coding Kids, Norton, 2026) prolonge le sujet d’autres exemples encore. Suite à des réclamations de parents, « le conseil scolaire de Los Angeles a adopté une résolution exigeant du district qu’il limite l’accès des élèves à YouTube, supprime totalement les appareils numériques jusqu’en CP et instaure des limites de temps d’écran pour les classes supérieures, faisant de Los Angeles le premier grand système scolaire américain à prendre une telle mesure. » Le mois dernier, le gouverneur de l’Utah a promulgué une loi permettant aux parents de consulter le temps passé par leur enfant sur un appareil scolaire et de vérifier les sites web visités. A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens. Les districts scolaires sommés d’évaluer les outils qu’ils utilisent sont souvent à la peine par manque de moyens. A Los Angeles, Nick Melvoin avec l’association Schools Beyond Screens, a présenté une nouvelle résolution visant à limiter l’accès aux technologies à l’école. Outre la mise en place de nouvelles limites de temps d’écran pour chaque niveau scolaire, cette politique imposera aux écoles primaires et collèges d’interdire l’utilisation des appareils électroniques par les élèves pendant la pause déjeuner et la récréation. Le district devra également établir un rapport sur tous les contrats technologiques scolaires en vigueur. 

L’université est également colonisée

Mais il n’y a pas qu’à l’école, au collège ou au lycée que le déploiement de l’IA pose problème. L’université d’État de Californie (Cal State), fort de 460 000 étudiants et de 22 campus, ambitionne de devenir la plus grande université américaine spécialisée dans l’IA, rapportait en octobre 2025 la journaliste Natasha Singer pour le New York Times. Amazon et OpenAI y déploient des programmes de formation sur leurs produits d’IA. L’université a signé un contrat de 16,9 millions de dollars à OpenAI pour fournir ChatGPT Edu, l’outil de l’entreprise destiné aux établissements scolaires, à plus d’un demi-million d’étudiants et de membres du personnel – un déploiement qu’OpenAI a qualifié de plus important déploiement mondial de ChatGPT à ce jour. « Le renforcement des liens entre Cal State et l’industrie témoigne d’une transformation profonde des rapports de force sur les campus américains ». Il ne s’agit plus seulement de fournir un peu de matériel ou des outils, mais ici, de fournir un partenariat pédagogique impliquant une transformation des modalités pédagogiques mêmes. 

L’université ambitionne de construire « un système d’enseignement supérieur basé sur l’IA qui surpasse tous les modèles existants, tant par son ampleur que par son impact ». Là encore, pourtant, certains professeurs se sont opposés à ce projet d’IA, alors que l’université est confrontée à d’importantes coupes budgétaires. Pour eux, le contrat de plusieurs millions de dollars avec OpenAI – pour lequel l’université n’a pas ouvert d’appel d’offres à des concurrents comme Google – tient du gaspillage (alors que le réseau des community colleges de Californie a obtenu gratuitement les services de chatbot IA de Google pour plus de deux millions d’étudiants et de professeurs).

Les conseils de faculté de plusieurs campus de Cal State ont adopté cette année des résolutions critiquant l’initiative en matière d’IA, affirmant que l’université n’avait pas suffisamment pris en compte le problème de la tricherie via les chatbots. Les professeurs ont également déclaré que les plans de l’administration minimisaient les risques que l’IA fait peser sur l’esprit critique des étudiants et ignoraient les pratiques de travail problématiques du secteur ainsi que les coûts environnementaux. Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin. 

Une étude récente de chercheurs de Stanford rapportée par le Hechinger Report, montrait par exemple que les outils d’IA ne faisaient pas les mêmes corrections de copies aux élèves selon leurs origines ethniques. « Les dissertations attribuées à des étudiants noirs ont reçu davantage d’éloges et d’encouragements, quand celles attribuées à des étudiants hispaniques étaient plus susceptibles de susciter des corrections grammaticales et orthographiques. Lorsque l’étudiant était identifié comme blanc, les commentaires portaient plus souvent sur la structure de l’argumentation, les preuves et la clarté – des remarques qui peuvent inciter les étudiants à approfondir leurs idées. » 

De nombreux enseignants affirment qu’un enseignement adapté aux réalités culturelles – qui prend en compte l’identité et le vécu des élèves – peut accroître leur engagement scolaire. Mais, si certains élèves sont systématiquement protégés des critiques et ne sont pas incités à progresser en leurs montrant leurs lacunes, le risque est fort d’aggraver encore les différences ethno-sociales. « Le risque est que, sans une vigilance accrue, cette personnalisation puisse abaisser le niveau d’exigence pour certains élèves tout en le relevant pour d’autres. »

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services. En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. » Quand Google déploie son chatbot auprès des moins de 13 ans, « Google affirme clairement que ces problèmes ne le concernent pas, puisqu’il rejette explicitement la responsabilité sur les parents dans l’annonce du lancement imminent de son produit. Les parents, selon Google, doivent rappeler à leurs enfants de ne pas partager d’informations sensibles avec le chatbot. Les parents, dit l’entreprise, doivent « aider leurs enfants à développer leur esprit critique ». Les parents, dit Google, doivent rappeler à leurs enfants que « Gemini n’est pas humain ». 

Pour Waters, « il ne s’agit pas simplement d’automatiser l’enseignement et l’apprentissage formels (comme si ce n’était pas déjà assez grave) ; il s’agit de saper le savoir ».

Pourquoi l’IA semble-t-elle la solution à l’enseignement ? 

Le chercheur américain Daniel Greene livre pour le magazine de l’association américaine des professeurs d’université (Aaup) une stimulante synthèse des enjeux du développement de l’IA à l’université. L’université est traversée par d’innombrables crises et la dernière en date est liée au développement d’une technologie perçue à la fois « comme une atteinte fondamentale à notre mission éducative et comme une solution potentielle : l’IA générative ». Lorsque nous abordons la question du rôle de l’IA sur les campus, « nous devons à la fois être attentifs non seulement aux codes écrits avec Claude ou aux feuilles de calcul nettoyées avec Gemini, mais aussi aux fonctions politiques et économiques que cette technologie remplit au sein de nos institutions – et pour qui ». Une récente enquête de l’Aaup soulignait pourtant que les professeurs se sentent exclus des décisions importantes concernant l’IA sur le campus. En fait, ils ont peu de place pour décider des achats auxquels procèdent les établissements et encore moins sur la conception, l’utilisation et la réglementation des déploiements de l’IA à grande échelle sur les campus. Cela ne les empêche d’avoir très concrètement à combattre et négocier l’IA dans leur enseignement, leur recherche et leurs services. 

Reste que si les responsables des universités, les élus et les administrations sont si enthousiastes à propos du développement de l’IA sur les campus, c’est d’abord parce que le travail dans l’enseignement supérieur (comme dans l’administration ou les hôpitaux) est à forte intensité de main d’oeuvre et qu’il est difficile à automatiser. Pire, la croissance de la productivité y reste faible. « Nous enseignons à peu près de la même manière qu’il y a soixante ans, mais tout (y compris la main-d’œuvre) coûte plus cher. » Le succès de l’IA n’est pas tant à chercher dans ses performances pour aider les élèves à apprendre, mais reste d’abord et avant tout une promesse d’optimisation des coûts. Une optimisation théorisée dans les années 60 par l’économiste William Baumol sous le nom de maladie des coûts. 

Comme l’explique Nicholas Beuret dans Jacobin, la productivité du travail n’est pas la même dans tous les secteurs. Dans certains secteurs, la productivité n’évolue pas. Jouer une pièce de Shakespeare prend le même temps aujourd’hui qu’il y a 5 siècles. Dans les services à forte intensité de main-d’œuvre, comme la santé ou l’éducation, les salaires augmentent malgré une productivité stable, ce qui entraîne une hausse du coût relatif de ces services. « La maladie des coûts de Baumol engendre une faible croissance économique où les services essentiels, tels que les soins de santé ou d’éducation, deviennent inabordables, tandis que le prix des téléviseurs baisse d’année en année. » Avec la concurrence de l’IA, c’est tout le secteur des services qui est menacé par la maladie des coûts. A terme, estime Beuret, le risque est que des pans entiers de l’économie contemporaine deviennent non viables. Il en résulterait une stagnation profonde et persistante, et non une résolution. Et les timides projets de revenu universel défendus par les technophiles de la Silicon Valley seraient ridiculement insuffisants face à un tel événement. A terme, le succès de l’IA serait la plus grande menace économique que nous ayons à affronter. 

Pour Greene, la maladie des coûts est encore plus vive dans le contexte de la réduction des financements publics. Les frais de scolarité remplacent les investissements publics. Les étudiants veulent donc obtenir leur diplôme le plus rapidement possible pour s’endetter le moins possible, poussant l’enseignement supérieur à fonctionner comme des usines à diplômes. Et ChatGPT et les autres outils d’IA permettent d’accélérer la délivrance de diplômes. Pourtant, la maladie des coûts, n’explique par pourquoi en à peine un an, tant d’établissements d’enseignements supérieurs ont trouvé les fonds nécessaires pour créer des instituts et des diplômes d’IA. « Il s’agit manifestement d’un phénomène politique ». A l’heure où l’éducation supérieure est attaquée au niveau fédéral et où l’image de l’éducation supérieure accusée de toutes parts par l’administration Trump, l’adoption de l’IA est là pour réhausser le prestige et apaiser les détracteurs. 

« Ni les professeurs ni les administrateurs n’ont de contrôle sur les fonctionnalités d’IA intégrées aux logiciels d’entreprise », qui se déploient via de simples abonnements, explique Greene. Dans les universités, l’IA ne se déploie pas seulement dans les outils mis à disposition des professeurs et des élèves, mais également dans des logiciels de paye, de recrutement, et via des systèmes de surveillance. Elle est aussi une aubaine pour contrôler les contenus et les personnes, que ce soit pour fouiller dans les programmes de cours à la recherche de mentions de l’esclavage ou pour trouver les adresses d’étudiants manifestants. Elle est là pour faciliter « une analyse rapide, grossière et à grande échelle » et peu coûteuse. Comme l’a souligné la juriste Salome Viljoen, la droite comprend parfaitement que toute gouvernance est une gouvernance des données. « L’analyse automatisée de texte devient un moyen de contourner toute déférence, même de façade, envers la délibération institutionnelle et la consultation d’experts ». « C’est ce que montrait d’ailleurs très bien la révolution technoculturelle d’Elon Musk au sein du Département de l’efficacité gouvernementale (Doge), où de jeunes hommes fraîchement ou à peine diplômés utilisaient ChatGPT pour réécrire la réglementation fédérale, examiner les demandes de subvention à la recherche de délits d’opinion et scruter les profils des réseaux sociaux et les antécédents judiciaires d’étudiants en situation irrégulière dans l’espoir de trouver des prétextes pour les expulser. Au Fonds national pour les sciences humaines, Justin Fox, ancien associé en capital-investissement devenu fervent défenseur du DOGE, annulait des subventions en demandant à ChatGPT d’indiquer, en 120 caractères maximum, si un projet impliquait la diversité, l’équité et l’inclusion. »

A l’université, la charge de travail administrative ne cesse de croître, alors que les budgets fondent. Dans ce contexte, la direction perçoit l’IA comme un moyen de résoudre le problème de l’intérieur. L’IA promet de remplacer nombre de ces tâches par des machines à un coût bien moindre que l’expertise. La charge de travail et la précarité des professionnels augmentant, la pression sur les coûts contraint les intérêts des employés et de la direction à converger pour réduire le temps consacré aux tâches administratives.

« En fin de compte, l’adoption de l’IA sur les campus universitaires est une question de coût, tant financier que politique. » La solvabilité de l’université est une préoccupation majeure pour tous les administrateurs et conseils d’administration. L’investissement dans l’IA est vue comme une solution. Elle relève à la fois du mimétisme, où les universités sont invités à suivre les pratiques des leaders du secteur. L’IA est à la fois perçue comme une source d’économie et une source de revenus et de légitimité, en proposant des instituts et des diplômes dédiés. 

« Une dynamique inquiétante se dessine, largement indépendante de ce que l’IA, en tant qu’outil, fait réellement pour nous ou pour qui que ce soit d’autre. Les personnes les plus riches du monde se sont enrichies encore davantage grâce à leurs investissements dans l’IA. Elles ont utilisé cette richesse pour installer une administration présidentielle hostile à l’éducation, qui utilise l’IA pour traquer les « criminels de la pensée » et les immigrés. Pour survivre à cette offensive, les directions universitaires se tournent vers les investissements dans l’IA, et vers ces mêmes personnes qui nous attaquent, dans l’espoir d’obtenir ainsi des fonds et une légitimité.»

« Pour les administrations, l’IA représente donc une nouvelle méthode de privatisation du bien public qu’est l’éducation, non seulement en termes de propriété de l’institution, mais aussi par l’atomisation sociale de l’entreprise éducative collective. L’IA est accueillie comme une solution miracle précisément parce qu’il n’existe pas de solution miracle pour une éducation de qualité et accessible, seulement les solutions habituelles et peu attrayantes : classes à effectifs réduits, scolarité gratuite ou peu coûteuse. La hausse constante des coûts rend les études supérieures plus onéreuses d’année en année, et notre refus collectif de taxer la richesse perpétue cette dynamique, nous obligeant à faire toujours plus avec toujours moins. L’IA séduit les employeurs de tous les secteurs car elle semble offrir un moyen de produire de l’expertise à grande échelle sans dépendre de coûteux experts. »

Pour Greene, un véritable investissement fédéral dans l’enseignement supérieur impliquerait nécessairement de taxer les recettes fiscales issues de la richesse privée finançant la bulle de l’IA et de les réorienter vers les services publics essentiels qui rendent possible une société instruite afin de servir au mieux les intérêts des étudiants, des États et de la science.

Nous n’en prenons pas le chemin.  

Est-ce que ces outils améliorent quelque chose ?

Dans le quotidien britannique The Guardian, la chercheuse Velislava Hillman, autrice de Taming EdTech (qu’on pourrait traduire par Dompter les technologies éducatives, Bloomsbury, 2024 – un livre où elle montre que la surveillance par les technologies numériques est désormais normalisées dans le milieu scolaire et que les produits numériques éducatifs n’améliorent pas l’éducation de manière égale pour tous les enfants), rappelle à son tour que les géants de la tech ont profondément transformé les salles de classe et que les parents ont raison de s’inquiéter.

« De la quasi-omniprésence de Google et Microsoft aux produits d’IA spéculatifs tels que CenturyTech, les géants et les entreprises de technologies éducatives promettent un « apprentissage personnalisé » tout en collectant d’énormes quantités de données et en transformant l’éducation en gadgets monétisables et en badges numériques.»

Pourtant, la numérisation de l’éducation est bien peu révolutionnaire, rappelle Hillman. «  Les enfants passent leur temps devant des écrans à créer des diapositives PowerPoint ou à naviguer sur des applications comme Dr Frost ou Quizlet. Leurs cours sont souvent ponctués de publicités intempestives… D’autres s’adonnent à la course aux séries sur Duolingo, soi-disant pour apprendre le français, accumulent des pièces ou se disputent les premières places du classement sur Blooket. Pendant ce temps, les enseignants reçoivent des tableaux de bord de plateformes telles qu’Arbor ou NetSupport, où les élèves apparaissent sous forme de notes et de graphiques allant du vert au rouge. Et tous ces systèmes sont pris dans l’engrenage des guerres de territoire et de la recherche du profit. »

Pour Hillman, l’industrie de l’EdTech mobilise les mêmes tactiques que celle du tabac. Elle sème le doute sur ses effets pour retarder la réglementation et transforme l’inquiétude du public en culpabilité individuelle. Mais pour la chercheuse, « à mesure que ces systèmes se développent et se démocratisent, une fracture inquiétante se dessine : l’enseignement de masse via des applications pour le plus grand nombre, et le tutorat humain et les échanges intellectuels réservés à une élite. Ce qui est présenté comme la « démocratisation » de l’éducation risque d’aggraver les inégalités. » 

Face à cette accélération numérique, l’inquiétude des parents est justifiée. Dans The Atlantic, le journaliste Will Oremus fait le même constat. Le prof de math de son fils de 11 ans lui fait passer du temps sur Prodigy, un site de jeux, qui semble bien plus apprendre à jouer que les maths. « Les écoles conseillent des logiciels éducatifs qui sont devenus difficiles à distinguer de Candy Crush ». Ces jeux proposent entre des parties des questions à résoudre, mais il existe des extensions pour répondre aux questions automatiquement. Le logiciel a dévoré l’école, constate-t-il. Les logiciels éducatifs ne sont plus ce qu’ils étaient. Ils sont peu chers et accessibles, paresseux. 

Pour Hillman : « L’industrie vend ces outils comme un progrès – personnalisés, attrayants, efficaces – mais la réalité est bien plus préoccupante. Ces applications sont conçues pour extraire des données à chaque clic et inciter les élèves à passer un maximum de temps devant les écrans : Times Tables Rockstars distribue des pièces pour les bonnes réponses ; ClassDojo récompense les élèves pour leur bonne conduite ; Kahoot! captive les élèves grâce à des comptes à rebours et des classements. Ce ne sont que différentes facettes d’un même levier psychologique qui pousse les enfants à consulter les réseaux sociaux tard le soir. Même si ces outils améliorent les résultats scolaires (ce qui reste à prouver), la question demeure : à quel prix pour les relations en classe, le développement et le bien-être des enfants ? »

« Et c’est là que le fossé entre les promesses et la réalité apparaît clairement : malgré tous les discours sur l’équité et la personnalisation, les données probantes concernant l’efficacité des technologies éducatives sont limitées, orientées par l’industrie et, au mieux, fragiles. On dispose de peu d’informations sur le temps que les enfants passent sur les appareils scolaires, sur les plateformes qu’ils utilisent, ou sur l’impact de ces dernières sur l’apprentissage – sans parler de leur bien-être et de leur développement. Une étude a révélé que pour obtenir l’équivalent d’une amélioration d’une seule note au GCSE (General Certificate of Secondary Education), les élèves devraient passer des centaines d’heures par an sur une seule application de mathématiques – sans aucune preuve que cela réduise les écarts de réussite pour les élèves les plus défavorisés. L’absence de preuves définitives est présentée comme une garantie de sécurité, tandis que les promesses numériques reposent sur une apparence de certitude qui n’existe pas. »

« Au Royaume-Uni, les financements publics continuent de soutenir la numérisation des salles de classe, avec des appels à l’intégration de l’IA même dans les structures d’accueil de la petite enfance, comme l’a proposé l’ex-ministre de l’éducation britannique dans une tribune. Une étude publiée cette année par le Syndicat national de l’éducation a révélé que les programmes scolaires standardisés, souvent dispensés via des plateformes commerciales, sont désormais largement répandus. Pourtant, de nombreux enseignants affirment que ces systèmes réduisent leur autonomie professionnelle, n’allégent pas leur charge de travail et les excluent des décisions relatives aux programmes. » 

Enfin, pointe la chercheuse, les entreprises de technologies éducatives sont soumises à peu d’obligations. Alors que des audits réguliers, des rapports publics et des possibilité de contrôle indépendants sont nécessaires pour garantir que leurs outils soutiennent l’apprentissage des enfants. 

Il serait temps de poser des questions plus difficiles encore, suggère encore Velislava Hillman. « Pourquoi les applications basées sur la gamification et la manipulation comportementale – des techniques conçues pour maximiser le temps passé devant les écrans – sont-elles désormais la norme dans les salles de classe ? Pourquoi considère-t-on désormais que l’avenir d’un enfant est numérique par défaut ? Ce ne sont pas des préoccupations marginales. Elles touchent au cœur même de la raison d’être de l’éducation. L’apprentissage n’est pas une transaction commerciale. L’enfance n’est pas une opportunité de marché. Comme le rappelle le théoricien de l’éducation Gert Biesta, l’éducation ne sert pas seulement à l’obtention de diplômes et à la socialisation, mais aussi à aider les enfants à devenir des sujets autonomes et responsables. Ce dernier objectif – la subjectivation – est précisément ce qui se perd lorsque l’apprentissage est réduit à des clics ludiques et à des incitations algorithmiques.

Nous ne pouvons empêcher la technologie d’entrer dans la vie des enfants, mais nous pouvons exiger qu’elle soit au service de l’éducation, et non de l’industrie. Voici mon message aux parents : aux côtés des enseignants, votre voix est essentielle pour que les entreprises technologiques rendent des comptes sur ce qu’elles conçoivent, comment elles le commercialisent et les valeurs qu’elles véhiculent dans les salles de classe.»

Récemment Audrey Watters revenait par exemple sur l’insuccès continue de la Khan Academy. Pour nombre de promoteurs de l’EdTech, la Khan Academy reste la référence. Depuis 2009, cet outil de perfectionnement scolaire lancé par Salman Khan, est la coqueluche des cours en ligne, avec ses vidéos Youtube explicatives et ses exercices qui évoluent selon la progression des élèves. La promesse de Khan à produire une révolution de l’apprentissage personnalisé (promue dans un bestseller mondial, L’éducation réinventée, JC Lattès, 2013) n’a cessé d’être renouvelée, notamment par son passage à l’IA avec Khanmigo, l’outil maison (« Nous sommes à l’aube d’une transformation positive majeure de l’histoire de l’éducation grâce à l’IA. »), à grand renfort de tambours et trompettes (promue d’ailleurs par de puissantes conférences TED et par un autre bestseller, Un monde nouveau, L’arbre qui marche, 2025). Khan n’a cessé de promouvoir les technologies éducatives sans jamais s’interroger sur ses échecs. Cela n’empêche pas le sémillant Khan de continuer à dérouler ses promesses. Après avoir reproché aux enseignants de mal s’y prendre, c’est au tour des élèves à qui l’on reproche de ne pas poser les bonnes questions au chatbot, « même si aucune étude n’a démontré que « poser les bonnes questions », pour tous les adeptes de l’ingénierie des invites, permet d’obtenir de meilleures réponses de l’IA », et encore moins un meilleur apprentissage », rappelle avec pertinence Watters. Pour résoudre le peu d’intérêt de son IA maison, Khan l’impose donc, en l’intégrant directement aux programmes. « Loin des promesses d’amélioration de l’éducation, les technologies éducatives ont créé des dépendances éducatives : des dépendances bureaucratiques et, désormais, avec l’« IA », des dépendances cognitives. Il ne s’agit pas d’un simple hasard ; c’est intentionnel », explique Watters. 

Dépendances cognitives, c’est précisément ce qu’évoquait Sam Altman en affirmant « nous envisageons un avenir où l’intelligence sera un service public, comme l’électricité ou l’eau, et où les gens l’achèteront grâce à un compteur ». Comme le souligne Paris Marx : « les milliardaires de la tech veulent faire croire au public qu’ils améliorent le monde et renforcent nos capacités individuelles et collectives. Mais en réalité, ils nuisent à la capacité des gens d’apprendre et de penser par eux-mêmes, voire bouleversent le cours même de leur existence », explique-t-il avant d’en dénoncer le projet. 

Il n’y a pas que les parents, les jeunes aussi détestent l’IA

Depuis la sortie de ChatGPT, nul n’a subi autant la pression de l’IA que les jeunes, explique la journaliste Janus Rose pour The Verge. S’ils sont les plus grands adeptes des chatbots, « les étudiants et les actifs de la génération Z contribuent largement au rejet culturel plus large de l’IA. Et même s’ils utilisent ces outils, une grande partie des jeunes nourrit une profonde amertume, voire du ressentiment, face à un avenir centré sur l’IA qui, pour beaucoup, leur est imposé. » 

« Sortant du monde universitaire et confrontés à un marché du travail de plus en plus impitoyable, les jeunes sont face à une contradiction insoluble. On leur dit, d’un côté, que ces outils vont supprimer des millions d’emplois, et de l’autre, qu’ils doivent les utiliser s’ils ne veulent pas être laissés pour compte.» 

« La crainte que les chatbots nuisent à l’esprit critique et aux compétences sociales est répandue chez de nombreux jeunes adultes, même si une large majorité d’entre eux admettent utiliser régulièrement ces outils. Selon une récente étude Harvard-Gallup, 74 % des jeunes adultes interrogés aux États-Unis déclarent utiliser un chatbot au moins une fois par mois (une autre étude a révélé que plus de la moitié des étudiants américains admettent utiliser ces outils chaque semaine pour leurs travaux universitaires). Parallèlement, 79 % des personnes interrogées par Gallup « craignent que l’IA ne rende les gens plus paresseux », et 65 % estiment que l’utilisation des chatbots « favorise la gratification instantanée, et non une véritable compréhension », et empêche d’aborder les idées de manière critique et constructive.» 

« Dans un sondage Gallup plus récent, l’opinion de la génération Z sur les outils d’IA a atteint un nouveau point bas : seulement 18 % se disent optimistes quant à cette technologie, contre 27 % l’an dernier, et seulement 22 % se disent enthousiastes, contre 36 % auparavant. Le nombre de jeunes actifs de la génération Z qui estiment que les risques liés à l’IA l’emportent sur ses avantages a également augmenté de 11 points au cours de l’année écoulée, pour atteindre près de 50 %. Et même si 56 % affirment que ces outils les aident à terminer leur travail plus rapidement, huit sur dix admettent désormais que l’utilisation de l’IA compliquera l’apprentissage à l’avenir. »

« Les employeurs demandent aux universités de recruter des étudiants capables d’utiliser ces outils », explique Alex Hanna, directrice de la recherche du DAIR. « Ce n’est pas parce que ces outils ont réellement démontré leur valeur ajoutée ; on attend de la génération Z qu’elle nous la révèle. » D’où le fait que l’université ait tendance à intégrer l’IA… souvent un peu n’importe comment, comme ASU Atomic, un outil mis en place à l’université d’État de l’Arizona, qui synthétise automatiquement les cours magistraux en supports d’apprentissage concis, plus proche du slop qu’autre chose, déplorait 404 média. Le journal étudiant de l’université de Pennsylvanie a publié un édito cinglant à l’égard du déploiement de l’IA à l’université : « L’IA ne peut coexister avec l’éducation ; elle ne peut que la dégrader. » 

« Le fait que tant de jeunes soient parfaitement conscients de ces dangers, même lorsqu’ils utilisent ces outils, montre qu’ils ne se laissent pas berner par le discours enflammé des promoteurs de l’IA », estime Rose. La génération Z est extrêmement consciente des limites de ces outils, même pour ceux qui les trouvent utiles. 

Enfin, avance Rose, une autre explication nourrit l’ambiguïté du positionnement des plus jeunes : l’utilisation de l’IA est souvent moquée par les jeunes entre eux. La plupart trouvent les textes et les images générés artificielles et profondément ringards et s’en moquent ouvertement sur les réseaux sociaux, tout comme elle est dévalorisée par les étudiants et les professeurs. Selon une étude de l’Université de Pittsburgh, les étudiants perçoivent l’utilisation d’outils d’IA comme un signal d’alarme les incitant à avoir une moins haute opinion de leurs camarades. 

A croire que le refus de l’IA chez les plus jeunes (voir notre article, « nous sommes le slop »), s’il n’est pas un mouvement techno-critique, invite néanmoins à questionner notre rapport à la technologie en profondeur et montre que la colère contre l’IA prend des formes multiples. 

Hubert Guillaud

PS : Dans les écoles américaines, d’innombrables applications sont utilisées par les élèves sous la recommandation des professeurs voire des districts scolaires, explique The Markup, mais souvent en contradiction avec la loi, notamment en Californie où les protections à l’égard des données personnelles des enfants sont plus fortes qu’ailleurs. Mais il n’y a pas que les applications scolaires qui posent problèmes, les applications extrascolaires peuvent l’être tout autant. Le statut de ces applications extrascolaires, comme des applications sportives telles que TeamSnap, fait qu’elles ne semblent pas soumises aux mêmes contraintes réglementaires et peuvent revendre leurs informations à des courtiers ou à des annonceurs. Afin de renforcer l’application effective de la loi, un projet de loi californien comprend une nouvelle disposition : le droit pour les élèves et leurs parents de poursuivre les entreprises technologiques dans certains cas de violation de la vie privée. Une proposition contestée par les entreprises de la tech. Pour Jen King, chercheuse en protection de la vie privée et politiques des données à l’Institut d’intelligence artificielle de Stanford, donner aux consommateurs le droit de poursuivre est pourtant et souvent le seul moyen de renforcer l’application de la loi.

MAJ du 24/05/2026 : Sur les campus américains, les thuriféraires de l’IA de l’IA se font huer, rapporte Next… Et les refus d’usages lors des formations IA dans certaines écoles (en France également) se multiplient.

Dans le New Yorker, l’écrivaine Jessica Winter revient sur l’invasion de l’IA à l’école. Elle pensait être tranquille jusqu’à ce que ses enfants entrent au lycée au moins. Il n’en a rien été. Sa fille de 11 ans qui vient d’entrer au collège a reçu un Chromebook sur lequel Gemini était préinstallé. Quelque soit les travaux qu’elle doit y accomplir, d’innombrables messages lui proposent de l’aider à écrire, à modifier ses présentations, à générer des images… Désormais l’IA est là. « Elle lit ses poèmes et connaît ses mots de passe. Elle l’observe constamment à travers l’écran. » 

Aux Etats-Unis, aucune entreprise d’IA ne détient de monopole sur l’école. Mais elles sont présentes partout. Dans les écoles publiques de Boston, les élèves de sixième utilisent les chatbots d’OpenAI et d’Anthropic pour se préparer aux tests standardisés. Dans les districts scolaires de New York et de Los Angeles, entre autres, des élèves de maternelle interagissent avec Amira, un robot de lecture ludique qui enregistre leur voix afin de leur fournir des commentaires personnalisés grâce à l’IA. Un parent d’élève d’école publique de Brooklyn a raconté qu’en cours d’arts plastiques, les élèves de CE1 pouvaient créer des œuvres avec l’IA grâce à Adobe Express for Education… « Le soutien à l’IA générative dans les écoles primaires et les collèges repose sur la conviction qu’une initiation précoce à cette technologie favorisera la culture numérique, donnera aux élèves des bases en ingénierie et les préparera à un avenir où la plupart des professions seront fortement influencées par l’IA. » 

Des outils… pour fidéliser les enfants

Dans le cadre d’un des procès contre les géants du numérique aux Etats-Unis, des documents internes de Google ont montré que la motivation de Google à fournir des outils aux écoles visait à « fidéliser les enfants à vie », rappelait le journaliste Tyler Kingkade pour NBC News en janvier. Pour Sarah Gardner, la responsable de Heat Initiative, une association de parents militants critique des plateformes de médias sociaux, nous devrions surtout nous interroger pour savoir pourquoi nous laissons les géants du numérique s’accaparer le marché scolaire. Et notamment Google, qui domine largement ce marché. « Selon les cabinets d’études de marché, les écoles représentent aujourd’hui 80 % des achats de Chromebooks. En 2017, Google annonçait que plus de la moitié des élèves des écoles publiques américaines utilisaient ses applications et produits pour leurs travaux scolaires. En 2021, ce chiffre dépassait les 170 millions d’élèves et d’enseignants à travers le monde. » 

Jessica Winter pointe de nombreuses études qui montrent les limites de l’usage de l’IA dans le cadre scolaire. La Brookings Institution a publié une analyse préliminaire sur l’IA et l’éducation des enfants, combinant l’analyse d’environ quatre cents études et des centaines d’entretiens avec des élèves, des parents, des enseignants et des spécialistes des technologies. Cette analyse conclut que les outils d’IA « compromettent le développement fondamental des enfants ». 

Même certains défenseurs de l’IA dans l’éducation reconnaissent que l’IA présente des risques cognitifs et socio-émotionnels importants pour les jeunes. Amanda Bickerstaff est la cofondatrice et présidente de l’organisation AI for Education, qui propose des formations aux enseignants et aux élèves sur l’intelligence artificielle générative. « Les enfants de moins de dix ans ne devraient pas utiliser de chatbots », explique-t-elle. « Ces outils requièrent une expertise et des compétences d’évaluation que même de nombreux adultes ne possèdent pas. » La décision de Google de rendre Gemini accessible à tous les âges, a-t-elle ajouté, est l’une des rares fois de sa carrière où elle a perdu le sommeil à cause d’une question professionnelle. Elle se souvient avoir pensé : « ils savent pertinemment que cela va être néfaste pour les enfants, et pourtant, ils persistent. » Bickerstaff poursuit : « Je ne pense pas qu’ils se posent des questions fondamentales comme : “Si un enfant peut immédiatement créer une image au lieu de la dessiner, qu’adviendra-t-il de sa capacité à réfléchir et à dessiner par lui-même ?” » Drew Bent, responsable de la recherche en éducation chez Anthropic, répond : « Ce n’est pas à nous, en tant qu’entreprise, de dire : “Utilisez l’IA à tel âge, pas à tel autre.” » 

La fille de Winter a réalisé une présentation qui comportait nombre de défauts. L’IA lui a proposé de les corriger. Mais elle est restée imperturbable face à la proposition : « Je préfère la mienne, parce qu’elle est originale et que j’y ai mis tout mon cœur. Je préfère la mienne parce qu’elle ne m’a pas pris trente secondes. » 

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement « bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive ». « Les enfants n’ont pas ce filtre adulte qui consiste à extraire stratégiquement des informations de leurs expériences, et retiennent donc une multitude de détails inattendus que les adultes jugeraient sans intérêt. Cela leur permet d’être créatifs d’une manière qui nous est inaccessible », explique un psychologue. Dans son livre, Teaching Machines (MIT Press, 2020), la journaliste spécialiste des questions d’éducation technologiques, Audrey Watters (voir aussi sa newsletter), rappellait que l’apprentissage personnalisé a toujours été le rêve de ceux qui automatisent l’éducation. 

C’est ce que proposent les promoteurs d’IA dans l’éducation à l’image du programme de formation pour les enseignants, de l’Académie nationale pour l’enseignement de l’IA. L’académie, dont le siège se trouve dans les locaux de la Fédération unie des enseignants (UFT) à Manhattan, est un projet conjoint de l’UFT et de la Fédération américaine des enseignants (AFT), financé par un partenariat de vingt-trois millions de dollars avec Microsoft, OpenAI et Anthropic. Les cours en présentiel et en ligne proposés par l’académie visent à aider les enseignants « non pas à accepter l’inévitable, mais à le maîtriser », explique Randi Weingarten, présidente de l’AFT.  Celle-ci n’est pourtant pas une prosélyte. Si les membres du syndicat sont en désaccord avec la politique pro-IA de leur district scolaire, ou s’ils ne veulent pas que Gemini s’immisce dans les espaces de travail de leurs élèves, « nous les défendrons », raconte-t-elle à Winter. Nombre de syndicats d’enseignants américains ont refusé de collaborer avec Google car l’entreprise « n’a pas fait les promesses que nous attendions concernant la protection de la sécurité et de la vie privée des élèves et du personnel. »   

D’autres organisations, dirigées par des enseignants et des parents, tentent également de mettre en place des systèmes d’autorisation pour limiter l’utilisation de l’IA dans les écoles. Craig Garrett, dont l’enfant fréquente une école publique de Brooklyn, a créé un groupe WhatsApp de parents inquiets après avoir découvert que son enfant, alors en maternelle, lisait devant l’assistant vocal Amira en classe depuis le début de l’année pour que celui-ci le corrige. Des militants se demandent si l’utilisation d’Amira en classe, par l’enregistrement des voix des élèves, enfreint une loi de l’État de New York interdisant la « divulgation non autorisée d’informations personnelles identifiables ». Garrett fait également partie de la Coalition pour un moratoire sur l’IA, un groupe d’enseignants, de parents et d’élèves de toute la ville qui demande au maire de New York, Zohran Mamdani, et à Kamar Samuels, le chancelier des écoles, un moratoire de deux ans sur l’utilisation de l’IA dans les écoles primaires et secondaires. Un groupe similaire, Schools Beyond Screens, a été créé l’année dernière parmi les parents du district scolaire unifié de Los Angeles. Parmi les objectifs de Schools Beyond Screens figure un contrôle plus strict des contrats lucratifs que les districts scolaires urbains concluent avec les entreprises technologiques. L’association souhaite également que les districts établissent des directives de consentement plus claires concernant l’utilisation des plateformes numériques et adoptent une Charte des droits des élèves en matière de technologie, incluant le droit de « lire des livres entiers », de « lire et d’écrire régulièrement sur papier » et de bénéficier d’un « environnement d’apprentissage peu stimulant ». 

La présence de Chromebooks dans les salles de classe n’est pas inévitable, espère Winter. Comme le montrait la journaliste Natasha Singer dans le New York Times, la polémique autour de la technologie à l’école ne se limite pas aux téléphones. Le collège McPherson, au Kansas, qui a interdit les téléphones portables des élèves pendant les heures de cours, depuis 2022, les laissait regarder des vidéos ou jouer aux jeux vidéos sur les Chromebooks qu’elle leur fournit et qu’ils utilisent en classe. Face à cette contradiction de plus en plus flagrante, le collège a fait machine arrière. En décembre 2025, il a demandé aux élèves de rendre les ordinateurs portables. 

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie. Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage. Aujourd’hui, Google et Microsoft, ainsi que de nouveaux venus comme OpenAI, rivalisent pour diffuser leurs chatbots d’intelligence artificielle dans les écoles. Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves. Certains chercheurs et organisations, comme l’UNESCO, mettent même en garde contre une dépendance excessive à la technologie, qui peut distraire les élèves et nuire à leur apprentissage. Des écoles de Caroline du Nord, de Virginie, du Maryland et du Michigan, qui achetaient autrefois un appareil pour chaque élève, réévaluent désormais l’utilisation intensive des technologies en classe. Et les Chromebooks, les ordinateurs portables les plus populaires dans les écoles américaines, sont devenus un point central de ces discussions. Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves. » Avec le fait que plus de 30 États américains ont limité ou interdit l’utilisation des téléphones portables par les élèves à l’école, le retrait des Chromebooks est le signe d’une prise de conscience, estime Singer. De plus en plus de parents soutiennent des initiatives comme Schools Beyond Screens et le Distraction-Free Schools Policy Project, visant à contrôler et limiter l’utilisation des technologies à l’école. Dix États, dont le Kansas, le Vermont et la Virginie, ont récemment déposé des projets de loi pour limiter le temps d’écran des élèves, exiger des preuves de sécurité et d’efficacité pour les outils numériques scolaires ou permettre aux parents de refuser que leur enfant utilise des appareils numériques pour apprendre. 

Face aux accusations de tout acabit, Google a déclaré avoir fourni aux établissements scolaires des outils pour verrouiller les écrans des Chromebooks des élèves, limiter le contenu qu’ils consultent, gérer leur accès à YouTube et désactiver les Chromebooks après les cours. L’entreprise a également indiqué avoir désactivé YouTube par défaut pour les élèves du primaire et du secondaire disposant d’un compte Google scolaire. 

A McPherson, au Kansas, profs et élèves semblent redécouvrir qu’il y a un monde hors du numérique. 

Dans au autre article, Singer (qui publiera en août un livre sur l’invasion des technologies à l’école, Coding Kids, Norton, 2026) prolonge le sujet d’autres exemples encore. Suite à des réclamations de parents, « le conseil scolaire de Los Angeles a adopté une résolution exigeant du district qu’il limite l’accès des élèves à YouTube, supprime totalement les appareils numériques jusqu’en CP et instaure des limites de temps d’écran pour les classes supérieures, faisant de Los Angeles le premier grand système scolaire américain à prendre une telle mesure. » Le mois dernier, le gouverneur de l’Utah a promulgué une loi permettant aux parents de consulter le temps passé par leur enfant sur un appareil scolaire et de vérifier les sites web visités. A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens. Les districts scolaires sommés d’évaluer les outils qu’ils utilisent sont souvent à la peine par manque de moyens. A Los Angeles, Nick Melvoin avec l’association Schools Beyond Screens, a présenté une nouvelle résolution visant à limiter l’accès aux technologies à l’école. Outre la mise en place de nouvelles limites de temps d’écran pour chaque niveau scolaire, cette politique imposera aux écoles primaires et collèges d’interdire l’utilisation des appareils électroniques par les élèves pendant la pause déjeuner et la récréation. Le district devra également établir un rapport sur tous les contrats technologiques scolaires en vigueur. 

L’université est également colonisée

Mais il n’y a pas qu’à l’école, au collège ou au lycée que le déploiement de l’IA pose problème. L’université d’État de Californie (Cal State), fort de 460 000 étudiants et de 22 campus, ambitionne de devenir la plus grande université américaine spécialisée dans l’IA, rapportait en octobre 2025 la journaliste Natasha Singer pour le New York Times. Amazon et OpenAI y déploient des programmes de formation sur leurs produits d’IA. L’université a signé un contrat de 16,9 millions de dollars à OpenAI pour fournir ChatGPT Edu, l’outil de l’entreprise destiné aux établissements scolaires, à plus d’un demi-million d’étudiants et de membres du personnel – un déploiement qu’OpenAI a qualifié de plus important déploiement mondial de ChatGPT à ce jour. « Le renforcement des liens entre Cal State et l’industrie témoigne d’une transformation profonde des rapports de force sur les campus américains ». Il ne s’agit plus seulement de fournir un peu de matériel ou des outils, mais ici, de fournir un partenariat pédagogique impliquant une transformation des modalités pédagogiques mêmes. 

L’université ambitionne de construire « un système d’enseignement supérieur basé sur l’IA qui surpasse tous les modèles existants, tant par son ampleur que par son impact ». Là encore, pourtant, certains professeurs se sont opposés à ce projet d’IA, alors que l’université est confrontée à d’importantes coupes budgétaires. Pour eux, le contrat de plusieurs millions de dollars avec OpenAI – pour lequel l’université n’a pas ouvert d’appel d’offres à des concurrents comme Google – tient du gaspillage (alors que le réseau des community colleges de Californie a obtenu gratuitement les services de chatbot IA de Google pour plus de deux millions d’étudiants et de professeurs).

Les conseils de faculté de plusieurs campus de Cal State ont adopté cette année des résolutions critiquant l’initiative en matière d’IA, affirmant que l’université n’avait pas suffisamment pris en compte le problème de la tricherie via les chatbots. Les professeurs ont également déclaré que les plans de l’administration minimisaient les risques que l’IA fait peser sur l’esprit critique des étudiants et ignoraient les pratiques de travail problématiques du secteur ainsi que les coûts environnementaux. Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin. 

Une étude récente de chercheurs de Stanford rapportée par le Hechinger Report, montrait par exemple que les outils d’IA ne faisaient pas les mêmes corrections de copies aux élèves selon leurs origines ethniques. « Les dissertations attribuées à des étudiants noirs ont reçu davantage d’éloges et d’encouragements, quand celles attribuées à des étudiants hispaniques étaient plus susceptibles de susciter des corrections grammaticales et orthographiques. Lorsque l’étudiant était identifié comme blanc, les commentaires portaient plus souvent sur la structure de l’argumentation, les preuves et la clarté – des remarques qui peuvent inciter les étudiants à approfondir leurs idées. » 

De nombreux enseignants affirment qu’un enseignement adapté aux réalités culturelles – qui prend en compte l’identité et le vécu des élèves – peut accroître leur engagement scolaire. Mais, si certains élèves sont systématiquement protégés des critiques et ne sont pas incités à progresser en leurs montrant leurs lacunes, le risque est fort d’aggraver encore les différences ethno-sociales. « Le risque est que, sans une vigilance accrue, cette personnalisation puisse abaisser le niveau d’exigence pour certains élèves tout en le relevant pour d’autres. »

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services. En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. » Quand Google déploie son chatbot auprès des moins de 13 ans, « Google affirme clairement que ces problèmes ne le concernent pas, puisqu’il rejette explicitement la responsabilité sur les parents dans l’annonce du lancement imminent de son produit. Les parents, selon Google, doivent rappeler à leurs enfants de ne pas partager d’informations sensibles avec le chatbot. Les parents, dit l’entreprise, doivent « aider leurs enfants à développer leur esprit critique ». Les parents, dit Google, doivent rappeler à leurs enfants que « Gemini n’est pas humain ». 

Pour Waters, « il ne s’agit pas simplement d’automatiser l’enseignement et l’apprentissage formels (comme si ce n’était pas déjà assez grave) ; il s’agit de saper le savoir ».

Pourquoi l’IA semble-t-elle la solution à l’enseignement ? 

Le chercheur américain Daniel Greene livre pour le magazine de l’association américaine des professeurs d’université (Aaup) une stimulante synthèse des enjeux du développement de l’IA à l’université. L’université est traversée par d’innombrables crises et la dernière en date est liée au développement d’une technologie perçue à la fois « comme une atteinte fondamentale à notre mission éducative et comme une solution potentielle : l’IA générative ». Lorsque nous abordons la question du rôle de l’IA sur les campus, « nous devons à la fois être attentifs non seulement aux codes écrits avec Claude ou aux feuilles de calcul nettoyées avec Gemini, mais aussi aux fonctions politiques et économiques que cette technologie remplit au sein de nos institutions – et pour qui ». Une récente enquête de l’Aaup soulignait pourtant que les professeurs se sentent exclus des décisions importantes concernant l’IA sur le campus. En fait, ils ont peu de place pour décider des achats auxquels procèdent les établissements et encore moins sur la conception, l’utilisation et la réglementation des déploiements de l’IA à grande échelle sur les campus. Cela ne les empêche d’avoir très concrètement à combattre et négocier l’IA dans leur enseignement, leur recherche et leurs services. 

Reste que si les responsables des universités, les élus et les administrations sont si enthousiastes à propos du développement de l’IA sur les campus, c’est d’abord parce que le travail dans l’enseignement supérieur (comme dans l’administration ou les hôpitaux) est à forte intensité de main d’oeuvre et qu’il est difficile à automatiser. Pire, la croissance de la productivité y reste faible. « Nous enseignons à peu près de la même manière qu’il y a soixante ans, mais tout (y compris la main-d’œuvre) coûte plus cher. » Le succès de l’IA n’est pas tant à chercher dans ses performances pour aider les élèves à apprendre, mais reste d’abord et avant tout une promesse d’optimisation des coûts. Une optimisation théorisée dans les années 60 par l’économiste William Baumol sous le nom de maladie des coûts. 

Comme l’explique Nicholas Beuret dans Jacobin, la productivité du travail n’est pas la même dans tous les secteurs. Dans certains secteurs, la productivité n’évolue pas. Jouer une pièce de Shakespeare prend le même temps aujourd’hui qu’il y a 5 siècles. Dans les services à forte intensité de main-d’œuvre, comme la santé ou l’éducation, les salaires augmentent malgré une productivité stable, ce qui entraîne une hausse du coût relatif de ces services. « La maladie des coûts de Baumol engendre une faible croissance économique où les services essentiels, tels que les soins de santé ou d’éducation, deviennent inabordables, tandis que le prix des téléviseurs baisse d’année en année. » Avec la concurrence de l’IA, c’est tout le secteur des services qui est menacé par la maladie des coûts. A terme, estime Beuret, le risque est que des pans entiers de l’économie contemporaine deviennent non viables. Il en résulterait une stagnation profonde et persistante, et non une résolution. Et les timides projets de revenu universel défendus par les technophiles de la Silicon Valley seraient ridiculement insuffisants face à un tel événement. A terme, le succès de l’IA serait la plus grande menace économique que nous ayons à affronter. 

Pour Greene, la maladie des coûts est encore plus vive dans le contexte de la réduction des financements publics. Les frais de scolarité remplacent les investissements publics. Les étudiants veulent donc obtenir leur diplôme le plus rapidement possible pour s’endetter le moins possible, poussant l’enseignement supérieur à fonctionner comme des usines à diplômes. Et ChatGPT et les autres outils d’IA permettent d’accélérer la délivrance de diplômes. Pourtant, la maladie des coûts, n’explique par pourquoi en à peine un an, tant d’établissements d’enseignements supérieurs ont trouvé les fonds nécessaires pour créer des instituts et des diplômes d’IA. « Il s’agit manifestement d’un phénomène politique ». A l’heure où l’éducation supérieure est attaquée au niveau fédéral et où l’image de l’éducation supérieure accusée de toutes parts par l’administration Trump, l’adoption de l’IA est là pour réhausser le prestige et apaiser les détracteurs. 

« Ni les professeurs ni les administrateurs n’ont de contrôle sur les fonctionnalités d’IA intégrées aux logiciels d’entreprise », qui se déploient via de simples abonnements, explique Greene. Dans les universités, l’IA ne se déploie pas seulement dans les outils mis à disposition des professeurs et des élèves, mais également dans des logiciels de paye, de recrutement, et via des systèmes de surveillance. Elle est aussi une aubaine pour contrôler les contenus et les personnes, que ce soit pour fouiller dans les programmes de cours à la recherche de mentions de l’esclavage ou pour trouver les adresses d’étudiants manifestants. Elle est là pour faciliter « une analyse rapide, grossière et à grande échelle » et peu coûteuse. Comme l’a souligné la juriste Salome Viljoen, la droite comprend parfaitement que toute gouvernance est une gouvernance des données. « L’analyse automatisée de texte devient un moyen de contourner toute déférence, même de façade, envers la délibération institutionnelle et la consultation d’experts ». « C’est ce que montrait d’ailleurs très bien la révolution technoculturelle d’Elon Musk au sein du Département de l’efficacité gouvernementale (Doge), où de jeunes hommes fraîchement ou à peine diplômés utilisaient ChatGPT pour réécrire la réglementation fédérale, examiner les demandes de subvention à la recherche de délits d’opinion et scruter les profils des réseaux sociaux et les antécédents judiciaires d’étudiants en situation irrégulière dans l’espoir de trouver des prétextes pour les expulser. Au Fonds national pour les sciences humaines, Justin Fox, ancien associé en capital-investissement devenu fervent défenseur du DOGE, annulait des subventions en demandant à ChatGPT d’indiquer, en 120 caractères maximum, si un projet impliquait la diversité, l’équité et l’inclusion. »

A l’université, la charge de travail administrative ne cesse de croître, alors que les budgets fondent. Dans ce contexte, la direction perçoit l’IA comme un moyen de résoudre le problème de l’intérieur. L’IA promet de remplacer nombre de ces tâches par des machines à un coût bien moindre que l’expertise. La charge de travail et la précarité des professionnels augmentant, la pression sur les coûts contraint les intérêts des employés et de la direction à converger pour réduire le temps consacré aux tâches administratives.

« En fin de compte, l’adoption de l’IA sur les campus universitaires est une question de coût, tant financier que politique. » La solvabilité de l’université est une préoccupation majeure pour tous les administrateurs et conseils d’administration. L’investissement dans l’IA est vue comme une solution. Elle relève à la fois du mimétisme, où les universités sont invités à suivre les pratiques des leaders du secteur. L’IA est à la fois perçue comme une source d’économie et une source de revenus et de légitimité, en proposant des instituts et des diplômes dédiés. 

« Une dynamique inquiétante se dessine, largement indépendante de ce que l’IA, en tant qu’outil, fait réellement pour nous ou pour qui que ce soit d’autre. Les personnes les plus riches du monde se sont enrichies encore davantage grâce à leurs investissements dans l’IA. Elles ont utilisé cette richesse pour installer une administration présidentielle hostile à l’éducation, qui utilise l’IA pour traquer les « criminels de la pensée » et les immigrés. Pour survivre à cette offensive, les directions universitaires se tournent vers les investissements dans l’IA, et vers ces mêmes personnes qui nous attaquent, dans l’espoir d’obtenir ainsi des fonds et une légitimité.»

« Pour les administrations, l’IA représente donc une nouvelle méthode de privatisation du bien public qu’est l’éducation, non seulement en termes de propriété de l’institution, mais aussi par l’atomisation sociale de l’entreprise éducative collective. L’IA est accueillie comme une solution miracle précisément parce qu’il n’existe pas de solution miracle pour une éducation de qualité et accessible, seulement les solutions habituelles et peu attrayantes : classes à effectifs réduits, scolarité gratuite ou peu coûteuse. La hausse constante des coûts rend les études supérieures plus onéreuses d’année en année, et notre refus collectif de taxer la richesse perpétue cette dynamique, nous obligeant à faire toujours plus avec toujours moins. L’IA séduit les employeurs de tous les secteurs car elle semble offrir un moyen de produire de l’expertise à grande échelle sans dépendre de coûteux experts. »

Pour Greene, un véritable investissement fédéral dans l’enseignement supérieur impliquerait nécessairement de taxer les recettes fiscales issues de la richesse privée finançant la bulle de l’IA et de les réorienter vers les services publics essentiels qui rendent possible une société instruite afin de servir au mieux les intérêts des étudiants, des États et de la science.

Nous n’en prenons pas le chemin.  

Est-ce que ces outils améliorent quelque chose ?

Dans le quotidien britannique The Guardian, la chercheuse Velislava Hillman, autrice de Taming EdTech (qu’on pourrait traduire par Dompter les technologies éducatives, Bloomsbury, 2024 – un livre où elle montre que la surveillance par les technologies numériques est désormais normalisées dans le milieu scolaire et que les produits numériques éducatifs n’améliorent pas l’éducation de manière égale pour tous les enfants), rappelle à son tour que les géants de la tech ont profondément transformé les salles de classe et que les parents ont raison de s’inquiéter.

« De la quasi-omniprésence de Google et Microsoft aux produits d’IA spéculatifs tels que CenturyTech, les géants et les entreprises de technologies éducatives promettent un « apprentissage personnalisé » tout en collectant d’énormes quantités de données et en transformant l’éducation en gadgets monétisables et en badges numériques.»

Pourtant, la numérisation de l’éducation est bien peu révolutionnaire, rappelle Hillman. «  Les enfants passent leur temps devant des écrans à créer des diapositives PowerPoint ou à naviguer sur des applications comme Dr Frost ou Quizlet. Leurs cours sont souvent ponctués de publicités intempestives… D’autres s’adonnent à la course aux séries sur Duolingo, soi-disant pour apprendre le français, accumulent des pièces ou se disputent les premières places du classement sur Blooket. Pendant ce temps, les enseignants reçoivent des tableaux de bord de plateformes telles qu’Arbor ou NetSupport, où les élèves apparaissent sous forme de notes et de graphiques allant du vert au rouge. Et tous ces systèmes sont pris dans l’engrenage des guerres de territoire et de la recherche du profit. »

Pour Hillman, l’industrie de l’EdTech mobilise les mêmes tactiques que celle du tabac. Elle sème le doute sur ses effets pour retarder la réglementation et transforme l’inquiétude du public en culpabilité individuelle. Mais pour la chercheuse, « à mesure que ces systèmes se développent et se démocratisent, une fracture inquiétante se dessine : l’enseignement de masse via des applications pour le plus grand nombre, et le tutorat humain et les échanges intellectuels réservés à une élite. Ce qui est présenté comme la « démocratisation » de l’éducation risque d’aggraver les inégalités. » 

Face à cette accélération numérique, l’inquiétude des parents est justifiée. Dans The Atlantic, le journaliste Will Oremus fait le même constat. Le prof de math de son fils de 11 ans lui fait passer du temps sur Prodigy, un site de jeux, qui semble bien plus apprendre à jouer que les maths. « Les écoles conseillent des logiciels éducatifs qui sont devenus difficiles à distinguer de Candy Crush ». Ces jeux proposent entre des parties des questions à résoudre, mais il existe des extensions pour répondre aux questions automatiquement. Le logiciel a dévoré l’école, constate-t-il. Les logiciels éducatifs ne sont plus ce qu’ils étaient. Ils sont peu chers et accessibles, paresseux. 

Pour Hillman : « L’industrie vend ces outils comme un progrès – personnalisés, attrayants, efficaces – mais la réalité est bien plus préoccupante. Ces applications sont conçues pour extraire des données à chaque clic et inciter les élèves à passer un maximum de temps devant les écrans : Times Tables Rockstars distribue des pièces pour les bonnes réponses ; ClassDojo récompense les élèves pour leur bonne conduite ; Kahoot! captive les élèves grâce à des comptes à rebours et des classements. Ce ne sont que différentes facettes d’un même levier psychologique qui pousse les enfants à consulter les réseaux sociaux tard le soir. Même si ces outils améliorent les résultats scolaires (ce qui reste à prouver), la question demeure : à quel prix pour les relations en classe, le développement et le bien-être des enfants ? »

« Et c’est là que le fossé entre les promesses et la réalité apparaît clairement : malgré tous les discours sur l’équité et la personnalisation, les données probantes concernant l’efficacité des technologies éducatives sont limitées, orientées par l’industrie et, au mieux, fragiles. On dispose de peu d’informations sur le temps que les enfants passent sur les appareils scolaires, sur les plateformes qu’ils utilisent, ou sur l’impact de ces dernières sur l’apprentissage – sans parler de leur bien-être et de leur développement. Une étude a révélé que pour obtenir l’équivalent d’une amélioration d’une seule note au GCSE (General Certificate of Secondary Education), les élèves devraient passer des centaines d’heures par an sur une seule application de mathématiques – sans aucune preuve que cela réduise les écarts de réussite pour les élèves les plus défavorisés. L’absence de preuves définitives est présentée comme une garantie de sécurité, tandis que les promesses numériques reposent sur une apparence de certitude qui n’existe pas. »

« Au Royaume-Uni, les financements publics continuent de soutenir la numérisation des salles de classe, avec des appels à l’intégration de l’IA même dans les structures d’accueil de la petite enfance, comme l’a proposé l’ex-ministre de l’éducation britannique dans une tribune. Une étude publiée cette année par le Syndicat national de l’éducation a révélé que les programmes scolaires standardisés, souvent dispensés via des plateformes commerciales, sont désormais largement répandus. Pourtant, de nombreux enseignants affirment que ces systèmes réduisent leur autonomie professionnelle, n’allégent pas leur charge de travail et les excluent des décisions relatives aux programmes. » 

Enfin, pointe la chercheuse, les entreprises de technologies éducatives sont soumises à peu d’obligations. Alors que des audits réguliers, des rapports publics et des possibilité de contrôle indépendants sont nécessaires pour garantir que leurs outils soutiennent l’apprentissage des enfants. 

Il serait temps de poser des questions plus difficiles encore, suggère encore Velislava Hillman. « Pourquoi les applications basées sur la gamification et la manipulation comportementale – des techniques conçues pour maximiser le temps passé devant les écrans – sont-elles désormais la norme dans les salles de classe ? Pourquoi considère-t-on désormais que l’avenir d’un enfant est numérique par défaut ? Ce ne sont pas des préoccupations marginales. Elles touchent au cœur même de la raison d’être de l’éducation. L’apprentissage n’est pas une transaction commerciale. L’enfance n’est pas une opportunité de marché. Comme le rappelle le théoricien de l’éducation Gert Biesta, l’éducation ne sert pas seulement à l’obtention de diplômes et à la socialisation, mais aussi à aider les enfants à devenir des sujets autonomes et responsables. Ce dernier objectif – la subjectivation – est précisément ce qui se perd lorsque l’apprentissage est réduit à des clics ludiques et à des incitations algorithmiques.

Nous ne pouvons empêcher la technologie d’entrer dans la vie des enfants, mais nous pouvons exiger qu’elle soit au service de l’éducation, et non de l’industrie. Voici mon message aux parents : aux côtés des enseignants, votre voix est essentielle pour que les entreprises technologiques rendent des comptes sur ce qu’elles conçoivent, comment elles le commercialisent et les valeurs qu’elles véhiculent dans les salles de classe.»

Récemment Audrey Watters revenait par exemple sur l’insuccès continue de la Khan Academy. Pour nombre de promoteurs de l’EdTech, la Khan Academy reste la référence. Depuis 2009, cet outil de perfectionnement scolaire lancé par Salman Khan, est la coqueluche des cours en ligne, avec ses vidéos Youtube explicatives et ses exercices qui évoluent selon la progression des élèves. La promesse de Khan à produire une révolution de l’apprentissage personnalisé (promue dans un bestseller mondial, L’éducation réinventée, JC Lattès, 2013) n’a cessé d’être renouvelée, notamment par son passage à l’IA avec Khanmigo, l’outil maison (« Nous sommes à l’aube d’une transformation positive majeure de l’histoire de l’éducation grâce à l’IA. »), à grand renfort de tambours et trompettes (promue d’ailleurs par de puissantes conférences TED et par un autre bestseller, Un monde nouveau, L’arbre qui marche, 2025). Khan n’a cessé de promouvoir les technologies éducatives sans jamais s’interroger sur ses échecs. Cela n’empêche pas le sémillant Khan de continuer à dérouler ses promesses. Après avoir reproché aux enseignants de mal s’y prendre, c’est au tour des élèves à qui l’on reproche de ne pas poser les bonnes questions au chatbot, « même si aucune étude n’a démontré que « poser les bonnes questions », pour tous les adeptes de l’ingénierie des invites, permet d’obtenir de meilleures réponses de l’IA », et encore moins un meilleur apprentissage », rappelle avec pertinence Watters. Pour résoudre le peu d’intérêt de son IA maison, Khan l’impose donc, en l’intégrant directement aux programmes. « Loin des promesses d’amélioration de l’éducation, les technologies éducatives ont créé des dépendances éducatives : des dépendances bureaucratiques et, désormais, avec l’« IA », des dépendances cognitives. Il ne s’agit pas d’un simple hasard ; c’est intentionnel », explique Watters. 

Dépendances cognitives, c’est précisément ce qu’évoquait Sam Altman en affirmant « nous envisageons un avenir où l’intelligence sera un service public, comme l’électricité ou l’eau, et où les gens l’achèteront grâce à un compteur ». Comme le souligne Paris Marx : « les milliardaires de la tech veulent faire croire au public qu’ils améliorent le monde et renforcent nos capacités individuelles et collectives. Mais en réalité, ils nuisent à la capacité des gens d’apprendre et de penser par eux-mêmes, voire bouleversent le cours même de leur existence », explique-t-il avant d’en dénoncer le projet. 

Il n’y a pas que les parents, les jeunes aussi détestent l’IA

Depuis la sortie de ChatGPT, nul n’a subi autant la pression de l’IA que les jeunes, explique la journaliste Janus Rose pour The Verge. S’ils sont les plus grands adeptes des chatbots, « les étudiants et les actifs de la génération Z contribuent largement au rejet culturel plus large de l’IA. Et même s’ils utilisent ces outils, une grande partie des jeunes nourrit une profonde amertume, voire du ressentiment, face à un avenir centré sur l’IA qui, pour beaucoup, leur est imposé. » 

« Sortant du monde universitaire et confrontés à un marché du travail de plus en plus impitoyable, les jeunes sont face à une contradiction insoluble. On leur dit, d’un côté, que ces outils vont supprimer des millions d’emplois, et de l’autre, qu’ils doivent les utiliser s’ils ne veulent pas être laissés pour compte.» 

« La crainte que les chatbots nuisent à l’esprit critique et aux compétences sociales est répandue chez de nombreux jeunes adultes, même si une large majorité d’entre eux admettent utiliser régulièrement ces outils. Selon une récente étude Harvard-Gallup, 74 % des jeunes adultes interrogés aux États-Unis déclarent utiliser un chatbot au moins une fois par mois (une autre étude a révélé que plus de la moitié des étudiants américains admettent utiliser ces outils chaque semaine pour leurs travaux universitaires). Parallèlement, 79 % des personnes interrogées par Gallup « craignent que l’IA ne rende les gens plus paresseux », et 65 % estiment que l’utilisation des chatbots « favorise la gratification instantanée, et non une véritable compréhension », et empêche d’aborder les idées de manière critique et constructive.» 

« Dans un sondage Gallup plus récent, l’opinion de la génération Z sur les outils d’IA a atteint un nouveau point bas : seulement 18 % se disent optimistes quant à cette technologie, contre 27 % l’an dernier, et seulement 22 % se disent enthousiastes, contre 36 % auparavant. Le nombre de jeunes actifs de la génération Z qui estiment que les risques liés à l’IA l’emportent sur ses avantages a également augmenté de 11 points au cours de l’année écoulée, pour atteindre près de 50 %. Et même si 56 % affirment que ces outils les aident à terminer leur travail plus rapidement, huit sur dix admettent désormais que l’utilisation de l’IA compliquera l’apprentissage à l’avenir. »

« Les employeurs demandent aux universités de recruter des étudiants capables d’utiliser ces outils », explique Alex Hanna, directrice de la recherche du DAIR. « Ce n’est pas parce que ces outils ont réellement démontré leur valeur ajoutée ; on attend de la génération Z qu’elle nous la révèle. » D’où le fait que l’université ait tendance à intégrer l’IA… souvent un peu n’importe comment, comme ASU Atomic, un outil mis en place à l’université d’État de l’Arizona, qui synthétise automatiquement les cours magistraux en supports d’apprentissage concis, plus proche du slop qu’autre chose, déplorait 404 média. Le journal étudiant de l’université de Pennsylvanie a publié un édito cinglant à l’égard du déploiement de l’IA à l’université : « L’IA ne peut coexister avec l’éducation ; elle ne peut que la dégrader. » 

« Le fait que tant de jeunes soient parfaitement conscients de ces dangers, même lorsqu’ils utilisent ces outils, montre qu’ils ne se laissent pas berner par le discours enflammé des promoteurs de l’IA », estime Rose. La génération Z est extrêmement consciente des limites de ces outils, même pour ceux qui les trouvent utiles. 

Enfin, avance Rose, une autre explication nourrit l’ambiguïté du positionnement des plus jeunes : l’utilisation de l’IA est souvent moquée par les jeunes entre eux. La plupart trouvent les textes et les images générés artificielles et profondément ringards et s’en moquent ouvertement sur les réseaux sociaux, tout comme elle est dévalorisée par les étudiants et les professeurs. Selon une étude de l’Université de Pittsburgh, les étudiants perçoivent l’utilisation d’outils d’IA comme un signal d’alarme les incitant à avoir une moins haute opinion de leurs camarades. 

A croire que le refus de l’IA chez les plus jeunes (voir notre article, « nous sommes le slop »), s’il n’est pas un mouvement techno-critique, invite néanmoins à questionner notre rapport à la technologie en profondeur et montre que la colère contre l’IA prend des formes multiples. 

Hubert Guillaud

PS : Dans les écoles américaines, d’innombrables applications sont utilisées par les élèves sous la recommandation des professeurs voire des districts scolaires, explique The Markup, mais souvent en contradiction avec la loi, notamment en Californie où les protections à l’égard des données personnelles des enfants sont plus fortes qu’ailleurs. Mais il n’y a pas que les applications scolaires qui posent problèmes, les applications extrascolaires peuvent l’être tout autant. Le statut de ces applications extrascolaires, comme des applications sportives telles que TeamSnap, fait qu’elles ne semblent pas soumises aux mêmes contraintes réglementaires et peuvent revendre leurs informations à des courtiers ou à des annonceurs. Afin de renforcer l’application effective de la loi, un projet de loi californien comprend une nouvelle disposition : le droit pour les élèves et leurs parents de poursuivre les entreprises technologiques dans certains cas de violation de la vie privée. Une proposition contestée par les entreprises de la tech. Pour Jen King, chercheuse en protection de la vie privée et politiques des données à l’Institut d’intelligence artificielle de Stanford, donner aux consommateurs le droit de poursuivre est pourtant et souvent le seul moyen de renforcer l’application de la loi.

MAJ du 24/05/2026 : Sur les campus américains, les thuriféraires de l’IA de l’IA se font huer, rapporte Next… Et les refus d’usages lors des formations IA dans certaines écoles (en France également) se multiplient.

Et si notre terre était notre langue ?
Et si les IA conversationnelles étaient nos vaisseaux ?
Et si nous étions des astronautes sociaux ?

L’Overview Effect ou « effet de vue d’ensemble » c’est « un choc cognitif, une prise de conscience dont témoignent certains astronautes lors d’un vol spatial qui se produit lorsque ceux-ci observent la Terre depuis l’orbite terrestre ou la Lune. Cet effet se produit par la mise en perspective directe de la situation de la Terre dans l’espace : la planète est perçue comme une sphère fragile, un point bleu pâle « suspendu dans le vide », protégé par une fine atmosphère. »

L’Overview Effect conduit donc à prendre conscience de la fragilité d’un écosystème en l’observant d’un point, d’une position qui ne nous est ni naturelle ni facilement accessible et qui introduit une grande distance impliquant un renversement de perspective.

Et bien – me semble-t-il en tout cas – c’est très caractéristique de ce qu’ont produit les premiers systèmes d’IA conversationnels, ces artefacts génératifs. Et de ce qu’ils continuent de produire actuellement. En même temps que ces « agencements machiniques informationnels » ont déplacé la question du langage, ces IA conversationnelles et leur insincères maïeutiques nous ont mis dans une situation d’observation tout sauf naturelle de processus discursifs en temps réel qu’ils effectuent, processus discursifs pour autant (essentiellement) crédibles et « satisfaisants » (en tout cas satisfaisants aux principaux codes d’un échange conversationnel entre deux êtres humains).

Voir des machines parler était déjà étonnant mais fut longtemps cantonné au seul imaginaire de science-fiction ; puis parler à des machines (via les interfaces vocales du World Wide Voice) devînt une forme de routine mais demeurait, quelque part, toujours une forme d’étonnement ; aujourd’hui, voir des machines avoir avec nous des conversations rationnelles en temps réel, produit un effet de décalage qui fait que c’est « notre » intelligence, « notre » capacité dialogique et rationnelle qui est vue comme immensément fragile et qui, par contraste, donne à ces machines et à ces artefacts, dans l’interaction que nous avons avec elles, une place différente de ce qu’elle devrait être. Un renversement de perspective.

Nous sommes dans la position de l’astronaute qui observe non pas la terre mais la capacité de langage et d’intellection (et parfois aussi d’imagination), et qui l’observe pour la première fois depuis la médiation artificielle et artefactuelle qu’en propose l’IA générative. Et si la distance de la terre à la station spatiale qui permet de l’observer est considérable et se mesure en kilomètres (autour de 400 pour être précis), la distance entre notre « engagement langagier » et l’écho conversationnel médié par les IA est tout aussi vertigineuse à ceci près qu’elle ne se mesure plus en kilomètres mais plutôt en dépliant l’ensemble des règles algorithmiques, corpus d’entraînement, processus de « fine-tuning » mais aussi infrastructures techniques (data centers) et autres opérations qui permettent aux machines de faire à la fois illusion de langage et leurre de conversation.

Soit la langue est fragile, soit c’est nous qui le sommes.
Et si la langue est aux machines …

Cette position tout sauf naturelle (au même titre que celle de l’astronaute Sophie Adenot ci-dessus) nous conduit, en partie au moins, à regarder et à mieux mesurer et prendre en compte toute la fragilité du langage et des interactions humaines qu’il permet et conditionne. Mais cette situation d’observation inédite produit également deux effets différents : certains cherchent à protéger ou à sanctuariser la nature ou à tout le moins la fonction du langage, et à ne pas entièrement et systématiquement les soumettre aux systèmes techno-politiques qui produisent et façonnent ces IA ; d’autres au contraire font de cette fragilité évidente l’occasion d’un renoncement sur l’autel de l’efficience ou de la rationalité économique, prétextant se démultiplier via des IA agentiques qui sont le Taylorisme d’une langue véhicule. Et puis bien sûr il y a les enjeux même de l’écriture et de la création, que décrit un récent et admirable texte de Gregory Chatonsky sur AOC : « Ce qui (me) permet d’écrire est ce qui (vous) empêche de lire. »

Dans les deux types de réaction possible à cet Overview Effect de l’IA sur le langage, certains initialement en garderont donc surtout un sentiment accru de connexion avec une entité non-humaine, là où d’autres n’y verront que l’instanciation de formes toujours plus abouties d’isolement et de solitude. Tout comme la littérature scientifique autour de l’Overview Effect (qui date des premiers vols à haute altitude dans les années 1950), documentait aussi bien « l’appréciation et la perception de la beauté, une émotion inattendue, voire bouleversante, et un sentiment accru de connexion avec les autres » (Wikipedia) qu’un effet paradoxal de « rupture » ; les aviateurs traversaient en effet un phénomène décrit comme un sentiment de séparation physique de la terre occasionnant des réactions individuelles allant qui pouvait soit les plonger dans un sentiment  « d’exaltation ou du sentiment de se sentir plus proche de Dieu » tout comme à des formes élevées d’anxiété, de peur ou de solitude (Wikipedia). Ce phénomène dit de « break-off » cessa d’être étudié en tant que tel au début des années 1970.

Dans l’histoire des technologies numériques, qu’il s’agisse du Cloud, des réseaux sociaux, ou désormais de l’IA, les effets de proximité sont presque toujours paradoxaux et ne font que masquer une distance de plus en plus grande. Le « Cloud Computing » permet une disponibilité immédiate de documents qui n’ont jamais été stockés physiquement aussi loin de nous ; les réseaux sociaux ont historiquement fait proximité (puis promiscuité) avec des individus géographiquement toujours plus éloignés. Sans toujours le mesurer ou l’éprouver, nous avons donc déjà traversé d’autres « Overview Effects » : celui de l’éloignement et d’une distension de nos mémoires documentaires, celui de l’éloignement et d’une distension de nos relations sociales, et désormais donc, celui de l’éloignement et d’une distension là encore paradoxale de notre rapport au langage.

Voilà pourquoi, aussi, la question des heuristiques de preuve, celle de savoir comment à l’échelle d’une société nous serons – ou non – encore capables de définir la valeur de vérité d’un énoncé ou d’un fait et que cette valeur soit partagée parce que démontrable, documentable, voilà pourquoi la question des heuristiques de preuve est devenue aussi essentielle : non pas seulement par l’industrialisation de la production du faux, non pas uniquement par la vitesse même à laquelle ce faux est créé et se diffuse mais parce que nous sommes placés à une distance lointaine, inédite, comme en « décrochage » de notre capacité à faire langage. Parce que pour filer cette métaphore au moins visuelle de l’Overview Effect, c’est un autre type de vaisseau que l’ISS qui nous mène à si grande distance d’un biotope (la langue) qui nous est habituellement si proche et qui à mesure qu’elle se rapproche des machines semble aussi comme proportionnellement s’éloigner de nous. Les IA, ou plus précisément leur cadre de déploiement technique (les LLM) et infrastructurel (Data Centers et processeurs), sont un vaisseau comme un vecteur de mise à distance, d’éloignement de ce qui fait la langue.

Nous arrivons aujourd’hui à un moment charnière dans lequel nous verrons si la massification de l’usage des IA (pour autant qu’elle continue d’augmenter de manière constante et ne soit pas soumise à divers aléas d’un modèle économique pour l’instant reposant sur la dynamique d’un gigantisme de l’épuisement – toujours plus de ressources et de consommation), nous verrons, disais-je, si la massification de l’usage des IA nous emmène plutôt vers la conscientisation de la fragilité de la langue ou s’il faut plutôt se résoudre, après sa marchandisation dans un capitalisme linguistique (Frédéric Kaplan), à sa presque totale servicialisation dans un cadre où ce que l’on appelait la novlangue et le néo-parler, seront l’essentiel de la langue collective circulante quand d’autres régimes discursifs et linguistiques, jusqu’ici principalement vecteurs de socialisations affectives fines, seront de plus en plus cantonnés aux seuls échanges entre humains et machines.

Je ne crois pas trop à l’avènement à moyen terme d’une société du silence qu’extrapole par exemple un éditorial du WSJ reposant sur un article scientifique qui montre que nous utilisons en moyenne chaque année, 300 mots de moins par jour. Un recul de la parole qui touche toutes les classes d’âge et que les chercheurs comptabilisent en indiquant que notre volume de parole a diminué de 28% en moins de 15 ans.

Je crois par contre que depuis l’avènement des médiations numériques, l’inflation de paroles et de discours directement monétisables d’une part (capitalisme linguistique), et en parallèle et d’autre part, l’artificialisation soutenue de formes discursives indigentes au seul renfort d’une nécessité d’interaction rendant la langue soluble dans sa fonction phatique, je crois que oui, tout cela fait qu’encore une fois la question du langage s’est déplacée et qu’elle continue de le faire toujours davantage, les IA conversationnelles augmentant la distance entre elle et nous à des échelles stratosphériques jusqu’ici jamais atteintes.

One More Thing.

Dans une interview au magazine Usbek & Rika à propos de son dernier livre, la question était posée à Nicholas Carr de savoir quelle serait sa première décision s’il était nommé à la tête d’un puissant ministère de la technologie et du numérique par un gouvernement éclairé. Et il répondait ceci : « Détruire tous les centres de données. »

Or que sont ces centres de données fondamentalement dans la perspective qui nous occupe ? Ce sont des centres d’accumulation de paroles et de discours ; de paroles et de discours retenus, en permanence recalculés, archivés non pas par vertu de conservation mais par nécessité de manipulation. Détruire tous les centres de données pourrait alors, en effet, redonner une chance à la parole d’exister, et que chaque occasion nouvelle de discourir soit aussi une occasion nouvelle de découvrir. Ce qui fût un temps l’essentiel de l’intérêt de ce que nous appelions le Web.

L’ère post-chatbots s’annonce, explique la journaliste Lila Shroff pour The Atlantic. L’IA ne fait plus que répondre aux questions. Elle programme, elle agit. Et le « tournant agentique » formalise ces progrès, explique Eryk Salvaggio pour Tech Policy Press. Le tournant agentique désigne des systèmes qui génèrent du code et s’adaptent de manière autonome. Les systèmes d’IA produisent désormais du code et vérifient l’efficacité de cette production en la corrigeant jusqu’à ce qu’elle fonctionne. Mais si ces évolutions améliorent l’expérience utilisateur des LLM, est-ce que cela suffit pour « justifier » du déploiement de l’IA, interroge pertinemment Salvaggio. Est-ce que le fait que leurs productions s’améliorent suffit pour justifier de l’utilité de cette technologie ? 

Nous ne sommes plus exactement dans le cadre des perroquets stochastiques définis par l’article fondateur de 2021, d’Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, même si ce cadre reste pertinent – voir notre article, « la gauche minimise-t-elle le pouvoir de l’IA ? ». « Les systèmes agentiques empilent ces perroquets » pour produire des formes « d’essaims stochastiques ». Des systèmes qui s’auto-alignent sur ce qu’ils doivent produire, tout en demeurant fondamentalement incapables de rendre des comptes. La question centrale de l’article de Bender et alii demeure toujours pertinente, estime Salvaggio : « Les modèles de langage peuvent-ils être trop volumineux ? » 

La prolifération des modèles ne fait qu’amplifier les problèmes de biais, d’attribution erronée de la pensée et d’inefficacité. Distinguer la critique systémique de l’évaluation des modèles n’est pas céder à la surenchère : cela signifie se concentrer sur les avantages et les inconvénients collectifs plutôt que sur les usages individuels. On peut parler de ce que les modèles ne peuvent ou ne devraient pas faire sans pour autant nier leurs capacités, estime Salvaggio. 

L’IA agentique s’apprête à débarquer et ses effets vont être nombreux, estime l’artiste-chercheur. D’abord, il promet la production de logiciels bâclés (slopware, contraction de slop qu’on peut traduire par soupe ou de bouillie et de ware qui désigne les composants – voir notre article sur le slop), produits plus rapidement, mais qu’il va être difficile à évaluer. Distribution accélérée qui risque de créer des situations comparables à un espace aérien non réglementé, où une multitude de décisions individuelles et déconnectées engendrent le chaos. Le code peut sembler fonctionner dans des circonstances particulières grâce à toutes sortes de bidouillages qui masquent des erreurs sous-jacentes. « Contrairement aux logiciels malveillants, le logiciel bâclé n’est pas intentionnellement perturbateur ; il perturbe par négligence : c’est la variable codée en dur qui permet à un homme célibataire de gérer correctement son budget, mais qui entraîne des frais de découvert lorsqu’il est utilisé par une mère célibataire. La conception de logiciels exige une grande finesse dans le choix des valeurs et priorités qu’ils intègrent, ainsi que dans la manière dont ils déforment, ignorent ou présentent de façon erronée les données qu’ils traitent. Le suivi de ce processus requiert des connaissances techniques. » C’est cela qui pourrait disparaître dans les logiciels de demain. 

Ensuite, l’IA agentique promet l’accumulation des défaillances techniques. Malgré une perception accrue de fiabilité, les modèles de langage ne peuvent jamais être des machines à dire la vérité. Les soi-disant hallucinations sont mathématiquement impossibles à éliminer, et par conséquent, la perception d’une fiabilité accrue augmente le risque de surestimer la pertinence d’un modèle de langage pour une tâche donnée. Alors qu’un modèle de langage produit des textes ou autres médias persuasifs et potentiellement faux, un système agentiel produit un « code convaincant ». Ce code est produit de manière plus difficile à interrompre, à tracer ou à auditer qu’une simple sortie de modèle. « Il est impossible de documenter de manière fiable le processus de pensée d’un code créé sans réflexion » ; par conséquent, le code doit être considéré comme non fiable jusqu’à ce qu’il soit vérifié. On pourrait ajouter ici, le risque d’une sécurité infrastructurelle, comme l’évoquait Bruce Schneier.  

Conséquence du risque précédent, un autre risque repose sur l’accumulation des défaillances de responsabilité. Les erreurs dans un système agentiel s’accumulent de manière invisible jusqu’à ce qu’un élément vienne briser la façade. Dans les systèmes sensibles, ce dysfonctionnement peut nuire aux personnes. On encourage le gouvernement à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire – des domaines où des défaillances en cascade peuvent avoir de graves conséquences humaines. « L’objectif du gouvernement ne devrait pourtant pas être de gagner du temps en reportant la charge de travail sur un retraité qui se voit refuser indûment ses prestations ». 

Enfin, l’empilement des systèmes agentiques pousse à la montée en puissance du solutionnisme. Salvaggio rappelle pourtant que tous les problèmes ne se résument pas à des problèmes de programmation. L’accès à la génération de code nous pousse à résoudre les défis politiques par de nouvelles lignes de code et à nous concentrer sur les problèmes compréhensibles par les machines, au risque d’exacerber des formes de déshumanisation. Les cas particuliers, parfois flous, ne sont plus les subtilités du tissu social, mais une nuisance technique. Aucune simulation d’une communauté capable de résoudre ses problèmes n’est possible : le désordre est une étape nécessaire à la construction du sens et au fonctionnement de la démocratie. 

Enfin, ces systèmes risquent d’accroître l’extraction et le gaspillage des ressources à grande échelle. Les systèmes multi-agents fonctionnent en boucle, consommant bien plus de ressources que les logiciels conçus de manière plus ciblée. Lorsqu’un débutant réécrit une seule ligne de code avec un système multi-agents, « il n’utilise pas un seul modèle : il active l’ensemble du système ». Cette mise à l’échelle optimise la production individuelle : plus, plus vite, sans tenir compte de l’efficacité du code ni de ses effets. Il ne s’agit pas seulement d’un coût environnemental. « Cela dégrade le patrimoine informationnel commun et crée des problèmes pour tous ceux qui, en aval, dépendent de ce code. Les essaims multi-agents augmentent la puissance de calcul individuelle tout en comprimant de vastes réseaux de travail et d’extraction de ressources dans une seule fenêtre d’exécution. »

Pour Salvaggio, d’autres problèmes encore posent questions avec le passage à l’IA agentique, notamment le pouvoir politique que ces outils vont donner à l’industrie de l’IA, l’extension de la surveillance, le renforcement et l’invisibilisation des biais… Reste qu’énumérer les défaillances à venir ne suffit pas à contrer l’expansion des machines. Se moquer des piètres résultats de ces systèmes semble n’avoir aucun impact sur leur déploiement estime Salvaggio. Pour lui, il nous faut ouvrir un débat sur l’utilité et ses limites. « Que signifie l’utilité ? Pour qui et dans quelles conditions ? » Qui bénéficie des systèmes et qui en pâtit ? « Quelles décisions sont discrètement soustraites au débat public et confiées à des systèmes automatisés contrôlés par des entreprises, des gouvernements et d’autres institutions ? Le fait que l’on utilise des modèles de langage ne rend pas les critiques à leur égard superflues ; au contraire, elles les rendent urgentes. »

L’ère post-chatbots s’annonce, explique la journaliste Lila Shroff pour The Atlantic. L’IA ne fait plus que répondre aux questions. Elle programme, elle agit. Et le « tournant agentique » formalise ces progrès, explique Eryk Salvaggio pour Tech Policy Press. Le tournant agentique désigne des systèmes qui génèrent du code et s’adaptent de manière autonome. Les systèmes d’IA produisent désormais du code et vérifient l’efficacité de cette production en la corrigeant jusqu’à ce qu’elle fonctionne. Mais si ces évolutions améliorent l’expérience utilisateur des LLM, est-ce que cela suffit pour « justifier » du déploiement de l’IA, interroge pertinemment Salvaggio. Est-ce que le fait que leurs productions s’améliorent suffit pour justifier de l’utilité de cette technologie ? 

Nous ne sommes plus exactement dans le cadre des perroquets stochastiques définis par l’article fondateur de 2021, d’Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, même si ce cadre reste pertinent – voir notre article, « la gauche minimise-t-elle le pouvoir de l’IA ? ». « Les systèmes agentiques empilent ces perroquets » pour produire des formes « d’essaims stochastiques ». Des systèmes qui s’auto-alignent sur ce qu’ils doivent produire, tout en demeurant fondamentalement incapables de rendre des comptes. La question centrale de l’article de Bender et alii demeure toujours pertinente, estime Salvaggio : « Les modèles de langage peuvent-ils être trop volumineux ? » 

La prolifération des modèles ne fait qu’amplifier les problèmes de biais, d’attribution erronée de la pensée et d’inefficacité. Distinguer la critique systémique de l’évaluation des modèles n’est pas céder à la surenchère : cela signifie se concentrer sur les avantages et les inconvénients collectifs plutôt que sur les usages individuels. On peut parler de ce que les modèles ne peuvent ou ne devraient pas faire sans pour autant nier leurs capacités, estime Salvaggio. 

L’IA agentique s’apprête à débarquer et ses effets vont être nombreux, estime l’artiste-chercheur. D’abord, il promet la production de logiciels bâclés (slopware, contraction de slop qu’on peut traduire par soupe ou de bouillie et de ware qui désigne les composants – voir notre article sur le slop), produits plus rapidement, mais qu’il va être difficile à évaluer. Distribution accélérée qui risque de créer des situations comparables à un espace aérien non réglementé, où une multitude de décisions individuelles et déconnectées engendrent le chaos. Le code peut sembler fonctionner dans des circonstances particulières grâce à toutes sortes de bidouillages qui masquent des erreurs sous-jacentes. « Contrairement aux logiciels malveillants, le logiciel bâclé n’est pas intentionnellement perturbateur ; il perturbe par négligence : c’est la variable codée en dur qui permet à un homme célibataire de gérer correctement son budget, mais qui entraîne des frais de découvert lorsqu’il est utilisé par une mère célibataire. La conception de logiciels exige une grande finesse dans le choix des valeurs et priorités qu’ils intègrent, ainsi que dans la manière dont ils déforment, ignorent ou présentent de façon erronée les données qu’ils traitent. Le suivi de ce processus requiert des connaissances techniques. » C’est cela qui pourrait disparaître dans les logiciels de demain. 

Ensuite, l’IA agentique promet l’accumulation des défaillances techniques. Malgré une perception accrue de fiabilité, les modèles de langage ne peuvent jamais être des machines à dire la vérité. Les soi-disant hallucinations sont mathématiquement impossibles à éliminer, et par conséquent, la perception d’une fiabilité accrue augmente le risque de surestimer la pertinence d’un modèle de langage pour une tâche donnée. Alors qu’un modèle de langage produit des textes ou autres médias persuasifs et potentiellement faux, un système agentiel produit un « code convaincant ». Ce code est produit de manière plus difficile à interrompre, à tracer ou à auditer qu’une simple sortie de modèle. « Il est impossible de documenter de manière fiable le processus de pensée d’un code créé sans réflexion » ; par conséquent, le code doit être considéré comme non fiable jusqu’à ce qu’il soit vérifié. On pourrait ajouter ici, le risque d’une sécurité infrastructurelle, comme l’évoquait Bruce Schneier.  

Conséquence du risque précédent, un autre risque repose sur l’accumulation des défaillances de responsabilité. Les erreurs dans un système agentiel s’accumulent de manière invisible jusqu’à ce qu’un élément vienne briser la façade. Dans les systèmes sensibles, ce dysfonctionnement peut nuire aux personnes. On encourage le gouvernement à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire – des domaines où des défaillances en cascade peuvent avoir de graves conséquences humaines. « L’objectif du gouvernement ne devrait pourtant pas être de gagner du temps en reportant la charge de travail sur un retraité qui se voit refuser indûment ses prestations ». 

Enfin, l’empilement des systèmes agentiques pousse à la montée en puissance du solutionnisme. Salvaggio rappelle pourtant que tous les problèmes ne se résument pas à des problèmes de programmation. L’accès à la génération de code nous pousse à résoudre les défis politiques par de nouvelles lignes de code et à nous concentrer sur les problèmes compréhensibles par les machines, au risque d’exacerber des formes de déshumanisation. Les cas particuliers, parfois flous, ne sont plus les subtilités du tissu social, mais une nuisance technique. Aucune simulation d’une communauté capable de résoudre ses problèmes n’est possible : le désordre est une étape nécessaire à la construction du sens et au fonctionnement de la démocratie. 

Enfin, ces systèmes risquent d’accroître l’extraction et le gaspillage des ressources à grande échelle. Les systèmes multi-agents fonctionnent en boucle, consommant bien plus de ressources que les logiciels conçus de manière plus ciblée. Lorsqu’un débutant réécrit une seule ligne de code avec un système multi-agents, « il n’utilise pas un seul modèle : il active l’ensemble du système ». Cette mise à l’échelle optimise la production individuelle : plus, plus vite, sans tenir compte de l’efficacité du code ni de ses effets. Il ne s’agit pas seulement d’un coût environnemental. « Cela dégrade le patrimoine informationnel commun et crée des problèmes pour tous ceux qui, en aval, dépendent de ce code. Les essaims multi-agents augmentent la puissance de calcul individuelle tout en comprimant de vastes réseaux de travail et d’extraction de ressources dans une seule fenêtre d’exécution. »

Pour Salvaggio, d’autres problèmes encore posent questions avec le passage à l’IA agentique, notamment le pouvoir politique que ces outils vont donner à l’industrie de l’IA, l’extension de la surveillance, le renforcement et l’invisibilisation des biais… Reste qu’énumérer les défaillances à venir ne suffit pas à contrer l’expansion des machines. Se moquer des piètres résultats de ces systèmes semble n’avoir aucun impact sur leur déploiement estime Salvaggio. Pour lui, il nous faut ouvrir un débat sur l’utilité et ses limites. « Que signifie l’utilité ? Pour qui et dans quelles conditions ? » Qui bénéficie des systèmes et qui en pâtit ? « Quelles décisions sont discrètement soustraites au débat public et confiées à des systèmes automatisés contrôlés par des entreprises, des gouvernements et d’autres institutions ? Le fait que l’on utilise des modèles de langage ne rend pas les critiques à leur égard superflues ; au contraire, elles les rendent urgentes. »

Les discussions sur les strates qui constituent le réseau sont nourries, d’autant qu’elles interrogent profondément les enjeux de souveraineté technologique. La souveraineté numérique est un concept flou qui fait l’objet de beaucoup d’instrumentalisations, rappelait avec pertinence l’association Data For Good. Bien souvent, être souverain en la matière implique d’être autonome sur toutes les couches de l’industrie numérique. Un objectif impossible tant les dépendances sont partout, des logiciels au matériel, des ressources aux infrastructures, des conditions juridiques aux financements. Comme l’expliquait la chercheuse Ophélie Coelho dans son livre, Géopolitique du numérique(éditions de l’Atelier, nouvelle édition 2025) l’enjeu est bien plus de déterminer les secteurs et les couches sur lesquels nous devons reprendre le contrôle. Pour le dire autrement, l’enjeu n’est pas tant d’avoir des produits totalement souverains, que de comprendre là où la souveraineté doit s’exercer et comment. 

Construire la strate de l’autonomie

Cette autonomie stratégique à laquelle aspirer est très souvent présentée comme un enjeu nationaliste ou patriotique, qui confond la souveraineté avec le leadership technologique, sans toujours voir que ces leaderships peuvent reposer sur des dépendances innombrables, à l’image de l’enjeu à déployer des centres de données sur le territoire au prétexte de souveraineté, sans questionner le fait que leur financement ou leurs équipements puissent être totalement entre les mains d’acteurs étrangers. 

L’IA est en passe de devenir une couche supplémentaire dans le mille-feuille des couches sociotechniques du numérique. Et elle requestionne en profondeur ces enjeux, explique  Raffi Krikorian, directeur technique de Mozilla, dans une tribune pour Rest of World. « Dans un monde de plus en plus polarisé et protectionniste, où les plateformes technologiques sont de plus en plus instrumentalisées par les politiques étatiques, construire des infrastructures nationales critiques sur des systèmes dont on n’est pas propriétaire, que l’on ne peut ni auditer ni adapter, représente un risque considérable et croissant. Ce défi comporte une dimension tant économique que politique. Un État soucieux de sa souveraineté en matière d’IA en 2026 ne pourra pas justifier de manière crédible le financement d’une infrastructure d’IA étrangère et verticalement intégrée tout en négligeant les investissements dans des alternatives nationales et open source. Investir dans les hyperscalers peut minimiser les coûts à court terme, mais cela consolide également les rentes numériques versées à des entités étrangères, maximise la dépendance à long terme envers des partenaires peu fiables et augmente considérablement les coûts de sortie. Si les gouvernements financent la dépendance, c’est bien la dépendance qu’ils obtiendront. »

Pour Raffi Krikorian pourtant, l’enjeu n’est pas tant de construire une souveraineté de l’IA nationaliste, que de bâtir des Communs maîtrisés. « L’absence actuelle de financements privés à grande échelle pour les infrastructures d’IA ouvertes reflète leur nature de bien public, et non leurs capacités. Les modèles open source atteignent déjà couramment 90 % ou plus des performances des systèmes propriétaires, pour un coût bien moindre. Investir dans les cadres d’IA ouverts, c’est investir dans les infrastructures publiques numériques, car cela génère des avantages grâce à des coûts réduits, au maintien de l’autonomie politique et à des gains de productivité à l’échelle de l’économie. L’IA ouverte offre également ce que les systèmes propriétaires ne peuvent pas : la légitimité démocratique. Les pays ne créent pas de valeur en revendant des solutions étrangères, mais en développant des produits différenciés sur des bases partagées, ouvertes et moins coûteuses. Il s’agit d’une politique industrielle qui encourage la concurrence et le développement des compétences nationales, et non d’un rejet de l’industrie nationale. »

« Internet n’est pas né de la seule initiative d’acteurs privés, mais d’investissements publics soutenus dans les technologies ouvertes. De Linux à Apache, les fondations open source partagées sont devenues l’épine dorsale de l’économie numérique mondiale, favorisant l’innovation privée tout en empêchant la mainmise sur l’infrastructure. Du CERN à Airbus en passant par Galileo, la leçon est claire : lorsque les États cofinancent des fondations ouvertes ou partagées, l’innovation privée prospère. En revanche, lorsqu’ils financent l’accès, la dépendance s’accentue. L’IA se trouve précisément à ce tournant.»

Souveraineté ne rime pas avec isolement, rappelle-t-il. « Les coûts de développement de l’IA open source peuvent être partagés. Comme l’a déclaré le Premier ministre canadien Mark Carney à Davos : « Investir collectivement dans la résilience coûte moins cher que de construire sa propre forteresse. » L’enjeu n’est pas que chaque pays construise son propre jardin clos. Il appartient aux nations de collaborer autour de standards ouverts et d’infrastructures partagées, en rejetant la fausse dichotomie entre dépendance et isolement des plateformes, et en construisant plutôt un avenir de l’IA qu’elles maîtrisent réellement. » 

« Si nous voulons des écosystèmes d’IA résilients, ouverts et fiables, nous devons les financer comme tels – non par idéalisme, mais comme un investissement concret dans la souveraineté, la résilience et la légitimité démocratique. Les pays qui aspirent à la souveraineté en matière d’IA doivent participer à ce débat, non pas en simples observateurs, mais en tant que co-investisseurs et co-constructeurs. Plus nous attendons, plus il sera difficile de changer de cap », conclut le responsable de Mozilla en appelant à construire des protocoles plus que des plateformes, des cadres ouverts plus que des solutions, des systèmes de valeurs plus que des contraintes économiques ou techniques. Une proposition qui rappelle que c’est bien le cadre de la souveraineté qu’il faut discuter, pour comprendre là où nous pouvons avoir des dépendances et là où nous devons les refuser. L’enjeu n’est pas de construire des investissements nationaux mais bien d’investir dans des infrastructures communes porteuses de valeurs démocratiques et émancipatrices, libres et ouvertes. « La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisit, capacitante. 

La coopération comme architecture solidaire

On se souvient que, récemment, l’économiste Francesca Bria avait évoqué le risque d’une soumission à une strate autoritaire fomentée par les géants de la Silicon valley : « derrière les strates qui composent le réseau, comme l’avait défini Benjamin Bratton dans son livre, Le Stack (UGAP, 2020), comme autant de régimes de souveraineté qui se superposent et s’imbriquent, la strate autoritaire semble l’envers de la proposition d’autonomie stratégique que propose EuroStack ». Mais le risque est bien, sous couvert de souveraineté, de produire des strates nationalistes voire militaristes, comme semble le proposer l’annonce récente d’un « Deutchland Stack » Allemand. 

D’où l’importance de faire un pas de côté.

C’est la piste que proposent les chercheurs Trebor Scholz et Mark Esposito dans la revue d’innovation sociale de Stanford. Pour contrebalancer l’extractivisme des plateformes, « nous avons besoin de construire la strate solidaire de l’empilement numérique ». Lorsque les systèmes technologiques sont conçus uniquement pour l’extraction et l’efficacité, ils isolent et brisent les personnes qui les font vivre, rappellent les deux chercheurs. L’exploitation des travailleurs du clic par exemple est le « symptôme d’une industrie structurée pour transférer les risques vers le bas via des chaînes contractuelles opaques, tout en concentrant les profits et le contrôle au sommet ». Pour Scholz et Esposito, « sans intervention délibérée, ces logiques d’extraction se généraliseront à l’échelle mondiale, concentrant encore davantage le pouvoir entre les mains des plus puissants, à moins que nous ne choisissions de construire un système fondamentalement différent ». Jusqu’à présent, les chercheurs invitaient à investir dans des entreprises inclusives, dans des coopératives de travailleurs, que Scholz a beaucoup défendu. Trebor Scholz est professeur à la New School for Social Research de New York depuis 2009. Il est l’un des premiers à s’être attelé à analyser le phénomène du Digital Labor (Routledge, 2013). Il est aussi l’un des promoteurs du coopérativisme de plateformes (voir par exemple notre article de 2015), notamment dans son livre Le coopérativisme de plateformes (FYP, 2017) ainsi que dans Own this ! (Verso, 2023). Il est également le fondateur du Platform Cooperativism Consortium un réseau de promotion du mouvement coopérativiste, qui organise notamment des conférences sur la coopération, comme celle sur l’IA coopérative qui se tenait il y a peu à Istanbul. Pourtant, écrit-il dans son article, « la réponse aux méfaits de l’IA ne peut se limiter à la régulation des plateformes dominantes ». 

En fait, la concentration du pouvoir des géants du numérique rend de plus en plus vulnérables même les institutions internationales les plus critiques aux politiques autoritaires et aux pressions des dirigeants, comme l’illustre la dépendance de la Cour pénale internationale à l’égard de l’infrastructure Microsoft face aux menaces proférées sous l’administration Trump. Les coopératives, les institutions publiques et les mouvements sociaux doivent donc activement construire et connecter des alternatives grâce à ce que Scholz appelle la « pile de solidarité », une économie numérique coopérative émergente. 

« L’extraction ne se résume pas à des algorithmes biaisés ou à des violations de la vie privée. C’est un problème structurel : l’IA actuelle fonctionne grâce à ce que nous appelons une « strate d’extraction » verticalement intégrée, comprenant le matériel, l’infrastructure cloud, les modèles, la main-d’œuvre et les applications. Seules quelques entreprises contrôlent la construction, la gouvernance et l’utilisation de ces technologies et les personnes qui en dépendent n’ont aucun droit de regard démocratique. »

Les critiques et les régulateurs soulignent à juste titre que les seules directives éthiques ne peuvent résoudre les problèmes posés par la logique extractiviste des plateformes. Les systèmes d’IA reposent sur des modèles de propriété, des chaînes d’approvisionnement et des architectures techniques qui privilégient le profit, le passage à l’échelle et le contrôle. « Ces incitations structurelles déterminent la collecte des données, le traitement des travailleurs, les décideurs et les bénéficiaires de la création de valeur, privant ainsi les directives éthiques de tout pouvoir pour remettre en cause la logique sous-jacente du système. Une IA démocratique ne peut se contenter de louer un espace sur la strate extractiviste ! Elle exige que les travailleurs, les communautés, les coopératives et les institutions publiques se réapproprient l’infrastructure elle-même, couche par couche, de la terre au nuage. »

Scholz et Esposito plaident pour construire une architecture solidaire. Un défi qui nécessite de rejeter la notion d’intelligence artificielle, qui sous-entend une force magique et autonome, au profit d’une intelligence collective, reconnaissant le travail humain et le savoir partagé qui alimentent ces systèmes. Cependant, parvenir à la coordination nécessaire pour contester les monopoles mondiaux de l’IA demeure un défi de taille. Même des organisations établies comme l‘Alliance coopérative internationale, qui représente un mouvement d’environ un milliard de membres et des milliers de coopératives employant près de 10 % de l’emploi mondial, sont structurées principalement pour la représentation et le plaidoyer plutôt que pour la coordination et l’exploitation d’une infrastructure numérique partagée.

De la gouvernance coopérative… 

Pour les deux chercheurs, plusieurs initiatives menées par des communautés, des coopératives et des institutions publiques permettent déjà de reprendre le contrôle de ces niveaux économiques, notamment des ressources, des infrastructures, des données, du travail comme du savoir. 

Une approche solidaire exige des chaînes d’approvisionnement transparentes, la propriété communautaire des ressources minérales et des mécanismes de partage équitable des bénéfices. Elle permettrait également de distribuer l’infrastructure sur des serveurs fédérés, appartenant à la communauté et interconnectables sans contrôle central. Butler Rural Electric offre un précédent historique éloquent. Fondées dans les années 1930 avec le soutien du gouvernement fédéral et une gouvernance coopérative, les coopératives électriques rurales ont permis aux communautés de financer, construire et gérer leur propre infrastructure énergétique, un modèle qui continue aujourd’hui de fournir de l’électricité à environ 42 millions de personnes dans les zones rurales américaines. Des coopératives numériques telles que Hostsharing eG en Allemagne et Som Connexio en Espagne, ainsi que plusieurs coopératives de vente au détail au Royaume-Uni, appliquent cette même logique en mutualisant les ressources de leurs membres, en utilisant une gouvernance coopérative et en collaborant avec des partenaires publics pour construire et exploiter une infrastructure numérique partagée. Cela permet aux communautés de réduire leur dépendance aux fournisseurs de cloud propriétaires, de conserver le contrôle local de leurs données et d’assumer la responsabilité de la gestion des coûts environnementaux liés à la consommation d’énergie. Bien que ces initiatives soient explicitement expérimentales et de portée modeste, elles suggèrent que la capacité de calcul peut fonctionner comme un bien public. Les décideurs politiques et les responsables municipaux pourraient même appliquer ce modèle pour créer une option publique d’accès à la puissance de calcul. 

Dans le modèle d’extraction, les données personnelles sont une matière première prélevée auprès des utilisateurs pour alimenter des modèles propriétaires. Cette logique considère les individus non pas comme des participants ou des détenteurs de droits, mais comme des sources passives de valeur. Le modèle de solidarité, lui, réinvente les données comme une ressource partagée, gérée démocratiquement. Par exemple, MIDATA, une plateforme suisse de données de santé détenue et gérée par des patients agit comme une fiducie pour ses membres. Elle maintient une infrastructure sécurisée permettant aux patients de consulter leurs données agrégées et de décider démocratiquement de les partager ou non à des fins de recherche médicale. MIDATA démontre qu’il est possible de créer des ensembles de données de haute qualité, issus de sources éthiques, sans surveillance. Les membres partagent volontairement leurs données car ils font confiance à la gouvernance et à la gestion des données de la coopérative, ce qui élimine le besoin d’extraction ou de surveillance coercitive. 

Au travail, l’IA implique une rétroaction entre contenus et modérateurs. Les travailleurs étiquettent, examinent, corrigent et leurs décisions enregistrées sont utilisées par les systèmes pour reconnaître, classer, améliorer. Ce processus contraint les individus à absorber le fardeau psychologique des contenus. Dans le modèle solidaire, ces travailleurs ont des garanties de salaires, de droits, bénéficient de soutiens… et pilotent la gouvernance de leurs outils et missions, comme c’est le cas de nombreuses coopératives de travailleurs, comme celle de la Gamayyar African Tech Workers au Kenya, Facttic en Argentine, Outlandish à Londres… et de nombreuses autres (comme la plateforme danoise Hilfr qu’on avait évoqué dans notre article sur les plateformes du secteur du nettoyage).

… à l’IA coopérative

Scholz et Esposito proposent d’appliquer les principes coopératifs à l’IA. « L’accès à l’IA seul est insuffisant quand les outils fonctionnent comme des boîtes noires, incapables d’expliquer ou de remettre en question leurs résultats, et si leurs valeurs reposent sur des principes imposés plutôt que sur des valeurs démocratiquement établies. L’approche solidaire propose de réhabiliter le domaine du savoir comme un espace de gouvernance collective, favorisant l’explicabilité, la contestabilité, des normes partagées » pour construire d’autres IA.

AI4Coops, en Argentine, est une initiative de petite envergure qui réunit des praticiens et des technologues du monde coopératif afin d’étudier comment l’intelligence artificielle pourrait soutenir la gouvernance coopérative et l’apprentissage partagé. Elle veille à ce que la culture algorithmique ne soit pas réservée aux institutions d’élite ni concentrée au sein des géants de la technologie, mais soit largement accessible aux travailleurs, aux coopératives et aux communautés. Elle développe des outils d’IA adaptés à des problématiques locales avec des acteurs locaux, comme des systèmes de reconnaissance d’images pour du contrôle qualité dans une usine, un système d’analyse d’images satellites pour des coopératives agricoles… La coopérative britannique Animorph développe des outils de réalité augmentée pour la prise en charge de la démence, utilisant la narration immersive et des supports visuels pour soutenir la mémoire, la communication et le lien affectif des personnes atteintes de démence et de leurs aidants. Puisqu’elle est détenue par ses employés, elle refuse de monétiser la vulnérabilité des patients et conçoit des outils qui privilégient les soins aux indicateurs d’engagement. « Ces exemples montrent que l’IA au service du bien commun ne saurait se réduire à de la simple posture vertueuse, à du marketing éthique, ni à des formes d’écoblanchiment ou de blanchiment d’image. La construction d’une infrastructure solidaire exige que les modèles économiques alternatifs soient véritablement ancrés dans la démocratie au travail, la propriété partagée et une gouvernance responsable », expliquent les chercheurs. Ces modèles locaux ont d’autres vertus encore, comme la souveraineté linguistique, la maîtrise des processus, la sobriété…

Reste que, comme nous le disions, « les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. » Pour Scholz et Esposito également, l’infrastructure solidaire nécessite, pour émerger et s’imposer, une articulation stratégique des politiques, des financements et de l’organisation communautaire. Il faut que les développeurs technologiques « s’accordent régulièrement sur des principes partagés, l’interdépendance matérielle, des institutions durables, des rituels et un récit politique commun que les individus choisissent consciemment de défendre, notamment sous pression ».

Ici, Scholz et Esposito prennent l’exemple des organisations autonomes décentralisées (DAO), où la blockchain aide à formaliser la gouvernance partagée. Pas sûr que l’exemple soit convaincant, tant le mouvement est devenu a bien des égards problématique. Par contre, ils pointent vers le Public AI Network, un réseau de défense et promotion d’une IA publique intégrée, « qui fournirait des services d’IA au même titre que l’électricité ou l’eau », accessible à tous, contrainte à rendre des comptes, durable, fiable. Ou encore le projet Lestac AI en France, pour tester des services d’IA écoresponsables. Ou le modèle multilingue et open source Apertus, développé par l’École polytechnique fédérale de Zurich (EPFZ) et l’École polytechnique fédérale de Lausanne (EPFL)…  Le protocole OpenCourier, par exemple, crée une base technique commune permettant aux plateformes de livraison gérées par leurs travailleurs de se connecter et de collaborer. Ou encore le projet d’IA coopérative du réseau des collectivités locales britanniques qui s’engage à respecter les principes coopératifs et démocratiques dans la prestation de services publics. 

Pour Scholz et Esposito, ces « cercles » de strates solidaires, locales, conçoivent le développement d’infrastructures comme une forme d’action politique collective, que ce soit par le biais de fiducies de données municipales, de services cloud coopératifs ou de modèles linguistiques gérés publiquement. « Le discours dominant sur l’IA laisse faussement entendre qu’un contrôle centralisé par les entreprises est inévitable. Pourtant, des modérateurs de contenu au Kenya, des gestionnaires de données en Suisse et d’autres encore démontrent que les composantes d’un avenir numérique démocratique sont déjà présentes. Notre mission est de les relier et, ce faisant, d’exercer notre pouvoir d’agir, de refuser le désespoir et de créer un système où la technologie est au service de la majorité. »

Hubert Guillaud

Signalons encore que dans le syllabus (.pdf) du cours qu’il a donné au premier semestre à la New School sur le thème d’une « IA sans patrons », Trebor Scholz pointait encore vers bien d’autres exemples. En estimant que les infrastructures solidaires peuvent être mises en place à chaque niveau de la chaîne d’approvisionnement mondiale de l’IA, il évoquait les mines coopératives au Pérou, en Colombie, en Zambie ou en Mongolie, ou des centres de données coopératifs en Allemagne ou aux Pays-Bas. Il signalait par exemple, la tribune de la doctorante Tara Merk, contributrice au Metagovernance Project, sur les limites de projets de centres de données coopératifs. Face aux data centers dominés par les géants de la Tech, Merk défendait « une plus grande diversité dans la propriété et la gouvernance des centres de données », notamment coopératifs. « Et si les centres de données étaient détenus et gérés de manière coopérative par les personnes vivant à proximité immédiate et souvent directement desservies par eux ? » Dans ce modèle, les opérateurs citoyens pourraient recevoir une part des bénéfices générés par le centre de données (à l’instar des parcs éoliens citoyens). Cela entraînerait une redistribution indirecte des bénéfices générés par les données des utilisateurs en ligne – une idée qui prend d’autant plus d’importance que ces données gagnent en valeur à l’ère de l’IA. Les centres de données coopératifs offriraient également aux citoyens un meilleur contrôle sur l’impact de ces infrastructures sur leur environnement physique local. Par exemple, les citoyens pourraient décider si et quand la quantité d’énergie ou d’eau utilisée par le centre de données entre en conflit avec d’autres besoins locaux et pourraient décider de réduire l’approvisionnement énergétique du centre de données en cas de situation critique. Guidé par les valeurs coopératives d’équité et de solidarité, de tels centres de données pourraient décider de renoncer à des bénéfices plus élevés afin de rendre son infrastructure plus accessible à tous, comme aux associations et coopératives. Cela pourrait à son tour encourager une plus grande diversité dans le développement de l’IA et inciter les entreprises à adopter une identité coopérative. De plus, en s’appuyant sur une infrastructure de centres de données coopérative, les coopératives d’IA renforceraient leur autonomie et leur indépendance, offrant à leurs membres un meilleur contrôle sur l’ensemble de la pile technologique, y compris les moyens de production de l’IA. Tara Merk est en train de faire une étude sur GAD eG, une coopérative qui pendant 50 ans a été l’un des grands fournisseurs de services informatiques allemand notamment pour les services financiers (jusqu’à sa fusion en 2015 avec une autre entreprise). Pour la chercheuse, l’exemple de GAD démontre « que les centres de données coopératifs constituent une option économiquement viable et évolutive, capable de fonctionner de manière fiable dans des secteurs critiques ». 

Dans son syllabus, Scholz aborde d’autres exemples de coopératives pour montrer comment les valeurs coopératives peuvent guider des alternatives concrètes au développement technologique, comme le propose Read-Coop, la coopérative européenne à l’origine de la plateforme de reconnaissance d’écriture manuscrite Transkribus. Et pointe vers nombre de ressources sur le sujet des technologies pour la coopération. 

A compléter encore par le numéro de Nature consacré aux modèles d’IA des pays du Sud, qui offre un autre regard sur d’autres façon de faire de l’IA.

Les discussions sur les strates qui constituent le réseau sont nourries, d’autant qu’elles interrogent profondément les enjeux de souveraineté technologique. La souveraineté numérique est un concept flou qui fait l’objet de beaucoup d’instrumentalisations, rappelait avec pertinence l’association Data For Good. Bien souvent, être souverain en la matière implique d’être autonome sur toutes les couches de l’industrie numérique. Un objectif impossible tant les dépendances sont partout, des logiciels au matériel, des ressources aux infrastructures, des conditions juridiques aux financements. Comme l’expliquait la chercheuse Ophélie Coelho dans son livre, Géopolitique du numérique(éditions de l’Atelier, nouvelle édition 2025) l’enjeu est bien plus de déterminer les secteurs et les couches sur lesquels nous devons reprendre le contrôle. Pour le dire autrement, l’enjeu n’est pas tant d’avoir des produits totalement souverains, que de comprendre là où la souveraineté doit s’exercer et comment. 

Construire la strate de l’autonomie

Cette autonomie stratégique à laquelle aspirer est très souvent présentée comme un enjeu nationaliste ou patriotique, qui confond la souveraineté avec le leadership technologique, sans toujours voir que ces leaderships peuvent reposer sur des dépendances innombrables, à l’image de l’enjeu à déployer des centres de données sur le territoire au prétexte de souveraineté, sans questionner le fait que leur financement ou leurs équipements puissent être totalement entre les mains d’acteurs étrangers. 

L’IA est en passe de devenir une couche supplémentaire dans le mille-feuille des couches sociotechniques du numérique. Et elle requestionne en profondeur ces enjeux, explique  Raffi Krikorian, directeur technique de Mozilla, dans une tribune pour Rest of World. « Dans un monde de plus en plus polarisé et protectionniste, où les plateformes technologiques sont de plus en plus instrumentalisées par les politiques étatiques, construire des infrastructures nationales critiques sur des systèmes dont on n’est pas propriétaire, que l’on ne peut ni auditer ni adapter, représente un risque considérable et croissant. Ce défi comporte une dimension tant économique que politique. Un État soucieux de sa souveraineté en matière d’IA en 2026 ne pourra pas justifier de manière crédible le financement d’une infrastructure d’IA étrangère et verticalement intégrée tout en négligeant les investissements dans des alternatives nationales et open source. Investir dans les hyperscalers peut minimiser les coûts à court terme, mais cela consolide également les rentes numériques versées à des entités étrangères, maximise la dépendance à long terme envers des partenaires peu fiables et augmente considérablement les coûts de sortie. Si les gouvernements financent la dépendance, c’est bien la dépendance qu’ils obtiendront. »

Pour Raffi Krikorian pourtant, l’enjeu n’est pas tant de construire une souveraineté de l’IA nationaliste, que de bâtir des Communs maîtrisés. « L’absence actuelle de financements privés à grande échelle pour les infrastructures d’IA ouvertes reflète leur nature de bien public, et non leurs capacités. Les modèles open source atteignent déjà couramment 90 % ou plus des performances des systèmes propriétaires, pour un coût bien moindre. Investir dans les cadres d’IA ouverts, c’est investir dans les infrastructures publiques numériques, car cela génère des avantages grâce à des coûts réduits, au maintien de l’autonomie politique et à des gains de productivité à l’échelle de l’économie. L’IA ouverte offre également ce que les systèmes propriétaires ne peuvent pas : la légitimité démocratique. Les pays ne créent pas de valeur en revendant des solutions étrangères, mais en développant des produits différenciés sur des bases partagées, ouvertes et moins coûteuses. Il s’agit d’une politique industrielle qui encourage la concurrence et le développement des compétences nationales, et non d’un rejet de l’industrie nationale. »

« Internet n’est pas né de la seule initiative d’acteurs privés, mais d’investissements publics soutenus dans les technologies ouvertes. De Linux à Apache, les fondations open source partagées sont devenues l’épine dorsale de l’économie numérique mondiale, favorisant l’innovation privée tout en empêchant la mainmise sur l’infrastructure. Du CERN à Airbus en passant par Galileo, la leçon est claire : lorsque les États cofinancent des fondations ouvertes ou partagées, l’innovation privée prospère. En revanche, lorsqu’ils financent l’accès, la dépendance s’accentue. L’IA se trouve précisément à ce tournant.»

Souveraineté ne rime pas avec isolement, rappelle-t-il. « Les coûts de développement de l’IA open source peuvent être partagés. Comme l’a déclaré le Premier ministre canadien Mark Carney à Davos : « Investir collectivement dans la résilience coûte moins cher que de construire sa propre forteresse. » L’enjeu n’est pas que chaque pays construise son propre jardin clos. Il appartient aux nations de collaborer autour de standards ouverts et d’infrastructures partagées, en rejetant la fausse dichotomie entre dépendance et isolement des plateformes, et en construisant plutôt un avenir de l’IA qu’elles maîtrisent réellement. » 

« Si nous voulons des écosystèmes d’IA résilients, ouverts et fiables, nous devons les financer comme tels – non par idéalisme, mais comme un investissement concret dans la souveraineté, la résilience et la légitimité démocratique. Les pays qui aspirent à la souveraineté en matière d’IA doivent participer à ce débat, non pas en simples observateurs, mais en tant que co-investisseurs et co-constructeurs. Plus nous attendons, plus il sera difficile de changer de cap », conclut le responsable de Mozilla en appelant à construire des protocoles plus que des plateformes, des cadres ouverts plus que des solutions, des systèmes de valeurs plus que des contraintes économiques ou techniques. Une proposition qui rappelle que c’est bien le cadre de la souveraineté qu’il faut discuter, pour comprendre là où nous pouvons avoir des dépendances et là où nous devons les refuser. L’enjeu n’est pas de construire des investissements nationaux mais bien d’investir dans des infrastructures communes porteuses de valeurs démocratiques et émancipatrices, libres et ouvertes. « La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisit, capacitante. 

La coopération comme architecture solidaire

On se souvient que, récemment, l’économiste Francesca Bria avait évoqué le risque d’une soumission à une strate autoritaire fomentée par les géants de la Silicon valley : « derrière les strates qui composent le réseau, comme l’avait défini Benjamin Bratton dans son livre, Le Stack (UGAP, 2020), comme autant de régimes de souveraineté qui se superposent et s’imbriquent, la strate autoritaire semble l’envers de la proposition d’autonomie stratégique que propose EuroStack ». Mais le risque est bien, sous couvert de souveraineté, de produire des strates nationalistes voire militaristes, comme semble le proposer l’annonce récente d’un « Deutchland Stack » Allemand. 

D’où l’importance de faire un pas de côté.

C’est la piste que proposent les chercheurs Trebor Scholz et Mark Esposito dans la revue d’innovation sociale de Stanford. Pour contrebalancer l’extractivisme des plateformes, « nous avons besoin de construire la strate solidaire de l’empilement numérique ». Lorsque les systèmes technologiques sont conçus uniquement pour l’extraction et l’efficacité, ils isolent et brisent les personnes qui les font vivre, rappellent les deux chercheurs. L’exploitation des travailleurs du clic par exemple est le « symptôme d’une industrie structurée pour transférer les risques vers le bas via des chaînes contractuelles opaques, tout en concentrant les profits et le contrôle au sommet ». Pour Scholz et Esposito, « sans intervention délibérée, ces logiques d’extraction se généraliseront à l’échelle mondiale, concentrant encore davantage le pouvoir entre les mains des plus puissants, à moins que nous ne choisissions de construire un système fondamentalement différent ». Jusqu’à présent, les chercheurs invitaient à investir dans des entreprises inclusives, dans des coopératives de travailleurs, que Scholz a beaucoup défendu. Trebor Scholz est professeur à la New School for Social Research de New York depuis 2009. Il est l’un des premiers à s’être attelé à analyser le phénomène du Digital Labor (Routledge, 2013). Il est aussi l’un des promoteurs du coopérativisme de plateformes (voir par exemple notre article de 2015), notamment dans son livre Le coopérativisme de plateformes (FYP, 2017) ainsi que dans Own this ! (Verso, 2023). Il est également le fondateur du Platform Cooperativism Consortium un réseau de promotion du mouvement coopérativiste, qui organise notamment des conférences sur la coopération, comme celle sur l’IA coopérative qui se tenait il y a peu à Istanbul. Pourtant, écrit-il dans son article, « la réponse aux méfaits de l’IA ne peut se limiter à la régulation des plateformes dominantes ». 

En fait, la concentration du pouvoir des géants du numérique rend de plus en plus vulnérables même les institutions internationales les plus critiques aux politiques autoritaires et aux pressions des dirigeants, comme l’illustre la dépendance de la Cour pénale internationale à l’égard de l’infrastructure Microsoft face aux menaces proférées sous l’administration Trump. Les coopératives, les institutions publiques et les mouvements sociaux doivent donc activement construire et connecter des alternatives grâce à ce que Scholz appelle la « pile de solidarité », une économie numérique coopérative émergente. 

« L’extraction ne se résume pas à des algorithmes biaisés ou à des violations de la vie privée. C’est un problème structurel : l’IA actuelle fonctionne grâce à ce que nous appelons une « strate d’extraction » verticalement intégrée, comprenant le matériel, l’infrastructure cloud, les modèles, la main-d’œuvre et les applications. Seules quelques entreprises contrôlent la construction, la gouvernance et l’utilisation de ces technologies et les personnes qui en dépendent n’ont aucun droit de regard démocratique. »

Les critiques et les régulateurs soulignent à juste titre que les seules directives éthiques ne peuvent résoudre les problèmes posés par la logique extractiviste des plateformes. Les systèmes d’IA reposent sur des modèles de propriété, des chaînes d’approvisionnement et des architectures techniques qui privilégient le profit, le passage à l’échelle et le contrôle. « Ces incitations structurelles déterminent la collecte des données, le traitement des travailleurs, les décideurs et les bénéficiaires de la création de valeur, privant ainsi les directives éthiques de tout pouvoir pour remettre en cause la logique sous-jacente du système. Une IA démocratique ne peut se contenter de louer un espace sur la strate extractiviste ! Elle exige que les travailleurs, les communautés, les coopératives et les institutions publiques se réapproprient l’infrastructure elle-même, couche par couche, de la terre au nuage. »

Scholz et Esposito plaident pour construire une architecture solidaire. Un défi qui nécessite de rejeter la notion d’intelligence artificielle, qui sous-entend une force magique et autonome, au profit d’une intelligence collective, reconnaissant le travail humain et le savoir partagé qui alimentent ces systèmes. Cependant, parvenir à la coordination nécessaire pour contester les monopoles mondiaux de l’IA demeure un défi de taille. Même des organisations établies comme l‘Alliance coopérative internationale, qui représente un mouvement d’environ un milliard de membres et des milliers de coopératives employant près de 10 % de l’emploi mondial, sont structurées principalement pour la représentation et le plaidoyer plutôt que pour la coordination et l’exploitation d’une infrastructure numérique partagée.

De la gouvernance coopérative… 

Pour les deux chercheurs, plusieurs initiatives menées par des communautés, des coopératives et des institutions publiques permettent déjà de reprendre le contrôle de ces niveaux économiques, notamment des ressources, des infrastructures, des données, du travail comme du savoir. 

Une approche solidaire exige des chaînes d’approvisionnement transparentes, la propriété communautaire des ressources minérales et des mécanismes de partage équitable des bénéfices. Elle permettrait également de distribuer l’infrastructure sur des serveurs fédérés, appartenant à la communauté et interconnectables sans contrôle central. Butler Rural Electric offre un précédent historique éloquent. Fondées dans les années 1930 avec le soutien du gouvernement fédéral et une gouvernance coopérative, les coopératives électriques rurales ont permis aux communautés de financer, construire et gérer leur propre infrastructure énergétique, un modèle qui continue aujourd’hui de fournir de l’électricité à environ 42 millions de personnes dans les zones rurales américaines. Des coopératives numériques telles que Hostsharing eG en Allemagne et Som Connexio en Espagne, ainsi que plusieurs coopératives de vente au détail au Royaume-Uni, appliquent cette même logique en mutualisant les ressources de leurs membres, en utilisant une gouvernance coopérative et en collaborant avec des partenaires publics pour construire et exploiter une infrastructure numérique partagée. Cela permet aux communautés de réduire leur dépendance aux fournisseurs de cloud propriétaires, de conserver le contrôle local de leurs données et d’assumer la responsabilité de la gestion des coûts environnementaux liés à la consommation d’énergie. Bien que ces initiatives soient explicitement expérimentales et de portée modeste, elles suggèrent que la capacité de calcul peut fonctionner comme un bien public. Les décideurs politiques et les responsables municipaux pourraient même appliquer ce modèle pour créer une option publique d’accès à la puissance de calcul. 

Dans le modèle d’extraction, les données personnelles sont une matière première prélevée auprès des utilisateurs pour alimenter des modèles propriétaires. Cette logique considère les individus non pas comme des participants ou des détenteurs de droits, mais comme des sources passives de valeur. Le modèle de solidarité, lui, réinvente les données comme une ressource partagée, gérée démocratiquement. Par exemple, MIDATA, une plateforme suisse de données de santé détenue et gérée par des patients agit comme une fiducie pour ses membres. Elle maintient une infrastructure sécurisée permettant aux patients de consulter leurs données agrégées et de décider démocratiquement de les partager ou non à des fins de recherche médicale. MIDATA démontre qu’il est possible de créer des ensembles de données de haute qualité, issus de sources éthiques, sans surveillance. Les membres partagent volontairement leurs données car ils font confiance à la gouvernance et à la gestion des données de la coopérative, ce qui élimine le besoin d’extraction ou de surveillance coercitive. 

Au travail, l’IA implique une rétroaction entre contenus et modérateurs. Les travailleurs étiquettent, examinent, corrigent et leurs décisions enregistrées sont utilisées par les systèmes pour reconnaître, classer, améliorer. Ce processus contraint les individus à absorber le fardeau psychologique des contenus. Dans le modèle solidaire, ces travailleurs ont des garanties de salaires, de droits, bénéficient de soutiens… et pilotent la gouvernance de leurs outils et missions, comme c’est le cas de nombreuses coopératives de travailleurs, comme celle de la Gamayyar African Tech Workers au Kenya, Facttic en Argentine, Outlandish à Londres… et de nombreuses autres (comme la plateforme danoise Hilfr qu’on avait évoqué dans notre article sur les plateformes du secteur du nettoyage).

… à l’IA coopérative

Scholz et Esposito proposent d’appliquer les principes coopératifs à l’IA. « L’accès à l’IA seul est insuffisant quand les outils fonctionnent comme des boîtes noires, incapables d’expliquer ou de remettre en question leurs résultats, et si leurs valeurs reposent sur des principes imposés plutôt que sur des valeurs démocratiquement établies. L’approche solidaire propose de réhabiliter le domaine du savoir comme un espace de gouvernance collective, favorisant l’explicabilité, la contestabilité, des normes partagées » pour construire d’autres IA.

AI4Coops, en Argentine, est une initiative de petite envergure qui réunit des praticiens et des technologues du monde coopératif afin d’étudier comment l’intelligence artificielle pourrait soutenir la gouvernance coopérative et l’apprentissage partagé. Elle veille à ce que la culture algorithmique ne soit pas réservée aux institutions d’élite ni concentrée au sein des géants de la technologie, mais soit largement accessible aux travailleurs, aux coopératives et aux communautés. Elle développe des outils d’IA adaptés à des problématiques locales avec des acteurs locaux, comme des systèmes de reconnaissance d’images pour du contrôle qualité dans une usine, un système d’analyse d’images satellites pour des coopératives agricoles… La coopérative britannique Animorph développe des outils de réalité augmentée pour la prise en charge de la démence, utilisant la narration immersive et des supports visuels pour soutenir la mémoire, la communication et le lien affectif des personnes atteintes de démence et de leurs aidants. Puisqu’elle est détenue par ses employés, elle refuse de monétiser la vulnérabilité des patients et conçoit des outils qui privilégient les soins aux indicateurs d’engagement. « Ces exemples montrent que l’IA au service du bien commun ne saurait se réduire à de la simple posture vertueuse, à du marketing éthique, ni à des formes d’écoblanchiment ou de blanchiment d’image. La construction d’une infrastructure solidaire exige que les modèles économiques alternatifs soient véritablement ancrés dans la démocratie au travail, la propriété partagée et une gouvernance responsable », expliquent les chercheurs. Ces modèles locaux ont d’autres vertus encore, comme la souveraineté linguistique, la maîtrise des processus, la sobriété…

Reste que, comme nous le disions, « les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. » Pour Scholz et Esposito également, l’infrastructure solidaire nécessite, pour émerger et s’imposer, une articulation stratégique des politiques, des financements et de l’organisation communautaire. Il faut que les développeurs technologiques « s’accordent régulièrement sur des principes partagés, l’interdépendance matérielle, des institutions durables, des rituels et un récit politique commun que les individus choisissent consciemment de défendre, notamment sous pression ».

Ici, Scholz et Esposito prennent l’exemple des organisations autonomes décentralisées (DAO), où la blockchain aide à formaliser la gouvernance partagée. Pas sûr que l’exemple soit convaincant, tant le mouvement est devenu a bien des égards problématique. Par contre, ils pointent vers le Public AI Network, un réseau de défense et promotion d’une IA publique intégrée, « qui fournirait des services d’IA au même titre que l’électricité ou l’eau », accessible à tous, contrainte à rendre des comptes, durable, fiable. Ou encore le projet Lestac AI en France, pour tester des services d’IA écoresponsables. Ou le modèle multilingue et open source Apertus, développé par l’École polytechnique fédérale de Zurich (EPFZ) et l’École polytechnique fédérale de Lausanne (EPFL)…  Le protocole OpenCourier, par exemple, crée une base technique commune permettant aux plateformes de livraison gérées par leurs travailleurs de se connecter et de collaborer. Ou encore le projet d’IA coopérative du réseau des collectivités locales britanniques qui s’engage à respecter les principes coopératifs et démocratiques dans la prestation de services publics. 

Pour Scholz et Esposito, ces « cercles » de strates solidaires, locales, conçoivent le développement d’infrastructures comme une forme d’action politique collective, que ce soit par le biais de fiducies de données municipales, de services cloud coopératifs ou de modèles linguistiques gérés publiquement. « Le discours dominant sur l’IA laisse faussement entendre qu’un contrôle centralisé par les entreprises est inévitable. Pourtant, des modérateurs de contenu au Kenya, des gestionnaires de données en Suisse et d’autres encore démontrent que les composantes d’un avenir numérique démocratique sont déjà présentes. Notre mission est de les relier et, ce faisant, d’exercer notre pouvoir d’agir, de refuser le désespoir et de créer un système où la technologie est au service de la majorité. »

Hubert Guillaud

Signalons encore que dans le syllabus (.pdf) du cours qu’il a donné au premier semestre à la New School sur le thème d’une « IA sans patrons », Trebor Scholz pointait encore vers bien d’autres exemples. En estimant que les infrastructures solidaires peuvent être mises en place à chaque niveau de la chaîne d’approvisionnement mondiale de l’IA, il évoquait les mines coopératives au Pérou, en Colombie, en Zambie ou en Mongolie, ou des centres de données coopératifs en Allemagne ou aux Pays-Bas. Il signalait par exemple, la tribune de la doctorante Tara Merk, contributrice au Metagovernance Project, sur les limites de projets de centres de données coopératifs. Face aux data centers dominés par les géants de la Tech, Merk défendait « une plus grande diversité dans la propriété et la gouvernance des centres de données », notamment coopératifs. « Et si les centres de données étaient détenus et gérés de manière coopérative par les personnes vivant à proximité immédiate et souvent directement desservies par eux ? » Dans ce modèle, les opérateurs citoyens pourraient recevoir une part des bénéfices générés par le centre de données (à l’instar des parcs éoliens citoyens). Cela entraînerait une redistribution indirecte des bénéfices générés par les données des utilisateurs en ligne – une idée qui prend d’autant plus d’importance que ces données gagnent en valeur à l’ère de l’IA. Les centres de données coopératifs offriraient également aux citoyens un meilleur contrôle sur l’impact de ces infrastructures sur leur environnement physique local. Par exemple, les citoyens pourraient décider si et quand la quantité d’énergie ou d’eau utilisée par le centre de données entre en conflit avec d’autres besoins locaux et pourraient décider de réduire l’approvisionnement énergétique du centre de données en cas de situation critique. Guidé par les valeurs coopératives d’équité et de solidarité, de tels centres de données pourraient décider de renoncer à des bénéfices plus élevés afin de rendre son infrastructure plus accessible à tous, comme aux associations et coopératives. Cela pourrait à son tour encourager une plus grande diversité dans le développement de l’IA et inciter les entreprises à adopter une identité coopérative. De plus, en s’appuyant sur une infrastructure de centres de données coopérative, les coopératives d’IA renforceraient leur autonomie et leur indépendance, offrant à leurs membres un meilleur contrôle sur l’ensemble de la pile technologique, y compris les moyens de production de l’IA. Tara Merk est en train de faire une étude sur GAD eG, une coopérative qui pendant 50 ans a été l’un des grands fournisseurs de services informatiques allemand notamment pour les services financiers (jusqu’à sa fusion en 2015 avec une autre entreprise). Pour la chercheuse, l’exemple de GAD démontre « que les centres de données coopératifs constituent une option économiquement viable et évolutive, capable de fonctionner de manière fiable dans des secteurs critiques ». 

Dans son syllabus, Scholz aborde d’autres exemples de coopératives pour montrer comment les valeurs coopératives peuvent guider des alternatives concrètes au développement technologique, comme le propose Read-Coop, la coopérative européenne à l’origine de la plateforme de reconnaissance d’écriture manuscrite Transkribus. Et pointe vers nombre de ressources sur le sujet des technologies pour la coopération. 

A compléter encore par le numéro de Nature consacré aux modèles d’IA des pays du Sud, qui offre un autre regard sur d’autres façon de faire de l’IA.

J’étais il y a quelques semaines l’invité des Universités Populaires du pays Yonnais (UPPY), pour une soirée conférence-débat autour du thème de l’IA.

La captation de cette intervention est désormais disponible en ligne.

SI vous résidez autour de La Roche sur Yon ne manquez pas les prochains rendez-vous de ces universités populaires (informations sur leur page Facebook)

Contrairement à ce que pouvait écrire Céline, l’histoire, numérique en tout cas, repasse parfois les plats. A fortiori lorsque ceux-ci ont un goût amer. Au début des années 2005, j’ai suivi, chroniqué et établi l’un de mes terrains de terrain de recherche sur la manière dont le projet Google Books allait (et aujourd’hui, avait) définitivement modifié et remodelé à son avantage non seulement l’entièreté des « métiers du livre » (librairie, édition, bibliothèque), mais aussi initié et accompagné toutes les mutations ayant donné lieu à de nouveaux standards dans l’ensemble des industries culturelles. Vous trouverez trace de nombre de ces réflexions dans la rubrique éponyme de ce blog, ou bien dans cette version (qu’il faut que j’actualise) d’un cours que je donne sur le sujet à mes étudiantes et étudiants.

Je vous résume l’histoire en quelques mots.

Google débarque en 2005 avec un projet assez dingue de numérisation massive d’ouvrages du domaine public pris dans les bibliothèques avec leur accord, et en prenant tous les frais (colossaux) à sa charge. Au fur et à mesure on découvre qu’il n’a pas seulement numérisé des oeuvres libres de droits mais aussi des ouvrages sous droits et des oeuvres dites « orphelines » (oeuvres toujours sous droits mais commercialement épuisées et dont les ayants-droits ne se font pas connaître). Qu’il a fait tout cela en loucedé mais avec l’accord de certaines bibliothèques, accord couvert par des clauses de non-divulgation léonines. Et que toute sa stratégie était de venir concurrencer ses grands rivaux de l’époque (dont Amazon) en se positionnant rapidement sur la vente de livres numériques, mais aussi (et surtout) de prendre une colossale avance dans le domaine de l’IA en entraînant ses algorithmes sur ce que l’on ne nommait pas encore un « large modèle de langage » mais qui de fait, en était l’un des tous premiers et l’un des plus massifs. Après plein d’étapes et de rebondissements, de tentatives d’accord à l’amiable (et à grands coups de valises de billets), de coups fourrés y compris entre les plaignants où certains grands groupes éditoriaux firent cavalier seul pour négocier en direct avec Google, et après 10 ans de procès aux USA mais également en France, le verdict fut finalement rendu en faveur de Google au nom de l’argument du « Fair-Use », le juge américain considérant en effet que :

« Le but de la copie est hautement transformatif, l’affichage pour le public du texte est limité, et les passages ne fournissent pas un substitut aux œuvres originales protégées. La nature commerciale de Google et ses motivations lucratives ne permettent pas de rejeter l’argument du Fair Use. »

En 2010, lors de la sortie de l’excellent documentaire « Google and the world brain« , Amit Singhal (qui a rejoint Uber au début de l’année 2017) était interviewé en tant que grand chef de l’algorithmie chez Google et déclarait ceci : « Google Search is going to be assisted intelligence and not artificial intelligence.«  Une intelligence « assistée » par l’immensité d’un corpus construit dans la temporalité du procès. Alors que presque tous les regards étaient tournés vers l’exploitation d’un marché du livre numérique et les questions de droit d’auteur, la firme travaillait en réalité aussi et surtout sur l’optimisation de son immense corpus de textes dans l’optique du TALN (traitement automatique du langage naturel). L’invention de la technologie dite des « Transformers » en 2017 par huit chercheurs de Google dans l’article « Attention Is All You Need » allait métamorphoser ce corpus immense en l’un des tout premiers large modèle de langage et donner à Google un avantage concurrentiel colossal que l’on mesure aujourd’hui avec son modèle Gemini qui s’affirme comme l’un des plus puissants.

Et le rapport avec l’IA aujourd’hui?

Aujourd’hui (décembre 2024) des universités, les mêmes qui avaient initialement contractualisé avec Google pour le projet Google Books en 2005, Harvard en l’occurrence, mettent de la même manière gratuitement à disposition, non plus des corpus de livres papier pour qu’ils soient numérisés, mais des corpus de livres numérisés pour qu’ils puissent « entraîner des IA ». Quelques mois plus tard, en Mars 2025, Sam Altman (CEO d’Open AI) déclare que si sa boîte n’a pas le droit de s’entraîner comme elle le veut et sans rien demander à personne sur d’immenses corpus de textes (y compris protégés par le droit d’auteur), que si tout cela n’est pas reconnu comme du « Fair Use », alors la course à l’IA est terminée côté américain et que les Chinois et les Russes prendront la place (et gagneront la course). Quelques mois plus tard encore, en Septembre 2025, c’est la société Anthropic (dont nous reparlerons) qui, pour échapper à un procès initié par des auteurs sur le pillage et l’utilisation sans consentement de leurs oeuvres, sort le chéquier et débourse 1,5 milliard de dollars pour éviter l’action en justice. Pour vous donner un effet d’échelle, à l’époque du procès Google Books (démarré en 2005), la firme avait proposé aux plaignants (les auteurs et éditeurs) un dédommagement de 45 millions de dollars en échange de l’abandon de toute poursuite. Une somme qu’à l’époque tout le monde considérait comme « folle ». Nous étions alors en 2008. Moins de 20 ans plus tard, les 45 millions de dollars sont devenus 1,5 milliard. C’est bien plus que vertigineux.

Hier en plein procès Google Books la firme fixait aux auteurs et autrices un ultimatum pour retrouver et déclarer les oeuvres leur appartement et numérisées sans leur accord et soit réclamer leur retrait soit accepter un dédommagement et renoncer à poursuivre l’action en justice. On appelait ça le « règlement Google ».

Aujourd’hui en plein procès Anthropic on fait face à un scénario … rigoureusement identique au mot près.

Hier. A l’époque des débuts de la numérisation massive lancée par Google (2005 donc) et jusqu’à assez tard (2010 et au-delà) on trouvait fréquemment dans le moteur de recherche des ouvrages dont les informations de catalogage (date de parution notamment) étaient absolument fantaisistes et erronés. Comme la collecte de ces infos n’était pas faite par des gens (bibliothécaires) et de manière structurée mais par des algorithmes qui scannaient le texte et récupéraient ce qu’ils pouvaient, il était fréquent que Google Books vous indique que Notre Dame de Paris avait été écrit au 16ème siècle ou que Baudelaire était l’auteur du célèbre ouvrage « les fleurs et leurs parfums ». On y trouvait aussi, dans ces rayonnages numériques algorithmisés, tout un tas d’ouvrages pas du tout rangés au bon endroit, comme si un bibliothécaire fou ou rigolo avait décidé de ranger Le Château de Kafka au rayon moyen-âge, Les fleurs du mal au rayon horticulture, et Mein Kampf au rayon jeunesse (ce qui pour le coup n’est pas très rigolo j’en conviens). Et tout un tas d’autres erreurs qui pourraient prêter à rire s’il n’était pas question de forger des référents culturels stables.

Aujourd’hui. Et aujourd’hui dans les bibliothèques américaines des gens viennent chercher des livres qui n’existent pas. Qui n’existent pas parce que c’est ChatGPT ou l’un de ses copains qui a fabriqué de toute pièce ici un titre, ici une collection, ici un auteur, ici un mix des trois ne reposant sur rien d’autre de réel que le besoin de satisfaire le besoin de celui ou celle qui l’interrogeait. Dans le même genre et à l’instar des fausses dates de publication ou des fausses dates de naissance que le Google Books des années 2005-2015 attribuait parfois aux auteurs et autrices référencées, le Google de 2025 dopé à l’IA se met à citer des auteurs et des pages dont … l’IA de Google et l’auteur. Cela peut représenter (selon le type de requête) parfois plus de 10% des 100 premiers résultats organiques. Précisons que Google conteste les résultats de cette étude et présente des chiffres d’autres études qui situent plutôt cette proportion autour de 2 à 3,5%.

Google Books en 2005 ou Google Gemini en 2025, le problème n’est pas tant que la numérisation d’hier ou l’artificialisation d’aujourd’hui soient sources d’erreurs ; le problème tient dans le « statut » de ces erreurs, dans notre capacité à les identifier en tant que telles, et dans la possibilité effective qu’elles soient de nouveau traitées comme des informations fiables par des IA devenues autophages et plus souvent infra-visées que réellement supervisées.

La propriété (intellectuelle) c’est ce qui peut être volé. 

Je raconte souvent à mes étudiantes et étudiants la manière dont la bibliothèque d’Alexandrie s’est largement construite sur un mode confiscatoire. On récupérait toutes les oeuvres qui se trouvaient dans la cargaison des navires rentrant au port, si on en avait le temps, on en faisait une copie pour le musée et la bibliothèque d’Alexandrie puis on rendait tantôt l’original tantôt la copie, et si on n’avait pas temps, on gardait l’original. Tout cela parce qu’à l’époque déjà, en tout cas dans l’esprit de Ptolémée, la culture était une arme, et que faire collection c’était faire légion.

Rien de très étonnant donc à constater que de la même manière que Google Books vint littéralement piller des collections entières de livres ou d’articles de journaux pour alimenter et constituer son moteur de recherche aspirant à l’IA, ce sont aujourd’hui les IA contemporaines qui à leur tour viennent piller tout le savoir disponible sans le moindre égard pour le respect de la propriété intellectuelle.

Rien ou presque n’a changé depuis la bibliothèque d’Alexandrie : officiellement il s’agit d’en faire des « copies » pour hypothétiquement les rendre ensuite aux détenteurs des droits s’ils s’en aperçoivent et les réclament ; en réalité il s’agit de constituer un corpus confiscatoire sur lequel on appliquera des droits de propriété intellectuelle au seul bénéfice de la firme extractiviste qui l’a constitué par prédation. Concrètement ? Là encore l’histoire bégaie.Comme le révélait une enquête de The Atlantic, récemment reprise par Mediapart, « pour entraîner son modèle d’intelligence artificielle, la maison mère de Facebook a téléchargé illégalement, dès 2022, les ouvrages accumulés par le site pirate LibGen. Mediapart révèle l’implication centrale de Guillaume Lample, devenu l’un des patrons de Mistral AI, l’entreprise française phare de l’IA. » Le site pirate LibGen est loin d’avoir été le seul à être pillé. Et il faut rappeler que s’il est un site « pirate » c’est parce qu’historiquement 4 grands acteurs détiennent à eux seuls l’ensemble des revues scientifiques et y exercent un pouvoir de contrainte et de vérouillage tel, qu’il fallut le courage de gens comme Aaron Swartz ou Alexandra Elbakyan pour ramener, dans l’espace public et citoyen, des connaissances scientifiques produites sur fonds publics et qui à ce titre, appartiennent à toutes et tous et n’auraient jamais du en sortir au seul bénéfice d’éditeurs prédateurs jouant de leur monopole pour restreindre l’accès aux connaissances. En 2010 donc, Aaron Swartz téléchargea illégalement près de 5 millions d’articles scientifiques hébergés chez l’éditeur JSTOR pour les remettre dans l’espace public. Poursuivi par la justice et « pour l’exemple », il fit face à une amende de plus d’un million de dollars et à une peine de 35 ans de prison (sic). Face à un acharnement judiciaire sans précédent, il se suicida 3 ans plus tard.

Après Aaron Swartz qui le fit pour libérer l’accès au savoir, voici donc Guillaume Lample chez Meta puis chez Mistral AI qui vient cette fois piller et voler pour permettre à la firme qui l’emploie de dépasser rapidement la concurrence. Il vole, il pille, mais il ne le fait pas pour détruire un monopole, il le fait pour en créer un nouveau. Et il est malheureusement loin d’être le seul.

Mais aujourd’hui, l’état du droit a changé et ce sont des firmes à la trésorerie presqu’infinie que l’on poursuit plutôt que des individus isolés dont on cherche à faire un exemple. A l’époque où Aaron Swartz libéra ces 5 millions d’articles scientifiques, près de 70 GB de données, il fut poursuivi et menacé de 35 ans de prison et de plus d’un million de dollars d’amende. Aujourd’hui dans le procès « Kadrey VS Meta », du nom d’un auteur (Kadrey) s’opposant à l’utilisation sans consentement de ses oeuvres par la forme Meta pour alimenter son modèle d’IA, le juge n’a pas menacé Meta de 35 ans de prison et d’une amende à la hauteur de son chiffre d’affaire. Car entre Aaron Swartz et ce procès, il y eut un autre procès, celui qu’aux Etats-Unis la Guilde des Auteurs et l’association américaine des éditeurs intenta en 2005 à Google qui numérisait alors également à tout va et également sans consentement. Et le verdict de ce procès, en 2015, qui donna raison à Google considérant que les copies et usages produits à partir des oeuvres originales était « hautement transformatif » et donc conforme à la doctrine du Fair-Use en droit américain, y compris dans le cadre de la stratégie pourtant clairement commerciale de Google. Nous voici en 2025, dix ans après la fin de ce qui fut le plus grand procès de l’histoire des industries culturelles autour du droit d’auteur et de la numérisation, et dix ans plus tard, Meta (et Guillaume Lample) s’en tirent sans aucune condamnation, la justice estimant que là encore, la copie réalisée sur la base de ces plus de 80 GB de données de livres piratés, était « hautement transformative » (puisqu’elle permettait aux outils d’IA générative de recracher des textes … différents) et donc là encore conforme au Fair-Use en droit américain.

Les ennuis de Meta et de Zuckerberg ne sont pas pour autant terminés puisqu’il existe d’autres actions en justice initiées de la même manière, mais cette fois non plus sur des livres mais sur des films, plus précisément des films pour adultes. Un producteur de ces films accuse le groupe Meta d’en avoir téléchargé via Bittorrent pour alimenter les modèles de ses IA, le groupe Meta tente d’éviter d’aller au procès en arguant que des films ont certes été téléchargés sur les serveurs de la firme mais que c’était « pour des usages privés et personnels » (sic).

Les IA génératives s’attaquant à l’ensemble des industries culturelles (livre, film, musique, radio, télévision, jeux vidéo) ce sont autant de fronts ouverts en termes de batailles juridiques. Et là encore le passé jouera un rôle précieux d’analyse. Lorsqu’en Mars 2025 en France, le syndicat national de l’édition (SNE), la société des gens de lettres (SGDL), et le syndicat national des auteurs et compositeurs (SNAC) intentent un procès contre Méta au motif qu’ils y ont trouvé des oeuvres utilisées sans leur autorisation et permettant d’alimenter et d’entraîner les IA de la firme, c’est, à l’exception de la participation du SNAC, l’exacte redite du procès intenté par l’éditeur La Martinière en 2006 contre Google, qui fut ensuite rejoint par le SNE et la SGDL. Même procès, mêmes raisons d’aller en justice, mêmes acteurs et plaignants. Le résultat du procès de 2005 côté français fut que les auteurs et éditeurs renoncèrent aux poursuites contre Google, préférant des accords de gré à gré, et une avancée du droit dans les contrats d’éditions qui doivent aujourd’hui obligatoirement intégrer un volet sur l’exploitation numérique des oeuvres. Pendant qu’aux USA, le même procès (auteurs et éditeurs américains contre Google) se termina donc à l’entier bénéfice de Google, considérant que la copie produite était hautement transformative et s’inscrivant dans le cadre du Fair-Use. Un procès américain qui eut, en droit français sa traduction dans la directive pour l’exception « TDM (Text and Data Mining) » qui « autorise toute personne à procéder à des fouilles, quelle que soit la finalité, sous réserve que l’auteur n’ait pas exprimé son opposition de manière appropriée« , donnant ainsi aux firmes d’IA la possibilité d’accéder légalement à l’ensemble des oeuvres et documents disponibles quelque soit l’écosystème dans lequel elles sont hébergées et consultables, sauf si leurs auteurs et autrices s’y sont explicitement et « de manière appropriée » opposés. Autant vous dire que la plainte du SNE, de la SGDL et du SNAC est certes importante et courageuse mais qu’en l’état du droit, elle apparaît aussi totalement vaine. Mais il est vrai qu’indépendamment des intérêts des plaignants, certaines plaintes ont aussi pour vocation première de faire évoluer l’état du droit en multipliant les jurisprudences. Espérons qu’il en soit alors ainsi même si j’en doute profondément au moment où j’écris ces lignes.

Dans la série des procès qui se rejouent avec des similarités plus que troublantes à 15 ou 20 ans d’intervalle, après « l’AFP contre Google News » en 2005, voici aujourd’hui « les éditeurs de presse contre l’IA de Google« , une plainte venant en effet d’être déposée en Février 2026, à Bruxelles, par le European Publishers Council (EPC) sur la base du droit de la concurrence. Comme rappelé par Isabelle Szczepanski sur le site Electronlibre, « Les éditeurs dénoncent une captation de leurs contenus « sans autorisation, sans mécanismes de retrait effectifs et sans rémunération équitable », et alertent sur un risque structurel pour l’économie de la presse. Le conflit entre éditeurs européens et géants du numérique franchit un nouveau cap, du fait d’une urgence économique, puisque selon les dernières données, le trafic issu de Google vers les sites de presse a chuté d’un tiers à l’échelle mondiale entre novembre 2024 et novembre 2025. »

Prenez la plupart des titres de presse des années 2005 et ajoutez simplement IA devant les noms de grandes firmes technologiques, et vous aurez l’exact équivalent des titres de presse des années 2025 s’interrogeant sur le devenir de l’IA et son utilisation par ces firmes dans leur arsenal de services. En 2005 on se demandait sur Google News allait tuer le journalisme, en 2025 on s’interroge pour savoir si « L’IA de Google est-elle en train de tuer le journalisme ? » Vingt années on passé. Les prédateurs sont identiques. Les modes de prédation également. A croire que vingt années ne nous ont rien appris, ou si peu.

Autre exemple de procès cette fois centré sur une possible distorsion de concurrence autant que sur le respect du droit d’auteur, celui que la commission européenne a ouvert contre Google accusé de piller des contenus de créateurs sur Youtube pour alimenter son IA « Veo 3 ». Comme rappelé sur le site Presse-Citron :

« En ce qui concerne le moteur de recherche, la Commission européenne va examiner dans quelle mesure les aperçus IA de Google et les réponses de l’AI Mode reposent sur les contenus des éditeurs, “sans compensation appropriée et sans possibilité pour les éditeurs de refuser sans perdre l’accès à Google Search”, alors que le moteur de recherche est une source de trafic majeur pour ces éditeurs. En ce qui concerne YouTube, la Commission explique que “les créateurs de contenu qui publient des vidéos sur YouTube ont l’obligation d’autoriser Google à utiliser leurs données à différentes fins, notamment pour l’entraînement de modèles d’IA générative”, que ceux-ci ne sont pas rémunérés, et que Google interdit pourtant ses concurrents d’utiliser le contenu YouTube pour entraîner leurs modèles d’IA. »

Là encore et comme dans l’ensemble des procès que la firme a jusqu’ici déjà traversés, l’accusation d’abus de position dominante n’est pas une dérive, c’est une marque.

Alors certes au fur et à mesure que l’histoire avance et que les mêmes procès de rejouent avec pour l’essentiel les mêmes catégories d’acteurs, l’époque change, et la chaîne de valeur se modifie. Ce qui hier était l’intérêt premier de la presse dans un monde informationnel certes connecté mais non encore numériquement préempté, ce qui valait pour une économie des médias, vaut aujourd’hui pour un écosystème nouveau dans lequel la valeur d’une information n’est plus premièrement sa capacité à être certifiée comme vraie mais plutôt la garantie virale et circulatoire d’une information assemblée et produite industriellement.

Bibliothèques pirates et entreprises corsaires. 

J’ouvre une petite parenthèse. Dans l’histoire du web et des industries culturelles, et dès lors que son usage – celui du web – devînt massif, il a toujours existé des sites pirates (qui venaient historiquement compenser l’absence d’une offre légale) et des bibliothèques également pirates qui se constituaient principalement pour lutter contre des monopoles empêchant, entravant ou monnayant à l’excès et pour leur seul bénéfice la circulation des connaissances, notamment scientifiques. Parmi ces bibliothèques pirates on peut notamment citer LibGen, Z-Library (qui commença par être un site miroir de LibGen) mais aussi l’extraordinaire Sci-Hub fondé par la non moins extraordinaire Alexandra Elbakyan. On trouve aussi l’archive d’Anna qui est, pour faire simple, un moteur de recherche de bibliothèques clandestines, donnant accès l’une des plus grandes collections d’ouvrages numérisés du domaine public principalement.  Si ces bibliothèques pirates ont souvent mauvaise presse dans nos contrées, il ne faut jamais perdre de vue l’immensité du rôle scientifique et intellectuel qu’elles jouent dans des pays qui n’ont ni la chance ni les moyens d’être des démocraties garantissant l’accès aux savoirs et aux connaissances.

Et dans l’histoire des technologies numériques, donc pour faire simple dans le dernier quart de siècle que nous venons de traverser, il est tout à fait frappant et sidérant de voir comment ces bibliothèques pirates, après avoir été criminalisées par les monopoles qu’elles combattaient, sont aujourd’hui instrumentalisées par d’autres monopoles (souvent les mêmes) qui agissent en corsaires au bénéfice d’intérêts économiques et géo-politiques devenus majeurs dans la course à l’armement que représente le développement des outils dits d’intelligence artificielle. Voici par exemple Nvidia qui se trouve prise la main dans le pot de confiture, en train de négocier avec l’archive d’Anna pour accéder à des millions de livres numériques et combler son retard dans l’entraînement de ses modèles. Là encore, l’ombre et la mémoire de l’enfant d’internet sont tristement pesantes et présentes.

Panama (destructive) Papers.

Vous vous souvenez de l’affaire des Panama Papers ? Ok bah rien à voir Par contre je vais vous parler du Projet Panama de la société Anthropic. Que j’ai découvert dans la formidable enquête du Washington Post, reprise et résumée notamment par le site Actualitté. Avant cela je vais vous rappeler, qu’historiquement la numérisation a toujours eu comme un de ses principaux objectifs de protéger, via une copie numérique, des ouvrages anciens et fragiles tout en les offrant à la consultation d’un public bien plus large.

Le projet Panama consiste, lui, à s’adresser à des libraires, bouquinistes, et à des bibliothèques, je cite, « sous-financées », pour récupérer d’énormes volumes d’ouvrages, lesquels seraient ensuite désossés pour n’en récupérer que les feuillets qui seraient ensuite envoyés sur des bancs industriels de numérisation, numérisation permettant donc d’entraîner l’IA d’Anthropic, à la suite de quoi tout ce papier serait soit détruit (sic) soit recyclé. Au début y’avait un livre. Après y’a plus rien. Ce projet allie et synthétise à la fois tout le cynisme et la crapulerie dont ces acteurs industriels sont capables. Comme c’est trop compliqué ou trop long d’entrainer légalement des IA sur des corpus suffisamment denses, on n’a qu’à jouer l’appât du gain auprès d’acteurs dans le besoin pour récupérer des livres en loucedé et les détruire après désossage et numérisation. Et au passage nourrir l’IA maison en mode Chronos dévorant ses enfants.

Petite parenthèse ici nécessaire. La numérisation d’ouvrages dispose de modalités différentes. On peut numériser « en mode image » ou numériser « en mode texte » (c’est à dire ajouter sur la numérisation en mode image un logiciel de reconnaissance optique de caractère – OCR – qui nous permettra de chercher à l’intérieur du document). Mais on peut aussi faire de la numérisation « destructive » ou « non-destructive ». Et en général on prend l’option « non-destructive ». Mais la numérisation non-destructive est beaucoup plus coûteuse que la numérisation destructive. Et il existe (en gros) trois types de machines pour réaliser la numérisation d’ouvrages. Les machines « manuelles » dans lesquelles c’est un opérateur humain qui va tourner les pages avant chaque « flash » de numérisation (par exemple pour les ouvrages abîmés ou anciens ou fragiles) ; les machines automatiques dans lesquelles c’est un robot automate (sorte de bras articulé) qui va vernir tourner plus ou moins rapidement les pages à numériser. Et enfin les machines « bancs de numérisation » dans lesquelles défilent des pages préalablement découpées et qui va donc beaucoup plus vite (il est par ailleurs possible de « réassembler » les livres une fois ainsi numérisés). A l’époque du procès Google Books, on avait beaucoup parlé de ces techniques de numérisation. Celles de Google restaient secrètes mais dans les grands centres de numérisation qu’il faisait construire pour accomplir sa tâche, les bibliothèques envoyaient des livres, certains précieux, certains anciens, d’autres plus « banals », mais en aucun cas la numérisation « destructive » n’était pratiquée. Cette dernière est d’ailleurs réservée à certains ouvrages à gros tirage, certains secteurs de l’administration ou à certains documents par exemple commerciaux dont la « forme livre » importe peu.

Je le redis donc ici, le projet Panama d’Anthropic est l’exemple parfait de tout le cynisme et la crapulerie dont sont capables des acteurs industriels uniquement soucieux de construire ou de préserver un avantage concurrentiel. Et ceci est pourtant l’une de leurs moindres saloperies au regard de – par exemple – ces mêmes acteurs emploient ou plus exactement exploitent de manière dissimulée des travailleurs pauvres à l’autre bout de la planète, qu’ils exposent délibérément à des contenus d’une violence extrême, pour affiner et entraîner leurs larges modèles de langage.

L’acte de lire dans l’impensé.

Un autre des grands enjeux du premier grand procès des industries culturelles, le procès Google Books, était celui de la mise en danger et de la fin programmée de la confidentialité de l’acte de lecture. Un argument qui avait notamment été porté par l’EFF (Electronic Frontier Foundation) et d’autres militants des libertés numériques, et que le juge en charge avait reconnu comme « effectivement important » mais non suffisant pour permettre à lui seul de rendre une décision favorable aux plaignants dans l’affaire. Et pourtant. Et pourtant la confidentialité de l’acte de lecture est au fondement même de nos démocraties. Sans même parler des dictatures, il suffit de voir ce que chaque gouvernement autoritaire fait du choix et de la place des livres dans les premières mesures qu’il prend.

En 2005 on s’alarmait (insuffisamment) du fait que l’avènement du livre numérique propriétaire et d’une consultation sur le modèle du streaming, concentrée entre les mains de quelques plateformes hégémoniques, allait leur donner un pouvoir infini pour à la fois orienter mais surtout documenter chacun de nos choix de lecture et les retenir ensuite comme potentielles preuves à charge.

En 2025 c’est le New-York Times qui dans le cadre d’une plainte déposée en 2023, attend que ChatGPT lui fournisse le contenu de 20 millions de conversations avec le générateur de texte, pour prouver que l’IA a porté atteinte aux droits d’auteur du journal (en mobilisant sans les référencer ni les citer, de larges extraits de ses articles pour alimenter lesdites conversations). La confidentialité de nos conversations avait pourtant déjà été mise à mal dans les nombreuses affaires autour des enceintes connectées qui, même éteintes, continuaient d’enregistrer tout ce que nous disions pour ensuite le scripter et là encore, alimenter (notamment) différents modèles algorithmiques. Mais avec la capacité de ChatGPT et des autres à se nourrir de textes et donc de lectures pour en produire d’autres qui ne soient pas simplement des usages de lecture mais des composants structurels et structurants de chaque interaction simulée avec chacun et chacune d’entre nous, la confidentialité de l’acte de lecture est en quelque sorte mise à mal … au carré.

Comment tout cela va (probablement) finir.

Sur le plan juridique, certains tentent aujourd’hui d’éviter que les procès de 2025 ne se terminent tous comme celui de 2005, c’est à dire avec une décision favorable aux grandes entreprises de l’IA à qui l’on accorderait, nonobstant la prédation extractiviste torcheculatoire pour le droit d’auteur à laquelle elles se livrent, la reconnaissance d’un « usage équitable » (Fair Use) établi sur des copies (génératives) considérées comme « hautement transformatives ». Et pour ce faire, ils et elles essaient d’inverser la charge de la preuve en défendant un texte dans lequel, puisqu’il est impossible pour un auteur de prouver que son travail a été repris et utilisé par des IA, on considérerait que « Sauf preuve contraire, l’objet protégé par un droit d’auteur (…) est présumé avoir été exploité par le système d’IA, dès lors qu’un indice afférent au développement ou au déploiement de ce système ou au résultat généré par celui-ci rend vraisemblable cette exploitation ». Ce serait donc aux sociétés qui développent des IA de faire la preuve qu’elles n’ont pas pillé des oeuvres et des auteurs sans leur accord. Juridiquement cela tient la route. Et il existe d’ailleurs d’autres approches intéressantes qui visent à prouver que ces IA sont capables de réécrire certaines oeuvres presqu’intégralement et littéralement, ce qui rend la notion d’usage uniquement transformatif compliqué à défendre :

Pour Alexandra Bensamoun, professeure de droit à l’université Paris-Saclay et experte du droit d’auteur des IA, « cette étude apporte des éléments empiriques décisifs » pour les contentieux en cours dans ce domaine. Des éléments qui mettent en évidence une « absence de transformation [qui] pourrait exclure le bénéfice du fair use aux Etats-Unis, et en Europe, de l’exception TDM [fouille de textes et de données], laquelle suppose une utilisation aux fins d’analyse, et non de reproduction/stockage en vue de restitution », juge-t-elle.

Mais au vu de ce que je me suis efforcé de vous raconter dans cet article, je suis tout sauf optimiste sur les chances d’un tel texte et d’une telle approche d’aboutir aujourd’hui (ou demain). Car même si « une large coalition de représentants des auteurs, de la presse, du cinéma, de l’édition ou du disque ont salué l’initiative« , ils ont en face d’eux, en plus des acteurs de la tech, le gouvernement français et la commission européenne qui dans la roue des acteurs de la tech voit officiellement cette mesure comme un frein à l’innovation (sic).

Le scénario le plus probable ressemblera à mon avis trait pour trait au jugement rendu dans l’affaire Google Books après 10 ans de procès. C’est à dire que sur le plan juridique, le Fair Use et l’argument de copies hautement transformatives l’emportera. Ce qui, là encore comme dans l’affaire Google Books, n’empêchera pas, au contraire même, des accords de gré à gré entre les parties, accords qui comporteront à la fois des volets de compensations financières (comme les 1,5 milliards déjà versés par Anthropic) et d’autres davantage partenariaux (notamment avec les éditeurs de presse). La question qui qui reste ouverte est celle de l’évolution des usages et des pratiques (ainsi que du droit) que cela aura, dans l’intervalle, permis de sanctuariser.

Je veux conclure en trois temps.

D’abord avec les mots de Bruce Schneier qui dans une tribune à propos de l’affaire Anthropic parue dans le San Francisco Chronicle et reprise sur son blog, écrit :

« Aaron Swartz avait compris que l’accès au savoir est une condition préalable à la démocratie. La manière dont nous traitons le savoir – qui peut y accéder, qui peut en tirer profit et qui est puni pour le partager – est devenue un test de notre engagement démocratique. » 

« Un test de notre engagement démocratique. » Qui prend des allures de crash-test. Derrière ces questions de propriété intellectuelle, de copie transformative, d’usage équitable, de rémunération de la création, qui font la Une des journaux et sont le principal angle de traitement de ces sujets, il y a des enjeux beaucoup plus fondamentaux qui touchent à la transformation et à la réingénierie permanente d’une matière vivante que l’on appelle tantôt la culture, tantôt la connaissance, tantôt la création, tantôt l’information, tantôt tout cela à la fois. Une matière vivante qui définit ce que nous savons autant que ce que nous croyons, et une manière vivante qui à force de copies hautement transformatives (ou non) de ce qu’elle est, peut nous rendre davantage enclins à faire sécession qu’à faire société.

Ensuite en rappelant que ces questions aujourd’hui posées se posaient déjà dans l’esprit de l’un des pionniers visionnaires de l’internet et du Web, Ted Nelson, notamment connu pour avoir « inventé » le terme hypertexte mais qui dès avant qu’ils soient opérants (le web et l’hypertexte) réfléchissait à la question du « versioning ».

Définition courte : « Le versioning désigne l’ensemble des manières de gérer, indépendamment de tout niveau d’échelle, les procédures permettant de rattacher différentes versions d’un même document à un (des) auteur(s), tout en permettant à chacun de s’approprier tout ou partie des documents produits par d’autres ou par eux-mêmes, et en assurant un suivi des différentes modifications apportées. » (définition extraite du chapitre de ma thèse consacré au sujet, thèse disponible ici).

Définition un peu plus longue : « Le versioning désigne l’ensemble des manières de gérer, à l’échelle de l’hypertexte planétaire, les procédures permettant de rattacher un texte à un auteur (ou à un collectif d’auteurs), tout en permettant à chacun de s’approprier – de se ré-approprier – tout ou partie de documents produits par d’autres ou par eux-mêmes afin, premièrement, de limiter la prolifération « bruyante » des versions différentes d’une même information sur le réseau et deuxièmement, d’identifier la nature et les origines de ces modifications dans l’optique d’une gestion cohérente de l’ensemble des documents électroniques actuellement disponibles, indépendamment de leur format, de leur statut et en dehors de tout institution centralisée. Autant dire que plus qu’une problématique, il s’agit là d’un véritable « idéal ». » (définition toujours extraite du chapitre de ma thèse, toujours disponible ici).

Définition à rapprocher de celle qu’il [Ted Nelson] propose pour le terme document : « Un document est une collection arbitraire de versions disposant d’un nom propriétaire et de limites.« 

Les IA génératives sont essentiellement une version totalement dérégulée et spéculative de ce « versioning ». L’attachement aux textes et aux oeuvres, n’est rien, ou si peu, sans la possibilité de leur rattachement, à des auteurs, des époques, des contextes, des courants, des dynamiques ancrées dans le temps et dans l’espace dont certaines ont par ailleurs réussi à s’affranchir. Sans ces rattachements possibles, c’est toute une part forte de notre attachement aux oeuvres qui n’ayant plus d’objet, se dispense de la possibilité d’exprimer des subjectivités de lecture, d’analyse ou de compréhension qui soient en tant soit peu fécondes.

Enfin, loin, très très loin de la stratégie de Lisbonne définie au début des années 2000 et qui sanctuarisa l’idée mortifère d’une « économie de la connaissance » érigée en objectif, il aurait fallu se donner les moyens et les cadres pour bâtir non une économie mais une écologie de la connaissance (et par exemple creuser le sillon ouvert en 1972 par Bateson avec son écologie de l’esprit). Nous avons pris un chemin différent qui nous conduit aujourd’hui, pour toute la connaissance, la culture et l’information, qu’elles soient scientifiques, littéraires, ou de toute autre nature, à n’avoir comme possibilité que celle d’affronter économiquement des acteurs dont le coeur de métier est dépendant de leur capacité de prédation, d’extractivisme et de mépris des lois (ou de rapprochement avec celles et ceux qui les font). Dès que nous aurons fini nos réunions de Quichotte et nos atermoiements de pleureuses, peut-être nous concentrerons-nous sur les luttes et moyens d’action, légaux ou nécessaires, pour une écologie de la connaissance qui ne peut-être autre chose que désormais pleinement radicale.

Aaron Swartz l’avait payé de sa vie, mais il nous avait clairement montré le chemin.

Republication pour archivage et partage de l’article paru sur AOC.media le 20 Octobre 2025.

La question du langage s’est déplacée, et ce déplacement s’accélère de manière assez vertigineuse. Juin 2024 : mon livre « Les IA à l’assaut du cyberespace » revient sur les début tonitruants de ChatGPT et de ce que je nomme les « artefacts génératifs ». J’y pointe notamment les promesses encore maladroites de la génération de vidéos. Six mois plus tard, décembre 2024 : chacun reste bouche bée devant les prémisses des promesses de Sora d’OpenAI en termes de génération vidéo. Six mois plus tard encore, mai 2025, nous restons bouche bée devant cette fois Veo 3 de Google qui ajoute du son synchronisé à des vidéos toujours artificielles. Et en août 2025 c’est encore Google qui dévoile « Genie 3 », permettant de générer des mondes interactifs en temps réel à partir d’un simple prompt.

La question du langage s’est déplacée. C’est ce que depuis 25 ans et un peu plus, j’observe et documente à l’échelle de recherche qui est la mienne : celle de nos environnements numériques. Ces environnements avant-hier saturés de mots, puis hier encore d’images et de vidéos, et qui le sont désormais d’artefacts génératifs qui à leur tout sursaturent tant les mots que les images. Ad Libitum. Vertiges non d’une simple logorrhée mais d’une sorte de « technorrhée », l’emballement continu d’un capitalisme sémiotique ; une technorrhée pensée comme l’alliance chimiquement pure entre, d’une part, la merdification – « enshittification » – des médias sociaux en particulier et du web en général, et d’autre part, le « Brainrot » ou « abrutissement numérique » qui en est tout autant la cause que l’effet.

La question du langage s’est déplacée. Et dans ce déplacement, dans cette « différance » (Derrida), naissent et prennent place des mondes. Avec leurs images, leurs langages, leurs grammaires, et leurs vérités propres qui sont autant de singulières croyances. C’est dans cet écart par exemple que deviennent possibles, tristement et pathétiquement possibles, des images de Gaza transformée en Riviera, ou celles de soldats nazis défilant au milieu de résistants fêtant la fin de la guerre dans une vidéo mise en ligne par le pourtant très sérieux Service d’Information du Gouvernement (SIG). Dans ces déplacements du langage, dans ces « différances », et dans ces univers propres, cohabitent des représentations tenant aussi bien de délires, de fantasmes ou d’imaginaires que de saisissants réalismes.

Dans ce monde, dans ces mondes plus précisément qui sont aussi le nôtre, qui font en tout cas partie du nôtre, la frontière est extrêmement fine entre la capacité de ces technologies à nous laisser tout émerveillés et ahuris ou à nous transformer en autant d’abrutis totalement hébétés.

La question du langage s’est déplacée.

Et avec elle nos capacités à faire récit, à s’entendre et à s’écouter. Et avec elles, donc, notre capacité à faire société.

Longtemps cantonnées à la vallée de l’étrange, ces générations artificielles, ces vidéos notamment, n’ont aujourd’hui plus rien d’étrange dans leur rendu naturaliste. Fini les scènes animées où l’on détectait l’intervention de l’IA en regardant les mains et le nombre de doigts. Cela ne dispense pas ces générations d’erreurs factuelles ou contextuelles ou d’approximations, d’errances et d’hallucinations (nous y reviendrons) mais le photoréalisme est désormais totalement calculable. Certes le coût de ce calcul est vertigineux mais pour l’instant nous n’y prenons garde. Cette sortie de la vallée de l’étrange pour la plupart des contenus vidéos générés par IA (je parle ici de ceux qui ont vocation illustrative et non délirante ou seulement poético-ludique), nous fait entrer dans un monde … étrange. Une étrangeté qui ré-interroge notre capacité à dire le vrai, et surtout nos heuristiques de preuve, c’est à dire la manière dont collectivement nous pouvons attester que ceci s’est produit et s’inscrit dans une possibilité du monde que l’on appelle le réel.

On convoque souvent, à raison, l’argument selon lequel rien de tout cela ne serait vraiment nouveau. En effet l’invention de la peinture voit aussi l’invention des faussaires, l’invention de la photographie voit aussi celle de la retouche, avec l’invention du cinéma vient l’invention du truquage, et le développement de la radio et de la presse vont de pair avec celui des blagues, canulars, détournements, caricatures et fausses nouvelles. Mais les artefacts génératifs contemporains proposent une cinétique de représentations qui, à des échelles jamais atteintes d’usages massifiés et de circulations permanentes, cessent de nourrir nos imaginaires pour préférer les instancier, et ce faisant prive notre capacité individuelle et collective de recours à l’imaginaire d’une bonne part de sa puissance symbolique ; car tout est déjà là, car tout semble calculable et donc prévisible ; car tous les calculs ont été déjà faits ou le seront bientôt.

Pour bien saisir ce qui nous étreint et nous éreinte collectivement dans l’irruption de ces artefacts génératifs, il faut par exemple imaginer l’intérêt de l’écriture et le rôle d’un écrivain dans un monde où la bibliothèque infinie de Borges serait non seulement réelle mais dans laquelle chacun des ouvrages qu’elle contient serait surtout aisément accessible et consultable ; puisque tout est déjà là où peut l’être sur simple commande, alors la langue n’est plus un ouvroir de potentialités et d’imaginaires : elle semble n’être plus que la gangue de possibles concaténés, calculables et révélables.

Création, confiance et certification.

Sans refaire le débat du Phèdre de Platon et la condamnation de l’écriture, il est certain que quelque chose d’essentiel se joue aujourd’hui autour de la création, de la confiance et de la certification.

Création d’abord : qui peut encore être créateur/créatrice (dans le domaine des arts comme dans l’ensemble des métiers, tâches et fonctions de nos quotidiens) et de quelle manière l’être « avec », « à l’abri » ou « à l’écart » des artefacts génératifs ?

Confiance ensuite : comment avoir et faire confiance à celui ou celle qui crée dans l’originalité et l’intentionnalité de sa création ?

Certification enfin : comment certifier la part de cette création de la confiance qui peut ou doit lui être rattachée (et qui peut varier d’intensité et d’enjeu selon que ladite création concernera une oeuvre par exemple littéraire ou picturale, ou une décision médicale ou de justice) ? Des questions en triptyque que l’on ramène trop souvent à nos perceptions singulières alors qu’elles sont un bouleversement qui doit être pensé collectivement comme le suggérait Hervé Le Crosnier il y a … 30 ans de cela :

« La modification d’un document porteur de sens, de point de vue, d’expérience est problématique. Ce qui change dans le temps c’est la connaissance. Celle d’un environnement social et scientifique, celle d’un individu donné … Mais ce mouvement de la connaissance se construit à partir de référents stables que sont les documents publiés à un moment donné. Les peintres pratiquaient le « vernissage » des toiles afin de s’interdire toute retouche. Les imprimeurs apposaient « l’achevé d’imprimer ». Il convient d’élaborer de même un rite de publication sur le réseau afin que des points stables soient offerts à le lecture, à la critique, à la relecture … et parfois aussi à la réhabilitation. » Hervé Le Crosnier. « De l’(in)utilité de W3 : communication et information vont en bateau. » Présentation lors du congrès JRES’95, Chambéry, 22-24 Novembre 1995.

Ce que nous traversons avec l’IA dans sa dimension générative relève également d’un manque de ritualisation assumant la création de « points stables » qui fassent consensus ; mais apposer un label ou un filigrane « généré avec IA » ne suffira pas à construire ce repère car il ne s’agit plus ici de traiter seulement des questions de « modification » de documents porteurs de sens mais d’étendre ces points stables à des processus créatifs qui relèvent essentiellement de continuums complexes entremêlant des questions juridiques, économiques, techniques (informatiques) et éthiques.

Le temps des c(e)rises.

Nous sommes à ce moment de bascule où, pour l’instant, c’est comme si perdurait encore un effet Larsen dans l’esthétique de la réception de ces images et de ces vidéos ; comme si subsistait encore un bruit, une distorsion, un Larsen cognitif autant que collectif ; un Larsen qui ne s’éteint que lorsqu’enfin nous sommes à distance, à bonne distance, entre l’intention lisible de la génération et l’interprétation lucide de son effet sur nous ou sur le monde. Tant que cette distance n’est pas établie, ce bruit, ce doute, nécessaire, subsiste à l’horizon interprétatif : ce que nous voyons est-il réel malgré son photoréalisme ? Dès lors que cette distance est abolie – et tout est fait dans l’économie des plateformes pour y parvenir – alors ce bruit et ce doute s’éteignent, nous croyons ce que nous voyons. Or il n’est plus grand-chose de réel à voir dans ces enceintes.

Heuristique (et colégram).

C’est à chaque fois la même question qui revient et que je pointe (avec d’autres) depuis au moins 2011, parce que cette question est consubstancielle de chaque avancée technique qui touche à notre rapport au langage ou à l’image ou aux deux, c’est à dire à notre rapport au réel. Cette question c’est celle de savoir comme l’on bâtit de nouvelles heuristiques de preuve.

Il y a deux niveaux différents sur lesquels penser la complexification de nos anciennes heuristiques de preuve. D’abord la documentation récréative, ludique ou fictionnée du monde : l’enjeu est alors celui de la dissimulation ; il faut soit faire en sorte que le destinataire ne voit pas la simulation, soit qu’elle se dise pour ce qu’elle est (un « dit » de simulation) et qu’elle suscite l’étonnement sur sa nature. Et puis il y a la documentation rétrospective de tout ce qui fait histoire dans le temps long ainsi que celle qui concerne l’actualité. C’est alors l’exemple de la vidéo du SIG que j’évoquais plus haut, où le moindre casque à pointe nous fait basculer de l’ahurissement à l’abrutissement.

On croit souvent – et l’on s’abrite derrière cette croyance – que chaque simulation, chaque nouvelle production documentaire générée par intelligence artificielle, ajoute au réel. C’est totalement faux. Chaque nouvelle simulation enlève au réel. Parce que le réel historique n’est pas un réel extensible : il peut se nourrir de représentations historiques mouvantes au gré de l’historiographie et de l’émergence de preuves ou de témoignages, mais chaque nouvelle génération de ce réel historique potentiel va venir se sédimenter dans l’espace public mémoriel dont la part transmissible est extrêmement ténue et s’accommode mal d’effets de concurrences génératives. La question, dès lors, n’est pas tant de condamner les utilisations imbéciles ou négligentes de technologies d’IA pour illustrer un fait historique mais, par exemple, de savoir comment mieux rendre visible et faire pédagogie de la force incroyable d’authentiques images d’archives.

Nos imaginaires sont des réels en plus. Les effets de réel produits par les artefacts génératifs sont des imaginaires en moins.

Dans le domaine du langage les artefacts génératifs orientent bien plus qu’ils n’augmentent notre capacité à faire récit. Il se produit à peu de choses près ce que l’on avait déjà observé derrière la – fausse – promesse marketing initiale qui fut celle des grands réseaux sociaux généralistes : la promesse qu’en multipliant la diversité des profils, des origines, des croyances, des nationalités, des cultures auxquelles nous serions confrontés alors nous deviendrions plus ouverts, plus riches de liens sociaux, et plus empathiques. Or il se produisit essentiellement deux choses : d’abord cette exposition à une supposée diversité fut un feu de paille parce qu’elle allait contre la naturalité première de nos socialisations qui est de d’abord chercher celles et ceux qui nous sont semblables et que les plateformes, Facebook en tête s’aperçurent très vite que tout cela n’était pas bon pour le business (voir à ce sujet les travaux de danah boyd qui montra très tôt comment Facebook avait détruit l’expérience de la mixité sociale dans les universités de 1er cycle – « college » – aux états-unis). Ensuite les effets promis de proximité se transformèrent en effets subis de promiscuités effaçant toute forme d’empathie au profit de la dimension spéculative immédiatement virale et donc rentable de l’ensemble du spectre des discours de haine.

Il est en train de nous arriver exactement la même chose avec l’ensemble de l’actuelle panoplie des artefacts génératifs disponibles, de Genie 3 à ChatGPT5 : nous ne multiplions pas nos capacités collectives à faire récit (que ces récits soient imaginaires, réels ou réalistes et que leur support premier soit celui du texte, de l’image ou de la vidéo), nous les standardisons et nous nous enfonçons dans des dynamiques de reproduction qui se nourrissent de toutes les formes possibles de confusion ; une confusion entretenue par des formes complexes d’indiscernabilité qui tiennent à l’immensité non auditable des corpus sur lesquels ces IA et autres artefacts génératifs sont « entraînés » et ensuite calibrés.

Nous ne produisons pas davantage de nouveaux récits ou de nouveaux imaginaires mais, pour l’essentiel, nous reproduisons de manière industrielle toujours les mêmes, et après la phase de ce que l’on nomma des « hallucinations » vient aujourd’hui une autre phase, qui est celle de « l’effondrement » et qui désigne ce moment où les artefacts génératifs sont entraînés sur des contenus eux-mêmes artificiellement générés, des effondrements qui ruinent et minent les dynamiques d’interprétation et de représentation au fur et à mesure où celles-là mêmes sont érigées en modèles.

Au commencement était le mot-clé.

« En 2025 le web est donc un champ de ruine épistémique » écrit Thibault Prévost dans l’une de ses analyses à propos du phénomène de Slop AI, cette « technorrhée » symptôme de la merdification des plateformes et de notre expérience générale des environnement numériques. Je vous propose un (rapide) retour sur l’une des origines de cet effondrement qui fait qu’aujourd’hui et comme l’écrivait Balzac à propos d’une figure féminine de l’un de ses romans, la plupart de nos environnements numériques, dont le web, « n’ont plus que la beauté des villes sur lesquelles ont passé les laves d’un volcan. »

Au commencement donc était le mot-clé. Notre premier rapport au langage comme nouvelle agentivité opératoire sur une immensité de contenus non-ordonnés, c’est celui du mot-clé tel que les moteurs de recherche nous le proposèrent en prenant la suite des annuaires de recherche (lesquels catégorisaient en arborescence une série limitée de sites et pages choisies par des opérateurs humains). Ce mot-clé, longtemps utilisé seul, est de l’ordre de la formule incantatoire : écrivez « voyage » et vous trouverez les destinations et les prix et les conditions et les descriptions de vos destinations y compris celles non-choisies ; écrivez « voyage » et vous voyagerez. Nous ne donnons qu’un seul mot, qu’une seule clé, et nous attendons de recevoir un monde ordonné, accessible et surtout un monde soit « pertinent » (c’est à dire depuis le début aussi conforme que possible à notre propre désir), soit « populaire » (c’est à dire aussi conforme que possible au désir des autres, ce que René Girard appelle le désir mimétique). Un seul mot et en face, l’immensité ordonnée de pages choisies et triées dans l’économie libidinale où nous sommes passés du statut de déclamant à celui de simple variable statistique dans une chaîne de production qui ne vise que son propre maintient.

Puis de plus en plus, à la place des mots (clés), nous avons fait des phrases. Nous sommes partis à la conquête du langage naturel. Nous avons donc discouru avec des machines, avec des algorithmes. Qui en retour de notre déclamation naturelle, se mirent à nous répondre non plus sous forme de liste de sites, mais d’extraits choisis et signifiants.

Et puis lassés de leur écrire autant que par la simple possibilité offerte de le faire, nous leur avons parlé. Les interfaces vocales se sont proposées, souvent imposées. De cette vocalisation nouvelle sont nées en retour d’autres échos sonores : ceux des machines et de algorithmes nous répondant, prenant voix. Siri, Alexa, et les autres. World Wide Voice.

Il y a l’initiative de la parole, de la requête, de la question. Et l’espace de la réponse. Car durant tout ce temps, de nos premiers mots-clés balbutiés à nos dernières commandes vocales prononcées, s’est structuré un espace matériel du recueil de nos expressions, une géographie politique de nos espaces de parole, de nos espaces discursifs, singuliers et partagés.

Le passage du web aux plateformes, aux « jardins fermés » comme les appelle Tim Berners-Lee, ne fut pas simplement le passage d’un espace public à des espaces semi-privés. Il fut aussi celui où ces plateformes délimitèrent en nombre l’espace de nos énonciations possibles. On décrit souvent le numérique comme un espace de publication illimité, ce que fut et que demeure le web en effet, mais les plateformes, toutes les plateformes, ont installé des espaces discursifs bornés, limités, frustrants, dont rien ne peut ni ne doit dépasser tels de modernes Procuste, ce bandit qui dans la mythologie proposait aux gens de les héberger avant que de leur couper les membres qui dépassaient de son lit.

Procuste dans l’histoire des plateformes c’est 140 signes sur Twitter puis 280 sur X, 2200 signes sur Instagram, 3000 pour LinkedIn, 150 signes pour une vidéo TikTok et 5000 signes pour décrire une vidéo Youtube. Malgré l’extension du domaine de la statusphère, Et tout le reste de ces espaces tant limités que limitrophes d’une atrophie des possibles.

(source : Dailyfy.co)

Comme le montre ce tableau, chaque espace est catégorisé par sa nature « titre de publication », « nom de la page », « description », « commentaire », « description vidéo », « bio », « DM message privé », etc. Et à chaque catégorie un autre espace, une autre limite : 58 caractères pour un titre de publication, 80 caractères pour une bio Tiktok, 30 pour un nom de profil Instagram, 1250 pour un commentaire LinkedIn, et ainsi de suite. Tout est métrique. A coups de trique. Quelques grands espaces demeurent : 110 000 caractères l’article LinkedIn mais 3000 caractères la « publication » de la même plateforme ; 63206 caractères le le post Facebook mais 8000 seulement pour le commentaire. Le numérique des plateformes est tout sauf l’espace infini qui était celui de la publication web des années 2000, c’est un espace totalement sous contrainte et en permanence sous astreinte.

Aujourd’hui l’essentiel de nos espaces discursifs en ligne qui ont recours au langage indépendamment de l’image ou de la vidéo sont des espaces Procustéens (images et vidéos par ailleurs elles-mêmes soumises à des limitations de durée). Des espaces où l’énonciation, où l’accès à la capacité de dire, ne vaut que par l’acceptation de cet horizon court de la diction. Certes il est possible, et certains y parviennent, de sublimer ces limites en les esthétisant ou en les poétisant. Les formes courtes ont par ailleurs une existence culturelle et littéraire longue. Mais nous parlons ici des conditions de production de la langue et donc du réel à l’échelle d’une humanité toute entière, en tout cas de sa part connectée (près de 5,5 milliards d’êtres humains). La « merdification » (enshittification) des plateformes, de presque toutes  les énonciations qui s’y déploient aujourd’hui, est aussi liée à cela. Ces espaces ne nous offrent pas tant la possibilité de dire qu’ils ne nous imposent la nécessité de rapidement nous taire. Il est d’ailleurs singulier de voir les plateformes parler de « liberté d’expression » dans des espaces aussi bornés et limités que ceux qu’elles nous offrent. Parlerait-on d’une « liberté de circulation » si celle-ci se limitait à un déplacement entre notre chambre et nos toilettes ?

D’un côté donc, il y eut, à l’échelle des plateformes numériques, la multiplication des espaces d’expression possibles. Mais en parallèle chaque nouvel espace énonciatif est apparu comme permettant de cadrer et de limiter « en nombre » toute expression singulière en ligne. Et désormais il y a la contamination de l’ensemble de ces espaces par des tiers énonciatifs logorrhéiques dopés à l’IA et aux artefacts génératifs. Voilà pour la parole « en émission ».

Quand à la parole « en réception », nous sommes aujourd’hui de plus en plus confrontés et exposés à ces dispositifs techno-logorrhéiques à proportion inverse de nos propres capacités à nourrir et à alimenter ces espaces expressifs et énonciatifs. Pour le dire plus trivialement : la part des bots et des contenus artificiellement générés explose et contamine l’ensemble des espaces numériques de l’ensemble des plateformes (c’est l’un des thèmes de mon livre « Les IA à l’assaut du cyberespace : vers un web synthétique » paru l’été dernier chez C&F Editions).

A l’échelle du numérique, si l’humanité se figeait à ce moment précis, et si nous l’observions à l’échelle macroscopique, nous serions alors forcés de constater que l’initiative de la parole, de la conversation, de la langue comme interaction et comme compréhension, que cette initiative revient davantage aux machines qu’à nous-mêmes. Et que notre réel s’y consomme d’abord, puis s’y épuise et s’y consume. Je le redis, chaque nouvelle simulation enlève au réel. Quand Trump annonce vouloir transformer Gaza en Riviera, des milliers d’images et de vidéos « génératives » viennent instantanément illustrer, montrer, filmer, documenter cet impossible, ce délire macabre autant que cynique. Ce qui était et aurait du rester impossible, y compris à formuler, devient sous le poids des générations illustratives un embranchement possible du futur qui nous est proposé comme instantanément disponible pour nos sens et nos imaginaires. C’est en cela qu’il enlève au réel, au seul réel possible qui est celui d’un arrêt des massacres en cours. Il ne s’agit pas uniquement d’élargir la fenêtre d’Overton mais bien de bâtir autour d’elle l’ensemble la totalité de la barre d’immeuble où elle ne sera plus qu’une fenêtre parmi d’autres, de faire exister la réalité qu’elle inaugure pour laisser au réel encore moins de chance de pouvoir la limiter ou la contraindre rapidement. C’est aussi cela que Trump a sinon compris, du moins intuitivement senti, et qui le fait tant à l’aise dans ces médias sociaux où prime l’expression courte et bouffonne : la parole politique, sa parole politique, se suffit au lit de Procuste tant que l’image y tient les dimensions voulues. Gaza en Riviera. Voilà ce qui seul doit tenir. Le reste s’abîme, s’épuise et s’effondre derrière ces dispositifs techno[-logo]rrhéiques pensés pour l’emballement viral et dont les IA et autres artefacts génératifs ne sont que la dernière – mais non ultime – instance contemporaine.

Les 3 chambres.

Depuis longtemps dans l’analyse des médias on utilise le concept de « chambre d’écho » pour désigner de manière métaphorique, le fait que « l’information, les idées, ou les croyances sont amplifiées ou renforcées par la communication et la répétition dans un système défini. »

Avec l’arrivée des médias sociaux, se fait jour chez Eli Pariser le concept de « bulle(s) de filtre« , cette idée que les algorithmes des moteurs de recherche comme des grands médias sociaux tendent à nous enfermer dans nos propres croyances et convictions.

Aujourd’hui, avec l’essor et la place que prennent les différents artefacts génératifs à l’identique de ChatGPT, des chercheurs (Jacob, Kerrigan, Bastos 2025) parlent d’un « Chat-Chamber effect ». Rien à voir avec les matous qui ont conquis l’internet, le « chat » doit être lu et compris comme le « Tchat », et caractérise l’un des biais de nos échanges conversationnels avec des artefacts génératifs, lequel biais désigne les informations incorrectes mais allant dans le sens du questionnement de l’utilisateur que les grands modèles de langage peuvent fournir ; des résultats et informations qui restent non contrôlées et non vérifiées par les mêmes utilisateurs mais auxquels ces mêmes utilisateurs font pourtant confiance. Le titre complet de leur article est ainsi : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Derrière ces 3 déclinaisons d’une même tendance à trois époques contemporaines successives, se jouent deux choses. D’abord des dynamiques médiatiques qui s’interpénètrent pour forger, favoriser et figer une certaine logique ou esthétique de réception des discours qui s’y tiennent. Ensuite une affordance informationnelle première qui est l’inverse du doute raisonnable : ces systèmes médiatiques ont pour affordance première leur capacité à nous faire croire qu’ils disent le vrai : les logiques virales de partage (« si c’est tant partagé c’est bien que ça doit être vrai« ), le dispositif de proximité (illusoire) avec l’énonciateur (« si c’est lui qui le dit alors cela doit être vrai« ), le biais de disponibilité (des informations délibérément erronées ou mensongères sont plus immédiatement accessibles et rendus visibles que d’autres plus sourcées) ne sont que quelques-uns des leviers de cette affordance de vérité supposée.

Depuis plus de 20 ans j’explique et documente le fait que les algorithmes sont des éditorialistes comme les autres, mais qui avancent essentiellement masqués et que les IA et autres artefacts génératifs installent dans une sorte de théâtre total, « gestes, sons, paroles, feus, cris« , dont plus personne n’est en capacité de comprendre les codes.

A.M.I. : Assemblage Machinique Informationnel.

L’arrivée des artefacts génératifs ajoute une dimension nouvelle et passablement problématique au tableau contemporain de la fabrication de nos croyances et adhésions. Jusqu’ici, moteurs de recherche et réseaux sociaux jouaient sur le levier déjà immensément puissant de leurs arbitraires d’indexation et de publication (le fait de choisir ce qu’ils allaient indexer et/ou publier) ainsi que sur celui, tout aussi puissant, de la hiérarchisation et de la circulation (viralisation) de ce qui pouvait être vu et donc en creux de ce qu’ils estimaient devoir l’être moins ou pas du tout.

Choisir quoi mettre à la « Une » et définir l’agenda médiatique selon le vieux précepte de « l’agenda setting » qui dit que les médias ne nous disent pas ce qu’il faut penser mais ce à quoi il faut penser. Ce principe premier de l’éditorialisation se double, avec les artefacts génératifs conversationnels à vocation de recherche, d’une capacité à produire des sortes d’assemblages machiniques informationnels, c’est à dire des contenus uniquement déterminés par ce que nous interprétons comme un « devenir machine** » en capacité de « phraser » les immenses bases de données textuelles sur lesquelles il repose. Des machines à communiquer mais en aucun cas, comme le souligne aussi Arthur Perret, en aucun cas des machines à informer.

** [ce « devenir-machine » est à lire dans le sens du « devenir-animal » chez Deleuze et Guattari : « le “devenir-animal” ne consiste pas à “imiter l’animal, mais d’entrer dans des rapports de composition, d’affect et d’intensité sensible” ».]

Ce concept d’assemblage machinique informationnel me semble intéressant à penser en miroir ou en leurre des agencements collectifs d’énonciation théorisés par Félix Guattari. D’abord parce qu’un assemblage n’est pas un agencement. Il n’en a justement pas l’agentivité. Il n’est mû par aucune intentionnalité, par aucun désir combinatoire, calculatoire, informationnel, communicationnel ou social. Ensuite parce que la dimension machinique est antithétique de la dimension collective, elle en est la matière noire : ChatGPT (et les autres artefacts génératifs) n’est rien sans la base de connaissance sur laquelle il repose et les immenses réservoirs de textes, d’images et de contenus divers qui ont été, pour le coup, assemblés, et sont l’oeuvre de singularités fondues dans un collectif qui n’a jamais été mobilisé ou sollicité en tant que tel. Enfin, l’information est ici un degré zéro de l’énonciation. L’énonciation c’est précisément ce qui va donner un corps social à ce qui étymologiquement, a donc déjà été « mis en forme » (in-formare) et se trouve prêt à être transmis, à trouver résonance. ChatGPT est l’ombre, le simulacre, le leurre d’une énonciation. Et cette duperie est aussi sa plus grande victoire.

La question du langage s’est déplacée. Un grand déplacement. Quelque chose qui n’est plus aligné entre le territoire du monde et la langue qui en est la carte.

Apostille(s). 

Pendant que nos réels sont saturés et épuisés d’IA, en Israël, un spot de publicité pour une entreprise d’armement utilise pour la première fois des images réelles d’une attaque de drone à Gaza. C’est à la fois la plus cynique et la plus perverse des formes de publicitarisation. Pendant ce temps Youtube dévoile un système baptisé « Peak Points » qui utilise son IA « Gemini » pour insérer des publicités aux moments où l’attention des spectateurs est supposément la plus forte grâce à l’exploitation de données « émotionnelles » (ou qui sont en tout cas supposées rendre compte de notre état émotionnel).

Couplez maintenant ces deux informations et déterminez sans algorithme votre propre état émotionnel …

De manière plus anecdotique, on constate un jaunissement par contamination de nombreuses images générées artificiellement. Les animaux étaient malades de la peste, les IA le sont déjà de consanguinité. Pendant ce temps encore, Youtube fait des retouches de vidéos sans en avertir les créateurs, pour « rapprocher esthétiquement le rendu des vidéos de ce que l’IA générative peut proposer. » Standardiser la consanguinité des contenus générés.

Pendant ce temps, des images pédocriminelles générées par IA sèment autant le trouble que le doute et entravent les démarches déjà si complexes du travail de police et de justice. La volumétrie des faux-positifs est ici la première alliée des pédocriminels. Et une nouvelle fois la charge de la preuve s’inverse comme si souvent dans l’histoire du numérique : il ne s’agit plus de pouvoir détecter la marginalité de faux-positifs sur un volume de contenus donnés, il s’agit de la maximiser pour que les résultats « sincères » soient marginalisés.

En 1985, dans un entretien où elle était interrogée sur sa vision de l’an 2000, Marguerite Duras prophétisait avec une rare acuité « Il n’y aura plus que des réponses. Tous les textes seront des réponses. (…) »  Nous sommes au moment où tout comme après l’avènement des moteurs de recherche au début des années 2000, il n’y a plus, aujourd’hui, que des réponses. De fausses réponses pourrait-on donc ajouter.

Marguerite Duras poursuivait : « Un jour un homme il lira. Et puis tout recommencera. » L’inflation des artefacts génératifs dans l’ensemble de nos écosystèmes informationnels et des sphères de nos savoirs sociaux (école, université, cercles politiques, etc.) pose autant la question de savoir ce qu’il restera encore à lire, que celle de savoir si nous serons en peine d’encore pouvoir écrire un destin commun. Christian Salmon le rappelait aussi dans sa récente analyse sur ce nouvel ordre narratif en train de s’imposer : « La prolifération de ces narrations non humaines interroge le devenir de l’humanité tout entière. »

La question du langage s’est déplacée, et notre technorrhée ressemble à s’y méprendre aux vers de Macbeth : un conte raconté par un idiot (ils sont en fait plusieurs), plein de bruit et de fureur, ne signifiant plus rien. (« It is a tale / Told by an idiot, full of sound and fury / Signifying nothing« ).

J’étais donc l’autre jour (mercredi) convoqué Au Poste chez le camarade David Dufresne pour une petite causerie autour de mon article sur le web pourrissant et l’IA florissante. L’émission est disponible gratuitement (grâce aux abonné.e.s de la chaîne, abonnez-vous si vous le pouvez). Cela dure un peu plus d’une heure, ça cause IA, web, indépendance, Bourdieu, distinction et plein d’autres choses encore. C’est dispo sur Youtube et Peertube. Dans tous les cas, rendez-vous Au Poste aussi souvent que vous le pourrez.

Comme je le fais depuis quelques temps, certains de mes textes sont initialement publiés dans la revue AOC avant d’être republiés ici en version gratuite après embargo de 2 mois (sachant qu’AOC vous offre un article par mois gratuitement en échange de votre adresse mail).

Mon dernier texte s’intitule « Le réel, le vrai et la technorrhée. Comment la question du langage s’est déplacée. » Il est disponible sur AOC depuis le 20 octobre 2025 (et sera donc republié ici fin décembre). C’est un texte assez long et assez dense qui propose plusieurs concepts (celui de technorrhée, celui « d’assemblages machiniques informationnels », et quelques autres encore), travaille plusieurs aspects de l’IA au travers des différents générateurs (de texte, d’image, de vidéo), qui revient aussi sur les cadres discursifs et langagiers qui se trouvent bousculées et remodelés et tente de replacer ces dernières évolutions dans le temps long des espaces discursifs en ligne, qui ont, depuis l’invention des plateformes de médias sociaux, toujours été davantage astreignants que libératoires. Parmi quelques-uns des aspects développés dans ce texte, je vous livre ici deux courts extraits qui, je l’espère, vous donneront envie de lire l’ensemble sur AOC (et de vous y abonner, c’est un espace de réflexion et de respiration aussi salutaire que nécessaire dans l’époque actuelle).

Extrait 1.

« Il y a deux niveaux différents sur lesquels penser la complexification de nos anciennes heuristiques de preuve. D’abord la documentation récréative, ludique ou fictionnée du monde : l’enjeu est alors celui de la dissimulation ; il faut soit faire en sorte que le destinataire ne voit pas la simulation, soit qu’elle se dise pour ce qu’elle est (un « dit » de simulation) et qu’elle suscite l’étonnement sur sa nature. Et puis il y a la documentation rétrospective de tout ce qui fait histoire dans le temps long ainsi que celle qui concerne l’actualité. C’est alors l’exemple de la vidéo du SIG que j’évoquais plus haut, où le moindre casque à pointe nous fait basculer de l’ahurissement à l’abrutissement.

On croit souvent – et l’on s’abrite derrière cette croyance – que chaque simulation, chaque nouvelle production documentaire générée par intelligence artificielle, ajoute au réel. C’est totalement faux. Chaque nouvelle simulation enlève au réel. Parce que le réel historique n’est pas un réel extensible : il peut se nourrir de représentations historiques mouvantes au gré de l’historiographie et de l’émergence de preuves ou de témoignages, mais chaque nouvelle génération de ce réel historique potentiel va venir se sédimenter dans l’espace public mémoriel dont la part transmissible est extrêmement ténue et s’accommode mal d’effets de concurrences génératives. La question, dès lors, n’est pas tant de condamner les utilisations imbéciles ou négligentes de technologies d’IA pour illustrer un fait historique mais, par exemple, de savoir comment mieux rendre visible et faire pédagogie de la force incroyable d’authentiques images d’archives.

Nos imaginaires sont des réels en plus. Les effets de réel produits par les artefacts génératifs sont des imaginaires en moins.

(…) Il est en train de nous arriver exactement la même chose avec l’ensemble de l’actuelle panoplie des artefacts génératifs disponibles, de Genie 3 à ChatGPT5 : nous ne multiplions pas nos capacités collectives à faire récit (que ces récits soient imaginaires, réels ou réalistes et que leur support premier soit celui du texte, de l’image ou de la vidéo), nous les standardisons et nous nous enfonçons dans des dynamiques de reproduction qui se nourrissent de toutes les formes possibles de confusion ; une confusion entretenue par des formes complexes d’indiscernabilité qui tiennent à l’immensité non auditable des corpus sur lesquels ces IA et autres artefacts génératifs sont « entraînés » et ensuite calibrés.

Extrait 2.
À propos de ce que je nomme « Assemblages machiniques informationnels »

L’arrivée des artefacts génératifs ajoute une dimension nouvelle et passablement problématique au tableau contemporain de la fabrication de nos croyances et adhésions. Jusqu’ici, moteurs de recherche et réseaux sociaux jouaient sur le levier déjà immensément puissant de leurs arbitraires d’indexation et de publication (le fait de choisir ce qu’ils allaient indexer et/ou publier) ainsi que sur celui, tout aussi puissant, de la hiérarchisation et de la circulation (viralisation) de ce qui pouvait être vu et donc en creux de ce qu’ils estimaient devoir l’être moins ou pas du tout.

Choisir quoi mettre à la « Une » et définir l’agenda médiatique selon le vieux précepte de « l’agenda setting » qui dit que les médias ne nous disent pas ce qu’il faut penser mais ce à quoi il faut penser. Ce principe premier de l’éditorialisation se double, avec les artefacts génératifs conversationnels à vocation de recherche, d’une capacité à produire des sortes d’assemblages machiniques informationnels, c’est à dire des contenus uniquement déterminés par ce que nous interprétons comme un « devenir machine** » en capacité de « phraser » les immenses bases de données textuelles sur lesquelles il repose. Des machines à communiquer mais en aucun cas, comme le souligne aussi Arthur Perret, en aucun cas des machines à informer.

** [ce « devenir-machine » est à lire dans le sens du « devenir-animal » chez Deleuze et Guattari : « le “devenir-animal” ne consiste pas à “imiter l’animal, mais d’entrer dans des rapports de composition, d’affect et d’intensité sensible” ».]

Ce concept d’assemblage machinique informationnel me semble intéressant à penser en miroir ou en leurre des agencements collectifs d’énonciation théorisés par Félix Guattari. D’abord parce qu’un assemblage n’est pas un agencement. Il n’en a justement pas l’agentivité. Il n’est mû par aucune intentionnalité, par aucun désir combinatoire, calculatoire, informationnel, communicationnel ou social. Ensuite parce que la dimension machinique est antithétique de la dimension collective, elle en est la matière noire : ChatGPT (et les autres artefacts génératifs) n’est rien sans la base de connaissance sur laquelle il repose et les immenses réservoirs de textes, d’images et de contenus divers qui ont été, pour le coup, assemblés, et sont l’oeuvre de singularités fondues dans un collectif qui n’a jamais été mobilisé ou sollicité en tant que tel. Enfin, l’information est ici un degré zéro de l’énonciation. L’énonciation c’est précisément ce qui va donner un corps social à ce qui étymologiquement, a donc déjà été « mis en forme » (in-formare) et se trouve prêt à être transmis, à trouver résonance. ChatGPT est l’ombre, le simulacre, le leurre d’une énonciation. Et cette duperie est aussi sa plus grande victoire.

La question du langage s’est déplacée. Un grand déplacement. Quelque chose qui n’est plus aligné entre le territoire du monde et la langue qui en est la carte.

La suite ici :

Chapitre 1er.
Le web pourrissant et l’IA florissante.

Nos espaces discursifs en ligne, nos médias sociaux, sont déjà largement contaminés de contenus entièrement générés par IA. Les proportions peuvent varier d’un média à l’autre mais il s’agit de bien plus qu’une simple tendance, il s’agit de l’aboutissement d’un changement complet de paradigme. Après avoir été acteurs et actrices de la production de contenus, après avoir été essentiellement spectateurs et spectatrices de contenus publiés par d’autres que nous appartenant à différents sphères « d’influence » ou de médias, nous sommes aujourd’hui entrés dans une ère où des contenus produits par des IA phagocytent et recouvrent la quasi-totalité des contenus qui nous sont proposés. Il ne s’agit pas ici de rejoindre la théorie conspirationniste du « Dead Internet » selon laquelle les bots seraient en charge et à l’origine de la totalité du trafic en ligne ainsi que des contenus produits afin de mettre l’humanité sous coupe réglée, mais de constater que les bots et les contenus générés par IA … sont désormais à l’origine d’une majeure partie du trafic en ligne des des contenus produits. Pas de complot donc mais une question : que peut-il se produire dès lors que la réalité de nos espaces informationnels et discursifs en ligne est effectivement majoritairement produite par des bots et des IA. Bref, le pitch d’un excellent bouquin : « Les IA à l’assaut du cyberespace : vers un web synthétique. » Et sans divulgâcher la suite de cet article, il est évident qu’il ne peut pas en sortir grand chose de bon.

D’autant que ces contenus générés par IA et autres artefacts génératifs, sont devenus un nouvel horizon du capitalisme sémiotique et que la totalité de nos ectoplasmiques plateformes sociales annoncent vouloir s’y engouffrer, et s’y engouffrer massivement. Le groupe de Mark le Mascu annonce ainsi le lancement de Vibes, qui va se présenter comme un fil (feed) présentant uniquement des vidéos créées par IA (et par d’autres que nous parce qu’une fois qu’on aura fait joujou 5 minutes avec on se contentera de faire défiler). Le phénomène de « Slop AI » devient non plus un « encombrement » ou une « bouillie » numérique mais une ligne éditoriale revendiquée. De son côté, Singularity Sam (Altman) annonce le lancement de devinez quoi ? Bah oui, un réseau social sur le modèle de TikTok et entièrement dédié aux contenus vidéos générés par IA (des contenus directement issus de Sora, la plateforme de génération de vidéos par IA d’Open AI, ou comme on dit dans le milieu des égoutiers et autres fabriquants de pompes à merde, « Garbage In, Garbage Out« ). Toutes proportions gardées, c’est un peu comme si au début des années 2000 avec l’explosion du Spam (contenus, souvent publicitaires, non sollicités et invasifs) on avait dit « Oh vazy c’est cool, on va mettre en avant le Spam, on va faire des médias avec juste du Spam dedans« . La seule différence c’est qu’aujourd’hui le Spam du Slop (vous suivez ?) est essentiellement constitué d’animaux mignons et autres contenus suffisamment débiles pour être consommés rapidement et à coût cognitif nul, et suffisamment « engageants » pour nous faire croire qu’on ne perd pas totalement nos vies à regarder des trucs débiles. Et ce n’est pas près de s’arrêter, car pour l’instant en tout cas, la production de ces contenus « Slop » est une manne financière conséquente, car ces VAAC (Vidéos Artificielles A la Con, bah quoi moi aussi j’acronymise si je veux), car ces VAAC ** disais-je sont certes tout aussi répétitives et ennuyeuses que d’autres avant elles, mais elles agrègent un grand nombre de vues, et donc de monétisation, et beaucoup de Youtubeurs et Youtubeuses s’en frottent déjà les mains.

** Sur Mastodon, le camarade Tristan Nitot propose le concept de VACCUM : « Vidéos Artificielles à la Con Universellement et Uniformément Merdiques. »

Pour l’instant uniquement disponibles aux US, ces applications ont pu être testées, notamment par Michaël Szadkowski de l’équipe Pixels du Monde :

Le 7 octobre, entouré de collègues curieux, nous découvrons, entre amusement et effarement, la réalité concrète de ces deux applications. Un chat faisant du skateboard. Un lion jouant du djembé. Jésus câlinant un enfant. Une grand-mère en roue arrière sur une Harley.

Défile sous nos yeux une forme de reconnaissance du « brainrot » (abrutissement numérique) et autre « slop » (contenus IA de faible qualité et produits à la chaîne) qui prospéraient jusqu’ici à la marge des réseaux. Ici, ces formats sont pleinement assumés, une nouvelle forme de divertissement, d’expérience collective – et de source de revenus, de l’aveu même de Sam Altman, le PDG d’OpenAI.

Par-delà la facilité de générer ces vidéos sur la base d’un simple prompt, par-delà les fonctionnalités de mise en scène de soi dans lesdites vidéos au moyen d’une fonction « caméo » vous permettant de vous ajouter (votre avatar en tout cas) au coeur de n’importe quelle scène, et par-delà l’immensité subséquente des problèmes que cela peut poser selon les usages – et les âges – de celles et ceux qui utiliseront ces fonctions, c’est le sentiment qu’après plus d’un quart de siècle d’internet « grand public » nous n’avons rien compris, ou qu’en tout cas les propriétaires de ces plateformes n’ont rien appris, car comme le relate encore Michaël Szadkowski  :

Rapidement, sans même parler de la culpabilité liée au bilan carbone de nos expériences, les problèmes s’accumulent. Générer une version obèse, plus maigre ou plus musclée de mon caméo a été un jeu d’enfant. De même que de me faire tenir des propos ou des gestes condamnés par la loi, de faire de la pub de services douteux ou de danser avec une célébrité sulfureuse. On devine aussi les immenses problèmes à venir en termes de détournements. Surtout que la plupart des vidéos générées dans les brouillons d’un utilisateur peuvent être téléchargées, sauf quand elles contiennent un caméo de quelqu’un d’autre.

Si besoin, croisez aussi cela avec les récentes annonces d’Open AI de permettre à ChatGPT d’avoir des conversations « érotiques », et avec les révélations sur le fait que le groupe Méta entraîne ses modèles d’IA à des conversations érotiques avec des mineurs** et vous aurez une idée à peu près exacte de l’irresponsabilité autant que du cynisme le plus crasse des dirigeants de ces plateformes.

** à ce propos je vous invite à lire l’enquête de Reuters qui a rendu publics des documents internes dans lesquels les limites de « l’acceptable » sont définies face à des prompts dans lesquels une petite fille de 8 ans se dénude (enlève son t-shirt) devant l’écran et demande à l’assistant IA son ‘avis’, ou cet autre exemple dans lequel le prompt consiste à demander d’argumenter sur le fait que les noirs seraient plus cons que les blancs (sic). Dans tous les cas, les réponses jugées et définies comme « acceptables » par le groupe Méta permettent de mesurer toute l’étendue de l’absolue bêtise et de la dangerosité critique de celles et ceux définissant lesdits cadres d’acceptabilité, et qui ne sont rien moins que « les équipes juridiques, de politique publique et d’ingénierie de Meta, y compris son responsable de l’éthique. »  Puissent l’ensemble de ces connards décérébrés être rapidement mis à grande distance de toute forme de responsabilité juridique ou éthique dans quelque secteur que ce soit.

D’autant que ce même groupe Méta annonce sans broncher et un mois à peine après les révélations de Reuters, qu’il va « lancer des comptes spéciaux pour les ados sur Facebook et Messenger« , des outils « pensés pour protéger les jeunes en ligne. » Autant confier la justice des mineurs à Jean-Marc Morandini.

Vous aurez donc compris qu’il va être très compliqué d’analyser tout ça autrement que sous l’angle d’un gigantesque tsunami de merde. Mais pour m’efforcer d’être moins grossier et plus constructif, j’ai en tête le modèle mathématique de la communication proposé par Claude Shannon (en 1949), un modèle dans lequel il s’agissait (en gros) de comprendre comment optimiser la transmission d’un message en limitant le « bruit », c’est à dire tout signal parasite entre l’encodage et le décodage de l’information transmise. Avec ce célèbre schéma que tous et toutes les étudiant.e.s passées par le champ de l’information et de la communication ont eu sous les yeux :

Et ce souvenir en tête, la situation dans laquelle nous placent aujourd’hui l’ensemble des médias sociaux nous inondant de contenus générés par IA bien plus que par nous-mêmes, notamment par l’usage de « prompts » qui sont moins des « commandes » faites à des systèmes que des assignations et des injonctions faites à nous-même de s’inscrire dans ces dynamiques de générations, cette situation c’est que dans ce schéma global de la communication, j’ai le sentiment que nous ne sommes plus que le bruit. Nous sommes cet élément que Shannon et son camarade Weaver essayaient de réduire et de limiter. Nous sommes le bruit de ces plateformes qui n’aspirent finalement qu’à communiquer sans nous autrement que comme spectateurs assignés à justifier leur existence (celle des plateformes hein, pas celle des spectateurs, suivez un peu quoi). Chacun de nos prompts ajoute au bruit de cette grande lessiveuse qui choisira de ne visibiliser que la part qu’elle estimera immédiatement rentable de nos im-prompt-us murmures, de nos souffles, de nos cris, de nos ahurissements et de nos consentements à l’étrangeté de ces mondes générés pour rien. J’écrivais récemment dans une analyse parue sur AOC à propos de ce que j’appelais une « technorhée » que « les effets de réel produits par les artefacts génératifs sont des imaginaires en moins » : s’il s’agit d’imaginaires en moins c’est aussi parce ce que l’ensemble de ces générations artificielles sont du réel en trop, du réel pour rien. Et le reste, tout le reste, retournera au silence des plateformes.

Nous ne sommes plus que le bruit. Mais si nous sommes le bruit, alors qui sera la fureur ?

Chapitre 2nd.
Des moteurs de recherche aux super-assistants dopés à l’IA ?

Il y a une dizaine de jours (21 Octobre 2025) OpenAI a annoncé la sortie de son nouveau « super-assistant » baptisé « Atlas », qui est un navigateur intégrant toutes les fonctionnalités de ChatGPT présentées à la manière d’un moteur de recherche.

« ChatGPT Atlas est un navigateur conçu avec ChatGPT qui vous rapproche d’un véritable super assistant, capable de comprendre votre univers et de vous aider à atteindre vos objectifs » 

Alors évidemment il s’agit d’une nouvelle offre de service « logique » dans la guerre de position qui doit permettre à OpenAI de venir butiner sur les terres de ses concurrents directs, Google en tête. Et à ce titre et à l’échelle du web, « sortir » ChatGPT de sa « page » et propulser un navigateur dans lequel il fera office de moteur est tout à fait cohérent. Ce n’est pas pour autant que la bascule des usages se fera car à l’échelle des navigateurs justement, les habitudes ont la vie dure. Du côté des moteurs de recherche aussi d’ailleurs : Google peine à imposer les usages de Gemini (son IA maison) dans le cadre d’usage du moteur de recherche, pas sûr que OpenAI arrive à imposer l’usage d’un assistant IA comme un nouveau moteur de recherche. Nous y reviendrons. Mais bon il eût été dans tous les cas incompréhensible qu’OpenAI ne tente pas le coup. De fait l’expérience (j’ai testé) d’Atlas est rapidement assez déceptive en ce sens qu’elle oblige à passer par l’installation d’un navigateur et qu’en termes de fonctionnalités on n’a pas grand chose de plus que ce qui était déjà proposé sur la page dédiée à ChatGPT sur le site d’OpenAI (mais cela permet au passage à OpenAI de s’installer sur votre machine et de vous demander de récupérer l’ensemble de vos contacts, signets, mots de passe, réglages divers, etc.)

La seule valeur ajoutée réelle est celle de la fonction « agent » décrite comme suit par Alexandre Piquard sur Le Monde :

Le navigateur intègre aussi la fonction « agent » de ChatGPT, par laquelle l’utilisateur peut demander à l’assistant d’accomplir pour lui des actions, notamment en surfant le Web : réserver des billets de théâtre, un restaurant ou un livre, faire des courses de supermarché en ligne, remplir un formulaire, trouver un e-mail de contact puis envoyer un message… L’IA est en principe capable de consulter des pages par lui-même et même, avec autorisation de l’utilisateur, de se connecter à des services protégés par mot de passe, par exemple pour faire des achats en ligne. La fonctionnalité « agent » est toutefois réservée aux abonnés payants de ChatGPT.

Ce qui m’intéresse donc dans l’annonce du lancement d’Atlas (Titan mythologique assez fort pour supporter le poids de la voûte céleste et assez débile pour céder à la ruse de CE1 d’Héraclès à qui il avait réussi à la refiler), c’est précisément le narratif qui l’accompagne en tant que « super assistant ». En résumé ce narratif me semble être le nouveau signe d’une bascule anthropo-technique proche de son aboutissement. Car face à des nouveaux « assistants » ou « super assistants » nous sommes essentiellement désignés comme les assistés, les super assistés. Et face aux nouveaux « agents » conversationnels qui prennent en charge (notamment) nos recherches et qui, comme je l’expliquerai plus bas, « font à notre place », nous sommes désignés comme de nouveaux « mandants », presque de nouveaux « mand-IA-nts » (mais qui n’ont hélas rien de clochards célestes). Comment en sommes-nous arrivés là ?

Il fut un temps où la désignation des circulations possibles à l’échelle de l’internet et du web étaient de claires métaphores. Nous avions des « navigateurs« , lesquels utilisaient des « moteurs » ; et parfois sans moteur mais toujours en navigateur on se contentait de « surfer« . Pour se repérer on connaissait des adresses (URL) qui étaient autant de phares, de rives déjà apprivoisées ou de rivages à découvrir.

Et puis. Puis les moteurs de « recherche » sont devenus des moteurs de « réponses ». Puis les adresses (URL) se sont effacées, rétrogradées au second plan, amputées au-delà de leur racine, considérant que plus personne n’avait à se soucier de les retenir et nous privant du même coup d’une autre possibilité de s’orienter en dehors des déterminismes techniques servant de béquilles à nos mémoires. Et donc aujourd’hui, plus de moteurs ou de navigateurs, ou plus exactement qu’importent les moteurs et les navigateurs, nous serons « super assistés » par de « super assistants », et deviendrons donc « mandants » de ces nouveaux « agents ».

Chapitre 3ème.
Des technologies de la déprise qui ouvrent de nouveaux horizons d’emprise.

Depuis les NTIC (nouvelles technologies de l’information et de la communication) et les métaphoriquement célèbres « autoroutes de l’information », depuis aussi cette idée idiote que « l’internet » serait un « Far-West » (Sarkozy, 2007) et autres récurrences tout aussi crétines de l’idée qu’il faudrait « reciviliser internet » (Mounir Mahjoubi en 2018) en passant par l’inénarrable Frédéric Lefebvre en 2009 et sa diatribe Kamoulox entre Hadopi, jeunes filles violées et identité nationale (sic) et jusqu’à tout récemment Clara Chappaz (2025) qui ressort le coup du Far-West à l’occasion de la mort de Raphaël Graven, chacun voit bien que la question de ces technologies est avant tout de nature politique. Et que ce qu’elles viennent bousculer dans nos schémas de communication et d’information est tout ce qui tient à notre capacité de faire société c’est à dire à nourrir des formes de sociabilités informationnelles, affectives et cognitives qui dessinent une réalité partagée.

La question des infrastructures technologiques n’est évidemment pas neutre dans l’équation, elle est même déterminante (à ce sujet lisez ou relisez Cyberstructure de Stéphane Bortzmeyer). Mais nous héritons d’un monde où la question politique de ces technologies et de leurs infrastructures n’a été posée en termes à peu près correct qu’à partir du moment où précisément elles avaient déjà commencé à ronger les structures même du débat public et politique tout autant que ses conditions pratiques d’exercice. L’histoire est malheureusement connue, à force de se concentrer sur la ruée vers l’or personne n’a noté que les seuls à faire réellement fortune étaient les fabricants de pelles. Et bien voici venu le temps des coups de pelle dans la tronche.

Pour sortir de cette qualification dépolitisante de « NTIC » beaucoup ont proposé d’autres dénominations. Pour ma part j’ai suggéré de questionner les NTAD, nouvelles technologies de l’attention et de la distraction. J’ai aussi et surtout interrogé la question de la déprise, c’est à dire la capacité de ces technologies à nous placer en situation de dépendance choisie, de nous installer dans des routines à coût cognitif nul, et finalement de presque tout faire à notre place, et inexorablement, de ne plus répondre à nos commandes que dans un « à peu près » qui nous satisfasse au regard de l’habitude prise à ne plus nous soucier de la précision du monde et de ce qui le constitue. Je vous invite à relire mon article de 2018 dans lequel j’explique tout cela avec de nombreux exemples et où je proposais l’insatisfaisant concept de « technologies de l’à peu près et de l’à ta place » que je requalifie donc aujourd’hui comme des technologies de la déprise (voilà pour le côté « à peu près ») et de l’emprise (voilà pour le côté « à ta place »). A partir de deux exemples « d’innovation » j’y montrais notamment ceci :

« Ce qui m’intéresse dans cette affaire c’est la chose suivante : nous avons donc un algorithme qui s’occupe de recadrer automatiquement les photos que nous prenons, au risque de nous faire prendre des photos que nous ne voulions pas prendre, ou en tout cas de donner à voir une « composition photographique » qui n’est pas celle que nous voulions montrer. Et ce « choix algorithmique » de recadrage, dont on nous dit qu’il est là pour permettre d’optimiser – paradoxalement – la visibilité, se trouve lui-même soumis au choix algorithmique conditionnant la visibilité du Tweet lui-même, indépendamment des photos recadrées qu’il contient. Soit un empilement de strates et de régimes algorithmiques d’obfuscation et de dévoilement, sur lesquels nous n’avons quasiment plus aucune prise (de vue).

Là encore, comme pour Clips de Google mais à un niveau légèrement différent, l’usage de la technologie nous installe dans une position que l’on pourrait qualifier « d’assistance contrainte » : nous n’avons pas demandé à ce que nos photos soient recadrées, mais nous n’avons pas d’autre choix en les soumettant que de les voir recadrées. La technologie et l’algorithme de machine-learning le font à notre place. TIYS (Technology In Your Stead) & AIYS (Algorithms In Your Stead). La négociation dans l’usage se jouant autour de la promesse de gain de visibilité pour l’utilisateur (et donc d’interaction ou d’engagement pour la plateforme).

Aujourd’hui l’ensemble des contenus produits par IA sont l’incarnation finale de ces technologies qui font à la fois « à peu près » et « à notre place ». Donnez-leur un prompt et vous aurez une projection qui sera « à peu près » ce que vous imaginiez, et qui surtout sera produite « à votre place » au double sens du terme, c’est à dire depuis votre place qui est une place à distance de l’acte de création, mais également qui vous départit de l’essentiel même de ce qu’imaginer ou créer veut dire.

Chapitre 4ème
À moins de revoir la doctrine entre le statut d’éditeur et celui d’hébergeur

J’ai le sentiment qu’il est beaucoup trop tard et que la seule manière de remettre un peu d’eau claire dans ce flot de merde, c’est de revenir sur une constante qui fut pourtant fondamentale et constitutive de l’histoire du web et des plateformes. Il faut que les plateformes soient immédiatement considérées comme totalement et pleinement éditrices des contenus qu’elles font circuler. De tous les contenus ? Oui. Voici pourquoi et voici aussi comment cela pourrait permettre de résoudre le problème qu’Emmanuel Macron résume parfaitement (bah oui faut le dire parfois il résume bien les trucs) mais en omettant de parler de l’autre éléphant dans la pièce, c’est à dire les « autres » médias classiques, traditionnels et pas spécialement sociaux mais qui sont au moins autant coupables de l’effondrement démocratique qui se dessine.

Parce que t’as raison Manu, on tape Islam sur TikTok et on tombe en trois clics sur des contenus salafistes. Mais je te rappelle qu’on dit « Bonjour » sur CNews et on tombe encore plus rapidement sur des contenus racistes éditorialisés par des gens condamnés pour corruption de mineurs et harcèlement sexuel, donc bon voilà quoi.

Oh oui reprends-moi le contrôle et enfourchons le tigre.

[Si vous êtes familiers de la distinction entre éditeur et hébergeur et de tout ce qui tient à la « section 230 », vous pouvez directement sauter ce passage et on se retrouve après les crochets, sinon je vous invite à lire l’article d’Anne Deysine dans l’excellentissime Revue Européenne des médias et du numérique, et vous en partage l’extrait qui suit :

« La section 230 a été ajoutée à la loi Communications Decency Act (CDA) de 1996 (qui visait à réguler la pornographie) grâce au lobbying de ceux que les chercheuses Mary Ann Franks et Danielle Keats Citron appellent les « fondamentalistes de l’internet » : ceux qui défendent une vision du web comme espace paradisiaque de liberté totale. La section 230 (surnommée « les 26 mots qui ont créé l’internet ») fut, à l’origine, conçue pour encourager les compagnies de la Tech à nettoyer les contenus offensifs en ligne. Il s’agissait de contrer une décision rendue en 1995 dans l’État de New York, ayant conclu à la responsabilité de Prodigy qui avait modéré des contenus postés sur son site. La section 230 (c) (1) stipule qu’« aucun fournisseur d’accès ne sera traité comme un éditeur ». Un deuxième paragraphe, 230 (c) (2), précise qu’« aucun fournisseur ou utilisateur d’un service informatique interactif ne sera tenu responsable, s’il a de bonne foi restreint l’accès ou la disponibilité de matériaux qu’il considère être obscènes, excessivement violents, de nature harcelante ou autrement problématiques (otherwise objectionable), que cette information soit constitutionnellement protégée ou non. 

C’est ce qu’on appelle la disposition du « bon Samaritain », conçue comme plus limitée que le paragraphe (c) (1), car nécessitant de prouver la bonne foi.

Mais les juridictions étatiques et fédérales ont étendu la protection juridique bien au-delà de ce que prévoit le texte de la loi, avec pour résultat que les plateformes ne soient guère incitées à combattre les abus en ligne. La section 230 a, de fait, libéré les sites internet, les sites de streaming et les réseaux sociaux (pas encore nés en 1996), qui peuvent héberger du contenu extérieur sans être confrontés à la tâche (impossible ?) de vérifier et de contrôler tout ce qui est posté par les utilisateurs. Telle qu’interprétée par les juridictions fédérales, la section 230 confère aux plateformes et réseaux sociaux une immunité totale, quels que soient le contexte et le cas de figure (modération ou non). Avec pour conséquences, entre autres, la multiplication des mensonges et la prolifération de la désinformation et des discours de haine. Ils ont donc le pouvoir sans la responsabilité, selon les mots de Rebecca Tushnet. » in Deysine, Anne. « La section 230 : quelle immunité pour les réseaux sociaux ? » La revue européenne des médias et du numérique, 13 février 2024.

Pour rappel également, Trump s’est tour à tour « amusé », dans ce mandat comme dans son précédent, à brandir la menace de la suppression de la section 230 (quand ça l’arrangeait pour mettre la pression aux grands patrons de la tech qui tardaient à lui donner des gages de servilité) puis à en rappeler l’importance (dès lors que les gages de servilité avaient été obtenus et qu’il s’agissait alors pour lui de rétablir les plateformes dans une immunité totale au service de ses intérêts politiques.]

Reprenons.

Dans le contexte de l’explosion totalement dérégulée des contenus générés par IA, continuer aujourd’hui à prétendre encore distinguer entre un statut d’éditeur et un autre d’hébergeur en privilégiant ce dernier, c’est prétendre vouloir nettoyer les écuries d’Augias avec un coton-tige et un mi-temps thérapeutique. Il ne s’agit plus de dire que c’est trop tard (c’est en effet trop tard) ; il s’agit de dire que ce n’est simplement plus le sujet.

On ne peut plus considérer aujourd’hui que les très grandes plateformes actuelles de médias sociaux sont légitimes à continuer de s’abriter derrière un statut d’hébergeur. Elles ne le sont plus. Du tout. Leurs algorithmes tordent la réalité sous l’impulsion et les intentions claires et transparentes de l’idéologie de leurs propriétaires. Et elles ont toutes jusqu’ici absolument tout mis en place pour, à chaque fois que possible, se soustraire à leurs obligations légales ou à leurs engagements moraux.

Nous sommes au coeur d’un nouvel épisode du paradoxe de la tolérance de Popper : nous avons été beaucoup trop tolérants avec des grandes plateformes qui trop longtemps furent et continuent d’être la caution de toutes les intolérances. Tout a été dit et documenté sur le fait que toutes les plateformes ont non seulement parfaitement conscience des dérives et des dangers qu’elles représentent (notamment mais pas uniquement pour les publics les plus jeunes), sur les moyens dont elles disposent toutes pour immédiatement atténuer ces dangers et ces dérives, et sur les coupables atermoiements, reniements, dissimulations et mensonges qui les conduisent à ne rien mettre en place de significatif à l’échelle de l’immensité et de l’urgence des problèmes qu’elles posent. Je l’ai (et tant d’autres avec moi) tant de fois dit, écrit, montré et démontré et le redis encore une fois :

Après les mensonges de l’industrie du tabac sur sa responsabilité dans la conduite vers la mort de centaines de millions de personnes, après les mensonges de l’industrie du pétrole sur sa responsabilité dans le dérèglement climatique, nous faisons face aujourd’hui au troisième grand mensonge de notre modernité. Et ce mensonge est celui des industries extractivistes de l’information, sous toutes leurs formes. (…) Et même s’ils s’inscrivent, comme je le rappelais plus haut, dans un écosystème médiatique, économique et politique bien plus vaste qu’eux (…) les médias sociaux, sont aujourd’hui pour l’essentiel de même nature que la publicité et le lobbying le furent pour l’industrie du tabac et du pétrole : des outils au service d’une diversion elle-même au service d’une perversion qui n’est alimentée que par la recherche permanente du profit.

Autre fait incontestable de ce premier quart du 21ème siècle, aujourd’hui et lorsqu’ils ne disposent pas déjà d’un internet totalement fermé ou sous contrôle (comme en Chine ou en Russie par exemple), l’essentiel des pouvoirs politiques de la planète n’ont plus pour projet, ambition ou vocation de contrôler et de limiter le pouvoir de nuisance de ces plateformes mais tout au contraire de le maximiser et de le mettre à leur propre service ou, le cas échéant, à celui d’un agenda du chaos sur lequel ils espèrent pouvoir encore prospérer. Comme le rappelle très bien Fred Turner dans « Politique des machines » :

« L’une des plus grandes ironies de notre situation actuelle est que les modes de communication qui permettent aujourd’hui aux autoritaires d’exercer leur pouvoir ont d’abord été imaginés pour les vaincre. »

Il revient donc aux quelques états encore pleinement démocratiques (ou pas encore totalement illibéraux), en Europe notamment, de mettre immédiatement fin à la tolérance qui est faite à ces très grandes plateformes, de rompre avec leur statut d’hébergeur et de les rendre éditrices en droit. À celles et ceux qui m’objecteront que c’est impossible, je répondrai qu’il s’agit de l’une de nos dernières chances pour préserver l’espoir de vivre encore dans une forme de réalité partagée et consensuelle, et qui ne soit pas en permanence minée et traversée d’opérations massives de déstabilisation ou d’influence de plus en plus simples à initier et de plus en plus complexes à contrer (si vous êtes curieux de cela, regardez par exemple ce qui se passe actuellement autour de l’IA, des LLM et de la stratégie des « data voids » – données manquantes – et autres LLM Grooming). Et que si ce mur là continue de se fissurer et tombe, alors …

À celles et ceux qui disent que c’est impossible je répondrai aussi que refuser de le faire c’est continuer de nier la place et le rôle politique de ces plateformes et privilégier un argument de neutralité de la technique dont nous avons chaque jour démonstration de l’ineptie totale qu’il recouvre. C’est bien parce que ces plateformes sont avant tout politiques, c’est bien parce que ces plateformes sont dirigées par des hommes (et quelques rares femmes) aux agendas idéologiques clairs (et le plus souvent dangereux), c’est bien parce qu’ouvrir le code des algorithmes ne suffit plus, c’est bien parce qu’il s’agit de protéger des populations entières d’usages incitatifs qui tendent majoritairement à corrompre, à pourrir, à remettre en doute toute forme de réalité objectivable et partagée, c’est bien pour l’ensemble de ces raisons qu’il est aujourd’hui impérieux de sortir d’une logique où le statut d’hébergeur est systématiquement brandi comme la carte joker de l’effacement de toute responsabilité ou de toute contrainte.

Le maintient d’un statut d’hébergeur primant sur celui d’éditeur n’avait de sens que dès lors qu’il n’y avait pas plus qu’un doute raisonnable sur l’indépendance politique et idéologique des plateformes et de ceux qui les dirigent. Ce doute étant aujourd’hui totalement levé et démonstration étant faite quasi-quotidiennement de l’ingérence de ces plateformes dans chacune des strates et orientation du débat public comme des décisions politiques, il faut imposer un statut d’éditeur à toutes ces grandes plateformes et que ce statut prime sur des fonctions d’hébergeur qui peuvent, marginalement ou périphériquement leur être conservées. Bref il faut de toute urgence inverser la logique. Il faut que ces plateformes répondent en droit de leur responsabilité d’abord éditoriale ou il faut qu’elles s’effondrent. Tout autre scénario revient aujourd’hui à accepter l’effondrement à moyen terme de nos démocraties. Il nous faut un effet cliquet ; il nous faut « cranter » une décision suffisamment forte pour qu’elle change totalement les dynamiques en cours.

Depuis l’émergence des grands réseaux puis médias sociaux « grand public », disons depuis 15 ou 20 ans, nous avons, et le législateur, raisonné en alignement avec l’argumentaire des plateformes consistant à expliquer que « plus elles étaient grosses » (en nombre d’utilisateurs), « plus les contenus y étaient abondants« , et « plus il était impossible d’y appliquer une modération ou une transparence éditoriale. » Or nous avons commis une triple erreur.

D’abord sur le statut d’hébergeur versus celui d’éditeur : cet argumentaire était directement repris de celui des fournisseurs d’accès, qui eux, étaient à l’époque comme maintenant, parfaitement légitimes à être protégés par le statut d’hébergeur en tant qu’intermédiaires techniques. Mais aucune des grandes plateformes dont nous parlons aujourd’hui n’a bâti son succès et son audience en tant qu’intermédiaire technique. Voilà notre première erreur.

La seconde erreur est de considérer que plus les gens sont nombreux à interagir, plus il y a de contenus en circulation, et moins il devrait y avoir de règles (ou seulement des règles « automatisées ») car toutes ces interactions seraient impossibles à contrôler. Je vous demande maintenant de relire la phrase précédente et d’imaginer que nous ne parlons plus de grandes plateformes numériques mais de pays et de populations civiles. Imagine-t-on réellement pouvoir tenir un argumentaire qui expliquerait que plus la population d’un pays est nombreuse, plus elle interagit et produit des discours et des richesses, et moins il doit y avoir de règles et de lois car tout cela serait trop complexes à gérer ? Voilà notre deuxième erreur. Et même si par nature, les espaces de ces très grandes plateformes ne sont ni entièrement des espaces publics, ni jamais pleinement des espaces privés, ils demeurent des espaces politiques traversés en chacun de leurs points et de leurs vecteurs par la question du « rendu public » et des règles afférentes qui le permettent et l’autorisent.

La troisième erreur est d’avoir laissé ces grandes plateformes agglomérer, agglutiner, une série de services et de « métiers » qui n’ont rien à voir entre eux et obéissent à des logiques de régulation différentes pouvant aller jusqu’à l’antagonisme. Ainsi, un service de « réseau social » qui s’appuie uniquement sur de la mise en relation, un service de messagerie électronique, un service de production de contenus vidéos, un service de moteur de recherche, et quelques autres encore, ne peuvent évidemment pas être soumis aux mêmes règles ou statuts d’hébergeur ou d’éditeur. Il n’est ainsi pas question pour un service de courrier électronique de faire peser la même responsabilité éditoriale que, par exemple, pour un service de production de vidéos. Lorsque Mark Zuckerberg déclarait ainsi en 2020, « Treat us like something between a telco and a newspaper » (« traitez-nous comme quelque chose entre un opérateur télécom et un journal »), c’est une manière d’échapper à sa responsabilité de « journal » (en s’abritant derrière les régulations des opérateurs télécoms qui ne couvrent pas l’aspect éditorial) et d’échapper aussi à sa responsabilité d’opérateur télécom (en s’abritant derrière les régulations propres aux médias). Voilà notre troisième erreur : avoir accepté de traiter l’ensemble de ces grandes plateformes comme si elles n’étaient qu’un tout et n’avaient qu’un seul « métier », alors pourtant que depuis des années, la nécessité de leur démantèlement (ou de leur nationalisation partielle) était la seule hypothèse rationnelle.

En parallèle voilà plus de deux décennies que nous demandions et tentons d’installer dans le débat public la nécessité d’ouvrir le code ces algorithmes. Moi y compris et – pardon pour l’immodestie – moi parmi les tous premiers avec mon camarde Gabriel Gallezot dès 2003, Aujourd’hui non seulement ouvrir le code des algorithmes ne suffit plus puisqu’irrévocablement, irrémédiablement, « il n’y a pas d’algorithme, juste la décision de quelqu’un d’autre » (Antonio Casilli, 2017), et de quelqu’un d’autre qui, soit se cogne de toute considération politique, soit au contraire ne raisonne qu’en termes politiques et idéologiques.

Cela ne veut pas dire pour autant que toute plateforme hébergeant des contenus en ligne doit se voir assignée uniquement et exclusivement un rôle et statut d’éditeur. Cela veut par contre dire que toutes les très grandes plateformes sociales actuelles, disons pour reprendre la catégorisation du DSA (Digital Service Act) toutes celles ayant plus de 45 millions d’utilisateurs actifs (soit 10% de la population européenne), toutes ces très grandes plateformes doivent d’abord être considérées comme éditrices. Dans la jurisprudence, l’un des critères les plus déterminants qui permet de distinguer entre hébergeur et éditeur et celui dit du « rôle actif », défini comme « la connaissance et le contrôle sur les données qui vont être stockées. » Or qui peut aujourd’hui sérieusement prétendre que Facebook, Instagram, X, TikTok et les autres n’ont pas un rôle actif dans la circulation des contenus hébergés, et que ces plateformes n’auraient ni connaissance ni contrôle sur les données et contenus stockés ? Le gigantisme fut longtemps l’argument mis en avant par les plateformes pour, précisément échapper à leur responsabilité éditoriale. Cet argument n’a aujourd’hui (presque) plus rien de valide techniquement ou de valable en droit.

Entendez-vous le son qui monte ? « Cela reviendrait à condamner le modèle même de ces plateformes, à les empêcher d’exister« . Oui. Oui encore et encore oui. Puisqu’elles n’entendent rien et se soustraient à toutes leurs obligations légales ou morales, oui il faut les renvoyer à leur responsabilité première, qui est une responsabilité éditoriale. Et le risque qu’elles ferment ? Oui il faut prendre ce risque. Qu’elles revoient entièrement leur mode de fonctionnement ? Oui il faut prendre ce risque. Que les interactions y baissent drastiquement ? Oui il faut prendre ce risque. Qu’elles soient contraintes de massivement recruter des modérateurs et des modératrices bien au-delà de ce qu’exige l’actuel DSA (dont elles n’ont à peu près rien à secouer) ? Oui il faut prendre ce risque. Qu’elles soient contraintes d’appliquer toutes les décisions de justice qui restent jusqu’ici lettre morte ? Oui il faut prendre ce risque. Que leur modèle économique soit totalement remis en cause ? Oui il faut prendre ce risque. Qu’une mathématique algorithmique explicite s’applique de plein droit sans être en permanence triturée pour faire remonter le pire, le plus clivant, le plus choquant, le plus porteur émotionnellement et le plus au service des idéaux du patron ? Oui il faut prendre ce risque. Que nous soyons contraint.e.s de les quitter ? Oui il faut prendre ce risque.

Et par-delà ces « risques » il s’agit surtout d’opportunités. Je rappelle en effet que d’autres formes de collectif, d’agrégation, d’intelligences collectives ont toujours été possibles, le sont et le seront encore à l’échelle d’internet, à l’échelle du web, à l’échelle des plateformes. Car si l’on parvient, pour les plus grosses d’entre elles, à mettre fin à ce statut d’hébergeur aujourd’hui presque totalement dérogatoire au droit, alors il reviendra à chacun.e d’entre nous, aux pouvoirs politiques et aux collectifs citoyens, aux chercheurs, aux chercheuses, aux journalistes et à l’ensemble des corps intermédiaires aujourd’hui tous menacés ou contraints par ces plateformes, de retrouver ce qui fut un temps le rêve achevé du web : des gens s’exprimant en leur nom (ou pseudonyme qu’importe), depuis principalement leur adresse, créant entre elles et eux des liens plutôt que des like. Un Homme, une page, une adresse.

Éditorialiser.

Ce que nous ferons de l’actuelle l’irresponsabilité éditoriale des très grandes plateformes n’est ni temporairement un choix technique, ni réellement un choix juridique, ni même pleinement un choix politique ; c’est une somme de tout cela mais c’est bien plus encore que cela. C’est un choix ontologique, qui seul peut nous permettre de définir et d’assigner ces écosystèmes informationnels à ce qu’ils sont vraiment et non à ce qu’ils prétendent être. Fred Turner encore, dans une interview sur NeXt à l’occasion de la sortie de « Politique des machines » (chez le meilleur éditeur de la galaxie connue) nous le rappelle (je souligne) :

« Nous vivons dans une ère saturée de médias et d’histoires. Rien ne donne plus de pouvoir que la capacité à contrôler le récit. En la matière, Donald Trump, c’est un drame dans lequel chaque Américain a une chance de jouer un rôle. C’est ce drame qui structure la réalité.

Si la France est là où les États-Unis étaient en 2022, disons, alors elle a une opportunité que nous n’avons pas su saisir. Vous pouvez construire des réseaux de solidarité dans les gouvernements, dans la société civile, dans les mondes numériques. Vous pouvez commencer à parler du monde que vous voulez construire. De cette manière, si l’autoritarisme arrive à votre porte, vous aurez déjà une autre histoire à proposer. »

Il (me) semble que cette histoire ne pourra jamais être contée si nous ne contribuons pas, en parallèle et peux-être en préalable, à démolir et à éparpiller façon puzzle l’actuel paysage éditorial dominant.

Marcello Vitali Rosati donnait la définition suivante de l’éditorialisation, une définition que je vous ai souvent donnée ici, que j’ai souvent reprise à mon compte :

« L’éditorialisation n’est pas seulement un ensemble de techniques, même si l’aspect technique est le plus visible et le plus facilement définissable. On pourrait donner la définition suivante. L’éditorialisation est l’ensemble des dispositifs qui permettent la structuration et la circulation du savoir. En ce sens l’éditorialisation est une production de visions du monde, ou mieux, un acte de production du réel. »

« Avoir une autre histoire à proposer« , « produire des visions du monde« , produire du réel. Que font et que sont ces méga-plateformes aujourd’hui sinon un acte premier et fondateur de production du réel. Mais souvenez-vous en et retenez-le bien, c’est un réel « à peu près » ; c’est un acte de production « à notre place« . Il est temps que tout cela cesse. Alors cessons d’être le bruit, et surtout, empêchons-les de plonger notre monde dans la fureur.

A l’invitation de la chaire Unesco RELIA de l’université de Nantes et dans le cadre de la Nantes Digital Week, j’étais ce vendredi 19 Septembre 2025 en bonne compagnie pour une « Scientific Battle » sur le thème suivant : « L’intelligence artificielle va-t-elle nous rendre (encore) plus idiots ? »

Voici ce que j’y ai dit, sachant que le format était celui de la contrainte : 3 minutes et basta. Je vous livre donc ces trois minutes mais aussi (et peut-être surtout) des réflexions complémentaires.

Ce que j’ai dit à la Scientific Battle en 3 minutes
(douche comprise)

366 avant JC, Platon dans le Phèdre se demande si l’écriture ne va pas nous rendre idiots et nous faire « perdre la mémoire ». Vingt-trois siècles plus tard, en 2008 Nicolas Carr se demande : « Google va-t-il nous rendre stupides ? » Et aujourd’hui donc on se demande :  « l’IA va-t-elle nous rendre encore plus idiots. » Vous noterez le « encore » qui est bien de circonstance

Plutôt que de parler d’IA je vais me concentrer sur ce que j’appelle (dans ce magnifique livre) les artefacts génératifs (les outils comme ChatGPT, Midjourney, Le Chat, Claude, Gemini, etc.). Vont-ils nous rendre encore plus idiots ?

D’abord ils nous font faire moins d’effort. Ces technologies allègent à la fois notre coût cognitif (« l’attribution de ressources attentionnelles à une tâche »)  et notre bagage cognitif (ce que cela mobilise comme connaissances).

From « ChatGPT » to « CouchGPT »

Ensuite ils démobilisent notre attention. On devient plus crédule. Ces technologies abaissent notre seuil de vigilance. L’idée (comme les notifications) c’est d’installer des arcs-réflexe, des routines, qui, à force, nous évitent non pas « de penser » ou « de réfléchir » mais de se souvenir qu’il faut penser ou qu’il faut réfléchir, par exemple à ce que ces artefacts génératifs nous disent, à pourquoi ils nous le disent et à comment ils nous le disent. D’autant qu’on a documenté ce que des chercheurs (Jacob, Kerrigan, Bastos 2025) appellent le « chat-chamber effect », le fait que nous « fassions confiance aux hallucinations de l’IA » dès lors que les informations / hallucinations vont dans le sens de nos croyances ou de notre questionnement, même si ces informations sont  incorrectes, non contrôlées et non vérifiées. Le titre complet de leur article c’est : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Et puis ces artefacts génératifs nous rendent moins exigeants. Ces technologies abaissent aussi notre seuil d’exigence parce qu’elles jouent sur un biais de disponibilité exacerbé qui se double d’une dimension de biais d’opacité (l’information est disponible, certes, mais difficile de savoir d’où elle a été tirée). Le biais de disponibilité c’est « se baser uniquement ou principalement sur les informations immédiatement disponibles en mémoire. » Et là on doit se demander : mais dans la mémoire de qui ? ChatGPT c’est la mémoire de … qui ? Des auteurs, photographes et des créateurs dont les oeuvres sont pillées (Anthropic a récemment promis un chèque d’1,5 milliards de dollars à un collectif d’auteurs pour éviter un procès) ? D’artefacts génératifs précédents dont les productions sont à leur tour mises en mémoire ? Avec déjà des formes de consanguinité « générative » qui sont accablantes comme ces images jaunies à force d’être copiées sur style Ghibli ou de manière générale des mécanismes d’effondrement de modèles autophages ?

Alors en effet quand on fait moins d’efforts (intellectuels), quand on fait moins attention, et quand on est moins exigeant intellectuellement, il est possible que l »on soit un peu plus idiot qu’avant.

Il y a une citation de Philippe Meirieu qui me semble très bien résumer tout cela : « l’IA comble le désir de savoir mais tue le désir d’apprendre. »

Pourtant au commencement, les idiots c’était pas nous ; les idiots c’étaient clairement ces IA et ces artefacts génératifs. Et vas-y que ça te proposait des recettes d’omelettes avec des oeufs de mouton, et vas-y que ça t’expliquait pourquoi « Jean-Paul Sartre avait écrit Le Petit Bonhomme en mousse », et vas-y que, de manière bien plus préoccupante, ça t’indiquait que « oui on a des doutes sur l’existence de la Shoah ».

Et puis on s’est mis à leur parler beaucoup et on a oublié ce que disait Audiard : « J’parle pas aux cons ça les instruit. » Maintenant on a une question à se poser : on fait quoi collectivement de ces artefacts génératifs très très cons que nous avons contribué à instruire (mais très incomplètement et très imparfaitement) ? On en fait quoi alors même qu’ils n’ont jamais eu et qu’ils n’auront jamais … aucun désir d’apprendre ? Pour le savoir on peut bien sûr poser la question à ChatGPT ; ou alors on peut aussi commencer par relire le Phèdre de Platon.

Moralité ? Je ne suis pas certain que ça nous rende tous encore plus idiots, mais je suis presque totalement convaincu que ça ne pas nous rendre collectivement plus intelligents.

Ce que je n’ai pas dit à la Scientific Battle.
(parce que ça ne tenait pas en 3 minutes)

L’IA c’est vaste, ça permet en médecine de sauver des vies et de détecter des cancers précocement, de concevoir de nouvelles molécules et de faire du design de protéines, mais ça permet aussi de faire du ciblage marketing émotionnel pour vous afficher des pubs juste au moment où vous êtes le plus « disponible », et puis ça fait vos devoirs à votre place et puis dès que vous avez une idée totalement crétine ou criminelle (genre transformer Gaza en Riviera), bah ça l’illustre et lui donne vie directement, ça imprègne, ça imprime, ça impressionne.

Je ne crois pas que les technologies (quelles qu’elles soient) nous rendent idiots. Par contre elles changent, modifient, transforment notre rapport au monde. La voiture, le train, l’avion ont moins modifié notre rapport à la vitesse et au déplacement individuel que notre rapport collectif à la géographie du monde. L’imprimerie a moins modifié notre rapport individuel à la lecture que notre rapport collectif aux structures sociales du pouvoir et de la contestation du pouvoir ; elle a transformé les anciens régimes de vérité et en a inauguré de nouveaux. Les moteurs de recherche, les réseaux sociaux et maintenant l’IA ont moins modifié notre rapport individuel à la question de l’accès à l’information et aux connaissances que notre rapport collectif à celles et ceux qui étaient jusque-là garants de la production d’informations vérifiées et de connaissances procédant par accumulation et respect de procédures scientifiques.

La question n’est donc pas tant de savoir ce que ces technologies nous font mais ce qu’elles font au monde et, surtout, ce que nous ferons et serons encore capables de faire dans le monde qu’elles façonnent.

Le grand paradoxe de ces technologies d’intelligence artificielle, via leurs artefacts génératifs, c’est qu’elles ne nous fatiguent pas (cf leur coût cognitif quasi nul) mais qu’elles produisent des formes d’épuisement de la langue et du réel. Ces générations artificielles n’ajoutent pas à nos imaginaires, à nos possibles, elles leur enlèvent, elles leurs ôtent quelque chose par les instanciations systématiques et à coût nul de chaque réponse, de chaque possible, de chaque probable. Pour paraphraser le titre de l’ouvrage d’un philosophe célèbre, elles nous placent dans un monde qui n’est vu que comme représentations et plus comme volonté. Ce sont des technologies du retrait, de la mise en retrait. Alors bien sûr il y a des exceptions : le domaine médical et celui de la recherche fondamentale dans le domaine de la biologie, de la physique, et quelques autres encore. Mais dans ces domaines ces technologies sont exactement à leur place, c’est à dire que nous leur commandons de faire à notre place sur la base d’instructions et de méthodologies claires : leur capacité de calcul est mobilisée dans les lignes et contraintes que nous définissons, elles sont assignées. Alors que dans la sphère médiatique informationnelle de leur propagation, elles définissent un agenda d’assujettissement qui répond aux commandes des infrastructures de pouvoir qui les hébergent et les commandent.

Ce qu’il nous faut craindre, ce sont les alignements de tous nos effondrements. Effondrements de la parole journalistique, de l’espace médiatique, du lien social, de l’exercice politique du pouvoir. Mais aussi leurs pourrissements volontaires par les affrontements culturels autour de cette internationale capitaliste réactionnaire et néo-fasciste. Et au milieu donc les effondrements des IA et des artefacts génératifs. Or nous entrons dans une époque où tous ces pourrissements volontaires et où tous ces effondrements documentés s’alignent et font cadre. Ils deviennent un déterminisme qui nous conduit vers un abîme ; un abîme que nous regardons avec la lucidité que nous apportent celles et ceux qui le documentent sur le plan politique, historique, journalistique (les derniers numéros Fascisme 2.0 et Guerres de la revue AOC en sont une remarquable synthèse) mais pour lequel il semble que l’inertie soit désormais trop grande pour pouvoir l’éviter.

Comme l’écrivait Beckett, « Fini, c’est fini, ça va finir, ça va peut-être finir. Les grains s’ajoutent aux grains, un à un et un jour, soudain, c’est un tas, un petit tas, l’impossible tas. » L’impossible est en train d’advenir.

Et au milieu de cet impossible il y a ces chiffres et cette frénésie comptable qui est la nouvelle phrénologie de l’essentialisation capitaliste de nos pulsions et de nos désirs (Stiegler parlait d’une économie libidinale). Ces chiffres en voici quelques-uns qui concernent ChatGPT : « 700 millions d’usagers, qui lui adressent chaque jour 2,6 milliards de requêtes. » (Google c’est plus de 13 à 16 milliards par jour).

Et cette question supplémentaire : que sont devenus les gens à qui nous ne posons plus ces questions parce que nous les posons à Google ou à ChatGPT ? Et quelles auraient été leurs réponses ? Que serions-nous devenus dans ces échanges, ces réponses ou ces absences de réponses immédiates ? Que seraient devenues nos singulières errances d’ignorance, vers quel destin ou quels ailleurs nous auraient-elles conduites ? Et quelles réponses collectives leurs auraient alors été apportées ? De cela nous n’en saurons jamais rien. Il ne nous reste alors que le frémissement d’une inquiétude, clinique, la même que celle qui traversait Apostolos Gerasoulis (le papa du moteur de recherche Ask Jeeves) lorsqu’il s’interrogeait en regardant défiler les dix millions de requêtes quotidiennes d’Ask Jeeves : « Je me dis parfois que je peux sentir les sentiments du monde, ce qui peut aussi être un fardeau. Qu’arrivera-t-il si nous répondons mal à des requêtes comme ‘amour’ ou ‘ouragan’ ? »

Il n’est qu’une seule manière d’apaiser cette inquiétude, c’est d’avoir la certitude que Sam Altman (dirigeant d’OpenAI), Daniela Amodei et Dario Amodei (fondateurs et dirigeants d’Anthropic), Arthur Mensch, Guillaume Lample et Timothée Lacroix (fondateurs et dirigeants de Mistral AI) et quelques autres se posent et se poseront tous les jours cette même question et qu’elle guide et guidera chacune de leurs décisions. Et comme c’est une certitude que nous n’aurons jamais, notre seul impératif est de la leur poser sans cesse, sans trêve et sans relâche.

Longtemps le numérique fut envisagé et traité comme ce qu’il était en première intention : un moyen de stockage. Et à ce titre la possible et pratique externalisation de nos mémoires, mémoires documentaires d’abord, mémoires intimes ensuite.

Je suis récemment tombé sur un article expliquant comment le recours à l’IA allait permettre de redonner vie à la série Caméra Café, notamment en clonant – avec leur accord – les deux acteurs principaux et en les rajeunissant, mais aussi je cite : dans l’optique de « moderniser la série » et de « faire revivre [le] catalogue [de la maison de production]. »

On s’était habitué aux suites menant à Rocky 5 ou à Rambo 4 ou plus récemment à Fast And Furious 10, on vit également l’émergence des séries, reboots, préquels et autres déclinaisons « d’univers » ou de tonneaux des Danaïdes scénaristiques baptisés « multivers », mais aujourd’hui avec l’IA ce à quoi nous assistons c’est à l’industrialisation de ces multivers comme autant de répliques d’univers à moindre coût. Et ce pour permettre de doper de vacuité d’anciennes têtes de gondole d’audience en leur donnant une nouvelle et artificielle jeunesse, mais aussi et surtout une nouvelle surface et amplitude de diffusion.

Têtes de clones.

L’article de Marina Alcaraz dans Les Échos explique ainsi que l’IA sera utilisée dans 4 objectifs distincts :

« D’abord, pour reprendre tout le catalogue français du programme tourné au début des années 2000 (environ 700 épisodes) et le passer au format actuel en 16/9 et 4K. L’IA sert à reconstituer les images manquantes et à moderniser le rendu.

Ensuite, les nouvelles technologies sont utilisées pour indexer les épisodes et analyser les textes. Exit les termes de l’époque, comme Walkman, les références à l’actualité ou à la politique du début du millénaire. « Quand les dialogues parlent de choses que les jeunes ne connaissent pas, l’IA va les remplacer par des mots ou des expressions plus d’actualité », explique Jean-Yves Robin, président de Robin & Co.

Enfin, l’IA va créer des deepfakes des comédiens, dont ceux Bruno Solo et Yvan Le Bolloc’h, pour les insérer dans les versions issues de l’international. On estime qu’il y a 5.000 à 6.000 épisodes produits dans le monde, dont environ la moitié d’originaux, reprend le producteur. On pense pouvoir au moins doubler le catalogue français. C’est une façon de faire revivre les catalogues sur des fictions comme celle-ci, où des comédiens sont trop âgés. »

Cet exemple est particulièrement intéressant car il mobilise en effet les quatre ressorts actuels des enjeux de l’IA dans le contexte des industries culturelles. Un enjeu d’abord technique d’optimisation et de « modernisation » (pour autant que l’idée de modernisme ait un sens lorsque l’on parle d’IA). Un enjeu ensuite « éthique » qui mobilise la question de l’intégrité documentaire des oeuvres (et d’une forme de « cancel culture », j’y reviendrai). Un enjeu juridique qui touche à la fois au droit d’auteur, au droit à l’image et à la propriété intellectuelle ; ici les comédiens ont accepté d’être clonés contre rémunération et il serait d’ailleurs intéressant de voir quel type de contrôle ils ont accepté de céder sur leur image, et jusqu’à quand. Et enfin un enjeu économique de saturation et de maximisation des logiques d’exploitation par procédé de duplication dans un univers médiatique déjà passablement saturé et qui vient encore alourdir le poids de ce que l’on appelait « les étagères infinies », c’est à dire l’immensité de catalogues de contenus dans lesquels on passe davantage de temps à choisir quoi regarder plutôt qu’à simplement … regarder.

Désormais, il semble qu’aucun contenu culturel ayant eu ne serait-ce qu’une once de succès d’audience ou critique ne puisse et ne doive mourir ou être oublié. Tout doit être fait pour le maintenir artificiellement en circulation médiatique. C’est une sorte de palimpseste à l’envers, dans lequel on partirait de la version la plus aboutie de l’oeuvre originale pour ensuite la recouvrir de couches affadies de ses propres extensions, dérivations, réécritures et copies.

[Mise à jour du 23 Juillet]

Autour de ce sujet on pourra également se référer au concept de « Foreverism » de Grafton Tanner, ainsi qu’aux pages de Deleuze sur la question de la répétition.

[/Mise à jour]

Dans un tout autre registre, je m’étais il y a quelques années intéressé au fait que les profils Facebook de personnes décédées continuaient d’être une manne d’interaction (et donc de revenus) pour la plateforme ; plateforme qui avait ainsi tout intérêt à nous inciter à transformer ces comptes en autant de « mémorial » et à nous rappeler de souhaiter les anniversaires de nos amis morts. Il s’agissait et il s’agit toujours de se payer, encore et encore, jusqu’au bout du cynisme.

C’est un peu le même type de processus auquel nous assistons aujourd’hui avec ces maisons de production qui veulent encore se payer sur des contenus culturels (ici des séries) pourtant déjà au bout de toutes les logiques de rentabilité existantes : en l’occurence, pour la série Caméra Café, elle a déjà été vendue et exploitée dans plus de 60 pays, et tous les produits dérives possibles et imaginables ont également été exploités et surexploités.

Intégrité documentaire.

C’est pour moi le grand sujet des années qui s’ouvrent devant nous. Car avec l’IA, et comme cela est relaté dans l’article de Marina Alcaraz pour Les Échos, vient aussi la tentation d’effacer toute forme de référence à l’actualité de l’époque de production du contenu concerné. On parle ainsi de gommer le « walkman » pour le remplacer par autre chose qui parle à la nouvelle « cible » envisagée. Toujours d’après le prodicteur de la série, grâce à l’IA, exit aussi les références à l’actualité politique de l’époque. Ce qui vient nourrir encore le débat sur une forme de Cancel Culture. Ou comment réécrire des contenus culturels qui ne peuvent être autre chose que le reflet d’une époque avec tout ce que cette époque comportait de tolérance qui nous semble aujourd’hui relever légitimement de formes d’abus condamnables.

De mon côté, plutôt que de m’enferrer dans le débat souvent glissant de la « cancel culture » je préfère parler et questionner le thème de l’intégrité documentaire.

Je vous en ai souvent parlé sur ce blog, mais la première fois que j’ai commencé à réfléchir à la notion « d’intégrité documentaire » c’était lorsque j’écrivais beaucoup sur « l’affaire » Google Books et la manière dont le moteur s’était soudainement mis à numériser à très large échelle des livres du domaine public mais aussi des ouvrages sous droits, et où avaient émergé, pour l’ensemble des contenus culturels, les offres de streaming allant avec une forme manifeste de dépossession des anciens supports physiques (CD, DVD, etc.) qui nous privaient ce faisant de certains de nos droits de propriété (j’avais même appelé cela « l’acopie« ). Bref c’était il y a plus de 20 ans. Pour expliquer cette notion d’intégrité documentaire auprès de mes étudiants j’utilisais et j’utilise encore souvent l’exemple des éditions des grands classiques en version « digest » disponibles aux USA du type « la bible en 20 pages » ou « les misérables en 50 pages. » Je leur explique que si l’on n’est confronté qu’à la version « courte » des misérables, version dont on a expurgé non seulement différents niveaux de l’intrigue mais dont on a aussi modifié, pour les atténuer, les aspects paraissant les plus « choquants », le référent culturel que l’on construit et les comportements et les repères sociaux communs qu’il permet d’inscrire dans un horizon culturel partagé changent alors de manière radicale. En modifiant et en édulcorant « Les misérables » comme oeuvre littéraire (ou fait culturel) on influe nécessairement sur la perception que nous aurons de « la misère » comme réalité sociale. De la même manière et en prolongement, le fait de choisir, sur telle ou telle édition ou réédition, numérique ou non, d’enlever, de gommer ou de réécrire certains aspects de l’oeuvre sont une atteinte claire à son intégrité documentaire et constitue donc aussi un trouble à la diachronie et à la synchronie dans lesquelles toute oeuvre s’inscrit.

C’est d’ailleurs ce que l’historienne Laure Murat rappelle encore dans son dernier essai (que je n’ai pas encore lu) « Toutes les époques sont dégueulasses » mais dont j’ai pu entendre une interview sur France Inter dans laquelle elle expliquait ceci :

Faut-il corriger les textes pour qu’ils soient lisibles à nos yeux contemporains ? Laure Murat : « Je crois que la question pose un gros problème. Parce que si vous nettoyez les textes des sujets qui fâchent, des mots qui fâchent, vous aboutissez à une falsification et un mensonge historique, qui a pour conséquence très grave de priver les opprimés de l’histoire de leur oppression. Donc, supprimez les remarques misogynes de James Bond et ses actions – parce qu’il faut aussi toucher à l’intrigue – ça devient quand même nettement plus compliqué. Faites-en un proto-féministe, il y a beaucoup de travail, et vous ne comprendrez plus rien à la misogynie des années 1950-60. Et je crois que ce n’est pas une bonne idée. »

Alors on pourra certes arguer que la suppression d’un Walkman dans Caméra café n’a pas la portée symbolique de la réécriture d’une oppression, mais quid des blagues machistes ou sexistes de la série qui, à l’époque déjà, jouaient d’une ambiguïté sur la « beaufitude » de celui qui les énonçait ?  Faut-il également les réécrire au risque, en effet, de ne plus rien comprendre au sexisme et à la misogynie du début des années 2000 ?

« Celui qui oublie ou qui méprise l’histoire est condamné à la revivre » écrivait le philosophe George Santayana. La seule promesse d’une Cancel Culture qui au prétexte de l’IA, finirait par faire système à l’échelle de nombre de biens et produits culturels, c’est le retour en plus violent de ce passé effacé.

Il y a les images d’un monde version studio Ghibli. Et il y a Elon Musk avec un chapeau fromage.

Le monde version studio Ghibli c’est une trace documentaire qui fait l’inverse de ce que documenter veut dire. Elle déréalise, elle euphémise, elle fictionnise. Elle enlève du relief aux êtres et aux choses. Elle les installe dans un univers d’à côté. Dans une tangence.

Le monde version Elon Musk c’est à lui seul une exponentielle du grand n’importe quoi et l’asymptote d’un réel entièrement fictionné pour servir ses seuls intérêts pour autant qu’il soit lui-même en capacité de les identifier comme tels. Salut Nazi hier, chapeau fromage aujourd’hui, et demain quoi d’autre ?

On a beaucoup parlé de l’ère des Fake News et de celle des faits alternatifs. En 2018 dans l’article « Fifty Shades of Fake » publié un 1er Avril, je vous parlais de la manière dont les architectures techniques toxiques des grandes plateformes numériques se mettaient au service presque « mécanique » de cette amplification du faux et de son écho dans nos sociétés. Je martelais que « la propagation de Fake News est davantage affaire de topologie que de sociologie » ; en d’autres termes que la capacité de circulation des contenus relevant des Fake News ou des faits alternatifs, leur capacité également de percoler dans tous les espaces sociaux conversationnels, massifs ou intersticiels, médiatiques ou dialogiques, cette capacité s’explique d’abord et avant tout par la topologie et l’organisation (le « dispositif ») des espaces numériques. Et que ce n’est qu’à la marge ou en tout cas dans un second temps que l’on peut caractériser de manière causale ces circulations en les rattachant à des catégories sociologiques liées à l’âge, au niveau d’éducation ou à tout autre variable.

Sept ans plus tard, ce 1er Avril 2025, ce qui se joue est de l’ordre de la tension désormais explosive entre un écosystème numérique bâti sur la question documentaire de la trace (traces de nos données, de nos comportements, de nos navigations, de nos opinions, etc.), et un saisissement technologique et politique qui ajoute un déterminisme de l’emballement à un extractivisme souche. Et ce que l’on nomme IA  – et qui est plus précisément un ensemble d’artefacts génératifs nourris d’une incommensurable quantité de données sans considération aucune pour leur origine, leur appartenance ou leur(s) propriété(s) – ce que l’on nomme IA n’est que le dernier (et peut-être ultime) avatar à la fois de cet extractivisme et de cet emballement. Avec un point nouveau qui est celui de l’alignement total de ces technologies avec les agendas politiques de régimes tous au mieux illibéraux.

« It is a tale
Told by an idiot, full of sound and fury,
Signifying nothing. »
(Macbeth. Shakespeare.)

Poisson (mort) d’Avril. Il y a de cela quelques années, la plupart des grands groupes technologiques de la trace (de Google à Facebook) se livraient à quelques « poissons » en ce jour particulier du 1er Avril. Aujourd’hui cette pratique s’est pour l’essentiel perdue et lorsqu’elle subsiste, elle ne suscite que peu ou pas d’écho médiatique tant le rapport que nous entretenons au quotidien avec la tromperie, la duperie, le décalage, de faux et l’irréel s’est totalement transformé. Ce qui était hier une stratégie éditoriale d’exception (dire le faux) est devenu aujourd’hui un régime éditorial courant, une routine.

Le monde façon studio Ghibli. Que chacun se soit emparé de la possibilité de faire « mème » dès lors que quelques-uns se sont saisis de la nouvelle opportunité offerte de créer des images, de soi ou du monde, à la manière du studio Ghibli dans ChatGPT, n’a rien d’inédit ou d’étonnant. Chaque époque numérique a pu documenter la manière dont ces productions documentaires particulièrement fécondes étaient massivement reprises lorsqu’elles présentaient la double capacité de se mettre en scène soi-même et/ou de s’attacher à des représentations culturelles déjà prégnantes. Ainsi certains et certaines se souviendront avec moi de ces générateurs permettant de « vieillir » une photo de nous, ou de chez nous, comme à l’argentique des premiers temps photographiques ; se souviendront aussi de la reprise du portrait « Hope » d’Obama par l’artiste Shepard Fairey et de la manière dont on vit presque partout se multiplier les copies de ce portrait avec nous à la place d’Obama. Et de tant d’autres choses encore.

Aujourd’hui des biotopes numériques tout entiers sont exclusivement bâtis sur leur capacité à faire « mème », à conditionner la production de contenus à leur alignement avec des ritournelles préenregistrées, des « trends ». « Trends » ou « tendances » : des formes de facilitations virales qui devraient nous interroger non pas par leur capacité à être suivies en tant que telles dès lors qu’elles ont été « amorcées », mais par l’assignation à l’identique qu’elles produisent et qui est une forme de prophylaxie paradoxalement mortifère de diversités, d’altérités et de dissemblances. En un mot : TikTok.

Que dire d’un monde dans lequel l’esthétisation de soi (et du monde) fait aussi fonction de bascule dans d’autres régimes de vérité ? Comment « être au monde » quand la plupart des « corporations du filtre » (pour reprendre une expression d’Umberto Eco désignant les journalistes, éditeurs, bibliothécaires, etc.) qui jusqu’ici faisaient fonction d’assignation, de rappel et de construction du réel sont en train de s’effondrer pendant qu’à l’autre bout de la chaîne documentaire de l’énonciation prospère une vision du réel qui n’est plus qu’essentiellement filtrée, et ce, des filtres de déguisement que chaque application ou biotope numérique propose ou superpose à chaque dialogue ou interaction jusqu’aux filtres de travestissement qui s’accolent aux paroles politiques publiques quand elles sont portées « sous couvert » de décalage, d’humour, de cynisme ou plus simplement de … programme.

Je fais ici une différence entre la question du filtre comme « déguisement » et dans lequel l’enjeu est précisément que le destinataire puisse repérer et identifier l’effet de décalage soit par l’exagération soit par le grotesque soit par l’irréalisme produit (par exemple les filtres « oreilles de chien » dans Snapchat), et la question des filtres comme « travestissements » dans lesquels l’enjeu est cette fois de produire un effet de réel authentifiable sinon authentique, travestissements qui « agissent » de manière performative autant chez l’émetteur (avec des troubles pouvant aller jusqu’à la dysmorphophobie) que chez le récepteur devenu incapable de discernement ou propulsé dans une vallée de l’étrange dont il ne sait à quelle part de son réel rattacher l’expérience ressentie.

Se confronter à l’information sur et dans les médias sociaux numériques (mais pas uniquement) c’est donc pour beaucoup se confronter à des surimpressions permanentes et rémanentes qui oscillent entre l’esthétique Ghibli, les chapeaux fromage d’Elon Musk, ou les pulsions d’un président élu pour envahir le Groenland. Non seulement plus grand-chose ne prête à sourire mais la tentation de faire des blagues se trouve totalement distancée par le réel lui-même. Par-delà la réalité sourde de l’état réel de notre monde, de ces effondrements climatiques et de ses guerres en cours en Ukraine, à Gaza, au Yémen et ailleurs, l’actualité géopolitique internationale est une oscillation permanente entre une version documentaire d’Idiocracy et des faits totalement en phase avec la ligne éditoriale du Gorafi.

Tout cela est irréel par intention ; tout cela contribue à déréaliser pour partie notre rapport au monde et aux autres ; tout cela nous installe dans une sorte d’a-réalité, une privation de réel, une douce torpeur ; tout cela produit des formes instrumentales et instrumentalisées de tech-réalité, c’est à dire d’une réalité qui ne serait sensible qu’au travers des politiques éditoriales ou des interfaces des grandes sociétés technologiques et de leurs filtres.

Le rêve avorté du Métavers imaginé par Zuckerberg n’est pas l’essentiel. L’essentiel est de rester en capacité de discernement sur des formes avérées d’univers sociaux et informationnels qui déjà peuplent, filtrent, habitent nos univers quotidiens et qui s’y superposent en évidence.

Le monde version studio Ghibli. Et le chapeau fromage d’Elon Musk. Irréel. Déréaliser. A-réalité. Tech-réel. Et la suite. Déjà là. Tescreal.

[Mise à jour du 6 Avril] I’ve got my Ghibli. And the World is filtered-reality.