Le 1er Ministre Lecornu vient d’annoncer, au coeur des épreuves du bac et de la canicule, que tous les lycéens bénéficieraient à la rentrée prochaine, en classe de 2nde, d’une heure d’enseignement par semaine sur l’IA.

Le même gouvernement qui a aussi annoncé l’interdiction des téléphones portables au lycée dès la rentrée prochaine.

Le même gouvernement qui veut interdire les réseaux sociaux aux moins de 15 ans.

Le même gouvernement qui veut faire pousser des Data Center partout en mode « Viva Tech et Balek ».

En pleine canicule. Ne cherchez pas la cohérence vous n’en trouverez pas. Mais eux, bah oui :

Le chef du gouvernement souligne que «former à l’IA» et «réduire l’exposition aux écrans», comme avec le projet d’interdire les réseaux sociaux aux jeunes de moins de 15 ans, «participent d’une même ambition : faire de nos élèves des citoyens libres, autonomes. Condition de notre souveraineté collective».

« Participent d’une même ambition » … Alors comment te dire, Seb. Y’a rien qui va. Rien. Ces trois éléments pris successivement peuvent à la rigueur faire illusion de cohérence à la manière dont trois chansons de Michel Sardou font illusion de patriotisme mais franchement … « Les écrans », « l’IA », « les réseaux sociaux ». Rien que ça déjà. Qui partagent autant de points communs que le taboulé, la mayonnaise et le nutella.

Prétendre tout aligner pour faire oublier que l’on a tout mélangé. Là où l’immensité des enjeux et des urgences nécessite une approche systémique, c’est à dire articulée au plus près des conditions d’enseignement (y compris et surtout pratiques et matérielles) et des modalités de ce qu’est l’expérience lycéenne de l’apprentissage singulier et collectif, on a une bouillie de mesures à effet médaille, c’est à dire qui ont pour principale vocation de décorer le torse des egos qui auront été les premiers à les brandir. Le lycée (surtout) est devenu un immense fourre tout d’opportunismes politiques dans lequel chaque ministre se rêve en Derrida de chez Wish confondant la déconstruction et la reconstruction. Ce qui se déconstruit ce sont les collectifs, enseignants comme lycéens. Ce qui se déconstruit ce sont les espaces de classes et de groupe. Ce qui se déconstruit ce sont les choix que l’on multiplie de manière totalement artificielle et de plus en plus tôt pour mieux masquer les impasses et complexifier les rares lisibilités de futurs envisageables.

Toutes les enseignantes et tous les enseignants vous le diront : cette idée de mettre une heure par semaine sur l’IA en classe de 2nde qui sort comme ça pif paf pouf sans concertation à quelques jours des vacances d’été, on appelle ça une mesure fantôme (qui s’ajoute aux précédentes, EVARS, pix, e3d, etc). Ce n’est pas financé, ça sort de nulle part, on ne sait même pas qui va faire les cours et quel en sera le contenu et on a un mois et demi (de vacances) pour être prêts à la rentrée et tout doit être prêt pour la rentrée 2027 alors même que les prochains au pouvoir déferont à leur tour probablement l’essentiel de ce qui aura été fait. Ce qui compte ce n’est pas la temporalité de la mesure, ce qui compte c’est la temporalité de l’annonce de la mesure. Viva Tech et Balek. Si le foutage de gueule était un doctorat, ces gens là seraient tous Honoris Causa.

Oui bien sûr il faut former à l’IA. Bien sûr. Mais là et dans les conditions exposées ci-dessus, on ne construit pas : on sabote, on dynamite, on vaporise. C’est la méthode des vieux pubards : « Spray and Pray ». Vaporisez et priez. Mettez-en partout et attendez que ça prenne. Et si ça ne prend pas bah au moins vous en aurez foutu un peu partout.

Franchement ? Ce serait presque rigolo. Si le contexte n’était pas ce qu’il est, notamment depuis la mise à sac des réformes Blanquer qui est à l’éducation nationale ce que Patrick Bruel est à la lutte contre les violences faites aux femmes ; si une génération n’était pas en train d’étouffer sous la canicule avec en face d’elles une dynastie d’immacescibles tanches qui s’interrogent encore pour savoir si mettre des épreuves que le matin ce serait pas une bonne idée ; si la place des mathématiques n’avait pas changé tous les ans sur le cycle lycée depuis (au moins) 5 ans en dépit de toute forme de bon sens et en débit de toute forme de rationalité ; si toutes ces conditions et quelques autres n’étaient pas réunies, alors oui ce serait presque risible mais ça ne l’est pas. Et c’est un fait acquis que Lecornu, à l’instar de tous ceux qui, osera tout.

Je me permets donc de lui suggérer de pousser un cran plus loin. Une heure de cours sur l’IA par semaine en 2nde ? D’accord mais on regroupe tous ces cours sur le mois de Juin. De toute façon en Juin à part mourir en stage, les élèves de 2nde ils ne branlent rien. Et on hydrate les lycéennes et lycéens en leur faisant boire de l’eau issue de Data Centers. Et on leur fait bouffer des tokens.

Comme ça on est bien. Vous vous souvenez de Chirac et de son « mangez des pommes » ? Bah on on garde la même DA mais on va la glow up niveau expert et on leur dira : « Buvez des Datas et mangez des tokens ». Parce que c’est notre projet.

<Mise à jour du 21 Juin> Suite à la publication de cet article, pas mal de réactions donc je précise un peu. Non il ne faut pas à tout prix « former à l’IA », par contre il est vital de former à la culture numérique et de former de manière politique à la culture numérique (donc en gros et pour faire simple, travailler autour de tout le catalogue sur ce sujet de C&F Editions

L’autre point sur lequel il y a débat c’est sur l’idée de cette supposée « même ambition« , de ce point commun in abstentia entre réseaux sociaux, écrans et IA. Là encore je maintiens ce que j’écrivais et je précise. « Les écrans » c’est avant tout une question sociale, une question d’organisation sociale, de la manière dont nos sociétés, nos vies et nos rythmes (familiaux, professionnels, amicaux) créent ou empêchent des temporalités dans lesquelles le recours aux écrans devient une clé comme l’était hier le recours à la télé ou à l’ordinateur familial du salon. « Les réseaux sociaux » c’est une question médiatique et éditoriale, et ce n’est que cela. Enfin, « l’IA » c’est une question technologique, et oui bien sûr toute technologie est politique surtout quand elle met à mal l’une des ressources actuellement les plus rivales entre un accélérationnisme industriel et notre propre survie, c’est à dire la ressource en eau.

Ce qu’il nous manque et ce que les annonces de Macron n’ont jamais permis de penser et d’installer depuis qu’il s’est fantasmé en président de la start-up nation, ce qu’il nous manque c’est une pensée politique capable d’articuler la question des temporalités et des rythmes sociaux avec celle des instances médiatiques qui les donnent à voir dans des prismes toujours plus ambivalents et des régimes de vérités désormais structurellement mouvants, et avec ce que chaque nouvelle technologie peut changer ou prendre comme place dans l’accélération ou la dilatation de ces temps et dans les choix de politiques publiques qui les mettent à leur service ou qui nous y asservissent.

L’historien Brian Merchant nous montrait il y a peu que la résistance à l’IA était multiple et notamment le fait des plus jeunes. Elle est aussi majoritairement le fait des quartiers populaires. Le mouvement de protestation contre les centres de données aux Etats-Unis a pris une ampleur nationale, mais cette protestation n’est pas équitablement distribuée selon le profil sociologique de la population. « Les quartiers populaires résistent cinq fois plus aux centres de données que les quartiers aisés ». « Les démocrates, les habitants des zones rurales et les jeunes sont particulièrement opposés à ces implantations : 80 % des personnes interrogées âgées de 18 à 35 ans se sont déclarées contre les centres de données », souligne un sondage. Selon l’analyse proposé par le philosophe des sciences Geoff Holtzman (voir sa newsletter), qui a utilisé des données sur les projets de centres de données pour les croiser avec ceux du recensement, le chercheur montre que le taux de résistance n’est pas uniforme : « les quartiers les plus pauvres ont opposé une résistance aux centres de données près de cinq fois supérieure à celle des quartiers les plus riches (19,0 % contre 3,8 %) ». Cela contredit l’idée que l’opposition aux data centers serait une opposition de Nimby aisés. « Les communautés pauvres ou ouvrières se mobilisent bien plus fréquemment que les quartiers riches ».

Aux Etats-Unis, les projets de centres de données récemment proposés et ayant rencontré une forte opposition ont été annulés ou suspendus cinq fois plus souvent que ceux qui n’ont pas rencontré une forte opposition. Celle-ci donc compte.  « Les taux d’annulation sont les plus élevés dans les quartiers défavorisés, ce qui s’explique par une plus forte mobilisation ». « Les chances d’annulation sont six fois plus élevées dans les quartiers qui se mobilisent que dans ceux qui ne le font pas ».

À DLA, on connaît bien l’acronyme TL;DR (too long, didn’t read, « trop long ; pas lu ») que de bien peu aimables personnes nous envoient parfois après avoir pris connaissance de notre lettre d’information. Il est peu probable pourtant que l’on passe à l’étape suivante : TL;DW (too long, didn’t write : « c’est trop long à écrire, alors je ne l’ai pas écrit moi-même »), qui consiste à faire écrire ses contenus par une IA générative… Quoique, les articles seraient peut-être plus clairs, les circonvolutions moins alambiquées ? Allez savoir !

Mais c’est d’un autre mème dont je voulais parler. Un mème qui devrait lui aussi beaucoup moins nous être adressé, mais qu’on utilise souvent : AI;DR (AI, didn’t read) : « c’est de l’IA, je ne l’ai pas lu » ! Un jugement qu’on énonce couramment et qui décrit la transformation de notre rapport aux textes, à l’heure où tout doit aller si vite, qu’on n’a plus le temps d’écrire ni de lire. Un refus face au déferlement : « c’est de l’IA, je ne veux même pas le lire » !

A qui profite le verbiage ? 

AI;DR donc. L’acronyme exprime quelque chose entre la lassitude et l’hostilité à voir des textes génératifs envahir le web. Qu’ils soient très formatés, énergiques ou lénifiants, l’expression nous dit que nous serions capables de repérer la prose des LLM à leur tiédeur, à leur style, à leurs effets (qu’importe si en vérité, nous nous trompons souvent, comme c’est le cas des enseignants qui peinent à identifier les productions génératives de leurs étudiants). Un peu comme si nous étions dotés d’un système de repérage, une boussole infaillible, alors que les textes génératifs sont souvent corrigés, amendés, modifiés par leurs auteurs, et qu’ils tiennent bien plus d’une forme de coproduction qu’autre chose. Non seulement l’acronyme nous dit que ces productions n’ont finalement pas grande importance, mais il nous dit aussi que nos erreurs d’attribution peuvent être aussi péremptoires que les réponses des chatbots à la confiance survitaminée. Il nous dit que ces productions n’ont finalement pas grande importance au risque de renvoyer avec elles des propos bien humains, un peu comme ceux qui étaient trop longs finalement, trop humains. AI;DR nous dit que ce qui est écrit n’a pas grand intérêt, qu’il soit le fait de robots ou d’humains. Ce que ça fait est bien plus important : même si ce que ça fait (écrire) devient en même temps qu’on l’énonce bien peu important puisqu’on ne lui prête plus aucune attention.

Rapidement, on est saisi d’un vertige : à quoi peuvent bien servir des outils pour produire du texte que les gens ne souhaitent pas lire ? AI;DR semble mettre en abîme le grand vide des machines à verbiage, comme pour rendre béant le vortex qui s’ouvre sous nos mots. Un peu comme vient de le proposer le moteur de traduction Kagi en permettant de traduire (après le Dothraki, le Haut Valyrien ou le Klingon quand même !) n’importe quel texte en « Linked-in speak », c’est-à-dire dans le jargon de Linked-in. En permettant de transformer n’importe quel texte en post de motivation entrepreneuriale, truffé d’emojis, de hashtags et de déconvenues transformées en leçons de vie. « Le traducteur de Kagi ne fabrique pas cette langue, il la révèle. Il en expose la mécanique, la pauvreté, le vide soigneusement emballé dans du vocabulaire managérial », s’amusait la chroniqueuse de Radio France, Constance Vilanova. Elle pointait d’ailleurs vers une étude d’un chercheur en linguistique qui a mis au point une échelle pour mesurer la réceptivité au jargon d’entreprise. Une étude qui montrait que plus on est sensible aux formules creuses, moins on performe soi-même aux tests de pensée analytique et aux tests de prise de décision. « Les grands amateurs de Linked-in speak seraient donc aussi les moins capables de repérer le vide. Ce qui crée un cercle vicieux parfait : les patrons sont récompensés pour leur langue de bois, et les équipes se peuplent progressivement de gens qui n’y voient que du feu. » Mais surtout, les personnes les plus réceptives au jargonnage ont aussi plus tendance à percevoir leurs leaders comme visionnaires, à être plus inspirées par les homélies d’entreprises et à faire plus confiance à leurs managers. « Pour certaines personnes, un discours abstrait et vaporeux peut donner l’impression de profondeur, de vision et de compétence et parfois suffit à produire de la crédibilité. Il peut aussi fonctionner comme un signal de leadership », s’amuse David Gateau… Pire, « plus la réceptivité au bullshit corporate est élevée, plus la qualité des décisions diminue ». « Les personnes les plus sensibles aux discours creux en entreprise ont tendance à choisir systématiquement les pires solutions aux problèmes », explique l’auteur de l’étude, Shane Littrell. Pourtant, l’étude montre aussi finalement que le jargon persuade et impressionne certains publics, explique The Guardian, tout comme le verbiage des LLM finalement. « N’importe qui peut se laisser berner, et nous sommes tous, selon les circonstances, susceptibles d’être influencés par des discours creux présentés de manière à flatter nos préjugés. »

Les contenus produits par l’IA sont-ils faits pour être lus ?

Le hashtag #AI;DR entérine la dépréciation des contenus génératifs, dénigrés depuis leur apparition. Comme le disait John Hermann dans le New York Mag dès 2024 : alors que l’IA est associée au summum des réalisations humaines, pour tout à chacun, elle désigne d’abord des choses assez pauvres, assez communes. Dans le langage courant, dire d’un texte qu’il a été réalisé par ChatGPT qualifie toujours un document sans grand intérêt. Aujourd’hui encore. « Pourquoi devrais-je me donner la peine de lire quelque chose que personne d’autre n’a daigné écrire ? », remarque pertinemment un développeur, relayé par Futurism. Quand on lit le propos de quelqu’un, c’est pour comprendre ce qu’il pense, perçoit et appréhende du monde. Ecrire, c’est penser. Et penser, c’est exister. Mais que signifie lire la prose d’un LLM ? QUI sommes-nous censés comprendre ? Et donc QUE sommes-nous censés comprendre ? Quelque part, les gens qui dénoncent ces contenus, disent que ce qui est écrit par l’IA ne nous est pas adressé. Que ces contenus ne sont pas vraiment pour les humains puisqu’ils ne sont pas humains.

Dans le New York Mag, John Hermann (encore lui), dénonçait récemment le cauchemar de l’e-mail piloté à l’IA : « Êtes-vous impatient de voir vos collègues devenir beaucoup plus bavards, transformant chaque simple « Ça me va » en une lettre de trois paragraphes ? Êtes-vous ravi que le genre d’e-mails de masse semi-personnalisés que vous avez l’habitude de recevoir des grandes marques dotées de services marketing (ou des spammeurs et des auteurs de phishing) soit désormais accessible à toute personne possédant un compte Google ? Avez-vous hâte de vous demander si cette charmante lettre de condoléances d’un ami perdu de vue depuis longtemps a été entièrement générée par un logiciel ou s’il a simplement cliqué sur le bouton pour rendre le contenu « plus sincère » avant de l’envoyer ? » Ce dernier exemple n’est même pas une blague, le mois dernier, l’administration de l’université Vanderbilt a dû présenter ses excuses après avoir envoyé un e-mail de condoléances aux étudiants suite à la fusillade de l’université d’État du Michigan. En bas du message il était indiqué qu’il avait été rédigé par ChatGPT !

Le Financial Times rapporte que le volume des plaintes aux services juridiques et RH des entreprises est en augmentation et que celles-ci sont plus documentées et complexes qu’avant. Ce ne sont plus de simple e-mail à traiter, mais des pièces jointes volumineuses, qui évoquent parfois des législations qui n’existent pas. La raison ? Le recours à l’IA. De plus en plus de plaintes leur arrivent « incompétentes mais sûres d’elles », « superficiellement persuasives », « excessivement juridiques sans être pertinentes »… de gens pouvant avoir des attentes irréalistes, désorientés par les réponses des IA à leurs problèmes. Le volume de récriminations augmente et le temps pour les vérifier également, au risque de ralentir les réponses des employeurs.

Reste que le besoin de formalisation que traduit le passage à un argumentaire structuré par l’IA dit peut-être autre chose du rapport employés-employeurs, où les discussions ne suffisent pas pour être écoutés…

Le New York Times, récemment, expliquait que la romance générative était en pleine explosion et que l’IA était l’avenir du genre. Pas si sûr, contestait Gita Jackson pour Aftermath, les défenseur(e)s de l’IA dans la littérature n’ont pas d’autre but que de gagner de l’argent, en produisant beaucoup de contenus et en vendant des formations pour apprendre à d’autres comment faire. L’une des autrices interviewées par le NYT prétend que ses 200 livres publiés par IA ont totalisé 50 000 ventes… soit en moyenne 250 exemplaires par livre. Ce modèle économique n’est viable que si l’on se fiche de la qualité des livres et de leur popularité, assassine Jackson. Bref, il n’est pas sûr que les romances dopées à l’IA soient l’avenir du genre, comme le défendent les autrices qui le proposent parce qu’elles y ont doublement intérêt. Pas sûr que les contenus dopés à l’IA soient finalement meilleurs que les romances incarnées par leurs autrices.

Deux exemples qui montrent que les contenus génératifs viennent s’intercaler dans les situations de blocages et viennent toujours avec les intérêts de ceux qui les portent, même s’ils ne sont pas toujours faciles à percevoir.

Pour qui écrivons-nous ?

Le mot-clé AI;DR rejoint également celui de sloppers, désignant les producteurs de slop, les producteurs de contenus qui ne produisent plus qu’avec les robots conversationnels (à l’image de la proposition parodique de sloppers.ai, qui se présente comme un service d’IA pour produire… des contenus parfaitement inutiles). Entre résistance et lassitude, le point-virgule, qui à l’origine séparait la cause de l’effet – plus vous écrivez, moins je lis – sépare désormais la production de la machine du refus de lui accorder la moindre attention.

Comme le souligne Alberto Romero, nous passons d’un monde où la longueur d’un texte constitue un obstacle à la lecture, à un monde où le manque d’implication humaine devient un obstacle supplémentaire. Nous sommes passés de « je ne finirai pas ça » à « personne n’a commencé ça ». « La première attitude suppose que l’on est responsable de ses propres limites, tandis que la seconde incite à externaliser sa responsabilité », comme si ce n’était pas à nous de lire, de vérifier, d’agréer aux productions générées. La perspective de notre submersion par les contenus génératifs, par l’intensification des productions, risque de nous laisser plus épuisé que jamais, disions-nous la semaine dernière. Non seulement nous sommes cernés par plus de contenus que jamais, mais nous sommes en même temps confrontés à une forme de post-alphabétisation où l’écrit lui-même semble de plus en plus décrédibilisé par son automatisation.

Pour Romero, l’IA;DR fait écho à son exact inverse : WF;AI (What the fuck; AI, « bordel, écrire pour l’IA ») où nous sommes confrontés au vide de sens qu’exige d’écrire pour l’IA plutôt que pour d’autres humains. Nous sommes en train de passer du pourquoi écrivons-nous à pourquoi lisons-nous, comme si le cœur même de la connaissance n’avait plus de sens, ni pour les autres ni pour nous. « Doit-on consacrer vingt minutes de son attention déjà si sollicitée à un texte qui n’a coûté à son auteur fantôme que quarante-cinq secondes et une consigne maladroite ? »

Perdus au milieu de contenus de plus en plus fantomatiques, comment s’orienter ? « La lecture, comme tout ce que nous faisons, repose sur un contrat social implicite : je vous offre ma réflexion, vous me donnez votre temps. Or, lorsque l’une des parties automatise sa part du marché, l’autre se sent légitimement flouée. Et comme déléguer la lecture n’a aucun sens pour la plupart des gens, ils ne le font tout simplement pas », constate pertinemment Romero. Le contrat de lecture exige une intention et une relation que l’IA ne peut pas produire. Le contrat de lecture est donc profondément rompu, quelles que soient ses conséquences. D’autant que dans la roue du hamster de la lecture/écriture, l’IA a tendance à exclure de plus en plus l’humain. Dans le biais anti-humain de l’IA, l’IA se nourrit de l’IA et récompense plus facilement les contenus IA faisant gonfler plus encore les contenus génératifs qu’on ne veut pas lire. Et pourtant, se moque Romero en conclusion, son texte a été écrit avec une IA. Nous même avons été pris au piège. Le contrat de lecture n’est donc pas totalement rompu, il est flouté au risque de nous abuser en continue. 

C’est toute l’aporie où nous sommes réduits, comme l’illustre le dessinateur Tom Fishburne avec un de ses délicieux dessins : l’IA permet de transformer une liste à puce en un long mail qu’on peut prétendre avoir écrit et où son récepteur peut le transformer en liste à puce qu’il peut prétendre avoir lu. Tom Fishburne rappelle qu’il va falloir du temps pour apprendre quand et comment bien utiliser ces outils et surtout quand ne pas les utiliser. L’acronyme AI;DR nous rappelle que nous sommes face à des contenus dont le statut n’est pas clair, des contenus que nous ne savons pas vraiment utiliser. Peut-on vraiment en vouloir à des gens de refuser de lire des contenus qui sont produits par personne et destinés à personne, de refuser de lire des propos d’une machine, aussi séduisants ou creux puissent-ils être ?

Le risque d’une parole sans conséquence

IA;DR nous dit autre chose pourtant. Que ces mots produits sont produits. Que ce qui devait être fait est fait et que la réception est finalement un autre enjeu, comme s’il dépendait d’autres métriques.

« Pour la première fois, la parole est dissociée de ses conséquences. Nous vivons désormais aux côtés de systèmes d’IA qui conversent avec assurance et persuasion – débitant des affirmations sur le monde, des explications, des conseils, des encouragements, des excuses et des promesses – sans jamais assumer la responsabilité de leurs propos. Des millions de personnes utilisent déjà des chatbots, alimentés par de vastes modèles de langage, et ont intégré ces interlocuteurs synthétiques à leur vie personnelle et professionnelle. Les mots d’un chatbot façonnent nos croyances, nos décisions et nos actions, sans qu’aucun locuteur ne les cautionne », explique Deb Roy dans The Atlantic.

Deb Roy est professeur d’arts et de sciences des médias au MIT, où il dirige le Centre pour la communication constructive au Media Lab. Il est également cofondateur et président de Cortico, une organisation à but non lucratif qui se consacre à la construction de réseaux civiques plus forts, notamment en analysant les échanges vocaux de groupes de discussions pour en dégager liens et tendances.

Dans nos échanges avec les chatbots, ceux-ci s’excusent, corrigent, mais débitent une chose puis son contraire, vide de sens, rappelle le professeur. Pour Roy, « il ne s’agit pas d’une simple nouveauté technique, mais d’un bouleversement de la structure morale du langage ». Lorsque nous parlons, nos mots nous engagent dans un contrat social implicite. Ils nous exposent au jugement, aux représailles, à la honte et à la responsabilité. Dire ce que l’on pense, c’est prendre un risque. Le chercheur en intelligence artificielle Andrej Karpathy a comparé les LLM à des fantômes humains : ils ne sont pas des créatures, leur parole est sans conséquence, tout en étant capable de nous hanter. Pour Deb Roy, spécialiste de l’apprentissage du langage, les mots acquièrent du sens en relation avec le monde. Reste que le sens ne découle pas seulement de la fluidité ou de l’incarnation, mais aussi des enjeux sociaux et moraux que nous prenons lorsque nous parlons. Le langage a une dimension morale et sociale. Il nous engage. Il nous rend digne ou indigne, responsable. « Parler, c’est simultanément s’exposer à un jugement moral, encourir des conséquences sociales et parfois juridiques, assumer la responsabilité de la vérité et contracter des obligations qui perdurent au sein des relations. » Avec les chatbots, la parole n’est plus que procédurale. « Les chaînes causales s’obscurcissent. La responsabilité se dilue. L’autorité épistémique s’exerce sans obligation. Les engagements relationnels sont simulés sans persistance. » Cela produit non seulement un obscurcissement des responsabilités, mais plus encore un affaiblissement progressif des attentes. Le risque est de ne plus rien attendre des textes, quels qu’ils soient.

Norbert Wiener l’avait bien compris, dans ses mises en garde à l’encontre de l’automatisation : l’accroissement des capacités des machines entraînerait une perte de responsabilité humaine. Et l’efficacité elle-même éroderait la dignité humaine, nous poussant à devenir des intrants, des opérateurs ou des superviseurs de processus dont les humains ne contrôleraient plus la logique. « Ce qui rend ces systèmes moralement déstabilisants, ce n’est pas leur dysfonctionnement, mais leur capacité à fonctionner exactement comme prévu tout en se soustrayant à toute responsabilité », explique Roy.

L’histoire moderne regorge de technologies médiatiques qui ont transformé la circulation de la parole : l’imprimerie, la radio, la télévision, les réseaux sociaux. Mais aucune de ces technologies ne possédait les propriétés que les systèmes d’IA actuels réunissent simultanément. Aucune ne permettait de dialoguer et donc d’activer une vulnérabilité psychologique inédite. Avec Eliza, Joseph Weizenbaum a compris que les humains projetaient sur la machine du sens, des intentions et une responsabilité qu’elle n’avait pas. Le philosophe J.L Austin affirmait qu’utiliser le langage, c’est agir. « Tout énoncé significatif accomplit une action : il affirme une croyance, formule une revendication, formule une demande, fait une promesse, etc. Dire « oui » lors d’une cérémonie de mariage donne naissance à l’acte de mariage. Dans ce cas, l’acte n’est pas accompli par des mots puis décrit ; il est réalisé dans l’acte même de prononcer ces mots, dans les conditions appropriées. » Pour Roy, pour combattre l’effet Eliza, il ne suffit pas de savoir que ces systèmes sont des machines, car leur efficacité est amplifiée par leur fluidité. Et c’est leur fluidité qui nous conduit à déléguer nos responsabilités, à la faire glisser de l’utilisateur vers l’outil. Nous demandons désormais aux autres de prêter attention à des mots que nous n’avons pas écrits, pas pensés. Ce que nous perdons, c’est notre dignité même. « Dans le cadre d’un usage privé (comme le proposent les chatbots compagnons), l’érosion est plus subtile, mais non moins lourde de conséquences. Les jeunes décrivent leur utilisation de chatbots pour rédiger des messages qu’ils hésitent à envoyer, pour déléguer des réflexions qu’ils estiment devoir mener eux-mêmes, pour obtenir des assurances sans s’exposer, pour répéter des excuses sans rien débourser. Un chatbot dit « Je suis désolé » sans faute, mais est incapable de regret, de réparation ou de changement. Il admet ses erreurs sans conséquence. Il exprime de l’attention sans rien perdre. Il utilise le langage de la bienveillance sans rien risquer. Ces affirmations sont fluides. Et elles habituent les utilisateurs à accepter un langage moral déconnecté des conséquences. Il en résulte un réajustement discret des normes. Les excuses deviennent gratuites. La responsabilité devient théâtrale. La bienveillance devient simulée. » 

Les mots eux-mêmes n’ont plus de portée. Ceux des chatbots, bien sûr, mais derrière, les mots de tous ceux qui en portent, et d’abord ceux que les autres humains nous adressent.

« Certains affirment que la responsabilité des propos de ces machines peut être externalisée : vers les entreprises, les réglementations, les marchés. Mais la responsabilité se dilue entre développeurs, déployeurs et utilisateurs, et les boucles d’interaction restent privées et inobservables. L’utilisateur en subit les conséquences ; la machine, non. »

Ceci n’est pas sans rappeler le problème éthique posé par les armes autonomes, estime Roy. En 2007, le philosophe Robert Sparrow soutenait que de telles armes violent le principe de la guerre juste, selon lequel lorsqu’un dommage est infligé, quelqu’un doit répondre de la décision de l’infliger. Le programmeur est protégé par conception, ayant délibérément construit un système dont le comportement est censé se dérouler sans contrôle direct. Le commandant qui déploie l’arme est lui aussi protégé, incapable de contrôler les actions spécifiques de l’arme une fois en mouvement, et cantonné aux rôles prévus pour son utilisation. Quant à l’arme elle-même, elle ne peut être tenue responsable, car elle est dépourvue de toute qualité morale d’agent. Les armes autonomes modernes produisent ainsi des résultats mortels pour lesquels aucun responsable ne peut être identifié de manière pertinente. Les chatbots compagnons, ces « systèmes de gestion de la vie humaine » fonctionnent différemment, mais la logique morale est la même : ils agissent là où les humains ne peuvent pas pleinement superviser, et la responsabilité se dissout dans ce vide.

« La parole sans conséquence contraignante sape le contrat social. La confiance, la coopération et la délibération démocratique reposent toutes sur le principe que les locuteurs sont tenus par leurs propos. » Notre immersion dans un monde de contenus génératifs, de propos sans conséquences, risque de nous habituer à prendre toute parole comme étant sans conséquence, même celle de nos contemporains.

« Nous avons besoin de structures qui réancrent la responsabilité : des contraintes limitant l’utilisation de l’IA dans divers contextes, tels que les écoles et les lieux de travail, et préservant la paternité des travaux, la traçabilité et une responsabilité clairement définie. L’efficacité doit être encadrée lorsqu’elle porte atteinte à la dignité », défend Roy.

Avant de pointer un autre enjeu encore : « Alors que l’idée d’« avatars » IA s’impose dans l’imaginaire collectif, elle est souvent présentée comme un progrès démocratique : elle repose sur des systèmes qui nous connaissent suffisamment bien pour parler en notre nom, délibérer à notre place et nous épargner le fardeau d’une participation constante. Il est facile d’imaginer que cela puisse se transformer en ce que l’on pourrait appeler un « État-avatar » – un système politique où des représentants artificiels débattent, négocient et décident pour nous, efficacement et à grande échelle. Mais cette vision oublie que la démocratie non plus n’est pas simplement l’agrégation de préférences. C’est la pratique de la parole ouverte. S’exprimer politiquement, c’est prendre le risque de se tromper, d’être responsable, d’assumer les conséquences de ses paroles. Un État avatar – fluide, infatigable et parfaitement malléable – simulerait la délibération, mais sans conséquence. De loin, il ressemblerait à un gouvernement autonome. De près, ce serait tout autre chose : la responsabilité rendue facultative, et avec elle, la dignité de devoir assumer ses paroles devenues obsolètes. Wiener avait compris que le tourbillon ne viendrait pas de machines malveillantes, mais de l’abdication humaine. » C’est au bord de ce précipice que nous conduit l’IA.

Ce que traduit AI;DR, c’est qu’à mesure que nous sommes cernés par ces contenus génératifs, la résistance se fait jour, estime Fast Company. Qui souligne que le terme rencontre du succès à un moment où le sentiment anti-IA se développe. Les inquiétudes concernant l’IA chez les adultes américains se sont accrues depuis 2021, selon le Pew Research Center. Plus de la moitié (51 %) se disent plus inquiets qu’enthousiastes face à l’essor de cette technologie. « C’est de l’IA, je ne l’ai pas lu ! », ne traduit-il pas d’abord que tout cela n’est pas de notre responsabilité. Que cet avenir n’est peut-être pas celui que nous avons voulu. « C’est de l’IA, je ne l’ai pas lu ! » est peut-être notre dernier semblant de résistance face à un nouveau web qui va nous submerger. 

Même constat pour la journaliste Eve Fairbanks dans The Atlantic. « Travailler sur un texte généré par l’IA, en tant que correcteur, revient à opérer un corps dont la peau, les muscles, les veines, les os et les organes sont tous endommagés. Il n’y a rien à préserver, aucun point de départ », explique-t-elle confrontée à la prose des machines. « L’infltration du non sens est partout, inéluctable. Même ceux qui n’utilisent pas l’IA finiront par lui ressembler. »

Hubert Guillaud

La version originelle de ce texte est paru pour la lettre Café IA le 3 avril 2026.

A l’heure où les outils pour produire du code automatiquement se déploient partout, la question de la productivité devient de plus en plus polarisée, rappelle le journaliste du Financial Times, John Burn-Murdoch. « Un point de tension majeur entre les partisans et les détracteurs de l’IA réside dans le décalage entre l’augmentation constatée de la productivité des développeurs et l’absence apparente d’une croissance correspondante sur la création de produits ou de valeur ». Or, une nouvelle étude permet peut-être de comprendre le hiatus. 

Mert Demirer du MIT et ses co-auteurs a analysé le travail des développeurs de logiciels avant et après l’adoption d’outils d’IA. Ils ont mesuré cet impact à différents niveaux : la quantité de code écrit, le nombre de fichiers modifiés, le nombre de projets ou de fonctionnalités développés et les mises en production de nouveaux logiciels. L’étude a révélé que l’IA avait un impact considérable en amont : les développeurs ont créé ou modifié près de 300 % de fichiers supplémentaires. Cependant, cette augmentation a été réduite de moitié (à 150 %) lorsqu’ils ont examiné le nombre de fichiers soumis à l’évaluation, et ce dernier a lui-même été divisé par cinq, pour atteindre une hausse d’environ 30 % du nombre de mises en production complètes. 

Une augmentation de 30 % de la production du produit phare d’une entreprise est significative, mais les résultats montrent néanmoins à quel point la perception, voire certaines mesures directes, de l’impact de l’IA sur la productivité peuvent être déconnectées de la valeur ajoutée réelle. L’accélération spectaculaire de la productivité se traduit par des gains bien plus modestes une fois que ce travail a franchi tous les obstacles liés à la validation et à la mise en production. L’enjeu de la vérification reste bien en partie le goulot d’étranglement de la productivité sous IA. Mais ce n’est pas le seul… « Lorsque les chercheurs ont examiné si l’augmentation de la production de logiciels grâce à l’IA avait entraîné une hausse de la consommation, ils n’ont trouvé que peu d’éléments probants. La forte augmentation du nombre de lancements d’applications mobiles au cours de l’année écoulée ne s’est pas accompagnée d’une hausse des téléchargements ; la plupart des nouvelles applications peinent à conquérir un public, même modeste. »

Ce que le Financial Times résume d’un graphique parlant, montrant l’envolée des mises à jour d’applications, alors que l’usage ne progresse pas :

Ce que pointe  Burn-Murdoch, c’est qu’entre l’augmentation de la production des systèmes et leur diffusion, il y a également un goulot d’étranglement. Comme le dit Gary Marcus, l’IA appliquée au code permet certainement une productivité importante, mais a un impact concret limité, car produire ne suffit pas. Par exemple, l’IA permet peut-être d’augmenter la production de livres, mais cela ne signifie qu’ils soient de meilleure qualité ni qu’ils se vendent davantage, comme tentait de l’esquisser un graphique du Washington Post montrant la corrélation entre l’essor de l’IA et l’augmentation de la production de livres. Même chose dans le domaine de la musique ou de la production académique. La production augmente, mais les débouchés stagnent. En partie parce que certains marchés sont saturés et de l’autre parce que cette accélération volumétrique n’améliore pas la qualité pour autant. Comme le résume un développeur avec ironie : « avant l’IA, je passais un week-end à développer une seule application inutile. Maintenant, je peux en développer 67 en un week-end, chacune avec un logo, une page web sophistiquée et… zéro utilisateur. » C’est ce que constate également Paul Kedrosky : nous sommes en train de privilégier la production à la valeur, à l’image de la récente démonstration d’Anthropic valorisant l’explosion de la productivité des développeurs grâce à ses modèles. Or, nous ne mesurons ici que le Sloc (software lines of code, le nombre de lignes de code des logiciels), une sorte de Slop interne aux entreprises. Or, rappelle Kedrosky : « Les meilleurs ingénieurs créent de la valeur en écrivant moins de code, pas plus.» Le nombre de lignes de code valorise la quantité, non l’utilité. L’IA gonfle systématiquement cette métrique. Et une multiplication par huit du nombre de lignes de code correspond généralement à une augmentation bien moindre du rendement réel d’ingénierie. Le volume de code engendre des risques. Plus de code signifie plus de maintenance, de complexité, de surface d’attaque et de charge de déboggage. 

Les entreprises cherchent désormais à optimiser leurs dépenses de production d’IA afin d’en réduire le coût, estime encore John Burn-Murdoch. Demirer et ses co-auteurs estiment que l’explication la plus probable de l’invisibilisation des gains de productivité réside dans le fait que les structures organisationnelles et les marchés actuels ne sont pas conçus pour tirer pleinement parti des gains sous-jacents. Le fait que les entreprises établies du secteur des logiciels et du travail intellectuel ne constatent que de modestes gains de productivité en intégrant l’IA à leurs méthodes de travail et structures organisationnelles existantes, tandis que l’utilisation, le chiffre d’affaires et la productivité explosent chez Anthropic et OpenAI – des entreprises construites autour de l’IA, dont les produits sont conçus et évalués par elle – est peut-être un premier signe de la même dynamique à l’œuvre ici, mais à un rythme beaucoup plus rapide. 

« Je pense que les deux camps ont raison. Une grande partie de l’utilisation et des dépenses des entreprises en matière d’IA sont aujourd’hui inefficaces. Mais les gains de productivité constatés reflètent l’interaction entre de puissants outils et des structures et processus mal adaptés. A terme, ces frictions et ces goulots d’étranglement ne feront que s’atténuer », estime Burn-Murdoch, mais ce n’est peut-être pas si sûr. L’IA sature également le marché et sa prolifération empêche de saisir où des gains sont encore possibles. En rendant tout possible, elle génère une confusion qui n’aide certainement pas à voir là où elle devrait être utile et là où elle ne l’est pas.

Je classais encore le Parti libéral du Québec parmi les partis inclusifs sur la question de l’identité de genre, mais la récente controverse sur les « personnes ayant des menstruations » m’a fait prendre conscience que la réalité est plus complexe. Voici donc une compilation des positions des cinq partis politiques présentement dans la course. Merci à Kathleen Bélanger pour l’infographie!

Québec solidaire est le seul parti à soutenir entièrement les personnes trans et non-binaires. Les positions du parti sont celles de Manon Massé, alliée inconditionnelle de la communauté LGBTQ+. Leur politique est le respect du genre ressenti.

Les libéraux ont une approche généralement inclusive, mais ont souvent évité de se prononcer sur le sujet de la transidentité et de l’identité de genre depuis le départ de Dominique Anglade, signe du malaise dans les rangs. Lorsque le ministre Jean-François Roberge a interdit d’utiliser les pronoms neutres dans les écoles, dans la fonction publique et dans les communications officielles, la critique Marwah Rizqy s’est contentée de critiquer le sens des priorités du ministre, sans dire formellement si elle était en désaccord avec le principe. Les libéraux respectent généralement le genre auquel la personne s’identifie et soutiennent les jeunes de la communauté LGBTQ+. Ces positions pourraient bien changer, comme l’ont montré le débat sur l’expression « personne avec des menstruations » et l’influence indirecte de Christiane Pelchat et de PDF-Québec, organisation dont la lutte contre les femmes trans est une des raisons d’être. Le chef Charles Milliard s’est lui-même montré susceptible d’entrer dans le jeu des anti-trans en se disant mal à l’aise avec l’expression « personne avec des menstruations », comme si les femmes se définissaient par leurs règles.

Le Parti québécois est généralement hostile aux enjeux touchant la diversité de genre. Souvenons-nous des polémiques de l’automne 2023 concernant les toilettes non genrées et les pronoms neutres à l’école. À l’hiver 2025, les péquistes ont été les seuls parlementaires à rejeter une motion demandant à continuer la lutte contre l’homophobie et la transphobie. Dès la présentation du nouveau programme de Culture et citoyenneté québécoise, les péquistes ont accusé celui-ci d’être trop « woke », notamment au sujet des questions de sexualité et d’identité de genre. La députée Catherine Gentilcore a prétendu que le nouveau programme enseignait aux enfants que le genre est attribué par la société et non constaté à la naissance, ce qui est faux. Le PQ demande l’exclusion des femmes trans des espaces réservés aux femmes, y compris des groupes de lesbiennes.

Les positions de la Coalition Avenir Québec sont plus ambiguës. Le nouveau programme de Culture et citoyenneté québécoise mis en place par la CAQ est très inclusif à l’endroit des questions d’identité de genre. Les enseignantes doivent respecter l’identité de genre des élèves et garder le secret si les élèves ont choisi de ne pas en informer leurs parents. La CAQ maintient cependant la séparation genrée des blocs sanitaires et a interdit l’utilisation de pronoms neutres à l’école, dans la fonction publique et dans les communications officielles. Contrairement au PQ et au PCQ, le gouvernement de la CAQ privilégie le « sexe anatomique » plutôt que le « sexe biologique », c’est-à-dire que les femmes trans ayant subi une vaginoplastie sont considérées comme des femmes dans tous les contextes.

Le Parti conservateur du Québec se trouve dans une position particulière puisque les militants ne sont pas sur la même longueur d’ondes que leur chef. Éric Duhaime partage les positions de ses amis conservateurs albertains et souhaite que « l’idéologie du genre » soit interdite dans les écoles. Au dernier congrès, cependant, les militants conservateurs ont rejeté une résolution demandant la révision du programme d’éducation à la sexualité. Le PCQ souhaite surtout s’attaquer aux soins de transition chez les mineurs (même avec le consentement des parents) et interdire les changements de pronoms et de prénoms à l’école sans l’autorisation des parents.

En résumé : les rouges sont à surveiller et les bleus ne sont pas des alliés, peu importe la nuance de bleu.

Positions détaillées des partis :

Toilettes non genrées
QS : Demande l’aménagement de toilettes non genrées dans les espaces publics et les écoles.
PLQ : Demande l’aménagement de toilettes non genrées dans les espaces publics et les écoles.
PQ : Exige le maintien de blocs sanitaires séparés en tout temps. Associe les toilettes non genrées à une « idéologie de la gauche radicale ».
CAQ : Position ambivalente. A interdit les toilettes mixtes dans les écoles, mais n’en a pas fait une politique générale.
PCQ : Exige le maintien de blocs sanitaires séparés en tout temps.

Pronoms neutres
QS : Demande de respecter le choix de pronom des individus.
PLQ : Ne s’est pas prononcé.
PQ : A approuvé l’interdiction des pronoms neutres par le gouvernement de la CAQ.
CAQ : A interdit l’utilisation des pronoms neutres à l’école, dans la fonction publique et dans les communications officielles.
PCQ : A approuvé l’interdiction des pronoms neutres par le gouvernement de la CAQ.

Enseignement de l’identité de genre
QS : Approuve le programme actuel.
PLQ : Ne s’est pas prononcé.
PQ : Demande la révision du programme d’éducation à la sexualité et de biologie afin de s’assurer qu’il soit conforme à la science (prend pour acquis que le programme actuel ne l’est pas).
CAQ : Approuve le programme actuel. C’est le gouvernement de la CAQ qui l’a mis en place.
PCQ : Position ambivalente. Éric Duhaime s’est personnellement prononcé contre l’enseignement de « l’idéologie du genre » à l’école, mais les membres du Parti conservateur ont rejeté une proposition demandant la révision du programme d’éducation à la sexualité.

Présence des femmes trans dans les lieux réservés aux femmes
QS : Demande le respect du genre ressenti.
PLQ : Demande le respect du genre ressenti.
PQ : Souhaite interdire aux femmes trans l’accès aux lieux réservés aux femmes : Toilettes, vestiaires, compétitions sportives, organismes venant en aide aux femmes, prisons pour femmes et groupes de lesbiennes.
CAQ : Les personnes trans incarcérées dans les prisons provinciales sont détenues en fonction de leur « sexe anatomique ». Une femme trans sera détenue dans une prison pour femme si elle a subi une vaginoplastie. La CAQ n’a pas interdit et ne promet pas d’interdire aux femmes trans l’accès aux lieux réservés aux femmes
PCQ : Souhaite interdire aux femmes trans l’accès aux lieux réservés aux femmes

Autonomie médicale pour les soins de transition de genre
QS : Respecte l’autonomie médicale à partir de 14 ans comme pour les autres soins médicaux.
PLQ : Ne s’est pas prononcé.
PQ : Ne s’est pas prononcé.
CAQ : Ne s’est pas prononcé.
PCQ : Exige le consentement des parents avant 16 ans. Souhaite interdire les mastectomies pour les personnes de moins de 18 ans et encadrer davantage les traitements hormonaux.

Changement de prénom ou de pronom à l’école
QS : Respecte le choix de l’élève.
PLQ : Respecte le choix de l’élève.
PQ : Ne s’est pas prononcé.
CAQ : La CAQ n’a pas pris position directement sur le sujet, mais le ministère de l’Éducation exige que les enseignants respectent le genre auquel les élèves s’identifient et le secret si l’élève n’en a pas avisé ses parents.
PCQ : Souhaite que l’approbation des parents soit obligatoire.

Identification
QS : Demande le respect du genre ressenti.
PLQ : Demande le respect du genre ressenti.
PQ : Souhaite que les personnes s’identifient selon leur sexe biologique à des fins statistiques, pour l’accès aux lieux réservés aux femmes et pour l’accès aux politiques genrées.
CAQ : En 2021, le ministre Simon Jolin-Barrette a voulu exiger une transition chirurgicale des organes sexuels pour permettre le changement de sexe sur papier. Cette disposition a finalement été abandonnée. Le gouvernement de la CAQ a ajouté le marqueur de sexe X sur les pièces d’identité, mais a longtemps repoussé l’entrée en vigueur de la mesure.
PCQ : Éric Duhaime considère que le concept d’identité de genre nie la réalité du sexe biologique.

Le toujours très inspirant institut de recherche indépendant Data & Society lance une nouvelle initiative visant à renforcer la citoyenneté à l’ère de l’IA. L’ambition est forte : faire passer le public du statut d’utilisateur à celui d’acteur, expliquent ses responsables. La culture de l’IA ne suffit pas. « Et le public mérite bien mieux qu’une simple formation à l’utilisation de l’IA. Et il l’exige de plus en plus. » « Les Américains constatent comment les systèmes d’IA façonnent leur accès aux opportunités, à leurs droits et à leur dignité, et ils s’interrogent sérieusement sur l’impact de cette technologie sur tous les aspects de la vie, du travail à l’éducation en passant par l’environnement. Comment les systèmes automatisés évaluent-ils les candidatures et les candidats eux-mêmes ? Les tuteurs IA contribuent-ils à la réussite des élèves ou, au contraire, limitent-ils leurs connaissances ? Les immenses centres de données construits pour alimenter l’IA font-ils exploser les factures d’énergie des collectivités ? Une simple « connaissance » de l’IA ne suffit pas à répondre à ces questions, ni à toutes celles qu’elles soulèvent. Chacune d’elles nous oblige à appréhender clairement la technologie, à examiner de manière critique ses applications et à mobiliser les outils de la participation citoyenne pour en orienter le développement. »

Face à l’IA, renforcer la citoyenneté plutôt qu’acculturer

De même que l’éducation civique aux États-Unis permet aux citoyens de comprendre leurs droits, leurs devoirs et le fonctionnement du gouvernement, ce travail requiert un programme d’enseignement. D’où cette initiative d’éducation civique à l’IA : « une approche de l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective. En mettant en lumière les outils civiques permettant au public d’exercer un pouvoir politique sur les systèmes d’IA et les plateformes technologiques – notamment au niveau local –, l’initiative d’éducation civique à l’IA renforcera la capacité des citoyens à participer à la conception et au déploiement de ces technologies, et contribuera à asseoir un pouvoir démocratique sur les institutions qui les créent et les promeuvent.»

Pour mobiliser la négociation collective pour peser sur l’utilisation de l’IA au travail, pour demander des changements dans les procédures d’achat des systèmes d’IA dans les écoles, pour exiger la transparence des outils de tri et de sélection automatisés, les gens doivent comprendre les processus civiques disponibles pour les utiliser. Tel est l’ambition du programme AI Civics : faciliter et approfondir l’apprentissage des modalités d’action en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourraient s’appuyer. 

Partout dans le monde, les travailleurs utilisent la négociation collective pour influencer l’utilisation de l’IA sur leur lieu de travail. Des militants font pression sur les autorités locales chargées d’autoriser les permis de construire afin d’exercer un pouvoir sur la construction des centres de données. Des élèves et des parents réclament des changements dans les politiques et les procédures d’achat des écoles. C’est la participation citoyenne en action : les communautés utilisent les leviers à leur disposition pour déterminer si et comment l’IA et ses infrastructures sont déployées. Mais avant cela, elles ont dû comprendre ces processus civiques et apprendre à les utiliser à leur avantage. Le programme AI Civics facilitera et approfondira cet apprentissage, en proposant des modèles et des ressources sur lesquels les communautés de tout le pays pourront s’appuyer.   

En 2025, D&S a organisé un cycle de conférences sur le thème “Comprendre l’IA”. L’initiative que l’Institut lance est le résultat des commentaires qu’ont adressé le public aux chercheurs. Dans ces commentaires, expliquent les chercheurs et chercheuses de D&S, trois points sont ressortis  : 

– Comme nous le disions nous même, les gens sont inquiets de l’IA. « Les gens se sentent pris au dépourvu par la rapidité et l’ampleur de ce changement, et frustrés par l’impression qu’il se produit sans leur participation ». 

– « Même les utilisateurs de l’IA s’inquiètent de ses impacts. Les participants nous ont confié utiliser des outils d’IA au quotidien, mais être mal à l’aise face aux compromis et aux coûts cachés. Ils souhaitent dépasser le vernis séduisant du battage médiatique autour de l’IA et comprendre les véritables implications de l’utilisation de ces outils, leurs coûts et avantages réels, ainsi que les moyens d’en atténuer les effets néfastes. »

– « Lassés d’être des consommateurs passifs, les citoyens cherchent des moyens de s’engager davantage. Nombreux étaient ceux qui souhaitaient découvrir des pistes concrètes pour une action collective, d’autant plus que la réglementation gouvernementale et les efforts pour responsabiliser les entreprises technologiques sont insuffisants. Nous avons constaté une volonté d’appréhender la complexité et un désir de s’opposer aux discours sur l’inévitabilité technologique. »

La culture de l’IA, la littératie, c’est-à-dire la maîtrise de savoirs, de capacités et d’aptitudes liées à l’IA, telle qu’elle est actuellement conçue, ne répond pas à ces besoins, estime l’Institut. Bien souvent, cette culture se limite à offrir la possibilité d’acquérir les compétences et les connaissances nécessaires pour utiliser l’IA et en tirer profit. Mais c’est un discours qui répète souvent que l’IA est inévitable et que ceux qui ne possèdent pas de connaissances dans ce domaine seront laissés pour compte. Dans un contexte économique déjà particulièrement difficile, pour beaucoup de gens, cette approche sonne comme une menace. 

« Dans son nouveau rapport, (404) Job Not Found : What Workforce Training Can’t Fix for Black Atlantans in the Age of AI, Anuli Akanegbu, chercheuse chez Data & Society, analyse la manière dont l’IA est abordée dans les milieux universitaires, promue par l’industrie, mise en œuvre par les pouvoirs publics et perçue au sein de la société civile. Basée à Atlanta, ville qui aspire à devenir l’épicentre de la main-d’œuvre de demain préparée à l’IA, Akanegbu décrit l’incapacité des pouvoirs publics et de l’industrie à définir clairement la culture de l’IA ou à préciser les compétences nécessaires aux travailleurs sur un marché du travail de plus en plus dominé par l’IA comme une abstraction stratégique, une forme de flou intentionnel qui transforme l’avancement professionnel en un objectif en constante évolution » (voir également toutes les limites des annonces qui exigent une « maîtrise de l’IA exigée »). « Ce flou sert un dessein : il reporte la responsabilité du chômage sur une main-d’œuvre majoritairement noire plutôt que de s’attaquer aux conditions structurelles qui rendent l’accès aux emplois de qualité de plus en plus difficile. En présentant l’adoption de l’IA comme une question d’effort individuel plutôt que de limitations systémiques, le concept de littératie de l’IA a été instrumentalisé pour promouvoir une solution simpliste au problème très complexe du déplacement d’emplois. De même que l’éducation aux médias imputait la désinformation, la manipulation médiatique et l’effondrement du système d’information aux utilisateurs individuels des réseaux sociaux, l’éducation à l’IA reproche aux travailleurs de ne pas trouver d’emploi rémunérateur plutôt qu’à un contexte socio-économique plus large qui normalise la précarité. »

D&S souhaite que son initiative parte des travailleurs, des étudiants, des citoyens… et qu’elle s’appuie sur les connaissances militantes pour aider les citoyens à exercer davantage leur pouvoir collectif à l’ère de l’IA. L’enjeu n’est pas seulement de se former à l’IA ou de s’y préparer, mais d’y ajouter la participation et l’intervention citoyenne. D&S est à la recherche d’organisations souhaitant rejoindre ce programme pour construire les ressources permettant de renforcer les capacités d’actions des citoyens. Que ce soit par exemple en créant des ressources pour les usagers des bibliothèques, ou en travaillant avec les associations de parents d’élèves pour documenter leurs méthodes pour mieux inspecter les marchés publics des districts scolaires lorsqu’ils achètent des outils technologiques… (voir notre article sur la montée de la contestation de l’IA à l’école).

« Les risques et les préjudices liés à l’IA sont bien documentés, mais ils ne sont pas inévitables. Notre mission essentielle aujourd’hui est de renforcer le pouvoir démocratique sur les institutions qui conçoivent et déploient les systèmes d’IA. Il est temps que la responsabilité publique et l’intérêt général soient de nouveau au cœur de l’innovation technologique à grande échelle. Il est temps que le grand public exerce un contrôle démocratique plus important sur l’IA. Il est temps d’instaurer une éducation civique sur l’IA. » 

En tout cas, cette approche par l’éducation publique qui considère l’IA non pas comme un outil à maîtriser, mais comme un domaine de la vie civique où les citoyens ont des droits, des responsabilités et des moyens d’action collective est stimulante et inspirante. Bien loin par exemple des orientations britanniques prises en janvier de formation à l’IA pour tous, contestées par les acteurs de la médiation du Royaume-Uni (voir « Royaume-Uni : l’IA pour tous ! Laquelle ? »).

Résistances organisées

Ce travail ne part pas de nulle part. En fait, il a déjà largement commencé. A l’heure où les contestations contre la tech sont en passe d’être qualifiées d’extrémistes aux Etats-Unis, plusieurs autres collectifs de recherche et d’action documentent des modalités et des méthodes pour demander des comptes. L’AI Now Institute a ainsi lancé un kit d’action pour aider les citoyens à comprendre les réglementations mobilisables pour développer des recours contre le déploiement de centres de données. 

La journaliste Karen Hao, autrice du remarqué L’empire de l’IA (qui vient d’être traduit aux éditions L’écran fantastique) a lancé la liste de résistance à l’IA avec le Laboratoire de droit des réfugiés, le Distributed AI Research Institute (DAIR, fondé par la chercheuse Timnit Gebru) et l’association de justice sociale We and AI. Remettre en question le caractère inéluctable de l’IA est l’enjeu de cette liste qui recense et documente très succinctement et très partiellement les actes de résistance et d’opposition à l’industrie de l’IA à travers le monde. Comme le raconte l’anthropologue et l’avocate du numérique Petra Molnar (auteure de The Walls have Eyes, The New Press, 2024) dans Tech Policy Press, cette liste à été initiée par le travail du collectif Migration Tech Monitor, et notamment de celui du journaliste syrien Wael Qarssifi qui à documenté l’impact de la surveillance dans son pays et de Verónica Martínez qui a travaillé sur les effets de la surveillance et de la militarisation le long de la frontière américano-mexicaine. Comme l’explique Molnar, la liste a été intentionnellement documentée avec les initiatives évoquées et en se concentrant intentionnellement sur les pays en développement où les systèmes d’IA sont fréquemment déployés avec « moins de garanties réglementaires et un potentiel de préjudice plus élevé, et où les formes de résistance sont contraintes à être plus inventives ». 

La liste est articulée autour de quatre modes de résistances, afin d’élargir sa définition : résister, refuser, se réapproprier et réinventer. Au Nouveau-Mexique, le site documente les actions en justice menées par le New Mexico Environmental Law Center contre le développement du « Projet Jupiter », un énorme centre de données. En Uruguay, le Mouvement pour un Uruguay soutenable a lancé une campagne pour exiger une plus grande transparence concernant un projet de centre de données de Google. Au Japon, le Syndicat japonais des travailleurs de la métallurgie, de la fabrication, de l’information et des télécommunications a saisi la commission du travail du gouvernement de Tokyo afin de contraindre IBM à divulguer les données d’IA utilisées pour le calcul des salaires. « Au Chili, des habitants de Quilicura, une commune ouvrière de la banlieue de Santiago, se sont transformés en chatbot humain le temps d’une journée. Quili.ai, un site web conçu pour ressembler à une interface d’IA, redirigeait les requêtes des utilisateurs vers des membres de la communauté qui répondaient en temps réel. Pendant plus de 12 heures, en collaboration avec des artistes locaux, ils ont répondu à 25 000 questions d’utilisateurs de 68 pays. L’objectif n’était pas de prouver que les humains pouvaient surpasser l’IA, mais d’amener les gens à s’interroger sur ce qu’ils abandonnaient réellement, et au profit de qui, en externalisant leurs requêtes vers un système bâti sur l’exploitation du bassin du fleuve Maipo et de communautés comme la leur. » 

Nombre de résistances sont liées aux transformations du travail, bien sûr. En Californie, les professionnels de la santé mentale de Kaiser Permanente ont mené une grève pour dénoncer le remplacement du jugement clinique par un triage algorithmique. Au Royaume-Uni, les personnels de santé se mobilisent pour refuser l’intégration de Palantir dans le système de santé publique. 

Aux Philippines, plusieurs organisations de travailleurs du numérique ont formé une coalition pour promouvoir la représentation des travailleurs dans l’élaboration des politiques relatives à l’IA et documenter les préjudices causés par l’adoption de l’IA. A Nairobi, l’Association des étiqueteurs de données (comptant aujourd’hui près de 900 membres), milite pour des conditions de travail équitables, des contrats transparents et la reconnaissance du travail cognitif et émotionnel lié à l’entraînement des systèmes d’IA. Lorsque Microsoft a commencé à intégrer massivement des fonctionnalités d’IA dans ses produits, des utilisateurs ont lancé un site web dédié, Microslop, pour recenser la dégradation de l’expérience utilisateur. L’artiste Sam Lavigne, lui, a proposé un plug-in pour navigateur, qui manipule les chatbots afin de ralentir leur temps de réponse pour inviter les utilisateurs à s’interroger sur ce qu’ils attendent exactement et pourquoi. Decolonize Digital est une collection de ressources, une « boîte à outils de libération » qui propose des alternatives, comme par exemple des solutions pour Dé-Googliser nos existences. Ou encore O Panóptico, un projet qui recense les initiatives de reconnaissance faciale au sein du système de sécurité publique brésilien. 

Transparence, participation, élargissement et contrôle distribué

« Les initiatives recensées sur la liste AI Resist mettent également en lumière un ensemble de revendications auxquelles aucun cadre réglementaire existant ne répond pleinement, et auxquelles toute politique sérieuse de gouvernance de l’IA devrait s’attaquer », souligne  Petra Molnar. 

La première revendication transversale est bien sûr la transparence. Nombre de mouvements de résistance réclament bien souvent seulement de savoir ce qui est construit, par qui, avec quelles ressources et à quel prix. « Même des exigences de divulgation minimales, si elles étaient appliquées de manière cohérente, bouleverseraient fondamentalement le modèle opérationnel actuel du secteur, qui repose sur l’opacité à chaque étape de la chaîne d’approvisionnement », rappelle Molnar. 

La deuxième revendication est la participation. Des employés d’Amazon qui ont exigé d’être consultés avant le déploiement de l’IA au sein de leur entreprise, à la coalition philippine qui milite pour la prise en compte des travailleurs dans l’élaboration des politiques relatives à l’IA… « nombres d’exemples pointent vers le même constat : les décisions concernant l’IA sont prises trop rapidement, en secret, par un petit nombre d’acteurs puissants cherchant à s’enrichir davantage, sans aucun mécanisme efficace permettant aux personnes les plus touchées d’intervenir ». Améliorer les contraintes de participation des publics serait seule à même d’entraver les décisions. 

La troisième implication transversale vise à étendre la perception de la chaîne d’approvisionnement de l’IA. Des exactions sur les ressources minières au Congo en passant par celles des étiqueteurs du Kenya, « les coûts de l’IA sont systématiquement répercutés sur les communautés les moins à même de les supporter et les moins représentées dans les instances décisionnelles. Tout cadre de gouvernance qui n’étend pas son champ d’application aux communautés minières de la République démocratique du Congo, aux modérateurs de contenu d’Afrique de l’Est et aux annotateurs d’Asie du Sud-Est ne gouverne pas l’IA. Il gouverne un complexe industriel lucratif et soigneusement orchestré. » 

Le quatrième point, et peut-être le plus important sur le plan structurel, qui unifie divers exemples, concerne la question du contrôle de l’infrastructure de l’IA. « Les campagnes contre les centres de données au Nouveau-Mexique et en Uruguay ne sont pas de simples conflits environnementaux locaux. Elles constituent les prémices d’une lutte plus vaste : l’infrastructure physique de l’IA, incluant les terres, l’eau et l’énergie nécessaires à son fonctionnement, sera-t-elle considérée comme une ressource publique ou un actif privé ? Les communautés qui s’y opposent soulèvent des questions auxquelles aucune stratégie nationale en matière d’IA n’a encore apporté de réponse satisfaisante : qui autorise cette infrastructure ? Dans quelles conditions environnementales et démocratiques ? Et quels recours disposent les communautés affectées lorsque ces conditions ne sont pas remplies ? »

La liste des résistances à l’IA ne dit pas que la résistance triomphe toujours, bien au contraire, ni qu’elle suffira à corriger les inégalités de pouvoir que le développement de l’IA renforce. Elle recense seulement des actions juridiques, l’organisation des travailleurs, les campagnes citoyennes, les provocations artistiques, les outils techniques, la création de coalitions et le travail de documentation patient que ceux qui subissent ces préjudices mettent place. Ses exemples proviennent d’Allemagne, du Japon, du Kenya, du Chili, des Philippines, du Royaume-Uni, d’Uruguay, de la République démocratique du Congo et des États-Unis. Mis bout à bout, « ces éléments constituent une réalité que l’industrie de l’IA préférerait ne pas reconnaître : l’IA n’est ni une force irrésistible ni au-dessus de toute contestation démocratique, et des personnes sur tous les continents sont prêtes à remettre en question son caractère prétendument inévitable. »

Mais la liste ne se contente pas de suggestions critiques. Elle recense également des projets plus stimulants et constructifs. Par exemple : Hire a coop, une plateforme argentine et brésilienne doublée d’une campagne de communication pour encourager le recours à des entreprises coopératives, détenues par leurs travailleurs (voir également notre article sur le sujet). Ou encore, le réseau Huniki, un réseau d’entreprises technologiques spécialisées dans les langues africaines pour construire des systèmes sur mesures développées par et pour leurs locuteurs. De même, Lesan AI est un outil de traduction automatique pour deux langues éthiopiennes développés avec les traducteurs et les communautés qu’ils servent. Slow AI, de l’association AIxDesign met en lumière des approches à petites échelles… Enfin, le wiki du réseau Permacomputing défend des initiatives inspirées de la permaculture appliquées à l’informatique. 

L’initiative AI Civics de Data & Society ou la liste des résistances à l’IA lancée par Karen Hao nous invitent à amplifier les mobilisations en rendant visibles celles qui se déploient déjà, en documentant leurs réussites et leurs échecs pour permettre à chacun de s’en inspirer… de les prolonger, de les reproduire. 

Hubert Guillaud

« Pendant des années, DribbleUp, une entreprise d’équipements sportifs américaine, a consacré son temps et ses ressources à identifier les cibles publicitaires pour ses ballons de basket et de football sur Facebook. Mais depuis deux ans, elle diffuse ses publicités exclusivement via les outils d’intelligence artificielle de Facebook. Depuis, les ventes de DribbleUp ont dépassé ses dépenses marketing. L’entreprise a également augmenté son budget publicitaire sur Facebook. L’expérience de DribbleUp illustre comment l’IA remodèle le secteur de la publicité numérique.» 

Les systèmes d’IA aident les entreprises à automatiser leur marketing. « Petites et grandes entreprises peuvent désormais créer des publicités, cibler des audiences, enchérir sur des espaces publicitaires et mesurer leurs résultats. Ce processus a simplifié la tâche des entreprises locales, qui peuvent ainsi développer des campagnes aussi sophistiquées que celles des géants du secteur. Selon les entreprises technologiques et les marques, cette technologie rend également les publicités plus efficaces. Par conséquent, les investissements publicitaires affluent vers les géants de la tech », notamment Meta et Google. En 2022, année de lancement de ChatGPT, les ventes liées à l’IA totalisaient 1 milliard de dollars, un chiffre qui a atteint 35 milliards de dollars l’année dernière, selon Madison & Wall, un cabinet de conseil spécialisé dans le suivi du secteur. Cette année, les ventes devraient exploser de 60 %, pour atteindre 56 milliards de dollars. « Google et Meta étaient déjà en tête, et maintenant, grâce à ces outils d’IA, ils creusent l’écart », a déclaré Luke Stillman, directeur général chez Madison & Wall. A l’ère de l’IA, « être plus grand n’est pas seulement un avantage proportionnel pour Google et Meta », a-t-il déclaré. « C’est un avantage exponentiel. » 

« L’IA a alimenté un boom de la publicité numérique car cette technologie peut analyser instantanément d’énormes quantités d’informations. Elle aide Google et Meta à proposer aux utilisateurs un contenu plus pertinent, ce qui augmente le nombre de publicités que ces entreprises peuvent diffuser. Elle permet de mieux comprendre les centres d’intérêt des utilisateurs, ce qui améliore la capacité des entreprises à cibler les publicités. Enfin, elle réduit les coûts publicitaires, libérant ainsi des fonds pour des campagnes plus ambitieuses. » 

« La technologie est prête à remplacer significativement le travail manuel dans notre secteur », conclut un directeur marketing. Avec l’IA, le système est plus facile à utiliser pour les entreprises, même si la technologie sous-jacente est devenue plus complexe et que les annonceurs ont moins de contrôle sur l’apparence, l’emplacement et les performances de leurs publicités. « Les véritables avancées commerciales proviennent du ciblage. Auparavant, un annonceur disait par exemple : « Je souhaite cibler les femmes new-yorkaises âgées de 24 à 35 ans.» Désormais, c’est l’inverse : Meta et Google utilisent l’IA pour recommander aux marques les clients qu’elles devraient cibler. »  « Les publicités non pertinentes ont diminué de 40 %, ce qui représente une amélioration significative pour une entreprise rémunérée uniquement lorsqu’un internaute clique sur une annonce. » 

« Les outils d’intelligence artificielle (IA) prennent également en charge certains aspects du processus créatif et marketing. Google permet désormais de modifier le message des publicités en temps réel afin de mieux répondre aux attentes des internautes. Ce système, que Google appelle « Recherche réactive », crée et teste les textes publicitaires avant de diffuser automatiquement une campagne correspondant au mieux aux centres d’intérêt de l’utilisateur », et permet de réaliser des économies sur la conception de leurs publicités. «  Chris Wilhelmi, responsable mondial des données et des médias chez Monks, agence de marketing, a déclaré que les clients économisaient 30 % sur le coût de leurs campagnes. Sur le contenu, les économies peuvent atteindre 65 %. Nombre d’entre eux réinvestissent ces économies dans le test et l’expérimentation de nouvelles stratégies publicitaires. »

« Aujourd’hui, tout le monde aborde le marketing comme un problème technologique ». 

Tripp Mickle et Eli Tan

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

« Les concepteurs de logiciels et de matériel informatique savaient que leur rôle était de servir leurs clients. Il s’agissait d’identifier un besoin, puis d’y répondre. Mais à un moment donné après la crise financière, les aspirants entrepreneurs ont transformé cela : ils étaient persuadés que leur rôle était d’inventer l’avenir et que celui des consommateurs était de se conformer à cet avenir inventé. (…) Au lieu de technologies capables de résoudre des problèmes concrets, les entreprises ont enchaîné les modes passagères comme les NFT, le métavers et les grands modèles de langage. Leur point commun ? Elles ne sont pas conçues pour résoudre un véritable problème de marché. Elles sont conçues pour enrichir les investisseurs et les entreprises. »

Les géants de la tech nous promettent que demain l’IA générative dominera notre avenir. « Je parierais sans hésiter qu’un vaccin contre la rougeole obligatoire serait plus bénéfique à la survie des enfants américains que tout ce qu’OpenAI a accompli avec ses milliards de dollars à ce jour ». 

Les géants de la tech nous promettent la robotisation de nos existences. Mais ils oublient que nous avons déjà des robots domestiques. « Plusieurs, en fait : un lave-vaisselle, un lave-linge et un sèche-linge. Ils ne sont pas très mobiles, et pourtant, ils m’ont épargné un travail considérable. Mon réfrigérateur date des années 90 et mon micro-ondes n’est guère plus récent, et ces deux appareils m’ont été d’une aide précieuse : ils ont simplifié la conservation et la préparation des aliments, sans aucune intervention de l’IA. Il ne semble pas que l’IA puisse faire grand-chose pour améliorer les choses par rapport au niveau de base déjà atteint par ces machines, d’autant plus que ma technologie « basique » n’a pas nécessité de mise à jour depuis plus de 20 ans. » « Si vous voulez me fournir un robot domestique, j’ai une exigence très claire : il doit être au moins aussi performant que mon lave-vaisselle. »

« Les LLM sont, au mieux, une technologie d’entreprise qui peut faciliter certains types d’organisation de données ou accélérer la programmation. Cela n’a quasiment rien à voir avec la vie de la plupart des gens. Faciliter l’écriture de code ne change rien au fait que je n’ai pas envie d’écrire de code. »

« Les NFT, le métavers et ces casques de réalité virtuelle… n’ont séduit qu’un public très restreint, surreprésenté dans le capital-risque et chez les aspirants entrepreneurs du secteur technologique. Le cycle de hype de la Silicon Valley a fait des merveilles pour ces produits, et notamment pour ceux qui ont fondé des entreprises dans ces secteurs. Mais la plupart d’entre nous n’aspire pas à fonder une entreprise qui domine le monde. »

Elizabeth Lopatto

« L’Etat providence numérique » européen promet surtout surveillance, contrôle et exclusion alerte l’EDRi, la grande association européenne de défense des droits numériques. En instaurant une interface numérique entre les demandeurs de protection sociale et les prestataires, les États européens peuvent se soustraire à leurs obligations de services publics, « transformant le filet de sécurité social en un filet de pêche numérique, c’est-à-dire en un système de collecte et d’analyse des données personnelles » sans précédent. Cela se fait par le biais d’une architecture de gouvernance qui réoriente l’établissement de l’identité et de la confiance en une démarche descendante visant à considérer partout les bénéficiaires avec suspicion. 

En Europe, la fourniture de services publics essentiels – santé, sécurité sociale, éducation – relève principalement de la compétence des États membres, rappelle l’Edri. L’UE n’a aucun mandat direct pour dicter, par exemple, comment un habitant d’une zone rurale de Roumanie accède à un médecin ou comment un travailleur à Lisbonne perçoit des allocations chômage. Or, dénonce l’association, l’Union européenne, en présentant la numérisation comme un enjeu de marché intérieur et d’interopérabilité, déploie un ensemble de projets et de réglementations touchant des secteurs tels que la justice, la fonction publique et l’administration, et visant à faciliter et accélérer la communication et l’échange de données entre les systèmes des différents pays grâce à une numérisation uniforme. Elle est ainsi parvenue à s’immiscer au cœur des politiques sociales nationales. En facilitant les procédures administratives intra européennes ou le principe de la transmission unique (qui garantit que les citoyens et les entreprises ne fournissent leurs données à l’administration publique qu’une seule fois), présentées comme de simples commodités techniques, l’Europe déploie des « cadres coercitifs contraignant les administrations nationales à aligner leurs infrastructures sur les normes définies par Bruxelles ». Par le biais de mécanismes de financement, l’UE a de facto fait de la transformation numérique une condition à l’octroi de son soutien financier, court-circuitant ainsi le débat démocratique qui accompagne habituellement les grandes évolutions des politiques sociales. « Cette situation rappelle les tendances observées dans les pays en développement au cours de la dernière décennie, où des acteurs transnationaux ont financé des projets de développement conditionnés à des engagements en matière de numérisation, comme l’intégration de l’identification biométrique numérique dans les programmes du secteur public.»

« Cette extension du pouvoir s’est amplifiée pendant la pandémie de COVID-19. Le déploiement rapide du certificat numérique COVID de l’UE a été salué comme une réussite de la coordination européenne. Cependant, du point de vue des droits humains, il s’agissait d’un précédent dangereux. Il a instauré une infrastructure à l’échelle du continent pour la surveillance sanitaire et le contrôle des déplacements, mise en place dans un contexte d’état d’exception et sous un contrôle parlementaire limité. Au lendemain de la pandémie, cette gouvernance en mode d’urgence est devenue la nouvelle norme. L’infrastructure du certificat COVID n’a pas disparu ; elle a évolué. Elle a fourni le modèle technique et politique du portefeuille d’identité numérique de l’UE. Ce qui était justifié comme une mesure d’urgence pour prouver le statut vaccinal s’est transformé en un outil permanent que l’UE entend lier à tout, des permis de conduire aux ordonnances en passant par l’interopérabilité des comptes bancaires. La crise a donné l’impulsion nécessaire pour imposer des infrastructures d’identité intrusives qui auraient rencontré des années de résistance » dans les débats législatifs nationaux.

Pour l’Edri, la stratégie de numérisation de l’UE n’est pas une politique monolithique, mais repose sur un ensemble de projets sectoriels qui se chevauchent, comme :

• « L’Espace européen des données de santé (EHDS) : Cette initiative vise à créer une infrastructure transfrontalière massive pour le partage des dossiers médicaux. Si la promesse est d’améliorer les soins pour les touristes, les dispositions relatives à « l’utilisation secondaire » permettent le partage de données de santé pseudonymisées avec les chercheurs et l’industrie. Cela pourrait permettre de traiter les détails les plus intimes de nos vies comme une ressource pour l’économie des données, de plus en plus considérée comme essentielle à la compétitivité européenne, souvent avec des mécanismes de retrait opaques qui privilégient l’innovation à l’autonomie.
• ESSPASS (Carte européenne de sécurité sociale) : En numérisant la vérification des droits à la sécurité sociale pour les travailleurs mobiles, l’UE s’oriente vers une identité sociale numérique portable. Bien que cela puisse paraître pratique pour les travailleurs expatriés, ce système crée un registre centralisé des droits sociaux facilement contrôlable par les inspecteurs du travail et les autorités frontalières, transformant ainsi l’aide sociale en un outil de contrôle migratoire.
• eIDAS 2.0 et le Portefeuille EUDI : le Portefeuille EUDI est au cœur de cette architecture numérique. Il vise à regrouper toutes les informations d’identification numériques dans une seule application mobile. En imposant aux « intermédiaires » privés (comme Google et Apple) et aux services publics essentiels d’accepter ce portefeuille, l’UE impose de fait une existence numérique par défaut.»

Les atteintes à la vie privée liées à ces programmes sont profondes, souligne l’Edri. « Nous passons d’un monde d’interactions locales et analogiques – où votre médecin connaît votre état de santé et votre mairie vos besoins en logement – ​​à un monde de visibilité centralisée et numérique » total.

Lorsque les services essentiels sont numérisés par défaut, chaque interaction génère une donnée. L’agrégation de ces données dresse un portrait complet de la vie d’un individu. Les risques ne se limitent pas aux violations de données, mais s’étendent au profilage intime. Une identité numérique utilisée aujourd’hui pour accéder à une pharmacie peut être liée demain à un titre de transport, permettant à l’État de reconstituer les déplacements et les relations d’un individu avec une précision extrême.

De plus, ces systèmes s’appuient souvent sur le principe de « protection des données dès la conception » comme un simple argument de façade. On nous assure que des protocoles permettant l’authentification de l’utilisateur sans partage d’informations supplémentaires le concernant, nous protégeront, dénonce l’association. « Or, la protection de la vie privée ne se résume pas à la confidentialité des informations : elle concerne aussi l’utilisation des infrastructures pour exercer un pouvoir. Même si les données sont chiffrées, l’obligation d’utiliser un outil numérique autorisé par l’État pour exercer un droit fondamental constitue, en soi, une forme de surveillance. Elle crée un point de blocage où l’État peut couper l’accès à un service essentiel d’un seul coup ».

Le risque, à terme, s’alarme l’Edri, c’est bien plus l’exclusion by design que la protection by design. Les objectifs du programme de la « Décennie numérique » visent à ce que 100% des services publics soient numériques d’ici 2030. Mais qu’adviendra-t-il des milliers de personnes confrontées à des obstacles technologiques ?

« La numérisation constitue souvent un frein pour les plus marginalisés : les personnes âgées, les sans-abri, les migrants et les personnes vivant dans la pauvreté. Lorsqu’un bureau physique ferme et est remplacé par un portail web ou un code QR, le service n’est pas nécessairement modernisé, mais de fait supprimé pour une partie de la population. On assiste à l’émergence d’une « sous-classe technologique » qui doit s’appuyer sur des intermédiaires (famille, ONG) pour accéder à ses droits, ce qui la prive de sa dignité et de sa vie privée. »

Sans compter que l’information unique et l’interopérabilité sont encore plus vulnérables aux erreurs : « un statut d’immigration mal classé ou une alerte à la fraude signalée à tort – peut se propager instantanément à l’ensemble du système administratif européen, sans possibilité de recours ».

« La volonté de l’UE de numériser les services essentiels est souvent présentée comme une fatalité technique. Or, il n’en est rien : c’est un choix politique qui privilégie l’intégration au marché et le contrôle administratif au détriment des droits fondamentaux et de l’inclusion sociale. »

À l’approche de 2030, il est nécessaire de remettre en question le consensus du tout numérique. Nous devons revendiquer un « droit à l’analogique », défend l’Edri : une garantie juridiquement contraignante que chaque service public essentiel reste accessible par des canaux non numériques et centrés sur l’humain, sans pénalité. Pour que ce droit soit effectif, il est indispensable que les options analogiques soient conçues de manière à ne pas être inférieures aux options numériques et qu’elles constituent un véritable choix pour tous, en particulier pour les communautés qui risquent d’être systématiquement exclues.

« Nous devons veiller à ce que l’interopérabilité ne devienne pas synonyme de visibilité totale.»

« Le contrat social européen repose sur les valeurs de solidarité et de droits humains. Si nous laissons ce contrat être réécrit par le code, sans transparence ni mandat clair, nous risquons de nous réveiller dans une Europe où l’État n’est plus un fournisseur de services, mais un gestionnaire d’identifiants numériques, et où le citoyen n’est plus titulaire de droits, mais un utilisateur dont l’accès » est révocable.

« L’IA est un concentré de concepts d’organisations ratés, et l’apogée de l’ère des incompétents, une époque où nous sommes dirigés par des gens tellement déconnectés de la réalité du terrain qu’il était inévitable qu’une technologie soit créée spécifiquement pour exploiter leur incompétence », cingle Ed Zitron, dans un billet savoureux d’être si rageux. 

« Si les PDG sont particulièrement vulnérables à la psychose de l’IA c’est parce qu’ils sont suffisamment éloignés du travail de terrain nécessaire pour générer de la valeur avec l’IA. Les LLM sont dangereux pour de nombreuses raisons, mais l’une des moins évoquées est leur capacité à manipuler les dirigeants les plus incompétents. L’IA générative est très douée pour imiter le travail, tout comme la plupart des managers et des dirigeants. Comme eux, même si elle est totalement incapable de faire quelque chose, elle prétendra le contraire et vous complimentera pour vos suggestions. Et c’est pour ça que les crétins du business l’adorent. » « Là où un humain dirait des choses agaçantes comme « c’est impossible dans ces délais » ou « on n’a pas les ressources nécessaires », l’IA répondra « bien sûr, tout de suite ! » et dépensera un maximum de ressources. »  

« Les entreprises ne dépensent pas des millions, voire des centaines de millions de dollars par an en IA parce que c’est une bonne chose, mais parce qu’elles sont dirigées par des personnes totalement incompétentes. L’IA générative est un véritable aimant pour les surveillants, les mouchards, les incapables, les flagorneurs et tous ceux qui détestent travailler et aiment rabaisser les autres. Autrement dit, elle flatte les ratés qui pensent qu’apprendre ou exceller dans un domaine est une perte de temps, car ils méritent de faire ce qu’ils veulent sans le moindre effort. » Les imbéciles de l’IA du monde des affaires sont des sortes d’escrocs, à l’heure où l’escroquerie est devenue la norme pour une part alarmante de la société. 

Si nous en sommes arrivés là, pour Zitron, c’est parce que la définition d’une bonne entreprise a évolué : nous sommes passés d’une entreprise fabriquant de bons produits à un prix juste, fidélisant sa clientèle et s’appuyant sur un marché durable, à une entreprise capable d’afficher la plus forte croissance boursière d’un trimestre à l’autre. C’est ce qu’il appelle, l’économie de la dégradation, une expression qui décrit bien comment les entreprises technologiques ont volontairement dénaturé leurs produits phares pour satisfaire leurs actionnaires, transformant des services utiles – et parfois appréciés – en une coquille vide, au nom de la croissance. Il est important de noter que cette transformation ne se limite pas au secteur technologique et n’est pas apparue uniquement lorsque ce secteur a pris sa forme actuelle, alimentée par le capital-risque et cotée en bourse. « Le management, en tant que concept, ne signifie plus « faire le travail », mais instaurer une culture de domination et d’extraction de valeur. » Un manager, à l’instar d’un PDG, n’occupe plus une fonction à responsabilités réelles : son rôle est de s’assurer que vous travaillez, de connaître suffisamment votre travail pour pouvoir vous donner des instructions, « mais ce rôle de « donner des ordres » ne s’accompagne d’aucun travail concret, et ces instructions n’ont pas besoin d’être utiles, ni même pertinentes.» « Les problèmes que Microsoft, Google, Meta et Amazon résolvent quotidiennement sont ceux liés à leurs actionnaires. Comment assurer notre croissance ? Comment maintenir l’engagement des utilisateurs avec nos produits ? Comment convaincre nos clients de payer plus cher pour nos services ? »

« Les machines à fabriquer du consentement promues par les imbéciles du monde des affaires servent à nous couper de la réalité, comme eux-mêmes le sont », explique Zitron avec sa verve habituelle. Comme si se déconnecter de la réalité était le principal moyen pour espérer devenir riche et occuper un poste de direction. 

« C’est pourquoi tant de patrons ont une réaction si anormale face à l’IA, la promouvant et la défendant comme s’il s’agissait de leur religion ou de leur patrie. Si beaucoup utilisent les LLM et les perçoivent comme une sorte de calculatrice ou de moteur de recherche, beaucoup d’autres y voient l’opportunité de s’élever au-dessus du peuple qui travaille ou qui crée, car ils trouvent le processus de travail ou d’effort absolument répugnant. Quand quelqu’un dénigre l’IA, l’idiot du Business se sent obligé de la défendre bec et ongles, car attaquer les LLM revient à attaquer leur production, ce qui revient à juger ceux qui tolèrent sa médiocrité et ses hallucinations inévitables. » « Les LLM impressionnent les écrivains qui rechignent à écrire, les développeurs qui rechignent à coder, les chercheurs qui rechignent à faire de la recherche et les juristes qui se désintéressent de la jurisprudence. Ceux qui vous vantent les mérites de l’IA et vous persuadent qu’il est indispensable de l’utiliser cherchent en réalité à justifier leur propre paresse ou leur aversion pour l’effort. Quant à ceux qui sont impressionnés par les travaux des LLM, ils ont généralement des exigences crasses ». 

« L’agressivité dont font preuve les promoteurs et les dirigeants de l’IA envers ceux qui ne sont pas convaincus révèle une véritable faiblesse intellectuelle et morale. Personne n’a jamais eu raison, avec une telle insistance, une telle agressivité et un tel discours péremptoire du type « c’est là, et si vous ne l’adoptez pas, vous êtes stupide et condamné ». Personne d’aussi désespéré, insistant et autoritaire n’a jamais eu de bonnes intentions ». 

Les zélotes de l’IA « ne défendent pas tant les LLM que la forme la plus aboutie du capitalisme », celle d’un capitalisme de corruption, de prédation, mafieux. « L’industrie de l’IA est fondamentalement une machine à escroquer », balance Zitron. « Quelqu’un qui n’aime rien d’autre que recevoir des éloges pour le travail des autres peut désormais exécuter plusieurs agents simultanément, modifier sans cesse les instructions et se faire passer pour un spécialiste en IA, ses IA lui donnant l’air occupé d’une manière difficile à contester tant il n’y a que mensonges ». 

« Quand toute votre économie est organisée autour de cadres intermédiaires, de vice-présidents et de dirigeants qui ne font aucun travail concret, l’IA paraît donc magique ». 

« Comme les modèles d’IA peuvent être intégrés à n’importe quel système, par extension, n’importe quel fondateur d’entreprise spécialisée en IA peut prétendre que n’importe quel secteur peut être automatisé grâce à l’IA. Et comme les investisseurs en capital-risque ne n’y connaissent rien, ils sont naturellement impressionnés par n’importe quelle démo ou promesse qui semble plausible, surtout lorsqu’un LLM peut créer quelque chose qui ressemble à un logiciel.»

Nous sommes confrontés au plus grand gaspillage de capital de l’histoire de l’humanité. Et l’industrie de l’IA est en train de perdre. Personne ne sait vraiment comment mesurer le retour sur investissement de l’IA, rappelle Zitron. « Les entreprises ignorent la valeur réelle de l’IA et le budget qu’elles devraient y consacrer. C’est pourquoi Uber et d’autres épuisent leurs budgets de jetons sans, semble-t-il, réduire leurs dépenses.» « Tout ce baratin sur l’IA, soi-disant inévitable, réelle et surpuissante, ne semble jamais se traduire par des profits. » L’expérience d’Uber – qui brûle beaucoup d’argent dans l’IA – est représentative de l’expérience de pratiquement toutes les entreprises avec l’IA. Des dirigeants incompétents, totalement déconnectés de la production, exigent que leurs employés consomment un maximum de ressources, les incitant à le faire pour des raisons qui n’ont de sens que pour quelqu’un qui ne travaille pas. « L’IA est censée être un outil de rationalisation ultra-puissant qui transformera le monde du travail à jamais. Or, le résultat concret semble être : nous avons dépensé des sommes considérables pour quelque chose qui enthousiasme nos managers les moins compétents », explique Zitron avant d’analyser la profondeur de la bulle économique de l’IA, son grand cheval de bataille, depuis longtemps. Le modèle économique de l’industrie de l’IA est totalement irrationnel, répète celui qui n’a cessé d’en documenter les terribles excès. Il n’y aura pas de méthodes miracles pour rendre profitables des services facturés 100 ou 200 dollars par an quand ils en coûtent des milliers. « L’une des plus grandes erreurs que nous puissions commettre est de croire que les riches et les puissants ont la moindre idée de ce que l’avenir leur réserve, ou qu’ils ont une quelconque stratégie. »

« L’intrusion brutale, voire harcelante, des services d’IA dans notre quotidien n’est pas un signe de leur puissance, mais plutôt le reflet du manque de confiance et de la peur de leurs créateurs. Les bons produits se vendent en expliquant leurs atouts ; les produits douteux se vendent en trompant et en effrayant, et en profitant de la naïveté des personnes qui pensent qu’utiliser un LLM pour rédiger des e-mails et passer 12 heures par jour sur Twitter constitue un véritable travail. »

La demande en IA demeure le fruit d’une psychose collective. Son effondrement sera présenté comme imprévisible, car personne au pouvoir n’aura pris la peine de s’y intéresser. Pour Zitron, « nous sommes arrivés à un point où le masque commence à tomber, et la classe dirigeante, composée d’imbéciles, affiche sans vergogne son mépris pour l’humain », en annonçant notamment des licenciements sans fin. « Les dirigeants du secteur croient pouvoir bourrer le système de promesses de gains si mirobolants que la tech préférera s’autodétruire plutôt que d’admettre son erreur. Sundar Pichai, Andy Jassy, ​​Larry Ellison, Elon Musk, Mark Zuckerberg et Satya Nadella n’hésiteront pas à dilapider des centaines de milliards de dollars pour éviter l’inévitable, mais une fois que ce sera le cas, le résultat sera catastrophique.» Ceux qui adorent l’IA parlent sans cesse de son incroyable puissance sans jamais montrer ce qu’elle a accompli ni, peut-être, à quoi leur a servi tout ce temps soi-disant gagné… 

Zitron veut croire que nous nous dirigeons vers un krach véritablement catastrophique, susceptible de bouleverser le secteur du capital-risque et de porter un coup fatal à un ou plusieurs géants du cloud, tout en divisant profondément la société à de nombreux niveaux entre ceux qui se sont laissés prendre au piège et ceux qui ne l’ont pas été. À court terme, les conséquences seront absolument désastreuses pour nos marchés et notre économie en général. C’est la conséquence de la bombe à retardement que représentent le crédit privé et le capital-investissement. « Ces gens ne savent plus construire des choses qui fonctionnent, et la seule chose qu’ils savent faire, c’est dépenser de l’argent et licencier. Ils ne croient qu’à la croissance, et on ne peut pas survivre uniquement ni indéfiniment grâce à des croyances et à des promesses illusoires. »

« Aucune industrie digne de ce nom n’a besoin de vous induire en erreur ni de vous culpabiliser de ne pas adopter sa technologie. Personne de confiance ne jugera nécessaire d’humilier ou d’attaquer quelqu’un qui n’est pas suffisamment enthousiaste à propos d’un produit. Aucun PDG qui parle d’un avenir hypothétique pour vous vendre un logiciel aujourd’hui ne mérite votre confiance. Aucune technologie qui commet des erreurs régulièrement ne devrait être défendue. Et une industrie qui exige tout de nous — notre terre, notre énergie, notre eau, nos emplois, notre art, notre écriture, notre attention et chaque dollar que nous possédons — ne devrait susciter que du dégoût. »

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

MAJ du 21/06/2026 : Dans leur newsletter, Tim O’Reilly et Ilan Strauss, proposent de garantir un exosquelette pour appliquer l’IA à la science. Cet exosquelette est constitué d’innombrables systèmes permettant de garantir les références, comme le DOI (l’identifiant d’objets numériques qui attribue un numéro à chaque publication scientifique), RetractationWatch (la base de données des articles scientifique dépubliés et rétractés), Orcid (qui founit un identifiant unique aux chercheurs), Open Alex (un graphe de connaissances scientifiques)… ou encore le projet Vraix du MIT (cherchant à créer une toile du savoir pour distinguer les contenus possiblement génératifs des autres)… et nombres d’autres, qui n’ont pas été intégrés aux systèmes d’IA, alors qu’ils pourraient permettre de résoudre de nombreux problèmes : diminuer les citations erronées, réduire l’emprise de la littérature scientifique non valide… une infrastructure fondée sur des principes ouverts qui cherchent à garantir que les contenus scientifiques ne puissent être ni accaparés ni dégradés. Ces infrastructures sont des biens publics que les entreprises d’IA ignorent pour la plupart ou, pire, fragilisent. « À l’heure actuelle, la relation entre l’IA et l’infrastructure scientifique est presque exclusivement extractive. Les entreprises d’IA entraînent leurs modèles sur des articles scientifiques. Elles créent des produits capables de générer et de manipuler des textes scientifiques. Elles se disputent le marché de l’« IA au service de la science ». Pourtant, elles ne contribuent pratiquement pas à l’infrastructure qui, à la base, garantit la fiabilité des connaissances scientifiques. »

Les entreprises d’IA consomment du contenu scientifique sans rien apporter en retour. Strauss et O’Reilly font une analogie avec Content ID de YouTube : face à l’utilisation non autorisée de leurs œuvres, la première réaction de l’industrie musicale a été d’exiger leur retrait. La réponse de YouTube a été : « Et si nous vous aidions plutôt à les monétiser ? » Cette approche a permis d’aligner les intérêts et de créer une économie dynamique pour les créateurs. Nous devrions appliquer le même raisonnement à la science. Les entreprises d’IA ne devraient pas seulement utiliser l’infrastructure scientifique pour améliorer leurs produits (elles le devraient pourtant), mais elles devraient surtout chercher à aider la science à gagner en valeur, en pérennité et en exhaustivité.

Pour cela, les systèmes d’IA devraient améliorer la validation de leurs sources et références. L’infrastructure existe, il leur suffit de l’utiliser. Ils pourraient également réinjecter les métadonnées extraites dans OpenAlex, améliorant ainsi le graphe de données pour tous. Ils pourraient utiliser et financer RetractationWatch pour améliorer leurs modèles et réponses. Les fournisseurs d’IA pourraient également financer cette infrastructure scientifique très fragile qui constitue le socle technique de la crédibilité de la science. « Les entreprises d’IA, qui génèrent des milliards de revenus grâce à des produits reposant sur la crédibilité scientifique, devraient contribuer à l’infrastructure qui garantit cette crédibilité. Il ne s’agit pas de philanthropie, mais d’un intérêt bien compris.» Elles pourraient également contribuer a améliorer cette chaîne qui identifie la provenance du contenu scientifique. « Lorsque l’IA contribue à un article scientifique, cette contribution doit être traçable : elle ne doit pas simplement faire l’objet d’une déclaration standard, mais être liée à des affirmations, des sources et des étapes de vérification précises. »

« Les entreprises d’IA qui s’appuieront sur cette infrastructure créeront de meilleurs produits. Mais surtout, elles investiront dans l’infrastructure civilisationnelle qui rend possible, à la base, l’existence de connaissances fiables. À condition toutefois que les entreprises d’IA cessent de considérer cette question comme le problème d’autrui et commencent à la voir comme un socle sur lequel bâtir — un socle dont dépend leur propre succès dans le domaine scientifique.»

Dans le Financial Times, l’économiste Bhaskar Chakravorti, estime également que la colère monte contre l’IA. La colère dans la Rust Belt (la ceinture de la rouille qui désigne les anciens bastions de l’industrie américaine du Nord-Est des Etats-Unis) a propulsé Trump à la victoire ; la rage des travailleurs du savoir des banlieues de la Wired Belt (la ceinture connectée) alimentera la réaction contre l’IA. 

Mais qu’est-ce que la Wired Belt ? Cette idée s’appuie sur une étude produite par Chakravorti et ses équipes à la Tufts University qui s’intéresse aux risques que l’IA fait peser sur l’emploi aux Etats-Unis, par secteurs et également par régions. Pour ses auteurs, outre le fait que l’IA fait peser des risques sur certaines catégories d’emploi (à savoir les métiers de l’information, de la finance et de l’assurance, la programmation et les concepteurs d’interfaces), l’étude est plus originale pour son aspect géographique. Ils mettent en avant que ce sont les grands pôles d’innovations urbains comme New York, Los Angeles, Washington D.C., San Francisco, Chicago, Dallas et Boston qui figurent parmi les plus exposés, ainsi que la Californie, le Texas, New York, la Floride et l’Illinois. Les auteurs soulignent d’ailleurs que ces États figurent également parmi les plus actifs en matière de réglementation de l’IA, ce qui souligne les dimensions politiques et d’économie politique des perturbations du marché du travail induites par l’IA et met en évidence d’importantes implications réglementaires et politiques au niveau des États.  

Pour les auteurs, les zones connectées seront les prochaines zones désaffectées. L’IA va s’en prendre aux régions abritant les emplois les mieux rémunérés des Etats-Unis. 

Pour Chakravorti, les cadres qui s’apprêtent à perdre leur emploi à cause de l’IA pourraient bien être à l’origine du prochain choc politique que connaîtra les États-Unis. « Les professions les plus menacées sont concentrées dans les « ceintures connectées » : des régions qui ont prospéré grâce aux données, au contenu et aux activités cognitives. Ces régions pourraient bien devenir les nouvelles « ceintures de rouille », s’étendant des pôles technologiques bien connus de la Silicon Valley, de Boston et de New York jusqu’à Philadelphie, Atlanta et Phoenix. Les corridors de connaissances périurbains entourant les grandes villes des États indécis (swing states) américains figurent parmi les plus vulnérables du pays.» 

L’IA pourrait donc avoir des conséquences très politiques, estime Chakravorti. « Lorsque les perturbations économiques frappent les communautés américaines et que la classe politique réagit avec indifférence, il en résulte un réalignement politique radical, mais cette fois-ci, il viendra des cols blancs des régions technologiques, et non des cols bleus des régions industrielles en déclin. »

23-25 juin, en ligne et IRL à Strasbourg.

Anti-sommet de l’IA à Lille, le 13 juin 2026 (pour répondre au Sommet de l’IA avec nous). Ne vous trompez pas !

« Record ». « Record ». « Record ». « Record ». « Record ». Des mots il y en a d’autres. Mais celui-là est le plus chaud, le plus saillant, le plus repris. Nous en franchissons. Nous en battons. Nous en dépassons de précédents. Des records. De chaleur donc. Et donc comment dire autre chose de « record ».

D’autres mots s’alignent derrière : « jamais vu« , « historique« , « inédit » … Mais toujours celui-là qui revient : « record. » Alors on y va au record, au rapport. Dire et redire le record de chaleur pour ,ne pas dire le record de souffrance, le record d’épuisement, le record de sensation d’étouffement, le record d’irrespirabilité, le record de malaises, etc.

Dire et répéter sans cesse ce « record » c’est installer narrativement une dimension qui est celle du sport, du dépassement, de la médaille, bref, des valeurs presque toujours associées à quelque chose de positif dans notre imaginaire. Alors dire sans cesse ces records, est-ce franchir une limite ou s’affranchir des dernières supportables restantes ?

Dire et répéter sans cesse ce record c’est aussi marquer le moment d’un souvenir, s’inscrire donc dans une histoire, un record c’est un témoignage. Record nous dit le dictionnaire de l’académie c’est : « Emprunté de l’anglais record, ‘procès verbal, témoignage consigné’, déverbal de to record, ‘enregistrer’, lui-même emprunté du français recorder. » Alors on enregistre. La hausse des températures, les images de plage, de glaces, d’eau, d’espaces et de lieux et ressources qui aujourd’hui sont enregistrés comme ceux qui rafraîchissent, mais que l’on enregistre aussi comme ceux qui seront demain impraticables, inaccessibles, épuisés.

Et puis il y a les autres records, les autres enregistrements, les autres mémoires collectives qui se construisent et se fixent.

J’enregistre. Il faut aller à l’école, en cours. Il faut passer des examens, des épreuves. Bacheliers professionnels à l’épreuve d’un baccalauréat que le ministre ne voit aucune raison de décaler, de déplacer, d’aménager. Pourtant il n’y a pas si longtemps on avait déplacé, décalé, aménagé le brevet des collèges mais là ce sont des bacheliers professionnels. Alors il faut les habituer à la peine. Il faut les tordre.

Plus rien n’est adapté. Voilà des décennies que nous avons construit (et construisons encore contre toute logique) des bâtiments faits pour dire que nous aspirions à la chaleur : larges fenêtres, baies vitrées immenses, orientations plein sud. Let The Sun Shine In. Laissons entrer le soleil.

Et nous avons des villes entières, des gares, des lotissements, des écoles, des collèges, des lycées, des immeubles tout entiers tournés vers le soleil qui désormais écrase.

Parmi les images les plus fortes d’une littérature qui m’accompagne, il y a celle du tout début du roman de Kim Stanley Robinson, « Le ministère du futur« , la description d’une humanité écrasée d’une chaleur insoutenable, qui à la nuit se réfugie en quête de fraîcheur dans un lac lui-même déjà trop chaud mais pourtant seul supportable, et d’une partie de cette humanité qui y crève littéralement, et du narrateur qui s’y réveille à peine vivant au milieu de cadavres. Ce roman est une vraie claque. D’autres sciences et d’autres fictions bien sûr racontent l’inexorable qui vient.

Nous avons maintenant juste besoin de politique. Et des formes les plus abouties de radicalité, de redirection écologique, de de planification, appelez cela comme vous voulez mais puisqu’il est déjà trop tard, non pas tant pour nous que pour nos gosses, il faudra de la politique, et de la dure.

Il y a cette certitude sourde que deux choses ne nous sauverons pas : l’innovation et l’adaptation. Oui nous innoverons et oui certains trouveront encore à s’adapter, bien sûr qu’il le faudra. Mais ni l’innovation ni l’adaptation ne nous sauverons si nous considérons qu’elles deux seules peuvent encore nous sauver.

L’innovation ne nous sauvera pas. Elle ne fera que retarder certains pans d’un inéluctable dont la capacité mortifère est d’ores et déjà irréductible.

Notre capacité d’adaptation ne nous sauvera plus. Nous ne pourrons pas, nous ne pourrons plus (nous ne le pouvons presque déjà plus), ni à l’échelle de nos corps ni à l’échelle de nos lieux, de nos corporéités et de nos habitabilités, nous ne pourrons pas nous adapter davantage, ni en creusant plus bas sous terre, ni en avançant plus loin ou plus profond dans l’océan, ni en montant plus haut dans nos villes comme dans nos géographies ou dans nos conquêtes de l’espace.

Nous sommes depuis déjà trop longtemps entrés dans un cycle où les innovations et les adaptations effondrent les cohésions, les sociabilités, les cohabitations qu’elles soient de voisinage ou de destin. Entre ceux qui ont la clim et ceux qui ne l’ont pas. Entre ceux qui vivent là et ceux qui vivent ailleurs. Entre ceux qui peuvent financer leur adaptation et ceux qui ne le peuvent pas.

C’est à la fois enthousiasmant et désespérant mais il ne nous reste plus que du politique pour nous sauver la peau et que nos gosses et les gosses de nos gosses ne soient pas les accablés nomades de nos errances ou les assignés à résidence punitive de nos tardives repentances.

D’un record, l’autre. C’est désormais la seule et l’unique question, dont toutes les autres dépendent : nous visons dans un monde dont la géographie, l’espace, l’habitat, la circulation, ne sont plus du tout adaptés au climat que nous traversons et traverserons. Alors nous attendons. Nous attendons la lame, celle qui viendra de l’océan. Nous attendons la flamme, celle qui viendra de nos forêts. Entre la lame et la flamme. Juste du politique. 

En Ukraine, l’automatisation de la guerre a franchi une nouvelle étape en 2025, rapporte un long reportage du New York Times. Jusqu’à présent, la plupart des drones de combat nécessitaient un pilote humain. Il était une violence à distance, comme le disait la philosophe Grégoire Chamayou dans Théorie du drone (La Fabrique, 2013) qui dénonçait déjà la fabrique des automates politiques qui transforme la guerre en chasse à l’homme, une campagne sans fin d’exécutions extrajudiciaires qui se font en dehors du droit de guerre.

Mais désormais, les drones se passent de pilotes. Certains nouveaux drones ukrainiens, une fois leur cible verrouillée, peuvent utiliser l’intelligence artificielle pour la poursuivre et la frapper, sans aucune intervention humaine supplémentaire. C’est notamment le cas des drones développés par la très discrète startup Project Eagle, fondée par l’ancien PDG de Google, Eric Schmidt, après l’invasion de l’Ukraine en 2022. « Durant l’année 2025, dans la guerre russo-ukrainienne, lors d’opérations largement invisibles et passées inaperçues, l’ère des robots tueurs commença à se dessiner sur le champ de bataille. Sur un front d’environ 1 300 kilomètres et dans l’espace aérien des deux pays, des drones dotés de nouvelles fonctionnalités autonomes sont désormais utilisés quotidiennement au combat ». 

« L’Ukraine est devenue un terrain d’essai grandeur nature où fabricants d’armes, gouvernements, investisseurs, unités de première ligne et ingénieurs occidentaux collaborent pour produire des armes qui automatisent une partie de la chaîne de destruction militaire conventionnelle. Équipés de logiciels propriétaires embarqués, entraînés sur de vastes ensembles de données et souvent exécutés sur des micro-ordinateurs standard comme le Raspberry Pi, les drones autonomes font désormais partie intégrante du quotidien sanglant et destructeur de la guerre.» Toutes les fonctions sont désormais autonomes, du décollage à la frappe terminale, en passant par la coordination entre drones. 

« Les drones entièrement contrôlés par des humains restent bien plus nombreux que leurs homologues semi-autonomes. Ils sont responsables de la plupart des blessures sur les champs de bataille. Mais les armes sans pilote ouvrent de nouvelles perspectives.» Dans les deux camps, les drones à intelligence artificielle sont au cœur d’une nouvelle course aux armements. 

Peter Asaro, vice-président de la campagne « Stop aux robots tueurs », philosophe et professeur associé à la New School, a mis en garde contre les dangers croissants liés à l’exploration de territoires pratiques et éthiques inexplorés par ces armes. « Le développement d’une autonomie croissante des drones soulève de graves questions concernant les droits humains et la protection des civils dans les conflits armés », a-t-il déclaré. « La capacité de sélectionner des cibles de manière autonome constitue une limite morale à ne pas franchir. »

Pour l’instant, les armes dotées d’IA restent fragiles, limitées dans leurs fonctions et moins précises que les armes contrôlées par des humains qualifiés. Nombre d’entre elles ont une faible autonomie et une courte durée de vol. 

Du rôle du brouillage GPS

Les drones autonomes sont la réponse aux contre-mesures à l’égard des drones prisent durant la guerre en Ukraine, notamment les brouilleurs qui saturent les fréquences utilisées pour le contrôle de vol et les liaisons vidéo, faisant perdre le signal entre le pilote et le drone. En améliorant l’autonomie, l’idée était, qu’en cas de rupture de communication anticipée, les pilotes pouvaient céder le contrôle du vol à un système automatisé – une puce puissante et un logiciel hautement spécialisé – capable d’achever la mission, comme l’a proposé Underdog imaginé par la société ukrainienne Norda dynamics : un petit module se fixant à un drone de combat pour lui apporter l’autonomie finale nécessaire sur une cible verrouillée. 

Le virage radical opéré par l’armée ukrainienne vers la guerre par drones a contribué à sauver le pays, estime le journaliste du New York Times, Christopher John Chivers. Pendant près de quatre ans, tout en déployant la première armée au monde à se réorganiser autour d’armes sans pilote, elle a freiné les offensives terrestres de l’armée russe. Mais cette arme a ses limites. Presque tous les drones kamikazes à courte portée — un moyen essentiel pour stopper l’avancée des soldats russes — sont pilotés individuellement. Chaque drone est un redoutable acrobate aérien : capables d’atteindre des vitesses de 110 km/h, ces petits multicoptères peuvent s’arrêter, faire du surplace, virer et changer de direction pendant de longues minutes, des atouts qui permettent aux pilotes de localiser, poursuivre et éliminer leurs cibles humaines avec une efficacité glaçante. Pourtant, lors d’attaques russes soutenues, les conditions typiques du front contraignent les équipes de drones à combattre lentement. Le rythme est déterminé par le temps écoulé entre le décollage de chaque drone et son approche finale, qui, aux distances de sécurité habituelles, dépasse souvent 20 minutes. Lorsque les soldats russes infiltrent un grand nombre de lignes, les frappes de drones isolés peuvent paraître lentes et insuffisantes, laissant du temps à l’ennemi pour changer de position et s’échapper.

D’où l’intérêt à pouvoir développer des essaims de flotte. Une autre entreprise ukrainienne, Sine Engineering, a lancé Pasika (qui signifie « rucher » en ukrainien), des petits émetteurs-récepteurs radio qui servent de balises aux drones en vol. Avec Pasika, un seul pilote peut gérer des dizaines de drones.

Les drones de frappe en profondeur, eux, sortes de missiles de croisière à vol lent capables de parcourir des centaines de kilomètres, nécessitent une navigation précise pour se déplacer pendant des heures dans l’espace aérien étranger et suivre des trajectoires en zigzag avec des changements d’altitude fréquents afin d’échapper aux défenses aériennes. L’Ukraine fondait de grands espoirs sur son arsenal croissant de frappes en profondeur pour cibler les dépôts de carburant et d’armes russes. Mais, en coupant les signaux GPS au-dessus du front et sur son territoire occidental, la Russie a rendu ces systèmes inopérants. 

Le brouillage GPS ne se déploie pas seulement sur les conflits, rapporte Sarah Scoles pour Undark, notamment parce que ces petits brouilleurs sont facilement accessibles dans le commerce, tant et si bien que l’administration fédérale américaine des transports comme de la défense est à la recherche d’alternatives et de compléments au GPS, notamment avec l’introduction de signaux mieux cryptés pour les militaires, d’une plus grande variété de signaux pour les civils et de signaux de puissance supérieure. Le GPS est un élément de base qui irrigue la plupart des infrastructures techniques actuelles, des réseaux bancaires aux infrastructures des opérateurs de téléphonie. C’est notamment avec le lancement du jeu en réalité augmenté Pokemon Go en 2016 que les méthodes de brouillage et de corruption des signaux se sont propagées. Si les initiatives fédérales d’amélioration sont là (comme d’utiliser les autres systèmes internationaux de localisation ou de mieux détecter les interférences… ), ils manquent encore de coordination pour faire émerger des solutions pérennes. Les projets privés, eux, ne manquent pas. TrustPoint a initié le lancement de petits satellites en orbite basse émettant un signal crypté à une fréquence plus élevée que le GPS. Cela permet de réduire l’efficacité des brouilleurs et de réduire considérablement leur zone d’influence. Une autre entreprise, « Xona Space Systems, déploie également des satellites en orbite terrestre basse et a collaboré avec les gouvernements canadien et américain. Elle prévoit d’émettre des signaux 100 fois plus puissants que le GPS, offrant ainsi aux utilisateurs une précision de deux centimètres et rendant le brouillage plus difficile. Le signal inclut également un filigrane, une forme d’authentification qui, du moins pour l’instant, protège contre l’usurpation d’identité du signal ». Xona a l’avantage par rapport à son concurrent de ne nécessiter qu’une mise à jour logicielle. Le projet universitaire SuperGPS, lui, propose de déployer des émetteurs radio terrestres plutôt que spatiaux. 

D’autres solutions encore, proposent tout simplement de s’en passer, rapporte Chivers dans le New York Times. L’américain Brian Streem, créateur d’Aerobo, une société spécialisée dans les prises de vue aériennes pour des productions hollywoodiennes, a également fondé Vermeer, une entreprise qui développe des systèmes de positionnement visuel permettant aux drones de naviguer sans GPS qui intéressèrent l’US Air Force. Le logiciel de Vermeer est un système de pilotage automatique qui compare ce que voient les caméras des drones aux cartes topographiques 3D qu’ils embarquent, leur permettant de naviguer sur des terrains dépourvus de liaison satellite. 

Du rêve de l’automatisation totale… à la réalité

Chivers revient également sur les différents projets de drones eux-mêmes dotés de guidage d’attaque basés sur l’IA. C’est notamment le cas du Bumblebee, un drone intercepteur, testé en Ukraine, que les troupes américaines ont commencé à déployer, rapporte Forbes. L’entreprise de Schmidt a également fourni aux unités ukrainiennes un drone de combat de moyenne portée, d’une envergure de deux mètres, commercialisé sous le nom de Hornet. Comme le Bumblebee, il est doté d’une reconnaissance de cibles et d’un guidage d’attaque terminale basés sur l’IA, ainsi que de systèmes de communication et de navigation résistants au brouillage. Schmidt est également devenu un allié de l’Ukraine dans sa défense contre les Shahed, ces drones à longue portée de conception iranienne qui bombardent les villes ukrainiennes presque chaque nuit. En juillet 2025, il est apparu aux côtés du président ukrainien, Volodymyr Zelensky, pour annoncer un partenariat stratégique visant à fournir à l’Ukraine des drones dotés d’intelligence artificielle, notamment un système d’interception automatisé appelé Merops. Mais pour l’instant, à l’instar de l’Underdog de Norda Dynamics, les Bumblebees ou les drones de Schmidt, ces systèmes nécessitent une intervention humaine pour désigner et activer les cibles avant l’attaque. Schmidt a indiqué à plusieurs reprises s’opposer aux armes sans supervision humaine. 

Mais le paradigme de la compétition de l’offre, qui conduit nombre d’entreprises à proposer leurs solutions en échanges de d’achats garantis, propulse l’automatisation des armes vers toujours plus d’automatisation. Le drone ukrainien X-Drone, par exemple, fusionne plusieurs technologies autonomes sur des drones à longue portée. Son logiciel guide les armes vers une zone éloignée, comme un port maritime, puis utilise la vision par ordinateur pour identifier et attaquer des cibles spécifiques : navires de guerre, réservoirs de carburant, avions stationnés. L’entreprise expérimente des capacités plus complexes, notamment l’intégration de la reconnaissance faciale dans les drones afin d’identifier et d’éliminer des cibles spécifiques, et le couplage des logiciels de contrôle de vol et de navigation avec des modèles de langage naturels, « pour que le drone devienne un agent ». Le but à terme, qu’on puisse littéralement lui parler : « Vole à droite, 100 mètres. Que vois-tu ? Vois-tu une fenêtre ? Entre par la fenêtre ». Mais surtout, l’intégration de l’IA pourrait permettre de poursuivre une cible de manière autonome. Pas seulement une destination ou un objet, mais également une cible humaine identifiée. 

Pour le fondateur de X-Drone, « les drones avec IA changent la donne ». « Toute l’infrastructure militaire existante est en passe de devenir obsolète. » 

«« Les guerres de grande ampleur libère des démons », explique un pilote, du Gaz moutarde de la première guerre mondiale aux bombes atomiques de la seconde. Les armes autonomes sont en train de changer la guerre. Pour Schmidt, les armes dotées d’intelligence artificielle, suggérait-il, pourraient mettre fin à l’invasion d’un pays par voie terrestre. C’était ce que pensait aussi Richard Gatling, l’inventeur de la mitrailleuse en 1877. La violence de la mitrailleuse devait rendre superflues les grandes armées. Gatling s’est trompé. Il est probable que Schmidt se trompe également et que les drones autonomes ne signent pas la fin de la guerre, mais son extension », conclut Chivers.  

Pour Mediapart, la journaliste Justine Brabant est allée à la rencontre d’une unité antidrone ukrainienne dont nombre de pays veulent apprendre les pratiques. Sur le terrain, on découvre surtout une coordination collaborative et distribuée, où chaque unité à accès à toutes les menaces détectées sur une application pour pouvoir déterminer leurs cibles selon les tactiques des autres unités. Selon les capacités des unités, et l’évaluation des menaces, les unités ciblent les menaces qui leurs correspondent, notamment pour les plus petites, en se chargeant des plus petits drones russes. « Si l’expérience ukrainienne est si précieuse, c’est qu’elle ne consiste pas seulement à stopper quelques engins sans pilote : son armée sait en intercepter plusieurs centaines en quelques heures, sans utiliser de munitions extrêmement sophistiquées au coût disproportionné. » 

On y découvre les cartes de suivis qui permettent aux unités de déterminer qu’elle drone abattre, depuis de simples canons à de petits drones intercepteurs. « Lors du seul mois de mars 2026, l’armée russe a lancé 7 889 drones sur l’Ukraine, un record depuis le début de la guerre. Selon les données fournies par Kyiv, les forces armées ukrainiennes sont parvenues à intercepter 92 % d’entre eux. Une progression notable : en mars 2025, ce taux était de 60 %. » 

Mais plus que les exploits techniques, un autre enjeu frappe à lire Brabant. C’est l’intensification des attaques par drones. « Ils tâchent surtout de s’adapter, avec des ressources limitées, à la cadence frénétique des attaques russes. Car le rythme auquel la guerre évolue, sous leurs yeux et entre leurs mains, donne un net sentiment de vertige. » La numérisation du front ressemble à la numérisation de l’industrie ou des services : partout, elle réduit les coûts et fait augmenter les cadences. 

Reste, comme le montre d’ailleurs le reportage de Justine Brabant, les drones ne font pas tout. « Les troupes restent la ressource la plus cruciale sur le champ de bataille », rappelle l’ancien marine Gil Barndollar dans The American Prospect. Or, les drones ne remplacent pas les troupes ; ils ne font que redistribuer les effectifs. « Si les drones sans pilotes sont désormais responsables de plus de 80 % des pertes dans les deux camps (surpassant largement le bilan des armes traditionnelles comme l’artillerie, les mitrailleuses et les armes légères) et s’ils se voient confier un nombre croissant de missions sur le front (reconnaissance, frappe, minage, ravitaillement, voire évacuation sanitaire…), la réalité est que la main-d’œuvre reste un élément crucial de la guerre ». « Les drones ukrainiens et russes ne volent pas seuls. En réalité, il faut une équipe de trois à quatre soldats, avec des mois d’entraînement et d’expérience, pour positionner efficacement chaque drone afin d’éliminer l’ennemi. Bien qu’opérant à quelques kilomètres de la ligne de front, les équipes de drones restent exposées quotidiennement au danger. Dans certains secteurs du front, leurs pertes sont supérieures à celles de l’infanterie ». La guerre des drones ne se fait pas sans hommes, rappelle l’ex militaire avant de critiquer la fin de la conscription. « La résilience ukrainienne a été extraordinaire, mais elle n’est pas inépuisable. Après quatre années de combats, le scénario le plus probable est que les armées ukrainienne et russe continuent de trouver juste assez de soldats pour se battre et poursuivre les hostilités ». 

Hubert Guillaud

La pantomime du contrôle humain

On le lit dans le long reportage de +972 magazine dont on rendait compte dans la première partie de cet article : le contrôle humain s’est profondément distendu dans la riposte d’Israël à l’attaque du 7 octobre. La performance (bien relative) de l’automatisation a emporté avec elle les barrières morales… et le droit international. 

Dans un article pour The Conversation, le chercheur en droit international, Louis Perez, rappelle qu’en Iran, comme à Gaza, l’IA est au cœur des frappes, pour l’armée américaine avec le programme Maven, comme pour l’armée israélienne avec Lavender. Mais qu’en est-il de la licéité de l’utilisation de l’IA pour faire la guerre ? « Il convient d’abord de préciser que l’IA n’est pas interdite en tant que telle par le droit des conflits armés (DCA, également appelé droit international humanitaire). Pour l’heure, aucune règle juridique n’envisage spécifiquement la question de sa licéité. Pour autant, la question n’évolue pas dans un vide juridique. Les règles générales du DCA s’appliquent à la conduite des hostilités, quels que soient les moyens et méthodes déployés. L’une de ces règles est le principe de distinction selon lequel seules les cibles militaires peuvent faire l’objet d’attaques, les personnes civiles et les biens civils devant être préservés. » 

Un autre principe est celui de précaution : il prescrit que les parties au conflit doivent faire tout ce qui est pratiquement possible pour vérifier que les objectifs à attaquer sont bien des objectifs militaires. La vingtaine de secondes disponible aux opérateurs pour valider une cible, la faiblesse des contrôles pointées par Abraham dans son article, montrent que ce principe n’est matériellement pas respecté. Le contrôle humain de l’IA, dont tout le monde rappelle le principe, tient en vérité d’une pantomime. Pourtant, rappelle le juriste, « ni la violation du principe de précaution ni les erreurs conduisant à des violations du DCA ne constituent des crimes de guerre au sens du droit international pénal ». « L’élément intentionnel, c’est-à-dire la volonté de commettre l’infraction, fait défaut. Le régime de responsabilité pénale internationale actuel ne reconnaît pas la responsabilité pour négligence dans ce contexte. Cette approche pragmatique pourrait néanmoins évoluer. D’une part, si les erreurs algorithmiques de ciblage se multiplient, le caractère « raisonnable » de l’erreur sera de plus en plus difficile à invoquer et l’utilisation consciente d’un système connu pour ses défaillances pourrait induire une forme d’intention indirecte de cibler des civils. D’autre part, le droit pourrait à l’avenir se développer pour sanctionner les militaires qui, par leur négligence, causent la mort de civils. »

Perez souligne encore que la responsabilité des entreprises d’IA qui fournissent ces matériels aux militaires (dans le cas américain notamment) pourraient être à terme tenues responsables de fournir du matériel défaillant. Or, comme le pointe le chercheur Javaid Iqbal Sofi dans une tribune pour Tech Policy Press, si la communauté internationale dispose de régimes de contrôle des armements, les entreprises d’IA n’y sont pas soumises. En effet, l’Organisation pour l’interdiction des armes chimiques (OIAC) compte 193 États membres et un régime de vérification fondé sur le droit international. En mars 2026, elle a publié un rapport sur l’intersection entre l’IA et la Convention sur les armes chimiques, soulignant que les outils d’IA transforment déjà la recherche chimique en alertant de leur danger, notamment pour produire de nouvelles armes chimiques. Mais, si elle souhaite que les entreprises d’IA collaborent, en revanche, « elle ne peut contraindre une entreprise privée de San Francisco à soumettre ses évaluations de modèles à un examen externe ni à divulguer les résultats de ses tests d’intrusion internes ». « Le Rapport international sur la sécurité de l’IA 2026, fruit d’une initiative multi-institutionnelle coordonnée par l’Institut britannique de sécurité de l’IA, a constaté que la plupart des pratiques de gestion des risques dans les laboratoires de pointe restent facultatives. » Les exigences légales actuelles (publication d’un cadre de gestion des risques, pour certains d’entre eux, notamment chimiques) sont donc encore très éloignées des risques liés à l’utilisation de l’IA pour faire la guerre.

Enfin, conclut Perez, « aux termes de l’article 1 commun aux conventions de Genève, les États ont en effet l’obligation de respecter et de faire respecter le DCA. Or, le développement de l’IA militaire tend à miner ce respect, voire à favoriser et à dissimuler les violations du droit. » Si des propositions existent pour renforcer ces obligations, « la volonté politique fait défaut, notamment chez les États à l’avant-garde du développement et de l’utilisation de l’IA militaire ». Dans un article pour Le Monde, la journaliste Claire Legros estime que le recours à l’IA divise les spécialistes d’éthique militaire. Si certains sont convaincus qu’un contrôle humain est possible, d’autres en doutent, et affirment que ces technologies repoussent les limites de la violence. Pour la politiste Laure de Roucy-Rochegonde, autrice de La Guerre à l’ère de l’intelligence artificielle (PUF, 2024), le contrôle de la force est en passe de devenir un enjeu crucial. Or, aucun traité international ne limite l’automatisation des tirs et le contrôle humain reste éminemment problématique. « Depuis 2013 et les premières campagnes contre les « robots tueurs », lancées par le collectif d’ONG et d’universitaires Stop Killer Robots (« arrêtez les robots tueurs »), les négociations entre Etats butent sur une définition commune de l’autonomie technologique. » « La très haute vitesse induite par l’intégration de l’IA sur le champ de bataille rend déjà impossible une véritable supervision humaine », constatent les experts. « Parce qu’elles donnent l’illusion qu’on peut cibler précisément l’adversaire et épargner des vies avec des armes plus maîtrisées et efficaces, ces technologies facilitent, au contraire, le recours à la force et font craindre un abaissement du seuil d’entrée en conflit », explique Laure de Roucy-Rochegonde. Face au ciblage automatisé, il n’y a ni reddition, ni prisonniers. La violence s’incarne désormais « sous la forme d’une interface : un flux de données, une performance mesurable », rappellent les auteurs d’une tribune. Le philosophe Grégoire Chamayou le disait très bien dans Théorie du drone (La Fabrique, 2023) : « Plus se répand la légende du robot éthique, plus cèdent les barrières morales au déploiement du robot tueur ».

Dans une tribune pour Foreign Policy, le politiste spécialiste de relations internationales, éditeur de la newsletter Arc Digital et auteur de Drones ans Terrorism (Bloomsbury, 2018) Nicholas Grossman, estime qu’il faut garder l’humain dans la boucle de décision, d’abord et avant tout parce que ces « systèmes demeurent dangereusement imparfaits, notamment en matière de responsabilité ». Ils ne savent pas expliquer les raisons de leurs erreurs. « Lors de situations critiques pendant la Guerre froide, le jugement humain a prévalu sur les machines, sauvant ainsi le monde, comme en 1983 lorsque l’officier soviétique Stanislav Petrov a déterminé que les informations faisant état d’un lancement nucléaire américain étaient une fausse alerte. C’est pourquoi les spécialistes de l’éthique militaire et de la robotique plaident depuis longtemps pour que l’humain reste au cœur du processus décisionnel. La guerre a des conséquences trop graves pour laisser des machines tuer en toute autonomie. Externaliser ces décisions à des ordinateurs signifie que les humains portent moins de responsabilité – ou du moins qu’ils en ont le sentiment – ​​ce qui pourrait encourager des actions immorales, voire illégales. Les algorithmes peuvent être utiles sur le plan tactique, mais contre-productifs sur le plan stratégique, car les attaques contre des civils qui attirent l’attention du public, comme l’attentat contre une école en Iran, galvanisent l’opposition. »

Mais l’implication de l’humain dans le processus décisionnel ne change pas grand-chose si les humains ne se soucient pas de la question. Un officier israélien qui a utilisé Lavender à Gaza a déclaré au Guardian : « À ce stade, je consacrais 20 secondes à chaque cible, et j’en traitais des dizaines chaque jour. Mon intervention humaine n’apportait aucune valeur ajoutée, si ce n’est celle d’approuver la décision. Cela m’a fait gagner beaucoup de temps. » Les gains d’efficacité rendent l’utilisation militaire des systèmes d’IA inévitable, mais rendre ces utilisations plus éthiques et stratégiquement avantageuses exige un travail considérable, notamment une réglementation adaptée. Grossman plaide pour un contrôle humain, mais en se rendant compte, en le disant, que celui-ci risque d’être simplement processuel, ce qui ne suffit pas à remettre de l’éthique dans la boucle. 

Comme le dit très justement le chercheur en psychologie sociale et cognitive Nicolas Spatola dans une autre tribune pour Tech Policy Press, maintenir l’intervention humaine dans la boucle de l’IA est dans toutes les politiques publiques un garde-fou et une solution par défaut. Mais si la proposition se veut rassurante, en vérité, l’enjeu consiste bien plus à savoir si les institutions qui déploient des solutions d’IA le font en préservant les conditions pratiques du jugement humain. Or, ce n’est pas ce à quoi l’on assiste, en vérité, car l’IA modifie les comportements décisionnels. Le risque est fort que le « contrôle humain » devienne un faux rempart qui privilégie une présence humaine au jugement humain. L’assistance de l’IA « modifie les conditions cognitives dans lesquelles les décisions sont prises ». Mais surtout, les systèmes qui fournissent des réponses qu’il suffit de valider, finissent par produire une dépendance qui réduit la capacité des utilisateurs à détecter les erreurs quand le système se trompe. « Dans les environnements sous forte pression – où le temps est compté, les objectifs de productivité et les normes de standardisation prédominent – ​​le contexte encourage un passage d’un examen approfondi à une acceptation routinière. » Tout l’enjeu est bien de plus de créer les conditions d’un contrôle actif que d’une acceptation passive. « Si l’on veut que le contrôle humain ait une véritable signification et ne se limite pas à un slogan rassurant, nous devons concevoir des systèmes favorisant le jugement, et non la simple vérification. » « Cela implique d’évaluer si la structure des tâches permet un contrôle réaliste sous la pression du temps ; de vérifier si les utilisateurs sont capables de détecter les défaillances des modèles après une utilisation répétée ; d’exiger un suivi post-déploiement des risques de dépendance excessive ; d’investir dans une formation axée sur le comportement décisionnel plutôt que sur la simple familiarisation avec l’outil ; et de s’assurer que les droits de dérogation soient réellement pertinents et non seulement théoriquement disponibles. » 

Nous en sommes loin. Le risque est fort que l’éthique et l’humain dans la boucle se termine par un contrôle purement procédural et une responsabilité de façade. 

Même constat pour le spécialiste des sciences comportementales et de la volonté, Uri Maoz, dans la Technology Review qui pilote également un groupe de travail multidisciplinaire sur l’intention et l’IA. A l’heure où l’IA génère des cibles en temps réel, contrôle et coordonne les interceptions de missiles et guide des essaims de drones autonomes meurtriers, la supervision humaine est censée garantir la responsabilité, le contexte et les nuances. Mais ce débat sur l’importance à garder le rôle de l’humain dans la boucle n’est qu’une distraction rassurante. « Le danger immédiat n’est pas que les machines agissent sans supervision humaine ; il est que les superviseurs humains ignorent tout de ce que les machines « pensent » réellement. » L’opérateur ignore ce qui détermine les décisions de la machine. « Les systèmes d’IA avancés n’exécutent pas simplement des instructions ; ils les interprètent.» Ils peuvent ainsi donner un très bon score à une cible, un dépôt de munition à côté d’un hôpital… qui sera d’autant meilleur que les secours occupés par les blessés de l’hôpital assureront une meilleure destruction de l’entrepôt… prend-t-il pour exemple. Le fait que nous soyons aveugles aux raisons des décisions, génère, ce que le chercheur appelle un « fossé d’intention » entre les systèmes d’IA et les opérateurs humains, qui explique nos « hésitations à déployer des IA de pointe dans les soins de santé » par exemple. Cette course à l’échalote vers les armes autonomes et opaques risque d’être sans limite, s’inquiète Maoz. Plaidant pour sa chapelle et son domaine de recherche, le chercheur estime que nous devons améliorer la compréhension du fonctionnement de ces technologies. « Nous devons apprendre à mieux caractériser, mesurer et intervenir dans les intentions des agents d’IA avant même qu’ils ne les mettent en œuvre » (c’est-à-dire aider l’opérateur à prendre conscience de ce que le système retient et écarte et infère, comme nous le suggérions pour de simples chatbots).

La guerre de l’IA ou la guerre contre l’IA ?

Pour l’économiste Hamid Dahouei de l’université de Harvard et Arash Reisinezhad de la Fletcher School de l’université Tufts, la guerre en Iran n’est pas qu’une guerre qui mobilise l’IA, elle est aussi une guerre contre l’IA, expliquent-ils dans Foreign Policy. « Le 1er mars, des drones iraniens ont frappé deux centres de données d’Amazon Web Services aux Émirats arabes unis, et un troisième a été endommagé à Bahreïn. Les applications bancaires sont devenues inaccessibles. Les plateformes de paiement se sont figées.» Lorsque le président américain Donald Trump a conclu sa tournée au Moyen-Orient en mai 2025, l’ampleur des ambitions annoncées était sans précédent, rappellent-ils : plus de 2 000 milliards de dollars d’engagements d’investissement de la part de l’Arabie saoudite, du Qatar et des Émirats arabes unis, dont une part importante était destinée aux infrastructures d’IA. Derrière le pari géopolitique, il y avait aussi une logique économique. « L’initiative Pax Silica a renforcé cet alignement, intégrant les Émirats arabes unis et le Qatar à un bloc technologique dirigé par les États-Unis et conçu pour limiter l’accès de la Chine aux semi-conducteurs de pointe. Humain, le programme saoudien d’IA, s’est engagé à ne pas acheter d’équipements chinois, après la rupture des relations de G42 (l’une des grandes entreprises d’IA d’Abu Dhabi) avec Huawei. Le développement de l’IA dans le Golfe n’était plus une simple infrastructure commerciale. Elle était devenue un enjeu majeur de la compétition sino-américaine pour la suprématie technologique. C’est précisément ce qui en a fait une cible.» Il existe une autre dimension que de nombreux commentateurs occidentaux n’ont pas encore pleinement saisie, estiment les deux chercheurs. « Tout porte à croire que l’Iran n’a pas agi seul pour atteindre une telle précision de ciblage. Le pays aurait eu accès au système satellitaire chinois BeiDou, dont les signaux cryptés offrent une précision de ciblage hors de portée du brouillage GPS américain. » Pékin n’a pas tiré de missile ; la Chine a simplement fourni des coordonnées, résument-ils. 

Selon eux, ce qui apparaît comme une guerre régionale est, à un niveau plus profond, une lutte indirecte pour la domination des infrastructures d’IA. Les frappes de l’Iran ont démontré qu’un campus de données valant des milliards de dollars peut être mis hors service par un drone coûtant quelques milliers d’euros. Le coût de construction d’un centre de données au Moyen-Orient vient désormais de s’envoler, tant les risques sont élevés. « En temps de guerre, les États ont toujours ciblé les infrastructures qui confèrent à leurs adversaires un avantage décisif. Ce n’est pas nouveau : de la coupure des câbles télégraphiques pendant la Première Guerre mondiale au bombardement des sites de production industrielle pendant la Seconde Guerre mondiale, en passant par le ciblage des installations pétrolières et des oléoducs à la fin du XXe siècle et, plus récemment, les cyberattaques contre les systèmes financiers et les réseaux énergétiques. Ce qui a changé en 2026, c’est que la couche d’infrastructure en question est la puissance de calcul de l’IA, et la leçon de la guerre contre l’Iran est qu’elle n’est pas plus à l’abri. » La guerre en Iran a une fois de plus démontré que la technologie seule ne peut maîtriser la géopolitique. Ce qui ne sera pas sans implications, estime Yasir Atalan dans Foreign Policy : « la protection devient indissociable de l’accès, et les futurs accords en matière d’IA seront de plus en plus souvent assortis de garanties de sécurité, d’une coopération en matière de défense et de conditions politiques plus strictes ». Pour lui, le résultat de ces attaques n’annonce pas un désinvestissement, mais une sécurisation accrue. Les futurs contrats de calcul dans le Golfe devront impérativement inclure des systèmes de défense par IA. Les Etats-Unis risquent d’y gagner deux fois.

La guerre : point de convergence violent de l’investissement

Dans un article pour Security Context, la chercheuse Shana Marshall, de l’Institut des études sur le Moyen-Orient de l’université George Washington, explique que la Silicon Valley et la finance privée redéfinissent la guerre dans une convergence violente. Nous risquons d’entrer dans une guerre sans fin soutenue par le complexe militaro-industriel qui y a intérêt, rejoint par la Silicon Valley et le secteur technologique tout comme par les capitaux privés du capital-risque et du capital investissement. « Ces trois forces convergent et se chevauchent de manière inédite pour produire des formes de violence nouvelles tant par leur ampleur que par leur intensité. Il n’est pas surprenant que l’Iran ait identifié les antennes du Golfe des entreprises technologiques et des grandes banques américaines comme des cibles militaires légitimes dans le conflit actuel ; elles fournissent la puissance de calcul et les financements privés qui permettent d’étendre la machine de guerre américaine. » Le complexe militaro-industriel est en train de coloniser le secteur technologique et financier au profit du marché, avec le soutien de l’Etat américain. La guerre est en train de soutenir l’innovation comme nulle autre, permettant d’obtenir des valorisations lucratives et des contrats qui le sont tout autant avec le Pentagone. 

Historiquement, rappelle Marshall, « les rendements du capital-risque lors de l’introduction en bourse d’entreprises de technologies numériques commerciales/grand public ont été colossaux : dix à quinze fois l’investissement initial. Les retours sur investissement pour les jeunes entreprises de technologies de défense étaient très faibles – un ou deux fois l’investissement initial – car les grands donneurs d’ordre (Lockheed et autres acteurs historiques du complexe militaro-industriel) rachetaient généralement ces petites entreprises directement et à bas prix. » 

Le secteur de la défense se caractérise par des barrières à l’entrée élevées : pour faire la guerre, il n’y a souvent qu’un seul donneur d’ordre potentiel capable d’utiliser les nouvelles technologies développées par les jeunes entreprises : les gouvernements. Le problème, c’est qu’ils n’achètent pas ces technologies très cher. Pour revaloriser le prix des produits technologiques que la Silicon Valley vend à la Défense, il a fallu « modifier la façon dont les armées conçoivent l’approvisionnement en armement en temps de guerre, la définition des armes nécessaires et l’identification des ennemis ». Tout aussi important, il leur fallait élaborer un récit convaincant et globalisant expliquant comment les investisseurs, les ingénieurs logiciels et les dirigeants du secteur technologique constituent l’alliance indispensable pour enrayer le déclin impérial américain, restaurer le secteur manufacturier du pays, sécuriser les matières premières et les terres rares nécessaires aux systèmes d’armement de haute technologie et protéger la civilisation occidentale à la fois des mouvements woke et des centres de pouvoir alternatifs émergents dans les pays du Sud. Tel a été le travail d’entreprises comme Palantir et de nombres d’acteurs des technologies américaines. Son PDG, Alex Karp, le dit d’ailleurs très clairement dans son manifeste : ce sont les conflits qui permettront à son entreprise de se développer. Au risque que le mantra influence bien d’autres acteurs de la Tech. 

« La pénurie de munitions de basse technologie et de drones bon marché dont disposent les États-Unis et leurs alliés dans les guerres en Ukraine et en Iran a parfaitement alimenté ce récit », explique Shana Marshall. Cependant, les armes à bas coût et produites en grande quantité promises par la Silicon Valley dépendent souvent, non pas des technologies émergentes des start-ups, mais de fournisseurs des pays du Sud et d’Asie. Bombes et drones ne sont pas toujours de fabrication américaine et tous utilisent des caméras, des moteurs, des puces ou des batteries de fournisseurs chinois. 

Si ce moment historique de convergence entre développement technologique, capitaux financiers mondiaux et machine de guerre américaine semble annoncer une militarisation accrue de l’économie mondiale, il annonce surtout une approche américaine plus agressive à l’échelle internationale. « Les capitaux sont si concentrés qu’ils doivent rechercher des opportunités d’investissement viables, du fait de la nécessité de les valoriser et du déclin des investissements publics dans des secteurs non militarisés comme les infrastructures et les programmes sociaux ». Dans ce contexte, le complexe militaro-industriel devient une cible privilégiée pour les gestionnaires d’actifs et autres acteurs de la finance privée (voir notre article sur les enjeux politiques du financement de l’innovation). La guerre rapporte beaucoup d’argent et est devenu un débouché très lucratif pour les acteurs technologiques, qui s’annonce bien plus lucratif encore que les débouchés traditionnels de l’IA. Au risque d’orienter encore plus les politiques guerrières. 

L’IA, l’infrastructure totale d’un monde totalitaire

On peut tirer plusieurs leçons de cette première immersion dans les outils pour faire la guerre. Elle nous montre d’abord que les préventions éthiques habituelles n’ont plus court. Le principe de vérification humaine de toutes décisions (le fameux humain dans la boucle…) est en passe de disparaître. On avait déjà vu qu’elle tenait bien souvent d’une pantomime quand on nous assurait dans les décisions automatisées plus classiques, du marketing aux systèmes sociaux automatisés, où l’on nous assure que l’humain valide toujours la décision, sans possibilité réelle pour le faire. 

La disponibilité des outils fait également sauter une autre barrière morale : la proportionnalité. Le taux d’erreur devient un paramètre parmi d’autres, bien vite relativisé. C’est même pire : les dommages collatéraux, les défaillances d’attribution du ciblage, leur élargissement à des marqueurs plus ténus (on ne cherche plus les hauts responsables, mais désormais tous ceux qui peuvent potentiellement être rattachés à l’ennemi), tendent à étendre une guerre sans plus aucune limite, où les erreurs deviennent une donnée parmi d’autres, qui s’optimise comme les autres. La proportionnalité de la surveillance a volé en éclat, comme elle vole en éclat dans bien d’autres cas d’usages, notamment le social. 

Partout, le scoring règne en maître. Quand toutes les données sont disponibles, il n’y a plus de limites à leur utilisation et donc aux inférences qui peuvent être faites, disions-nous dans notre livre, Les algorithmes contre la société (La Fabrique, 2025). Le risque est de produire un système sans plus aucune limite morale, comme quand les systèmes de calcul de risque déterminent que tous les bénéficiaires des services sociaux sont à risque (et que plus ils en bénéficient, plus ils sont à risque). L’abaissement des seuils à mesure que les calculs s’étendent transforment tout le monde en cible. C’est le modèle publicitaire appliqué à la guerre. Un calcul sans échappatoire, puisque dans le score de risque, tout le monde est calculé et chacun est associé à un résultat dont les déterminants fluctuent selon les nécessités du moment.  

Tout l’enjeu repose donc sur les réglages du seuil – or, sans règles, ils peuvent évoluer à tout moment. On le voit dans l’exemple de Lavender, suite aux événements du 7 octobre, le seuil de définition des cibles n’a eu de cesse de bouger. Et c’est là tout le problème d’établir les limites d’une réponse proportionnée qui passe par la définition de seuils : le contexte et les nécessités politiques les feront toujours bouger. Dans le calcul permanent, la difficulté consiste à définir des limites : des limites aux cadences qu’accélèrent les indicateurs dans le monde du travail, des limites à la surveillance et au contrôle dans le monde du social où toutes les données peuvent être mobilisées pour contrôler les revenus des plus démunis, des limites aux ajustement du calcul des prix dans une personnalisation toujours ajustable… Des limites au scoring de risque de toute la population gazaouis depuis Lavender…  

Le problème, c’est que ces limites sont spécifiques et contextuelles alors qu’elles devraient être socialement et politiquement partagées et contrôlées.

De l’IA sur les champs de bataille à l’IA dans le social, les mêmes techniques et les mêmes logiques sont à l’œuvre. Celles d’outils qui n’ont plus à rendre de compte, qui amplifient leurs biais et produisent des erreurs toujours minimisées par leur efficacité. Et partout où cette IA la se déploie, il n’y a pas d’issue à sa logique, pas de limite simple à sa conduite. Le scoring de ciblage, quelque soit sa fonction, est par nature une menace, dont il suffit d’ajuster les paramètres pour que chacun le devienne. « A l’heure du calcul permanent, il n’existe plus de droits durables : tous sont révocables », disait le philosophe Achille Achille Mbembe dans le préscient Brutalisme (La découverte, 2020). A l’heure du scoring permanent, c’est encore plus vrai. 

Hubert Guillaud

En 1976, le géographe Yves Lacoste rappelait les fondements de la géographie dans un petit essai, La géographie ça sert, d’abord, à faire la guerre qui revenait sur l’importance politique de tout discours sur l’espace. Aujourd’hui, nous devons nous poser la même question pour pointer l’importance politique de tout discours sur la technologie. La technologie est un enjeu stratégique et elle le devient d’autant plus qu’elle est désormais le soubassement du champ de bataille, son infrastructure, qui détermine la capacité à mener toutes opérations de défense comme d’attaque. 

Nous n’avions jusqu’à présent pas évoqué dans nos pages l’utilisation de l’IA pour la guerre. Il est temps de rattraper nos lacunes. 

Une usine IA pour faire la guerre

Ha’Aretz, le grand quotidien Israëlien, expliquait récemment que l’infrastructure d’intelligence artificielle qui a servi à piloter les bombardements à Gaza est désormais pleinement opérationnelle en Iran et au Liban. Cet Operational Data and AI Factory (Centre opérationnel de données et usine d’IA) piloté par Tsahal, l’armée israélienne, intègre de multiples flux de données et sources d’information, les rendant accessibles en temps réel à tous les échelons de la hiérarchie militaire. Déployé dans toute l’armée, il analyse tout type de données pour permettre d’obtenir une vision opérationnelle complète des forces, des missions et des menaces. « Le système est conçu pour faciliter la planification des attaques, le ciblage et les frappes. Il enregistre et transcrit également toutes les communications sans fil et compile des données en temps réel sur les lancements et les interceptions de missiles et de drones ». L’AI Factory militaire fonctionne. Et désormais, elle est devenue l’infrastructure même de l’armée, explique Ha’Aretz. 

Les unités peuvent utiliser les outils à leur disposition et développer leurs propres applications. Ce système n’est pas utilisé uniquement d’une manière défensive comme l’armée israélienne l’a longtemps défendu, mais participe également au traitement des plans de frappe et des cibles. Il est par exemple intégré au dispositif de drones offensifs de l’armée de l’air, baptisé Storm Cloud, qui permet d’identifier des objets dans les vidéos et les cartographier en temps réel. Bien d’autres systèmes sont désormais intégrés, comme  Lohem (Chasseur), qui assiste notamment l’armée de l’air dans la planification et la synchronisation des frappes ; Rom, qui détecte les drones ; « Contrôle spatial », qui alerte les forces terrestres en cas de tirs de roquettes et de missiles antichars ; et Tashan, qui identifie les points de lancement et d’impact et localise la source des tirs ennemis. L’IA a également été intégrée au système d’alerte national israélien, permettant de prédire les zones de retombée des débris d’interception. Flow, agrège les données provenant de sources militaires et civiles, permettant aux commandants de créer rapidement des tableaux de bord de renseignement pour des problèmes spécifiques. Un autre élément central du système est MapIT, « une plateforme qui affiche des données opérationnelles tridimensionnelles en temps réel aux commandants. Ha’Aretz a appris qu’au cours de l’année écoulée, l’armée a développé une couche supplémentaire au-dessus de MapIT, consolidant tous les flux de données en une seule carte opérationnelle. » 

À ce stade, précise le journal, « ces systèmes d’IA ne prennent pas de décisions opérationnelles de manière indépendante. Ils sont plutôt conçus pour fournir au personnel militaire des informations plus rapides et plus sophistiquées. Selon des sources qui se sont confiées à Ha’Aretz, le système remplace le travail de dizaines d’analystes. » Selon le journal, tous ces éléments ne dépendent d’aucun prestataire externe. « Suite aux critiques concernant la dépendance de l’armée israélienne à l’égard de l’infrastructure Microsoft, Tsahal a décidé d’adopter des modèles ouverts plutôt que des technologies propriétaires détenues par les grandes entreprises technologiques ». La plupart d’entre eux seraient des produits no-code, c’est-à-dire développés entièrement via l’IA, avance le journal. Fin 2025, Tsahal crée une division dédiée à l’IA, baptisée Bina et une unité chargée de consolider les données opérationnelles, au coeur du développement de ces outils. 

Dans cette infrastructure, on trouve encore le plus connu d’entre tous : Lavender, un système d’IA permettant de cibler des individus, comme l’explique la remarquable enquête du journaliste Yuval Abraham, publiée par +972 Magazine en avril 2024 qui aurait identifié des dizaines de milliers de militants présumés à Gaza. Dans son enquête sur Lavender, Yuval Abraham explique que le système de ciblage par IA utilisé à Gaza, est « un système peu supervisé par l’humain et caractérisé par une politique permissive en matière de pertes humaines ». 

Lavender : le ciblage… quelques soient les dommages et les défaillances

En 2021, explique Yuval Abraham dans son article, un livre publié en anglais et sous pseudonyme plaidait pour la conception d’une machine spéciale capable de traiter rapidement d’énormes quantités de données afin de générer des milliers de « cibles » potentielles pour des frappes militaires en pleine guerre. Son auteur : l’un des responsables de l’unité d’élite du renseignement israélien. Cet outil qu’il imaginait existe désormais. Son influence sur les opérations militaires israéliennes à Gaza a été telle que les conclusions de l’IA étaient traitées « comme s’il s’agissait de décisions humaines ». 

« Officiellement, le système Lavender est conçu pour identifier toutes les opérations suspectes des branches militaires du Hamas et du Jihad islamique palestinien, même celles de bas rang, comme cibles potentielles de bombardements. L’armée s’est presque entièrement fiée à Lavender, qui a recensé jusqu’à 37 000 Palestiniens comme militants présumés (identifiant ces personnes nommément, bornant leurs téléphones et leurs domiciles) susceptibles de faire l’objet de frappes aériennes. »

« L’armée a donné son accord général aux officiers pour qu’ils adoptent les listes de cibles de Lavender, sans exiger de vérification approfondie des raisons qui ont motivé ces choix par le système ni d’examen des données brutes sur lesquelles ils se fondaient. » Une source a indiqué que le personnel humain servait souvent uniquement de simple exécutant pour valider les décisions du système, ajoutant qu’en général, il ne consacrait personnellement qu’une vingtaine de secondes à chaque cible avant d’autoriser un bombardement, juste pour s’assurer que la cible marquée par Lavender était bien… un homme. Et ce, malgré le fait que le système commette ce qui est considéré comme des « erreurs » dans au moins environ 10 % des cas, « et qu’il est connu pour marquer occasionnellement des individus n’ayant qu’un lien ténu avec des groupes militants, voire aucun lien du tout.» « De plus, l’armée israélienne attaquait systématiquement les individus ciblés à leur domicile, généralement la nuit en présence de toute leur famille, plutôt que lors d’opérations militaires. Selon les sources, cela s’expliquait par le fait que, d’un point de vue de renseignement, il était plus facile de localiser les individus chez eux. » Même si l’enjeu semblait plutôt de profiter d’une situation de faiblesse, hors du champ de bataille.

Les pertes de femmes ou d’enfants et de victimes collatérales ne sont, pour l’armée israélienne, qu’une conséquence sans impact sur les choix technologiques opérés. « Le système est conçu pour repérer les cibles à leur domicile ». « Selon deux sources, l’armée a également décidé, durant les premières semaines du conflit à Gaza, que pour chaque jeune militant du Hamas marqué par Lavender, il était permis de tuer jusqu’à 15 ou 20 civils. » C’est ici que les choses ont changé, estime Yuval Abraham, par le passé, l’armée n’autorisait aucun « dommage collatéral » lors des assassinats de militants de bas rang : les dommages collatéraux n’étaient autorisés que pour cibler les hauts responsables. Les dommages ont été intégrés et élargis. 

L’enquête de Yuval Abraham est très précise, et permet de bien saisir les limites de l’outil. 

« Lavender repère les personnes et les inscrit sur une liste de personnes à éliminer » déterminée par calcul à partir des données collectées, sans que l’on sache ce qui constitue ces données, provenant certainement du renseignement. Le terme de cible humaine a longtemps désigné pour l’armée israélienne des officiers supérieurs ennemis qui pouvaient être bombardés à leur domicile (au prix du massacre de leurs familles), mais seulement les officiers supérieurs, « afin de respecter le principe de proportionnalité du droit international ». Mais après le 7 octobre 2023 – date à laquelle des militants du Hamas ont lancé une attaque meurtrière contre des localités du sud d’Israël, faisant environ 1 200 morts et 240 otages –, Tsahal, selon ces mêmes sources, a adopté une approche radicalement différente. L’armée a décidé de désigner toutes les opérations de la branche armée du Hamas comme des cibles humaines, indépendamment du grade ou de l’importance militaire de leurs auteurs. « Lors des conflits précédents, pour autoriser l’assassinat d’une cible humaine, un officier devait suivre une procédure d’incrimination complexe et longue » et notamment procéder à des vérifications. Mais en élargissant la liste des cibles, les vérifications ont été réduites, au profit du ciblage automatisé. 

L’autorisation d’adopter automatiquement les listes de cibles calculée par Lavender a été prise deux semaines après le lancement de la guerre contre Gaza, après avoir testé un échantillon de cibles proposées par Lavender et constaté que l’affiliation d’un individu au Hamas semblait fiable à 90%. Les décisions de ciblage automatisées sont alors devenues des ordres. Les unités n’ont plus à vérifier les raisons de ces choix, ni à examiner les données sur lesquelles il se fonde. « Dès qu’une personne [marquée] était chez elle, elle devenait immédiatement une cible »… et ses coordonnées étaient transmises à l’aviation chargée de bombarder sa maison. « Il n’y avait plus de politique du « zéro erreur » », remarque un officier. Il n’y a pas eu de volonté de vérifier et d’atténuer les dommages collatéraux (bien au contraire, visiblement). Les 10% d’erreurs (ou plus) sont désormais intégrés comme principe opérationnel. « Des sources ont expliqué que le dispositif Lavender signalait parfois par erreur des individus dont les habitudes de communication étaient similaires à celles d’agents connus du Hamas ou du Jihad islamique palestinien (JIP) — notamment des policiers et des employés de la protection civile, des proches de militants, des résidents portant un nom et un surnom identiques à ceux d’un agent, ou encore des Gazaouis utilisant un téléphone ayant appartenu à un membre du Hamas. » Pour l’armée israélienne, la marge d’erreur du système a été validée comme acceptable.

L’invisible score de cible

« Lavender analyse les informations collectées sur la plupart des 2,3 millions d’habitants de la bande de Gaza grâce à un système de surveillance de masse, puis évalue et classe la probabilité que chaque personne soit active dans la branche militaire du Hamas ou du Jihad islamique palestinien (JIP) – depuis la base d’un échantillon d’entraînement de militants connus. Selon certaines sources, la machine attribue à presque chaque habitant de Gaza une note de 1 à 100, indiquant la probabilité qu’il soit un militant. » 

L’étendue des sources et données utilisées pour procéder à cette analyse n’est pas connue. Visiblement, le système utilise toutes les sources à sa disposition : données des téléphones, connexions aux réseaux sociaux, informations sur le champ de bataille, contacts téléphoniques, photos, informations sur les opérations de l’ennemi… Le seul enjeu consiste à déterminer le seuil, le niveau à partir duquel la note attribuée transforme un individu en cible. 

A partir de quelles données et informations, Lavender estime qu’une personne est affiliée au Hamas ? La liste des motifs de suspicions est sans fin puisqu’elle est calculée depuis toutes les données disponibles. Le fait qu’une personne ait appartenu ou ait été proche du Hamas dans le passé mais n’en fasse plus partie est un motif de suspicion. Mais est-il exact ? Pire, souligne l’article : un officier « défendant le recours aux listes de cibles palestiniennes générées par Lavender, a soutenu qu’il était justifié d’investir le temps d’un officier de renseignement pour vérifier l’information uniquement si la cible était un haut commandant du Hamas. « Mais pour un simple militant, il est inutile d’y investir des ressources humaines et du temps », a-t-il déclaré. » On vérifie là où le taux d’erreur est possiblement le plus faible et pas là où le taux d’erreur est possiblement le plus fort ! « Les jours où nous ne trouvions aucune cible [dont le profil justifiait une frappe], nous attaquions à un seuil plus bas. » Glaçant ! Et en abaissant le seuil, le système finit par signaler les membres de la protection civile, des policiers… qui par leur fonction aident le gouvernement du Hamas… mais ne représentent pas une menace directe. D’ailleurs, des données d’agents de la protection civile ont été utilisées pour entraîner Lavender (alors qu’elles auraient dû être écartées) et déterminer les profils à cibler, estime un data scientist en le regrettant car ils mettent ces publics à risque. 

Bien sûr, l’armée israélienne a dénoncé les accusations portées par l’article de Yuval Abraham. Pour Tsahal, l’IA n’est pas utilisée ainsi. Elle n’est qu’un « auxiliaire des décisions ». Toute cible identifiée est vérifiée, assure la communication officielle de l’armée. Mais, selon les sources de Yuval Abraham, « le seul protocole de supervision humaine mis en place avant le bombardement des maisons de militants présumés « juniors » marqués par Lavender consistait en une vérification unique : s’assurer que la cible sélectionnée par l’IA était un homme et non une femme. » Outre les dommages collatéraux, nombreux, pour les civils ciblés par erreur par Lavender, aucun mécanisme de contrôle n’était en place pour détecter l’erreur, comme par exemple, quand les cibles ont pu donner leur téléphone à un autre individu. Lavender, finalement, cible bien plus un téléphone qu’une personne. Ce qui n’est pas sans produire très concrètement des erreurs de frappe.

Obsession téléphonique, obsession domiciliaire

Pour l’armée israélienne, si ses frappes tuent des civils, c’est d’abord en raison des tactiques du Hamas qui utiliserait des réseau de tunnels passant délibérément sous des hôpitaux et des écoles ; ou des ambulances pour se déplacer ; et qui situerait ses moyens militaires à proximité de bâtiments civils pour dissuader les frappes. Des affirmations que les organisations de défense des droits humains jugent fallacieuses et qui viseraient à exonérer Israël de sa responsabilité dans ces pertes. Mais pour les sources d’Abraham, le nombre sans précédent de morts lors des bombardements israéliens actuels serait d’abord lié au fait que l’armée a systématiquement ciblé des personnes à leur domicile, en présence de leurs familles – notamment parce qu’il était plus facile, du point de vue du renseignement, de repérer les maisons familiales grâce à des systèmes automatisés. « L’armée a fait le choix délibéré de bombarder des militants présumés à l’intérieur de maisons civiles où aucune activité militaire n’avait été constatée. Un choix qui reflète la conception du système de surveillance de masse israélien à Gaza. » 

« Afin de détecter en temps réel l’entrée des cibles dans les maisons, divers logiciels automatisés ont été développés. Ces programmes suivent simultanément des milliers de personnes, repèrent leur présence à domicile et envoient une alerte automatique à l’officier chargé du ciblage, qui marque alors la maison pour le bombardement. L’un de ces logiciels de suivi, révélé ici pour la première fois, s’appelle « Où est papa ? ». « On entre des centaines de cibles dans le système et on attend de voir qui on peut éliminer », a déclaré une source connaissant le système. « C’est ce qu’on appelle le ciblage à grande échelle : on copie-colle les listes produites par le système. »

Les données confirment cette politique : durant le premier mois de la guerre, plus de la moitié des victimes – soit 6 120 personnes – appartenaient à 1 340 familles, dont beaucoup ont été entièrement décimées à l’intérieur de leurs maisons, selon les chiffres de l’ONU.»

Quand le rythme des victimes ralentit, il suffit d’ajouter davantage de noms dans le système de suivi, et notamment d’abaisser les grades de ceux qu’on souhaite éliminer. La liste des personnes à abattre s’est considérablement allongée (elle en compterait 36 000 en attente de localisation). Même des mineurs ont été désignés comme cibles de bombardement par Lavender, confie une source, déclarant : « normalement, les opérations concernent les personnes de plus de 17 ans, mais ce n’était pas une condition. »

La prise en compte du coût des armes et l’évolution du seuil des dommages collatéraux

Une fois que Lavender a désigné une cible à assassiner, que l’armée a vérifié son sexe et que le logiciel de suivi a localisé la cible à son domicile, l’étape suivante consiste à choisir les munitions. En décembre 2023, CNN a rapporté que, selon les estimations des services de renseignement américains, environ 45 % des munitions utilisées par l’armée de l’air israélienne à Gaza étaient des bombes non guidées, connues pour causer davantage de dommages collatéraux que les bombes guidées, plus précises (mais plus chères). Le choix des munitions se fait en fonction des immeubles ciblés. Les bombes non guidées sont plus adaptées à de petits immeubles, même si elles font plus de dégâts et donc plus de dommages collatéraux. Cela a notamment été le cas pour les cibles mineures, conduisant à détruire leurs maisons et tous leurs habitants. Selon d’autres sources, le programme d’attaque des militaires du Hamas de bas rang a été réduit voire arrêté du fait de son coût en munitions et en armes. 

Lors d’attaques depuis des systèmes d’IA comme Lavender, le nombre de civils qu’il était permis de tuer avec chaque cible était fixé à 15 à 20 maximum, durant les premières semaines du conflit. « Ces « seuils de dommages collatéraux », comme les appelle l’armée, étaient appliqués de manière systématique à tous les militants présumés, indépendamment de leur grade, de leur importance militaire ou de leur âge ». D’après un officier affecté à une salle d’opérations ciblées, le département de droit international de l’armée n’avait jamais auparavant accordé une « autorisation aussi générale » pour un seuil de dommages collatéraux aussi élevé. « Il ne s’agit pas simplement de pouvoir tuer n’importe quel soldat du Hamas, ce qui est pourtant clairement autorisé et légitime au regard du droit international », a-t-il déclaré. Mais également de tuer des civils qui leur sont liés, ce qui est beaucoup moins conforme au droit international. Sans compter que « toute personne ayant porté un uniforme du Hamas ces deux dernières années pouvait être la cible d’un bombardement, avec 20 civils tués en dommages collatéraux, même sans autorisation spéciale ». « En pratique, le principe de proportionnalité n’était pas respecté », estime l’officier. « Selon certaines sources, le niveau prédéterminé et fixe de dommages collatéraux a permis d’accélérer la création massive de cibles à l’aide du système Lavender, car il a permis un gain de temps ». Pour les frappes aériennes contre les hauts commandants du Hamas, l’armée israélienne autoriserait la mort de « centaines » de civils par cible – « une politique officielle sans précédent historique en Israël, ni même dans les récentes opérations militaires américaines ». Pour atteindre Ayman Nofal, commandant de la Brigade centrale de Gaza, le 17 octobre, l’armée israélienne a autorisé des dégâts collatéraux encore plus élevés. 

« Le général Peter Gersten, commandant adjoint des opérations et du renseignement dans le cadre de l’opération contre Daech en Irak et en Syrie, a déclaré à un magazine de défense américain en 2021 qu’une attaque ayant causé la mort de 15 civils s’écartait de la procédure. Pour ce faire, il a dû obtenir une autorisation spéciale du chef du Commandement central américain, le général Lloyd Austin, aujourd’hui secrétaire à la Défense. » « Avec Oussama Ben Laden, on avait un Indice de pertes non combattantes (IPNC) de 30, mais pour un commandant subalterne, cet IPNC était généralement nul », a déclaré Gersten. « On a longtemps fonctionné avec un IPNC nul. »

Certaines sources d’Abraham confient que cette politique était disproportionnée. Et que les souffrances des Gazaouis touchés par ces bombardements risquent, à long terme, de renforcer le Hamas.  

En fait, expliquent les sources d’Abraham, le nombre de dommages collatéraux autorisé n’a cessé de fluctuer, pour permettre les frappes. Le fait que la plupart des maisons de la bande de Gaza aient déjà été détruites ou endommagées, et que la quasi-totalité de la population ait été déplacée, a également réduit la capacité de l’armée à s’appuyer sur les bases de données de renseignement et les programmes automatisés de localisation des habitants et des habitations. Pour Abraham, lors des conflits précédents, les services de renseignement de l’armée consacraient beaucoup de temps à vérifier la fiabilité des calculs des dommages collatéraux possibles. Mais « après le 7 octobre, cette vérification rigoureuse a été largement abandonnée au profit de l’automatisation ». 

Visiblement, comme le notait déjà le New York Times, le système fonctionne avec un code couleur : le rouge indique les zones densément peuplées, tandis que le vert et le jaune indiquent les zones relativement vidées de leurs habitants. Le « logiciel calculait le nombre de civils résidant dans chaque maison avant la guerre – en évaluant la taille du bâtiment et en consultant la liste de ses occupants – puis réduisait ces chiffres en fonction de la proportion d’habitants ayant supposément évacué le quartier. » Le problème, bien évidemment, c’est que cette méthode était déconnectée de la réalité. « La source a indiqué que, malgré la connaissance des risques d’erreurs, ce modèle imprécis avait été adopté pour sa rapidité. De ce fait, a-t-elle précisé, « le calcul des dommages collatéraux était entièrement automatisé et statistique », produisant même des chiffres non entiers.»

Enfin, il faut également prendre en compte la latence des frappes. Un décalage important peut se passer entre le moment où les systèmes de suivi comme « Où est papa ? » alerte de l’arrivée d’une cible à domicile et le bombardement… pouvant entraîner la mort de familles entières, sans même que la cible n’ait été atteinte car elle pouvait être repartie. « Nous savions que la cible était chez elle à 20 h. Finalement, l’aviation a bombardé la maison à 3 h du matin. Nous avons alors découvert qu’il avait réussi à déménager avec sa famille dans une autre maison. Deux autres familles avec enfants se trouvaient dans l’immeuble que nous avons bombardé. » Le temps de traitement n’a rien d’immédiat, contrairement à ce que l’on peut croire. 

« Lors des précédents conflits à Gaza, après l’assassinat de cibles humaines, les services de renseignement israéliens procédaient à une évaluation des dégâts causés par les bombardements – une vérification de routine après une frappe afin de déterminer si le commandant supérieur avait été tué et combien de civils avaient péri avec lui. Comme l’a révélé une précédente enquête de +972 et Local Call, cela impliquait d’écouter les conversations téléphoniques des familles endeuillées. Dans le conflit actuel, cependant, au moins concernant le ciblage des militants subalternes par intelligence artificielle, des sources indiquent que cette procédure a été abandonnée par souci de gain de temps. Ces mêmes sources précisent ignorer le nombre de civils réellement tués lors de chaque frappe et, pour les opérations menées par des individus soupçonnés d’appartenir au Hamas ou au Jihad islamique palestinien (JIP) et identifiés par IA, elles ignorent même si la cible a été tuée. »

Hubert Guillaud

La seconde partie de l’article est à lire par ici.

Les assemblées se mettent en mode été !!! Question de profiter du beau temps, des fleurs qui poussent et des oiseaux qui chantent , on vous invite à une assemblée populaire rimouskoise sous la forme d’un pique nique , au Parc Beauséjour.

Le tout débutera par l’installation des plats, suivi d’une grande plénière et d’un projet artistique communautaire. Le reste de l’événement se prêtera autant à la discussion en sous-groupes, qu’à la rigolade sur le gazon et aux envies de jouer dehors !

On teste une formule potluck, donc si l’envie vous prend de cuisiner et de partager, une table sera installée pour y mettre vos plats et la description de ce qu’ils contiennent (surtout pour les allergies) ! Rien ne vous empêche d’apporter votre propre lunch en alternative ou en complément.

On vous invite aussi fortement à apporter votre vaisselle (plats, ustensiles, verres), mais nous aurons une réserve sur place au cas où. Afin de se laisser le temps de respirer, la table sera prête à accueillir vos plats à 11h30, et quand tout semblera bien installé, la plénière commencera .

Invitez vos proches et tout le voisinage!

INFO MÉTÉO : il fera beau, c’est certain, MAIS si jamais la température ne se prête pas à une assemblée, elle sera remise au lendemain. On vous fait un bulletin météo quelques jours avant.

Le chercheur italien Antonio Aloisi (qu’on a déjà évoqué plusieurs fois dans nos pages, notamment ici et là) a lancé une passionnante newsletter personnelle, Workable Futures. 

Dans sa dernière édition, il enterre l’économie des plateformes de travail. L’adoption d’une directive européenne « timidement audacieuse » sur les travailleurs des plateformes a fini par ramener un peu de réalité dans un monde de mythes surmédiatisés, explique-t-il. En fait, on dit souvent que le droit est en retard par rapport au rythme des évolutions technologiques, mais il semble bien que nous devrions reconsidérer la question et constater que le droit est en avance. Après plus de 10 ans de poudre aux yeux, aucune plateforme de l’économie collaborative en Europe ne peut se targuer d’une rentabilité solide, malgré le lobbying intense en leur faveur et les financements sans fin du capital risque qui sont venus subventionner le mode de vie des plus aisés que ce soit en proposant des livraisons ou des courses en voiture de luxe à prix cassé. Le grand cimetière de l’innovation est désormais rempli de startups qui proposaient d’ubériser tout et n’importe quoi. « Ce qui pu passer pour une voie vers la rentabilité s’est révélée guère plus qu’une redistribution des pertes, reportée sur les travailleurs et les fournisseurs. Même dans sa version la plus « optimisée » (celle qui repose sur le travail forcé), le modèle peine à générer un profit durable.» 

« Depuis des années, des armées d’avocats se disputent sur le dilemme épineux de savoir si les travailleurs indépendants doivent être considérés comme des salariés ou des travailleurs à leur compte ». « Les traditions juridiques nationales peuvent diverger, mais le constat est clair : le pouvoir d’exercer un contrôle absolu sur les travailleurs (qualifiés, à juste titre, de « subordonnés ») s’accompagne du devoir de garantir stabilité et protection. Le risque commercial doit être supporté par les fondateurs, et non transféré aux employés. Plus important encore, dans la plupart des pays occidentaux, ce modèle sous-tend un système de protection sociale solide, où les travailleurs financent leur propre sécurité sociale par le biais de cotisations salariales. Depuis l’avènement du capitalisme, c’est ainsi que les entreprises fonctionnent, avec un certain succès, à moins qu’elles ne choisissent de se réfugier dans un monde numérique d’exception. »

Des armées d’avocats, de politiciens, d’universitaires, d’entrepreneurs et d’éditorialistes  ont tenté de nous convaincre  que « la notion traditionnelle de subordination ne saurait s’appliquer à des structures organisationnelles aussi flexibles, voire imprévisibles ». « La directive européenne sur le travail sur plateforme affirme en substance qu’un modèle économique basé sur une plateforme n’est pas fondamentalement incompatible avec une relation de travail. Ce principe, bien que non révolutionnaire, a été salué à juste titre comme une avancée majeure. La plupart des observateurs ont également averti que l’introduction d’une présomption de travail n’est qu’un point de départ. » 

Ce dispositif procédural n’a aucun pouvoir miraculeux. Intégrer les travailleurs précaires dans le champ d’application du droit du travail ne résout pas, en soi, les problèmes de fond auxquels ils sont confrontés. La prochaine étape devrait consister à examiner la pertinence des dispositions relatives au travail dans des contextes et pour des travailleurs qui ne correspondent pas pleinement à l’idéal dominant. Le constat est sans appel, estime le chercheur. « Nous avons déployé une énergie intellectuelle considérable pour finalement ne pas légitimer un phénomène qui n’a jamais été conçu pour être légitime, et encore moins conforme à la loi ». « La réalité s’est avérée dure pour les plateformes », ironise le chercheur. « Le problème n’a jamais été que le droit était en retard sur l’innovation, mais que les modèles économiques étaient déconnectés de la réalité ». Nous avons été abusés par un « entreprenariat factice ». Ce sont les projets d’ubérisation qui sont bidons, pas le droit qu’il faut changer. 

« Cependant, les pratiques testées dans ce contexte sont depuis devenues un modèle pour des entreprises moins scrupuleuses. La surveillance intégrée aux applications de livraison de repas est désormais une fonctionnalité du tableau de bord collaboratif de votre employeur ; ce qui a été testé dans les centres d’appels est maintenant le modèle pour les annotateurs de données (ces travailleurs qui nettoient les ensembles de données extraits par ChatGPT). Le modèle de rémunération à la tâche s’est infiltré dans l’enseignement supérieur, la santé et le secteur culturel, dans un cycle sans fin de reproduction de la même logique. Les données que nous partagions autrefois avec légèreté en échange d’un bon de réduction sont devenues la base d’une nouvelle infrastructure prédatrice. »

« Les tribunaux du monde entier sont toujours englués dans des litiges concernant le statut d’emploi des travailleurs des plateformes, le temps de travail non rémunéré et la discrimination algorithmique. Pendant ce temps, sans grande finesse, l’entreprise orchestre discrètement l’obsolescence programmée de ses chauffeurs (et la sienne), façonnant les attentes quant à la suite des événements, marquée par une dégradation progressive des conditions de travail et la promesse d’une automatisation complète. »

« Le caractère pernicieux de cette stratégie explique son attrait. Les travailleurs sont considérés comme un simple obstacle à éliminer. Or, c’est faux : même lorsqu’ils sont relégués au second plan dans les champs des Pouilles à la récolte des légumes, sur le marché mondial en ligne de l’étiquetage des données, contraints de laver les sols de supermarchés prétendument entièrement automatisés ou embauchés pour surveiller des machines défaillantes (comme les superviseurs de véhicules autonomes forcés de se déguiser en sièges auto pour donner l’illusion de voitures fonctionnant sans intervention humaine). Ce système repose sur une main-d’œuvre massive et sous-payée, une armée de maîtres numériques maniant des algorithmes impitoyables, et la crédulité, la complaisance et la superficialité du reste d’entre nous. L’économie des petits boulots est morte. Il était temps ». Aloisi sait pourtant que la directive des plateformes ne suffira pas. L’économie des petits boulots est morte « et pourtant elle persiste ». « Un modèle économique qui n’a jamais été viable a néanmoins réussi à remodeler la perception du travail chez certains, une supercherie après l’autre. » Le risque est fort que cette perception continue d’infuser en continuant à niveler les salaires et les statuts par le bas. Avant que nous enterrions définitivement son cadavre, il est probable qu’elle aura fait encore beaucoup de mal à bien des travailleurs de bien des secteurs. 

La dérégulation est pour les perdants 

Dans la première édition de sa newsletter, Antonio Aloisi expliquait déjà que « la dérégulation est pour les perdants », en revenant sur la mauvaise idée européenne, suite au rapport Draghi, de porter une forme de dérégulation avec le projet de digital omnibus. Or, rappelle le chercheur, « l’affirmation selon laquelle la croissance de l’UE serait bloquée à cause de l’ensemble des règles juridiques que nous nous sommes imposées est, pour être honnête, sans fondement. Sans vouloir détourner le regard, les causes profondes se trouvent ailleurs : une intégration insuffisante, des marchés financiers fragiles, une culture de l’aversion au risque, des politiques migratoires inadaptées et des règles d’attraction des talents inefficaces » (autant de pistes, on s’en souvient, mises en avant par Anu Bradford). On le voit dans les discussions sans fin autour du Digital Omnibus européen qui réécrivent les textes européens sous prétexte de dérégulation, reportant ses échéances d’une correction l’autre. Ceux qui critiquent l’approche légaliste de l’UE ne seront jamais satisfaits : ils continuent de réclamer toujours plus de simplification créant une Union toujours plus « économiquement dépendante, technologiquement subordonnée et stratégiquement faible ». De l’autre côté, les entreprises sérieuses qui avaient déjà mis en place des protocoles pour se conformer aux dispositions législatives seront assez légitimement mécontentes. « Elles se percevront comme les naïfs du village dans un monde où règne une culture managériale déconnectée de la réalité. Refuser de se conformer et préférer se plaindre, d’une certaine manière, s’avère payant. Ce sentiment peut être extrêmement dangereux, comme dans le cas classique de l’évasion fiscale : pourquoi payer si tout le monde contourne allègrement les règles ? » La perspective d’une impunité totale au prétexte de l’innovation ne nous conduit nulle part. 

Pour Aloisi, le risque est fort que l’innovation ne devienne un concept vide de sens. Y’a-t-il vraiment un chef d’entreprise pour affirmer que sa startup a échoué « à cause d’une politique de cookies trop stricte ou des exigences du RGPD ? », ironise-t-il. 

La réalité n’est pas celle-ci, rappelle Aloisi. En Europe, des entreprises développent des produits et services de pointe dans des secteurs essentiels, de l’aéronautique à l’industrie pharmaceutique, de l’énergie aux microprocesseurs. Ces exemples illustrent une philosophie radicalement différente, qui s’attaque aux défis sociétaux majeurs plutôt que de fabriquer des chatbots pour des rencontres amoureuses ou des images pédopornographiques. Une « innovation patiente qui fait progresser la civilisation ». « Si une entreprise « disruptive » ne peut survivre parce qu’elle doit se conformer à des règles que la plupart d’entre nous suivons, c’est peut-être l’occasion de réévaluer la viabilité de son modèle économique. C’est un service que nous pouvons rendre à la véritable notion d’innovation, celle qui ne se contente pas de détruire, mais qui contribue à bâtir un monde meilleur. » « Les appels à démanteler la réglementation européenne en matière de développement durable et de numérique peuvent facilement se retourner contre ses auteurs. Il est facile de comprendre qu’un repli de l’UE engendrerait une fragmentation, une instabilité et une concurrence accrues entre les États membres pour occuper un espace ou combler un manque. C’est là que réside l’erreur de la déréglementation : ce processus ne profite ni aux PME européennes, ni à la souveraineté ou à la compétitivité de l’UE, ni à la position des consommateurs, des travailleurs ou des citoyens. C’est un fléau déguisé en bénédiction. Une option perdant-perdant qui ne ferait qu’éroder davantage la confiance dans les institutions, les règles et les dirigeants. » Nous devrions être plus sages et changer de cap, conclut-il. La dérégulation ne nous conduit nulle part. 

Hubert Guillaud

PS : Dans La Croix, Mimoun El Alami, de la Coopérative d’activité et d’emploi Stairling et Yannick Puisset, dirigeant de la coopérative d’activité et d’emploi Coop & Bât, signaient une tribune pour pointer que le statut de micro-entrepreneur, en France, est une bombe à retardement, dénonçant un statut concernant désormais 3,186 millions de personnes en France, sans droits suffisants. « Ce à quoi nous assistons ressemble à une réémergence du prolétariat. Pas un retour aux usines du XIXe siècle, mais à l’atomisation de millions de travailleurs, cols blancs comme cols bleus, seuls face à leurs clients, payés à la tâche, sans filet de sécurité. Le XXe siècle avait construit patiemment des structures de protection collective. Le statut de microentrepreneur, choisi par défaut, les contourne. » Des organisations comme le Syndicat des indépendants et des TPE ou la Fédération nationale des autoentrepreneurs portent des revendications précises : meilleure couverture maladie, accès à la formation, droits à la retraite. « Leur audience croissante dit quelque chose du vide institutionnel que ressentent des millions de travailleurs. » Avec le portage salarial et les Coopératives d’activité et d’emploi, ces modèles de protection sociale ne demandent qu’à grandir. Pour l’instant, les pouvoirs publics ne les aident pas suffisamment.

Rapidement quelques réflexions construites en préparant mon intervention lors d’une journée autour de l’IAG organisée par l’APDEN de Poitiers. Merci à toute l’équipe pour l’invitation et l’organisation.

Ecrire du code.

Arthur Mensch est Le PDG de Mistral AI, entreprise spécialisée dans l’IA et « licorne » française. Il vient d’être auditionné par l’assemblée nationale. Si vous vous intéressez au sujet, l’entretien est assez intéressant même s’il faut très souvent faire la part de ce qui relève de la réalité de cette firme (et qui peut être étendu à d’autres semblables) et la dimension très prégnante de l’opportunité de lobbying qui lui est ainsi offerte (mais c’est le jeu, il fait son taff, et il le fait plutôt très bien).

Deux séquences, ou plus exactement deux phrases m’ont beaucoup frappé dans cette intervention de presque une heure trente.

« Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Je répète et souligne : « Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. »

Et il poursuit : « Aujourd’hui vous n’êtes plus un artisan, vous êtes un manager, donc vous demandez à des agents (IA) d’écrire le code pour vous. Vous donnez les spécifications ; vous êtes un donneur d’ordre. » (la séquence est accessible à partir de 1h 8 min et 41 sec.

Et là quand j’entends ça j’ai plein de questions.
Première question : est-ce que c’est vrai ? Alors disons oui et non. Pour en avoir échangé avec des collègues informaticien.ne.s dont certain.e.s ont également travaillé dans ces grands groupes (Google et Facebook), disons que oui c’est vrai il existe des ingénieurs / développeurs qui n’écrivent plus de ligne de code, mais il existe aussi toujours quand même qui codent les agents IA qui à leur tour vont coder à la place d’autres ingénieurs et/ou développeurs. Il y a d’ailleurs une expression dédiée, on appelle cela du « Vibe Coding » qui consiste à créer du code informatique (par des initiés ou des non-initiés) en utilisant du langage naturel grâce à l’IA.

Deuxième question : est-ce que c’est grave ? Je n’ai pas la réponse à court terme mais à moyen terme j’ai l’absolue certitude que cela l’est. Et que cela l’est éminemment.

Troisième question : est-ce que c’est une bonne nouvelle ? Pour répondre, je vous propose de transposer la situation du PDG d’une boite d’IA expliquant que ses ingénieurs n’écrivent plus de ligne de code pour … coder, à la situation, par exemple, d’un ou d’une responsable de formation, d’un ou d’une enseignante, qui dirait : « je n’ai plus aucun étudiant / élève qui ait besoin de comprendre les concepts et notions que je manipule pour leur transmettre un savoir et qu’ils soient en capacité d’en produire de nouveaux à leur tour. Et là c’est, convenez-en, tout à fait vertigineux. Alors oui bien sûr, comparaison n’est pas raison, les ingénieurs d’Arthur Mensch ne sont pas les élèves ou étudiants dans nos classes et nos amphis, et oui bien sûr le code est un langage mais on pourrait philosopher quelques heures (en relisant Saussure, Chomsky, Wittgenstein et quelques autres) sur le fait qu’il est ou non une langue. Mais vous voyez l’idée.

Quatrième question. Si l’on s’accorde sur le fait que le code est une langue ou à tout le moins un langage, quand vous n’écrivez ou ne parlez plus une langue, au bout de combien de temps cessez-vous de la comprendre et de la maîtriser ? Arthur Mensch le dit lui-même, il est de cette génération « d’artisans du code » (il a 33 ans), il a appris cet artisanat et il dit aussi que cela lui a plu. Mais une autre génération arrive, qui n’aura plus la nécessité d’apprendre, ou d’apprendre autant. Alors que feront-ils ? Et s’ils n’écrivent plus une ligne de code mais doivent continuer de fabriquer des applications, alors que feront-ils … sans code ? Autre vertige.

Alors oui je sais, entre ce que dit Arthur Mensch, et le contexte et la place depuis lesquels il dit cela, il y a tout de même une série de nuances à apporter. Pour autant, dans le champ scientifique qui est le mien (les sciences de l’information et de la communication), il nous appartient précisément de prendre des énoncés pour ce qu’ils disent dans l’instant, autant que pour ce qu’ils installent aussi en terme de narration sociale plus ou moins implicite. Et Arthur Mensch « incarnant » et portant le discours technophile, accélérationniste et dérégulateur autour de l’IA, ce qu’il dit (même si cela n’est que 2 minutes dans une vidéo d’une heure trente) est en soi un énoncé particulièrement performatif auprès de celles et ceux qui l’écoutent. Et ce que dit Arthur Mensch c’est que « aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Comprenez et entendez que donc tous les ingénieurs dans toutes les entreprises d’IA qui sont ou se rêvent en futures licornes, n’écrivent et n’écriront plus une ligne de code ou en tout cas n’ont et n’auront plus vocation à le faire. Juste du Vibe Coding.

Le cauchemar de Lessig.

« Code Is Law. » (traduit en français par Framasoft). « Le code c’est la loi. » C’est un livre (paru en 1999, « Code And Other Laws of Cyberspace« ) et un article (paru en 2000). C’est l’un des textes fondateurs de la culture numérique. Publié au début des années 2000, absolument fondamental et totalement visionnaire, Lawrence Lessig (professeur de droit, spécialiste de propriété intellectuelle, inventeur des licences Creative Commons, etc.), Lawrence Lessig y explique notamment que le code est un régulateur, que le code décide et que le code :

« définit la manière dont nous vivons le cyberespace. Il détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. Il détermine si l’accès à l’information est global ou sectorisé. Il a un impact sur qui peut voir quoi, ou sur ce qui est surveillé. Lorsqu’on commence à comprendre la nature de ce code, on se rend compte que, d’une myriade de manières, le code du cyberespace régule. »

Et il poursuit en expliquant que :

Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n’est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D’autres gens – les codeurs – le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix – et si nous pourrons alors déterminer la manière dont ces valeurs se régulent – ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place. 

D’où ma dernière question : if « Code Is Law », then what da fuck is Vibe Coding ?

Le « Vibe Coding », un monde dans lequel les entreprises les plus puissantes en IA n’auraient que des ingénieurs et des développeurs n’écrivant plus de ligne de code, ce monde c’est le cauchemar de Lawrence Lessig et notre cauchemar à toutes et tous. Car si les codeurs eux-mêmes sont à distance du langage ou de la langue par laquelle ils installent des valeurs dans le code, s’ils ne parlent ou n’entendent plus cette langue et s’ils se réduisent à des fonctions de « managers d’agents IA – faussement – autonomes », alors comment elles et eux en première ligne, et surtout comment nous toutes et tous en première cible, comment serons-nous encore capables de jouer collectivement un rôle dans la circulation et l’établissement de ces valeurs, de ces agendas politiques, économiques, idéologiques, que le code véhicule et qui n’ont jamais été aussi puissants et déterminants, et dans le même temps jamais à ce point été inféodés à des intérêts presqu’uniquement marchands, mafieux et singuliers ?

Si le code se passe de développeurs autres que des agents non-humains, alors la question de la maîtrise des valeurs que le code véhicule devient une non-question, un inquestionnable.

« Un algorithme c’est la décision de quelqu’un d’autre » me faisait l’honneur d’écrire Antonio Casilli dans la préface à l’un de mes tout premiers ouvrages. Et ce quelqu’un n’était pas extrêmement compliqué à trouver, à isoler, et à questionner. Mais un algorithme « vibe codé » c’est la décision de … qui ?

« Les limites de mon langage signifient les limites de mon propre monde » écrivait Wittgenstein.

L’intelligence c’est de l’énergie (et la connerie c’est de l’énergie moins chère).

Arthur Mensch dit aussi plein d’autres trucs qui installent des narratifs extrêmement clairs et puissants dans leur fonction d’agenda. Par exemple à plusieurs reprises il répète qu’il faut réfléchir ou considérer l’intelligence comme on réfléchit à l’énergie, à l’électricité. Alors bien sûr il parle de l’intelligence artificielle. Mais il ne dit pas « intelligence artificielle », il dit juste « intelligence ». Et ce n’est pas « juste » une omission ou un raccourci. C’est l’endroit d’où il parle, celui d’où il est situé, c’est l’énoncé de son futur probable et de son futur désiré, d’un futur qui répond à « son » agenda propre. Un mode dans lequel en effet l’intelligence se capte, se stocke, se transmet et se calcule comme l’énergie, comme l’électricité. D’ailleurs et c’est aussi extrêmement frappant, à plusieurs reprises et sur plusieurs questions, il commence toujours par répondre en nombre de kilowatts ou de mégawatts. C’est son unité de mesure, son mètre étalon et ce sur presque l’ensemble des questions qui lui sont posées et adressées. Tout se calcule en kilowatts ou mégawatts. Tout est là. Toutes les réponses sont là. Un mètre étalon. Qui est aussi son plus grand talon d’Achille (à lui et à l’ensemble de l’industrie extractiviste de l’IA).

Les deepfakes, ces images et vidéos convaincantes générées par l’IA représentant de vraies personnes, sont de plus en plus utilisées pour escroquer des individus partout à travers le monde. Mais la régulation est à la traîne, estiment les chercheuses de Data & Society dans un intéressant rapport sur le phénomène, qui montre que la vigilance individualisée ne suffit pas à répondre à ces fraudes industrialisées. Il nous faut améliorer la responsabilité institutionnelle, expliquent-elles. 

Ces arnaques par usurpation d’identité qui visent à escroquer des individus ou des entreprises sont difficiles à poursuivre, car les auteurs se trouvent souvent très loin de leurs victimes. Reste que les préjudices sont bien réels : pertes financières, atteinte à la réputation des personnes dont l’identité est usurpée… 

Omniprésentes, fréquentes… Ces fraudes semblent surtout impunies et érodent la confiance dans les intermédiaires par lesquels elles passent. « Avec les outils d’IA mis à sa disposition, l’escroquerie est devenue une industrie sophistiquée et mondialisée, qui utilise ces outils pour étendre ses effets et sa crédibilité », comme le disaient déjà les chercheurs dans une première enquête sur le sujet. L’IA a permis d’améliorer leur ampleur, leur portée et leur pouvoir de persuasion. « Lorsque ces deepfakes sont combinés à des informations personnalisées, souvent obtenues par le biais de fuites de données, les escroqueries deviennent encore plus convaincantes, remettant en question la capacité réelle des individus à détecter la tromperie. Les escrocs utilisent fréquemment des publicités sur les réseaux sociaux pour identifier et cibler des victimes potentielles, puis poursuivent les interactions vers des applications de messagerie privée, où la surveillance est limitée et le traçage des activités frauduleuses devient beaucoup plus difficile. » Le rapport rapporte nombre d’exemples de fraudes dans nombre de pays qui ont émaillé l’actualité récente. 

L’évaluation des préjudices est elle-même difficile, tant les techniques sont différentes et du fait que très peu de victimes signalent les incidents. Aux États-Unis, le Centre des services financiers de Deloitte estime que les pertes liées à la fraude attribuable à l’IA générative pourraient passer de 12,3 milliards de dollars en 2023 à 40 milliards de dollars d’ici 2025, en raison à la fois des progrès techniques et des vulnérabilités en matière de cybersécurité. Le rapport de Resemble AI (qui tient à jour une base de données sur les incidents) estime que la fraude financière par deepfakes a causé près de 350 millions de dollars de pertes financières au deuxième trimestre 2025. Ce chiffre sous-estime probablement l’ampleur des pertes, car la fraude est notoirement sous-déclarée. 

L’étude de Data & Society s’intéresse aux acteurs qui facilitent l’escroquerie, notamment les réseaux sociaux qui aident les escrocs à atteindre leurs victimes et à améliorer l’usurpation d’identité et les applications de messagerie qui fournissent l’infrastructure au phishing et permettent de détourner les victimes des espaces publics et de les emmener dans des canaux où la surveillance est minimale et l’intervention difficile. Nombre de faux sites qui vont permettre l’hameçonnage sont également accessibles facilement. Pourtant, c’est souvent la disponibilité de publicités frauduleuses chez Meta par exemple, qui se révèle une des portes d’entrée de l’escroquerie. « La capacité de cibler les publicités en fonction des centres d’intérêt, des données démographiques et d’autres facteurs est utilisée comme une arme par les escrocs ».

L’autre porte d’entrée sont les réseaux de télécommunications et notamment le spam via SMS (selon une étude sur les 1,3 millions de signalement des usagers britannique d’un service anti-spam, 40% des SMS problématiques reçus relèveraient de l’escroquerie, et malgré le déploiement de pare-feu SMS par les opérateurs qui en arrêtent beaucoup). Mais là encore, les pratiques évoluent, le phishing par URL est de plus en plus souvent remplacé par des tactiques conversationnelles.

Enfin, le rapport accable également les institutions financières elles-mêmes, puisque toutes les escroqueries utilisent des systèmes de paiement, des possibilités de virement ou d’accès aux comptes des usagers visant à contourner les procédures de vérification, entraînant des transferts rapides et difficiles à annuler une fois effectués. « Contrairement aux victimes individuelles, les institutions financières peuvent observer les schémas de transactions sur différents comptes, clients et au fil du temps, ce qui leur permet de détecter des anomalies telles que des pics soudains de transferts vers de nouvelles destinations, des paiements coordonnés vers certains comptes ou des transactions répétées associées à des escroqueries par usurpation d’identité ». « Les obligations de lutte contre le blanchiment d’argent et de connaissance du client (KYC) – voir notre article sur la débancarisation expliquant ces enjeux – positionnent formellement les banques comme des acteurs de première ligne dans la détection et la perturbation de la fraude, mais ces cadres n’ont pas été conçus en tenant compte de l’usurpation d’identité facilitée par l’IA. » 

Les enquêtes journalistiques les plus détaillés sur la nature mondiale et opaque de la fraude financière facilitée (ici et là notamment) par les deepfakes montrent que ces escroqueries sont rendues possibles via des sociétés écrans, des comptes offshore et des cryptomonnaies qui permettent de brouiller les pistes des extorsions. Le rapport 2025 de l’Office des Nations Unies contre la drogue et le crime montre que l’utilisation de l’IA pour la fraude est particulièrement répandue dans les pays d’Asie du Sud-Est comme la Thaïlande et le Cambodge. Les « usines à fraude » et les « centres d’escroquerie » (dont beaucoup reposent sur le travail forcé et la traite des êtres humains, comme le montrent Mark Bo, Ivan Franceschini et Ling Li dans leur terrifiant livre, Scam, Verso, 2025) combinent des outils de traduction basés sur l’IA et des techniques avancées de clonage vocal pour usurper l’identité de membres de la famille, d’employeurs et de personnalités publiques afin d’extorquer de l’argent grâce à des escroqueries téléphoniques et vidéo sophistiquées et de plus en plus difficiles à détecter, comme le pointait récemment 404 média, montrant que désormais les systèmes vidéos permettent d’imiter le visage de n’importe qui sans qu’il soit possible de le confondre (par exemple, en lui demandant de passer sa main devant son visage, ce qui a longtemps déformé l’image du visage : ce n’est plus le cas !).

Les réponses réglementaires, elles, sont principalement basées sur la prévention et sur le démantèlement rapide des escroqueries. Pas sûr que cela suffise. Le rapport énumère nombre de mesures que prennent les pays et les acteurs financiers en la matière. Dans le podcast de Tech Policy Press, Alice Marwick, directrice de la recherche chez Data & Society, et Anya Schiffrin, codirectrice du pôle politique technologique et innovation de l’École des affaires internationales et publiques de l’Université Columbia, co-autrices du rapport, expliquent que les réponses face au problème ne sont pas toutes à la traîne. A Taïwan, par exemple, les plateformes sont désormais tenues responsables de certains deepfakes, notamment publicitaires. Mais surtout, elles dénoncent une chaîne d’approvisionnement des arnaques : « il y a ceux qui conçoivent les arnaques et ceux qui les diffusent », et parmi ces derniers ont trouve les plateformes publicitaires comme Meta, des banques, des opérateurs télécoms… Les publicités frauduleuses sont le premier étage des arnaques. Celles-ci ne sont pas nécessairement très sophistiquées, l’une des plus cliquées était une publicité pour McCormicks, la marque d’épices américaine et elle proposait simplement aux gens d’envoyer 20$ contre un présentoir. Elle a été diffusée dans les flux publicitaires de Facebook au milieu de publicités d’entreprises légitimes. Facebook est aujourd’hui au coeur du problème et il n’est pas contraint à agir. Quant aux problèmes des arnaques par SMS, le filtrage des opérateurs n’est pas assez fort :  « nous pourrions exiger davantage d’innovation de la part des opérateurs de téléphonie mobile et des fournisseurs de réseaux télécoms ». Pour les chercheuses, la traque des criminels ne suffit pas. Il faut trouver les moyens d’agir sur les intermédiaires qu’ils mobilisent. 

Justin Hendrix de Tech Policy Press évoque également l’initiative du Check My Ads Institute qui propose d’imposer aux plateformes des systèmes de contrôle et de vérifications de leurs clients. Pour Alice Marwick, pour l’instant, les législations contre le blanchiment d’argent et le financement du terrorisme ont surtout porté sur les banques et institutions financières, mais assez peu sur les plateformes sociales. Mais celles-ci ne cessent de répéter que c’est trop compliqué à mettre en œuvre. La réponse est un peu facile, vous ne trouvez pas ?

« À la fin de notre premier article sur les arnaques, nous abordons le problème du spam et ses nombreuses similitudes avec celui des arnaques. Le spam menaçait de rendre la messagerie électronique quasiment inutilisable. Ce problème a été résolu grâce à la combinaison de trois facteurs. Premièrement, la réglementation. La loi CAN-SPAM a instauré des sanctions pour l’envoi de spams. Deuxièmement, l’amélioration des techniques. Grâce à un meilleur savoir-faire et à des technologies plus performantes, Google et d’autres ont intégré des filtres anti-spam plus efficaces dans les boîtes de réception. Troisièmement, l’évolution des mentalités a permis aux utilisateurs de mieux identifier les spams. Je pense que pour lutter efficacement contre les arnaques, nous aurons besoin de ces trois éléments », conclut Marwick.

Aux Etats-Unis, la fédération des consommateurs vient de lancer des poursuites judiciaires contre Meta en raison de la manière dont l’entreprise laisse prospérer les arnaques sur sa plateforme, rapporte Wired. Pour faire bouger le sujet, il va falloir effectivement que les victimes mobilisent plus activement le législateur.

Dans le New Yorker, l’écrivaine Jessica Winter revient sur l’invasion de l’IA à l’école. Elle pensait être tranquille jusqu’à ce que ses enfants entrent au lycée au moins. Il n’en a rien été. Sa fille de 11 ans qui vient d’entrer au collège a reçu un Chromebook sur lequel Gemini était préinstallé. Quelque soit les travaux qu’elle doit y accomplir, d’innombrables messages lui proposent de l’aider à écrire, à modifier ses présentations, à générer des images… Désormais l’IA est là. « Elle lit ses poèmes et connaît ses mots de passe. Elle l’observe constamment à travers l’écran. » 

Aux Etats-Unis, aucune entreprise d’IA ne détient de monopole sur l’école. Mais elles sont présentes partout. Dans les écoles publiques de Boston, les élèves de sixième utilisent les chatbots d’OpenAI et d’Anthropic pour se préparer aux tests standardisés. Dans les districts scolaires de New York et de Los Angeles, entre autres, des élèves de maternelle interagissent avec Amira, un robot de lecture ludique qui enregistre leur voix afin de leur fournir des commentaires personnalisés grâce à l’IA. Un parent d’élève d’école publique de Brooklyn a raconté qu’en cours d’arts plastiques, les élèves de CE1 pouvaient créer des œuvres avec l’IA grâce à Adobe Express for Education… « Le soutien à l’IA générative dans les écoles primaires et les collèges repose sur la conviction qu’une initiation précoce à cette technologie favorisera la culture numérique, donnera aux élèves des bases en ingénierie et les préparera à un avenir où la plupart des professions seront fortement influencées par l’IA. » 

Des outils… pour fidéliser les enfants

Dans le cadre d’un des procès contre les géants du numérique aux Etats-Unis, des documents internes de Google ont montré que la motivation de Google à fournir des outils aux écoles visait à « fidéliser les enfants à vie », rappelait le journaliste Tyler Kingkade pour NBC News en janvier. Pour Sarah Gardner, la responsable de Heat Initiative, une association de parents militants critique des plateformes de médias sociaux, nous devrions surtout nous interroger pour savoir pourquoi nous laissons les géants du numérique s’accaparer le marché scolaire. Et notamment Google, qui domine largement ce marché. « Selon les cabinets d’études de marché, les écoles représentent aujourd’hui 80 % des achats de Chromebooks. En 2017, Google annonçait que plus de la moitié des élèves des écoles publiques américaines utilisaient ses applications et produits pour leurs travaux scolaires. En 2021, ce chiffre dépassait les 170 millions d’élèves et d’enseignants à travers le monde. » 

Jessica Winter pointe de nombreuses études qui montrent les limites de l’usage de l’IA dans le cadre scolaire. La Brookings Institution a publié une analyse préliminaire sur l’IA et l’éducation des enfants, combinant l’analyse d’environ quatre cents études et des centaines d’entretiens avec des élèves, des parents, des enseignants et des spécialistes des technologies. Cette analyse conclut que les outils d’IA « compromettent le développement fondamental des enfants ». 

Même certains défenseurs de l’IA dans l’éducation reconnaissent que l’IA présente des risques cognitifs et socio-émotionnels importants pour les jeunes. Amanda Bickerstaff est la cofondatrice et présidente de l’organisation AI for Education, qui propose des formations aux enseignants et aux élèves sur l’intelligence artificielle générative. « Les enfants de moins de dix ans ne devraient pas utiliser de chatbots », explique-t-elle. « Ces outils requièrent une expertise et des compétences d’évaluation que même de nombreux adultes ne possèdent pas. » La décision de Google de rendre Gemini accessible à tous les âges, a-t-elle ajouté, est l’une des rares fois de sa carrière où elle a perdu le sommeil à cause d’une question professionnelle. Elle se souvient avoir pensé : « ils savent pertinemment que cela va être néfaste pour les enfants, et pourtant, ils persistent. » Bickerstaff poursuit : « Je ne pense pas qu’ils se posent des questions fondamentales comme : “Si un enfant peut immédiatement créer une image au lieu de la dessiner, qu’adviendra-t-il de sa capacité à réfléchir et à dessiner par lui-même ?” » Drew Bent, responsable de la recherche en éducation chez Anthropic, répond : « Ce n’est pas à nous, en tant qu’entreprise, de dire : “Utilisez l’IA à tel âge, pas à tel autre.” » 

La fille de Winter a réalisé une présentation qui comportait nombre de défauts. L’IA lui a proposé de les corriger. Mais elle est restée imperturbable face à la proposition : « Je préfère la mienne, parce qu’elle est originale et que j’y ai mis tout mon cœur. Je préfère la mienne parce qu’elle ne m’a pas pris trente secondes. » 

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement « bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive ». « Les enfants n’ont pas ce filtre adulte qui consiste à extraire stratégiquement des informations de leurs expériences, et retiennent donc une multitude de détails inattendus que les adultes jugeraient sans intérêt. Cela leur permet d’être créatifs d’une manière qui nous est inaccessible », explique un psychologue. Dans son livre, Teaching Machines (MIT Press, 2020), la journaliste spécialiste des questions d’éducation technologiques, Audrey Watters (voir aussi sa newsletter), rappellait que l’apprentissage personnalisé a toujours été le rêve de ceux qui automatisent l’éducation. 

C’est ce que proposent les promoteurs d’IA dans l’éducation à l’image du programme de formation pour les enseignants, de l’Académie nationale pour l’enseignement de l’IA. L’académie, dont le siège se trouve dans les locaux de la Fédération unie des enseignants (UFT) à Manhattan, est un projet conjoint de l’UFT et de la Fédération américaine des enseignants (AFT), financé par un partenariat de vingt-trois millions de dollars avec Microsoft, OpenAI et Anthropic. Les cours en présentiel et en ligne proposés par l’académie visent à aider les enseignants « non pas à accepter l’inévitable, mais à le maîtriser », explique Randi Weingarten, présidente de l’AFT.  Celle-ci n’est pourtant pas une prosélyte. Si les membres du syndicat sont en désaccord avec la politique pro-IA de leur district scolaire, ou s’ils ne veulent pas que Gemini s’immisce dans les espaces de travail de leurs élèves, « nous les défendrons », raconte-t-elle à Winter. Nombre de syndicats d’enseignants américains ont refusé de collaborer avec Google car l’entreprise « n’a pas fait les promesses que nous attendions concernant la protection de la sécurité et de la vie privée des élèves et du personnel. »   

D’autres organisations, dirigées par des enseignants et des parents, tentent également de mettre en place des systèmes d’autorisation pour limiter l’utilisation de l’IA dans les écoles. Craig Garrett, dont l’enfant fréquente une école publique de Brooklyn, a créé un groupe WhatsApp de parents inquiets après avoir découvert que son enfant, alors en maternelle, lisait devant l’assistant vocal Amira en classe depuis le début de l’année pour que celui-ci le corrige. Des militants se demandent si l’utilisation d’Amira en classe, par l’enregistrement des voix des élèves, enfreint une loi de l’État de New York interdisant la « divulgation non autorisée d’informations personnelles identifiables ». Garrett fait également partie de la Coalition pour un moratoire sur l’IA, un groupe d’enseignants, de parents et d’élèves de toute la ville qui demande au maire de New York, Zohran Mamdani, et à Kamar Samuels, le chancelier des écoles, un moratoire de deux ans sur l’utilisation de l’IA dans les écoles primaires et secondaires. Un groupe similaire, Schools Beyond Screens, a été créé l’année dernière parmi les parents du district scolaire unifié de Los Angeles. Parmi les objectifs de Schools Beyond Screens figure un contrôle plus strict des contrats lucratifs que les districts scolaires urbains concluent avec les entreprises technologiques. L’association souhaite également que les districts établissent des directives de consentement plus claires concernant l’utilisation des plateformes numériques et adoptent une Charte des droits des élèves en matière de technologie, incluant le droit de « lire des livres entiers », de « lire et d’écrire régulièrement sur papier » et de bénéficier d’un « environnement d’apprentissage peu stimulant ». 

La présence de Chromebooks dans les salles de classe n’est pas inévitable, espère Winter. Comme le montrait la journaliste Natasha Singer dans le New York Times, la polémique autour de la technologie à l’école ne se limite pas aux téléphones. Le collège McPherson, au Kansas, qui a interdit les téléphones portables des élèves pendant les heures de cours, depuis 2022, les laissait regarder des vidéos ou jouer aux jeux vidéos sur les Chromebooks qu’elle leur fournit et qu’ils utilisent en classe. Face à cette contradiction de plus en plus flagrante, le collège a fait machine arrière. En décembre 2025, il a demandé aux élèves de rendre les ordinateurs portables. 

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie. Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage. Aujourd’hui, Google et Microsoft, ainsi que de nouveaux venus comme OpenAI, rivalisent pour diffuser leurs chatbots d’intelligence artificielle dans les écoles. Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves. Certains chercheurs et organisations, comme l’UNESCO, mettent même en garde contre une dépendance excessive à la technologie, qui peut distraire les élèves et nuire à leur apprentissage. Des écoles de Caroline du Nord, de Virginie, du Maryland et du Michigan, qui achetaient autrefois un appareil pour chaque élève, réévaluent désormais l’utilisation intensive des technologies en classe. Et les Chromebooks, les ordinateurs portables les plus populaires dans les écoles américaines, sont devenus un point central de ces discussions. Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves. » Avec le fait que plus de 30 États américains ont limité ou interdit l’utilisation des téléphones portables par les élèves à l’école, le retrait des Chromebooks est le signe d’une prise de conscience, estime Singer. De plus en plus de parents soutiennent des initiatives comme Schools Beyond Screens et le Distraction-Free Schools Policy Project, visant à contrôler et limiter l’utilisation des technologies à l’école. Dix États, dont le Kansas, le Vermont et la Virginie, ont récemment déposé des projets de loi pour limiter le temps d’écran des élèves, exiger des preuves de sécurité et d’efficacité pour les outils numériques scolaires ou permettre aux parents de refuser que leur enfant utilise des appareils numériques pour apprendre. 

Face aux accusations de tout acabit, Google a déclaré avoir fourni aux établissements scolaires des outils pour verrouiller les écrans des Chromebooks des élèves, limiter le contenu qu’ils consultent, gérer leur accès à YouTube et désactiver les Chromebooks après les cours. L’entreprise a également indiqué avoir désactivé YouTube par défaut pour les élèves du primaire et du secondaire disposant d’un compte Google scolaire. 

A McPherson, au Kansas, profs et élèves semblent redécouvrir qu’il y a un monde hors du numérique. 

Dans au autre article, Singer (qui publiera en août un livre sur l’invasion des technologies à l’école, Coding Kids, Norton, 2026) prolonge le sujet d’autres exemples encore. Suite à des réclamations de parents, « le conseil scolaire de Los Angeles a adopté une résolution exigeant du district qu’il limite l’accès des élèves à YouTube, supprime totalement les appareils numériques jusqu’en CP et instaure des limites de temps d’écran pour les classes supérieures, faisant de Los Angeles le premier grand système scolaire américain à prendre une telle mesure. » Le mois dernier, le gouverneur de l’Utah a promulgué une loi permettant aux parents de consulter le temps passé par leur enfant sur un appareil scolaire et de vérifier les sites web visités. A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens. Les districts scolaires sommés d’évaluer les outils qu’ils utilisent sont souvent à la peine par manque de moyens. A Los Angeles, Nick Melvoin avec l’association Schools Beyond Screens, a présenté une nouvelle résolution visant à limiter l’accès aux technologies à l’école. Outre la mise en place de nouvelles limites de temps d’écran pour chaque niveau scolaire, cette politique imposera aux écoles primaires et collèges d’interdire l’utilisation des appareils électroniques par les élèves pendant la pause déjeuner et la récréation. Le district devra également établir un rapport sur tous les contrats technologiques scolaires en vigueur. 

L’université est également colonisée

Mais il n’y a pas qu’à l’école, au collège ou au lycée que le déploiement de l’IA pose problème. L’université d’État de Californie (Cal State), fort de 460 000 étudiants et de 22 campus, ambitionne de devenir la plus grande université américaine spécialisée dans l’IA, rapportait en octobre 2025 la journaliste Natasha Singer pour le New York Times. Amazon et OpenAI y déploient des programmes de formation sur leurs produits d’IA. L’université a signé un contrat de 16,9 millions de dollars à OpenAI pour fournir ChatGPT Edu, l’outil de l’entreprise destiné aux établissements scolaires, à plus d’un demi-million d’étudiants et de membres du personnel – un déploiement qu’OpenAI a qualifié de plus important déploiement mondial de ChatGPT à ce jour. « Le renforcement des liens entre Cal State et l’industrie témoigne d’une transformation profonde des rapports de force sur les campus américains ». Il ne s’agit plus seulement de fournir un peu de matériel ou des outils, mais ici, de fournir un partenariat pédagogique impliquant une transformation des modalités pédagogiques mêmes. 

L’université ambitionne de construire « un système d’enseignement supérieur basé sur l’IA qui surpasse tous les modèles existants, tant par son ampleur que par son impact ». Là encore, pourtant, certains professeurs se sont opposés à ce projet d’IA, alors que l’université est confrontée à d’importantes coupes budgétaires. Pour eux, le contrat de plusieurs millions de dollars avec OpenAI – pour lequel l’université n’a pas ouvert d’appel d’offres à des concurrents comme Google – tient du gaspillage (alors que le réseau des community colleges de Californie a obtenu gratuitement les services de chatbot IA de Google pour plus de deux millions d’étudiants et de professeurs).

Les conseils de faculté de plusieurs campus de Cal State ont adopté cette année des résolutions critiquant l’initiative en matière d’IA, affirmant que l’université n’avait pas suffisamment pris en compte le problème de la tricherie via les chatbots. Les professeurs ont également déclaré que les plans de l’administration minimisaient les risques que l’IA fait peser sur l’esprit critique des étudiants et ignoraient les pratiques de travail problématiques du secteur ainsi que les coûts environnementaux. Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin. 

Une étude récente de chercheurs de Stanford rapportée par le Hechinger Report, montrait par exemple que les outils d’IA ne faisaient pas les mêmes corrections de copies aux élèves selon leurs origines ethniques. « Les dissertations attribuées à des étudiants noirs ont reçu davantage d’éloges et d’encouragements, quand celles attribuées à des étudiants hispaniques étaient plus susceptibles de susciter des corrections grammaticales et orthographiques. Lorsque l’étudiant était identifié comme blanc, les commentaires portaient plus souvent sur la structure de l’argumentation, les preuves et la clarté – des remarques qui peuvent inciter les étudiants à approfondir leurs idées. » 

De nombreux enseignants affirment qu’un enseignement adapté aux réalités culturelles – qui prend en compte l’identité et le vécu des élèves – peut accroître leur engagement scolaire. Mais, si certains élèves sont systématiquement protégés des critiques et ne sont pas incités à progresser en leurs montrant leurs lacunes, le risque est fort d’aggraver encore les différences ethno-sociales. « Le risque est que, sans une vigilance accrue, cette personnalisation puisse abaisser le niveau d’exigence pour certains élèves tout en le relevant pour d’autres. »

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services. En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. » Quand Google déploie son chatbot auprès des moins de 13 ans, « Google affirme clairement que ces problèmes ne le concernent pas, puisqu’il rejette explicitement la responsabilité sur les parents dans l’annonce du lancement imminent de son produit. Les parents, selon Google, doivent rappeler à leurs enfants de ne pas partager d’informations sensibles avec le chatbot. Les parents, dit l’entreprise, doivent « aider leurs enfants à développer leur esprit critique ». Les parents, dit Google, doivent rappeler à leurs enfants que « Gemini n’est pas humain ». 

Pour Waters, « il ne s’agit pas simplement d’automatiser l’enseignement et l’apprentissage formels (comme si ce n’était pas déjà assez grave) ; il s’agit de saper le savoir ».

Pourquoi l’IA semble-t-elle la solution à l’enseignement ? 

Le chercheur américain Daniel Greene livre pour le magazine de l’association américaine des professeurs d’université (Aaup) une stimulante synthèse des enjeux du développement de l’IA à l’université. L’université est traversée par d’innombrables crises et la dernière en date est liée au développement d’une technologie perçue à la fois « comme une atteinte fondamentale à notre mission éducative et comme une solution potentielle : l’IA générative ». Lorsque nous abordons la question du rôle de l’IA sur les campus, « nous devons à la fois être attentifs non seulement aux codes écrits avec Claude ou aux feuilles de calcul nettoyées avec Gemini, mais aussi aux fonctions politiques et économiques que cette technologie remplit au sein de nos institutions – et pour qui ». Une récente enquête de l’Aaup soulignait pourtant que les professeurs se sentent exclus des décisions importantes concernant l’IA sur le campus. En fait, ils ont peu de place pour décider des achats auxquels procèdent les établissements et encore moins sur la conception, l’utilisation et la réglementation des déploiements de l’IA à grande échelle sur les campus. Cela ne les empêche d’avoir très concrètement à combattre et négocier l’IA dans leur enseignement, leur recherche et leurs services. 

Reste que si les responsables des universités, les élus et les administrations sont si enthousiastes à propos du développement de l’IA sur les campus, c’est d’abord parce que le travail dans l’enseignement supérieur (comme dans l’administration ou les hôpitaux) est à forte intensité de main d’oeuvre et qu’il est difficile à automatiser. Pire, la croissance de la productivité y reste faible. « Nous enseignons à peu près de la même manière qu’il y a soixante ans, mais tout (y compris la main-d’œuvre) coûte plus cher. » Le succès de l’IA n’est pas tant à chercher dans ses performances pour aider les élèves à apprendre, mais reste d’abord et avant tout une promesse d’optimisation des coûts. Une optimisation théorisée dans les années 60 par l’économiste William Baumol sous le nom de maladie des coûts. 

Comme l’explique Nicholas Beuret dans Jacobin, la productivité du travail n’est pas la même dans tous les secteurs. Dans certains secteurs, la productivité n’évolue pas. Jouer une pièce de Shakespeare prend le même temps aujourd’hui qu’il y a 5 siècles. Dans les services à forte intensité de main-d’œuvre, comme la santé ou l’éducation, les salaires augmentent malgré une productivité stable, ce qui entraîne une hausse du coût relatif de ces services. « La maladie des coûts de Baumol engendre une faible croissance économique où les services essentiels, tels que les soins de santé ou d’éducation, deviennent inabordables, tandis que le prix des téléviseurs baisse d’année en année. » Avec la concurrence de l’IA, c’est tout le secteur des services qui est menacé par la maladie des coûts. A terme, estime Beuret, le risque est que des pans entiers de l’économie contemporaine deviennent non viables. Il en résulterait une stagnation profonde et persistante, et non une résolution. Et les timides projets de revenu universel défendus par les technophiles de la Silicon Valley seraient ridiculement insuffisants face à un tel événement. A terme, le succès de l’IA serait la plus grande menace économique que nous ayons à affronter. 

Pour Greene, la maladie des coûts est encore plus vive dans le contexte de la réduction des financements publics. Les frais de scolarité remplacent les investissements publics. Les étudiants veulent donc obtenir leur diplôme le plus rapidement possible pour s’endetter le moins possible, poussant l’enseignement supérieur à fonctionner comme des usines à diplômes. Et ChatGPT et les autres outils d’IA permettent d’accélérer la délivrance de diplômes. Pourtant, la maladie des coûts, n’explique par pourquoi en à peine un an, tant d’établissements d’enseignements supérieurs ont trouvé les fonds nécessaires pour créer des instituts et des diplômes d’IA. « Il s’agit manifestement d’un phénomène politique ». A l’heure où l’éducation supérieure est attaquée au niveau fédéral et où l’image de l’éducation supérieure accusée de toutes parts par l’administration Trump, l’adoption de l’IA est là pour réhausser le prestige et apaiser les détracteurs. 

« Ni les professeurs ni les administrateurs n’ont de contrôle sur les fonctionnalités d’IA intégrées aux logiciels d’entreprise », qui se déploient via de simples abonnements, explique Greene. Dans les universités, l’IA ne se déploie pas seulement dans les outils mis à disposition des professeurs et des élèves, mais également dans des logiciels de paye, de recrutement, et via des systèmes de surveillance. Elle est aussi une aubaine pour contrôler les contenus et les personnes, que ce soit pour fouiller dans les programmes de cours à la recherche de mentions de l’esclavage ou pour trouver les adresses d’étudiants manifestants. Elle est là pour faciliter « une analyse rapide, grossière et à grande échelle » et peu coûteuse. Comme l’a souligné la juriste Salome Viljoen, la droite comprend parfaitement que toute gouvernance est une gouvernance des données. « L’analyse automatisée de texte devient un moyen de contourner toute déférence, même de façade, envers la délibération institutionnelle et la consultation d’experts ». « C’est ce que montrait d’ailleurs très bien la révolution technoculturelle d’Elon Musk au sein du Département de l’efficacité gouvernementale (Doge), où de jeunes hommes fraîchement ou à peine diplômés utilisaient ChatGPT pour réécrire la réglementation fédérale, examiner les demandes de subvention à la recherche de délits d’opinion et scruter les profils des réseaux sociaux et les antécédents judiciaires d’étudiants en situation irrégulière dans l’espoir de trouver des prétextes pour les expulser. Au Fonds national pour les sciences humaines, Justin Fox, ancien associé en capital-investissement devenu fervent défenseur du DOGE, annulait des subventions en demandant à ChatGPT d’indiquer, en 120 caractères maximum, si un projet impliquait la diversité, l’équité et l’inclusion. »

A l’université, la charge de travail administrative ne cesse de croître, alors que les budgets fondent. Dans ce contexte, la direction perçoit l’IA comme un moyen de résoudre le problème de l’intérieur. L’IA promet de remplacer nombre de ces tâches par des machines à un coût bien moindre que l’expertise. La charge de travail et la précarité des professionnels augmentant, la pression sur les coûts contraint les intérêts des employés et de la direction à converger pour réduire le temps consacré aux tâches administratives.

« En fin de compte, l’adoption de l’IA sur les campus universitaires est une question de coût, tant financier que politique. » La solvabilité de l’université est une préoccupation majeure pour tous les administrateurs et conseils d’administration. L’investissement dans l’IA est vue comme une solution. Elle relève à la fois du mimétisme, où les universités sont invités à suivre les pratiques des leaders du secteur. L’IA est à la fois perçue comme une source d’économie et une source de revenus et de légitimité, en proposant des instituts et des diplômes dédiés. 

« Une dynamique inquiétante se dessine, largement indépendante de ce que l’IA, en tant qu’outil, fait réellement pour nous ou pour qui que ce soit d’autre. Les personnes les plus riches du monde se sont enrichies encore davantage grâce à leurs investissements dans l’IA. Elles ont utilisé cette richesse pour installer une administration présidentielle hostile à l’éducation, qui utilise l’IA pour traquer les « criminels de la pensée » et les immigrés. Pour survivre à cette offensive, les directions universitaires se tournent vers les investissements dans l’IA, et vers ces mêmes personnes qui nous attaquent, dans l’espoir d’obtenir ainsi des fonds et une légitimité.»

« Pour les administrations, l’IA représente donc une nouvelle méthode de privatisation du bien public qu’est l’éducation, non seulement en termes de propriété de l’institution, mais aussi par l’atomisation sociale de l’entreprise éducative collective. L’IA est accueillie comme une solution miracle précisément parce qu’il n’existe pas de solution miracle pour une éducation de qualité et accessible, seulement les solutions habituelles et peu attrayantes : classes à effectifs réduits, scolarité gratuite ou peu coûteuse. La hausse constante des coûts rend les études supérieures plus onéreuses d’année en année, et notre refus collectif de taxer la richesse perpétue cette dynamique, nous obligeant à faire toujours plus avec toujours moins. L’IA séduit les employeurs de tous les secteurs car elle semble offrir un moyen de produire de l’expertise à grande échelle sans dépendre de coûteux experts. »

Pour Greene, un véritable investissement fédéral dans l’enseignement supérieur impliquerait nécessairement de taxer les recettes fiscales issues de la richesse privée finançant la bulle de l’IA et de les réorienter vers les services publics essentiels qui rendent possible une société instruite afin de servir au mieux les intérêts des étudiants, des États et de la science.

Nous n’en prenons pas le chemin.  

Est-ce que ces outils améliorent quelque chose ?

Dans le quotidien britannique The Guardian, la chercheuse Velislava Hillman, autrice de Taming EdTech (qu’on pourrait traduire par Dompter les technologies éducatives, Bloomsbury, 2024 – un livre où elle montre que la surveillance par les technologies numériques est désormais normalisées dans le milieu scolaire et que les produits numériques éducatifs n’améliorent pas l’éducation de manière égale pour tous les enfants), rappelle à son tour que les géants de la tech ont profondément transformé les salles de classe et que les parents ont raison de s’inquiéter.

« De la quasi-omniprésence de Google et Microsoft aux produits d’IA spéculatifs tels que CenturyTech, les géants et les entreprises de technologies éducatives promettent un « apprentissage personnalisé » tout en collectant d’énormes quantités de données et en transformant l’éducation en gadgets monétisables et en badges numériques.»

Pourtant, la numérisation de l’éducation est bien peu révolutionnaire, rappelle Hillman. «  Les enfants passent leur temps devant des écrans à créer des diapositives PowerPoint ou à naviguer sur des applications comme Dr Frost ou Quizlet. Leurs cours sont souvent ponctués de publicités intempestives… D’autres s’adonnent à la course aux séries sur Duolingo, soi-disant pour apprendre le français, accumulent des pièces ou se disputent les premières places du classement sur Blooket. Pendant ce temps, les enseignants reçoivent des tableaux de bord de plateformes telles qu’Arbor ou NetSupport, où les élèves apparaissent sous forme de notes et de graphiques allant du vert au rouge. Et tous ces systèmes sont pris dans l’engrenage des guerres de territoire et de la recherche du profit. »

Pour Hillman, l’industrie de l’EdTech mobilise les mêmes tactiques que celle du tabac. Elle sème le doute sur ses effets pour retarder la réglementation et transforme l’inquiétude du public en culpabilité individuelle. Mais pour la chercheuse, « à mesure que ces systèmes se développent et se démocratisent, une fracture inquiétante se dessine : l’enseignement de masse via des applications pour le plus grand nombre, et le tutorat humain et les échanges intellectuels réservés à une élite. Ce qui est présenté comme la « démocratisation » de l’éducation risque d’aggraver les inégalités. » 

Face à cette accélération numérique, l’inquiétude des parents est justifiée. Dans The Atlantic, le journaliste Will Oremus fait le même constat. Le prof de math de son fils de 11 ans lui fait passer du temps sur Prodigy, un site de jeux, qui semble bien plus apprendre à jouer que les maths. « Les écoles conseillent des logiciels éducatifs qui sont devenus difficiles à distinguer de Candy Crush ». Ces jeux proposent entre des parties des questions à résoudre, mais il existe des extensions pour répondre aux questions automatiquement. Le logiciel a dévoré l’école, constate-t-il. Les logiciels éducatifs ne sont plus ce qu’ils étaient. Ils sont peu chers et accessibles, paresseux. 

Pour Hillman : « L’industrie vend ces outils comme un progrès – personnalisés, attrayants, efficaces – mais la réalité est bien plus préoccupante. Ces applications sont conçues pour extraire des données à chaque clic et inciter les élèves à passer un maximum de temps devant les écrans : Times Tables Rockstars distribue des pièces pour les bonnes réponses ; ClassDojo récompense les élèves pour leur bonne conduite ; Kahoot! captive les élèves grâce à des comptes à rebours et des classements. Ce ne sont que différentes facettes d’un même levier psychologique qui pousse les enfants à consulter les réseaux sociaux tard le soir. Même si ces outils améliorent les résultats scolaires (ce qui reste à prouver), la question demeure : à quel prix pour les relations en classe, le développement et le bien-être des enfants ? »

« Et c’est là que le fossé entre les promesses et la réalité apparaît clairement : malgré tous les discours sur l’équité et la personnalisation, les données probantes concernant l’efficacité des technologies éducatives sont limitées, orientées par l’industrie et, au mieux, fragiles. On dispose de peu d’informations sur le temps que les enfants passent sur les appareils scolaires, sur les plateformes qu’ils utilisent, ou sur l’impact de ces dernières sur l’apprentissage – sans parler de leur bien-être et de leur développement. Une étude a révélé que pour obtenir l’équivalent d’une amélioration d’une seule note au GCSE (General Certificate of Secondary Education), les élèves devraient passer des centaines d’heures par an sur une seule application de mathématiques – sans aucune preuve que cela réduise les écarts de réussite pour les élèves les plus défavorisés. L’absence de preuves définitives est présentée comme une garantie de sécurité, tandis que les promesses numériques reposent sur une apparence de certitude qui n’existe pas. »

« Au Royaume-Uni, les financements publics continuent de soutenir la numérisation des salles de classe, avec des appels à l’intégration de l’IA même dans les structures d’accueil de la petite enfance, comme l’a proposé l’ex-ministre de l’éducation britannique dans une tribune. Une étude publiée cette année par le Syndicat national de l’éducation a révélé que les programmes scolaires standardisés, souvent dispensés via des plateformes commerciales, sont désormais largement répandus. Pourtant, de nombreux enseignants affirment que ces systèmes réduisent leur autonomie professionnelle, n’allégent pas leur charge de travail et les excluent des décisions relatives aux programmes. » 

Enfin, pointe la chercheuse, les entreprises de technologies éducatives sont soumises à peu d’obligations. Alors que des audits réguliers, des rapports publics et des possibilité de contrôle indépendants sont nécessaires pour garantir que leurs outils soutiennent l’apprentissage des enfants. 

Il serait temps de poser des questions plus difficiles encore, suggère encore Velislava Hillman. « Pourquoi les applications basées sur la gamification et la manipulation comportementale – des techniques conçues pour maximiser le temps passé devant les écrans – sont-elles désormais la norme dans les salles de classe ? Pourquoi considère-t-on désormais que l’avenir d’un enfant est numérique par défaut ? Ce ne sont pas des préoccupations marginales. Elles touchent au cœur même de la raison d’être de l’éducation. L’apprentissage n’est pas une transaction commerciale. L’enfance n’est pas une opportunité de marché. Comme le rappelle le théoricien de l’éducation Gert Biesta, l’éducation ne sert pas seulement à l’obtention de diplômes et à la socialisation, mais aussi à aider les enfants à devenir des sujets autonomes et responsables. Ce dernier objectif – la subjectivation – est précisément ce qui se perd lorsque l’apprentissage est réduit à des clics ludiques et à des incitations algorithmiques.

Nous ne pouvons empêcher la technologie d’entrer dans la vie des enfants, mais nous pouvons exiger qu’elle soit au service de l’éducation, et non de l’industrie. Voici mon message aux parents : aux côtés des enseignants, votre voix est essentielle pour que les entreprises technologiques rendent des comptes sur ce qu’elles conçoivent, comment elles le commercialisent et les valeurs qu’elles véhiculent dans les salles de classe.»

Récemment Audrey Watters revenait par exemple sur l’insuccès continue de la Khan Academy. Pour nombre de promoteurs de l’EdTech, la Khan Academy reste la référence. Depuis 2009, cet outil de perfectionnement scolaire lancé par Salman Khan, est la coqueluche des cours en ligne, avec ses vidéos Youtube explicatives et ses exercices qui évoluent selon la progression des élèves. La promesse de Khan à produire une révolution de l’apprentissage personnalisé (promue dans un bestseller mondial, L’éducation réinventée, JC Lattès, 2013) n’a cessé d’être renouvelée, notamment par son passage à l’IA avec Khanmigo, l’outil maison (« Nous sommes à l’aube d’une transformation positive majeure de l’histoire de l’éducation grâce à l’IA. »), à grand renfort de tambours et trompettes (promue d’ailleurs par de puissantes conférences TED et par un autre bestseller, Un monde nouveau, L’arbre qui marche, 2025). Khan n’a cessé de promouvoir les technologies éducatives sans jamais s’interroger sur ses échecs. Cela n’empêche pas le sémillant Khan de continuer à dérouler ses promesses. Après avoir reproché aux enseignants de mal s’y prendre, c’est au tour des élèves à qui l’on reproche de ne pas poser les bonnes questions au chatbot, « même si aucune étude n’a démontré que « poser les bonnes questions », pour tous les adeptes de l’ingénierie des invites, permet d’obtenir de meilleures réponses de l’IA », et encore moins un meilleur apprentissage », rappelle avec pertinence Watters. Pour résoudre le peu d’intérêt de son IA maison, Khan l’impose donc, en l’intégrant directement aux programmes. « Loin des promesses d’amélioration de l’éducation, les technologies éducatives ont créé des dépendances éducatives : des dépendances bureaucratiques et, désormais, avec l’« IA », des dépendances cognitives. Il ne s’agit pas d’un simple hasard ; c’est intentionnel », explique Watters. 

Dépendances cognitives, c’est précisément ce qu’évoquait Sam Altman en affirmant « nous envisageons un avenir où l’intelligence sera un service public, comme l’électricité ou l’eau, et où les gens l’achèteront grâce à un compteur ». Comme le souligne Paris Marx : « les milliardaires de la tech veulent faire croire au public qu’ils améliorent le monde et renforcent nos capacités individuelles et collectives. Mais en réalité, ils nuisent à la capacité des gens d’apprendre et de penser par eux-mêmes, voire bouleversent le cours même de leur existence », explique-t-il avant d’en dénoncer le projet. 

Il n’y a pas que les parents, les jeunes aussi détestent l’IA

Depuis la sortie de ChatGPT, nul n’a subi autant la pression de l’IA que les jeunes, explique la journaliste Janus Rose pour The Verge. S’ils sont les plus grands adeptes des chatbots, « les étudiants et les actifs de la génération Z contribuent largement au rejet culturel plus large de l’IA. Et même s’ils utilisent ces outils, une grande partie des jeunes nourrit une profonde amertume, voire du ressentiment, face à un avenir centré sur l’IA qui, pour beaucoup, leur est imposé. » 

« Sortant du monde universitaire et confrontés à un marché du travail de plus en plus impitoyable, les jeunes sont face à une contradiction insoluble. On leur dit, d’un côté, que ces outils vont supprimer des millions d’emplois, et de l’autre, qu’ils doivent les utiliser s’ils ne veulent pas être laissés pour compte.» 

« La crainte que les chatbots nuisent à l’esprit critique et aux compétences sociales est répandue chez de nombreux jeunes adultes, même si une large majorité d’entre eux admettent utiliser régulièrement ces outils. Selon une récente étude Harvard-Gallup, 74 % des jeunes adultes interrogés aux États-Unis déclarent utiliser un chatbot au moins une fois par mois (une autre étude a révélé que plus de la moitié des étudiants américains admettent utiliser ces outils chaque semaine pour leurs travaux universitaires). Parallèlement, 79 % des personnes interrogées par Gallup « craignent que l’IA ne rende les gens plus paresseux », et 65 % estiment que l’utilisation des chatbots « favorise la gratification instantanée, et non une véritable compréhension », et empêche d’aborder les idées de manière critique et constructive.» 

« Dans un sondage Gallup plus récent, l’opinion de la génération Z sur les outils d’IA a atteint un nouveau point bas : seulement 18 % se disent optimistes quant à cette technologie, contre 27 % l’an dernier, et seulement 22 % se disent enthousiastes, contre 36 % auparavant. Le nombre de jeunes actifs de la génération Z qui estiment que les risques liés à l’IA l’emportent sur ses avantages a également augmenté de 11 points au cours de l’année écoulée, pour atteindre près de 50 %. Et même si 56 % affirment que ces outils les aident à terminer leur travail plus rapidement, huit sur dix admettent désormais que l’utilisation de l’IA compliquera l’apprentissage à l’avenir. »

« Les employeurs demandent aux universités de recruter des étudiants capables d’utiliser ces outils », explique Alex Hanna, directrice de la recherche du DAIR. « Ce n’est pas parce que ces outils ont réellement démontré leur valeur ajoutée ; on attend de la génération Z qu’elle nous la révèle. » D’où le fait que l’université ait tendance à intégrer l’IA… souvent un peu n’importe comment, comme ASU Atomic, un outil mis en place à l’université d’État de l’Arizona, qui synthétise automatiquement les cours magistraux en supports d’apprentissage concis, plus proche du slop qu’autre chose, déplorait 404 média. Le journal étudiant de l’université de Pennsylvanie a publié un édito cinglant à l’égard du déploiement de l’IA à l’université : « L’IA ne peut coexister avec l’éducation ; elle ne peut que la dégrader. » 

« Le fait que tant de jeunes soient parfaitement conscients de ces dangers, même lorsqu’ils utilisent ces outils, montre qu’ils ne se laissent pas berner par le discours enflammé des promoteurs de l’IA », estime Rose. La génération Z est extrêmement consciente des limites de ces outils, même pour ceux qui les trouvent utiles. 

Enfin, avance Rose, une autre explication nourrit l’ambiguïté du positionnement des plus jeunes : l’utilisation de l’IA est souvent moquée par les jeunes entre eux. La plupart trouvent les textes et les images générés artificielles et profondément ringards et s’en moquent ouvertement sur les réseaux sociaux, tout comme elle est dévalorisée par les étudiants et les professeurs. Selon une étude de l’Université de Pittsburgh, les étudiants perçoivent l’utilisation d’outils d’IA comme un signal d’alarme les incitant à avoir une moins haute opinion de leurs camarades. 

A croire que le refus de l’IA chez les plus jeunes (voir notre article, « nous sommes le slop »), s’il n’est pas un mouvement techno-critique, invite néanmoins à questionner notre rapport à la technologie en profondeur et montre que la colère contre l’IA prend des formes multiples. 

Hubert Guillaud

PS : Dans les écoles américaines, d’innombrables applications sont utilisées par les élèves sous la recommandation des professeurs voire des districts scolaires, explique The Markup, mais souvent en contradiction avec la loi, notamment en Californie où les protections à l’égard des données personnelles des enfants sont plus fortes qu’ailleurs. Mais il n’y a pas que les applications scolaires qui posent problèmes, les applications extrascolaires peuvent l’être tout autant. Le statut de ces applications extrascolaires, comme des applications sportives telles que TeamSnap, fait qu’elles ne semblent pas soumises aux mêmes contraintes réglementaires et peuvent revendre leurs informations à des courtiers ou à des annonceurs. Afin de renforcer l’application effective de la loi, un projet de loi californien comprend une nouvelle disposition : le droit pour les élèves et leurs parents de poursuivre les entreprises technologiques dans certains cas de violation de la vie privée. Une proposition contestée par les entreprises de la tech. Pour Jen King, chercheuse en protection de la vie privée et politiques des données à l’Institut d’intelligence artificielle de Stanford, donner aux consommateurs le droit de poursuivre est pourtant et souvent le seul moyen de renforcer l’application de la loi.

MAJ du 24/05/2026 : Sur les campus américains, les thuriféraires de l’IA de l’IA se font huer, rapporte Next… Et les refus d’usages lors des formations IA dans certaines écoles (en France également) se multiplient.

Dans son livre, The Score: How to Stop Playing Someone Else’s Game (Penguin, 2026, non traduit), le philosophe C Thi Nguyen explique comment le score produit par les systèmes nous détourne de nos objectifs. Bien souvent, le score nous pousse à intérioriser ses critères, à supplanter nos objectifs. « Les données quantitatives promettent de transformer des pans entiers de notre monde, d’une complexité immense, en résumés concis. C’est un marché séduisant : une « clarté exquise » sous la forme d’un score simpliste, au détriment du contexte et des nuances », explique The Guardian. « Notre vénération aveugle pour les indicateurs permet ce que Nguyen appelle le « blanchiment d’objectivité » (objectivity laundering) : des bureaucrates dissimulent leur influence dans les décisions concernant nos écoles, nos hôpitaux et notre bien-être, en invoquant « les chiffres » comme arbitres impartiaux. Ceux qui sont au pouvoir choisissent les indicateurs à privilégier, puis prétendent que les actions motivées par ces indicateurs transcendent d’une manière ou d’une autre l’idéologie. »

Pour Jennifer Szalai du New York Times, la généralisation du scoring que dénonce C Thi Nguyen le rend peu amusant. « Pourquoi les systèmes de notation mécaniques sont-ils, dans les jeux, sources de tant de joie, de fluidité et de plaisir ? Et pourquoi, dans le domaine des indicateurs publics et institutionnels, étouffent-ils toute forme de vie ? » Les faibles enjeux des scores font partie intégrante du jeu, rappelle le philosophe, nous permettant de passer d’un jeu à l’autre. Nguyen soutient que les problèmes surgissent lorsque les enjeux deviennent démesurés, envahissant notre identité et dictant nos valeurs. Les indicateurs, bien qu’offrant une clarté trompeuse, paraissent sclérosants car ils ne rendent qu’une pâle imitation de la richesse et de la complexité du monde qu’ils prétendent représenter.

Le score, par exemple des notes sur les vins selon leurs qualités, conduisent à produire des formes de « capture de valeur » qui tendent à faire que la production s’aligne sur les certains types de vins plutôt que d’autres. Cette capture produit des systèmes de notation simplistes qui non seulement ne reflètent pas correctement nos valeurs initiales, mais modifient même nos valeurs, nous amenant à valoriser ce qui ne nous importe pas vraiment, explique Stuart Jeffries pour le Financial Times. « L’une des principales raisons pour lesquelles nous communiquons est d’apprendre, d’être interpellés, de voir notre compréhension se transformer… Or, ce type de communication n’est pas valorisé par le système de notation des réseaux sociaux. » Nguyen appelle cela « le fossé » : l’écart entre ce qui est mesuré et ce qui compte réellement. Le grand avantage des jeux par rapport aux indicateurs auxquels nous devons nous conformer dans la vie de tous les jours réside dans le fait qu’on retire plus de plaisir en subvertissant les règles plutôt qu’en les suivant. L’intérêt de jouer ne se limite pas à la validation de classements ou de statistiques. « Quand tu joues aux cartes avec tes amis, ton but est de gagner, mais ta finalité est de t’amuser. » Or, bien des mesures ne nous invitent qu’à gagner, sans finalité. Les systèmes de notation, leur généralisation partout, tout le temps, sapent nos valeurs au profit de l’objectif auquel les autres nous font concourir, parfois contre notre gré. 

« Les indicateurs peuvent être si trompeurs qu’ils nous incitent à nous soucier de ce qui est facile à mesurer, plutôt que de ce qui est vraiment important », explique Becca Rothfeld pour le Washington Post. Lorsque les universités ont instauré un système de classement formel, par exemple, elles ont cherché à gravir les échelons, souvent au détriment de leur mission éducative (voir notre article « Aux US, le prix des études s’ajuste selon celui que vous êtes prêts à payer »). Comme des taux de refus plus élevés leur permettaient d’obtenir de meilleurs scores, écrit Nguyen, elles « ont commencé à consacrer d’importantes ressources à encourager les candidats improbables à postuler, simplement pour avoir plus de personnes à refuser ». 

Dans le contexte des jeux, « les systèmes de notation ont été conçus pour produire une action intéressante, satisfaisante et plaisante », nous obligeant à nous mouvoir avec grâce lors d’une performance de patinage artistique ou à faire appel aux géométries complexes des échecs. Mais les systèmes de notation institutionnels sont conçus pour s’appliquer sans difficulté à différents contextes et, de ce fait, contribuent à l’homogénéisation. 

Nguyen oppose la verve improvisée de la préparation d’un plat apprécié aux instructions données aux employés de la restauration rapide. Ces formules éliminent la spontanéité afin de produire un produit uniforme, identique dans chaque franchise ; elles rendent également la main-d’œuvre interchangeable, garantissant qu’aucune compétence particulière ne soit requise pour exécuter les procédures. Il apparaît que les vertus et les écueils des systèmes de notation sont indissociables. Alors que la notation dans les jeux permet de déléguer nos valeurs au gameplay, la notation institutionnelle impose ses valeurs dans nos comportements. « Les jeux nous incitent à expérimenter différentes valeurs dans un esprit ludique afin de développer de nouvelles aptitudes ; les indicateurs, au contraire, nous imposent des valeurs et insistent sur le fait qu’elles sont les seules valables. » 

The Score adresse une question simple : avec quels indicateurs voulons nous jouer ?

C’est danah boyd qui l’explique. « Lorsque les professionnels utilisaient le terme « médias sociaux » pour décrire les outils internet apparus au milieu des années 2000, ils désignaient les plateformes et les protocoles permettant d’interagir avec ses amis et des communautés d’intérêt grâce aux technologies numériques. Vingt ans plus tard, les utilisateurs des médias sociaux passent bien plus de temps à faire défiler les publications qu’à en publier, et le contenu qu’ils consomment est souvent produit de manière stratégique et sélectionné par des algorithmes. Dans cet essai, je soutiens que l’essence même des médias sociaux a changé. Pour mieux comprendre ce à quoi nous assistons, il nous faut cesser de considérer ces outils comme des « médias sociaux » et commencer à les qualifier de « médias parasociaux ». »

Dans son court essai, danah boyd liste les innombrables noms avec lesquels nous avons longtemps valorisé les espaces de partages numériques, de l’informatique sociale au web 2.0 en passant par le contenu généré par les utilisateurs ou la culture participative et les communautés en ligne…  « Nous n’utilisions pas seulement les médias pour socialiser ; nous socialisions sur les médias, par les médias et en utilisant les médias. » Avant que ne s’imposent les termes de réseaux sociaux puis de médias sociaux…« Nombreux étaient ceux qui croyaient alors sincèrement que ces outils permettraient aux gens d’échanger de manière significative. »

« Il n’était pas inévitable que quelques entreprises créent un petit nombre de « plateformes » qui domineraient les diverses pratiques que l’on imaginait couvertes par l’expression « médias sociaux », mais c’est pourtant ce qui s’est produit. Lentement mais sûrement, la plupart des plateformes de médias sociaux ont périclité, tandis qu’une poignée d’entreprises/plateformes prenaient le dessus et utilisaient la technologie et les politiques publiques pour fidéliser leurs utilisateurs. Il n’était pas inévitable que les entreprises exploitent la notion de communauté et de sociabilité, mais elles l’ont fait. De même, il n’était pas inévitable que ces entreprises transforment ces plateformes en nouveaux canaux de consommation passive où seul un petit nombre d’utilisateurs contribue au contenu, mais c’est pourtant ce qui s’est produit », constate avec dépit la chercheuse. 

Pourtant, explique-t-elle, les pratiques qui définissent les médias sociaux en 2026 sont radicalement différentes de celles que nous tentions de documenter 20 ans plus tôt. « Le terme « social » dans « médias sociaux » est peu à peu devenu un abus de langage. En 2006, la plupart des personnes qui se connectaient aux grandes plateformes publiaient du contenu car elles co-construisaient des espaces sociaux pour profiter de la compagnie des autres. En 2026, la publication a diminué, le partage a disparu; la plupart des utilisateurs des médias sociaux privilégient le défilement de contenu « amateur » plutôt que de publier leurs propres mises à jour spontanées pour leurs amis. La qualité des contenus sur les médias sociaux est devenue plus stratégique, plus intentionnelle et plus professionnelle. Les utilisateurs ont désormais du mal à distinguer les contenus personnels publiés par leurs amis parmi les contenus créés par les annonceurs et l’industrie des influenceurs qui dominent les fils d’actualité. » Les sites sociaux sont devenus des plateformes publicitaires qui éloigne toujours plus la dimension sociale. Elles sont devenues des actifs, comme l’explique Cory Doctorow en parlant d’emmerdification, qui exploitent autant les utilisateurs que les annonceurs. 

« Aujourd’hui, les plateformes de médias sociaux ne sont plus axées sur les activités sociales. Au contraire, la plupart nous offrent un média de diffusion et nous incitent à apprendre à manipuler les algorithmes afin de créer, nous aussi, des actifs pour les grandes entreprises. Puisque la taille est valorisée dans cette économie de plateforme, nous sommes encouragés à nous mettre en scène pour rechercher la célébrité et l’attention. En théorie, nous pouvons toujours créer du contenu pour nos 15 amis, mais rien ne garantit qu’ils verront nos publications. Pour être vus, il faut faire des efforts. » Qu’importe si nous ne savons plus lesquels. 

Pour danah boyd, « nous vivons désormais dans un monde de médias parasociaux ». 

« Les relations parasociales sont des connexions unilatérales où l’on suit la vie et les activités de personnes – comme des célébrités – qui ne nous connaissent pas et pour lesquelles on ne ressent aucune obligation de réciprocité. Dans un monde parasocial, on consacre son attention et ses émotions au suivi des péripéties d’individus qui évoluent à distance. Les relations parasociales peuvent être intenses émotionnellement, mais elles ne créent pas le tissu social qui nous soutient dans les moments difficiles. »

Les plateformes sont devenues des espaces « hyper-contrôlées récompensant ceux qui parviennent à générer de larges audiences ou à créer des contenus à fort impact », contrôlés par les métriques d’engagements. « Les entreprises de médias sociaux modifient constamment leurs algorithmes pour inciter (et pénaliser) les créateurs à leur guise, cherchant toujours à encourager les utilisateurs à faire défiler davantage leur contenu, même s’ils publient moins. » Elles ont constaté que maintenir les utilisateurs en haleine est plus rentable que de les faire participer.

Ce passage des médias sociaux aux médias parasociaux est lourd de conséquences. Les médias sociaux ont fait naître de grands espoirs quant au potentiel des médias sociaux pour construire la solidarité, soutenir les mouvements politiques et connecter le monde. Mais ces pratiques ne sont plus dominantes, et de ce fait, leur signification même a changé. 

« Les relations parasociales sont trompeuses. S’adonner à ces connexions peut être agréable pour les utilisateurs, mais cela ne renforce pas le tissu social collectif. On peut se sentir seul malgré des heures passées à s’impliquer émotionnellement dans les drames d’autrui si ces interactions ne sont pas réciproques. Même ceux qui créent du contenu pour le monde parasocial peinent à s’y retrouver dans les formes d’intimité complexes qui y abondent. L’amitié exige réciprocité et compassion. Les médias parasociaux créent les conditions permettant aux individus de s’objectiver mutuellement à distance, comme des objets médiatisés, contribuant ainsi à mettre en lumière les différentes formes de toxicité que les chercheurs spécialisés dans les médias sociaux documentent. Ainsi, lorsque les gens choisissent de consacrer leur énergie à suivre la dernière star de TikTok ou à faire défiler du contenu au lieu de cultiver des relations interpersonnelles, ils s’épuisent en réalité à force de distraction. »

En 2006, nous imaginions un écosystème de médias sociaux qui privilégierait le renforcement des liens par le biais des médias plutôt que de remplacer ces liens par les médias. Chercheurs, décideurs politiques et experts continuent d’être préoccupés de trouver des solutions pour endiguer les comportements toxiques et antisociaux qui se manifestaient dans les espaces publics en ligne, oubliant que les médias sociaux ne servent plus à créer des liens sociaux. Pour cela, les gens utilisent plutôt des messageries qu’on n’appelle pas des médias sociaux, mais cela ne consiste pas à créer des espaces pour la sociabilité numérique. 

« Il est facile, avec le recul, de dire que nous étions naïfs, mais je ne pense pas que ce soit juste. Il n’était pas inévitable que les plateformes de médias sociaux deviennent le désastre qu’elles sont devenues. En revanche, je pense que nous avons commis une erreur en acceptant collectivement de qualifier ce phénomène de « médias sociaux ». Ce cadre linguistique a biaisé notre interprétation normative des pratiques sur ces plateformes. J’ai fini par accepter que les outils actuels ne correspondent pas à ce que beaucoup d’entre nous espéraient, mais je continue de m’interroger sur les termes que nous utilisons pour désigner ces plateformes. Je pense qu’il est temps d’abandonner l’appellation « médias sociaux » et de reconnaître que nous entrons dans l’ère des « médias parasociaux ». Je ne cherche pas à déplorer la disparition des interactions sociales en ligne (même si je ressens une certaine nostalgie). Je souhaite plutôt que la communauté scientifique s’interroge sur la manière dont nos discussions autour de la gouvernance, des inégalités et de la sociabilité doivent évoluer pour prendre en compte la transformation des médias sociaux en une catégorie entièrement nouvelle. En clair, ce type de médias sociaux est différent de celui qui a donné naissance à cette appellation. Nos outils d’analyse doivent donc évoluer en conséquence.»

La directrice de la recherche de Data & Society, Alice Marwick, dresse le même constat dans un article lui aussi emprunt de nostalgie et de recul critique. Même constat pour le chercheur Edward Ongweso Jr (notamment auteur de la lettre d’info The Tech Bubble) dans un article pour le magazine The Drift. « Les plateformes de médias sociaux ne produisent pas un public commun ; elles produisent des sous-publics concurrents, chacun avec sa propre conception du savoir collectif », écrit-il. Les entreprises ont utilisé le prestige démocratique pour légitimer la privatisation de nos communications. « Il serait trop facile – et faux – de conclure que les plateformes ne constituent pas un espace public. Les institutions restent tributaires de ce qui circule en ligne. Mais ce processus est structuré par des entreprises de publicité et de données qui surveillent les populations et les segmentent pour optimiser leur engagement. Selon le modèle de propagande que proposaient Edward Herman et Noam Chomsky dans La fabrique du consentement, la publicité fonctionnait comme un filtre disciplinaire, jouant un rôle clé dans les contraintes imposées à la délibération démocratique au sein de l’espace public. Mais avec la transition numérique, ce vieux filtre publicitaire s’est métamorphosé en quelque chose que Chomsky et Herman n’avaient pas anticipé. Là où la concentration des pouvoirs limitait autrefois la diversité des opinions acceptables à quelques dizaines de grands médias, le classement algorithmique et l’optimisation de l’engagement remplissent désormais la même fonction pour des milliards de flux individuels, ajustant le contenu vu par chaque utilisateur afin de maximiser le temps passé sur la plateforme plutôt que la citoyenneté éclairée. »

L’espace public, tel qu’il est, fonctionne pour ceux qui le contrôlent. L’IA menace d’engloutir ce qui reste de nos maigres communs épistémiques. « Les agents d’IA deviennent de nouveaux régulateurs, stimulant la consommation, surveillant les comportements, déterminant ce qui est diffusé et ce qui est résumé. La condition de John Dewey pour la formation du public – une infrastructure de communication permettant aux personnes concernées de se trouver – s’éloigne d’année en année. Il est tentant de suivre l’exemple de Dewey et de chercher des solutions : protocoles fédérés, alternatives décentralisées susceptibles de permettre l’émergence d’un espace public. Mais les configurations techniques ne sauraient se substituer à la politique. On ne peut construire un espace public si l’économie politique est conçue pour l’empêcher. » 

Le problème, constate le chercheur, c’est que nous y sommes coincés. On peut certes supprimer une application de médias sociaux, mais le marché du travail, le marché du logement, l’environnement informationnel, les institutions qui régissent notre vie sont tous façonnés par ces systèmes, que l’on les utilise directement ou non. « La vérité est plus dérangeante : c’est encore à ces niveaux que se déroule le discours. Les gens y restent car les alternatives n’existent pas à grande échelle – et l’échelle, même si l’on déteste ce mot et la manière dont il est employé par nos maîtres technologiques, est ce qui confère à un espace public son caractère public. Les oligarques qui contrôlent notre appareil numérique savent parfaitement à quoi il sert. Nous autres, nous nous complaisons dans une illusion qui compromet notre capacité à comprendre le présent et à tracer la voie à suivre. La foi de Dewey dans le potentiel des institutions qui considèrent le savoir démocratique non comme un problème à gérer, mais comme une capacité à cultiver, est plus difficile à défendre aujourd’hui. »

On avait déjà attiré l’attention sur les grandes limites de l’IA pour produire des synthèses, au risque de valoriser certaines informations sur d’autres. Microsoft Research vient de publier un article et un benchmark : ils ont proposé 52 documents à 19 modèles concurrents dont les modèles de pointe. Chaque modèle reçoit un document et une série d’instructions de modification, une vingtaine maximum. A la fin de la série d’instruction, 25% à 50% du contenu se retrouve dégradé (analyse faite en comparant simplement les contenus des documents). Si on étend encore les instructions à une centaine, la courbe de la dégradation continue. Les chercheurs parlent de « déclin monotone ». Ils constatent également que les performances à court terme ne prédisent pas la fiabilité à long terme. « Deux modèles qui semblaient presque identiques après deux interactions (91,5 % contre 91,1 %) ont divergé de façon spectaculaire au fil du temps (48,3 % contre 64,1 %). » La dégradation est parfois brutale. Sur les 50 domaines d’activité testés auxquels ils ont confié des documents pour des tâches d’édition, le seul domaine qui fonctionne reste le code python : la dégradation est très faible, les contenus restent stables sur 17 des 19 modèles, à 98%. Mais par exemple, sur un tableur, seulement 50% des lignes d’origine sont encore présentes après 20 itérations : l’ordre des lignes, les noms de colonnes et le nombre de lignes sont plus dégradées encore.  

La démonstration permet de montrer que l’usage des LLM risquent de n’être fonctionnels que pour le code, car le code à une définition mécanique, c’est-à-dire qu’il existe une spécification lisible par machine permettant de vérifier la sortie (mais la démo montre que quand il s’agit de structure des bases de données SQL, les résultats sont déjà beaucoup moins parfaits). « Partout où la correction exige de la compréhension, les modèles s’effondrent », explique le développeur norvégien Christian Ekrem sur son blog. Pire : la corruption est invisible par conception, « silencieuse ». 

« Le plus inquiétant, c’est la manière dont ces erreurs se produisent. Elles sont rares, mais graves. Le modèle ne transforme pas votre document en charabia. Il y apporte de petites modifications, assurées (!), qui paraissent inoffensives au premier coup d’œil. Un détail déplacé. Une précision omise. Un sens subtilement altéré. Une phrase réorganisée pour en modifier l’ordre. Il faudrait lire attentivement l’ensemble du document, en le comparant à l’original, pour s’en apercevoir. Et personne ne le fait. »

Dans vos slides, votre « environ 30% » va devenir « 30% »… puis « 20% ». Dans un contrat, « sous certaines conditions » s’efface. « Après signature » devient « avant signature »… Non seulement les erreurs s’accumulent, mais elles interagissent : « une corruption précoce modifie le contexte, ce qui décale les résultats suivants, et ainsi de suite ». Vous continuez à travailler sur une version corrompue qui ne dit déjà plus ce que vous pensiez. « Si cela ne vous terrifie pas, je doute que vous ayez déjà travaillé avec des documents importants. (…) Lorsque vous déléguez la maintenance documentaire à un LLM, la théorie meurt doublement. Premièrement : vous n’avez pas acquis la compréhension, car vous avez délégué au lieu de vous impliquer directement dans le sujet. Deuxièmement : le LLM a insidieusement altéré le document lui-même. Vous vous retrouvez donc sans modèle mental ni représentation écrite précise. Vous avez, pour ainsi dire, perdu à la fois la carte et le territoire. »

La coalition RSA réunit de nombreuses associations (ATD Quart Monde, le Secours Catholique, Aequitaz, Changer de Cap, la Quadrature du Net, la Ligue des droits de l’Homme, le Mouvement national des chômeurs et des précaires, la Fédération des centres sociaux…), syndicats (CGT, FSU, Solidaires, CFDT, Unsa) et chercheurs, autour d’un objectif commun : documenter, mutualiser, partager les analyses sur les effets concrets sur les demandeurs d’emploi, les bénéficiaires des minimas sociaux (RSA, AAH) et les jeunes suivis en mission locale de la loi pour le plein emploi de décembre 2023 et de son décret d’application du 30 mai 2025, plus connu sous le nom de « décret-sanction RSA » que ces associations contestent devant le conseil d’Etat.

Dans sa newsletter, l’association Changer de Cap souligne que ces associations tentent de dresser un état des lieux des pratiques des Départements, décisionnaires pour les sanctions appliquées aux allocataires du RSA. « D’après un document interne de France Travail, sur les 51 conseils départementaux ayant déjà adopté un barème de sanctions, 48 font le choix de taux fixe sans aucune proportionnalité ni individualisation, contrairement à ce qu’indiquaient les textes. Parmi ceux-ci, 45 appliquent une suspension d’au moins 50 % du RSA dès le premier manquement, quelle qu’en soit sa gravité et 32 départements des suspensions de 80 ou 100 %. L’extrême dureté dans la mise en œuvre de ce décret conforte les craintes et analyses de Changer de Cap : une logique budgétaire entraînant une précarisation accrue de pans entiers de la société et une fragilisation du Pacte social dans la quasi-indifférence générale. » A l’image des pratiques du président du département du département du Finistère, Maël de Calan, poursuivit par la CGT et six allocataires du RSA pour « harcèlement moral institutionnel », dénonçant une pression et un suivi inadaptés, pour un plan RSA qui a surtout fait passer le nombre d’allocataires finistériens de 18 000 en 2021 à 13 500 fin 2025 rapporte Splann. « Un taux de radiation pour fraude vingt fois supérieur à celui des autres départements (39,8% en 2024 contre 1,96% au niveau national) », dénonce la CGT du Finistère, rapporte Révolution Permanente, qui dénonce également les pratiques de coaching et d’activité de placement en emploi d’entreprises délégataires.

La newsletter de Changer de Cap pointe vers un rapport publié par l’Observatoire de la surveillance en démocratie de l’université de Bordeaux sur les contrôles de la CAF qui montre la logique du soupçon, l’injustice et le stress des contrôles, les obstacles à la contestation et la montée du non recours face à la violence des contrôles. Ceux qui perçoivent des minima sociaux (RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF, rappelle Marine Lamare, l’auteure du rapport. « Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même », résume pertinemment Didier Dubasque sur son blog. Derrière la neutralité et l’objectivité des algorithmes, se développe une surveillance différenciée, inégalitaire. « La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux que la CNAF est censée protéger. » Mais surtout, le rapport de Marine Lamare, montre que loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres à recourir à leurs droits. Comme si derrière le non recours se cachait de moins en moins un manque d’information des publics, et de plus en plus une capitulation face à la violence de la machine administrative.

Cette politique n’est pas nouvelle, rappelle Marine Lamare, rappelant les critiques formulées dès les années 70 par l’historien et sociologue, Jacques Donzelot, dans un article pour la revue Esprit, puis dans son livre, La police des familles (Minuit, 1977) qui expliquait déjà que « plus on est pauvre, plus on est surveillé ». La criminalisation de la pauvreté est devenue une politique publique depuis les années 90, rappelle-t-elle à la suite des travaux du sociologue Loïc Wacquant dans Punir les pauvres (Agone, 2004). « Les procédures de mise en recouvrement des indus se sont vues consolidées. De façon générale, le droit a contribué à un « durcissement » dans le traitement des cas, à la fois quant aux critères d’attribution des prestations, à la qualification de la fraude et aux sanctions administratives, faisant des CAF des « quasi-tribunaux » », comme l’expliquait le sociologue Vincent Dubois dans Contrôler les assistés (Raisons d’agir, 2021). 

Dans son mémoire, Marine Lamare rappelle que le respect de la vie privée est socialement situé. Pour ceux soumis aux contrôles, c’est une formule creuse. Pour eux, les relations de pouvoir qu’ils vivent sont toujours plus dissymétriques. 

Le sentiment d’incompréhension face aux contrôles s’explique d’abord par le silence des CAF sur les raisons des contrôles. Il s’augmente quand les bénéficiaires contrôlés découvrent qu’ils doivent déclarer les aides financières reçus de leurs proches quel qu’en soit le montant, comme si la solidarité de proximité, familiale, s’opposait finalement à la solidarité collective, alors que selon diverses jurisprudences, ils devraient être exclus des ressources prises en compte pour le RSA. Même choses pour les situations maritales que la CAF interprète toujours très étroitement et normativement, quand le Conseil d’Etat, lui, par exemple, reconnaît les séparations de faits. C’est un peu comme si la CAF portait partout une conception restrictive des droits, dans une interprétation qui semble se faire toujours au détriment de l’allocataire. Le décalage, le sentiment d’incompréhension, s’exprime encore entre le discours du contrôleur et les courriers de l’administration, et plus encore dans la « discontinuité des droits » que les contrôles instaurent, notamment les « sanctions de faits » c’est-à-dire la suspension des prestations, parfois sans préavis, souvent sans motivation explicite et souvent sans réponses. 

Le mémoire rappelle les coûts de ces procédures pour les allocataires. Les coûts psychologiques et moraux, mais également financiers pour des gens qui ne peuvent se le permettre. Et notamment, les plus difficiles : la suspension des aides ou la notification d’indus, qui nécessitent pour les contester des nouveaux recours et des procédures toujours plus complexes, difficilement accessibles aux allocataires précaires. Au final, c’est toujours le quotidien des allocataires qui devient impossible quand les aides sont suspendues. 

Dans son mémoire, Marine Lamare constate encore que le droit de communication de la CAF auprès de tiers, lui permettant d’obtenir d’innombrables données sur les administrés, s’est considérablement élargi au tournant des années 2010, « lorsque les pouvoirs d’investigation des agents des organismes de sécurité sociale ont été alignés sur ceux des agents des services fiscaux », où le contrôle des documents semble n’avoir plus aucune limite (notamment de rétroactivité et de proportionnalité…), comme quand un agent utilise le fait qu’une dame soit toujours indiquée en couple sur Facebook. Pourtant, les enquêtes de la CAF montrent surtout la grande difficulté à transformer des indices en preuves et la grande difficulté du droit à vouloir transformer des faisceaux d’indices en certitudes. La juriste montre surtout que les critères mobilisés (domiciliation commune, la communauté affective ou d’intérêts…) sont souvent plus fragiles, notamment au regard de la jurisprudence qui va les confirmer ou les écarter d’une manière très différente d’un jugement l’autre. Les avocats et le Défenseur des droits rappellent que c’est à la CAF de prouver la situation de concubinage ou de non-présence en France, par delà les indices et suspicions. Pour la docteure en droit, on assiste à « une criminalisation de la dépendance aux prestations sociales ». 

Quant à la contestation, elle est un chemin semé d’embûches, rappelle-t-elle, notamment du fait même de la numérisation de l’accès au droit. Les résistances sont souvent silencieuses et individuelles. Les contentieux sont, par nature, déséquilibrés au détriment des justiciables. Ce qui n’est pas sans évoquer les constats des derniers épisodes du Code a changé sur la dématérialisation. « Les espaces libre-service créés dans les années 2010 condensent en particulier les publics les plus démunis, les agents les moins formés et les conditions d’accueil les plus défavorables. Conformément à « l’aménagement dissuasif » déployé, des barrières sont érigées entre les plus précaires et les personnels qualifiés », souligne Lamare à la suite du psychologue Pascal Martin. Les associations ou les avocats apparaissent alors comme des substituts à l’absence d’interlocuteurs à la CAF, pour démêler l’écheveau des situations. Quant au numérique, il donne désormais la temporalité des démarches, puisque ce sont les enregistrements et les courriers électroniques qui marquent les relations. Par exemple, confient les accompagnateurs et les allocataires, il est difficile d’obtenir le « tableau de liquidation » qui permettrait d’accéder à la « boîte noire du calcul des droits » et de comprendre éventuellement les calculs d’indus opérés par les CAF. Même les rapports de contrôles ou d’enquête nécessitent bien souvent de passer par de longues démarches via la Commission d’accès aux documents administratifs pour être obtenus. Enfin, la complexité des procédures, des recours (par exemple entre demande de remise de dette et contestation de la décision, démarches incompatibles), finissent d’épuiser parfois les meilleures volontés. 

Lamare montre également que nombre d’acteurs sociaux de l’accompagnement préfèrent la conciliation au conflit avec les CAF, d’autant que certains, comme « les assistantes sociales des départements et des CAF sont juges et parties sur ce type de dossiers ». Non seulement le contentieux est difficile pour les administrés, mais il rémunère peu les avocats et face à l’envolée des demandes, se résout surtout par un fort désintérêt des acteurs pouvant accompagner les justiciables en difficultés. Les « contentieux des pauvres » démontrent surtout qu’ils n’intéressent pas grand monde et produisent peu de justice, comme le soulignait d’ailleurs la sociologue Delphine Serre dans son livre, Ultime recours (raison d’agir, 2024) quant aux procédures à l’encontre de la sécurité sociale pour faire reconnaître un accident du travail ou une maladie professionnelle, dénonçant elle aussi, le risque que les droits sociaux deviennent des principes sans objets.  

Mais surtout, conclut Marine Lamare, « le non-recours se dessine alors comme une voie de sortie qui prend l’allure d’issue de secours ». « Par peur, pression, culpabilisation, découragement, épuisement et/ou désaccord avec les principes et pratiques des CAF, [nombre de bénéficiaires] ne veulent pas ou ne veulent plus avoir affaire à elles ». L’abandon s’enkyste. La chasse à la fraude ressemble à une chasse à l’homme, témoigne une allocataire. L’acte individuel devient une critique des politiques sociales. Le non-recours devient une non-demande, le résultat d’une fabrique collective de l’exclusion plus que le signe de défaillances individuelles. 

Autant de constats qui font échos à ceux du dernier rapport de la Défenseure des droits sur la fraude sociale, alors même que le gouvernement vient de durcir l’arsenal contre les fraudes et à réformer en profondeur les aides sociales (Le Monde, Médiapart). Claire Hédon y dénonce une industrialisation de la lutte contre la fraude des bénéficiaires, explique Le Monde. Le rapport souligne, par exemple, que la communication bancaire est devenue une procédure automatisée, alors qu’elle est normalement circonscrite à certaines situations et proportionnée. De même, la généralisation de la consultation des réseaux sociaux à des fins de contrôle se déploie sans garde-fous. La Défenseure des droits rappelle à nouveau le surciblage et le surcontrôle de certaines catégories de population et renouvelle ses demandes de transparence et de mesure de l’équité des ciblages et contrôles. Elle dénonce également des notifications non motivées et non conforme à la réglementation et une faible communication sur les voies et délais de recours. Mais surtout, elle pointe combien la fraude est une qualification plastique et que ce qualificatif devenu omniprésent entrave le droit à l’erreur et l’accès aux droits. Et de plaider pour lui substituer et « ériger le droit à l’erreur de bonne foi en tant que principe général applicable en toutes circonstances aux relations entre les usagers et les organismes sociaux ».

La Défenseure des droits plaide pour une amélioration de l’information aux usagers, mais surtout pour que les services sociaux priorisent la prévention plutôt que la répression. Elle rappelle que l’administration a de plus en plus tendance à confondre la fraude et l’erreur, alors même que le droit à l’erreur a été inscrit dans la loi depuis 2018 et dénonce le constat que les pouvoirs publics s’accommodent trop du non-recours. 

Mais, si les constats du Défenseur des droits s’accumulent et se répètent de rapports en rapports, peut-être faut-il convenir que le problème est bien plus politique qu’on le pense. La nouvelle réforme proposée par le projet de loi sur la fraude sociale, montre combien le discours saturé ne parvient plus à laisser d’espace pour d’autres approches que la chasse aux pauvres. 

Pour la Quadrature du net également, le flicage n’en finit pas, dénonçant, dans la dernière version du projet de loi, l’élargissement de l’accès aux comptes bancaires pour le contrôle du RSA. Le contrôle sur les moindres dépenses des plus pauvres, a clairement pour but d’humilier, « tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits ». « Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure ». En réalité, explique l’association, le projet de loi vise d’abord à permettre aux départements de procéder à ces contrôles, alors que normalement, ils sont du recours des seuls services sociaux (et à protéger les départements de poursuites, comme celle engagée par les allocataires du Finistère). Et surtout, il vise à élargir considérablement aux acteurs du social la possibilité « d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs. » Pour la Quadrature, cette mesure s’inscrit « dans un processus d’extension continue du droit de communication » à des fins de « lutte contre la fraude sociale », faisant fit des limites et des garanties de ce droit, supprimées d’un projet de loi l’autre. « Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse. » 

La Quadrature estime pourtant qu’un espoir pourrait venir depuis le droit européen, pour réaffirmer des limites et des garanties. La Cour européenne des droits de l’Homme (CEDH) a récemment « condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français ». « La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela. »

Dans un communiqué de presse, Changé de Cap dénonce le fait qu’il sera bientôt possible à la CAF, aux Départements comme à France Travail de procéder à une suspension conservatoire des prestations et allocations en cas « d’indices sérieux d’un manquement délibéré ou de manœuvre frauduleuse ». Les organismes sociaux vont donc pouvoir couper les droits unilatéralement sans que ne soit défini ce que sont les manquements, les indices sérieux voire les indices graves et concordants. 

« Le collectif Changer de cap est en opposition totale avec cette politique de chasse aux pauvres. Nous réaffirmons :

Que la lutte contre les exclusions doit rester un impératif national fondé sur le respect de l’égale dignité de tous les êtres humains et une priorité de l’ensemble des politiques publiques.

Que toute personne en difficulté a le droit au soutien de la nation, tel que cela est énoncé dans plusieurs lois fondamentales et dans la Constitution.

Que l’État, les collectivités territoriales, les établissements publics dont les centres communaux et intercommunaux d’action sociale, les organismes de sécurité sociale ainsi que les institutions sociales et médico-sociales doivent participer à cette mission de soutien aux populations précarisées.

Que chaque personne a le droit à un accompagnement respectueux de son parcours, prenant réellement en compte les difficiles chemins empruntés et les situations complexes.

Et ne craignons pas d’exiger de nos responsables politiques de lutter contre les causes de la pauvreté plutôt que d’orchestrer la chasse aux pauvres. »

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des organismes des gestion sociale à leur mission. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées.

Voir également notre billet sur les algorithmes de score de risque de fraude à la CAF qui surveillent les bénéficiaires.

Et si notre terre était notre langue ?
Et si les IA conversationnelles étaient nos vaisseaux ?
Et si nous étions des astronautes sociaux ?

L’Overview Effect ou « effet de vue d’ensemble » c’est « un choc cognitif, une prise de conscience dont témoignent certains astronautes lors d’un vol spatial qui se produit lorsque ceux-ci observent la Terre depuis l’orbite terrestre ou la Lune. Cet effet se produit par la mise en perspective directe de la situation de la Terre dans l’espace : la planète est perçue comme une sphère fragile, un point bleu pâle « suspendu dans le vide », protégé par une fine atmosphère. »

L’Overview Effect conduit donc à prendre conscience de la fragilité d’un écosystème en l’observant d’un point, d’une position qui ne nous est ni naturelle ni facilement accessible et qui introduit une grande distance impliquant un renversement de perspective.

Et bien – me semble-t-il en tout cas – c’est très caractéristique de ce qu’ont produit les premiers systèmes d’IA conversationnels, ces artefacts génératifs. Et de ce qu’ils continuent de produire actuellement. En même temps que ces « agencements machiniques informationnels » ont déplacé la question du langage, ces IA conversationnelles et leur insincères maïeutiques nous ont mis dans une situation d’observation tout sauf naturelle de processus discursifs en temps réel qu’ils effectuent, processus discursifs pour autant (essentiellement) crédibles et « satisfaisants » (en tout cas satisfaisants aux principaux codes d’un échange conversationnel entre deux êtres humains).

Voir des machines parler était déjà étonnant mais fut longtemps cantonné au seul imaginaire de science-fiction ; puis parler à des machines (via les interfaces vocales du World Wide Voice) devînt une forme de routine mais demeurait, quelque part, toujours une forme d’étonnement ; aujourd’hui, voir des machines avoir avec nous des conversations rationnelles en temps réel, produit un effet de décalage qui fait que c’est « notre » intelligence, « notre » capacité dialogique et rationnelle qui est vue comme immensément fragile et qui, par contraste, donne à ces machines et à ces artefacts, dans l’interaction que nous avons avec elles, une place différente de ce qu’elle devrait être. Un renversement de perspective.

Nous sommes dans la position de l’astronaute qui observe non pas la terre mais la capacité de langage et d’intellection (et parfois aussi d’imagination), et qui l’observe pour la première fois depuis la médiation artificielle et artefactuelle qu’en propose l’IA générative. Et si la distance de la terre à la station spatiale qui permet de l’observer est considérable et se mesure en kilomètres (autour de 400 pour être précis), la distance entre notre « engagement langagier » et l’écho conversationnel médié par les IA est tout aussi vertigineuse à ceci près qu’elle ne se mesure plus en kilomètres mais plutôt en dépliant l’ensemble des règles algorithmiques, corpus d’entraînement, processus de « fine-tuning » mais aussi infrastructures techniques (data centers) et autres opérations qui permettent aux machines de faire à la fois illusion de langage et leurre de conversation.

Soit la langue est fragile, soit c’est nous qui le sommes.
Et si la langue est aux machines …

Cette position tout sauf naturelle (au même titre que celle de l’astronaute Sophie Adenot ci-dessus) nous conduit, en partie au moins, à regarder et à mieux mesurer et prendre en compte toute la fragilité du langage et des interactions humaines qu’il permet et conditionne. Mais cette situation d’observation inédite produit également deux effets différents : certains cherchent à protéger ou à sanctuariser la nature ou à tout le moins la fonction du langage, et à ne pas entièrement et systématiquement les soumettre aux systèmes techno-politiques qui produisent et façonnent ces IA ; d’autres au contraire font de cette fragilité évidente l’occasion d’un renoncement sur l’autel de l’efficience ou de la rationalité économique, prétextant se démultiplier via des IA agentiques qui sont le Taylorisme d’une langue véhicule. Et puis bien sûr il y a les enjeux même de l’écriture et de la création, que décrit un récent et admirable texte de Gregory Chatonsky sur AOC : « Ce qui (me) permet d’écrire est ce qui (vous) empêche de lire. »

Dans les deux types de réaction possible à cet Overview Effect de l’IA sur le langage, certains initialement en garderont donc surtout un sentiment accru de connexion avec une entité non-humaine, là où d’autres n’y verront que l’instanciation de formes toujours plus abouties d’isolement et de solitude. Tout comme la littérature scientifique autour de l’Overview Effect (qui date des premiers vols à haute altitude dans les années 1950), documentait aussi bien « l’appréciation et la perception de la beauté, une émotion inattendue, voire bouleversante, et un sentiment accru de connexion avec les autres » (Wikipedia) qu’un effet paradoxal de « rupture » ; les aviateurs traversaient en effet un phénomène décrit comme un sentiment de séparation physique de la terre occasionnant des réactions individuelles allant qui pouvait soit les plonger dans un sentiment  « d’exaltation ou du sentiment de se sentir plus proche de Dieu » tout comme à des formes élevées d’anxiété, de peur ou de solitude (Wikipedia). Ce phénomène dit de « break-off » cessa d’être étudié en tant que tel au début des années 1970.

Dans l’histoire des technologies numériques, qu’il s’agisse du Cloud, des réseaux sociaux, ou désormais de l’IA, les effets de proximité sont presque toujours paradoxaux et ne font que masquer une distance de plus en plus grande. Le « Cloud Computing » permet une disponibilité immédiate de documents qui n’ont jamais été stockés physiquement aussi loin de nous ; les réseaux sociaux ont historiquement fait proximité (puis promiscuité) avec des individus géographiquement toujours plus éloignés. Sans toujours le mesurer ou l’éprouver, nous avons donc déjà traversé d’autres « Overview Effects » : celui de l’éloignement et d’une distension de nos mémoires documentaires, celui de l’éloignement et d’une distension de nos relations sociales, et désormais donc, celui de l’éloignement et d’une distension là encore paradoxale de notre rapport au langage.

Voilà pourquoi, aussi, la question des heuristiques de preuve, celle de savoir comment à l’échelle d’une société nous serons – ou non – encore capables de définir la valeur de vérité d’un énoncé ou d’un fait et que cette valeur soit partagée parce que démontrable, documentable, voilà pourquoi la question des heuristiques de preuve est devenue aussi essentielle : non pas seulement par l’industrialisation de la production du faux, non pas uniquement par la vitesse même à laquelle ce faux est créé et se diffuse mais parce que nous sommes placés à une distance lointaine, inédite, comme en « décrochage » de notre capacité à faire langage. Parce que pour filer cette métaphore au moins visuelle de l’Overview Effect, c’est un autre type de vaisseau que l’ISS qui nous mène à si grande distance d’un biotope (la langue) qui nous est habituellement si proche et qui à mesure qu’elle se rapproche des machines semble aussi comme proportionnellement s’éloigner de nous. Les IA, ou plus précisément leur cadre de déploiement technique (les LLM) et infrastructurel (Data Centers et processeurs), sont un vaisseau comme un vecteur de mise à distance, d’éloignement de ce qui fait la langue.

Nous arrivons aujourd’hui à un moment charnière dans lequel nous verrons si la massification de l’usage des IA (pour autant qu’elle continue d’augmenter de manière constante et ne soit pas soumise à divers aléas d’un modèle économique pour l’instant reposant sur la dynamique d’un gigantisme de l’épuisement – toujours plus de ressources et de consommation), nous verrons, disais-je, si la massification de l’usage des IA nous emmène plutôt vers la conscientisation de la fragilité de la langue ou s’il faut plutôt se résoudre, après sa marchandisation dans un capitalisme linguistique (Frédéric Kaplan), à sa presque totale servicialisation dans un cadre où ce que l’on appelait la novlangue et le néo-parler, seront l’essentiel de la langue collective circulante quand d’autres régimes discursifs et linguistiques, jusqu’ici principalement vecteurs de socialisations affectives fines, seront de plus en plus cantonnés aux seuls échanges entre humains et machines.

Je ne crois pas trop à l’avènement à moyen terme d’une société du silence qu’extrapole par exemple un éditorial du WSJ reposant sur un article scientifique qui montre que nous utilisons en moyenne chaque année, 300 mots de moins par jour. Un recul de la parole qui touche toutes les classes d’âge et que les chercheurs comptabilisent en indiquant que notre volume de parole a diminué de 28% en moins de 15 ans.

Je crois par contre que depuis l’avènement des médiations numériques, l’inflation de paroles et de discours directement monétisables d’une part (capitalisme linguistique), et en parallèle et d’autre part, l’artificialisation soutenue de formes discursives indigentes au seul renfort d’une nécessité d’interaction rendant la langue soluble dans sa fonction phatique, je crois que oui, tout cela fait qu’encore une fois la question du langage s’est déplacée et qu’elle continue de le faire toujours davantage, les IA conversationnelles augmentant la distance entre elle et nous à des échelles stratosphériques jusqu’ici jamais atteintes.

One More Thing.

Dans une interview au magazine Usbek & Rika à propos de son dernier livre, la question était posée à Nicholas Carr de savoir quelle serait sa première décision s’il était nommé à la tête d’un puissant ministère de la technologie et du numérique par un gouvernement éclairé. Et il répondait ceci : « Détruire tous les centres de données. »

Or que sont ces centres de données fondamentalement dans la perspective qui nous occupe ? Ce sont des centres d’accumulation de paroles et de discours ; de paroles et de discours retenus, en permanence recalculés, archivés non pas par vertu de conservation mais par nécessité de manipulation. Détruire tous les centres de données pourrait alors, en effet, redonner une chance à la parole d’exister, et que chaque occasion nouvelle de discourir soit aussi une occasion nouvelle de découvrir. Ce qui fût un temps l’essentiel de l’intérêt de ce que nous appelions le Web.

Pour le blog du LPE Project, Vincent Joralemon, directeur du Centre de droit et de politique des sciences de la vie de Berkeley, revient sur les récentes condamnation de Meta et Youtube pour négligence de conception de leurs systèmes pour avoir trompé les utilisateurs sur la sécurité de ses plateformes (voir notre article). « Ce qui m’a frappé en lisant l’histoire de Kaley, c’est la banalité apparente de son expérience ».

L’une des plaignantes, Kaley, 20 ans, a grandi dans un quartier très populaire de la Californie. Ses parents ont divorcé quand elle avait 3 ans. Son père était violent. Kaley a commencé à utilisé Youtube à 6 ans et Instagram à 9 ans. Elle passait jusqu’à 16 heures par jour sur Instagram. Mais le net n’était pas pour elle qu’un refuge. « La plupart d’entre nous avons déjà ressenti l’attrait irrésistible du défilement dans les moments les plus difficiles, cherchant notre fil d’actualité précisément au moment où nous sommes le moins capables de nous en détacher. Mais pour ceux qui traversent les épreuves les plus durement éprouvées – instabilité familiale, traumatisme, pauvreté – le défilement n’est pas un réconfort passager. C’est le seul refuge disponible, ce qui rend ces utilisateurs particulièrement vulnérables à la dépendance. » Or, estime Joralemon, le procès a mis en lumière un aspect largement négligé par les analyses juridiques : « les préjudices liés à la conception addictive des plateformes sont structurés par classe sociale ».

Le procès a permis de dévoiler que les recherches internes de Meta montraient que le contrôle parental et les règles familiales n’avaient aucun effet sur l’utilisation compulsive des plateformes par les adolescents… et que les enfants ayant vécu des événements traumatisants étaient les plus susceptibles de développer une dépendance. Tout le long du procès, les avocats de Meta ont passé des semaines à blâmer la famille de Kaley, arguant que sa dépression et son anxiété étaient dues à une enfance difficile et non à la conception de la plateforme. Certes, mais la défense de celle-ci a montré que même en installant tous les logiciels de blocages possibles, la mère de Kaley ne pouvait rien contre la dépendance de sa fille. Et le jury a estimé que Meta comme Youtube avaient trompé volontairement les utilisateurs. 

Derrière le préjudice reconnu, pointe Joralemon, il reste un critère qui lui l’est moins : « les effets néfastes de la conception addictive des plateformes pèsent plus lourdement sur les enfants déjà les plus vulnérables – que ce soit en raison de l’instabilité familiale, de traumatismes, de difficultés économiques, ou (comme c’est souvent le cas) des trois. » C’est-à-dire que ces systèmes ont des impacts sociaux plus forts sur certains publics que sur d’autres.

« Les enquêtes de Common Sense Media montrent que les préadolescents issus de familles à faibles revenus passent environ trois heures de plus par jour devant les écrans de divertissement que leurs pairs issus de familles plus aisées. Chez les enfants de moins de huit ans, le temps passé devant les écrans par les enfants issus de familles à faibles revenus est plus du double de celui de leurs pairs plus aisés. Lorsque les familles à faibles revenus se connectent à Internet, environ 28 % d’entre elles sont dépendantes de leur smartphone (contre 4 % des adultes les plus aisés). Il existe donc une raison valable pour laquelle les parents à faibles revenus sont 50 % plus susceptibles d’être « extrêmement ou très inquiets » pour la santé mentale de leurs enfants que les parents à revenus élevés. Plus inquiétant encore, le Rapport mondial sur le bonheur 2026, basé sur un sondage auprès de 330 000 adolescents dans 43 pays, confirme que les adolescents issus de milieux socio-économiques défavorisés sont les plus touchés par les comportements numériques compulsifs. »

« Ce qui semble être un problème d’éducation parentale est en réalité un problème d’économie politique », explique Joralemon. « L’écart en matière de temps passé devant les écrans est lié à la réduction des financements alloués aux activités périscolaires, aux horaires de travail atypiques des parents à faibles revenus. Selon une étude de l’hôpital pour enfants Lurie, un parent sur quatre utilise les écrans faute de moyens pour faire garder ses enfants. Un document interne de YouTube, présenté lors du procès, décrivait la plateforme comme une « nounou numérique à court terme ». » Et le cadre politique mis en place pour remédier à ces problèmes, fondé presque entièrement sur la responsabilité parentale, est intrinsèquement régressif, appuie le chercheur.

Mais si « la dépendance numérique est un problème de santé publique, quelle est la solution ? », interrogeait Joralemon dans un article pour la revue Health Affairs. Il y rappelle que la compulsion où l’addiction numérique doit être appréhendée comme un problème de santé publique, non pas dû à une défaillance individuelle, mais à des produits conçus à des fins commerciales. Que la réglementation en la matière devrait donc s’inspirer de la réglementation du tabac qui en restreint l’accès et dénormalise son usage ; de la réglementation des opioïdes qui contrôle leur disponibilité par le biais d’une prescription supervisée ; et de la réglementation des jeux d’argent qui impose des mesures de protection dès la conception afin d’atténuer le potentiel addictif. Bref, s’appuyer sur des normes de conception des produits, des obligations d’avertissement et de divulgation, des restrictions publicitaires, des contrôles d’accès basés sur l’âge, des obligations de surveillance et des mécanismes de financement pour le traitement et la prévention. Or « les plateformes numériques fonctionnent sans contrôle comparable. Il n’existe aucune obligation générale de surveiller les signes de dépendance, aucune obligation d’interrompre les comportements à risque, ni aucune obligation de repenser les fonctionnalités connues pour favoriser une utilisation compulsive ».

Si les premiers litiges liés à la compulsion à arriver devant les tribunaux américains se concentrent sur les mineurs, les préjudices sous-jacents ne se limitent pas aux adolescents, mais touchent notamment les personnes âgées, ainsi que les individus souffrant de dépression, d’anxiété ou de solitude. Dans le cas des opioïdes comme du tabac, les actions en justice privées se sont révélées être le principal catalyseur, imposant la divulgation de documents et la surveillance des comportements, comme c’est le cas dans les régulations des jeux d’argent. « Le statu quo – qui consiste à considérer les technologies addictives algorithmiques comme fondamentalement différentes des autres produits conçus pour exploiter les vulnérabilités humaines – devient scientifiquement et éthiquement intenable. » 

Pour Joralemon, il faut aller plus loin encore, conclut-il sur le blog du LPE Project. « Une réponse adéquate doit associer les obligations des plateformes à des investissements dans les biens communs : des services de garde d’enfants abordables, des activités périscolaires, des horaires de travail stables et des espaces publics sûrs. Réglementer le produit est nécessaire. Mais construire un monde où les enfants n’auraient pas besoin de ces produits l’est tout autant ! »

Aux Etats-Unis, l’AI Now Institute lance une boîte à outils pour s’opposer au projets et aux déploiements de centres de données. L’AI Now Institute fait le point sur les multiples recours possibles, en fonction des politiques locales, étatiques et fédérales et des différentes réglementations sectorielles (sur le développement économique, l’énergie, la pollution, la transparence, l’usage de l’eau…) qui sont mobilisables. Le kit se complète d’une formation en ligne.

Après Anthropic, Microsoft va faire passer les utilisateurs de GitHub Copilot à une facturation par jetons, rapporte Ed Zitron (le coût hebdomadaire d’exécution de GitHub Copilot ayant presque doublé depuis janvier). La tokenisation, c’est-à-dire le fait de payer l’IA selon sa consommation de token va devenir un peu partout la règle. Et c’est déjà le cas dans les entreprises. 

Chez Uber, par exemple, les coûts de l’IA explosent. Un employé de Meta, lui, a créé de son propre chef un classement qui suivait le nombre de tokens utilisés par les plus de 85 000 employés de l’entreprise, rapporte Fortune. Baptisé « Claudeonomics », en référence au modèle d’IA d’Anthropic, ce classement affichait les 250 employés dépensant le plus de tokens. 

Cette illustration parfaite du tokenmaxxing (qu’on pourrait traduire par optimisation à outrance des jetons), est un phénomène qui met l’accent sur l’utilisation des tokens comme mesure de productivité des développeurs. « Sur une période de 30 jours, l’utilisation totale des tokens par les employés sur le tableau de bord de Meta (fermé depuis) a dépassé les 60 000 milliards de tokens, et l’utilisateur individuel le plus gourmand a consommé en moyenne 281 milliards de tokens. Avec la version la moins chère de Claude Opus 4.6, facturée 5 $ par million de tokens, cet utilisateur à lui seul aurait pu coûter à Meta plus de 1,4 million de dollars. » Dans une interview récente, le premier promoteur de la tokenisation, Jensen Huang, PDG de Nvidia, proposait que le budget annuel en token de chaque ingénieur soit équivalent à la moitié de son salaire annuel. 

Le tokenmaxxing n’est pas une stratégie d’IA, critique Thomas Claburn pour The Register. Qui estime que le coût du token, qui est le fruit d’un savant calcul, selon les GPU mobilisés et les systèmes d’IA. Reste que mesurer la performance d’un développeur au volume de ses dépenses, ne dit rien de la qualité ou de l’utilité de ce qu’il produit. L’indicateur se revèle aussi idiot que le nombre de ligne de codes produit. Le but pourtant n’est pas de dépenser des jetons mais de savoir pourquoi et à quoi vous les dépensez ! Même constat pour Kevin Rose dans le New York Times : « Ah, oui, la qualité du résultat. Les classements ne la mesurent pas ! » 

Pour The Verge, la journaliste Hayden Field revient également sur les changements de modèles économiques en cours dans le monde de l’IA. Après des années d’accès à bas prix, voire gratuit, à des systèmes d’IA avancés, la facture commence à se faire sentir. L’ère de l’IA quasi gratuite touche à sa fin.

« Will Sommer, analyste chez Gartner, étudie les tendances économiques à long terme liées à l’IA générative, notamment en évaluant les enjeux financiers. Entre 2024 et 2029, Gartner estime que les investissements dans les centres de données d’IA atteindront environ 6 300 milliards de dollars, une somme colossale. Pour éviter une dépréciation de ces actifs, les principaux fournisseurs de modèles d’IA devraient idéalement générer un retour sur investissement d’environ 25 %, explique Sommer (c’est le rendement moyen d’Amazon, Microsoft et Google sur leurs investissements globaux).» Si les rendements tombent en dessous de 12 %, les investisseurs fuient. En dessous de 7 %, on entre dans une phase de dépréciation, ce qui représente « un désastre absolu pour tous les investisseurs dans cette technologie ». Pour atteindre ce seuil minimal de 7 %, Gartner prévoit que les grandes entreprises d’IA devront générer près de 7 000 milliards de dollars de revenus cumulés grâce à l’IA d’ici 2029, soit près de 2 000 milliards de dollars par an. Afin d’obtenir des« rendements historiques », ces fournisseurs devraient générer près de 8 200 milliards de dollars sur la même période. »   

« Mais pour atteindre les 2 000 milliards de dollars de dépenses annuelles calculés par Gartner, les fournisseurs devraient générer, selon des estimations prudentes, un total cumulé de 10 sextillions de tokens par an (un sextillion, c’est une suite 21 36 zéros). Même en supposant une marge bénéficiaire très généreuse de 10 % par jeton, la consommation de jetons d’ici 2030 devrait être multipliée par 50 000 à 100 000. »

« Actuellement, confrontées à une demande croissante de centres de données et à une pénurie de puissance de calcul, les entreprises ne sont pas en mesure de traiter un tel volume de jetons. Même si elles le pouvaient, elles rencontreraient un problème : elles seraient probablement déficitaires. Sommer estime que si l’on ne tient compte que des coûts directs d’infrastructure et d’électricité, « chaque entreprise dégage des marges très raisonnables sur chaque jeton ». Mais cette marge est probablement plus faible, voire inexistante, avec les nouveaux modèles, plus gourmands en jetons. Et ces ressources sont entièrement absorbées par les coûts d’exploitation indirects, comme le développement de la puissance de calcul et les dépenses exorbitantes liées à l’entraînement constant des nouveaux modèles. » Et dès qu’on ajoute toute l’infrastructure nécessaire à la prochaine génération de modèles et qu’on examine leur passage à l’échelle, la situation devient de plus en plus intenable, explique Sommer. Selon lui, nombre d’entreprises « ne pourront pas maintenir leur rythme de dépenses ». A terme, il ne devrait rester pas plus de deux grands fournisseurs de modèles de langage. Et l’époque où presque tous les services proposent une offre gratuite assez généreuse ne durera probablement pas. 

Aux débuts de l’IA, la majeure partie des coûts de calcul était consacrée à l’entraînement des modèles initiaux, tandis que l’inférence (ou l’exécution des tâches) était moins onéreuse. Cependant, avec l’évolution des modèles et l’ajout de fonctionnalités aux systèmes, l’inférence est devenue beaucoup plus gourmande en ressources. Les agents d’IA, ou outils capables idéalement d’effectuer des tâches complexes à votre place sans intervention constante, consomment désormais beaucoup plus de ressources que les modèles de chatbot basiques d’il y a quelques années. Les principales entreprises d’IA ont récemment modifié leurs politiques d’utilisation des API et des outils tiers – comme Anthropic qui interdit de fait l’utilisation d’OpenClaw, sauf pour les abonnés payant un supplément – ​​en raison de la surcharge qu’ils engendrent. En résumé, les grandes entreprises d’IA se trouvent à un tournant : elles ont attiré un grand nombre d’utilisateurs en offrant un accès gratuit, et doivent désormais les fidéliser tout en augmentant significativement leurs tarifs. 

Face à l’augmentation des coûts, les entreprises pourraient avoir tendance à migrer leurs infrastructures IA totalement ou partiellement vers des modèles open source plutôt que de recourir aux services des géants de l’IA. Pour Will Sommer, un modèle économique durable « exigerait que l’IA générique soit intégrée à tous les aspects de notre vie, des panneaux publicitaires aux bornes de caisse » et que les fournisseurs d’IA prélèvent une commission sur toutes ces transactions. Ce qui est sûr, c’est que « l’ère du gratuit n’était qu’une course à l’accaparement du marché : une stratégie courante chez les startups ». « Ce n’est tout simplement pas un modèle économique viable. On ne peut pas continuer comme ça indéfiniment. »

Le livre de Marion Flécher que l’on vous recommandait il y a peu, Le Monde des startups, gagnera à être complété par la lecture de celui de Marlène Benquet, La finance aux extrêmes (La découverte, 2026). Dans ce livre-ci, la sociologue Marlène Benquet ne s’intéresse pas aux startups, mais à ceux qui les financent. Elle décortique l’essor du capital investissement et ses conséquences politiques. 

Du financement des startups à la politique

Dans cet essai très court, très clair malgré l’austérité de son sujet, la sociologue explique que la financiarisation du monde a changé. Nous sommes passés d’une finance des marchés à une finance hors marché : d’un monde de l’actionnariat public à celui du capital investissement. Et avec ces transformations qui pourraient sembler n’avoir été qu’économiques, que techniques, c’est une autre orientation politique qui oriente le secteur de la haute finance. Si jusqu’à présent le monde de la finance était favorable à la régulation et à la libre concurrence, politiquement néolibéral, les acteurs financiers au sommet de la financiarisation, eux, défendent des monopoles. Leur vision économique est libertarienne et leur orientation politique autoritaire. Si Peter Thiel est le parangon de cette transformation profonde du secteur financier, il n’en est qu’un élément saillant, visible. 

Benquet montre que les acteurs financiers du capital investissement œuvrent activement à la recomposition politique actuelle. Les gestionnaires d’actifs, les fonds de capital investissement, les fonds immobiliers, les fonds « à impact social ou environnemental » n’ont pas la même orientation politique que les banquiers et assureurs d’antan (« la finance des collecteurs d’épargne », comme les distingue la sociologue, c’est-à-dire le secteur de la banque et de l’assurance). La raison, explique Benquet, tient au fait que les gestionnaires d’actifs sont des « investisseurs pour autrui ». Ils investissent des capitaux qu’ils ne possèdent pas, contrairement aux banques qui investissent leurs fonds (même si ceux-ci reposent sur l’argent – l’épargne – de leurs clients). Les milliardaires dont on entend parler dans l’actualité appartiennent tous à ce secteur : aucun banquier du monde de la première finance n’est jamais devenu milliardaire. Non seulement ce secteur est extrêmement riche, mais les gens qui le composent sont particulièrement puissants. 

Benquet explique très bien comment ce secteur produit son idéologie. Le monde des gestionnaires d’actifs vise à transformer en actifs des entreprises, de l’immobilier ou n’importe quoi d’autre. Ce secteur décide désormais ce qui sera financé de ce qui ne le sera pas, non plus sur les marchés mais bien avant que les produits n’y parviennent. Le pouvoir d’allouer le capital, d’octroyer des financements a profondément changé de mains. Leur manière d’investir repose sur la rentabilité que cet investissement va produire. En fait, montre Marlène Benquet, la financiarisation, ses transformations, a des impacts politiques profonds. Et le néolibéralisme pourrait bien avoir été une belle époque par rapport à celle qui s’annonce. Les gestionnaires d’actifs ne calculent plus que leurs seuls profits et ont un rapport au monde particulièrement autoritaire et conservateur. Ces gens sont avant tout libertariens : pour eux, « la liberté, c’est la propriété », puisqu’elle seule les enrichit. Pour eux, l’État ne doit pas pouvoir limiter ce que chacun possède ni l’usage que chacun peut en faire. 

Derrière ces positions économiques glissent des visions politiques hostiles à la démocratie, où le plus riche devrait être le plus puissant. Alors que la finance néolibérale souhaitait encore la démocratie, la finance libertarienne, elle, souhaite que la société obéisse à sa puissance. La force du livre de Benquet est de montrer que cette transformation de la financiarisation du monde n’a pas lieu seulement dans la Silicon Valley, ce nouveau Wall Street. Non, Benquet enquête dans cette finance en France. Elle montre que les tenants d’un changement politique au profit de leur vision économique du monde et surtout de leurs seuls intérêts, agissent dès à présent, financent des prises de position, orientent la régulation et imposent finalement leur cynisme à une grande part du spectre politique. Leurs discours s’épanchent, se déversent, séduisent ceux qui pensent pouvoir rejoindre ce petit monde si puissant, quand ils n’en ont jamais été plus éloignés. 

Le risque, cette notion que certains font peser sur d’autres

Dans son livre, Benquet montre concrètement ce que produit ce secteur, comment il évalue, calcule, accumule. Depuis de simples tableurs Excel, les gestionnaires d’actifs « calculent des taux de profits attendus des différents investissements possibles », à la recherche de celui qui devrait être le meilleur. Leur rapport au monde tient du seul ratio. 

Benquet montre que dans ces évolutions de la finance, l’actionnariat familial est de plus en plus fragilisé. Les gestionnaires d’actifs colonisent tout ce qui peut produire du rendement : hôpitaux, forêts, terres agricoles… 

Comme le pointait Flécher dans Le monde des startups, dans ce schéma, les risques que prennent ceux qui prennent des risques pour d’autres sont très bien rémunérés. Eux-mêmes vivent de rentes d’abord, de leurs parts d’intérêts (20% qui se décomposent en commissions et en intérêts liés aux performances des fonds qu’ils gèrent). Ils profitent également de leur propre mobilisation politique leur ayant permis de faire voter des exonérations fiscales avantageuses à leurs opérations, une forme de subvention publique de cette finance que nous finançons tous. Mais surtout, « les actifs dans lesquels ils investissent ne les intéressent pas en tant qu’ils sont rentables, mais en tant qu’il est possible de spéculer sur leur valeur et de réaliser des plus-values lors de leur revente ». Le but, n’est pas de construire de la croissance, de la rentabilité, mais seulement des taux. Le but n’est pas de construire des entreprises pérennes mais d’atteindre des niveaux de rentabilité très élevés. Mais plus encore, ils n’accumulent plus, comme les acteurs de la première finance, en se plaçant en concurrence avec d’autres acteurs sur les marchés financiers pour s’approprier des dividendes, « mais en occupant des positions quasi monopolistiques dans la fourniture de produits ou de services nécessaires à la vie sociale ». On pourrait même dire que leur but ultime, pour réaliser leurs dividendes, est d’obtenir des situations monopolistiques, seuls à même d’assurer les rentes élevées qu’ils visent, comme de faire augmenter les tarifs au-delà des réalités. C’est ce qui se passe quand ils investissent sur des startups, cherchant à financer par exemple, l’acteur unique, la plateforme qui va monopoliser le marché, comme l’ont été Uber ou Airbnb hier, comme promettent de l’être Palantir ou Clearview demain. 

Cette recomposition des chaînes de la finance n’est pas sans conséquence sur nos vies. Dans Our lives in their Portfolios (Verso, 2023) Brett Christophers montrait déjà combien cette transformation de la financiarisation avait des répercussions directes sur nos vies. Les secteurs qu’ils financent, qu’ils s’accaparent, ont des impacts sur ce qui nous est accessible, comme c’est le cas du soin où pharmacies, cabinets dentaires ou d’ophtalmologie par exemple impactent nos accès, à l’exemple de l’entreprise CVS aux Etats-Unis (qu’évoquait le journaliste indépendant Robin Kaiser-Schatzlein pour The American Prospect – on en parlait dans la mise à jour de notre article sur le Sludge – en soulignant que le sous-effectif était une conséquence des contraintes économiques de la rentabilité qui s’impose à ces chaînes). Même chose dans l’immobilier par exemple, comme le racontait Tim Wu. Partout où les fonds de pension s’imposent, la pression à la seule rentabilité explose.

Benquet rappelle que les acteurs du capital investissement sont très bien payés. Les directeurs d’investissements gagnent des fortunes avec des parts variables conséquentes. L’argent est une motivation essentielle des acteurs de ce milieu, explique-t-elle. Pour eux, l’enrichissement tient d’un rapport individualiste : il n’est pas perçu comme le produit du travail de générations successives, mais seulement comme le produit d’une rationalité stratégique, celle d’individus à la recherche d’une rentabilité maximum. De même, leur éthique repose sur la responsabilité individuelle, dont ils distinguent les bonnes pratiques des abus, pour ne la placer finalement que sur le seul plan moral, et non sur le plan des réglementations. Leur éthique dépend donc uniquement de leur liberté et de leur bon vouloir, ce qui permet de justifier le développement d’un investissement à impact, c’est-à-dire qui se présente comme social et responsable. « Les investisseurs pour autrui ne perçoivent aucune contradiction entre leurs intérêts individuels à l’enrichissement et l’intérêt collectif ou le bien commun », même si leur attention est toute entière dévouée à leurs seuls intérêts… un peu comme si l’intérêt collectif n’était que la conséquence d’un ruissellement qui n’existe pas.

Les tableurs de l’optimisation

La sociologue détaille le fonctionnement de leur travail, ce en quoi il consiste, comme d’évaluer les actifs à acquérir selon des procédures d’évaluations très balisées. Dans leur quotidien, ils lèvent des fonds et gèrent les participations qu’ils détiennent en suivant les business plan qu’ils ont mis en place au moment de l’achat. Enfin, ils cherchent de nouveaux investissements. Ils rédigent des rapports sur les actifs à vendre, déterminent leurs prix de vente en y intégrant le rendement, la performance, qu’ils en attendent et donc les contraintes qu’ils imposent. Les prix sont déterminés par des enquêtes et des « modélisations économiques abstraites, sans connaissance des modes de production des biens ou des services commercialisés ». Des modèles de calculs relativement standardisés, sans grande différence d’un fond l’autre. 

Benquet montre, comme Flécher sur les startups, que nous sommes là dans un milieu façonné par l’endogamie sociale, où tout repose sur l’interconnaissance et la proximité sociale. Où l’engagement dans le travail est total, entre docilité et hard work. Une dizaine d’établissements forme ces investisseurs pour apprendre les manières de penser des financiers. Ici, ce qu’on apprend, c’est à laisser ses sentiments de côté. Une entreprise ne vaut que par son cash-flow et que plus un investissement est risqué, moins il est cher. Tout l’enjeu est de chercher des actifs dont la rentabilité n’a pas été entièrement exploitée et trouver le montage pour accroître leur profitabilité. Pour Benquet, la seconde finance n’est pas une école de pensée. Elle n’est qu’une radicalisation de l’économie néolibérale, « prônant l’intensification des exigences de rendement, l’accentuation d’un rapport désaffectivité et décontextualisé aux investissements et l’élargissement du spectre des biens transformés en actifs ». Elle ne prône que des manières très concrètes d’accumuler. 

Évaluer des actifs se fait souvent dans de simples tableurs, « d’une vingtaine de colonnes et d’un petit millier de lignes », quasiment identiques d’une société de gestion d’actifs l’autre. Leur valeur ne tient pas dans leur valeur, mais dans ce que les investisseurs estiment. Pour Benquet, il y a là une grande homogénéité des manières de compter qui ne repose « ni sur une communauté technique liée à l’usage d’un même outil de calcul, ni sur le partage d’une conception commune néoclassique de la valeur des sociétés, mais sur une communauté de situations, sur l’occupation d’une même place au sein des réseaux de circulation du capital ». Si la forme est fixe et stable, le contenu de ces champs est sans cesse modifié, suite à enquêtes et débats jusqu’à ce que le rachat soit accompli ou abandonné. On y trouve le compte de résultat et le bilan comptable, une évaluation de la transaction, l’activité de la holding qui sera créée pour le rachat par laquelle transitent les flux financiers et qui jouent de délais de fonds et de prêts, de délais de remboursements pour exploiter les actifs financiers en circulation. Et enfin, les hypothèses de sorties et une synthèse des résultats qui anticipe les retours sur investissements attendus. Tout l’enjeu consiste à faire jouer les différentes modalités financières dans le temps. « Les relations des sociétés de gestion aux entreprises se laissent donc moins aisément décrire en termes d’allocation que de ponction de capital. Leur mode d’accumulation du capital repose sur un double canal de ponction de la trésorerie de l’entreprise et de celle de l’Etat. » Ces tableaux permettent de mesurer le taux de retour sur investissement en modifiant les variables pour l’optimiser, comme par exemple de mesurer le niveau de dette que peut contracter l’entreprise pour l’optimiser au bénéfice de la holding. Tout le calcul vise à optimiser le niveau de ponction, le taux de profit attendu. Les investisseurs construisent eux-mêmes les prix de ce qu’ils s’apprêtent à acheter, à leur profit. Contrairement à l’approche de l’économie néoclassique, « la valeur n’est pas inhérente à l’objet, ni déterminée par ses potentialités futures, mais réside dans l’évaluation qui en faite par les investisseurs ». Tout l’enjeu est de faciliter la circulation du capital, car c’est par la circulation que les fonds s’enrichissent. Pour Benquet, ces pratiques relèvent surtout d’une logique de rente : « elles sont conduites de manière à maximiser les rendements et externaliser les risques vers les salariés et les usagers d’un côté, et les investisseurs institutionnels de l’autre ». Bref, tout l’enjeu du calcul consiste à minimiser le risque. 

Une histoire du lobbying

Dans son livre, Marlène Benquet dresse également l’histoire de l’évolution législative qui va permettre à la gestion d’actifs d’exister en France et de soustraire ses prédations à l’impôt, en suivant l’évolution de l’Association française de gestion (AFG), principale association professionnelle des gestionnaires d’actifs en France, fondée en 1961.. Ou encore, la deuxième association professionnelle, France Invest, fondée en 1984. Ou encore l’association française des investisseurs en capital-risque (AFIC, fondée en 1984 devenue France invest en 2017).

Tout l’enjeu a été de transformer le code du commerce de 1966 qui interdisait à une entreprise de s’endetter pour se racheter elle-même. Dans les années 80, ces pratiques passent du statut d’abus de biens sociaux à celui de montages garantis par la loi. La sociologue montre comment ont œuvré les acteurs de la seconde finance pour imposer la dérégulation du secteur, à leur profit, en réduisant les taux d’imposition de ces types d’investissement et accroissant la déductibilité des intérêts d’emprunts. On va peu à peu soutenir ces techniques plutôt que de chercher à soutenir les entreprises en difficulté. Le monde de la finance se mobilise pour souvenir les mérites du capital investissement et l’importer en France en assouplissant la législation. 

Cette histoire d’une dérégulation n’est pas sans évoquer celle que raconte Flécher, qui va permettre aux startups de s’imposer. Elle est portée par des acteurs à leurs profits, notamment les associations sectorielles, qui œuvrent également à la socialisation des investisseurs, à la communication, à la construction d’indicateurs… « Leur projet est d’obtenir des pouvoirs publics l’institutionnalisation de leurs pratiques ». Leur développement va permettre de réorienter la politique financière française vers une orientation plus néolibérale. A mesure que la loi leur est favorable, les investissements augmentent, comme après 1985, quand elles obtiennent le statut fiscal des sociétés de capital-risque (qui exonère les sociétés d’investissements si elles investissent au moins 50% de leurs capitaux dans des sociétés non cotées). Au mi-temps des années 80, les normes de gestion d’actifs anglo-saxonne sont introduites dans le droit français : la gestion pour le compte de tiers, le rachat par recours à l’endettement et la subvention fiscale. A cette même époque, le régime financiarisé se déploie au détriment d’un modèle fordiste et de l’Etat providence. « Les marchés prennent une place de plus en plus importante dans le financement des entreprises. la première financiarisation est en marche ». La seconde finance se développe dans l’ombre de la première. Dans les années 90, Blackstone, premier gestionnaire d’actif mondial, commence à investir dans l’hôtellerie aux Etats-Unis. Entre les années 90 et le début 2010, le secteur du capital investissement « reconfigure les chaînes internationales de la finance ». Ces acteurs sont de toutes les discussions économiques. L’Etat, lui, non seulement se désengage, avec, à la fin des années 90, la troisième vague de la privatisation, mais il incite les acteurs de la première financiarisation, banques et assurances, à orienter leurs capitaux vers les sociétés de gestion. En 1998, il met en place le fonds public pour le capital risque au sein de la Caisse des dépôts et consignations. 

C’est seulement la crise financière de 2007 qui semble stopper nette l’expansion des fonds de gestion. L’opinion publique découvre d’ailleurs l’existence de cette seconde finance, via les hedge funds des spéculateurs immobiliers. Mais les gestionnaires d’actifs peu exposés aux produits financiers dérivés tirent profits de la crise. BlackRock par exemple sort renforcé de la crise. La seconde finance a beau être accusée de tous les maux, y compris par les gouvernements qui ont encouragé leur développement, les associations professionnelles engagent alors un intense lobbying pour relégitimer le capital investissement. Les institutions publiques l’encouragent en l’alimentant en capital public. La crise solidifie les relations entre collecteurs d’épargne et investisseurs pour autrui et avec l’administration. La période post-crise est celle de l’extension du champ des actifs. Alors que les grandes banques sont lourdement réglementées, les firmes de la seconde finance apparaissent plus adaptées à un environnement économique incertain. Les investisseurs délaissent les produits financiers dérivés, jugés trop risqués, et se tournent vers de nouvelles classes d’actifs comme les terres agricoles, les concessions routières, les énergies renouvelables, l’immobilier. C’est l’époque où les fonds à impact acquièrent une reconnaissance légale et un statut dérogatoire grâce à la loi Hamon de 2014. Pour les gestionnaires d’actifs, « ce qui compte pour eux, ce n’est pas de faire du monde un marché efficient, mais de convertir le plus de biens possibles en actifs appropriables. Leur but est simple : en contrôlant des parts croissantes des activités nécessaires à la vie sociale, ils peuvent transformer autant que possible leurs rémunérations en rentes ». L’Etat est sollicité pour dérisquer l’activité, c’est-à-dire assumer une part des risques sans pour autant piloter leur activité. Les financeurs pour autrui prennent en charge des fonctions étatiques en transformant en actifs des services et des missions publiques dans le domaine de la santé, de la recherche, de l’innovation ou des infrastructures. De leur côté, les Etats assument une part des risques liés à ces investissements et sécurisent ainsi les rémunérations des acteurs de la seconde finance, lesquelles tendent à se rapprocher de rentes doublement garanties. Un peu sur le modèle des concessions d’autoroutes ou d’infrastructures. « Les Etats sont pensés comme des filets de sécurité du capitalisme financier », lui assurant des marchés, des droits… au détriment de ceux de l’Etat providence qui eux profitaient à tous. 

De la radicalisation politique du monde de la finance : vers le capitalisme impérial

Dans la dernière partie de son livre, Marlène Benquet montre l’évolution politique des acteurs du secteur. Si en 2002, l’AFIC et l’AFG ont refusé de discuter avec le candidat frontiste à la présidentielle, en 2022, « ces préventions n’existent plus ». Pierre-Edouard Stérin, fondateur du fonds d’investissement Otium Capital, est celui qui s’est donné pour fonction de mettre le RN au pouvoir, comme le rappelle L’Humanité, d’enquêtes en articles. Pour Benquet, la puissance de ces acteurs place les acteurs de la seconde finance « en position de promouvoir des régimes politiques alternatifs plus favorables encore à leur développement ». 

Après l’époque de l’Etat-providence, puis dans celle du néolibéralisme, rappelle Benquet, l’Etat est avant tout le garant de la libre concurrence entre les acteurs privés. Il les réorganise autour de ses missions régaliennes, « tout en maintenant un filet de protection minimale des populations les plus fragiles ». Dans cette forme d’Etat bon marché, les services publics sont privatisés et les politiques de redistribution sociale réduites. Mais les droits civiques et civils restent encore garantis. Les inégalités ne sont plus que de richesses. Or, ce contrat néolibéral se fend. Piketty dans Le Capital au XXIe siècle (Le Seuil, 2013), montre que les inégalités se creusent. Le néolibéralisme ne parvient plus à tenir sa promesse. La promotion sociale semble morte. Les acteurs de la seconde finance vont alors rejoindre peu à peu le mécontentement qui monte. Comme Charles Gave, investisseur qui soutient Eric Zemmour, ou Charles Beigbeder, fidèle soutien de Marion Maréchal.

Suite à la crise financière puis à celle du Covid, le patronat développe une critique du gouvernement néolibéral, jugé trop étatiste, trop interventionniste, trop régulationniste. Les acteurs de la seconde finance s’opposent par exemple à la taxe carbone qui contraint leurs investissements. Ces discours antinéolibraux sont aussi portés par des acteurs de la Tech, qui sont vent debout contre les régulations anti-trust aux Etats-unis. « Un nombre croissant de financiers et d’acteurs patronaux considèrent que les gouvernements néolibéraux ne sont plus à même de maintenir l’ordre social à un niveau suffisant pour que soit garantie l’accumulation du capital ». Ces mécontents s’engagent alors dans des coalitions libertariennes. La presse estime que ces défections sont liées à des convictions personnelles ou à leur fascination pour les outrances de Trump ou de Musk. Mais pour Benquet, ce sont d’abord « les intérêts matériels qui expliquent la distance prise par certaines fractions patronales ». Ces gens sont devenus des opposants au libre-échange.

Marlène Benquet observe alors les cercles de soutien français à la droite extrême et montre qu’ils sont pour beaucoup issue des secteurs de la seconde finance, de la tech et des énergies fossiles. Elle énumère des noms, des prises de position. Aux Etats-Unis, les soutiens de Trump sont passés de la finance extrême au patronat mainstream. Si en 2024, le camp démocrate a obtenu les faveurs de la première finance, comme les institutions de Wall Street, la seconde finance, elle, s’est rangée derrière Trump. A l’image de l’entrepreneur et homme politique républicain Vivek Ramaswamy, qui publie en 2023, Capitalist Punishment (Harpers Collins, 2023), qui dénonce l’agenda de gauche des grandes entreprises de Wall Street. Même l’assaut du Capitol en janvier 2021, n’est pas tant le fait de petites gens désabusées, que d’acteurs patronaux et de cadres dirigeants, comme le soulignait The Atlantic. Musk est certainement l’emblème de ce revirement. Favorable à la candidature démocrate en 2016, il donnera 118 millions de dollars à celle de Trump en 2024. Mais c’est aussi le cas de Bezos et tant d’autres.

« Le récit libertarien autoritaire décrit la société néolibérale comme un monde fracturé qu’il faudrait restaurer en s’appuyant sur des valeurs traditionnelles de force, de loyauté, de famille et de hiérarchie. Il exalte la liberté individuelle comme absolue : chacun doit prendre en charge sa propre vie, défendre les siens et assumer sans aide extérieure les conséquences de ses choix. » Il prône un monde autoritaire, fait de chefs, de clans. Le discours néolibéral valorise des figures de la méritocratie, de Steve Jobs à Barack Obama. Le discours libertarien, lui, parle de cow-boys, de survivalistes. Le discours néolibéral vante la méritocratie et le technosolutionnisme. L’innovation et l’effort individuel sont présentés comme les moteurs de la justice sociale. Le récit libertarien, lui, valorise un ordre moral fondé sur la famille et la nation, valorise une société fondée sur un ordre naturel. Le soutien financier des partisans du libertarianisme autoritaire aux organisations politiques d’extrême droite vise à faire de cette option une politique désirable, crédible. Le monde de la seconde finance ne se coordonne pas les uns les autres comme des acteurs acteurs sur un marché, mais comme des partenaires cherchant à aligner leurs intérêts et à externaliser les risques sur d’autres : Etats et ménages. Les acteurs de la Tech ou de l’énergie se rapprochent des Etats pour obtenir que leur échoit ses anciennes missions, à leurs profits. L’enjeu n’est plus de privatiser les services publics pour les transformer en entreprises comme l’ont été France Telecom ou GDF Suez, mais de s’approprier des pans de souveraineté, sans concurrence. Ce qui est affaibli, ce n’est pas seulement le néolibéralisme politique, mais aussi le néolibéralisme économique. Pour Marlène Benquet, nous assurons au passage d’un capitalisme néolibéral vers « un capitalisme impérial », « un régime relevant de l’Empire plus que du marché ». Un capitalisme impérial qui veut en finir avec la capitalisme démocratique, comme le montre Quinn Slobodian dans son livre, Le capitalisme de l’apocalypse (Le Seuil, 2025). Un capitalisme qui n’est plus progressiste. Qui cherche à fracturer la démocratie ou en prendre le contrôle. 

Pour Marlène Benquet, à la suite de Latour, c’est bien la perspective climatique qui reconfigure la question politique. C’est un capitalisme de la finitude comme le dit l’historien et économiste Arnaud Orain dans Le Monde confisqué (Flammation, 2025). « Le néolibéralisme faisait de l’économie un jeu où nous pouvions tous gagner et le progrès advenir, le libertarianisme autoritaire fait des relations commerciales un jeu à somme nulle dans un monde de ressources finies où la force et la prédation deviennent un mode légitime de répartition des richesses. C’est une forme de capitalisme adapté à la raréfaction des ressources ». Mais pour les partager entre très peu de gagnants. 

Rien ne dit qu’il sera notre avenir, veut rester confiante la sociologue. Mais notre avenir démocratique est bien sombre, si nous ne saisissons pas que rien de cela n’est dans l’intérêt du plus grand nombre. 

Hubert Guillaud

C’est la thèse que soutient l’historien Brian Merchant, qui documente, comme nul autre et depuis longtemps, l’opposition à l’IA. Quelques faits divers à quelques jours d’intervalles, où deux individus isolés se sont attaqués à la maison de Sam Altman et un autre a tiré des coups de feux sur la maison d’un conseiller municipal d’Indianapolis qui venait de voter en faveur de la construction d’un nouveau centre de données… semblent les signaux précurseurs d’une escalade inédite, estime-t-il. Une forme « d’intensification des réactions hostiles à l’intelligence artificielle générative », explique celui qui avait pointé la montée des formes de résistance à l’IA (voir notre article). Des moratoires contre le développement des centres de données, aux propositions d’interdiction de l’IA dans les collectivités, les industries et les entreprises, la grogne ne cesse de gagner du terrain. « Le Maine s’apprête à devenir le premier État américain à interdire purement et simplement la construction de centres de données». Peut-être rate-t-il tout de même dans cet amalgame que ces contestations n’ont pas toutes la même origine : la critique communautaire des centres de données partage peu en commun avec les élucubrations apocalyptiques d’individus isolés (dont les propos, finalement, sont plus proches de ceux d’Altman que de ceux des premiers). 

L’industrie de l’IA semble d’un coup, prise au dépourvu. Sam Altman, sur son blog personnel, impute la violence qu’il subit aux médias et notamment à un article récent qui le dépeignait comme un sociopathe. C’est oublier qu’Altman ne cesse de répéter que son entreprise développe un produit capable de remplacer tous les travailleurs quand ce n’est pas de détruire le monde. Son billet montre surtout l’énorme décalage entre les dirigeants du secteur de l’IA et les raisons de la colère anti-IA, estime Merchant « Depuis trois ans, l’industrie de l’IA demande au public de la prendre au sérieux, comme s’il s’agissait de Trump – sérieusement, mais pas littéralement. C’est impossible. Des startups comme OpenAI et Anthropic figurent parmi les plus importantes de l’histoire précisément parce que les investisseurs et les marchés les ont prises au sérieux, et littéralement. Or, ces investisseurs s’attendent à voir la superintelligence et surtout l’automatisation de masse qui leur ont été promises. » Et c’est bien là la raison principale de la montée de la colère.

Des adolescents poussés au suicide à l’IA pour faire la guerre en passant par la construction sans frein de data centers partout où l’on trouve encore de l’eau et de l’électricité… « Si l’on prend au pied de la lettre ce que les dirigeants du secteur de l’IA affirment depuis dix ans, à savoir qu’une IA suffisamment puissante pour mener à l’extinction de l’humanité est encore à ses balbutiements, alors intervenir par la force pour l’arrêter serait une action rationnelle », ironise Merchant. Mais il ne faut pas croire que ce serait uniquement un problème de communication des dirigeants de l’IA. La suppression des emplois est devenu l’argument de vente principal de l’IA. « Les investisseurs se soucient peu de savoir si OpenAI rend les logiciels conscients ; ils veulent voir une automatisation massive des emplois et les économies de main-d’œuvre historiques qui en découlent. Cette perspective – de déqualification, de contrôle, voire de suppression pure et simple du travail – est ce qui a conféré à l’IA sa valeur unique dès le départ. » L’automatisation du travail est le projet… « et les gens l’ont bien compris. » Et on comprend que celui qui a lancé un cocktail molotov sur la maison d’Altman soit salué comme un héros par des gens pourtant bien moins près à passer à l’action que lui ou bien plus éloignés de ses idées. 

Le projet politique du déploiement de l’IA partout et pour tous semble surtout rencontrer de moins en moins de soutiens, retient Merchant. Un récent sondage d’opinion montre que l’IA devient particulièrement impopulaire. Pour l’essentiel des Américains, les risques désormais dépassent les bénéfices attendus. « Les groupes démographiques ayant l’opinion la plus négative sur l’IA sont les électeurs âgés de 18 à 34 ans et les femmes âgées de 18 à 49 ans. Les deux groupes ayant l’opinion la plus positive sur l’IA sont les hommes de plus de 50 ans et les électeurs des classes supérieures. » Un autre sondage américain montre que si les jeunes adultes sont de forts utilisateurs de l’IA, ils sont de moins en moins convaincus, et optimistes, et de plus en plus mécontents de l’IA. Et le changement d’attitude des plus jeunes est d’ampleur, brutal et rapide.

Il est frappant de constater à quel point la haine envers l’IA est étroitement liée à la perception qu’on a de ses conséquences sur les perspectives personnelles et/ou professionnelles, estime Merchant. « La génération Z est confrontée à ce qui est, selon certains, le pire marché de l’emploi pour les jeunes diplômés depuis 37 ans ; il n’est donc pas étonnant qu’elle déteste profondément le produit technologique qui en serait la cause (mêmes symptômes en France). Parallèlement, les hommes de plus de 50 ans, généralement plus aisés, et les électeurs des classes supérieures, qui, comme leur nom l’indique, sont plus riches, sont moins inquiets face à l’IA car ils sont bien mieux protégés de la précarité économique.» 

La nouvelle aristocratie de l’IA, et sa tendance antidémocratique, fait assurément monter la colère des plus radicaux mais également d’une large part de la population. Altman peut anônner que« l’IA doit être démocratisée », rien dans les discours et les actions de son entreprise ne va dans ce sens. « OpenAI n’aspire à rien d’autre qu’à devenir l’un des plus grands concentrateurs de pouvoir de tous les temps. Après avoir déqualifié des artistes et des écrivains en intégrant leurs œuvres à ses modèles pour que ses produits puissent les imiter, OpenAI cherche à remplacer les employés des entreprises et des institutions du monde entier par un abonnement à une technologie dont elle est propriétaire. Les profits qui en découleront iront bien sûr à Altman et à la direction, concentrant ainsi richesse et pouvoir. » Comme nous le disions, sans partage des fruits de l’IA, il est peu probable que le malaise s’apaise. La récente publication d’une « politique industrielle à l’ère l’IA» par OpenAI , suggérant que l’IA pourrait permettre une semaine de travail de 32 heures et quelques autres avantages sociaux nébuleux, ne semble pouvoir bercer que les plus crédules des apologistes de l’IA. « Pourquoi croire une seule seconde qu’une entreprise d’IA qui dépense des millions pour saper la capacité des États à exercer leur démocratie, qui s’efforce de faire échouer une loi californienne exigeant que les chatbots soient testés et reconnus sans danger pour les enfants, qui tente de se soustraire à toute responsabilité quant aux dommages que ses produits pourraient causer dans d’autres projets de loi étatiques, et qui collabore avec l’administration Trump pendant que celle-ci bombarde des écoles primaires et perpètre des actes de terreur contre les immigrés, pourrait sérieusement investir le moindre capital politique pour autre chose que ses propres intérêts financiers ? » Ce discours lénifiant de promesses lointaines et sans effets semble surtout s’être considérablement usé face aux actions réelles des acteurs de la tech. Comme le dit Eryk Salvaggio dans Tech Policy Press, le document de politique générale d’OpenAI « propose littéralement des concepts qu’OpenAI a contribué à faire abandonner en Californie ». Même la promesse (sans cesse répétée) que l’IA pourrait un jour guérir le cancer, semble laisser de plus en plus les gens sceptiques : « qui pourra encore s’offrir le traitement ? » 

Les gens ont de bonnes raisons de détester l’IA et ceux qui en profitent, cingle Merchant « Alors que le désespoir gagne du terrain, que les jeunes ont de plus en plus l’impression que les élites de l’IA ont hypothéqué leur avenir, que les citoyens qui votent pour réglementer l’IA ou interdire les projets de centres de données locaux voient leur volonté bafouée au profit des intérêts de l’industrie… comment voulez-vous qu’ils se sentent ? À quoi vous attendez-vous ? Le risque d’une escalade est bien réel.»

Dans son billet de blog, Altman, avec ses références usées elles aussi, compare les PDG de l’IA aux hommes qui font la course pour s’emparer des anneaux de pouvoir dans le Seigneur des Anneaux. « Altman oublie que dans le livre, le seul moyen d’empêcher le triomphe du mal est de jeter l’Anneau Unique lui-même dans la Montagne du Destin. »

MAJ du 06/05/2026 : Sur Synth-Media, la journaliste Nastasia Hadjadji ajoute à la liste des oppositions documentées, les incendies d’infrastructures industrielles et technologiques, entrepôts et autres bâtiments qui se démultiplient aux Etats-Unis. Une gamme de contestation étendue, qui va du sabotage au luddisme soft du refus à utiliser l’IA.

tl;dr: Read "Social Media Is Now Parasocial Media"

The lovely folks at the Social Media + Society journal asked me to contribute to their anniversary issue by reflecting on the trajectory of social media. Ooof. Snark exuded from my pores as I tried to figure out what I might say. But then I thought about how my students don't know about an era of social media without recommended content, algorithmically curated feeds, and an infinite scroll of cotton candy content. They never encountered a world of social media where people were focused on sharing with their friends rather than becoming influencers. They don't realize how much the "social" in social media has changed.

As I tried to unpack in my mind what social media has become, I kept coming back to how the dominant practice has shifted to consumption rather than production. Media scholars have always argued that consuming TV is social even if you watch alone because of the power of using TV content in social settings, like the water cooler. I don't want to negate this collective experience to TV, although the content we consume online is so fragmented that there is no unifying consumption pattern despite there being meaningful networked-based consumption practices. But still, there's something tangibly different about the social-ness of consuming to discuss vs. consuming in a dialogic engagement.

In putting pen-to-paper, I kept coming back to how odd the term "social media" now feels to me. And of course I'm biased because I lived through the contestations over how to label the various websites that we've come to know as social media. So I had a very particular understanding of the term, one that no longer exists.

"Social Media Is Now Parasocial Media" is my attempt to reckon with the evolution of social media into a format that I feel is no longer meaningfully social. It's open-access so check it out. And if you have feels, push back! I'd love to hear your thoughts!!!

Parcoursup est l’outil dont rêvait l’institution disciplinaire décrite par Foucault. Fondamentalement. Et chaque année davantage depuis déjà 8 ans que cette saloperie existe. Je vous ai déjà à de nombreuses reprises expliqué tout le mal que je pensais de cette plateforme (en 2020, en 2021, en 2025, en 2026 …) que j’ai vécu et expérimenté personnellement à trois reprises en tant que parent de 3 enfants et que je pratique également donc depuis 8 ans en tant que responsable de formation.

Presque chaque année c’est une nouvelle contrainte imbécile qui tombe ou s’impose dans cette plateforme sans que jamais il ne soit possible de la discuter ou de la remettre en cause. Et cette année j’avoue que lorsque j’ai appris qu’à terme les lettres de motivation allaient totalement disparaître et que si on voulait les garder c’était à chaque responsable de formation de fournir un argumentaire pour se justifier, j’ai vraiment eu envie de coller une grande soupe de phalange dans le cimetière à magret de mon ami Mister T. Mais j’étais très loin du climax de mon courroux (coucou) car je n’avais pas encore reçu le message ci-dessous.

Donc il y a quelques jours, alors que sur les 1600 dossiers que nous recevons pour 60 places je venais de finir de traiter les 200 qui me reviennent, j’ai eu la surprise de recevoir un petit mail de Parcoursup qui disait ceci :

Je vous remets le texte directement :

Dans la perspective de la rentrée 2026-2027, le dispositif de demande de césure prévu sur Parcoursup a évolué pour tenir compte de la mise en place du nouveau Service national annoncé par le président de la République.

Pour les candidats, la case à cocher « demande de césure » a été remplacée par deux cases distinctes « demande de césure pour réaliser un projet personnel ou professionnel » et « demande de césure pour réaliser un service national ». En effet, la césure pour service national sera une césure accordée de plein droit (projet de loi de programmation militaire) à la différence de la césure pour réaliser un projet personnel ou professionnel  qui est soumise à l’appréciation du chef d’établissement.

J’espère que tout cela est clair. Après la mise sous coupe algorithmique réglée de l’ensemble d’une classe d’âge, après l’empilement de réformes toutes plus débiles les unes que les autres à l’échelle du lycée et du baccalauréat, après la mise à sac programmatique de l’université publique, après les refus répétés en mode allegro obstinato de tenir compte de l’ensemble des retours des utilisateurs de cette p**** de plateforme qui chaque année expliquent que tout cela irait beaucoup plus vite et serait beaucoup moins stressant pour les lycéens et lycéennes s’ils et elles pouvaient classer leurs voeux dès le départ, voilà donc maintenant que Parcoursup se met au service d’un agenda politique national guerrier. Et voici Emmanuel Macron, le plutôt cadre ploutocrate enquillant son 2ème mandat à l’abri de toute mandale, qui d’une main nous incite à la chair du « réarmement démographique » et de l’autre anticipe le sort funeste de cette même chair.

Cette année on nous annonce donc que les demandes de césure pour faire son service militaire doivent être obligatoirement accordées. Et on nous l’annonce en plein milieu de la procédure et sans aucune concertation parce qu’il s’agit bien sûr aussi de nous discipliner.

Vu la situation et le contexte international, je ne suis pas le seul à nourrir d’immenses craintes pour ce que Parcoursup deviendra l’année prochaine et les suivantes. L’institution disciplinaire doit être vue, lue et comprise comme un continuum. Je rappelle que certains avaient déjà envisagé que celles et ceux qui avaient effectué le débilitant SNU puissent bénéficier de points supplémentaires dans Parcoursup. Une énième idée à la con qui avait heureusement été promptement identifiée comme telle mais qui avait aussi et surtout permis de préparer les esprits à ce qui adviendra inévitablement à l’horizon de quelques années.

Sans parler de la guerre, on observe cette année une augmentation très forte (et qui me semble inquiétante) de dossiers qui nous reviennent après avoir effectué une première année (en vérité quelques mois) dans une toute autre formation, preuve supplémentaire que la première orientation et la première expérience de la plateforme Parcoursup sont de plus en plus à côté de la plaque. Entendons-nous bien, on a bien sûr le droit de se réorienter et rien n’est dramatique, loin s’en faut, lorsque l’on est néo-bachelier. Ce qui est par contre inquiétant ce sont les choix qui semblent effectués en dépit de tout bon sens de la part de lycéens et lycéennes et de familles totalement égarés dans une offre surabondante et opaque, livrés au mieux à eux-mêmes et à la bonne volonté de professeurs principaux qui sont beaucoup de choses mais certainement pas des conseillers d’orientation ; lycéens, lycéennes et leurs familles qui sont surtout soumis, dès la fin du collège et durant toutes leurs années lycées, à une pression totalement inédite au regard des contraintes que l’on fait peser sur elles et eux.

Disciplinés très tôt par l’empilement de réformes aux temporalités imbéciles et sans aucune cohérence pédagogique ne serait-ce qu’interne, réformes totalement étanches aux rythmes de travail et de vie de nos sociétés et aux assignations parentales qui en découlent, ce ne sont pas les quelques ajustements cosmétiques annuels de l’interface Parcoursup qui permettront de régler le problème d’une plateforme qui semble n’avoir jamais été pensée ou même réfléchie pour accompagner des trajectoires mais qui donne hélas sa pleine mesure dès lors qu’il s’agit de sanctionner des parcours.

La décision du chef du Parti québécois d’accorder une entrevue à une spécialiste de la désinformation a été abondamment commentée. Le contenu de l’entrevue l’a été beaucoup moins. Je me suis donc donné le mandat d’analyser l’entrevue et de démonter la désinformation qu’on y entend, autant de l’intervieweuse que de l’interviewé.

Je vous invite à écouter l’épisode spécial de mon balado, Woke tant qu’il faudra, consacré à cette entrevue. Si vous n’avez pas une heure à consacrer à cette entrevue, ce qui est compréhensible, voici quelques-uns des pires extraits et mon commentaire.

Les extraits cités viennent tous de l’entrevue mise en ligne le 10 avril 2026.

« Début des années 2000 à Montréal, il y a pas une crise du logement, le français recule pas, ça se passe bien, tout le monde est de bonne humeur. »
Au mieux, PSPP parle sans savoir. Au pire, il nous ment carrément. On peut le prouver facilement. En 2002, Pierre Desrochers, directeur de la recherche à l’Institut économique de Montréal, publiait déjà un rapport intitulé « Comment résoudre la crise du logement au Québec? » Parce que oui, on parlait déjà de crise du logement à l’époque du gouvernement Bouchard-Landry. Desrochers critiquait le manque de vision des gouvernements (fédéral et provincial), qui auraient dû investir davantage dans le logement social et modifier la réglementation du secteur de la construction afin de faciliter les mises en chantier. En 2002. Quand Plamondon nous dit qu’au début des années 2000, il n’y avait pas de crise du logement, c’est entièrement faux.

Je sais que mes amis péespépistes vont tenter de le rattraper et m’accuser de déformer ses propos. « Ce n’est pas ce qu’il voulait dire. Il voulait simplement dire que la situation était moins pire en 2001… » Non. En 2001, le taux d’inoccupation des logements était de 0.6% à Montréal. D’après la Société canadienne d’hypothèques et de logement, (SCHL) le taux d’inoccupation sur l’île de Montréal était de 3.1% en octobre 2025. Cinq fois supérieur. Il y a des limites à dire n’importe quoi pour nous faire croire que tous nos problèmes ont été causés par les politiques d’immigration du gouvernement Trudeau.

« Simplement aborder Roxham, à l’origine, je me faisais traiter d’extrême droite. Alors que quand le Parti libéral du Canada a fermé Roxham, ça c’était drôle, plus personne parlait d’extrême droite, c’était ben normal, aucune critique. Mais quand c’est le Parti québécois qui tente d’affirmer cette volonté de maintenir la paix sociale au nom des Québécois. Double standard. »
PSPP avait fait la même plainte à l’époque. Il avait convoqué un point de presse pour se plaindre de la « gauche radicale » qui tente d' »extrême-droitiser » le Parti québécois. Les journalistes ont tenté en vain d’obtenir des noms. Il leur a répondu de faire leur travail de journaliste. Que c’est très facile de trouver des noms en cherchant sur Google. 3 ans plus tard, il nous fait jouer la même cassette et espère que ses auditeurs le croiront sur parole.

« C’est dangereux ce qui se passe en ce moment. Parce que des dynamiques violentes à l’étranger peuvent rapidement devenir notre dynamique parce qu’on a saboté un modèle qui fonctionnait au niveau de l’immigration qui était fondé sur des critères, une marche à suivre. Il arrive un moment où rien ne va plus. Rien ne tient. Et on se retrouve avec une situation inimaginable où des Québécois de confession juive ou peut-être d’autres Québécois aussi voient leur sécurité menacée. On n’a pas parlé de la sécurité des femmes par exemple. ais tsé Montréal, là… depuis… j’ai grandi là, il y a pas ville plus sécuritaire, si t’es une femme, tu te demandes pas si tu vas te faire harceler. »
Bien sûr. Avant Justin Trudeau, les femmes pouvaient marcher seules dans la rue, la nuit, en toute sécurité. Elles pouvaient passer une veillée dans leur bar sans surveiller leur verre. Elles ne subissaient pas d’agression dans le métro. C’est « l’immigration massive » qui a amené le harcèlement sexuel au Québec.

Pour ce qui est des relations avec les États-Unis, PSPP reste dans le déni.
« Mais en même temps à l’inverse, je vois des politiciens suggérer que le Canada nous défend contre Trump… C’est pas sérieux. Si les États-Unis prennent des décisions… Ce qui arrivera pas, en passant. L’idée que l’armée canadienne est un rempart de défense pour les Québécois ça a été complètement galvaudé. Moi je suis confiant que comme n’importe quel pays européen de notre taille, on ferait la même chose. »
Ce qui arrivera pas, en passant? Sur quoi se base cette certitude? Est-ce qu’on suppose que Donald Trump a trop de bon sens pour attaquer le Québec ou le Canada? L’attaque contre l’Iran n’était pas suffisante pour convaincre que le fasciste américain fait n’importe quoi?

« Mais tsé c’est parce que le Canada en ce moment est identifié par ses voisins comme l’endroit où il y a le plus d’infiltration politique dans le monde. L’ingérence étrangère au Canada c’est devenu la norme. » « Les voisins » du Canada, ce sont les États-Unis. Le Canada n’a pas d’autre voisin. Peut-être certaines personnes croient-elles encore qu’on peut se fier au jugement du fasciste de la Maison blanche, mais généralement on reconnaît que ce n’est pas une référence en matière de politique internationale.

Alexa Lavoie demande à PSPP si le Québec devrait imiter l’Alberta, qui se prépare à mettre en place des lois pour protéger les écoles contre les « idéologies ». J’en ai discuté plus tôt cette semaine. Officiellement, le Bill 25 vise à sortir les « idéologies » et la politique des écoles albertaines. Officieusement, le gouvernement s’attaque principalement à la diversité de genre et sexuelle. Le gouvernement albertain de Danielle Smith a déjà limité l’accès aux livres pour enfants qui traitent d’enjeux LGBTQ+ parce que des associations de parents considèrent que c’est de la pornographie. Plusieurs villes albertaines ont interdit d’afficher le drapeau de la fierté dans l’espace public. Avec le Bill 25, le gouvernement va notamment interdire aux enseignants de discuter en classe d’identité de genre.

Sans hésitation, PSPP dit à la « journaliste » de Rebel News que les Albertains ont raison. Il considère que le gouvernement du Québec a également perdu le contrôle de ce qui s’enseigne dans nos écoles. On se souvient qu’il avait accusé la « gauche radicale » d’avoir infiltré les écoles à l’automne 2023, lorsqu’une enseignante avait demandé à ses élèves de l’appeler « Mx » plutôt que madame et qu’une école avait mis en place des toilettes non genrées. À l’automne 2024, la députée de Terrebonne, Catherine Gentilcore, alors présidente du Parti québécois avait accusé le nouveau programme de Culture et citoyenneté québécoise d’enseigner aux enfants de 3 à 7 ans que le genre est attribué par la société. Une accusation qui a été démentie par la suite.

PSPP mentionne quelques-unes des « dérives » dans les écoles québécoises: « Des groupes d’activistes de tout acabit. T’as eu des cas de soldats, des cas d’éducation sexuelle auprès de jeunes de 6 ans. Puis il y a eu plein de cas au Québec dans toutes sortes de sujets. » PSPP dénonce avec raison les soldats qui sont allés dans des écoles privées juives pour faire la promotion du génocide à Gaza. Mais qu’en est-il de ces « cas d’éducation sexuelle auprès de jeunes de 6 ans »? Les activistes dont il parle sont en fait des enseignants qui appliquent le programme du ministère de l’Éducation. En effet, depuis l’implantation du nouveau programme de CCQ en 2024, il y a de l’éducation sexuelle dès la première année du primaire. À 6 ans, on enseigne aux enfants à nommer les parties du corps, à développer une image corporelle positive donc à apprécier que les corps ont différents formats et que c’est correct, les notions de stéréotypes de genres auxquels ils n’ont pas l’obligation de se conformer, qu’ils doivent respecter les différences… Finalement, on leur enseigne la notion de consentement, une notion qu’il est à mon avis utile d’apprendre très tôt. Je n’ai pas l’impression qu’il s’agisse d’une dérive de notre système d’éducation.

Parmi les critiques du nouveau programme, on retrouvait nulle autre qu’Alexa Lavoie, qui accusait le gouvernement du Québec d’encourager la sexualisation des enfants. PSPP est-il d’accord avec cette vision? Son discours laisse à penser que oui.

« Donc dans quelle logique tu bloques la circulation pour prier? Il y en a pas. À part des signaux politiques. Ça devient des gestes politiques et non pas un geste de piété. Et ces gestes politiques-là, il faut les prendre au sérieux à mon avis si on a à coeur la paix sociale. »
L’entrevue s’attarde pendant plusieurs minutes sur la question des prières de rue, bien que la loi pour les interdire ait déjà été adoptée. PSPP entre tout à fait dans le narratif d’Alexa Lavoie, qui en fait des manifestations antisémites et pro-Hamas. À aucun moment, il ne mentionne que les prières avaient lieu pendant des manifestations contre le génocide à Gaza. Comme si c’était un détail. Évidemment, aucun des deux n’a mentionné que les manifestants protestent contre le soutien du Canada à Israël, encore moins que la Caisse de dépôt et de placement du Québec a des milliards investis dans ce que Francesca Albanese, la rapporteuse spéciale de l’ONU, qualifie d' »économie du génocide« . De telles nuances risqueraient de donner l’impression que les manifestations étaient justifiées. On préfère laisser croire qu’il s’agit d’islamistes qui se sont rassemblés pour célébrer leur haine des Juifs. PSPP mentionne d’ailleurs que les Juifs montréalais ont raison d’être inquiets pour leur sécurité.

Pendant la discussion sur les prières de rue, Alexa Lavoie lui demande s’il faudrait expulser les immigrants temporaires qui incitent à la haine et participent à des manifestations qui glorifient le terrorisme.
PSPP: Ben oui parce que ce sont des actes criminels. Mais c’est parce qu’on n’a pas le pouvoir.
Alexa: Mais si admettons on deviendrait un pays.
PSPP: Bien sûr!
D’abord, on n’a pas besoin d’avoir les pleins pouvoirs en immigration pour agir là-dessus. L’incitation à la haine est déjà un crime au Canada. Rien n’empêche de poursuivre des gens qui incitent à la haine, peu importe leur statut d’immigration. Les immigrants temporaires ne bénéficient pas d’une immunité diplomatique qui leur permet de contourner les lois. S’il y a pas d’accusations qui sont déposées contre les manifestants, c’est parce que manifester contre un génocide, ce n’est pas une incitation à la haine et ça ne mérite pas de condamnation. Je m’inquiète d’un aspirant premier ministre qui voudrait expulser des immigrants temporaires parce qu’ils exercent leur droit de manifester, un droit des plus fondamentaux dans une société démocratique.

On ne peut pas avoir une entrevue avec PSPP sans qu’il accuse l’immigration de tous les maux. « S’ils sont d’accord avec des seuils d’immigration toujours plus élevés au point où on a une crise du logement puis on est plus capables d’offrir des services. » Discours habituel ici. Les seuils d’immigration sont encore une fois pointés comme les seuls responsables de la crise du logement et de la crise des services. En fin d’entrevue, il nous présente une donnée nouvelle et exclusive: « Certains hôpitaux se sont confiés à moi en disant: Mais tsé la proportion de nos tables opératoires qui sont pour les demandeurs d’asile c’est près de 20% à certains endroits. »
On ne peut pas lancer une telle affirmation sans élaborer. Qui lui a dit ça? Des infirmières? Des médecins? Des préposées à l’accueil? Des administrateur? Dans quels hôpitaux? Il est impossible de vérifier une déclaration comme celle-ci. On doit donc se fier à la bonne foi du chef du PQ et croire qu’effectivement, les demandeurs d’asile monopolisent une partie importante de notre système de santé.

Quand j’ai entendu dire que PSPP avait accordé une entrevue à Rebel News, ma première réaction a été de regretter qu’un chef de parti qui aspire à être premier ministre cautionne un média consacré à la désinformation. Après avoir entendu l’entrevue, je comprends mieux pourquoi il a accepté. PSPP se trouve à Rebel News comme un poisson dans l’eau.

Pour écouter le balado sur YouTube

Pour vous abonner et soutenir le balado

« Chaque fois que j’utilise mes appareils connectés, je participe à un contrat social algorithmique tacite », explique le chercheur José Marichal. « À l’instar du contrat social métaphorique qui lie les citoyens des démocraties libérales à leurs gouvernements, une grande partie de ma vie culturelle en ligne est régie par un système sociotechnique qui engendre avantages et inconvénients. Les termes de cette relation sont simples : en échange d’une plus grande liberté de choix à l’ère des possibilités infinies, je cède mon autonomie à l’algorithme. (…) Pour Google ou Meta, trop d’exploration vous rend problématique. Une personne qui explore constamment complique la tâche de leurs algorithmes de classification. (…) Si vos comportements sont imprévisibles vous devenez un « bruit statistique » pour le modèle, alors vous êtes un problème algorithmique et un sujet néolibéral indésirable. (…) Nous vivons dans une société ordinale où chacune de nos actions peut être enregistrée, catégorisée et notée. Le danger d’une telle société réside dans l’incapacité d’explorer. La démocratie libérale repose sur la conjecture et la réfutation, sur l’habitude de partager ses opinions sur la vie publique avec ses concitoyens, en admettant la possibilité de se tromper et en modifiant ses convictions en conséquence. De telles habitudes requièrent une ouverture à l’exploration. Or, notre économie algorithmique nous dissuade d’explorer trop largement, car cela nous transforme en consommateurs imprévisibles. »

Le risque, explique Marichal, c’est que « nous perdions notre goût pour les contenus atypiques. C’est-à-dire les contenus culturels qui ne correspondent pas à notre vision du monde façonnée par les algorithmes », résumait-il dans une tribune pour Tech Policy Press. Pire, souligne-t-il, « les expressions trop novatrices ou audacieuses risquent de passer inaperçues, car elles ne correspondent pas aux catégories des algorithmes ». A l’heure des algorithmes, il faut écrire pour ce qu’ils optimisent. « Nous vivons dans une culture de l’optimisation où nos émotions sont instrumentalisées pour confirmer sans cesse nos préférences. »

« Les algorithmes d’apprentissage automatique reposent sur la préemption, plutôt que la dissuasion (qui suppose que les individus peuvent modifier leur comportement pour obtenir des récompenses ou éviter une punition). Cette logique vise à neutraliser les menaces avant même qu’elles n’émergent », expliquait-il encore, nous invitant à nous écarter de « l’arrogance épistémique des machines ». « Un public qui commence à privilégier la prévention à la dissuasion se préoccupe moins des droits procéduraux des personnes ciblées comme déviantes, car elles sont moins perçues comme des sujets autonomes et plus comme des « anomalies » à éliminer. (…) Une culture qui privilégie l’action à la recherche de la vérité est dangereuse pour nous tous. »

« Plus nous privilégions un contrat algorithmique qui répond à nos propres préférences, qui vise à résoudre le problème en optimisant la solution la plus efficace au détriment des relations humaines au sein de la communauté, plus nous sapons la démocratie libérale ». Il nous faut devenir un problème algorithmique, explique-t-il dans son livre – You must become an algorithmic problem, Bristol University Press, 2025 – , c’est-à-dire échapper au calcul des machines… au risque que cela devienne un problème pour chacun puisque qu’échapper aux machines signifie de plus en plus être extrait de la société que celles-ci rendent possible.

L’ère post-chatbots s’annonce, explique la journaliste Lila Shroff pour The Atlantic. L’IA ne fait plus que répondre aux questions. Elle programme, elle agit. Et le « tournant agentique » formalise ces progrès, explique Eryk Salvaggio pour Tech Policy Press. Le tournant agentique désigne des systèmes qui génèrent du code et s’adaptent de manière autonome. Les systèmes d’IA produisent désormais du code et vérifient l’efficacité de cette production en la corrigeant jusqu’à ce qu’elle fonctionne. Mais si ces évolutions améliorent l’expérience utilisateur des LLM, est-ce que cela suffit pour « justifier » du déploiement de l’IA, interroge pertinemment Salvaggio. Est-ce que le fait que leurs productions s’améliorent suffit pour justifier de l’utilité de cette technologie ? 

Nous ne sommes plus exactement dans le cadre des perroquets stochastiques définis par l’article fondateur de 2021, d’Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, même si ce cadre reste pertinent – voir notre article, « la gauche minimise-t-elle le pouvoir de l’IA ? ». « Les systèmes agentiques empilent ces perroquets » pour produire des formes « d’essaims stochastiques ». Des systèmes qui s’auto-alignent sur ce qu’ils doivent produire, tout en demeurant fondamentalement incapables de rendre des comptes. La question centrale de l’article de Bender et alii demeure toujours pertinente, estime Salvaggio : « Les modèles de langage peuvent-ils être trop volumineux ? » 

La prolifération des modèles ne fait qu’amplifier les problèmes de biais, d’attribution erronée de la pensée et d’inefficacité. Distinguer la critique systémique de l’évaluation des modèles n’est pas céder à la surenchère : cela signifie se concentrer sur les avantages et les inconvénients collectifs plutôt que sur les usages individuels. On peut parler de ce que les modèles ne peuvent ou ne devraient pas faire sans pour autant nier leurs capacités, estime Salvaggio. 

L’IA agentique s’apprête à débarquer et ses effets vont être nombreux, estime l’artiste-chercheur. D’abord, il promet la production de logiciels bâclés (slopware, contraction de slop qu’on peut traduire par soupe ou de bouillie et de ware qui désigne les composants – voir notre article sur le slop), produits plus rapidement, mais qu’il va être difficile à évaluer. Distribution accélérée qui risque de créer des situations comparables à un espace aérien non réglementé, où une multitude de décisions individuelles et déconnectées engendrent le chaos. Le code peut sembler fonctionner dans des circonstances particulières grâce à toutes sortes de bidouillages qui masquent des erreurs sous-jacentes. « Contrairement aux logiciels malveillants, le logiciel bâclé n’est pas intentionnellement perturbateur ; il perturbe par négligence : c’est la variable codée en dur qui permet à un homme célibataire de gérer correctement son budget, mais qui entraîne des frais de découvert lorsqu’il est utilisé par une mère célibataire. La conception de logiciels exige une grande finesse dans le choix des valeurs et priorités qu’ils intègrent, ainsi que dans la manière dont ils déforment, ignorent ou présentent de façon erronée les données qu’ils traitent. Le suivi de ce processus requiert des connaissances techniques. » C’est cela qui pourrait disparaître dans les logiciels de demain. 

Ensuite, l’IA agentique promet l’accumulation des défaillances techniques. Malgré une perception accrue de fiabilité, les modèles de langage ne peuvent jamais être des machines à dire la vérité. Les soi-disant hallucinations sont mathématiquement impossibles à éliminer, et par conséquent, la perception d’une fiabilité accrue augmente le risque de surestimer la pertinence d’un modèle de langage pour une tâche donnée. Alors qu’un modèle de langage produit des textes ou autres médias persuasifs et potentiellement faux, un système agentiel produit un « code convaincant ». Ce code est produit de manière plus difficile à interrompre, à tracer ou à auditer qu’une simple sortie de modèle. « Il est impossible de documenter de manière fiable le processus de pensée d’un code créé sans réflexion » ; par conséquent, le code doit être considéré comme non fiable jusqu’à ce qu’il soit vérifié. On pourrait ajouter ici, le risque d’une sécurité infrastructurelle, comme l’évoquait Bruce Schneier.  

Conséquence du risque précédent, un autre risque repose sur l’accumulation des défaillances de responsabilité. Les erreurs dans un système agentiel s’accumulent de manière invisible jusqu’à ce qu’un élément vienne briser la façade. Dans les systèmes sensibles, ce dysfonctionnement peut nuire aux personnes. On encourage le gouvernement à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire – des domaines où des défaillances en cascade peuvent avoir de graves conséquences humaines. « L’objectif du gouvernement ne devrait pourtant pas être de gagner du temps en reportant la charge de travail sur un retraité qui se voit refuser indûment ses prestations ». 

Enfin, l’empilement des systèmes agentiques pousse à la montée en puissance du solutionnisme. Salvaggio rappelle pourtant que tous les problèmes ne se résument pas à des problèmes de programmation. L’accès à la génération de code nous pousse à résoudre les défis politiques par de nouvelles lignes de code et à nous concentrer sur les problèmes compréhensibles par les machines, au risque d’exacerber des formes de déshumanisation. Les cas particuliers, parfois flous, ne sont plus les subtilités du tissu social, mais une nuisance technique. Aucune simulation d’une communauté capable de résoudre ses problèmes n’est possible : le désordre est une étape nécessaire à la construction du sens et au fonctionnement de la démocratie. 

Enfin, ces systèmes risquent d’accroître l’extraction et le gaspillage des ressources à grande échelle. Les systèmes multi-agents fonctionnent en boucle, consommant bien plus de ressources que les logiciels conçus de manière plus ciblée. Lorsqu’un débutant réécrit une seule ligne de code avec un système multi-agents, « il n’utilise pas un seul modèle : il active l’ensemble du système ». Cette mise à l’échelle optimise la production individuelle : plus, plus vite, sans tenir compte de l’efficacité du code ni de ses effets. Il ne s’agit pas seulement d’un coût environnemental. « Cela dégrade le patrimoine informationnel commun et crée des problèmes pour tous ceux qui, en aval, dépendent de ce code. Les essaims multi-agents augmentent la puissance de calcul individuelle tout en comprimant de vastes réseaux de travail et d’extraction de ressources dans une seule fenêtre d’exécution. »

Pour Salvaggio, d’autres problèmes encore posent questions avec le passage à l’IA agentique, notamment le pouvoir politique que ces outils vont donner à l’industrie de l’IA, l’extension de la surveillance, le renforcement et l’invisibilisation des biais… Reste qu’énumérer les défaillances à venir ne suffit pas à contrer l’expansion des machines. Se moquer des piètres résultats de ces systèmes semble n’avoir aucun impact sur leur déploiement estime Salvaggio. Pour lui, il nous faut ouvrir un débat sur l’utilité et ses limites. « Que signifie l’utilité ? Pour qui et dans quelles conditions ? » Qui bénéficie des systèmes et qui en pâtit ? « Quelles décisions sont discrètement soustraites au débat public et confiées à des systèmes automatisés contrôlés par des entreprises, des gouvernements et d’autres institutions ? Le fait que l’on utilise des modèles de langage ne rend pas les critiques à leur égard superflues ; au contraire, elles les rendent urgentes. »