Les presses du MIT publient ce jour le nouvel ouvrage de Ben Green, Algorithmic Realism : Data Science Practices to Promote Social Justice. Ben Green, on vous a déjà parlé de lui. En 2019, on avait longuement évoqué son précédent livre, The smart enough city, où il revenait sur son expérience de data scientist dans plusieurs villes américaines. Green plaidait déjà pour améliorer la responsabilité sociale des technologies, à l’épreuve des pratiques concrètes des responsables de l’innovation urbaine promouvant une innovation démocratique. 

C’est ce chemin qu’il poursuit dans son nouveau livre, qui n’est pas un essai, mais un manuel à destination des responsables des données. Il rappelle que depuis qu’il est diplômé, il n’a cessé d’essayer d’appliquer la data science pour créer une société plus équitable. Mais avoir un impact positif s’est avéré bien plus difficile qu’espéré. A Memphis, par exemple, les outils qu’il avait participé à mettre au point pour aider la ville à identifier des logements à rénover ont été abandonnés après le départ de l’équipe qui les avait développé. Malgré ces expériences pas toujours concluantes, il s’est rendu compte que pour avoir un impact, il était nécessaire de désapprendre beaucoup de certitudes et d’habitudes que sa formation en data science lui avait enseigné. A Boston, par exemple, il devait travailler avec les services d’urgence pour trouver des stratégies pour améliorer la rapidité d’intervention. Or, plutôt que de trouver une astuce pour mieux répartir les ambulances dans la ville, Green a constaté dans les données, que l’essentiel des déplacements n’étaient pas nécessairement un besoin de soins médicaux d’urgence, mais une demande de services sociaux que les services d’urgence n’étaient pas en mesure de fournir mais accomplissaient quand même. Avec les services d’urgence, il a alors proposé de créer une équipe dédiée. Une réponse d’autant plus adaptée que les interventions auprès des publics en difficultés, des toxicos et des SDF, ou de ceux souffrant de problèmes de santé mentale, se concentraient sur certains quartiers sensibles, avec un pic en fin d’après-midi et en début de soirée. La création d’une équipe d’assistance communautaire a ainsi permis de répondre à la demande initiale. Elle a permis d’apporter de meilleurs soins à des publics en difficulté et elle a libéré des ambulances pouvant répondre plus rapidement lors de prises en charges médicales urgentes. Cette expérience a été fondatrice. Elle lui a enseigné trois tactiques qu’il applique depuis à tous les projets qu’il rencontre. D’abord, étudier en profondeur les défis sociaux et opérationnels des services avant d’analyser la moindre donnée. La seconde consiste à se concentrer sur les besoins exprimés pour produire des impacts réels et pas seulement des solutions algorithmiques. Pour Green, les analyses de données les plus sophistiquées ne conduisent pas à de meilleurs impacts. Les résultats de la science des données doivent être choisis en fonction de leur capacité à faire progresser les objectifs du projet, peu importe leur simplicité ou leur complexité. Le troisième enseignement, c’est qu’un data scientist isolé ne sert à rien. Améliorer les politiques publiques avec la data science nécessite des activités qui ne relèvent pas de la data science. « Pour surmonter ces défis, il m’a fallu étudier des problèmes de société, me familiariser avec les processus de travail des organismes publics et traduire une analyse technique en pratiques opérationnelles. Aucun de mes cours de science des données n’avait jamais ne serait-ce qu’évoqué ces tâches, et encore moins enseigné comment les accomplir. »

Concevoir des algorithmes susceptibles d’améliorer la société n’est pas si simple. Comme on le répète ici, les calculs sont plus souvent défaillants qu’autre chose. Certainement parce que les méthodologies de la science des données n’offrent pas de méthode pour se faire, avance Green. D’où l’enjeu de ce manuel : apporter une nouvelle approche de la data science pour orienter les scientifiques des données vers la promotion de la justice sociale. En fait, souligne Green, les méthodes actuelles que mobilisent les data scientist ne leur permettent pas d’œuvrer pour le bien commun. Cette méthode actuelle, Green l’appelle le « formalisme algorithmique ». Et pour lui, elle est profondément problématique. Il propose d’en bâtir une autre : le « réalisme algorithmique ». Et son livre se veut une boîte à outils pour changer de méthode, pour changer la façon dont se déploie la data science. 

Passer du formalisme au réalisme algorithmique

« Transformer la science des données, en passant d’une méthodologie formaliste axée sur des modèles mathématiques à une méthodologie pratique axée sur des problèmes du monde réel », c’est ce que propose Green. La science des données est un champ relativement récent, né dans les années 2010, même si elle s’est construite sur des idées et des pratiques qui ont une longue histoire, rappelle-t-il. Le formalisme algorithmique est une méthodologie qui repose sur la propriété mathématique des algorithmes. Où qu’elles se déploient, les méthodologies formalistes restreignent le champ de l’analyse aux propriétés intrinsèques de leur objet, en excluant les éléments extérieurs tels que le contexte social et l’interprétation. Le formalisme algorithmique occulte le contexte social entourant les algorithmes, les garanties formelles de performance ne sont valides qu’au regard du comportement technique de l’algorithme – et non de ses usages et de ses impacts en pratique. En la matière, ces méthodes font obstacle à toute tentative d’aborder des problèmes sociaux et politiques complexes. Le formalisme procède d’une « réduction du champ de vision », rappelle le politologue James Scott dans son livre, L’œil de l’Etat (La découverte, 2021). Le formalisme tend à renforcer les hiérarchies, expliquent Geoffrey Bowker et Susan Leigh Star dans Arranger les choses (EHESS, 2023). Il peut sembler neutre et technique, mais le formalisme a souvent des conséquences pour les groupes marginalisés. Le problème est que le formalisme « caractérise le milieu intellectuel dans lequel évoluent les data scientists » et empêche d’adopter d’autres approches. Ce formalisme a des conséquences très directes : il privilégie les critères d’exactitude et d’efficacité ainsi que l’amélioration des prédictions.

D’ailleurs, les revues comme les conférences du secteur pénalisent souvent les recherches axées sur les applications et les résultats concrets, préférant les travaux qui améliorent les méthodes de calcul. Il conduit à minimiser les dommages potentiels causés par les systèmes algorithmiques et conduit à ne pas regarder les réalités de leurs mise en œuvre, à surestimer les bénéfices et à sous-estimer les nuisances. C’est le cas par exemple de Compas, le système de prédiction du risque de récidive américain. Ses promoteurs estimaient qu’en se fondant sur des évaluations formalistes, leur outil permettrait de réduire le recours à la détention provisoire et les disparités raciales. Or, les évaluations réalisées après la mise en œuvre du système algorithmique ont montré que ces améliorations ne s’étaient pas concrétisées. « Cet écart entre les évaluations formalistes et la réalité du terrain découlait de la manière dont les juges utilisaient les évaluations des risques ». L’évaluation du risque, sous forme d’infrastructures d’abstraction, a exacerbé plutôt que réduit les disparités raciales en matière de détention provisoire, parce que les ingénieurs de Northpointe, les développeurs de Compas, n’ont pas pris en compte la manière dont ils seraient utilisés (sur ces enjeux, voire également les livres de Jathan Sadowski, de Arvind Narayanan et Sayash Kapoor ou encore de Nathan Genicot dont nous avons déjà parlé ici et qui abordent tous ces questions sous un angle ou un autre). 

Pour Green, la data science souffre d’une forme de « clôture mathématique », enclose sur elle-même, renforcée par une tendance à « l’universalisme abstrait », où le monde réel pourrait se réduire uniquement à des mathématiques. Cet universalisme abstrait pousse les data scientists à appliquer des algorithmes comme solution à tous les problèmes sociaux, sans prendre en compte les particularités de ses déploiements. 

« Le problème est que, bien que ces représentations par substitution rendent le problème plus facilement traitable mathématiquement, elles suppriment généralement des éléments essentiels du contexte réel ». Cela conduit à des simplifications excessives et à de mauvaises interprétations, comme quand on tente d’évaluer les enseignants en fonction des résultats scolaires de leurs élèves. La qualité de l’enseignement se réduit alors à l’amélioration des résultats des élèves, comme le montrait Cathy O’Neil dans son livre, Algorithmes, la bombe à retardement (Les Arènes, 2018). Enfin, le formalisme algorithmique tend à faire croire que la data science et le calcul seraient politiquement neutres et que les scientifiques seraient objectifs, comme le dénonçaient déjà danah boyd et Kate Crawford en 2011 dans leurs 6 provocations à l’encontre des Big Data. Croire que la science des données produit des connaissances objectives tend à renforcer la minimisation des enjeux sociaux et éthiques des calculs, jugés comme non pertinents et dépourvus de rigueur. « Dans la recherche en science des données, la priorité est donnée aux contributions techniques, supposées apolitiques. Les revues et les conférences attendent des chercheurs qu’ils justifient leurs travaux sous l’angle de la performance et de la nouveauté plutôt que par rapport aux besoins de la société », comme le montrait une remarquable analyse des valeurs encodées dans les articles de recherche du secteur. 

« La neutralité politique conduit les data scientists à négliger les inégalités structurelles et les contestations politiques sous-jacentes aux enjeux sociaux ». C’est par exemple l’écueil de la police prédictive, qui exacerbe et légitime la discrimination systémique inhérente à l’action policière. 

Pour Green, ce formalisme exacerbé a généré une crise morale de la discipline. À mesure que les algorithmes se généralisaient et gagnaient en influence au sein de la société, les approches critiques ont alors gagné en visibilité à mesure que montaient les controverses et les injustices. Peu à peu, la question de l’éthique est devenue un domaine influent de la science des données, en valorisant la question de l’équité (c’est-à-dire en valorisant des définitions mathématiques de la prise de décision équitable) et de l’explicabilité. Cet accent mis sur l’éthique a orienté la science des données dans des directions productives, reconnaît Green, en attirant l’attention sur les impacts sociaux des calculs. Mais pour Green, cette éthique repose trop souvent sur une approche formaliste également. Elle réduit l’éthique à une question d’amélioration du calcul, comme le remarquait déjà le sociologue Bilel Benbouzid. Pour Green, « l’éthique des données ne permet pas de produire de manière fiable des algorithmes équitables. Même lorsque les algorithmes satisfont aux définitions techniques des idéaux éthiques, ils peuvent néanmoins s’avérer nuisibles en pratique. » Pour lui, le formalisme algorithmique conduit la science des données dans une impasse. Il manque une méthodologie plus pratique pour se faire. 

Pour dépasser ces limites, il est nécessaire de passer du formalisme au réalisme. « Le critère ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique. Autrement dit, quelles que soient les propriétés mathématiques formelles d’un algorithme, ses effets concrets priment sur l’évaluation de sa qualité et de son utilité sociale. Par ce principe, le réalisme algorithmique vise à promouvoir une science des données réaliste, attentive aux usages et conséquences réels des algorithmes. » Pour le dire concrètement, nombre de services permettant d’attribuer des places dans le supérieur reposent sur l’algorithme dit des mariages stables de Gale et Shapley. Pourtant, la manière de l’implémenter est partout différente et produit des effets spécifiques, notamment parce que ses adaptations n’en respectent pas toujours les principes. Parcoursup comme son ancêtre, APB, en relevaient. Ce n’est pas pour autant qu’ils l’ont implémenté dans les règles de l’art. 

Pour produire une véritable data for good, pour servir l’intérêt général par les données, alors « la justice sociale doit devenir la mission centrale de la science des données », estime Green. Pour cela, il faut changer la science des données, afin que « faire une bonne data science (doing good data science) devienne synonyme de faire le bien avec la data science (doing good with data science) ». Pour cela, il faut dépasser les attributs techniques d’un algorithme, pour se concentrer sur son rôle et ses impacts dans le contexte de son utilisation. « Les data scientists doivent donc porter leur regard vers l’extérieur : passer du fonctionnement interne des algorithmes au monde dans lequel ils opèrent.» Ils doivent concentrer leur regard sur les effets instrumentaux des systèmes, leurs impacts concrets plus que leurs performances. Pour Green, cela consiste à prendre en compte le changement social. L’enjeu par exemple ne serait plus de produire un calcul pour déterminer quels élèves risquent de décrocher pour améliorer le taux d’obtention d’un diplôme, mais à se demander comment améliorer les efforts de prévention du décrochage scolaire. « Il s’agit de développer des algorithmes qui favorisent des résultats éthiques au sein de la société.»

La méthode : faire avec le terrain !

Green expose longuement son plan de travail concret. C’est-à-dire un nouveau « flux de travail pour la science des données » (data science workflow), c’est-à-dire un processus de travail concret qui passe par la délimitation du problème, la délimitation du projet, l’analyse des données, la mise en œuvre et l’évaluation. Et pour mettre en œuvre ce processus, les data scientists doivent apprendre à mieux collaborer avec les acteurs du terrain, plutôt qu’à produire leurs solutions en chambre. Ils doivent discuter avec ceux qui sont impactés par les systèmes, ceux qui les mettent en place pour mieux saisir les enjeux qui sont les leurs. « Le réalisme algorithmique n’exige pas des data scientists qu’ils abandonnent leurs compétences techniques, mais il souligne qu’ils ont besoin de plus que ces seules compétences. Ainsi, les data scientists ne devraient pas se définir uniquement comme des experts techniques sachant analyser des données. Au contraire, ils devraient s’efforcer d’être des stratèges de la donnée, aidant de manière créative les personnes et les organisations à utiliser les données pour relever des défis du monde réel ». Green tente ici de dresser une piste pour que les scientifiques de la données arrêtent de produire du technosolutionnisme. Il invite les ingénieurs à se défaire de l’hubris ingénieuriale, comme il le disait ailleurs. A prendre conscience que leurs solutions sont bien souvent inadaptées, toutes formidables qu’ils les trouvent. Et pour cela, il faut changer l’approche de la discipline elle-même. 

Pour Green, cette réorientation est aussi une réponse à l’automatisation qui dévalorise l’expertise des data scientistes. A l’heure où l’IA générative va produire la plupart du code, le réalisme algorithmique permet de prémunir la discipline contre l’automatisation. En devenant stratèges de la données, leur rôle n’est pas seulement de programmer, mais vise à « aider les organisations à définir des stratégies pour tirer parti des données et des algorithmes afin de répondre à leurs défis concrets ». « Les data scientists cherchent rarement à s’attaquer aux inégalités structurelles, préférant se contenter d’optimiser les procédures décisionnelles existantes. Le réalisme algorithmique inverse ces tendances. Il incite les data scientists à modérer leurs ambitions quant à ce que les algorithmes peuvent accomplir seuls, tout en les encourageant à viser plus haut dans la poursuite de réformes sociales et politiques systémiques », promouvant la justice sociale. 

Pourtant, prévient Green, la justice sociale est un sujet complexe et controversé. Il n’existe pas de réponse unique ou évidente quant à la manière de parvenir à la justice dans chaque situation… Et il n’est pas sûr que toutes leurs interventions y parviennent. Reste que pour lui, il faut parvenir à sortir de la lutte contre les injustices engendrées par les algorithmes pour les utiliser pour combattre les inégalités. 

Pour autant, Green ne se veut pas naïf. Les data scientists ne vont pas créer demain, rapidement et facilement, une société juste, juste en changeant de méthode. D’autres enjeux s’imposent à eux. Les gouvernements eux-mêmes et nombre d’acteurs privés, sont motivés par des objectifs qui sont en conflits avec la justice sociale. Les autorités sont les premières à produire des algorithmes pour soutenir des politiques austéritaires, racistes et qui renforcent le contrôle et les inégalités sociales et les data scientists n’ont pas toujours de marge de manœuvre pour réorienter ces politiques. Le réalisme algorithmique ne prétend pas résoudre tous les défis. Il ne se veut qu’une méthode pour appréhender les défis sociaux, pour mieux collaborer avec les plus vulnérables. Et effectivement, cela ne suffira certainement pas à inverser les scripts qui se déploient dans les outils, les idéologies à l’œuvre dans les programmes et les politiques. « Les data scientists disposent d’une marge de manœuvre limitée pour générer un changement social ». Ce n’est pas pour autant qu’ils ne doivent pas être responsables de tenter de changer les choses. « Les data scientists ne sont pas responsables de la création des conditions sociales d’inégalité et d’injustice. Mais nous sommes responsables de la décision et de la manière d’agir face à ces conditions sociales.»

Le réalisme algorithmique n’est pas seulement une nouvelle méthode. C’est aussi une nouvelle culture et un ensemble de normes pour la data science. Son but est de traduire la critique des algorithmes en de nouvelles pratiques pour les data scientists. 

La leçon du pragmatisme

Le passage du formalisme au réalisme et l’idée de l’appliquer à la data science ne vient pas de nulle part, explique Ben Green. Il s’inspire notamment des philosophes pragmatistes, comme John Dewey ou William James. « Les pragmatistes visaient à transformer la philosophie, d’une recherche métaphysique de vérités essentielles, en un ensemble d’outils pratiques pour résoudre les défis sociaux contemporains ». Pour eux, les concepts sont des instruments au service de l’action concrète : les idées sont des instruments pratiques – au même titre que des fourchettes, des tondeuses à gazon ou des stéthoscopes – destinés à aider les individus à faire face aux défis du monde réel. Ils proposent aux philosophes de s’affranchir de leur dépendance aux abstractions et aux formalismes et aux certitudes qu’elle produit. « Aucune connaissance ne garantit son infaillibilité », disait Dewey. Les connaissances doivent pouvoir être affinées en fonction des conséquences de leur mise en pratique.

La philosophie pragmatique s’appuie sur 3 principes. Le premier consiste à prendre en compte les conséquences : la qualité des théories dépend de leurs effets dans le monde réel, ce qui suppose d’évaluer dans la pratique si elles produisent les conséquences souhaitées. Une politique visant à réduire les inégalités de revenus ne s’évalue pas en fonction des principes qu’elle propose, mais se mesure plutôt en observant si sa mise en œuvre réduit effectivement les inégalités. Le second est le principe des outils, c’est un principe qui vise à se défier de l’abstraction qui n’est qu’un outil parmi d’autres. Le troisième est celui de la socialité : toute connaissance est le produit des personnes qui l’élaborent. Cela signifie qu’il n’existe aucune valeur éthique ou objective ultime. 

Cette philosophie a eu des conséquences concrètes, notamment dans le domaine du droit. Jusqu’au début du XXe siècle, le raisonnement juridique aux Etats-Unis était dominé lui aussi par le formalisme, ce qui a suscité des critiques ouvrant la voie à des réformes progressistes, notamment pour élargir les droits et les protections des travailleurs. C’est ce que l’on a appelé le réalisme juridique. Le formalisme juridique estimait que les conséquences sociales réelles des lois étaient sans pertinence pour leur évaluation. Par exemple, les juges américains ont longtemps interprété la liberté contractuelle comme une règle rigide : l’État ne pouvait s’immiscer dans les contrats que les individus concluaient de leur plein gré. La Cour suprême des Etats-Unis a ainsi invalidé en 1905 une loi de l’Etat de New York fixant une durée maximale de travail pour les employés de boulangerie au motif qu’elle était un ingérence déraisonnable face à la liberté de contracter, quelque soit ses effets. En réaction au formalisme juridique, les réalistes ont œuvré pour prendre en compte le monde dans lequel le droit s’inscrit, pour faire du droit un outil pragmatique au service d’objectifs sociaux plutôt qu’un système visant à produire des réponses incontestables. Pour eux, la qualité des lois devait dépendre de leurs effets dans le monde réel. Pour cela, il leur a fallu montrer que les principes juridiques abstraits ne permettent pas d’apporter des réponses claires dans des cas concrets. Les réalistes juridiques ont prôné des changements d’orientation pour prendre en compte la jurisprudence, le contexte et en soutenant que le droit n’était pas un outil neutre, mais politique, et montrer que le droit ne pouvait être résolu par la simple application de principes abstraits. Ce basculement a changé l’application du droit aux Etats-Unis. En 1937, la Cour suprême des Etats-Unis a validé la constitutionnalité de lois sociales telles que celles instaurant un salaire minimum. « L’évolution du droit, passant du formalisme juridique au réalisme juridique, laisse entrevoir une trajectoire analogue pour faire progresser la science des données : le passage du formalisme algorithmique à une nouvelle méthodologie, le réalisme algorithmique.»

Pour appliquer le pragmatisme à la science des données, il faut que « le test ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique ». Les data scientists ne peuvent se fier au comportement des entrées et des sorties du modèle. Il faut passer d’une conception des algorithmes comme des modèles mathématiques à une conception pratique d’instruments destinés à améliorer la société. « Ce qui rend un algorithme « équitable » ou « éthique », ce n’est pas qu’il possède des caractéristiques mathématiques associées à ces valeurs, mais qu’il produit, dans le monde réel, des résultats associés à ces valeurs ». Les algorithmes sont des systèmes sociotechniques qui s’inscrivent dans la société où ils se déploient, des pratiques sociales. Et s’ils sont des pratiques sociales, alors il faut développer des mesures d’évaluation adaptées, qui reflètent les effets réels de ces calculs. Prendre en considération les conséquences des systèmes, impose aux ingénieurs d’assumer la responsabilités des préjudices que leurs systèmes causent. « Si un algorithme conçu pour améliorer la société s’avère finalement nuisible, il ne peut être considéré comme socialement bénéfique, quelles que soient les mesures formelles attestant de ses bienfaits. Même si les effets néfastes d’un algorithme n’ont pas été voulus, ils définissent la manière dont celui-ci fonctionne réellement. » Là où le regard des spécialistes doit bouger, c’est qu’ils devraient privilégier les impacts sociaux indépendamment du rôle joué par les algos, quitte à ne pas développer des systèmes de calcul. 

Le réalisme algorithmique repose enfin sur un autre principe et présupposé : les algorithmes sont politiques et ceux qui les fabriquent sont des acteurs politiques à part entière. « Toute activité qui influence la disponibilité des ressources, des droits, des statuts ou du pouvoir dans la société est politique ». Les défenseurs de la neutralité visent bien plus à occulter les rapports de force et perpétuer les hiérarchies sociales existantes, qu’à défendre une impartialité qui n’existe pas. Pour Green, les développeurs doivent reconnaître leur partialité, non pas parce qu’ils ignoreraient certaines choses, mais plus encore parce que leurs travaux portent des valeurs par devers eux. « Les data scientists occupent souvent des postes leur conférant une marge de manœuvre considérable pour prendre des décisions normatives. Or, ils ne devraient pas se considérer comme les arbitres du bien, mais plutôt comme des facilitateurs attachés à la participation démocratique de tous.» 

Dans Logique : La théorie de l’enquête (PUF, 2006), John Dewey décrit la résolution de problèmes comme un processus en quatre étapes. « La première étape consiste à examiner le problème en question pour en comprendre les caractéristiques et définir les critères d’une résolution souhaitable. La deuxième étape consiste à explorer des solutions potentielles et à rechercher une intervention susceptible de résoudre le problème. La troisième étape consiste à mettre en œuvre l’intervention choisie. Enfin, la quatrième étape consiste à évaluer si l’intervention a produit les résultats escomptés. Si les résultats sont satisfaisants, le processus s’achève. » C’est exactement la méthode que Green retient pour l’appliquer aux défis algorithmiques. La méthode se déploie comme une feuille de route visant à 

1. Délimiter le problème
2. Délimiter le projet
3. Analyser les données
4. Mettre en oeuvre
5. Et évaluer. 

Avant de détailler par le menu les enjeux et défis de chaque étape. Mais, rappelle-t-il en préambule, les ingénieurs ne sont pas des « licornes omniscientes capables de tout faire en solitaire ». Si certains collaborent activement avec des communautés et des experts pour mener leurs projets, trop souvent encore, ces échanges restent « formalistes ». Dans l’ensemble, ils restreignent la participation de ces groupes à la simple fourniture d’informations sur les paramètres de mise en œuvre technique (voir par exemple notre article sur le manque de participation des publics). Et il est encore plus rare que les ingénieurs confient à d’autres le pouvoir de décision sur les résultats à privilégier ou l’opportunité même de développer des systèmes. Même lorsqu’ils consultent des communautés, trop souvent encore, les ingénieurs conservent la maîtrise du projet. Et quand c’est le cas, l’implication des parties prenantes est marginale, insuffisante pour influencer de manière significative les résultats. Quand c’est le cas, les ingénieurs ont souvent déjà arrêté leur orientation et restent souvent réticents face aux retours remettant en cause leurs choix (comme nous le montrions dans notre article sur l’échec des déploiements de projets). Enfin, quand ils laissent une place, celle-ci consiste à discuter de paramètres, d’indicateurs qui dévalorisent les savoirs des groupes dépourvus de formation technique. 

En rendant les phases amonts (et avals) du processus plus collaboratives, l’enjeu est de mieux réussir à ouvrir à toutes les parties prenantes les moyens de peser sur les objectifs et la portée des projets. Green rappelle que le data scientist ne connaît jamais la complexité du fonctionnement d’un système. Ce sont ceux qui y sont confrontés les experts. Et c’est leur connaissance qui seule permet de faire la différence. 

Définir le périmètre de projets de science des données réalistes

Délimiter le problème n’est pas si simple car les situations problématiques sont souvent mal définies et ambiguës et nécessitent d’éviter toute attente ou tout objectif préconçu. « Lors du diagnostic des problèmes, il est important de reconnaître qu’il n’existe probablement pas d’explication unique et correcte. La plupart des défis sociaux sont des « problèmes complexes ».» Pour cela, Green invite à l’enquête. A discuter avec les agents ou avec le public. A prendre le temps d’interviewer, de parler. Il donne l’exemple d’entretiens avec des parents confrontés à des systèmes algorithmiques visant à prédire les risques de maltraitance ou de négligence. Pour les familles, ces systèmes stigmatisent les parents plus qu’ils n’améliorent la situation. La réponse proposée par les services sociaux où ces systèmes étaient déployés était inadaptée à leur situation. Pour Green, tout l’enjeu est de poser l’énoncé du problème, de le décrire et de décrire ses causes. Aborder les personnes touchées et regarder si elles sont concernées différemment. C’est en posant un diagnostic approfondi du problème qu’on construit un point de référence qui va fournir un cadre pour la démarche. Et ce diagnostic doit être partagé et validé par ceux avec qui le data scientist doit travailler. 

Une fois le problème cerné, il faut alors élaborer une stratégie de réforme, c’est-à-dire une théorie du changement qui permettrait de résoudre le problème identifié, sans évoquer de technologie. Le but n’est pas nécessairement de tout résoudre d’un coup, mais aussi d’esquisser les étapes. « Lorsque des travailleurs se syndiquent, ils ne cherchent pas simplement à obtenir des salaires plus élevés. Ils visent plutôt à accroître leur pouvoir à déterminer les conditions de travail. Grâce à ce pouvoir, ils peuvent négocier avec la direction de nombreux aspects de leur emploi : les salaires, certes, mais aussi la couverture santé, les mesures de sécurité, et bien plus encore. Pour un syndicat, il n’existe pas de victoire ultime et définitive, mais seulement une succession de compromis et de victoires partielles. Chaque action renforce la capacité du syndicat à remporter de nouvelles victoires partielles lors des campagnes de mobilisation ultérieures », comme le montrait André Gorz dans Stratégie ouvrière et néocapitalisme (Seuil, 1964). « Pour les data scientists, qui cherchent à promouvoir la justice sociale, votre objectif n’est pas d’identifier une stratégie globale de transformation de la société. Ne vous attendez pas à ce qu’une intervention quelconque puisse résoudre un problème social systémique et aboutir à une alternative parfaitement juste. L’objectif est plutôt d’identifier des « réformes non réformistes » : des actions qui, même modestement, orienteront la société vers des politiques et des structures de pouvoir égalitaires. » Pour Gorz, les réformes non réformistes s’inscrivent dans une volonté d’instaurer des relations sociales égalitaires. Elles remettent en cause le statu quo au service des objectifs visés. Compte tenu de cette distinction, les réformes non réformistes sont mieux à même de surmonter les structures politiques et de pouvoir systémiques qui, généralement, font obstacle à la réalisation de la justice sociale. 

La délimitation du projet, elle, consiste à préciser les objectifs à atteindre. « Des objectifs qui doivent être à la fois spécifiques, mesurables, réalisables, pertinents et temporellement définis ». Ils doivent permettre de faire progresser la stratégie de réforme définie et sa contribution doit venir soutenir les acteurs. Ici, l’enjeu est d’identifier « Comment mon expertise et mon statut de data scientist peuvent-ils aider le groupe à atteindre ses objectifs ? »

Pour Green cela suppose par exemple de produire une cartographie des processus pour bien saisir le fonctionnement et les pratiques des acteurs accompagnés, sous forme par exemple d’une représentation détaillée de chaque étape d’un processus opérationnel, voire un organigramme ou un flux de travail (à accomplir avec ceux chargés de le faire pour en valider les étapes, préciser les acteurs impliqués, les objectifs de chacun, leurs contraintes) permettant d’identifier les points de blocages concrets. À San Francisco par exemple, le Département de la santé publique s’inquiétait de la baisse des taux de fidélisation à un programme qui fournit une aide alimentaire aux mères à faibles revenus. Pour comprendre les causes de ce problème, l’agence a collaboré avec l’équipe interne de science des données de la ville. Les spécialistes des données ont analysé six années d’informations et élaboré un modèle d’arbre de décision afin d’identifier les facteurs conduisant les mères à abandonner le programme. Ils ont également interrogé les bénéficiaires et le personnel du programme. Ces analyses ont révélé que les contraintes administratives et la stigmatisation sociale constituaient des obstacles majeurs pour les mères. En réponse, l’agence a réduit les contraintes administratives en simplifiant la prise de rendez-vous et en remplaçant les chèques papier par des cartes de paiement électroniques qu’elles réclamaient. L’agence a également lutté contre la stigmatisation en modifiant la communication du programme. A nouveau, insiste Green, l’enjeu n’est pas toujours de faire de grandes réformes. Mais souvent seulement d’aider les organismes à renforcer leurs capacités techniques, que ce soit en nettoyant leurs données, à former le personnel pour élaborer des indicateurs pertinents ou à faciliter le partage de données entre les différents services. 

Un autre moyen consiste à cartographier le pouvoir, les réseaux d’acteurs en relation ou en conflit, comme « d’identifier des adversaires qu’il convient de soumettre à des pressions, des alliés potentiels qu’il faut convaincre ou des groupes non organisés qu’il s’agit d’unifier ». C’est le cas par exemple du collectif militant Anti-Eviction Mapping Project (AEMP) qui publie des cartes d’expulsion notamment à San Francisco. Avec l’Eviction Defense Collaborative, les deux associations ont produit une carte pour mettre en évidence les arrêts de navettes des entreprises technologiques de San Francisco avec celle des expulsions du centre-ville qui a conduit la ville à réglementer le passage de ces bus. 

Le but, ici, est bien souvent d’analyser les données pour orienter la stratégie de mobilisation. Dans le Connecticut, des locataires de logements abordables étaient exposés à des niveaux de présence de plomb toxiques. Ils ont formé un syndicat de locataires pour se mobiliser contre le problème. Les scientifiques de l’organisation Science for the People sont venu leur apporter leur soutien en croisant les données des inspections des agences chargées de la détection du plomb avec celles du syndicat pour aller démarcher d’autres habitants confrontés au problème et accroître la mobilisation et la pression sur les autorités publiques. Suite à ces actions, une enquête a été ouverte et l’agence de protection de l’environnement est intervenue pour faire nettoyer les immeubles. 

Pour élaborer des spécifications de conception, il faut s’intéresser aux variables cibles des systèmes (c’est-à-dire le résultat que l’algorithme prédit), les mesures d’évaluation et l’utilisabilité pratique, qui permettent de traduire le phénomène étudié en une représentation quantitative susceptible d’être mesurée et prédite. Or, celles-ci ne sont pas toujours définies au mieux, rappelle Green. Un algorithme utilisé par le service des impôts américains pour prédire quelles déclarations de revenus sont non conformes (qui devraient donc faire l’objet d’un contrôle fiscal) évalue « la non-conformité comme le dépôt d’une déclaration comportant une erreur, quel que soit le montant en jeu. Sur la base de cette définition, l’algorithme cible de manière disproportionnée les contribuables à faibles revenus et les contribuables noirs pour des contrôles. À l’inverse, si l’algorithme définissait la non-conformité comme un sous-paiement d’impôts d’un montant significatif, il ciblerait plutôt les contribuables à revenus élevés et non noirs pour ces contrôles » (un problème qui n’est pas sans rappeler celui des indus calculé par la CAF en France, soit dit en passant). 

Parvenir à identifier correctement le problème prend du temps et des efforts, rappelle Green. A New York, le service municipal d’aide aux locataires qui vise à les aider dans leur relations avec leur propriétaires par exemple pour obtenir des réparations d’urgence, a cherché à identifier les locataires qui avaient besoin d’aide. Ils ont mis au point un système pour prédire les locataires harcelés par leurs propriétaires pour mieux cibler leurs interventions. Dans un premier temps, ils ont défini leur algorithme pour prédire les immeubles allant connaître au moins un cas de harcèlement au cours du mois suivant, mais le système sélectionnait des immeubles comportant beaucoup d’appartements, mais avec un faible taux de harcèlement de leurs propriétaires. Les scientifiques ont reformulé le problème pour prédire quels immeubles présentaient la plus forte proportion de locataires harcelés. Le modèle a alors identifié des immeubles plus petits avec des taux élevés et mieux répartis dans la ville. Le second modèle a permis de doubler le taux d’identification de locataires en difficulté avec leurs propriétaires, se révélant ainsi plus efficace pour soutenir la mission de l’agence, à savoir protéger les locataires vulnérables.

Pour Green, il y a beaucoup de variables à prendre en considération pour accomplir des analyses adaptées aux situations. Bien souvent, les associations ou les services publics ont peu de moyens pour intervenir. Cela signifie qu’il faut être capable d’intégrer les contraintes opérationnelles de l’organisme dans les indicateurs d’évaluation. « Les approches d’évaluation standard, qui prennent en compte la performance d’un algorithme sur l’ensemble de la population, ne reflètent pas la qualité de l’algorithme pour le rôle auquel il est destiné. Si un organisme ne peut intervenir qu’auprès d’une petite partie de la population, l’essentiel est d’identifier avec précision le groupe qui bénéficierait le plus d’une intervention. » Et dans de nombreux cas, « l’algorithme le plus performant pour l’ensemble de la population sera différent de celui qui performe le mieux pour le sous-ensemble étudié ».

Enfin, il faut s’assurer que l’algorithme sera utilisable en pratique et qu’il sera dimensionné et adapté aux processus existants. Par exemple, en travaillant avec les services sociaux de l’Illinois pour réduire le risque d’accouchement prématuré, les data scientists ont tenté de prédire les femmes avec le plus grand risque de complication via une application en ligne. Mais ils se sont rendu compte que cette application n’était pas fonctionnelle en pratique, car les services ne disposaient pas des capacités techniques pour en assurer la maintenance. Ils ont alors produit un score de risque depuis un simple formulaire papier facile à remplir. Moins précis que l’évaluation numérique, l’outil s’est avéré plus efficace car les services ont pu l’intégrer dans leurs opérations quotidiennes et a permis d’améliorer de 20% les soins prénataux aux femmes à hauts risques. 

Pour Green, « plus vous aurez défini le périmètre de votre projet de manière pertinente pour le contexte d’utilisation spécifique, plus il sera facile de mettre en œuvre l’algorithme avec succès ». Et c’est seulement après ces étapes importantes de spécifications, que le data scientist peut faire son travail, de sélection, de nettoyage et d’analyse de données.

Là encore, le travail préliminaire consiste à bien comprendre les données, leurs ambiguïtés, leurs biais et leurs limites. Il faut comprendre comment elles sont collectées, leurs manques… Ce qui n’est possible qu’en comprenant leur collecte, leur but, et en discutant avec ceux qui les collectent. Pour Green, « une cause fréquente d’échec des logiciels publics réside dans les méthodes de développement dites « en cascade » : les pouvoirs publics définissent leurs besoins, les techniciens conçoivent et réalisent le système de manière isolée, pour ne le présenter qu’une fois le produit final achevé. L’approche en cascade suppose qu’il est possible de définir tous les détails d’un outil avant d’en entamer la réalisation », comme le montrent Tara Dawson McGuiness et Hana Schank dans leur livre,  Power to the Public: The Promise of Public Interest Technology (Princeton university Press, 2021). « Cette approche mène souvent à l’échec car elle ne prévoit aucune possibilité de retour d’information intermédiaire au cours du processus de développement. Si vous tentez de concevoir un système de manière isolée, vous risquez de négliger les préférences et les pratiques de l’organisme concerné, faute de les avoir abordées en amont. De plus, ces préférences et pratiques sont susceptibles d’évoluer avec le temps. Plutôt que d’adopter une méthode en cascade (waterfall), privilégiez les pratiques de développement « agile » : créez des prototypes de manière itérative, discutez-en ou testez-les avec les utilisateurs finaux, puis ajustez votre travail en fonction des retours obtenus. »

Une fois les données analysées ou modélisées, vous pouvez en tirer des enseignements. Si vous avez élaboré un modèle, c’est à cette étape que vous l’utiliserez pour effectuer des prédictions ou des classifications sur de nouvelles données. Si vous préparez une présentation ou un rapport, c’est le moment de synthétiser les résultats dans un document destiné à être partagé. Ne vous limitez pas aux aspects techniques de vos livrables ; réfléchissez également à la manière de communiquer votre travail. Il est essentiel que votre public puisse interpréter correctement la signification de vos résultats (et, point tout aussi important, ce qu’ils ne signifient pas).

L’implémentation elle aussi doit être pédagogique recommande Green. Elle doit se faire en observant les impacts liés à l’utilisation. « Les projets de science des données sont loin d’être terminés une fois qu’un algorithme a été développé. » Pour cela, il faut non seulement surveiller ce que produit l’algorithme mais plus encore comment il s’insère et influe sur la prise de décisions, dans les processus et observer ses impacts sur les publics touchés. C’est à ce moment-là qu’on déploie des outils pour évaluer leurs effets, que ce soit via des méthodes de projection prospective, des exercices de design fiction, ou des études d’utilisation. 

C’est seulement toutes ces étapes franchies qu’on peut décider ou non d’implémenter le système, estime Green en délibérant avec les parties prenantes, en ayant observé si le système produit bien des effets et à quel niveau. C’est seulement une fois que l’implémentation est réalisée avec attention pour qu’elle s’intègre aux processus, que l’évaluation peut vraiment avoir lieu. En regardant s’il atteint bien ses objectifs et s’il engendre des effets secondaires négatifs. Là encore, le manuel de Green fourmille d’exemples pour procéder à ces évaluations, que ce soit par des essais contrôlés randomisés, des comparaisons avant-après, par des études d’interaction humaines avec le système, des enquêtes sur les groupes affectés par les décisions… 

Bien souvent, les évaluations formalistes des systèmes peinent à évaluer leurs impacts concrets. A San Francisco, les personnes sans abri font l’objet d’une évaluation de leur vulnérabilité par un algorithme. Ces scores orientent les décisions des organismes de logement quant aux personnes à prioriser pour l’attribution d’un logement. Or pour candidater, il leur faut répondre à un questionnaire assez traumatisant, ce qui les conduit à taire leurs récits voire à renoncer et donc à réduire leur score. L’algorithme ne parvient donc pas à accomplir pleinement ce qu’il est censé faire. 

Relever le défi des inégalités : des mesures d’équité… aux interventions structurelles

Résoudre les inégalités n’est pas si simple, rappelle Green. En 2016, les journalistes d’investigation de ProPublica ont montré que l’algorithme de Compas d’évaluation des risques de récidive était biaisé à l’encontre des Noirs. ProPublica a constaté que le taux de faux positifs de COMPAS – le taux de classification erronée d’un prévenu qui ne récidivera pas comme présentant un risque élevé – était deux fois plus élevé pour les prévenus noirs que pour les prévenus blancs. L’algorithme a classé 45 % des prévenus noirs non récidivistes comme présentant un risque élevé. En revanche, il n’a classé que 23 % des prévenus blancs non récidivistes comme présentant un risque élevé. L’algorithme a donc classé de manière disproportionnée les prévenus noirs comme susceptibles de récidiver.

Ces résultats ont suscité une grande consternation, de nombreux commentateurs exprimant leur indignation face à des algorithmes racistes dans des décisions aussi importantes. Mais Northpointe, l’entreprise qui a développé Compas, a réfuté les accusation de discrimination en s’appuyant sur une autre comparaison : parmi les prévenus considérés comme à haut risque, les prévenus noirs et blancs récidivaient à des taux similaires (environ 60 % du temps). Ce qui signifiait que l’algorithme traitait les prévenus noirs et blancs de la même manière quant à leur probabilité de récidive. Pour Northpointe, cette analyse démontrait que COMPAS est impartial. 

Des chercheurs en science des données se sont penchés sur ce débat, supposant qu’il serait possible de trancher la question en ajustant COMPAS pour satisfaire aux notions d’équité présentées par ProPublica et Northpointe. Ils ont cependant rapidement découvert que cela était impossible. Les algorithmes prédictifs discriminent inévitablement une forme ou une autre, et généralement en pénalisant les groupes marginalisés. Dans le cas de COMPAS, la disparité raciale des taux de faux positifs s’explique parce que les accusés noirs récidivent plus fréquemment que les accusés blancs, mais certainement d’abord parce qu’ils sont plus nombreux à être incarcérés et moins pris en charge. L’algorithme détecte cette différence et considère donc les accusés noirs comme plus à risque que les accusés blancs. Des enquêtes ont démontré des biais raciaux, ethniques, sexistes et de classe dans de nombreux autres algorithmes du secteur public.

« Cette caractéristique des algorithmes soulève un problème important pour les data scientists qui tentent de promouvoir la justice sociale. Les groupes marginalisés obtiennent de moins bons résultats dans de nombreux domaines, notamment la criminalité, l’éducation, la réussite professionnelle et la santé. Ce sont ces inégalités qui motivent de nombreux data scientists à œuvrer pour la justice. Mais comme les algorithmes sont entraînés sur des données qui reflètent ces schémas d’inégalité, ils génèrent des prédictions et des classifications qui reproduisent les disparités sociales. » 

Les spécialistes des données ont tenté de relever ce défi en développant le domaine de « l’équité algorithmique ». Comme son nom l’indique, l’équité algorithmique vise à empêcher les algorithmes d’exprimer des biais ou d’exacerber les inégalités. Ce domaine de recherche a réalisé des progrès importants dans le développement de méthodes permettant de réduire certains biais et a incité les spécialistes des données à reconnaître que les algorithmes ne sont pas objectifs.

Malgré ces avancées, l’équité algorithmique reste fondamentalement limitée en tant que méthodologie de promotion de la justice sociale. Le défaut fatal de ce domaine est qu’il considère l’équité comme un attribut technique interne aux algorithmes, explique Green.

L’équité algorithmique représente un exemple typique d’incorporation formaliste : les data scientists ont abordé les questions morales d’équité à travers les méthodes et les orientations du formalisme algorithmique. Cette approche de l’équité a conduit à des algorithmes qui paraissent équitables mais qui, en réalité, perpétuent les inégalités. « Ces limites de l’équité algorithmique signifient que les data scientists manquent d’une voie claire pour lutter contre la discrimination et les inégalités. Les réformes qui promeuvent l’équité sont les plus nécessaires dans les domaines où les disparités sociales sont criantes et généralisées. Mais les data scientists ne disposent pas de méthodes pour concevoir des algorithmes qui réduisent ces disparités plutôt que de les reproduire. Il n’est donc pas évident de savoir comment les data scientists peuvent contribuer à la justice sociale dans ces domaines. »

Pour Green, le réalisme algorithmique offre une voie productive pour pratiquer la science des données dans des domaines marqués par les inégalités car elle « reconsidère l’équité comme une propriété instrumentale – et non intrinsèque – des algorithmes ». « Dans cette optique, pour déterminer si un algorithme est équitable, ce qui compte, ce ne sont pas ses caractéristiques techniques, mais les effets qu’il produit au sein de la société. Par conséquent, les data scientists devraient cesser de poser la question formaliste dominante dans le domaine : « Comment créer des algorithmes qui satisfont à des critères statistiques d’équité ? » Cette question focalise l’attention sur le fonctionnement interne des algorithmes, en se concentrant étroitement sur des processus de décision isolés. Au lieu de cela, les data scientists devraient se demander : « Comment pouvons-nous contribuer à réduire les inégalités sociales et matérielles dans la société ? » Cette question incite les data scientists à privilégier les impacts réels des algorithmes. » 

Certes, cette question ne permet pas de réponses simples. Toutefois, la démarche du réalisme algorithmique structure un processus grâce auquel les data scientists peuvent élaborer des projets favorisant l’équité. Le réalisme algorithmique invite les data scientists à élargir leur perspective au-delà des processus de décision ponctuels pour prendre en compte les environnements sociaux qui entourent ces moments de décision. Cette approche souligne que les data scientists ne sont pas limités à la simple optimisation des modalités de prise de décision : ils peuvent également modifier les structures sociales qui encadrent ces processus. « Ils devraient notamment s’efforcer de (1) réduire les disparités sociales qui alimentent les processus de décision et (2) atténuer les conséquences néfastes découlant de ces décisions. En privilégiant des interventions structurelles plutôt que des mesures d’équité, les data scientists peuvent mener des projets techniques qui contournent les contraintes liées à l’équité algorithmique tout en promouvant la justice sociale.»

Green montre que l’approche formaliste de l’équité, malgré le développement d’innombrables mesures d’équité sous forme mathématique, peine à produire des effets. 

« Les mesures d’équité les plus répandues reposent sur des comparaisons entre des groupes qui valorisent soit la suffisance » (la condition de suffisance est remplie si, parmi les personnes faisant l’objet d’une prédiction donnée, tous les groupes présentent le résultat prédit dans les mêmes proportions. Cette définition de l’équité reflète l’idée que les personnes ayant une probabilité équivalente de manifester le comportement étudié doivent être traitées de manière similaire. Les modèles d’apprentissage automatique respectent généralement ce principe par défaut. Northpointe a soutenu que COMPAS était équitable car il satisfaisait au critère de suffisance) « soit la séparation » (la condition de séparation est remplie si tous les groupes soumis aux prédictions d’un algorithme présentent le même taux de faux positifs et le même taux de faux négatifs. Cette définition de l’équité reflète l’idée que les personnes présentant le même résultat doivent être traitées de manière similaire. ProPublica a soutenu que COMPAS était racialement biaisé car il ne respectait pas le critère de séparation). 

Le problème est que ces deux manières de définir l’équité sont irréconciliables. Et que l’équité se résume alors à une boîte à outil, où l’équité répond ou pas aux mesures mathématiques retenues. L’équité ne se mesure que sous l’angle des données d’entrée et de sortie de processus décisionnels ponctuels et bien souvent privilégie la suffisance à la séparation, notamment parce qu’on a tendance à bien plus valoriser l’égalité formelle, c’est-à-dire celle qui juge selon une norme uniforme, qui est très perméable aux inégalités existantes. Ainsi, si Northpointe a raison d’affirmer que les prévenus noirs récidivent plus souvent, c’est oublier que cette explication occulte les raisons de cette disparité. Cette disparité ne résulte pas d’un phénomène inexplicable ou sans importance. Au contraire, des siècles d’oppression raciale ont criminalisé le fait d’être Noir et ont placé les communautés noires dans des conditions criminogènes telles que la pauvreté endémique, le sous-financement des écoles et la rareté des opportunités d’emploi, rappelle le chercheur.

Pour Green, c’est en cela que l’équité algorithmique est dans une impasse. Les critiques, partisans de la justice algorithmique, suggèrent de privilégier la séparation à la suffisance comme définition de l’équité, pour privilégier l’égalité de résultats entre les groupes. Dans le cas de Compas, cela signifierait produire les mêmes niveaux de faux positifs pour les prévenus noirs et blancs. Mais pour changer d’approche, il faudrait faire évoluer non seulement la prise en compte mathématique, mais également la contrainte juridique. Privilégier la séparation nécessiterait de préconiser des décisions différentes pour les prévenus noirs et blancs présentant le même risque de récidive, ce qui serait illégal en vertu des lois anti-discrimination. Nous sommes là dans le même défi juridique que l’on notait dans le livre de Nathan Genicot. Une impasse éthique que nos sociétés n’ont pas tranchée. 

Pour dépasser cette impasse, Green suggère de passer à une approche instrumentale de l’équité. « Si nous ne pouvons pas choisir d’autres métriques d’équité, que pouvons-nous faire pour obtenir des algorithmes plus équitables ? »

« Pour élaborer une stratégie visant à mettre les algorithmes au service de la lutte contre l’injustice, nous avons besoin de l’éclairage d’une théorie morale qui dépasse le cadre de l’égalité formelle. » Cette théorie doit présenter deux caractéristiques fondamentales. Premièrement, elle doit se concentrer sur les réalités concrètes des inégalités plutôt que sur le simple respect de règles formelles et de normes uniformes. Deuxièmement, elle doit élargir le champ de l’analyse au-delà des points de décision individuels.

Pour cela, la solution que propose Green repose sur l’égalité relationnelle, qui constitue une approche substantielle de l’égalité, car elle privilégie les résultats aux procédures. Elle valorise notamment l’égalité dans les relations entre les individus. Les tenants de l’égalitarisme relationnel estiment que « les individus doivent interagir en tant qu’égaux ou jouir du même statut fondamental », contrairement aux relations hiérarchiques. Les égalitaristes relationnels suggèrent une stratégie différente pour promouvoir l’égalité : modifier les structures sociales qui encadrent les points de décision, c’est-à-dire s’intéresser bien plus aux environnements de décision. « Ce qui compte, ce n’est pas de savoir si un algorithme est conforme aux définitions de l’équité, mais s’il réduit les inégalités sociales et matérielles dans la société ».

Pour y parvenir, Green reprend tout le processus qu’il a proposé (les 5 étapes de sa méthode) pour le réinterroger à l’aune de l’équité. 

Lors de la délimitation du problème, il faut se poser plus avant la question des groupes les plus vulnérables ou les plus défavorisés. Les disparités d’attributs entre les groupes doivent être considérés comme le résultat d’une injustice. Et toujours estimer que les membres du groupe favorisé ont une influence dans la définition des critères de décision. Les attributs d’une personne, comme le mérite, le besoin, la dangerosité, reflètent souvent les intérêts des groupes sociaux dominants. « Plus un groupe dominant a le pouvoir de définir les critères, plus les conditions sont défavorables aux groupes marginalisés. » Il invite par exemple à observer si « les personnes présentant des caractéristiques défavorables font l’objet, de manière disproportionnée, de décisions défavorables » ou si les « les personnes qui reçoivent une décision défavorable subissent des conséquences graves » ou combien de personnes subissent des décisions défavorables. Ces questions permettent d’adapter les réponses stratégiques. Par exemple en fournissant des ressources ou des soutiens aux groupes défavorisés pour amoindrir les effets des calculs en modifiant les critères d’évaluation des décisions. Par exemple, en tentant de modifier les décisions défavorables afin qu’elles privilégient l’aide à la sanction. Ou encore en atténuant les préjudices découlant d’une décision défavorable, ou encore en tentant de réduire le nombre de personnes faisant l’objet de décisions défavorables, en tentant par exemple d’agir sur les ressources disponibles pour permettre davantage de décisions favorables. Ainsi, pour réduire le risque de récidive chez les groupes marginalisés, la première stratégie de réforme en amont consiste à fournir des ressources ou d’autres formes de soutien aux groupes défavorisés. 

Green donne un exemple, en observant comment d’autres décisions permettent de réduire le risque de récidive, par exemple en accompagnant les programmes qui visent à rompre les cycles de la criminalité et de la violence. À Chicago, un programme d’intervention communautaire contre la violence vise à offrir un soutien thérapeutique et social aux personnes à risque d’avoir un comportement violent. Les évaluations ont montré que ces programmes avaient un réel impact en réduisant de plus de 70% le risque d’arrestation pour crime violent chez les participants. Les spécialistes des données peuvent aider par exemple à améliorer le taux de rétention des participants, alors que moins de la moitié des participants vont jusqu’au bout du programme (et compte tenu des ressources limitées des programmes, il est impératif qu’ils réduisent leurs taux d’abandon). En comprenant les raisons de l’abandon ou en élaborant un modèle pour identifier les participants qui risquent d’abandonner, il y a des possibilités pour venir en soutien de ces programmes. Ou encore en concevant un modèle identifiant les meilleures stratégies de rétention. 

Un exemple dans l’actualité plus récente explicite plus avant ce succès. La ville de Baltimore a réduit son taux d’homicides de 60 % entre 2021 et 2025 rapportent Public Health et le Emerald book, en copiant le programme de Chicago. Ce succès s’explique par le fait que la ville ait abordé la violence par arme à feu comme un enjeu de santé publique et ait agit sur le problème non pas par la répression, mais en promouvant un programme pour les personnes les plus à mêmes de tomber dans la violence donnant accès à un logement stable, à des emplois, à des transports publics, comme le préconisent les travaux du Centre pour les solutions contre la violence par arme à feu et du Crime and Justice Lab. Une approche axée sur la santé publique implique d’analyser les données, de se concentrer sur les personnes les plus exposées aux risques pour les repérer et leur proposer un programme adapté d’aides pour s’extraire de la spirale où ils risquent de tomber parce qu’ils ont eux-mêmes été victimes de violences et d’évaluer en permanence ce qui fonctionne et ce qui ne fonctionne pas. En s’appuyant sur des réseaux communautaires locaux, comme la Peace Team, YAP, Roca, Safe streets ou Cure violence, Baltimore a réussi à ce que 91,5% des participants à son programme ne soient plus ni victimes ni auteurs de nouvelles fusillades. Plutôt que de déployer des effectifs de police, la ville a misé sur des médiateurs et un programme d’aides dédiés pour que la réponse à la violence par la violence ne soit plus la seule option. « Le succès de Baltimore a définitivement balayé le mythe selon lequel la réduction de la criminalité nécessiterait nécessairement une augmentation des effectifs policiers.»

Une autre option consiste à attirer davantage l’attention sur les méfaits de la mise en détention auprès des juges, comme l’ont montré les propositions alternatives à Compas, comme des systèmes qui proposent pour chaque individu la meilleure solution pour qu’ils ne récidivent pas en leur proposant les aides les mieux adaptées à leur situation (comme le programme de remise en liberté sous surveillance de la ville de New York qui a permis d’éviter la détention provisoire de 150 000 personnes) ou encore, comme le propose Esas, en proposant aux juges, plutôt qu’un score de risque, d’accéder aux peines similaires prononcées dans des affaires antérieures selon des antécédents de condamnations proches, leur permettant de comparer leur sentence et de relativiser leurs jugements (voir notre article). 

Il est également possible d’utiliser d’autres solutions encore, comme des modèles statistiques afin d’identifier et de contester publiquement les décisions des juges en matière d’incarcération. À titre d’exemple, des spécialistes des données ont élaboré des modèles évaluant la fréquence à laquelle les juges de New York ont ​​ordonné le placement en détention provisoire entre 2020 et 2022, au regard de leur volume de dossiers. Ils ont ensuite publié un rapport désignant les quatorze juges les plus sévères de la ville. Selon leurs estimations, par rapport à des juges ordinaires, ces quatorze magistrats ont collectivement placé 580 personnes supplémentaires en détention, entraînant 154 années de détention provisoire additionnelles et un coût de 77 millions de dollars pour les finances publiques.

Une autre possibilité encore consiste à œuvrer à réduire les peines prononcées ou à réduire le nombre de personnes placées en détention provisoire par exemple en collaborant avec des avocats commis d’office pour concevoir un outil open-source pour les aider à mieux défendre leurs clients. ou encore en mobilisant des citoyens pour documenter les procédures de la justice et produire des rapports sur leurs actions. 

Green ne promet pas le grand soir de la lutte contre les inégalités. Mais estime que le terrain des interventions concrètes offre de nombreuses possibilités d’action. Pour lui, la data science permet de porter bien d’autres regards sur l’équité algorithmique. Bien sûr, reconnait-il avec humilité, « aucune de ces interventions, prise isolément, ne suffirait à éliminer les inégalités sociales ou les préjudices liés à la détention provisoire. Toutefois, toutes contribuent — par des évolutions progressives mais significatives — à orienter les structures sociales et institutionnelles vers une plus grande égalité relationnelle.» Pour autant que, politiquement, il reste des possibilités d’action, des programmes alternatifs et des financements pour ces programmes… 

Améliorer la prise de décision : passer de l’humain dans la boucle à l’algorithme dans la boucle

« Au cours des années 2010, des villes américaines comme Philadelphie ou San Francisco ont proposé des guichets pour aider les organismes de services sociaux à fournir une aide plus équitable et plus efficace aux personnes sans-abri. L’objectif de l’accès coordonné est d’accorder la priorité en matière de logement aux personnes qui en ont le plus besoin.

Les algorithmes facilitent ce processus en quantifiant la vulnérabilité de chaque personne sollicitant une aide au logement. » Problème : les travailleurs sociaux n’ont pas intégré ces évaluations. Pire, ces algorithmes ont eu l’effet inverse : ils ont exacerbé la vulnérabilité des groupes les plus marginalisés (tels que les immigrés, les personnes transgenres et les personnes noires) et ont donné aux personnes sans-abri le sentiment d’être déshumanisées par le processus d’évaluation, comme le racontait le San Francisco Public Press en 2022. 

« L’une des principales raisons de l’échec de cette initiative est que les travailleurs sociaux se sont trop reposés sur les algorithmes. Au lieu de considérer l’évaluation comme un outil permettant de contextualiser la situation de chaque individu, ils en ont fait le critère déterminant pour l’attribution d’un logement. Les agents chargés des dossiers ont fait valoir qu’ils n’avaient pas le « temps » de procéder à un examen plus personnalisé et que le questionnaire était plus simple à utiliser.

Cette dépendance excessive à l’égard des algorithmes de sélection a transformé un travail autrefois fondé sur l’accompagnement humain en une simple application rigide d’une formule. Auparavant, les travailleurs sociaux nouaient des relations avec les personnes sans abri afin de mieux cerner leurs besoins et de déterminer les formes d’aide les plus adaptées. Après l’introduction d’algorithmes d’accès coordonné au logement, les personnes en quête d’un toit n’ont plus bénéficié d’un accompagnement aussi personnalisé et respectueux. Elles étaient au contraire réduites à un simple numéro et, dans la plupart des cas, renvoyées à la rue.»

Cette histoire rappelle qu’il est très difficile de parvenir à une collaboration efficace entre humains et algorithmes. « On s’attend à ce que la combinaison de l’humain et des algorithmes permette de tirer le meilleur parti des deux mondes : la précision et la cohérence des algorithmes d’une part, l’expertise et le discernement des humains d’autre part. En pratique, toutefois, cette fusion idéale ne se concrétise que rarement.»

L’un des problèmes majeurs réside dans l’incapacité des humains à évaluer correctement la qualité des conseils fournis par les algorithmes ; même les experts peinent à distinguer les bonnes recommandations des mauvaises. Souvent, les décideurs humains accordent une confiance excessive à l’algorithme, ce qui les conduit à suivre des recommandations erronées ou biaisées. Ainsi, lorsque la police de Londres a testé un système de reconnaissance faciale en temps réel, les agents ont « largement surestimé la fiabilité du système », rapportait une analyse de l’AI Now institute. Alors que l’algorithme ne fournissait une réponse correcte que dans 19 % des cas, les agents ont approuvé 62 % de ses recommandations. 

Pour relever le défi de la collaboration, les data scientists ont complété les recommandations d’explications permettant de décrire les raisons pour lesquelles l’algorithme aboutit à sa conclusion. C’est le champ de ce qu’on appelle l’IA explicable (XAI). Malgré l’engouement, force est de constater que ces explications n’améliorent généralement pas la collaboration entre humains et algorithmes. Dans de nombreux cas, les explications conduisent même à de moins bons résultats. Ce problème découle à nouveau de la prédominance du formalisme algorithmique. Si le domaine a défini ce qui caractérise une bonne explication en terme mathématique et a mis au point des outils d’explicabilité, les complexités sociales inhérentes aux collaborations entre humains et algorithmes ont du mal à être saisies par le biais d’abstractions et de métriques. A nouveau, pour Green, il est nécessaire de dépasser le formalisme pour dépasser cette limite. « Ce qui caractérise un algorithme utile, ce n’est pas sa précision maximale ni ses explications techniquement optimales. Ce qui caractérise un algorithme utile, c’est sa capacité à aider les utilisateurs à prendre de meilleures décisions.» Cela semble tautologique, mais observer si cet objectif est atteint ne s’observe pas sur la base de purs formalismes. 

Dans l’approche formaliste, les spécialistes de data science insistent sur l’importance de maintenir un humain dans la boucle de décision. C’est au final toujours lui qui doit pouvoir décider, valider la recommandation du calcul. C’est un moyen censé prémunir des erreurs et des biais. De même, pour dépasser l’opacité intrinsèque aux calculs complexes, les data scientists privilégient des explications elles-mêmes automatisées. L’explicabilité est devenu le principe central et moteur de l’équité. Pourtant, cette explicabilité peine à produire des résultats et reste bien souvent très pauvre, incomplète… (absolument pas « projective », comme je le proposais moi-même). « Aider les utilisateurs à comprendre le fonctionnement d’un algorithme est très différent de les aider à utiliser ses conseils pour améliorer leurs décisions. Les convictions des data scientists quant à la qualité des explications ne correspondent donc pas à la pratique. » En fait, les explications ont pour effet involontaire d’accroître la confiance des utilisateurs envers les algorithmes, indépendamment de la qualité de ces derniers… et les incite à accepter plus facilement des conseils algorithmiques erronés.

Pour Green, à nouveau, il faut passer d’une approche formaliste en la matière à une approche réaliste. C’est-à-dire s’adapter à la manière dont les gens interprètent et utilisent les résultats des systèmes pour prendre des décisions, et pas seulement en faire des outils de décisions pour les gens. Ils doivent venir aider les gens à améliorer leurs décisions plutôt que de les prendre à leur place. Pour cela, ce n’est pas l’humain qu’il faut placer dans la boucle comme le proposent les conseils éthiques, mais l’algorithme, défend Green. En plaçant l’humain dans la boucle, on l’a vu avec la chaîne d’élimination automatisée des systèmes d’IA pour faire la guerre, trop souvent, on ne propose qu’une validation humaine de décisions algorithmiques trop complexes, une pantomime de contrôle. « À l’inverse, l’approche par un algorithme intégré au processus humain reconnaît que les algorithmes sont introduits au sein de processus décisionnels humains préexistants. Ici, ce sont les personnes qui prennent les décisions. Les algorithmes viennent compléter l’analyse de la personne en lui fournissant des éléments pour l’aider à évaluer la situation. Ce qui importe en fin de compte, c’est ce processus de décision humain, et non la capacité de l’algorithme à prendre seul de bonnes décisions ou celle de l’humain à superviser l’algorithme. Un système à algorithme intégré au processus humain, un « algorithme dans la boucle » est tout outil automatisé qui fournit des conseils aux personnes dans le but d’améliorer la prise de décision.»

Confrontés à des décisions à prendre, les humains doivent concilier des objectifs contradictoires. Lorsque les inspecteurs sanitaires choisissent les restaurants à contrôler par exemple, ils doivent concilier la priorité donnée aux établissements présentant les risques les plus élevés et la nécessité de répartir équitablement les inspections entre les différents quartiers. La manière dont ces acteurs pondèrent ces considérations concurrentes influence considérablement leurs décisions.

« L’existence de ces arbitrages implique que les décideurs disposent d’une marge d’appréciation pour déterminer l’issue la plus appropriée dans chaque cas. Bien qu’elle puisse susciter des inquiétudes quant aux risques de partialité ou d’incohérence, cette marge d’appréciation est un élément essentiel d’une prise de décision de qualité. Au quotidien, les bureaucrates de terrain sont confrontés à des situations ambiguës, incertaines et imprévisibles. Supprimer cette marge d’appréciation reviendrait à imposer une logique rigide et formelle à ces situations, empêchant ainsi les agents d’adapter leurs décisions à des cas complexes ou inédits.

Par ailleurs, imposer aux décideurs le respect de règles prescriptives violerait le principe normatif selon lequel les décisions doivent tenir compte de la situation et des besoins des individus. La marge d’appréciation est donc souhaitable, tant sur le plan pratique que normatif : elle permet aux décideurs de trouver un juste équilibre entre des valeurs et des objectifs contradictoires, en fonction des circonstances particulières.

Pour exercer leur pouvoir discrétionnaire de manière réfléchie et bénéfique pour la société, les décideurs doivent faire preuve d’un sens de la responsabilité morale quant à leurs choix. Craignant que cette marge d’appréciation ne favorise de mauvaises décisions ou des abus de pouvoir, les autorités imposent souvent des contraintes strictes aux actions des bureaucrates de terrain. Ces stratégies de contrôle et de conformité permettent généralement de prévenir les dérives les plus graves liées à l’exercice de ce pouvoir. Toutefois, leur efficacité est limitée – un contrôle précis s’avère très difficile dans ces contextes – et il a pour effet de démotiver les agents. Une stratégie bien plus efficace pour améliorer la prise de décision des agents publics consiste à responsabiliser les travailleurs et à leur accorder l’autonomie nécessaire pour exercer leur jugement de manière optimale », comme l’ont souligné bien des chercheurs tels que Michael Lipsky, Street-Level Bureaucracy: Dilemmas of the Individual in Public Services (Russell Sage Foundation, 1980), Bernardo Zacka, When the State Meets the Street: Public Service and Moral Agency (Harvard University Press, 2017) ou Dan Honig, Mission Driven Bureaucrats: Empowering People to Help Government Do Better (Oxford University Press, 2024). Le but d’un algorithme ne peut se réduire à améliorer sa précision (pour autant qu’il le permette réellement, comme le soulignaient les chercheurs Arvind Narayanan et Sayash Kapoor dans leur livre, AI Snake Oil (Princeton University Press, 2024) et en pointant le fait que nombre de calculs n’améliorent que très marginalement leur résultats), mais doit prendre en compte nombre d’autres enjeux. Par exemple, un algorithme ne devrait pas chercher à « améliorer la précision des prédictions concernant la vulnérabilité des personnes sans-abri. » « À l’inverse, un projet intégrant des algorithmes dans la boucle décisionnelle déplacerait l’attention des prédictions vers les résultats concrets : « réduire le nombre de personnes vivant sans abri ou logement stable. » Par ailleurs, il conviendrait de prendre en compte les répercussions sur les travailleurs sociaux et sur les personnes sollicitant une aide au logement. Des objectifs connexes pourraient inclure : « améliorer le moral et le sentiment d’accomplissement des travailleurs sociaux » et « augmenter la proportion de personnes sans-abri estimant être traitées avec respect par l’organisme. » La nature multidimensionnelle de ces objectifs implique qu’il n’existera pas d’indicateur unique permettant de déterminer si le projet est une réussite.» D’une certaine manière, pourrait-on dire à la suite de Green, un système qui ne vise qu’à réduire le réel à une seule question sans ambiguïté, part d’une bien mauvaise analyse du réel et fournira par avance une mauvaise réponse. 

Pour améliorer la décision, estime Green, il n’est pas toujours nécessaire d’amener des informations nouvelles à ceux chargés de décisions, mais de comprendre ce qu’ils priorisent déjà. Les travailleurs sociaux chargés de la protection de l’enfance dans le comté d’Allegheny, en Pennsylvanie, privilégient la sécurité immédiate des enfants, tandis que l’algorithme dont ils reçoivent les conseils (l’Allegheny Family Screening Tool, qu’avait étudié Virginia Eubanks) prédit la sécurité des enfants sur une période de deux ans. Cette différence explique pourquoi les travailleurs sociaux ont tendance à ignorer les suggestions de l’algorithme. Nombre de professionnels hésitent à suivre les conseils algorithmiques pour des décisions à forts enjeux, estimant que ces modèles négligent la dimension humaine et la situation particulière des individus. Enfin, pour être exploitables, les enseignements tirés d’un algorithme doivent s’inscrire dans les pratiques quotidiennes et les flux d’information de l’organisation. Dans le domaine médical, par exemple, l’élaboration d’un plan de traitement pour un patient comporte de nombreux aspects allant au-delà de la simple prescription de médicaments. Les médecins doivent prendre des décisions telles que la fréquence des consultations de suivi et l’éventuelle intervention d’autres professionnels de santé (par exemple, des kinésithérapeutes ou des thérapeutes comportementaux). Ainsi, les médecins indiquent qu’ils préféreraient recevoir des recommandations algorithmiques liées à ces étapes organisationnelles, plutôt que de simples indications sur le médicament à prescrire. Ils souhaitent également que ces conseils facilitent les échanges avec les patients et les collègues, car ils élaborent souvent les plans de traitement en collaboration avec ces différents acteurs. 

Le développement d’un algorithme destiné à soutenir les conseillers d’une agence municipale de placement au Danemark met en lumière les avantages d’une collaboration étroite avec les décideurs et d’une ouverture d’esprit quant à la nature de la contribution à apporter. Dans ce cas précis, des spécialistes des données collaboraient avec des conseillers chargés d’aider les chômeurs à développer leurs compétences et à trouver un nouvel emploi. Au début du projet, les spécialistes des données prévoyaient de concevoir un algorithme capable de prédire quels demandeurs d’emploi présentaient le risque le plus élevé de chômage de longue durée. Il s’agissait là d’une approche classique en science des données, axée sur la prédiction de résultats individuels. Toutefois, les conseillers ont fait valoir qu’un tel outil entrerait en conflit avec leur éthique professionnelle. Pour eux, il est essentiel de croire en chaque chômeur et de l’aider à obtenir le meilleur résultat possible. Plutôt que des prédictions sur les comportements individuels, les conseillers ont demandé des prédictions concernant les processus organisationnels. Ils ont expliqué que l’un des principaux obstacles rencontrés par les usagers était la lenteur de l’avancement de leur dossier. Par exemple, des délais importants surviennent souvent lorsque l’agence doit rassembler les documents requis. Ces délais peuvent amener les demandeurs d’emploi à perdre confiance en eux et dans le processus d’accompagnement. Les spécialistes des données n’avaient jamais envisagé ce problème : ils supposaient que les dossiers étaient toujours traités rapidement. Or, les conseillers connaissaient bien ces délais longs et imprévisibles, qui constituaient un défi majeur dans leur travail. Pour y remédier, ils ont demandé un algorithme capable de prédire le temps d’attente estimé pour chaque personne. Cette information leur permettrait de préparer les demandeurs d’emploi au délai prévu et de les maintenir engagés dans des programmes tels que des thérapies ou des formations professionnelles durant cette période d’attente.

Cet exemple danois démontre que la contribution de la science des données qui semble la plus évidente n’est pas toujours la plus utile et l’importance à saisir les besoins de terrain. 

Tout cela nécessite une immersion totale avec le terrain, explique Green. Il faut comprendre comment les agents interprètent les informations, si certains éléments leur semblent confus… Mais surtout, pour Green, cela suppose de dépasser la seule explication. Par exemple en proposant des exemples similaires pour les inviter à mettre leur décision en perspective ou en les invitant à réfléchir par eux-même à une décision avant de recevoir les recommandations des systèmes. « L’idée sous-jacente est que si les individus réfléchissent de manière autonome à une décision, ils l’analyseront plus en profondeur et seront mieux à même d’évaluer les recommandations de l’algorithme. Plusieurs études ont montré que les fonctions de « contrainte cognitive » conduisent à des prédictions humaines plus précises que les scénarios où les utilisateurs ont un accès immédiat aux recommandations algorithmiques. » 

Une autre manière de faire consiste à guider le raisonnement sans recommander de décisions. Une autre manière encore consiste à proposer un éventail de choix par exemple en les rendant interactifs, permettant aux utilisateurs d’évaluer les conséquences des choix qu’ils ont à faire. « En encourageant une implication active – plutôt que passive – dans les systèmes intégrant l’humain dans la boucle algorithmique, l’interactivité aiderait les professionnels à préserver leur sens de la mission et leur autonomie lors de l’utilisation d’algorithmes, évitant ainsi de réduire leur pouvoir discrétionnaire à une simple formalité administrative.»

L’interactivité permet de conjuguer les capacités prédictives d’un algorithme aux connaissances spécifiques et contextuelles et à la démarche d’investigation du décideur. Ainsi, plutôt que de faire des recommandations de prescriptions pour traiter la dépression par exemple, les médecins devraient pouvoir adapter les systèmes aux situations individuelles. 

Dans son manuel, Green soutient que la clé réside dans une interaction profonde des data scientist avec les usagers et ceux qui déploient des outils. Leur intervention ne peut être ponctuelle, plaide-t-il, elle doit s’inscrire profondément dans les pratiques réelles. Il invite également à se défaire du solutionnisme pour produire des systèmes qui élargissent les choix plutôt qu’ils ne réduisent, comme il le disait déjà il y a quelques années. A observer ce que les praticiens en pensent, comment ils réagissent aux systèmes et pas seulement à les déployer voire à les imposer, au risque de leurs échecs. Le développement algorithmique ne peut pas se faire à l’encontre des missions que remplissent les gens. « Les défaillances persistantes des collaborations entre humains et algorithmes sapent la théorie du changement qui sous-tend de nombreux projets de science des données, laquelle vise à obtenir de meilleurs résultats sociaux en améliorant la prise de décision.»

Green termine son livre en prévenant les data scientists de se défier de l’IA générative. L’IA générative accélère et prolonge la logique du formalisme algorithmique. Le risque est de les considérer comme des outils polyvalents, susceptibles d’être appliqués à grande échelle, négligeant toutes les spécificités contextuelles qu’il met en avant dans son manuel.

« Si la science des données continue à suivre le formalisme algorithmique, le domaine produira des outils de plus en plus puissants sur le plan technique, mais souvent inutiles, voire nuisibles sur le plan sociétal. » Face à l’automatisation qui risque de rendre le scientifique des données obsolète, il est nécessaire de réarmer ses capacités. C’est ce que ce manuel propose. « Le réalisme algorithmique offre une piste pour permettre aux data scientists de se distinguer dans un monde où de nombreux aspects techniques de la science des données ont été automatisés. En concevant les algorithmes comme des outils opérationnels plutôt que comme des modèles mathématiques, le réalisme algorithmique redéfinit l’expertise qui caractérise un data scientist efficace.»

Pour l’instant, et cela risque d’être pire à mesure que l’IA se répand partout, « la plupart des data scientists sont formés et employés dans des environnements qui n’encouragent pas – et souvent découragent – le réalisme algorithmique. » De l’enseignement à la recherche, le domaine, pour ne pas disparaître sous les applications produites par l’IA, a besoin de s’ouvrir aux enjeux sociaux et aux applications concrètes, plaide Green. Or, « on continue d’enseigner aux étudiants des sciences de l’information que les dimensions sociales et éthiques des algorithmes sortent du cadre », comme l’expliquait l’ingénieur Jimmy Wu. Pour remédier à cela, il faut reconnecter l’éthique à la pratique. Nous devons sortir des façons dont on enseigne l’éthique dans les écoles d’ingénieurs que ce soit par leur mise en œuvre mathématique et formaliste comme par le biais de dissertations morales déconnectées des enjeux applicatifs. « Il ne s’agit pas d’enseigner l’éthique de manière abstraite aux étudiants en science des données, mais de leur transmettre les orientations et les compétences favorisant une pratique éthique de la discipline ». Il recommande également d’avoir plus de cours cliniques, c’est-à-dire de faire travailler les étudiants sur des projets réels. Et d’aider les étudiants à quitter le monde de la tech où le formalisme règne en maître ou sinon à leur apprendre à promouvoir des produits et des comportements éthiques au sein des entreprises et à faire face aux dilemmes éthiques auxquels ils sont confrontés. 

*

Green ne promet pas de révolution algorithmique. Il propose à la data science de se poser des questions que bien peu se posent, de faire un pas de côté. D’arrêter de croire que le calcul est la solution quand, bien souvent, il est le problème qui ne voit pas ses effets. 

Hubert Guillaud

Les presses du MIT publient ce jour le nouvel ouvrage de Ben Green, Algorithmic Realism : Data Science Practices to Promote Social Justice. Ben Green, on vous a déjà parlé de lui. En 2019, on avait longuement évoqué son précédent livre, The smart enough city, où il revenait sur son expérience de data scientist dans plusieurs villes américaines. Green plaidait déjà pour améliorer la responsabilité sociale des technologies, à l’épreuve des pratiques concrètes des responsables de l’innovation urbaine promouvant une innovation démocratique. 

C’est ce chemin qu’il poursuit dans son nouveau livre, qui n’est pas un essai, mais un manuel à destination des responsables des données. Il rappelle que depuis qu’il est diplômé, il n’a cessé d’essayer d’appliquer la data science pour créer une société plus équitable. Mais avoir un impact positif s’est avéré bien plus difficile qu’espéré. A Memphis, par exemple, les outils qu’il avait participé à mettre au point pour aider la ville à identifier des logements à rénover ont été abandonnés après le départ de l’équipe qui les avait développé. Malgré ces expériences pas toujours concluantes, il s’est rendu compte que pour avoir un impact, il était nécessaire de désapprendre beaucoup de certitudes et d’habitudes que sa formation en data science lui avait enseigné. A Boston, par exemple, il devait travailler avec les services d’urgence pour trouver des stratégies pour améliorer la rapidité d’intervention. Or, plutôt que de trouver une astuce pour mieux répartir les ambulances dans la ville, Green a constaté dans les données, que l’essentiel des déplacements n’étaient pas nécessairement un besoin de soins médicaux d’urgence, mais une demande de services sociaux que les services d’urgence n’étaient pas en mesure de fournir mais accomplissaient quand même. Avec les services d’urgence, il a alors proposé de créer une équipe dédiée. Une réponse d’autant plus adaptée que les interventions auprès des publics en difficultés, des toxicos et des SDF, ou de ceux souffrant de problèmes de santé mentale, se concentraient sur certains quartiers sensibles, avec un pic en fin d’après-midi et en début de soirée. La création d’une équipe d’assistance communautaire a ainsi permis de répondre à la demande initiale. Elle a permis d’apporter de meilleurs soins à des publics en difficulté et elle a libéré des ambulances pouvant répondre plus rapidement lors de prises en charges médicales urgentes. Cette expérience a été fondatrice. Elle lui a enseigné trois tactiques qu’il applique depuis à tous les projets qu’il rencontre. D’abord, étudier en profondeur les défis sociaux et opérationnels des services avant d’analyser la moindre donnée. La seconde consiste à se concentrer sur les besoins exprimés pour produire des impacts réels et pas seulement des solutions algorithmiques. Pour Green, les analyses de données les plus sophistiquées ne conduisent pas à de meilleurs impacts. Les résultats de la science des données doivent être choisis en fonction de leur capacité à faire progresser les objectifs du projet, peu importe leur simplicité ou leur complexité. Le troisième enseignement, c’est qu’un data scientist isolé ne sert à rien. Améliorer les politiques publiques avec la data science nécessite des activités qui ne relèvent pas de la data science. « Pour surmonter ces défis, il m’a fallu étudier des problèmes de société, me familiariser avec les processus de travail des organismes publics et traduire une analyse technique en pratiques opérationnelles. Aucun de mes cours de science des données n’avait jamais ne serait-ce qu’évoqué ces tâches, et encore moins enseigné comment les accomplir. »

Concevoir des algorithmes susceptibles d’améliorer la société n’est pas si simple. Comme on le répète ici, les calculs sont plus souvent défaillants qu’autre chose. Certainement parce que les méthodologies de la science des données n’offrent pas de méthode pour se faire, avance Green. D’où l’enjeu de ce manuel : apporter une nouvelle approche de la data science pour orienter les scientifiques des données vers la promotion de la justice sociale. En fait, souligne Green, les méthodes actuelles que mobilisent les data scientist ne leur permettent pas d’œuvrer pour le bien commun. Cette méthode actuelle, Green l’appelle le « formalisme algorithmique ». Et pour lui, elle est profondément problématique. Il propose d’en bâtir une autre : le « réalisme algorithmique ». Et son livre se veut une boîte à outils pour changer de méthode, pour changer la façon dont se déploie la data science. 

Passer du formalisme au réalisme algorithmique

« Transformer la science des données, en passant d’une méthodologie formaliste axée sur des modèles mathématiques à une méthodologie pratique axée sur des problèmes du monde réel », c’est ce que propose Green. La science des données est un champ relativement récent, né dans les années 2010, même si elle s’est construite sur des idées et des pratiques qui ont une longue histoire, rappelle-t-il. Le formalisme algorithmique est une méthodologie qui repose sur la propriété mathématique des algorithmes. Où qu’elles se déploient, les méthodologies formalistes restreignent le champ de l’analyse aux propriétés intrinsèques de leur objet, en excluant les éléments extérieurs tels que le contexte social et l’interprétation. Le formalisme algorithmique occulte le contexte social entourant les algorithmes, les garanties formelles de performance ne sont valides qu’au regard du comportement technique de l’algorithme – et non de ses usages et de ses impacts en pratique. En la matière, ces méthodes font obstacle à toute tentative d’aborder des problèmes sociaux et politiques complexes. Le formalisme procède d’une « réduction du champ de vision », rappelle le politologue James Scott dans son livre, L’œil de l’Etat (La découverte, 2021). Le formalisme tend à renforcer les hiérarchies, expliquent Geoffrey Bowker et Susan Leigh Star dans Arranger les choses (EHESS, 2023). Il peut sembler neutre et technique, mais le formalisme a souvent des conséquences pour les groupes marginalisés. Le problème est que le formalisme « caractérise le milieu intellectuel dans lequel évoluent les data scientists » et empêche d’adopter d’autres approches. Ce formalisme a des conséquences très directes : il privilégie les critères d’exactitude et d’efficacité ainsi que l’amélioration des prédictions.

D’ailleurs, les revues comme les conférences du secteur pénalisent souvent les recherches axées sur les applications et les résultats concrets, préférant les travaux qui améliorent les méthodes de calcul. Il conduit à minimiser les dommages potentiels causés par les systèmes algorithmiques et conduit à ne pas regarder les réalités de leurs mise en œuvre, à surestimer les bénéfices et à sous-estimer les nuisances. C’est le cas par exemple de Compas, le système de prédiction du risque de récidive américain. Ses promoteurs estimaient qu’en se fondant sur des évaluations formalistes, leur outil permettrait de réduire le recours à la détention provisoire et les disparités raciales. Or, les évaluations réalisées après la mise en œuvre du système algorithmique ont montré que ces améliorations ne s’étaient pas concrétisées. « Cet écart entre les évaluations formalistes et la réalité du terrain découlait de la manière dont les juges utilisaient les évaluations des risques ». L’évaluation du risque, sous forme d’infrastructures d’abstraction, a exacerbé plutôt que réduit les disparités raciales en matière de détention provisoire, parce que les ingénieurs de Northpointe, les développeurs de Compas, n’ont pas pris en compte la manière dont ils seraient utilisés (sur ces enjeux, voire également les livres de Jathan Sadowski, de Arvind Narayanan et Sayash Kapoor ou encore de Nathan Genicot dont nous avons déjà parlé ici et qui abordent tous ces questions sous un angle ou un autre). 

Pour Green, la data science souffre d’une forme de « clôture mathématique », enclose sur elle-même, renforcée par une tendance à « l’universalisme abstrait », où le monde réel pourrait se réduire uniquement à des mathématiques. Cet universalisme abstrait pousse les data scientists à appliquer des algorithmes comme solution à tous les problèmes sociaux, sans prendre en compte les particularités de ses déploiements. 

« Le problème est que, bien que ces représentations par substitution rendent le problème plus facilement traitable mathématiquement, elles suppriment généralement des éléments essentiels du contexte réel ». Cela conduit à des simplifications excessives et à de mauvaises interprétations, comme quand on tente d’évaluer les enseignants en fonction des résultats scolaires de leurs élèves. La qualité de l’enseignement se réduit alors à l’amélioration des résultats des élèves, comme le montrait Cathy O’Neil dans son livre, Algorithmes, la bombe à retardement (Les Arènes, 2018). Enfin, le formalisme algorithmique tend à faire croire que la data science et le calcul seraient politiquement neutres et que les scientifiques seraient objectifs, comme le dénonçaient déjà danah boyd et Kate Crawford en 2011 dans leurs 6 provocations à l’encontre des Big Data. Croire que la science des données produit des connaissances objectives tend à renforcer la minimisation des enjeux sociaux et éthiques des calculs, jugés comme non pertinents et dépourvus de rigueur. « Dans la recherche en science des données, la priorité est donnée aux contributions techniques, supposées apolitiques. Les revues et les conférences attendent des chercheurs qu’ils justifient leurs travaux sous l’angle de la performance et de la nouveauté plutôt que par rapport aux besoins de la société », comme le montrait une remarquable analyse des valeurs encodées dans les articles de recherche du secteur. 

« La neutralité politique conduit les data scientists à négliger les inégalités structurelles et les contestations politiques sous-jacentes aux enjeux sociaux ». C’est par exemple l’écueil de la police prédictive, qui exacerbe et légitime la discrimination systémique inhérente à l’action policière. 

Pour Green, ce formalisme exacerbé a généré une crise morale de la discipline. À mesure que les algorithmes se généralisaient et gagnaient en influence au sein de la société, les approches critiques ont alors gagné en visibilité à mesure que montaient les controverses et les injustices. Peu à peu, la question de l’éthique est devenue un domaine influent de la science des données, en valorisant la question de l’équité (c’est-à-dire en valorisant des définitions mathématiques de la prise de décision équitable) et de l’explicabilité. Cet accent mis sur l’éthique a orienté la science des données dans des directions productives, reconnaît Green, en attirant l’attention sur les impacts sociaux des calculs. Mais pour Green, cette éthique repose trop souvent sur une approche formaliste également. Elle réduit l’éthique à une question d’amélioration du calcul, comme le remarquait déjà le sociologue Bilel Benbouzid. Pour Green, « l’éthique des données ne permet pas de produire de manière fiable des algorithmes équitables. Même lorsque les algorithmes satisfont aux définitions techniques des idéaux éthiques, ils peuvent néanmoins s’avérer nuisibles en pratique. » Pour lui, le formalisme algorithmique conduit la science des données dans une impasse. Il manque une méthodologie plus pratique pour se faire. 

Pour dépasser ces limites, il est nécessaire de passer du formalisme au réalisme. « Le critère ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique. Autrement dit, quelles que soient les propriétés mathématiques formelles d’un algorithme, ses effets concrets priment sur l’évaluation de sa qualité et de son utilité sociale. Par ce principe, le réalisme algorithmique vise à promouvoir une science des données réaliste, attentive aux usages et conséquences réels des algorithmes. » Pour le dire concrètement, nombre de services permettant d’attribuer des places dans le supérieur reposent sur l’algorithme dit des mariages stables de Gale et Shapley. Pourtant, la manière de l’implémenter est partout différente et produit des effets spécifiques, notamment parce que ses adaptations n’en respectent pas toujours les principes. Parcoursup comme son ancêtre, APB, en relevaient. Ce n’est pas pour autant qu’ils l’ont implémenté dans les règles de l’art. 

Pour produire une véritable data for good, pour servir l’intérêt général par les données, alors « la justice sociale doit devenir la mission centrale de la science des données », estime Green. Pour cela, il faut changer la science des données, afin que « faire une bonne data science (doing good data science) devienne synonyme de faire le bien avec la data science (doing good with data science) ». Pour cela, il faut dépasser les attributs techniques d’un algorithme, pour se concentrer sur son rôle et ses impacts dans le contexte de son utilisation. « Les data scientists doivent donc porter leur regard vers l’extérieur : passer du fonctionnement interne des algorithmes au monde dans lequel ils opèrent.» Ils doivent concentrer leur regard sur les effets instrumentaux des systèmes, leurs impacts concrets plus que leurs performances. Pour Green, cela consiste à prendre en compte le changement social. L’enjeu par exemple ne serait plus de produire un calcul pour déterminer quels élèves risquent de décrocher pour améliorer le taux d’obtention d’un diplôme, mais à se demander comment améliorer les efforts de prévention du décrochage scolaire. « Il s’agit de développer des algorithmes qui favorisent des résultats éthiques au sein de la société.»

La méthode : faire avec le terrain !

Green expose longuement son plan de travail concret. C’est-à-dire un nouveau « flux de travail pour la science des données » (data science workflow), c’est-à-dire un processus de travail concret qui passe par la délimitation du problème, la délimitation du projet, l’analyse des données, la mise en œuvre et l’évaluation. Et pour mettre en œuvre ce processus, les data scientists doivent apprendre à mieux collaborer avec les acteurs du terrain, plutôt qu’à produire leurs solutions en chambre. Ils doivent discuter avec ceux qui sont impactés par les systèmes, ceux qui les mettent en place pour mieux saisir les enjeux qui sont les leurs. « Le réalisme algorithmique n’exige pas des data scientists qu’ils abandonnent leurs compétences techniques, mais il souligne qu’ils ont besoin de plus que ces seules compétences. Ainsi, les data scientists ne devraient pas se définir uniquement comme des experts techniques sachant analyser des données. Au contraire, ils devraient s’efforcer d’être des stratèges de la donnée, aidant de manière créative les personnes et les organisations à utiliser les données pour relever des défis du monde réel ». Green tente ici de dresser une piste pour que les scientifiques de la données arrêtent de produire du technosolutionnisme. Il invite les ingénieurs à se défaire de l’hubris ingénieuriale, comme il le disait ailleurs. A prendre conscience que leurs solutions sont bien souvent inadaptées, toutes formidables qu’ils les trouvent. Et pour cela, il faut changer l’approche de la discipline elle-même. 

Pour Green, cette réorientation est aussi une réponse à l’automatisation qui dévalorise l’expertise des data scientistes. A l’heure où l’IA générative va produire la plupart du code, le réalisme algorithmique permet de prémunir la discipline contre l’automatisation. En devenant stratèges de la données, leur rôle n’est pas seulement de programmer, mais vise à « aider les organisations à définir des stratégies pour tirer parti des données et des algorithmes afin de répondre à leurs défis concrets ». « Les data scientists cherchent rarement à s’attaquer aux inégalités structurelles, préférant se contenter d’optimiser les procédures décisionnelles existantes. Le réalisme algorithmique inverse ces tendances. Il incite les data scientists à modérer leurs ambitions quant à ce que les algorithmes peuvent accomplir seuls, tout en les encourageant à viser plus haut dans la poursuite de réformes sociales et politiques systémiques », promouvant la justice sociale. 

Pourtant, prévient Green, la justice sociale est un sujet complexe et controversé. Il n’existe pas de réponse unique ou évidente quant à la manière de parvenir à la justice dans chaque situation… Et il n’est pas sûr que toutes leurs interventions y parviennent. Reste que pour lui, il faut parvenir à sortir de la lutte contre les injustices engendrées par les algorithmes pour les utiliser pour combattre les inégalités. 

Pour autant, Green ne se veut pas naïf. Les data scientists ne vont pas créer demain, rapidement et facilement, une société juste, juste en changeant de méthode. D’autres enjeux s’imposent à eux. Les gouvernements eux-mêmes et nombre d’acteurs privés, sont motivés par des objectifs qui sont en conflits avec la justice sociale. Les autorités sont les premières à produire des algorithmes pour soutenir des politiques austéritaires, racistes et qui renforcent le contrôle et les inégalités sociales et les data scientists n’ont pas toujours de marge de manœuvre pour réorienter ces politiques. Le réalisme algorithmique ne prétend pas résoudre tous les défis. Il ne se veut qu’une méthode pour appréhender les défis sociaux, pour mieux collaborer avec les plus vulnérables. Et effectivement, cela ne suffira certainement pas à inverser les scripts qui se déploient dans les outils, les idéologies à l’œuvre dans les programmes et les politiques. « Les data scientists disposent d’une marge de manœuvre limitée pour générer un changement social ». Ce n’est pas pour autant qu’ils ne doivent pas être responsables de tenter de changer les choses. « Les data scientists ne sont pas responsables de la création des conditions sociales d’inégalité et d’injustice. Mais nous sommes responsables de la décision et de la manière d’agir face à ces conditions sociales.»

Le réalisme algorithmique n’est pas seulement une nouvelle méthode. C’est aussi une nouvelle culture et un ensemble de normes pour la data science. Son but est de traduire la critique des algorithmes en de nouvelles pratiques pour les data scientists. 

La leçon du pragmatisme

Le passage du formalisme au réalisme et l’idée de l’appliquer à la data science ne vient pas de nulle part, explique Ben Green. Il s’inspire notamment des philosophes pragmatistes, comme John Dewey ou William James. « Les pragmatistes visaient à transformer la philosophie, d’une recherche métaphysique de vérités essentielles, en un ensemble d’outils pratiques pour résoudre les défis sociaux contemporains ». Pour eux, les concepts sont des instruments au service de l’action concrète : les idées sont des instruments pratiques – au même titre que des fourchettes, des tondeuses à gazon ou des stéthoscopes – destinés à aider les individus à faire face aux défis du monde réel. Ils proposent aux philosophes de s’affranchir de leur dépendance aux abstractions et aux formalismes et aux certitudes qu’elle produit. « Aucune connaissance ne garantit son infaillibilité », disait Dewey. Les connaissances doivent pouvoir être affinées en fonction des conséquences de leur mise en pratique.

La philosophie pragmatique s’appuie sur 3 principes. Le premier consiste à prendre en compte les conséquences : la qualité des théories dépend de leurs effets dans le monde réel, ce qui suppose d’évaluer dans la pratique si elles produisent les conséquences souhaitées. Une politique visant à réduire les inégalités de revenus ne s’évalue pas en fonction des principes qu’elle propose, mais se mesure plutôt en observant si sa mise en œuvre réduit effectivement les inégalités. Le second est le principe des outils, c’est un principe qui vise à se défier de l’abstraction qui n’est qu’un outil parmi d’autres. Le troisième est celui de la socialité : toute connaissance est le produit des personnes qui l’élaborent. Cela signifie qu’il n’existe aucune valeur éthique ou objective ultime. 

Cette philosophie a eu des conséquences concrètes, notamment dans le domaine du droit. Jusqu’au début du XXe siècle, le raisonnement juridique aux Etats-Unis était dominé lui aussi par le formalisme, ce qui a suscité des critiques ouvrant la voie à des réformes progressistes, notamment pour élargir les droits et les protections des travailleurs. C’est ce que l’on a appelé le réalisme juridique. Le formalisme juridique estimait que les conséquences sociales réelles des lois étaient sans pertinence pour leur évaluation. Par exemple, les juges américains ont longtemps interprété la liberté contractuelle comme une règle rigide : l’État ne pouvait s’immiscer dans les contrats que les individus concluaient de leur plein gré. La Cour suprême des Etats-Unis a ainsi invalidé en 1905 une loi de l’Etat de New York fixant une durée maximale de travail pour les employés de boulangerie au motif qu’elle était un ingérence déraisonnable face à la liberté de contracter, quelque soit ses effets. En réaction au formalisme juridique, les réalistes ont œuvré pour prendre en compte le monde dans lequel le droit s’inscrit, pour faire du droit un outil pragmatique au service d’objectifs sociaux plutôt qu’un système visant à produire des réponses incontestables. Pour eux, la qualité des lois devait dépendre de leurs effets dans le monde réel. Pour cela, il leur a fallu montrer que les principes juridiques abstraits ne permettent pas d’apporter des réponses claires dans des cas concrets. Les réalistes juridiques ont prôné des changements d’orientation pour prendre en compte la jurisprudence, le contexte et en soutenant que le droit n’était pas un outil neutre, mais politique, et montrer que le droit ne pouvait être résolu par la simple application de principes abstraits. Ce basculement a changé l’application du droit aux Etats-Unis. En 1937, la Cour suprême des Etats-Unis a validé la constitutionnalité de lois sociales telles que celles instaurant un salaire minimum. « L’évolution du droit, passant du formalisme juridique au réalisme juridique, laisse entrevoir une trajectoire analogue pour faire progresser la science des données : le passage du formalisme algorithmique à une nouvelle méthodologie, le réalisme algorithmique.»

Pour appliquer le pragmatisme à la science des données, il faut que « le test ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique ». Les data scientists ne peuvent se fier au comportement des entrées et des sorties du modèle. Il faut passer d’une conception des algorithmes comme des modèles mathématiques à une conception pratique d’instruments destinés à améliorer la société. « Ce qui rend un algorithme « équitable » ou « éthique », ce n’est pas qu’il possède des caractéristiques mathématiques associées à ces valeurs, mais qu’il produit, dans le monde réel, des résultats associés à ces valeurs ». Les algorithmes sont des systèmes sociotechniques qui s’inscrivent dans la société où ils se déploient, des pratiques sociales. Et s’ils sont des pratiques sociales, alors il faut développer des mesures d’évaluation adaptées, qui reflètent les effets réels de ces calculs. Prendre en considération les conséquences des systèmes, impose aux ingénieurs d’assumer la responsabilités des préjudices que leurs systèmes causent. « Si un algorithme conçu pour améliorer la société s’avère finalement nuisible, il ne peut être considéré comme socialement bénéfique, quelles que soient les mesures formelles attestant de ses bienfaits. Même si les effets néfastes d’un algorithme n’ont pas été voulus, ils définissent la manière dont celui-ci fonctionne réellement. » Là où le regard des spécialistes doit bouger, c’est qu’ils devraient privilégier les impacts sociaux indépendamment du rôle joué par les algos, quitte à ne pas développer des systèmes de calcul. 

Le réalisme algorithmique repose enfin sur un autre principe et présupposé : les algorithmes sont politiques et ceux qui les fabriquent sont des acteurs politiques à part entière. « Toute activité qui influence la disponibilité des ressources, des droits, des statuts ou du pouvoir dans la société est politique ». Les défenseurs de la neutralité visent bien plus à occulter les rapports de force et perpétuer les hiérarchies sociales existantes, qu’à défendre une impartialité qui n’existe pas. Pour Green, les développeurs doivent reconnaître leur partialité, non pas parce qu’ils ignoreraient certaines choses, mais plus encore parce que leurs travaux portent des valeurs par devers eux. « Les data scientists occupent souvent des postes leur conférant une marge de manœuvre considérable pour prendre des décisions normatives. Or, ils ne devraient pas se considérer comme les arbitres du bien, mais plutôt comme des facilitateurs attachés à la participation démocratique de tous.» 

Dans Logique : La théorie de l’enquête (PUF, 2006), John Dewey décrit la résolution de problèmes comme un processus en quatre étapes. « La première étape consiste à examiner le problème en question pour en comprendre les caractéristiques et définir les critères d’une résolution souhaitable. La deuxième étape consiste à explorer des solutions potentielles et à rechercher une intervention susceptible de résoudre le problème. La troisième étape consiste à mettre en œuvre l’intervention choisie. Enfin, la quatrième étape consiste à évaluer si l’intervention a produit les résultats escomptés. Si les résultats sont satisfaisants, le processus s’achève. » C’est exactement la méthode que Green retient pour l’appliquer aux défis algorithmiques. La méthode se déploie comme une feuille de route visant à 

1. Délimiter le problème
2. Délimiter le projet
3. Analyser les données
4. Mettre en oeuvre
5. Et évaluer. 

Avant de détailler par le menu les enjeux et défis de chaque étape. Mais, rappelle-t-il en préambule, les ingénieurs ne sont pas des « licornes omniscientes capables de tout faire en solitaire ». Si certains collaborent activement avec des communautés et des experts pour mener leurs projets, trop souvent encore, ces échanges restent « formalistes ». Dans l’ensemble, ils restreignent la participation de ces groupes à la simple fourniture d’informations sur les paramètres de mise en œuvre technique (voir par exemple notre article sur le manque de participation des publics). Et il est encore plus rare que les ingénieurs confient à d’autres le pouvoir de décision sur les résultats à privilégier ou l’opportunité même de développer des systèmes. Même lorsqu’ils consultent des communautés, trop souvent encore, les ingénieurs conservent la maîtrise du projet. Et quand c’est le cas, l’implication des parties prenantes est marginale, insuffisante pour influencer de manière significative les résultats. Quand c’est le cas, les ingénieurs ont souvent déjà arrêté leur orientation et restent souvent réticents face aux retours remettant en cause leurs choix (comme nous le montrions dans notre article sur l’échec des déploiements de projets). Enfin, quand ils laissent une place, celle-ci consiste à discuter de paramètres, d’indicateurs qui dévalorisent les savoirs des groupes dépourvus de formation technique. 

En rendant les phases amonts (et avals) du processus plus collaboratives, l’enjeu est de mieux réussir à ouvrir à toutes les parties prenantes les moyens de peser sur les objectifs et la portée des projets. Green rappelle que le data scientist ne connaît jamais la complexité du fonctionnement d’un système. Ce sont ceux qui y sont confrontés les experts. Et c’est leur connaissance qui seule permet de faire la différence. 

Définir le périmètre de projets de science des données réalistes

Délimiter le problème n’est pas si simple car les situations problématiques sont souvent mal définies et ambiguës et nécessitent d’éviter toute attente ou tout objectif préconçu. « Lors du diagnostic des problèmes, il est important de reconnaître qu’il n’existe probablement pas d’explication unique et correcte. La plupart des défis sociaux sont des « problèmes complexes ».» Pour cela, Green invite à l’enquête. A discuter avec les agents ou avec le public. A prendre le temps d’interviewer, de parler. Il donne l’exemple d’entretiens avec des parents confrontés à des systèmes algorithmiques visant à prédire les risques de maltraitance ou de négligence. Pour les familles, ces systèmes stigmatisent les parents plus qu’ils n’améliorent la situation. La réponse proposée par les services sociaux où ces systèmes étaient déployés était inadaptée à leur situation. Pour Green, tout l’enjeu est de poser l’énoncé du problème, de le décrire et de décrire ses causes. Aborder les personnes touchées et regarder si elles sont concernées différemment. C’est en posant un diagnostic approfondi du problème qu’on construit un point de référence qui va fournir un cadre pour la démarche. Et ce diagnostic doit être partagé et validé par ceux avec qui le data scientist doit travailler. 

Une fois le problème cerné, il faut alors élaborer une stratégie de réforme, c’est-à-dire une théorie du changement qui permettrait de résoudre le problème identifié, sans évoquer de technologie. Le but n’est pas nécessairement de tout résoudre d’un coup, mais aussi d’esquisser les étapes. « Lorsque des travailleurs se syndiquent, ils ne cherchent pas simplement à obtenir des salaires plus élevés. Ils visent plutôt à accroître leur pouvoir à déterminer les conditions de travail. Grâce à ce pouvoir, ils peuvent négocier avec la direction de nombreux aspects de leur emploi : les salaires, certes, mais aussi la couverture santé, les mesures de sécurité, et bien plus encore. Pour un syndicat, il n’existe pas de victoire ultime et définitive, mais seulement une succession de compromis et de victoires partielles. Chaque action renforce la capacité du syndicat à remporter de nouvelles victoires partielles lors des campagnes de mobilisation ultérieures », comme le montrait André Gorz dans Stratégie ouvrière et néocapitalisme (Seuil, 1964). « Pour les data scientists, qui cherchent à promouvoir la justice sociale, votre objectif n’est pas d’identifier une stratégie globale de transformation de la société. Ne vous attendez pas à ce qu’une intervention quelconque puisse résoudre un problème social systémique et aboutir à une alternative parfaitement juste. L’objectif est plutôt d’identifier des « réformes non réformistes » : des actions qui, même modestement, orienteront la société vers des politiques et des structures de pouvoir égalitaires. » Pour Gorz, les réformes non réformistes s’inscrivent dans une volonté d’instaurer des relations sociales égalitaires. Elles remettent en cause le statu quo au service des objectifs visés. Compte tenu de cette distinction, les réformes non réformistes sont mieux à même de surmonter les structures politiques et de pouvoir systémiques qui, généralement, font obstacle à la réalisation de la justice sociale. 

La délimitation du projet, elle, consiste à préciser les objectifs à atteindre. « Des objectifs qui doivent être à la fois spécifiques, mesurables, réalisables, pertinents et temporellement définis ». Ils doivent permettre de faire progresser la stratégie de réforme définie et sa contribution doit venir soutenir les acteurs. Ici, l’enjeu est d’identifier « Comment mon expertise et mon statut de data scientist peuvent-ils aider le groupe à atteindre ses objectifs ? »

Pour Green cela suppose par exemple de produire une cartographie des processus pour bien saisir le fonctionnement et les pratiques des acteurs accompagnés, sous forme par exemple d’une représentation détaillée de chaque étape d’un processus opérationnel, voire un organigramme ou un flux de travail (à accomplir avec ceux chargés de le faire pour en valider les étapes, préciser les acteurs impliqués, les objectifs de chacun, leurs contraintes) permettant d’identifier les points de blocages concrets. À San Francisco par exemple, le Département de la santé publique s’inquiétait de la baisse des taux de fidélisation à un programme qui fournit une aide alimentaire aux mères à faibles revenus. Pour comprendre les causes de ce problème, l’agence a collaboré avec l’équipe interne de science des données de la ville. Les spécialistes des données ont analysé six années d’informations et élaboré un modèle d’arbre de décision afin d’identifier les facteurs conduisant les mères à abandonner le programme. Ils ont également interrogé les bénéficiaires et le personnel du programme. Ces analyses ont révélé que les contraintes administratives et la stigmatisation sociale constituaient des obstacles majeurs pour les mères. En réponse, l’agence a réduit les contraintes administratives en simplifiant la prise de rendez-vous et en remplaçant les chèques papier par des cartes de paiement électroniques qu’elles réclamaient. L’agence a également lutté contre la stigmatisation en modifiant la communication du programme. A nouveau, insiste Green, l’enjeu n’est pas toujours de faire de grandes réformes. Mais souvent seulement d’aider les organismes à renforcer leurs capacités techniques, que ce soit en nettoyant leurs données, à former le personnel pour élaborer des indicateurs pertinents ou à faciliter le partage de données entre les différents services. 

Un autre moyen consiste à cartographier le pouvoir, les réseaux d’acteurs en relation ou en conflit, comme « d’identifier des adversaires qu’il convient de soumettre à des pressions, des alliés potentiels qu’il faut convaincre ou des groupes non organisés qu’il s’agit d’unifier ». C’est le cas par exemple du collectif militant Anti-Eviction Mapping Project (AEMP) qui publie des cartes d’expulsion notamment à San Francisco. Avec l’Eviction Defense Collaborative, les deux associations ont produit une carte pour mettre en évidence les arrêts de navettes des entreprises technologiques de San Francisco avec celle des expulsions du centre-ville qui a conduit la ville à réglementer le passage de ces bus. 

Le but, ici, est bien souvent d’analyser les données pour orienter la stratégie de mobilisation. Dans le Connecticut, des locataires de logements abordables étaient exposés à des niveaux de présence de plomb toxiques. Ils ont formé un syndicat de locataires pour se mobiliser contre le problème. Les scientifiques de l’organisation Science for the People sont venu leur apporter leur soutien en croisant les données des inspections des agences chargées de la détection du plomb avec celles du syndicat pour aller démarcher d’autres habitants confrontés au problème et accroître la mobilisation et la pression sur les autorités publiques. Suite à ces actions, une enquête a été ouverte et l’agence de protection de l’environnement est intervenue pour faire nettoyer les immeubles. 

Pour élaborer des spécifications de conception, il faut s’intéresser aux variables cibles des systèmes (c’est-à-dire le résultat que l’algorithme prédit), les mesures d’évaluation et l’utilisabilité pratique, qui permettent de traduire le phénomène étudié en une représentation quantitative susceptible d’être mesurée et prédite. Or, celles-ci ne sont pas toujours définies au mieux, rappelle Green. Un algorithme utilisé par le service des impôts américains pour prédire quelles déclarations de revenus sont non conformes (qui devraient donc faire l’objet d’un contrôle fiscal) évalue « la non-conformité comme le dépôt d’une déclaration comportant une erreur, quel que soit le montant en jeu. Sur la base de cette définition, l’algorithme cible de manière disproportionnée les contribuables à faibles revenus et les contribuables noirs pour des contrôles. À l’inverse, si l’algorithme définissait la non-conformité comme un sous-paiement d’impôts d’un montant significatif, il ciblerait plutôt les contribuables à revenus élevés et non noirs pour ces contrôles » (un problème qui n’est pas sans rappeler celui des indus calculé par la CAF en France, soit dit en passant). 

Parvenir à identifier correctement le problème prend du temps et des efforts, rappelle Green. A New York, le service municipal d’aide aux locataires qui vise à les aider dans leur relations avec leur propriétaires par exemple pour obtenir des réparations d’urgence, a cherché à identifier les locataires qui avaient besoin d’aide. Ils ont mis au point un système pour prédire les locataires harcelés par leurs propriétaires pour mieux cibler leurs interventions. Dans un premier temps, ils ont défini leur algorithme pour prédire les immeubles allant connaître au moins un cas de harcèlement au cours du mois suivant, mais le système sélectionnait des immeubles comportant beaucoup d’appartements, mais avec un faible taux de harcèlement de leurs propriétaires. Les scientifiques ont reformulé le problème pour prédire quels immeubles présentaient la plus forte proportion de locataires harcelés. Le modèle a alors identifié des immeubles plus petits avec des taux élevés et mieux répartis dans la ville. Le second modèle a permis de doubler le taux d’identification de locataires en difficulté avec leurs propriétaires, se révélant ainsi plus efficace pour soutenir la mission de l’agence, à savoir protéger les locataires vulnérables.

Pour Green, il y a beaucoup de variables à prendre en considération pour accomplir des analyses adaptées aux situations. Bien souvent, les associations ou les services publics ont peu de moyens pour intervenir. Cela signifie qu’il faut être capable d’intégrer les contraintes opérationnelles de l’organisme dans les indicateurs d’évaluation. « Les approches d’évaluation standard, qui prennent en compte la performance d’un algorithme sur l’ensemble de la population, ne reflètent pas la qualité de l’algorithme pour le rôle auquel il est destiné. Si un organisme ne peut intervenir qu’auprès d’une petite partie de la population, l’essentiel est d’identifier avec précision le groupe qui bénéficierait le plus d’une intervention. » Et dans de nombreux cas, « l’algorithme le plus performant pour l’ensemble de la population sera différent de celui qui performe le mieux pour le sous-ensemble étudié ».

Enfin, il faut s’assurer que l’algorithme sera utilisable en pratique et qu’il sera dimensionné et adapté aux processus existants. Par exemple, en travaillant avec les services sociaux de l’Illinois pour réduire le risque d’accouchement prématuré, les data scientists ont tenté de prédire les femmes avec le plus grand risque de complication via une application en ligne. Mais ils se sont rendu compte que cette application n’était pas fonctionnelle en pratique, car les services ne disposaient pas des capacités techniques pour en assurer la maintenance. Ils ont alors produit un score de risque depuis un simple formulaire papier facile à remplir. Moins précis que l’évaluation numérique, l’outil s’est avéré plus efficace car les services ont pu l’intégrer dans leurs opérations quotidiennes et a permis d’améliorer de 20% les soins prénataux aux femmes à hauts risques. 

Pour Green, « plus vous aurez défini le périmètre de votre projet de manière pertinente pour le contexte d’utilisation spécifique, plus il sera facile de mettre en œuvre l’algorithme avec succès ». Et c’est seulement après ces étapes importantes de spécifications, que le data scientist peut faire son travail, de sélection, de nettoyage et d’analyse de données.

Là encore, le travail préliminaire consiste à bien comprendre les données, leurs ambiguïtés, leurs biais et leurs limites. Il faut comprendre comment elles sont collectées, leurs manques… Ce qui n’est possible qu’en comprenant leur collecte, leur but, et en discutant avec ceux qui les collectent. Pour Green, « une cause fréquente d’échec des logiciels publics réside dans les méthodes de développement dites « en cascade » : les pouvoirs publics définissent leurs besoins, les techniciens conçoivent et réalisent le système de manière isolée, pour ne le présenter qu’une fois le produit final achevé. L’approche en cascade suppose qu’il est possible de définir tous les détails d’un outil avant d’en entamer la réalisation », comme le montrent Tara Dawson McGuiness et Hana Schank dans leur livre,  Power to the Public: The Promise of Public Interest Technology (Princeton university Press, 2021). « Cette approche mène souvent à l’échec car elle ne prévoit aucune possibilité de retour d’information intermédiaire au cours du processus de développement. Si vous tentez de concevoir un système de manière isolée, vous risquez de négliger les préférences et les pratiques de l’organisme concerné, faute de les avoir abordées en amont. De plus, ces préférences et pratiques sont susceptibles d’évoluer avec le temps. Plutôt que d’adopter une méthode en cascade (waterfall), privilégiez les pratiques de développement « agile » : créez des prototypes de manière itérative, discutez-en ou testez-les avec les utilisateurs finaux, puis ajustez votre travail en fonction des retours obtenus. »

Une fois les données analysées ou modélisées, vous pouvez en tirer des enseignements. Si vous avez élaboré un modèle, c’est à cette étape que vous l’utiliserez pour effectuer des prédictions ou des classifications sur de nouvelles données. Si vous préparez une présentation ou un rapport, c’est le moment de synthétiser les résultats dans un document destiné à être partagé. Ne vous limitez pas aux aspects techniques de vos livrables ; réfléchissez également à la manière de communiquer votre travail. Il est essentiel que votre public puisse interpréter correctement la signification de vos résultats (et, point tout aussi important, ce qu’ils ne signifient pas).

L’implémentation elle aussi doit être pédagogique recommande Green. Elle doit se faire en observant les impacts liés à l’utilisation. « Les projets de science des données sont loin d’être terminés une fois qu’un algorithme a été développé. » Pour cela, il faut non seulement surveiller ce que produit l’algorithme mais plus encore comment il s’insère et influe sur la prise de décisions, dans les processus et observer ses impacts sur les publics touchés. C’est à ce moment-là qu’on déploie des outils pour évaluer leurs effets, que ce soit via des méthodes de projection prospective, des exercices de design fiction, ou des études d’utilisation. 

C’est seulement toutes ces étapes franchies qu’on peut décider ou non d’implémenter le système, estime Green en délibérant avec les parties prenantes, en ayant observé si le système produit bien des effets et à quel niveau. C’est seulement une fois que l’implémentation est réalisée avec attention pour qu’elle s’intègre aux processus, que l’évaluation peut vraiment avoir lieu. En regardant s’il atteint bien ses objectifs et s’il engendre des effets secondaires négatifs. Là encore, le manuel de Green fourmille d’exemples pour procéder à ces évaluations, que ce soit par des essais contrôlés randomisés, des comparaisons avant-après, par des études d’interaction humaines avec le système, des enquêtes sur les groupes affectés par les décisions… 

Bien souvent, les évaluations formalistes des systèmes peinent à évaluer leurs impacts concrets. A San Francisco, les personnes sans abri font l’objet d’une évaluation de leur vulnérabilité par un algorithme. Ces scores orientent les décisions des organismes de logement quant aux personnes à prioriser pour l’attribution d’un logement. Or pour candidater, il leur faut répondre à un questionnaire assez traumatisant, ce qui les conduit à taire leurs récits voire à renoncer et donc à réduire leur score. L’algorithme ne parvient donc pas à accomplir pleinement ce qu’il est censé faire. 

Relever le défi des inégalités : des mesures d’équité… aux interventions structurelles

Résoudre les inégalités n’est pas si simple, rappelle Green. En 2016, les journalistes d’investigation de ProPublica ont montré que l’algorithme de Compas d’évaluation des risques de récidive était biaisé à l’encontre des Noirs. ProPublica a constaté que le taux de faux positifs de COMPAS – le taux de classification erronée d’un prévenu qui ne récidivera pas comme présentant un risque élevé – était deux fois plus élevé pour les prévenus noirs que pour les prévenus blancs. L’algorithme a classé 45 % des prévenus noirs non récidivistes comme présentant un risque élevé. En revanche, il n’a classé que 23 % des prévenus blancs non récidivistes comme présentant un risque élevé. L’algorithme a donc classé de manière disproportionnée les prévenus noirs comme susceptibles de récidiver.

Ces résultats ont suscité une grande consternation, de nombreux commentateurs exprimant leur indignation face à des algorithmes racistes dans des décisions aussi importantes. Mais Northpointe, l’entreprise qui a développé Compas, a réfuté les accusation de discrimination en s’appuyant sur une autre comparaison : parmi les prévenus considérés comme à haut risque, les prévenus noirs et blancs récidivaient à des taux similaires (environ 60 % du temps). Ce qui signifiait que l’algorithme traitait les prévenus noirs et blancs de la même manière quant à leur probabilité de récidive. Pour Northpointe, cette analyse démontrait que COMPAS est impartial. 

Des chercheurs en science des données se sont penchés sur ce débat, supposant qu’il serait possible de trancher la question en ajustant COMPAS pour satisfaire aux notions d’équité présentées par ProPublica et Northpointe. Ils ont cependant rapidement découvert que cela était impossible. Les algorithmes prédictifs discriminent inévitablement une forme ou une autre, et généralement en pénalisant les groupes marginalisés. Dans le cas de COMPAS, la disparité raciale des taux de faux positifs s’explique parce que les accusés noirs récidivent plus fréquemment que les accusés blancs, mais certainement d’abord parce qu’ils sont plus nombreux à être incarcérés et moins pris en charge. L’algorithme détecte cette différence et considère donc les accusés noirs comme plus à risque que les accusés blancs. Des enquêtes ont démontré des biais raciaux, ethniques, sexistes et de classe dans de nombreux autres algorithmes du secteur public.

« Cette caractéristique des algorithmes soulève un problème important pour les data scientists qui tentent de promouvoir la justice sociale. Les groupes marginalisés obtiennent de moins bons résultats dans de nombreux domaines, notamment la criminalité, l’éducation, la réussite professionnelle et la santé. Ce sont ces inégalités qui motivent de nombreux data scientists à œuvrer pour la justice. Mais comme les algorithmes sont entraînés sur des données qui reflètent ces schémas d’inégalité, ils génèrent des prédictions et des classifications qui reproduisent les disparités sociales. » 

Les spécialistes des données ont tenté de relever ce défi en développant le domaine de « l’équité algorithmique ». Comme son nom l’indique, l’équité algorithmique vise à empêcher les algorithmes d’exprimer des biais ou d’exacerber les inégalités. Ce domaine de recherche a réalisé des progrès importants dans le développement de méthodes permettant de réduire certains biais et a incité les spécialistes des données à reconnaître que les algorithmes ne sont pas objectifs.

Malgré ces avancées, l’équité algorithmique reste fondamentalement limitée en tant que méthodologie de promotion de la justice sociale. Le défaut fatal de ce domaine est qu’il considère l’équité comme un attribut technique interne aux algorithmes, explique Green.

L’équité algorithmique représente un exemple typique d’incorporation formaliste : les data scientists ont abordé les questions morales d’équité à travers les méthodes et les orientations du formalisme algorithmique. Cette approche de l’équité a conduit à des algorithmes qui paraissent équitables mais qui, en réalité, perpétuent les inégalités. « Ces limites de l’équité algorithmique signifient que les data scientists manquent d’une voie claire pour lutter contre la discrimination et les inégalités. Les réformes qui promeuvent l’équité sont les plus nécessaires dans les domaines où les disparités sociales sont criantes et généralisées. Mais les data scientists ne disposent pas de méthodes pour concevoir des algorithmes qui réduisent ces disparités plutôt que de les reproduire. Il n’est donc pas évident de savoir comment les data scientists peuvent contribuer à la justice sociale dans ces domaines. »

Pour Green, le réalisme algorithmique offre une voie productive pour pratiquer la science des données dans des domaines marqués par les inégalités car elle « reconsidère l’équité comme une propriété instrumentale – et non intrinsèque – des algorithmes ». « Dans cette optique, pour déterminer si un algorithme est équitable, ce qui compte, ce ne sont pas ses caractéristiques techniques, mais les effets qu’il produit au sein de la société. Par conséquent, les data scientists devraient cesser de poser la question formaliste dominante dans le domaine : « Comment créer des algorithmes qui satisfont à des critères statistiques d’équité ? » Cette question focalise l’attention sur le fonctionnement interne des algorithmes, en se concentrant étroitement sur des processus de décision isolés. Au lieu de cela, les data scientists devraient se demander : « Comment pouvons-nous contribuer à réduire les inégalités sociales et matérielles dans la société ? » Cette question incite les data scientists à privilégier les impacts réels des algorithmes. » 

Certes, cette question ne permet pas de réponses simples. Toutefois, la démarche du réalisme algorithmique structure un processus grâce auquel les data scientists peuvent élaborer des projets favorisant l’équité. Le réalisme algorithmique invite les data scientists à élargir leur perspective au-delà des processus de décision ponctuels pour prendre en compte les environnements sociaux qui entourent ces moments de décision. Cette approche souligne que les data scientists ne sont pas limités à la simple optimisation des modalités de prise de décision : ils peuvent également modifier les structures sociales qui encadrent ces processus. « Ils devraient notamment s’efforcer de (1) réduire les disparités sociales qui alimentent les processus de décision et (2) atténuer les conséquences néfastes découlant de ces décisions. En privilégiant des interventions structurelles plutôt que des mesures d’équité, les data scientists peuvent mener des projets techniques qui contournent les contraintes liées à l’équité algorithmique tout en promouvant la justice sociale.»

Green montre que l’approche formaliste de l’équité, malgré le développement d’innombrables mesures d’équité sous forme mathématique, peine à produire des effets. 

« Les mesures d’équité les plus répandues reposent sur des comparaisons entre des groupes qui valorisent soit la suffisance » (la condition de suffisance est remplie si, parmi les personnes faisant l’objet d’une prédiction donnée, tous les groupes présentent le résultat prédit dans les mêmes proportions. Cette définition de l’équité reflète l’idée que les personnes ayant une probabilité équivalente de manifester le comportement étudié doivent être traitées de manière similaire. Les modèles d’apprentissage automatique respectent généralement ce principe par défaut. Northpointe a soutenu que COMPAS était équitable car il satisfaisait au critère de suffisance) « soit la séparation » (la condition de séparation est remplie si tous les groupes soumis aux prédictions d’un algorithme présentent le même taux de faux positifs et le même taux de faux négatifs. Cette définition de l’équité reflète l’idée que les personnes présentant le même résultat doivent être traitées de manière similaire. ProPublica a soutenu que COMPAS était racialement biaisé car il ne respectait pas le critère de séparation). 

Le problème est que ces deux manières de définir l’équité sont irréconciliables. Et que l’équité se résume alors à une boîte à outil, où l’équité répond ou pas aux mesures mathématiques retenues. L’équité ne se mesure que sous l’angle des données d’entrée et de sortie de processus décisionnels ponctuels et bien souvent privilégie la suffisance à la séparation, notamment parce qu’on a tendance à bien plus valoriser l’égalité formelle, c’est-à-dire celle qui juge selon une norme uniforme, qui est très perméable aux inégalités existantes. Ainsi, si Northpointe a raison d’affirmer que les prévenus noirs récidivent plus souvent, c’est oublier que cette explication occulte les raisons de cette disparité. Cette disparité ne résulte pas d’un phénomène inexplicable ou sans importance. Au contraire, des siècles d’oppression raciale ont criminalisé le fait d’être Noir et ont placé les communautés noires dans des conditions criminogènes telles que la pauvreté endémique, le sous-financement des écoles et la rareté des opportunités d’emploi, rappelle le chercheur.

Pour Green, c’est en cela que l’équité algorithmique est dans une impasse. Les critiques, partisans de la justice algorithmique, suggèrent de privilégier la séparation à la suffisance comme définition de l’équité, pour privilégier l’égalité de résultats entre les groupes. Dans le cas de Compas, cela signifierait produire les mêmes niveaux de faux positifs pour les prévenus noirs et blancs. Mais pour changer d’approche, il faudrait faire évoluer non seulement la prise en compte mathématique, mais également la contrainte juridique. Privilégier la séparation nécessiterait de préconiser des décisions différentes pour les prévenus noirs et blancs présentant le même risque de récidive, ce qui serait illégal en vertu des lois anti-discrimination. Nous sommes là dans le même défi juridique que l’on notait dans le livre de Nathan Genicot. Une impasse éthique que nos sociétés n’ont pas tranchée. 

Pour dépasser cette impasse, Green suggère de passer à une approche instrumentale de l’équité. « Si nous ne pouvons pas choisir d’autres métriques d’équité, que pouvons-nous faire pour obtenir des algorithmes plus équitables ? »

« Pour élaborer une stratégie visant à mettre les algorithmes au service de la lutte contre l’injustice, nous avons besoin de l’éclairage d’une théorie morale qui dépasse le cadre de l’égalité formelle. » Cette théorie doit présenter deux caractéristiques fondamentales. Premièrement, elle doit se concentrer sur les réalités concrètes des inégalités plutôt que sur le simple respect de règles formelles et de normes uniformes. Deuxièmement, elle doit élargir le champ de l’analyse au-delà des points de décision individuels.

Pour cela, la solution que propose Green repose sur l’égalité relationnelle, qui constitue une approche substantielle de l’égalité, car elle privilégie les résultats aux procédures. Elle valorise notamment l’égalité dans les relations entre les individus. Les tenants de l’égalitarisme relationnel estiment que « les individus doivent interagir en tant qu’égaux ou jouir du même statut fondamental », contrairement aux relations hiérarchiques. Les égalitaristes relationnels suggèrent une stratégie différente pour promouvoir l’égalité : modifier les structures sociales qui encadrent les points de décision, c’est-à-dire s’intéresser bien plus aux environnements de décision. « Ce qui compte, ce n’est pas de savoir si un algorithme est conforme aux définitions de l’équité, mais s’il réduit les inégalités sociales et matérielles dans la société ».

Pour y parvenir, Green reprend tout le processus qu’il a proposé (les 5 étapes de sa méthode) pour le réinterroger à l’aune de l’équité. 

Lors de la délimitation du problème, il faut se poser plus avant la question des groupes les plus vulnérables ou les plus défavorisés. Les disparités d’attributs entre les groupes doivent être considérés comme le résultat d’une injustice. Et toujours estimer que les membres du groupe favorisé ont une influence dans la définition des critères de décision. Les attributs d’une personne, comme le mérite, le besoin, la dangerosité, reflètent souvent les intérêts des groupes sociaux dominants. « Plus un groupe dominant a le pouvoir de définir les critères, plus les conditions sont défavorables aux groupes marginalisés. » Il invite par exemple à observer si « les personnes présentant des caractéristiques défavorables font l’objet, de manière disproportionnée, de décisions défavorables » ou si les « les personnes qui reçoivent une décision défavorable subissent des conséquences graves » ou combien de personnes subissent des décisions défavorables. Ces questions permettent d’adapter les réponses stratégiques. Par exemple en fournissant des ressources ou des soutiens aux groupes défavorisés pour amoindrir les effets des calculs en modifiant les critères d’évaluation des décisions. Par exemple, en tentant de modifier les décisions défavorables afin qu’elles privilégient l’aide à la sanction. Ou encore en atténuant les préjudices découlant d’une décision défavorable, ou encore en tentant de réduire le nombre de personnes faisant l’objet de décisions défavorables, en tentant par exemple d’agir sur les ressources disponibles pour permettre davantage de décisions favorables. Ainsi, pour réduire le risque de récidive chez les groupes marginalisés, la première stratégie de réforme en amont consiste à fournir des ressources ou d’autres formes de soutien aux groupes défavorisés. 

Green donne un exemple, en observant comment d’autres décisions permettent de réduire le risque de récidive, par exemple en accompagnant les programmes qui visent à rompre les cycles de la criminalité et de la violence. À Chicago, un programme d’intervention communautaire contre la violence vise à offrir un soutien thérapeutique et social aux personnes à risque d’avoir un comportement violent. Les évaluations ont montré que ces programmes avaient un réel impact en réduisant de plus de 70% le risque d’arrestation pour crime violent chez les participants. Les spécialistes des données peuvent aider par exemple à améliorer le taux de rétention des participants, alors que moins de la moitié des participants vont jusqu’au bout du programme (et compte tenu des ressources limitées des programmes, il est impératif qu’ils réduisent leurs taux d’abandon). En comprenant les raisons de l’abandon ou en élaborant un modèle pour identifier les participants qui risquent d’abandonner, il y a des possibilités pour venir en soutien de ces programmes. Ou encore en concevant un modèle identifiant les meilleures stratégies de rétention. 

Un exemple dans l’actualité plus récente explicite plus avant ce succès. La ville de Baltimore a réduit son taux d’homicides de 60 % entre 2021 et 2025 rapportent Public Health et le Emerald book, en copiant le programme de Chicago. Ce succès s’explique par le fait que la ville ait abordé la violence par arme à feu comme un enjeu de santé publique et ait agit sur le problème non pas par la répression, mais en promouvant un programme pour les personnes les plus à mêmes de tomber dans la violence donnant accès à un logement stable, à des emplois, à des transports publics, comme le préconisent les travaux du Centre pour les solutions contre la violence par arme à feu et du Crime and Justice Lab. Une approche axée sur la santé publique implique d’analyser les données, de se concentrer sur les personnes les plus exposées aux risques pour les repérer et leur proposer un programme adapté d’aides pour s’extraire de la spirale où ils risquent de tomber parce qu’ils ont eux-mêmes été victimes de violences et d’évaluer en permanence ce qui fonctionne et ce qui ne fonctionne pas. En s’appuyant sur des réseaux communautaires locaux, comme la Peace Team, YAP, Roca, Safe streets ou Cure violence, Baltimore a réussi à ce que 91,5% des participants à son programme ne soient plus ni victimes ni auteurs de nouvelles fusillades. Plutôt que de déployer des effectifs de police, la ville a misé sur des médiateurs et un programme d’aides dédiés pour que la réponse à la violence par la violence ne soit plus la seule option. « Le succès de Baltimore a définitivement balayé le mythe selon lequel la réduction de la criminalité nécessiterait nécessairement une augmentation des effectifs policiers.»

Une autre option consiste à attirer davantage l’attention sur les méfaits de la mise en détention auprès des juges, comme l’ont montré les propositions alternatives à Compas, comme des systèmes qui proposent pour chaque individu la meilleure solution pour qu’ils ne récidivent pas en leur proposant les aides les mieux adaptées à leur situation (comme le programme de remise en liberté sous surveillance de la ville de New York qui a permis d’éviter la détention provisoire de 150 000 personnes) ou encore, comme le propose Esas, en proposant aux juges, plutôt qu’un score de risque, d’accéder aux peines similaires prononcées dans des affaires antérieures selon des antécédents de condamnations proches, leur permettant de comparer leur sentence et de relativiser leurs jugements (voir notre article). 

Il est également possible d’utiliser d’autres solutions encore, comme des modèles statistiques afin d’identifier et de contester publiquement les décisions des juges en matière d’incarcération. À titre d’exemple, des spécialistes des données ont élaboré des modèles évaluant la fréquence à laquelle les juges de New York ont ​​ordonné le placement en détention provisoire entre 2020 et 2022, au regard de leur volume de dossiers. Ils ont ensuite publié un rapport désignant les quatorze juges les plus sévères de la ville. Selon leurs estimations, par rapport à des juges ordinaires, ces quatorze magistrats ont collectivement placé 580 personnes supplémentaires en détention, entraînant 154 années de détention provisoire additionnelles et un coût de 77 millions de dollars pour les finances publiques.

Une autre possibilité encore consiste à œuvrer à réduire les peines prononcées ou à réduire le nombre de personnes placées en détention provisoire par exemple en collaborant avec des avocats commis d’office pour concevoir un outil open-source pour les aider à mieux défendre leurs clients. ou encore en mobilisant des citoyens pour documenter les procédures de la justice et produire des rapports sur leurs actions. 

Green ne promet pas le grand soir de la lutte contre les inégalités. Mais estime que le terrain des interventions concrètes offre de nombreuses possibilités d’action. Pour lui, la data science permet de porter bien d’autres regards sur l’équité algorithmique. Bien sûr, reconnait-il avec humilité, « aucune de ces interventions, prise isolément, ne suffirait à éliminer les inégalités sociales ou les préjudices liés à la détention provisoire. Toutefois, toutes contribuent — par des évolutions progressives mais significatives — à orienter les structures sociales et institutionnelles vers une plus grande égalité relationnelle.» Pour autant que, politiquement, il reste des possibilités d’action, des programmes alternatifs et des financements pour ces programmes… 

Améliorer la prise de décision : passer de l’humain dans la boucle à l’algorithme dans la boucle

« Au cours des années 2010, des villes américaines comme Philadelphie ou San Francisco ont proposé des guichets pour aider les organismes de services sociaux à fournir une aide plus équitable et plus efficace aux personnes sans-abri. L’objectif de l’accès coordonné est d’accorder la priorité en matière de logement aux personnes qui en ont le plus besoin.

Les algorithmes facilitent ce processus en quantifiant la vulnérabilité de chaque personne sollicitant une aide au logement. » Problème : les travailleurs sociaux n’ont pas intégré ces évaluations. Pire, ces algorithmes ont eu l’effet inverse : ils ont exacerbé la vulnérabilité des groupes les plus marginalisés (tels que les immigrés, les personnes transgenres et les personnes noires) et ont donné aux personnes sans-abri le sentiment d’être déshumanisées par le processus d’évaluation, comme le racontait le San Francisco Public Press en 2022. 

« L’une des principales raisons de l’échec de cette initiative est que les travailleurs sociaux se sont trop reposés sur les algorithmes. Au lieu de considérer l’évaluation comme un outil permettant de contextualiser la situation de chaque individu, ils en ont fait le critère déterminant pour l’attribution d’un logement. Les agents chargés des dossiers ont fait valoir qu’ils n’avaient pas le « temps » de procéder à un examen plus personnalisé et que le questionnaire était plus simple à utiliser.

Cette dépendance excessive à l’égard des algorithmes de sélection a transformé un travail autrefois fondé sur l’accompagnement humain en une simple application rigide d’une formule. Auparavant, les travailleurs sociaux nouaient des relations avec les personnes sans abri afin de mieux cerner leurs besoins et de déterminer les formes d’aide les plus adaptées. Après l’introduction d’algorithmes d’accès coordonné au logement, les personnes en quête d’un toit n’ont plus bénéficié d’un accompagnement aussi personnalisé et respectueux. Elles étaient au contraire réduites à un simple numéro et, dans la plupart des cas, renvoyées à la rue.»

Cette histoire rappelle qu’il est très difficile de parvenir à une collaboration efficace entre humains et algorithmes. « On s’attend à ce que la combinaison de l’humain et des algorithmes permette de tirer le meilleur parti des deux mondes : la précision et la cohérence des algorithmes d’une part, l’expertise et le discernement des humains d’autre part. En pratique, toutefois, cette fusion idéale ne se concrétise que rarement.»

L’un des problèmes majeurs réside dans l’incapacité des humains à évaluer correctement la qualité des conseils fournis par les algorithmes ; même les experts peinent à distinguer les bonnes recommandations des mauvaises. Souvent, les décideurs humains accordent une confiance excessive à l’algorithme, ce qui les conduit à suivre des recommandations erronées ou biaisées. Ainsi, lorsque la police de Londres a testé un système de reconnaissance faciale en temps réel, les agents ont « largement surestimé la fiabilité du système », rapportait une analyse de l’AI Now institute. Alors que l’algorithme ne fournissait une réponse correcte que dans 19 % des cas, les agents ont approuvé 62 % de ses recommandations. 

Pour relever le défi de la collaboration, les data scientists ont complété les recommandations d’explications permettant de décrire les raisons pour lesquelles l’algorithme aboutit à sa conclusion. C’est le champ de ce qu’on appelle l’IA explicable (XAI). Malgré l’engouement, force est de constater que ces explications n’améliorent généralement pas la collaboration entre humains et algorithmes. Dans de nombreux cas, les explications conduisent même à de moins bons résultats. Ce problème découle à nouveau de la prédominance du formalisme algorithmique. Si le domaine a défini ce qui caractérise une bonne explication en terme mathématique et a mis au point des outils d’explicabilité, les complexités sociales inhérentes aux collaborations entre humains et algorithmes ont du mal à être saisies par le biais d’abstractions et de métriques. A nouveau, pour Green, il est nécessaire de dépasser le formalisme pour dépasser cette limite. « Ce qui caractérise un algorithme utile, ce n’est pas sa précision maximale ni ses explications techniquement optimales. Ce qui caractérise un algorithme utile, c’est sa capacité à aider les utilisateurs à prendre de meilleures décisions.» Cela semble tautologique, mais observer si cet objectif est atteint ne s’observe pas sur la base de purs formalismes. 

Dans l’approche formaliste, les spécialistes de data science insistent sur l’importance de maintenir un humain dans la boucle de décision. C’est au final toujours lui qui doit pouvoir décider, valider la recommandation du calcul. C’est un moyen censé prémunir des erreurs et des biais. De même, pour dépasser l’opacité intrinsèque aux calculs complexes, les data scientists privilégient des explications elles-mêmes automatisées. L’explicabilité est devenu le principe central et moteur de l’équité. Pourtant, cette explicabilité peine à produire des résultats et reste bien souvent très pauvre, incomplète… (absolument pas « projective », comme je le proposais moi-même). « Aider les utilisateurs à comprendre le fonctionnement d’un algorithme est très différent de les aider à utiliser ses conseils pour améliorer leurs décisions. Les convictions des data scientists quant à la qualité des explications ne correspondent donc pas à la pratique. » En fait, les explications ont pour effet involontaire d’accroître la confiance des utilisateurs envers les algorithmes, indépendamment de la qualité de ces derniers… et les incite à accepter plus facilement des conseils algorithmiques erronés.

Pour Green, à nouveau, il faut passer d’une approche formaliste en la matière à une approche réaliste. C’est-à-dire s’adapter à la manière dont les gens interprètent et utilisent les résultats des systèmes pour prendre des décisions, et pas seulement en faire des outils de décisions pour les gens. Ils doivent venir aider les gens à améliorer leurs décisions plutôt que de les prendre à leur place. Pour cela, ce n’est pas l’humain qu’il faut placer dans la boucle comme le proposent les conseils éthiques, mais l’algorithme, défend Green. En plaçant l’humain dans la boucle, on l’a vu avec la chaîne d’élimination automatisée des systèmes d’IA pour faire la guerre, trop souvent, on ne propose qu’une validation humaine de décisions algorithmiques trop complexes, une pantomime de contrôle. « À l’inverse, l’approche par un algorithme intégré au processus humain reconnaît que les algorithmes sont introduits au sein de processus décisionnels humains préexistants. Ici, ce sont les personnes qui prennent les décisions. Les algorithmes viennent compléter l’analyse de la personne en lui fournissant des éléments pour l’aider à évaluer la situation. Ce qui importe en fin de compte, c’est ce processus de décision humain, et non la capacité de l’algorithme à prendre seul de bonnes décisions ou celle de l’humain à superviser l’algorithme. Un système à algorithme intégré au processus humain, un « algorithme dans la boucle » est tout outil automatisé qui fournit des conseils aux personnes dans le but d’améliorer la prise de décision.»

Confrontés à des décisions à prendre, les humains doivent concilier des objectifs contradictoires. Lorsque les inspecteurs sanitaires choisissent les restaurants à contrôler par exemple, ils doivent concilier la priorité donnée aux établissements présentant les risques les plus élevés et la nécessité de répartir équitablement les inspections entre les différents quartiers. La manière dont ces acteurs pondèrent ces considérations concurrentes influence considérablement leurs décisions.

« L’existence de ces arbitrages implique que les décideurs disposent d’une marge d’appréciation pour déterminer l’issue la plus appropriée dans chaque cas. Bien qu’elle puisse susciter des inquiétudes quant aux risques de partialité ou d’incohérence, cette marge d’appréciation est un élément essentiel d’une prise de décision de qualité. Au quotidien, les bureaucrates de terrain sont confrontés à des situations ambiguës, incertaines et imprévisibles. Supprimer cette marge d’appréciation reviendrait à imposer une logique rigide et formelle à ces situations, empêchant ainsi les agents d’adapter leurs décisions à des cas complexes ou inédits.

Par ailleurs, imposer aux décideurs le respect de règles prescriptives violerait le principe normatif selon lequel les décisions doivent tenir compte de la situation et des besoins des individus. La marge d’appréciation est donc souhaitable, tant sur le plan pratique que normatif : elle permet aux décideurs de trouver un juste équilibre entre des valeurs et des objectifs contradictoires, en fonction des circonstances particulières.

Pour exercer leur pouvoir discrétionnaire de manière réfléchie et bénéfique pour la société, les décideurs doivent faire preuve d’un sens de la responsabilité morale quant à leurs choix. Craignant que cette marge d’appréciation ne favorise de mauvaises décisions ou des abus de pouvoir, les autorités imposent souvent des contraintes strictes aux actions des bureaucrates de terrain. Ces stratégies de contrôle et de conformité permettent généralement de prévenir les dérives les plus graves liées à l’exercice de ce pouvoir. Toutefois, leur efficacité est limitée – un contrôle précis s’avère très difficile dans ces contextes – et il a pour effet de démotiver les agents. Une stratégie bien plus efficace pour améliorer la prise de décision des agents publics consiste à responsabiliser les travailleurs et à leur accorder l’autonomie nécessaire pour exercer leur jugement de manière optimale », comme l’ont souligné bien des chercheurs tels que Michael Lipsky, Street-Level Bureaucracy: Dilemmas of the Individual in Public Services (Russell Sage Foundation, 1980), Bernardo Zacka, When the State Meets the Street: Public Service and Moral Agency (Harvard University Press, 2017) ou Dan Honig, Mission Driven Bureaucrats: Empowering People to Help Government Do Better (Oxford University Press, 2024). Le but d’un algorithme ne peut se réduire à améliorer sa précision (pour autant qu’il le permette réellement, comme le soulignaient les chercheurs Arvind Narayanan et Sayash Kapoor dans leur livre, AI Snake Oil (Princeton University Press, 2024) et en pointant le fait que nombre de calculs n’améliorent que très marginalement leur résultats), mais doit prendre en compte nombre d’autres enjeux. Par exemple, un algorithme ne devrait pas chercher à « améliorer la précision des prédictions concernant la vulnérabilité des personnes sans-abri. » « À l’inverse, un projet intégrant des algorithmes dans la boucle décisionnelle déplacerait l’attention des prédictions vers les résultats concrets : « réduire le nombre de personnes vivant sans abri ou logement stable. » Par ailleurs, il conviendrait de prendre en compte les répercussions sur les travailleurs sociaux et sur les personnes sollicitant une aide au logement. Des objectifs connexes pourraient inclure : « améliorer le moral et le sentiment d’accomplissement des travailleurs sociaux » et « augmenter la proportion de personnes sans-abri estimant être traitées avec respect par l’organisme. » La nature multidimensionnelle de ces objectifs implique qu’il n’existera pas d’indicateur unique permettant de déterminer si le projet est une réussite.» D’une certaine manière, pourrait-on dire à la suite de Green, un système qui ne vise qu’à réduire le réel à une seule question sans ambiguïté, part d’une bien mauvaise analyse du réel et fournira par avance une mauvaise réponse. 

Pour améliorer la décision, estime Green, il n’est pas toujours nécessaire d’amener des informations nouvelles à ceux chargés de décisions, mais de comprendre ce qu’ils priorisent déjà. Les travailleurs sociaux chargés de la protection de l’enfance dans le comté d’Allegheny, en Pennsylvanie, privilégient la sécurité immédiate des enfants, tandis que l’algorithme dont ils reçoivent les conseils (l’Allegheny Family Screening Tool, qu’avait étudié Virginia Eubanks) prédit la sécurité des enfants sur une période de deux ans. Cette différence explique pourquoi les travailleurs sociaux ont tendance à ignorer les suggestions de l’algorithme. Nombre de professionnels hésitent à suivre les conseils algorithmiques pour des décisions à forts enjeux, estimant que ces modèles négligent la dimension humaine et la situation particulière des individus. Enfin, pour être exploitables, les enseignements tirés d’un algorithme doivent s’inscrire dans les pratiques quotidiennes et les flux d’information de l’organisation. Dans le domaine médical, par exemple, l’élaboration d’un plan de traitement pour un patient comporte de nombreux aspects allant au-delà de la simple prescription de médicaments. Les médecins doivent prendre des décisions telles que la fréquence des consultations de suivi et l’éventuelle intervention d’autres professionnels de santé (par exemple, des kinésithérapeutes ou des thérapeutes comportementaux). Ainsi, les médecins indiquent qu’ils préféreraient recevoir des recommandations algorithmiques liées à ces étapes organisationnelles, plutôt que de simples indications sur le médicament à prescrire. Ils souhaitent également que ces conseils facilitent les échanges avec les patients et les collègues, car ils élaborent souvent les plans de traitement en collaboration avec ces différents acteurs. 

Le développement d’un algorithme destiné à soutenir les conseillers d’une agence municipale de placement au Danemark met en lumière les avantages d’une collaboration étroite avec les décideurs et d’une ouverture d’esprit quant à la nature de la contribution à apporter. Dans ce cas précis, des spécialistes des données collaboraient avec des conseillers chargés d’aider les chômeurs à développer leurs compétences et à trouver un nouvel emploi. Au début du projet, les spécialistes des données prévoyaient de concevoir un algorithme capable de prédire quels demandeurs d’emploi présentaient le risque le plus élevé de chômage de longue durée. Il s’agissait là d’une approche classique en science des données, axée sur la prédiction de résultats individuels. Toutefois, les conseillers ont fait valoir qu’un tel outil entrerait en conflit avec leur éthique professionnelle. Pour eux, il est essentiel de croire en chaque chômeur et de l’aider à obtenir le meilleur résultat possible. Plutôt que des prédictions sur les comportements individuels, les conseillers ont demandé des prédictions concernant les processus organisationnels. Ils ont expliqué que l’un des principaux obstacles rencontrés par les usagers était la lenteur de l’avancement de leur dossier. Par exemple, des délais importants surviennent souvent lorsque l’agence doit rassembler les documents requis. Ces délais peuvent amener les demandeurs d’emploi à perdre confiance en eux et dans le processus d’accompagnement. Les spécialistes des données n’avaient jamais envisagé ce problème : ils supposaient que les dossiers étaient toujours traités rapidement. Or, les conseillers connaissaient bien ces délais longs et imprévisibles, qui constituaient un défi majeur dans leur travail. Pour y remédier, ils ont demandé un algorithme capable de prédire le temps d’attente estimé pour chaque personne. Cette information leur permettrait de préparer les demandeurs d’emploi au délai prévu et de les maintenir engagés dans des programmes tels que des thérapies ou des formations professionnelles durant cette période d’attente.

Cet exemple danois démontre que la contribution de la science des données qui semble la plus évidente n’est pas toujours la plus utile et l’importance à saisir les besoins de terrain. 

Tout cela nécessite une immersion totale avec le terrain, explique Green. Il faut comprendre comment les agents interprètent les informations, si certains éléments leur semblent confus… Mais surtout, pour Green, cela suppose de dépasser la seule explication. Par exemple en proposant des exemples similaires pour les inviter à mettre leur décision en perspective ou en les invitant à réfléchir par eux-même à une décision avant de recevoir les recommandations des systèmes. « L’idée sous-jacente est que si les individus réfléchissent de manière autonome à une décision, ils l’analyseront plus en profondeur et seront mieux à même d’évaluer les recommandations de l’algorithme. Plusieurs études ont montré que les fonctions de « contrainte cognitive » conduisent à des prédictions humaines plus précises que les scénarios où les utilisateurs ont un accès immédiat aux recommandations algorithmiques. » 

Une autre manière de faire consiste à guider le raisonnement sans recommander de décisions. Une autre manière encore consiste à proposer un éventail de choix par exemple en les rendant interactifs, permettant aux utilisateurs d’évaluer les conséquences des choix qu’ils ont à faire. « En encourageant une implication active – plutôt que passive – dans les systèmes intégrant l’humain dans la boucle algorithmique, l’interactivité aiderait les professionnels à préserver leur sens de la mission et leur autonomie lors de l’utilisation d’algorithmes, évitant ainsi de réduire leur pouvoir discrétionnaire à une simple formalité administrative.»

L’interactivité permet de conjuguer les capacités prédictives d’un algorithme aux connaissances spécifiques et contextuelles et à la démarche d’investigation du décideur. Ainsi, plutôt que de faire des recommandations de prescriptions pour traiter la dépression par exemple, les médecins devraient pouvoir adapter les systèmes aux situations individuelles. 

Dans son manuel, Green soutient que la clé réside dans une interaction profonde des data scientist avec les usagers et ceux qui déploient des outils. Leur intervention ne peut être ponctuelle, plaide-t-il, elle doit s’inscrire profondément dans les pratiques réelles. Il invite également à se défaire du solutionnisme pour produire des systèmes qui élargissent les choix plutôt qu’ils ne réduisent, comme il le disait déjà il y a quelques années. A observer ce que les praticiens en pensent, comment ils réagissent aux systèmes et pas seulement à les déployer voire à les imposer, au risque de leurs échecs. Le développement algorithmique ne peut pas se faire à l’encontre des missions que remplissent les gens. « Les défaillances persistantes des collaborations entre humains et algorithmes sapent la théorie du changement qui sous-tend de nombreux projets de science des données, laquelle vise à obtenir de meilleurs résultats sociaux en améliorant la prise de décision.»

Green termine son livre en prévenant les data scientists de se défier de l’IA générative. L’IA générative accélère et prolonge la logique du formalisme algorithmique. Le risque est de les considérer comme des outils polyvalents, susceptibles d’être appliqués à grande échelle, négligeant toutes les spécificités contextuelles qu’il met en avant dans son manuel.

« Si la science des données continue à suivre le formalisme algorithmique, le domaine produira des outils de plus en plus puissants sur le plan technique, mais souvent inutiles, voire nuisibles sur le plan sociétal. » Face à l’automatisation qui risque de rendre le scientifique des données obsolète, il est nécessaire de réarmer ses capacités. C’est ce que ce manuel propose. « Le réalisme algorithmique offre une piste pour permettre aux data scientists de se distinguer dans un monde où de nombreux aspects techniques de la science des données ont été automatisés. En concevant les algorithmes comme des outils opérationnels plutôt que comme des modèles mathématiques, le réalisme algorithmique redéfinit l’expertise qui caractérise un data scientist efficace.»

Pour l’instant, et cela risque d’être pire à mesure que l’IA se répand partout, « la plupart des data scientists sont formés et employés dans des environnements qui n’encouragent pas – et souvent découragent – le réalisme algorithmique. » De l’enseignement à la recherche, le domaine, pour ne pas disparaître sous les applications produites par l’IA, a besoin de s’ouvrir aux enjeux sociaux et aux applications concrètes, plaide Green. Or, « on continue d’enseigner aux étudiants des sciences de l’information que les dimensions sociales et éthiques des algorithmes sortent du cadre », comme l’expliquait l’ingénieur Jimmy Wu. Pour remédier à cela, il faut reconnecter l’éthique à la pratique. Nous devons sortir des façons dont on enseigne l’éthique dans les écoles d’ingénieurs que ce soit par leur mise en œuvre mathématique et formaliste comme par le biais de dissertations morales déconnectées des enjeux applicatifs. « Il ne s’agit pas d’enseigner l’éthique de manière abstraite aux étudiants en science des données, mais de leur transmettre les orientations et les compétences favorisant une pratique éthique de la discipline ». Il recommande également d’avoir plus de cours cliniques, c’est-à-dire de faire travailler les étudiants sur des projets réels. Et d’aider les étudiants à quitter le monde de la tech où le formalisme règne en maître ou sinon à leur apprendre à promouvoir des produits et des comportements éthiques au sein des entreprises et à faire face aux dilemmes éthiques auxquels ils sont confrontés. 

*

Green ne promet pas de révolution algorithmique. Il propose à la data science de se poser des questions que bien peu se posent, de faire un pas de côté. D’arrêter de croire que le calcul est la solution quand, bien souvent, il est le problème qui ne voit pas ses effets. 

Hubert Guillaud

Dans Technologie du coup d’Etat, les programmeurs de l’Apocalypse (Lux éditeur), le journaliste Thibault Prévost (qui avait déjà signé en 2024, Les prophètes de l’IA – voir notre lecture) dissèque le putsch numérique qui a eu lieu depuis le début du second mandat de Donald Trump, comme une recette, désormais disponible à qui voudra transformer à jamais d’autres régimes politiques. Pour tout comprendre au technofascisme à l’œuvre, ce qu’il transforme, il faut dévorer ce petit livre. On vous en propose l’introduction. Pour lire les pages suivantes, il faudra vous rendre jusqu’à une librairie. Vous ne le regretterez pas. 

Le problème du coup d’État moderne est un problème d’ordre technique.
L’insurrection est une machine […] : il faut des techniciens pour la mettre en mouvement,
et seuls des techniciens peuvent l’arrêter.
Curzio Malaparte, Technique du coup d’État

Six janvier 2021, Washington, D.C. Près de 30 000 personnes sont rassemblées sur la pelouse du parc de l’Ellipse, face à la Maison-Blanche. La foule est là, scande-t-elle, pour « sauver l’Amérique » – comme l’y a exhorté Donald Trump en choisissant d’appeler ce meeting « Save America ». Il est 10 heures du matin, la masse trépigne, sent que quelque chose va se jouer. Depuis la victoire de Joe Biden, annoncée tardivement le 7 novembre, Trump prétend que l’élection a été truquée et que le président légitime, c’est lui. Pour que « cesse le braquage » (« Stop the Steal », un autre slogan), il a rassemblé sa base dans la capitale. L’objectif : faire pression sur le vice-président Mike Pence et le Congrès afin qu’ils invalident la victoire de Joe Biden. C’est sa dernière chance de révoquer le scrutin.

L’atmosphère politique du pays est irrespirable. Depuis plusieurs semaines, les têtes de gondole de l’alt-right – l’animateur complotiste Alex Jones et le militant néonazi Nick Fuentes, pour ne nommer qu’eux – entretiennent le délire trumpiste d’une élection volée et galvanisent les soutiens du président sortant. Le 5 janvier, on a trouvé deux bombes devant les sièges des partis démocrate et républicain. Le matin du 6, les omniprésentes casquettes rouge pompier siglées MAGA (« Make America Great Again ») côtoient les équipements tactiques des milices d’extrême droite Proud Boys et Oath Keepers, dont les états-majors ont annoncé qu’ils viendraient armés au rassemblement, avec l’intention d’en découdre.

Quelques minutes avant midi, Trump prend la parole, protégé par une vitre pare-balles. Il multiplie les appels à se « battre » et à « marcher vers le Capitole », prévient que « si nous ne nous battons pas comme des chiens, nous n’aurons plus de pays »¹. À 13 h 12, après quatre-vingt-quatre minutes de discours, la foule d’Ellipse Park scande « prenons le Capitole ». Son voeu est en train d’être exaucé : à quelques encablures de la Maison-Blanche, 200 à 300 membres des Proud Boys viennent de franchir les barrières de police qui protégeaient l’entrée ouest du siège du Congrès. L’attaque est préméditée : on apprendra plus tard qu’un document intitulé « 1776 Returns » et appelant entre autres à « prendre d’assaut le palais d’Hiver », curieuse référence à la Révolution bolchevique de 1917, avait été distribué dès le 30 décembre dans les rangs de la milice.

À 14 heures, les premiers émeutiers pénètrent dans un bâtiment presque vide. Alors que les derniers députés se retranchent sous la protection des services secrets, 2 000 à 2 500 personnes pillent l’aile nord qui abrite le Sénat et retransmettent l’émeute en direct sur les réseaux sociaux. À 17 heures, le « crime le plus filmé de l’histoire des États-Unis » a été commis. Bilan : 174 blessés dans les rangs de la police, et 5 morts.

Pour la presse états-unienne, le pays vient de vivre une « insurrection », une « émeute », un « soulèvement ». En 2023, le FBI parlera « d’acte de terrorisme intérieur ». Mais, s’il y avait une formule à retenir, ce serait celle de Steve Bannon, qui claironnait dès le 4 janvier son intention d’organiser un « coup d’État sans effusion de sang ». Double échec : le sang a coulé, et le coup d’État a échoué.

La doctrine politique de Steve Bannon, le Raspoutine du premier mandat de Trump, est fortement influencée par ses années passées dans le monde du jeu vidéo et les communautés en ligne. Cet univers repose sur un principe fondateur : politics is downstream from culture – la politique découle de la culture, et particulièrement de la culture web. Et sur une méthode simple : flood the zone with shit – saturez l’espace de contenus viraux, pour entretenir la confusion, arracher de ses gonds la fenêtre d’Overton et sidérer les gardiens habituels de l’acceptabilité politique.

En réalité, Bannon n’a pas inventé la roue. Il s’est contenté de réaffecter à l’extrême droite deux tactiques issues du marxisme – la « bataille culturelle » d’Antonio Gramsci et la « révolution permanente » de Léon Trotski. Sa seule innovation aura été de les adapter à l’ère de la mémétique, en faisant le pari que les extrémistes anonymes et organisés du forum 4chan parviendraient, à force de troller à tout vent, à imposer le régime postdémocratique qu’il appelait de ses vœux.

Mais, en 2020, le monde physique n’est pas encore contraint de refléter le monde numérique. La mascarade finale, gueularde, désordonnée et brutale du premier mandat de Trump en est la preuve. Le chaos, même entretenu, ne fait pas le poids face aux institutions du plus puissant appareil d’État occidental. On ne renverse pas le gouvernement des États-Unis avec des mèmes, un clown venu de la téléréalité et une jacquerie complotiste. À l’agitation et aux effets de manches postmodernes faisaient encore défaut un art du coup d’État. On ne perdait rien pour attendre.

✦

Vingt janvier 2025, Washington D.C.

L’investiture de Trump II s’ouvre sur un paysage politique radicalement différent de celui de 2021. Les rues, cette fois-ci, sont parfaitement calmes. Les milliardaires de la Silicon Valley, qui avaient préféré garder le silence pendant la campagne, sont venus docilement, en ligne, prêter allégeance au nouveau président. Ils ont renoncé à la stratégie de résistance performative qu’ils avaient suivie lors du premier mandat Trump et qui avait culminé, juste après l’assaut du Capitole, avec la désactivation de plusieurs comptes de réseaux sociaux du président déchu. Ayant retourné leur veste moins d’un an plus tard, les chefs du cartel de la tech, ouvertement favorables au projet autoritaire trumpiste, annoncent qu’ils mettront désormais leurs infrastructures numériques au service du nouveau régime, avec zèle et jubilation. Elon Musk, l’homme le plus riche du monde, a investi pas loin de 300 millions de dollars dans la campagne de Trump, s’achetant ainsi un poste de bras droit du président. Ce mariage incongru entre les paléolibertariens du monde MAGA et les transhumanistes mystiques de la Silicon Valley a désormais un nom : le technofascisme².

Steve Bannon et son idéal insurrectionnel, celui d’un petit peuple radicalisé prenant les institutions par les armes, sont dès lors ringardisés. Le populisme et l’autoritarisme ont appris de leurs insuccès. Cette fois-ci, l’objectif est de changer le système de l’intérieur. Et la méthode est nettement mieux aiguisée.

Le changement de régime se fait immédiatement sentir. Dès le premier jour de son mandat, le 47e président des États-Unis signe 26 décrets présidentiels, dont certains particulièrement symboliques. Abolition du droit du sol. Fin du télétravail pour les fonctionnaires. Retrait des États-Unis de l’Accord de Paris sur le climat et de l’Organisation mondiale de la Santé. Annulation des programmes « Égalité, diversité, inclusion » (EDI) mis en place par l’administration Biden. Sursis et peines commuées pour les émeutiers du 6 janvier 20213. Création du Department of Government Efficiency, le ministère de l’Efficacité gouvernementale, en réalité une sorte de ministère de la démolition, réclamé et dirigé par Elon Musk. Son acronyme, DOGE, n’évoque que par hasard la figure de l’autocrate de la cité-État vénitienne : dans le pur style muskien, il est plutôt censé rappeler le dogecoin, une cryptomonnaie dérivée d’une photo de chien devenue un mème.

Le ton est donné : le Donald Trump ahuri de 2016 et ses bouffons d’extrême droite ont cédé la place à une machine de guerre qui a eu quatre ans pour se préparer à prendre, exercer, et surtout garder le pouvoir. Dans les cercles MAGA, on parle désormais ouvertement de la théorie de l’exécutif unitaire – un fantasme autoritaire et soi-disant antibureaucratique de l’ère Reagan qui s’inspire d’une interprétation maximaliste de l’article 2 de la Constitution pour prétendre que le pouvoir exécutif peut être exercé intégralement et exclusivement par le chef de l’État. Ce pouvoir présidentiel serait ainsi hors de portée de l’« État administratif » honni par le parti Républicain, et très au-dessus du pouvoir législatif. Pour son second mandat, Trump, on le sait maintenant, a adopté d’emblée ce mode opératoire : en janvier 2026, après un an de règne jour pour jour, il avait signé 229 décrets exécutifs – soit 9 de plus que durant les quatre années qu’a duré son premier mandat⁴.

Pour Trump et sa nouvelle équipe, hors de question de répéter les erreurs du précédent mandat. Il s’agit, en premier lieu, de ne pas laisser la machinerie fédérale et ses plus de deux millions de fonctionnaires les freiner⁵. Cette fois-ci, il y a un plan. Son nom : Project 2025, une « Mag(n)a carta » contre-révolutionnaire mitonnée par les cerveaux néoconservateurs du lobby Heritage Foundation, un organe « ouvertement autoritariste⁶ », selon la spécialiste du fascisme Ruth Ben-Ghiat. Son président, Kevin Roberts, considère que le premier mandat de Trump, « malgré de bonnes intentions, a démarré trop lentement, tout simplement⁷ ». Le document principal du Project 2025, Mandate for Leadership, explique en plus de 900 pages et 320 objectifs comment « démanteler l’État administratif » pour ensuite « décentraliser et privatiser autant que possible »⁸ ses fonctions, avant d’utiliser les agences restantes pour institutionnaliser le trumpisme.

L’un de ses leviers les plus médiatisés et critiqués est la classification professionnelle Schedule F, mise en place par Trump en 2020, immédiatement annulée par Joe Biden en 2021 puis réinstaurée dès les premiers jours du mandat Trump II. Elle permet de remplacer jusqu’à 50 000 fonctionnaires de carrière par une armée de bureaucrates-activistes loyaux au régime, formés à la guerre contre le deep state (l’État profond) dans une « académie » de Heritage Foundation⁹. Selon des documents internes révélés fin novembre 2025 par le collectif de lanceurs d’alerte DDoSecrets, près de 13 000 candidats avaient suivi la formation¹⁰ pour s’enrôler comme fantassins d’un véritable putsch administratif. La consigne est claire : frapper vite, fort, partout à la fois, from day one, et faire passer un maximum de réformes durant la lune de miel des cent premiers jours.

Message reçu. Les premiers mois du nouveau régime ont fait l’effet d’une effroyable tempête. Chaque jour, pendant que Trump multipliait les décrets et les appels à la haine, de nouvelles agences fédérales étaient pillées par Musk et ses « gardes rouges » du DOGE. D’entières bases de données ont été mises à sac, les employés limogés en masse. La vitesse et l’ampleur de la destruction étaient sidérantes. Un an après le début de l’exercice, 50 % des objectifs du Project 2025 ont été atteints¹¹. Aux yeux des observateurs internationaux, les États-Unis ne sont plus une démocratie fonctionnelle¹².

La presse états-unienne, désorientée, utilise le langage de Wall Street pour décrire une « OPA hostile »¹³ du pays par le duo Trump/Musk. D’autres, plus malicieux, parlent d’un « désassemblage rapide et imprévu¹⁴ » de l’État fédéral – reprenant l’euphémisme utilisé par SpaceX, l’entreprise aérospatiale de Musk, lorsqu’une fusée explose en vol.

Un an pile après le retour de Donald Trump au Bureauovale, tout est en ruines – y compris la Maison-Blanche, dont l’aile est a été rasée en octobre 2025 pour être remplacée par une monstrueuse salle de bal dorée à 400 millions de dollars, largement financée par l’industrie de la tech et des cryptomonnaies. Une allégorie architecturale du nouveau régime : brutal, oligarchique, grotesque, mégalomane¹⁵.

✦

« L’histoire enseigne, a dit Antonio Gramsci, mais elle n’a pas d’élèves. »

Ce que nous prenons pour un phénomène inédit – la désintégration programmée de l’administration fédérale des États-Unis par son propre gouvernement et l’installation d’un nouveau type de régime autoritaire à partir d’une élection démocratique – n’est peut-être en réalité que la réitération d’un événement historique pas si lointain. Pour comprendre le présent, il est souvent nécessaire de regarder par-dessus son épaule. Dans ce cas-ci, on gagne à se pencher sur un court et brillant essai de Curzio Malaparte, publié en France en 1931 et intitulé Technique du coup d’État. Preuve de sa justesse, le livre sera honni par trois de ses protagonistes : censuré par Hitler et brûlé en place publique dans l’Allemagne nazie, condamné par Trotski et banni en URSS, il vaudra aussi à Malaparte d’être confiné sur l’île de Lipari par Mussolini. Qu’a bien pu faire l’intellectuel italien pour mériter un tel traitement ? Rien de moins que de révéler, à travers l’analyse de huit coups d’État modernes, ce que l’on pourrait appeler aujourd’hui le code source du pouvoir au xxe siècle – et, par extension, la méthode pour renverser les dictateurs de l’époque.

La bonne vieille insurrection armée qui prenait d’assaut les écrins traditionnels du pouvoir (palais présidentiel, parlement, palais de justice) et s’appuyait sur la puissance d’une foule galvanisée est déjà désuète en 1931. Cette tactique, écrit Malaparte, « ôte tout caractère révolutionnaire aux séditions militaires. La police défend l’État comme si c’était une ville ; les militaires attaquent l’État comme si c’était une forteresse¹⁶ ». Il s’agit d’un type de soulèvement largement performatif et violent, et surtout, qui s’adapte mal à la réalité du pouvoir dans les sociétés industrielles.

De la même façon, les images comme celles de « QAnon Shaman » dans la salle du Congrès, torse nu, avec sa coiffe de fourrure surmontée de cornes de bison, et son visage bariolé d’un drapeau des États-Unis, peinent à dépasser le saugrenu parce qu’elles montrent un assaut du symbolique. Le 6 janvier 2021, tout n’était que spectacle, mais c’était une performance. « Il s’agissait avant tout de faire acte de présence et de se faire remarquer. […] Les véritables trophées de la journée furent les selfies », résume le professeur d’histoire Nicolas Guilhot¹⁷. Les victimes de cette attaque, en revanche, étaient bien réelles.

Ce jour-là, Trump n’a été qu’un Lénine de bas étage sans son Trotski. On peut imaginer qu’il ait voulu être « le stratège, l’idéologue, l’animateur, le deus ex machina de la révolution »¹⁸, comme l’écrit Malaparte au sujet de Lénine, mais il lui manquait un véritable « créateur de la technique du coup d’État bolchevique ».

Dans les sociétés modernes, imposer un régime et le maintenir, nous dit Malaparte, n’est pas une affaire de circonstances ou d’agitation idéologique. C’est une affaire de méthode. Il faut trouver les moyens appropriés aux conditions du moment. Ainsi, la tactique du 18 Brumaire, le putsch mené par Napoléon Bonaparte, n’est pas celle d’une sédition militaire. Le futur empereur apporte un élément nouveau : « la préoccupation de rester dans la légalité », et le 18 Brumaire représente « le premier coup d’État où l’on voit se poser les problèmes de la tactique révolutionnaire moderne »¹⁹. Mais ce n’est qu’avec la révolution d’octobre 1917 que se révèle la technique moderne du coup d’État.

Le coup de génie de Trotski est simple : ne pas viser le lieu du pouvoir ou les symboles de sa majesté, mais s’emparer de son infrastructure stratégique. Pour la première fois, la sédition n’attaque pas le pouvoir directement chez lui, mais sabote la tuyauterie qui le maintient en place. En amont de son insurrection, raconte Malaparte, Trotski « est parvenu à se procurer le plan des services techniques de la ville » de Petrograd. Ses gardes rouges « étudient sur place la disposition des conduites souterraines d’eau et de gaz, des câbles d’énergie électrique, de téléphone et de télégraphe. Deux d’entre eux ont exploré les égouts qui passent sous la résidence de l’État-major général. […] Il faut être en mesure d’isoler un quartier ou même un simple groupe de maisons en quelques minutes ; Trotski partage donc la ville en secteurs, fixe les points stratégiques, distribue les tâches »²⁰.

Un millier d’hommes, répartis en équipes « d’ouvriers spécialisés, mécaniciens, électriciens, radiotélégraphistes, aux ordres d’ingénieurs, de techniciens connaissant le fonctionnement technique de l’État », infiltrent patiemment « les corridors des centraux téléphoniques et télégraphiques, de l’Hôtel des Postes, des Ministères, de l’État-major général, pour observer la distribution des bureaux, l’installation de la lumière électrique et du téléphone, garder dans les yeux et la mémoire le plan des édifices, et […] chercher dans l’organisation défensive de la machine technique, bureaucratique et militaire de l’État les lieux de moindre résistance, les côtés faibles, les points vulnérables ». Ils « tâtent les rouages de l’organisation technique, provoquent de temps en temps la paralysie partielle des organes les plus délicats ». Selon Malaparte, ce sont « les escarmouches préliminaires de l’insurrection »²¹.

Puis vient l’offensive. Dans la nuit du 6 au 7 novembre, les discrètes troupes d’assaut de Trotski s’emparent des centres névralgiques sans se voir opposer la moindre résistance. Les opérations, écrit Malaparte, « se sont déroulées avec une rapidité et une régularité surprenantes ». Petrograd continue de fonctionner normalement. Les tramways circulent, les magasins restent ouverts, chacun vaque à ses occupations. L’un des événements politiques les plus décisifs du xxe siècle s’est produit dans une indifférence quasi totale.

Qu’en déduit Malaparte ? Plusieurs observations contre-intuitives, mais terriblement justes sur la nature du pouvoir au xxe siècle et la manière la plus efficace de s’en emparer. Contrairement à la vision romantique répandue encore à ce jour, on ne prend pas le pouvoir grâce au soutien populaire ni grâce au charisme surnaturel d’un Grand Homme guidant le peuple. L’écrivain italien affirme que « le problème du coup d’État moderne est un problème d’ordre technique. L’insurrection est une machine […] : il faut des techniciens pour la mettre en mouvement, et seuls des techniciens peuvent l’arrêter ». Il assure que « l’insurrection ne se fait pas avec des masses, mais avec une poignée d’hommes prêts à tout, entraînés à la tactique insurrectionnelle, exercés à frapper rapidement, durement, les centres vitaux et l’organisation technique de l’État ». Qu’elle frappe loin des palais, car « la clef de l’État, ce n’est pas l’organisation bureaucratique et politique […] mais l’organisation technique, c’est-à-dire les centrales électriques, les chemins de fer, les téléphones, les télégraphes, les ports, les gazomètres, les aqueducs ». Enfin, qu’elle est reproductible puisqu’elle « ne dépend pas des conditions politiques, sociales, économiques du pays »²².

Infiltration de l’appareil technique de l’État, occupation des centres névralgiques de communication, sabotage des institutions récalcitrantes par des brigades d’ingénieurs spécialisés : les parallèles avec l’actualité deviennent difficiles à ignorer.

✦

Plus de cent ans après le coup d’État bolchevique, Trump et ses nouveaux stratèges font une mise à jour de la technique malapartienne à l’ère de la numérisation et de l’algorithmie : une technologie du coup d’État parfaitement adaptée à la dématérialisation du pouvoir contemporain dans l’éther de la donnée. Mais alors que Malaparte mettait en scène des

insurgés-techniciens, le modèle Trump II a ceci d’inédit qu’il prône une insurrection programmée par l’exécutif lui-même. Une contre-élite, élue démocratiquement, qui démolit brutalement et méthodiquement les institutions qui lui confèrent sa légitimité. L’éphémère DOGE, aboli après six mois d’(hyper)activité, en est évidemment la manifestation la plus agressive et la plus transparente. Véritable matérialisation technique des préceptes du Project 2025, il a parfaitement rempli sa mission – choquer, démolir, paralyser. Tel un ver informatique, les voilà encodés, lui et ses principes, au plus profond de la nouvelle administration. Fin du premier chapitre du coup d’État technologique.

Une fois l’ancien régime fédéral renversé, place à la consolidation de son successeur. En l’an 2 du trumpisme, la révolution (permanente) est avant tout l’oeuvre de deux proches collaborateurs de Trump. Ce sont eux qui définissent le mode opératoire du régime. Eux qui tracent le double horizon idéologique – la mort de l’État social et la « régénération » raciale des États-Unis – pour un exécutif qui, sans cela, ne serait que pure action. En effet, loin d’être un idéologue cohérent, Trump agit comme un générateur, un soleil noir auprès duquel ses lieutenants plus capables viennent s’alimenter en énergie. En arbitrant au minimum les disputes lorsque la situation l’exige, il assure un semblant de cohésion entre les multiples factions concurrentes de la coalition MAGA, aux objectifs politiques parfois incompatibles. Le reste du temps, il entretient le chaos d’une outrance, d’une insulte ou d’une pulsion.

Le technicien en chef, que Trump et son équipe ont affublé du sobriquet de « Grim Reaper » (grande faucheuse), s’appelle en vérité Russell Vought. Responsable, pour la seconde fois sous Trump, du Bureau de la gestion et du budget, c’est lui qui répartit aux quatre coins de l’État fédéral l’argent alloué par le Congrès. Bureaucrate discret, vétéran de Washington mû par une haine tenace de l’« État profond », il est à l’origine d’une partie des propositions de Project 2025. 

Alors que Vought agit comme président de l’ombre, l’omniprésent et hyperactif Stephen Miller est perçu comme son premier ministre officieux. Chef de cabinet adjoint chargé des politiques, il assure le déploiement de l’industrie technopolicière de surveillance, ordonne les enlèvements de masse, accélère perpétuellement la concentration et la déportation des étrangers. Agent commercial de la xénophobie trumpiste au crâne toujours impeccablement rasé, il n’hésite pas à s’afficher en tenant du suprémacisme blanc comme en septembre 2025, lorsqu’il a affirmé ce qui suit lors de l’oraison funèbre du défunt Charlie Kirk : « Notre lignée, notre héritage remonte à Athènes, à Rome, à Philadelphie, à Monticello. […] Vous n’avez pas idée à quel point nous sommes déterminés à sauver cette civilisation, sauver l’Occident, et sauver cette république²³. » En fait, une idée, on peut s’en faire une, sur la base de quelques statistiques éloquentes : sous ses ordres, l’agence fédérale ICE (Immigration and Customs Enforcement, soit le Service de l’immigration et des douanes), est devenue le bras armé du régime. Les 350 000 personnes déportées en un an et les 70 000 personnes détenues dans les camps de concentration (administrés, en grande majorité, par des entreprises privées comme GEO Group ou CoreCivic) ne suffisent pas : Miller et Trump visent un million de déportations par an. Sans se soucier une seconde de l’État de droit.

Ce qui relie entre elles les diverses et parfois contradictoires manifestations du trumpisme, c’est la technologie matricielle qui a permis le coup d’État technofasciste, oeuvre de la Silicon Valley devenue de facto le système nerveux central des États-Unis et d’autres gouvernements autoritaires ou en passe de le devenir. On peut observer le régime de Trump sous toutes ses coutures, on trouve partout la patte de la Silicon Valley. Ce sont ses entreprises, des béhémoths comme Alphabet, Meta ou Amazon, et les nouvelles (et déjà gigantesques) startups faiseuses d’IA comme OpenAI, Palantir ou Anduril, qui fournissent les technologies de calcul, d’analyse, de prédiction et de contrôle, indispensables à la reconfiguration organisationnelle du pays. Ce sont ses patrons mystiques – le trio sud-africain de la « PayPal Mafia » formé par Elon Musk, Peter Thiel et David Sacks, ou les nouvelles figures du complexe « militaro-industriel numérique » comme Alex Karp ou Palmer Luckey –, conscrits dans une administration Trump avec qui ils forment une « broligarchie » (l’oligarchie version tech bros), qui font le lien entre l’exécutif et l’infrastructure technofasciste sur le terrain²⁴.

Le trumpisme du second mandat n’aurait jamais pu exister sans l’architecture logicielle et matérielle d’une industrie numérique dont l’appétit expansionniste et le mépris des normes démocratiques laissaient déjà craindre, en 2024, un « coup d’État permanent »²⁵. Les fantassins de Trump n’auraient jamais pu neutraliser les agences fédérales, pas plus qu’ils n’auraient pu traquer les fonctionnaires récalcitrants, ficher les « ennemis de l’intérieur » toujours plus nombreux, maintenir le panoptique technopolicier et la machine à déportation ou anéantir l’unité fédérale pour satisfaire les désirs sécessionnistes de cette contre-élite et de son projet d’« accélération réactionnaire »²⁶. Et la clé de voûte technologique de ce régime est indéniablement ce que l’on appelle désormais « intelligence artificielle » : des systèmes de calcul « construits pour fonctionner de manière à dégrader et potentiellement détruire les institutions civiques indispensables²⁷ » comme l’État de droit, la presse ou l’université. Des machines à asphyxier le corps social, en l’amputant de ses mécanismes de délibération et de production de connaissances.

En 2026, les États-Unis et la Chine sont deux itérations d’un même système d’exploitation, que la chercheuse Jennifer Lind nomme « smart authoritarianism²⁸ » (autoritarisme intelligent) : des régimes antidémocratiques qui, consolidés par les technologies de répression numériques du capitalisme de surveillance, peuvent désormais se permettre de maintenir une apparence parlementaire tout en exerçant une oppression constante et réticulaire sur leur population. La Silicon Valley, bassin de l’industrie la plus puissante de la planète, est le socle du nouveau fascisme états-unien. Ses multinationales, ses PDG, ses logiciels, son ethos, son matériel et ses fonds d’investissement sont intégrés à l’appareil d’État trumpiste qui réécrit les lois et réaffecte l’argent public en faveur de ces champions du « patriotisme technologique ». L’alliance est rentable pour les deux parties, qui fonctionnent comme un duopole immuable. Pouvoir, argent et infrastructures se concentrent toujours plus entre les mêmes mains.

L’économiste italienne Francesca Bria a récemment cartographié ce réseau de collaborations mutuellement bénéfiques, de contrats publics et de capture réglementaire. Empruntant au vocabulaire des réseaux informatiques, elle décrit le résultat de cette intégration réciproque entre puissance publique et technocapital comme une « stack autoritaire »²⁹ – une pile cohérente d’entités techniques, juridiques, financières et politiques, qui n’oeuvre plus qu’à la consolidation de son propre monopole. Une oligarchie de droit technologique dont le maillage se resserre à chaque nouveau contrat public, et qui pourrait devenir, à l’instar de Palantir, totalement indélogeable, quand bien même Trump et ses « gardes rouges » seraient éjectés du pouvoir par les urnes. Là où Trotski et ses hommes se contentaient de prendre le contrôle des infrastructures, les technofascistes et leurs soutiens MAGA deviennent l’État. Entrés par effraction puis progressivement métastasés dans l’organisme public, ils deviennent impossibles à extraire.

Ou, pour reprendre les mots d’un Donald Trump ahuri, qui philosophait durant les premiers jours de son second mandat, assis au volant d’une Tesla rouge devant la Maison-Blanche : everything’s computer (tout est ordinateur)³⁰.

✦

Comment lutter contre une technologie du coup d’État qui forme simultanément un coup d’État technologique ? Quelles stratégies, quelles technologies mobiliser en retour pour freiner la propagation de l’infection trumpiste aux autres pays néolibéraux, notamment européens, dont les appareils d’État sont déjà affaiblis par leur dépendance structurelle aux logiciels de la Silicon Valley ? Comment empêcher le coup d’État lorsque les administrations contemporaines barbotent dans l’environnement logiciel fourni par Microsoft, lorsque leurs données dorment sur des serveurs Amazon, lorsque leurs employés communiquent grâce à Gmail, Teams et WhatsApp, et lorsque les ministères communiquent en priorité sur X ?

Pour nos nations vassalisées, repenser les structures de gouvernance au xxie siècle n’est plus seulement une question de souveraineté, mais de survie. Car les parasites des extrêmes droites européennes ont bien compris une chose : dans un pouvoir informatisé, le coup d’État prend lui-même la forme d’un logiciel, un algorithme – au sens générique du mot, un « ensemble de règles opératoires dont l’application permet de résoudre un problème énoncé au moyen d’un nombre fini d’opérations » – c’est ce que l’on constatera dans l’analyse méthodique de la « méthode DOGE », théorisée bien avant l’arrivée d’Elon Musk sous le chapiteau trumpiste. L’exemple MAGA leur a fourni un tutoriel pas à pas, exportable et potentiellement transposable à toute situation et toute entité politique – puisque, rappelons-nous Malaparte, le coup d’État ne dépend ni de conditions politiques et sociales préalables ni du charisme d’un idéologue particulier. En conséquence, avec l’appui logistique de son fournisseur états-unien, une internationale réactionnaire planétaire, allant de l’Argentin Javier Milei jusqu’à l’Italienne Giorgia Meloni, reprend, affine et met à jour la recette insurrectionnelle contemporaine, à l’intention des prochains qui passeront devant les urnes.

L’algorithme s’exporte, se partage, se télécharge. D’autres autocrates en puissance, souvent députés de la nation, trépignent dans leurs starting-blocks ; au Royaume-Uni, en France, au Canada et ailleurs. À leur tour, ils planifient, cartographient, testent les vulnérabilités. Comme ces puissants groupes de hackers invisibles, que le monde de la cybersécurité appelle génériquement un APT (advanced persistent threat, menace persistante avancée), qui s’infiltrent durant des années dans des systèmes informatiques massifs, sans déclencher d’alerte, jusqu’à en posséder virtuellement le contrôle. Partout en Europe, le technofascisme se veut l’APT tapi dans les serveurs de la démocratie numérisée.

Ce livre, pensé comme une mise à jour de l’essai de Malaparte, propose une analyse des dix-huit premiers mois du coup d’État trumpiste. Son auteur n’est pas historien, mais journaliste technocritique. L’ambition de cet essai : dévoiler,  sous la cacophonie virale du trumpisme, cette nouvelle technique du coup d’État devenue une technologie – un ensemble d’outils numériques de calcul et de prédiction, mis au service d’un projet de reconfiguration radicale de la puissance publique –, dont le mode opératoire rompt avec notre perception historique de l’autoritarisme. Malaparte a été condamné à l’exil et son livre brûlé parce que, en dévoilant la manière optimale de prendre le pouvoir sans passer par les urnes ou prendre d’assaut les lieux visibles du pouvoir, il a simultanément dévoilé la meilleure manière de protéger l’État… et de renverser un pouvoir autocratique. Ce qui a provoqué l’ire de Hitler et Mussolini, c’est que Malaparte laissait entendre que n’importe quel groupe un tant soit peu organisé pouvait renverser le Duce et le Troisième Reich. C’était vrai hier, et ce l’est encore aujourd’hui.

Tout en tirant les leçons de l’histoire, l’antifascisme doit adapter ses tactiques aux mutations de l’ennemi, le poursuivre et l’affronter sur son nouvel espace de lutte qu’est l’infrastructure numérique. Les stratégies sont variées. Qu’il s’agisse d’une action comme Occupy Bureaucracy³¹, une armée de fonctionnaires « rouges » désobéissant et sabotant leur propre engin de travail, d’une suite logicielle pirate, étanche aux control freaks de la Silicon Valley, d’une caste d’ingénieurs choisissant la désertion³², l’archipel des résistances ne peut pas se contenter d’être le sable dans la machine de l’oppression : il doit à son tour déployer un algorithme. Devenir le bug, le ver informatique qui anéantira la monstrueuse entreprise du fascisme contemporain technicisé.

L’analyse à froid de la technologie du coup d’État trumpiste et de ses programmeurs nous fournit, en creux, l’antidote au poison de l’autoritarisme, aux États-Unis et dans le reste des démocraties occidentales malades du néolibéralisme. Le phénomène technofasciste n’est pas une rupture, mais une culmination. Trump, Milei et les autres ne sont pas implacables ; Musk, Thiel et les techno-oligarques ne détiennent pas les clés du futur. Leur hégémonie actuelle est artificielle, bâtie sur trente ans de dérégulation et d’impunité légale manufacturées par une classe politique complice. Pour mettre fin à leur règne, il est donc impératif d’observer leur mode opératoire et d’en identifier les vulnérabilités.

Thibault Prévost
Technologie du coup d’Etat, Lux, 2026. 

NOTES

1 Tom Dreisbach et Barbara Van Woerkom, « “This Is Not a Peaceful Protest!” », NPR, 4 janvier 2026.
2 Sur cette question, lire Nastasia Hadjadji et Olivier Tesquet, Apocalypse Nerds. Comment les technofascistes ont pris le pouvoir, Quimperlé, Divergences, 2025.
3 « Here Are the Executive Actions and Orders Trump Signed on Day 1 », The Washington Post, 20 janvier 2025.
4 Gerhard Peters et John T. Woolley (dir.), « Executive Orders: Washington – Trump II », The American Presidency Project, 20 mai 2026.
5 « Workforce Size & Composition », U.S. Office of Personnel Management, mars 2026.
6 Ruth Ben-Ghiat, « The Permanent Counterrevolution », The New Republic, 16 mai 2024.
7 Lulu Garcia-Navarro, « Inside the Heritage Foundation’s Plans for “Institutionalizing Trumpism” », The New York Times, 21 janvier 2024.
8 Paul Dans et Steven Groves (dir.), Mandate for Leadership: The Conservative Promise. Project 2025, Washington, The Heritage Foundation, 2023, p. 3 et 83.
9 Andy Kroll et Nick Surgey, « Watch: 14 Hours of Never-Before-Published Videos from Project 2025’s Presidential Administration Academy », ProPublica, 10 août 2024.
10 Jason Wilson, « Leaked Files Show Far-Right Influences Among Project 2025 Applicants », The Guardian, 28 novembre 2025.
11 Voir le site web Project 2025 Tracker, s. d.
12 Lauren Gambino, « American Democracy on the Brink a Year After Trump’s Inauguration, Experts Say », The Guardian, 21 janvier 2026.
13 Thomas B. Edsall, « Elon Musk Is Leading a “Hostile Takeover of the Federal Government” », The New York Times, 18 février 2025.
14 Charlie Warzel, « The “Rapid Unscheduled Disassembly” of the United States Government », The Atlantic, 3 février 2025.
15 Luke Broadwater et Zach Montague, « Fine Arts Panel, Remade by Trump, Indicates Support for His Ballroom Plan », The New York Times, 22 janvier 2026.
16 Curzio Malaparte, Technique du coup d’État, Paris, Grasset, coll. « Les Cahiers rouges », 2022 [1931], p. 84.
17 Nicolas Guilhot, « D’un chaman à l’autre : théories du complot et impasses du debunking », AOC, 9 novembre 2021.
18 Malaparte, Technique du coup d’État, op. cit., p. 27.
19 Ibid., p. 90.
20 Ibid., p. 40-41.
21 Ibid., p. 40, 56 et 62.
22 Ibid., p. 42 et 56.
23 Robert McCoy, « Stephen Miller’s Charlie Kirk Tribute Was as Sinister as It Gets », The New Republic, 22 septembre 2025.
24 Carole Cadwalladr, « How to Survive the Broligarchy: The Trump- Musk Crackdown Is Coming. Here’s 20 Lessons in How to Survive It », How to Survive the Broligarchy, 17 novembre 2024.
25 Marietje Schaake, « Le coup d’État permanent de la Silicon Valley » dans Giuliano Da Empoli (dir.), L’empire de l’ombre. Guerre et terre au temps de l’IA, Paris, Gallimard, 2025.
26 Lorenzo Castellani, « L’ère de l’accélération réactionnaire », Le Grand Continent, 8 novembre 2024.
27 Woodrow Hartzog et Jessica M. Silbey, « How AI Destroys Institutions », UC Law Journal, vol. 77, no 4, mai 2026, p. 727-770.
28 Justin Hendrix, « Unpacking the Rise of “Smart Authoritarianism” in China », Tech Policy Press, 25 janvier 2026.
29 Francesca Bria, The Authoritarian Stack, site web, 2025.
30 wirelyss, sakshi et Zach, « Everything Is Computer », Know Your Meme, 12 mars 2025.
31 Ned Resnikoff, « The Left Needs Bureaucrats », Dissent, 2026.
32 Jeanne Mermet, Désertons, Paris/Marseille, Les Liens qui Libèrent/Wildproject, 2025.

Dans Technologie du coup d’Etat, les programmeurs de l’Apocalypse (Lux éditeur), le journaliste Thibault Prévost (qui avait déjà signé en 2024, Les prophètes de l’IA – voir notre lecture) dissèque le putsch numérique qui a eu lieu depuis le début du second mandat de Donald Trump, comme une recette, désormais disponible à qui voudra transformer à jamais d’autres régimes politiques. Pour tout comprendre au technofascisme à l’œuvre, ce qu’il transforme, il faut dévorer ce petit livre. On vous en propose l’introduction. Pour lire les pages suivantes, il faudra vous rendre jusqu’à une librairie. Vous ne le regretterez pas. 

Le problème du coup d’État moderne est un problème d’ordre technique.
L’insurrection est une machine […] : il faut des techniciens pour la mettre en mouvement,
et seuls des techniciens peuvent l’arrêter.
Curzio Malaparte, Technique du coup d’État

Six janvier 2021, Washington, D.C. Près de 30 000 personnes sont rassemblées sur la pelouse du parc de l’Ellipse, face à la Maison-Blanche. La foule est là, scande-t-elle, pour « sauver l’Amérique » – comme l’y a exhorté Donald Trump en choisissant d’appeler ce meeting « Save America ». Il est 10 heures du matin, la masse trépigne, sent que quelque chose va se jouer. Depuis la victoire de Joe Biden, annoncée tardivement le 7 novembre, Trump prétend que l’élection a été truquée et que le président légitime, c’est lui. Pour que « cesse le braquage » (« Stop the Steal », un autre slogan), il a rassemblé sa base dans la capitale. L’objectif : faire pression sur le vice-président Mike Pence et le Congrès afin qu’ils invalident la victoire de Joe Biden. C’est sa dernière chance de révoquer le scrutin.

L’atmosphère politique du pays est irrespirable. Depuis plusieurs semaines, les têtes de gondole de l’alt-right – l’animateur complotiste Alex Jones et le militant néonazi Nick Fuentes, pour ne nommer qu’eux – entretiennent le délire trumpiste d’une élection volée et galvanisent les soutiens du président sortant. Le 5 janvier, on a trouvé deux bombes devant les sièges des partis démocrate et républicain. Le matin du 6, les omniprésentes casquettes rouge pompier siglées MAGA (« Make America Great Again ») côtoient les équipements tactiques des milices d’extrême droite Proud Boys et Oath Keepers, dont les états-majors ont annoncé qu’ils viendraient armés au rassemblement, avec l’intention d’en découdre.

Quelques minutes avant midi, Trump prend la parole, protégé par une vitre pare-balles. Il multiplie les appels à se « battre » et à « marcher vers le Capitole », prévient que « si nous ne nous battons pas comme des chiens, nous n’aurons plus de pays »¹. À 13 h 12, après quatre-vingt-quatre minutes de discours, la foule d’Ellipse Park scande « prenons le Capitole ». Son voeu est en train d’être exaucé : à quelques encablures de la Maison-Blanche, 200 à 300 membres des Proud Boys viennent de franchir les barrières de police qui protégeaient l’entrée ouest du siège du Congrès. L’attaque est préméditée : on apprendra plus tard qu’un document intitulé « 1776 Returns » et appelant entre autres à « prendre d’assaut le palais d’Hiver », curieuse référence à la Révolution bolchevique de 1917, avait été distribué dès le 30 décembre dans les rangs de la milice.

À 14 heures, les premiers émeutiers pénètrent dans un bâtiment presque vide. Alors que les derniers députés se retranchent sous la protection des services secrets, 2 000 à 2 500 personnes pillent l’aile nord qui abrite le Sénat et retransmettent l’émeute en direct sur les réseaux sociaux. À 17 heures, le « crime le plus filmé de l’histoire des États-Unis » a été commis. Bilan : 174 blessés dans les rangs de la police, et 5 morts.

Pour la presse états-unienne, le pays vient de vivre une « insurrection », une « émeute », un « soulèvement ». En 2023, le FBI parlera « d’acte de terrorisme intérieur ». Mais, s’il y avait une formule à retenir, ce serait celle de Steve Bannon, qui claironnait dès le 4 janvier son intention d’organiser un « coup d’État sans effusion de sang ». Double échec : le sang a coulé, et le coup d’État a échoué.

La doctrine politique de Steve Bannon, le Raspoutine du premier mandat de Trump, est fortement influencée par ses années passées dans le monde du jeu vidéo et les communautés en ligne. Cet univers repose sur un principe fondateur : politics is downstream from culture – la politique découle de la culture, et particulièrement de la culture web. Et sur une méthode simple : flood the zone with shit – saturez l’espace de contenus viraux, pour entretenir la confusion, arracher de ses gonds la fenêtre d’Overton et sidérer les gardiens habituels de l’acceptabilité politique.

En réalité, Bannon n’a pas inventé la roue. Il s’est contenté de réaffecter à l’extrême droite deux tactiques issues du marxisme – la « bataille culturelle » d’Antonio Gramsci et la « révolution permanente » de Léon Trotski. Sa seule innovation aura été de les adapter à l’ère de la mémétique, en faisant le pari que les extrémistes anonymes et organisés du forum 4chan parviendraient, à force de troller à tout vent, à imposer le régime postdémocratique qu’il appelait de ses vœux.

Mais, en 2020, le monde physique n’est pas encore contraint de refléter le monde numérique. La mascarade finale, gueularde, désordonnée et brutale du premier mandat de Trump en est la preuve. Le chaos, même entretenu, ne fait pas le poids face aux institutions du plus puissant appareil d’État occidental. On ne renverse pas le gouvernement des États-Unis avec des mèmes, un clown venu de la téléréalité et une jacquerie complotiste. À l’agitation et aux effets de manches postmodernes faisaient encore défaut un art du coup d’État. On ne perdait rien pour attendre.

✦

Vingt janvier 2025, Washington D.C.

L’investiture de Trump II s’ouvre sur un paysage politique radicalement différent de celui de 2021. Les rues, cette fois-ci, sont parfaitement calmes. Les milliardaires de la Silicon Valley, qui avaient préféré garder le silence pendant la campagne, sont venus docilement, en ligne, prêter allégeance au nouveau président. Ils ont renoncé à la stratégie de résistance performative qu’ils avaient suivie lors du premier mandat Trump et qui avait culminé, juste après l’assaut du Capitole, avec la désactivation de plusieurs comptes de réseaux sociaux du président déchu. Ayant retourné leur veste moins d’un an plus tard, les chefs du cartel de la tech, ouvertement favorables au projet autoritaire trumpiste, annoncent qu’ils mettront désormais leurs infrastructures numériques au service du nouveau régime, avec zèle et jubilation. Elon Musk, l’homme le plus riche du monde, a investi pas loin de 300 millions de dollars dans la campagne de Trump, s’achetant ainsi un poste de bras droit du président. Ce mariage incongru entre les paléolibertariens du monde MAGA et les transhumanistes mystiques de la Silicon Valley a désormais un nom : le technofascisme².

Steve Bannon et son idéal insurrectionnel, celui d’un petit peuple radicalisé prenant les institutions par les armes, sont dès lors ringardisés. Le populisme et l’autoritarisme ont appris de leurs insuccès. Cette fois-ci, l’objectif est de changer le système de l’intérieur. Et la méthode est nettement mieux aiguisée.

Le changement de régime se fait immédiatement sentir. Dès le premier jour de son mandat, le 47e président des États-Unis signe 26 décrets présidentiels, dont certains particulièrement symboliques. Abolition du droit du sol. Fin du télétravail pour les fonctionnaires. Retrait des États-Unis de l’Accord de Paris sur le climat et de l’Organisation mondiale de la Santé. Annulation des programmes « Égalité, diversité, inclusion » (EDI) mis en place par l’administration Biden. Sursis et peines commuées pour les émeutiers du 6 janvier 20213. Création du Department of Government Efficiency, le ministère de l’Efficacité gouvernementale, en réalité une sorte de ministère de la démolition, réclamé et dirigé par Elon Musk. Son acronyme, DOGE, n’évoque que par hasard la figure de l’autocrate de la cité-État vénitienne : dans le pur style muskien, il est plutôt censé rappeler le dogecoin, une cryptomonnaie dérivée d’une photo de chien devenue un mème.

Le ton est donné : le Donald Trump ahuri de 2016 et ses bouffons d’extrême droite ont cédé la place à une machine de guerre qui a eu quatre ans pour se préparer à prendre, exercer, et surtout garder le pouvoir. Dans les cercles MAGA, on parle désormais ouvertement de la théorie de l’exécutif unitaire – un fantasme autoritaire et soi-disant antibureaucratique de l’ère Reagan qui s’inspire d’une interprétation maximaliste de l’article 2 de la Constitution pour prétendre que le pouvoir exécutif peut être exercé intégralement et exclusivement par le chef de l’État. Ce pouvoir présidentiel serait ainsi hors de portée de l’« État administratif » honni par le parti Républicain, et très au-dessus du pouvoir législatif. Pour son second mandat, Trump, on le sait maintenant, a adopté d’emblée ce mode opératoire : en janvier 2026, après un an de règne jour pour jour, il avait signé 229 décrets exécutifs – soit 9 de plus que durant les quatre années qu’a duré son premier mandat⁴.

Pour Trump et sa nouvelle équipe, hors de question de répéter les erreurs du précédent mandat. Il s’agit, en premier lieu, de ne pas laisser la machinerie fédérale et ses plus de deux millions de fonctionnaires les freiner⁵. Cette fois-ci, il y a un plan. Son nom : Project 2025, une « Mag(n)a carta » contre-révolutionnaire mitonnée par les cerveaux néoconservateurs du lobby Heritage Foundation, un organe « ouvertement autoritariste⁶ », selon la spécialiste du fascisme Ruth Ben-Ghiat. Son président, Kevin Roberts, considère que le premier mandat de Trump, « malgré de bonnes intentions, a démarré trop lentement, tout simplement⁷ ». Le document principal du Project 2025, Mandate for Leadership, explique en plus de 900 pages et 320 objectifs comment « démanteler l’État administratif » pour ensuite « décentraliser et privatiser autant que possible »⁸ ses fonctions, avant d’utiliser les agences restantes pour institutionnaliser le trumpisme.

L’un de ses leviers les plus médiatisés et critiqués est la classification professionnelle Schedule F, mise en place par Trump en 2020, immédiatement annulée par Joe Biden en 2021 puis réinstaurée dès les premiers jours du mandat Trump II. Elle permet de remplacer jusqu’à 50 000 fonctionnaires de carrière par une armée de bureaucrates-activistes loyaux au régime, formés à la guerre contre le deep state (l’État profond) dans une « académie » de Heritage Foundation⁹. Selon des documents internes révélés fin novembre 2025 par le collectif de lanceurs d’alerte DDoSecrets, près de 13 000 candidats avaient suivi la formation¹⁰ pour s’enrôler comme fantassins d’un véritable putsch administratif. La consigne est claire : frapper vite, fort, partout à la fois, from day one, et faire passer un maximum de réformes durant la lune de miel des cent premiers jours.

Message reçu. Les premiers mois du nouveau régime ont fait l’effet d’une effroyable tempête. Chaque jour, pendant que Trump multipliait les décrets et les appels à la haine, de nouvelles agences fédérales étaient pillées par Musk et ses « gardes rouges » du DOGE. D’entières bases de données ont été mises à sac, les employés limogés en masse. La vitesse et l’ampleur de la destruction étaient sidérantes. Un an après le début de l’exercice, 50 % des objectifs du Project 2025 ont été atteints¹¹. Aux yeux des observateurs internationaux, les États-Unis ne sont plus une démocratie fonctionnelle¹².

La presse états-unienne, désorientée, utilise le langage de Wall Street pour décrire une « OPA hostile »¹³ du pays par le duo Trump/Musk. D’autres, plus malicieux, parlent d’un « désassemblage rapide et imprévu¹⁴ » de l’État fédéral – reprenant l’euphémisme utilisé par SpaceX, l’entreprise aérospatiale de Musk, lorsqu’une fusée explose en vol.

Un an pile après le retour de Donald Trump au Bureauovale, tout est en ruines – y compris la Maison-Blanche, dont l’aile est a été rasée en octobre 2025 pour être remplacée par une monstrueuse salle de bal dorée à 400 millions de dollars, largement financée par l’industrie de la tech et des cryptomonnaies. Une allégorie architecturale du nouveau régime : brutal, oligarchique, grotesque, mégalomane¹⁵.

✦

« L’histoire enseigne, a dit Antonio Gramsci, mais elle n’a pas d’élèves. »

Ce que nous prenons pour un phénomène inédit – la désintégration programmée de l’administration fédérale des États-Unis par son propre gouvernement et l’installation d’un nouveau type de régime autoritaire à partir d’une élection démocratique – n’est peut-être en réalité que la réitération d’un événement historique pas si lointain. Pour comprendre le présent, il est souvent nécessaire de regarder par-dessus son épaule. Dans ce cas-ci, on gagne à se pencher sur un court et brillant essai de Curzio Malaparte, publié en France en 1931 et intitulé Technique du coup d’État. Preuve de sa justesse, le livre sera honni par trois de ses protagonistes : censuré par Hitler et brûlé en place publique dans l’Allemagne nazie, condamné par Trotski et banni en URSS, il vaudra aussi à Malaparte d’être confiné sur l’île de Lipari par Mussolini. Qu’a bien pu faire l’intellectuel italien pour mériter un tel traitement ? Rien de moins que de révéler, à travers l’analyse de huit coups d’État modernes, ce que l’on pourrait appeler aujourd’hui le code source du pouvoir au xxe siècle – et, par extension, la méthode pour renverser les dictateurs de l’époque.

La bonne vieille insurrection armée qui prenait d’assaut les écrins traditionnels du pouvoir (palais présidentiel, parlement, palais de justice) et s’appuyait sur la puissance d’une foule galvanisée est déjà désuète en 1931. Cette tactique, écrit Malaparte, « ôte tout caractère révolutionnaire aux séditions militaires. La police défend l’État comme si c’était une ville ; les militaires attaquent l’État comme si c’était une forteresse¹⁶ ». Il s’agit d’un type de soulèvement largement performatif et violent, et surtout, qui s’adapte mal à la réalité du pouvoir dans les sociétés industrielles.

De la même façon, les images comme celles de « QAnon Shaman » dans la salle du Congrès, torse nu, avec sa coiffe de fourrure surmontée de cornes de bison, et son visage bariolé d’un drapeau des États-Unis, peinent à dépasser le saugrenu parce qu’elles montrent un assaut du symbolique. Le 6 janvier 2021, tout n’était que spectacle, mais c’était une performance. « Il s’agissait avant tout de faire acte de présence et de se faire remarquer. […] Les véritables trophées de la journée furent les selfies », résume le professeur d’histoire Nicolas Guilhot¹⁷. Les victimes de cette attaque, en revanche, étaient bien réelles.

Ce jour-là, Trump n’a été qu’un Lénine de bas étage sans son Trotski. On peut imaginer qu’il ait voulu être « le stratège, l’idéologue, l’animateur, le deus ex machina de la révolution »¹⁸, comme l’écrit Malaparte au sujet de Lénine, mais il lui manquait un véritable « créateur de la technique du coup d’État bolchevique ».

Dans les sociétés modernes, imposer un régime et le maintenir, nous dit Malaparte, n’est pas une affaire de circonstances ou d’agitation idéologique. C’est une affaire de méthode. Il faut trouver les moyens appropriés aux conditions du moment. Ainsi, la tactique du 18 Brumaire, le putsch mené par Napoléon Bonaparte, n’est pas celle d’une sédition militaire. Le futur empereur apporte un élément nouveau : « la préoccupation de rester dans la légalité », et le 18 Brumaire représente « le premier coup d’État où l’on voit se poser les problèmes de la tactique révolutionnaire moderne »¹⁹. Mais ce n’est qu’avec la révolution d’octobre 1917 que se révèle la technique moderne du coup d’État.

Le coup de génie de Trotski est simple : ne pas viser le lieu du pouvoir ou les symboles de sa majesté, mais s’emparer de son infrastructure stratégique. Pour la première fois, la sédition n’attaque pas le pouvoir directement chez lui, mais sabote la tuyauterie qui le maintient en place. En amont de son insurrection, raconte Malaparte, Trotski « est parvenu à se procurer le plan des services techniques de la ville » de Petrograd. Ses gardes rouges « étudient sur place la disposition des conduites souterraines d’eau et de gaz, des câbles d’énergie électrique, de téléphone et de télégraphe. Deux d’entre eux ont exploré les égouts qui passent sous la résidence de l’État-major général. […] Il faut être en mesure d’isoler un quartier ou même un simple groupe de maisons en quelques minutes ; Trotski partage donc la ville en secteurs, fixe les points stratégiques, distribue les tâches »²⁰.

Un millier d’hommes, répartis en équipes « d’ouvriers spécialisés, mécaniciens, électriciens, radiotélégraphistes, aux ordres d’ingénieurs, de techniciens connaissant le fonctionnement technique de l’État », infiltrent patiemment « les corridors des centraux téléphoniques et télégraphiques, de l’Hôtel des Postes, des Ministères, de l’État-major général, pour observer la distribution des bureaux, l’installation de la lumière électrique et du téléphone, garder dans les yeux et la mémoire le plan des édifices, et […] chercher dans l’organisation défensive de la machine technique, bureaucratique et militaire de l’État les lieux de moindre résistance, les côtés faibles, les points vulnérables ». Ils « tâtent les rouages de l’organisation technique, provoquent de temps en temps la paralysie partielle des organes les plus délicats ». Selon Malaparte, ce sont « les escarmouches préliminaires de l’insurrection »²¹.

Puis vient l’offensive. Dans la nuit du 6 au 7 novembre, les discrètes troupes d’assaut de Trotski s’emparent des centres névralgiques sans se voir opposer la moindre résistance. Les opérations, écrit Malaparte, « se sont déroulées avec une rapidité et une régularité surprenantes ». Petrograd continue de fonctionner normalement. Les tramways circulent, les magasins restent ouverts, chacun vaque à ses occupations. L’un des événements politiques les plus décisifs du xxe siècle s’est produit dans une indifférence quasi totale.

Qu’en déduit Malaparte ? Plusieurs observations contre-intuitives, mais terriblement justes sur la nature du pouvoir au xxe siècle et la manière la plus efficace de s’en emparer. Contrairement à la vision romantique répandue encore à ce jour, on ne prend pas le pouvoir grâce au soutien populaire ni grâce au charisme surnaturel d’un Grand Homme guidant le peuple. L’écrivain italien affirme que « le problème du coup d’État moderne est un problème d’ordre technique. L’insurrection est une machine […] : il faut des techniciens pour la mettre en mouvement, et seuls des techniciens peuvent l’arrêter ». Il assure que « l’insurrection ne se fait pas avec des masses, mais avec une poignée d’hommes prêts à tout, entraînés à la tactique insurrectionnelle, exercés à frapper rapidement, durement, les centres vitaux et l’organisation technique de l’État ». Qu’elle frappe loin des palais, car « la clef de l’État, ce n’est pas l’organisation bureaucratique et politique […] mais l’organisation technique, c’est-à-dire les centrales électriques, les chemins de fer, les téléphones, les télégraphes, les ports, les gazomètres, les aqueducs ». Enfin, qu’elle est reproductible puisqu’elle « ne dépend pas des conditions politiques, sociales, économiques du pays »²².

Infiltration de l’appareil technique de l’État, occupation des centres névralgiques de communication, sabotage des institutions récalcitrantes par des brigades d’ingénieurs spécialisés : les parallèles avec l’actualité deviennent difficiles à ignorer.

✦

Plus de cent ans après le coup d’État bolchevique, Trump et ses nouveaux stratèges font une mise à jour de la technique malapartienne à l’ère de la numérisation et de l’algorithmie : une technologie du coup d’État parfaitement adaptée à la dématérialisation du pouvoir contemporain dans l’éther de la donnée. Mais alors que Malaparte mettait en scène des

insurgés-techniciens, le modèle Trump II a ceci d’inédit qu’il prône une insurrection programmée par l’exécutif lui-même. Une contre-élite, élue démocratiquement, qui démolit brutalement et méthodiquement les institutions qui lui confèrent sa légitimité. L’éphémère DOGE, aboli après six mois d’(hyper)activité, en est évidemment la manifestation la plus agressive et la plus transparente. Véritable matérialisation technique des préceptes du Project 2025, il a parfaitement rempli sa mission – choquer, démolir, paralyser. Tel un ver informatique, les voilà encodés, lui et ses principes, au plus profond de la nouvelle administration. Fin du premier chapitre du coup d’État technologique.

Une fois l’ancien régime fédéral renversé, place à la consolidation de son successeur. En l’an 2 du trumpisme, la révolution (permanente) est avant tout l’oeuvre de deux proches collaborateurs de Trump. Ce sont eux qui définissent le mode opératoire du régime. Eux qui tracent le double horizon idéologique – la mort de l’État social et la « régénération » raciale des États-Unis – pour un exécutif qui, sans cela, ne serait que pure action. En effet, loin d’être un idéologue cohérent, Trump agit comme un générateur, un soleil noir auprès duquel ses lieutenants plus capables viennent s’alimenter en énergie. En arbitrant au minimum les disputes lorsque la situation l’exige, il assure un semblant de cohésion entre les multiples factions concurrentes de la coalition MAGA, aux objectifs politiques parfois incompatibles. Le reste du temps, il entretient le chaos d’une outrance, d’une insulte ou d’une pulsion.

Le technicien en chef, que Trump et son équipe ont affublé du sobriquet de « Grim Reaper » (grande faucheuse), s’appelle en vérité Russell Vought. Responsable, pour la seconde fois sous Trump, du Bureau de la gestion et du budget, c’est lui qui répartit aux quatre coins de l’État fédéral l’argent alloué par le Congrès. Bureaucrate discret, vétéran de Washington mû par une haine tenace de l’« État profond », il est à l’origine d’une partie des propositions de Project 2025. 

Alors que Vought agit comme président de l’ombre, l’omniprésent et hyperactif Stephen Miller est perçu comme son premier ministre officieux. Chef de cabinet adjoint chargé des politiques, il assure le déploiement de l’industrie technopolicière de surveillance, ordonne les enlèvements de masse, accélère perpétuellement la concentration et la déportation des étrangers. Agent commercial de la xénophobie trumpiste au crâne toujours impeccablement rasé, il n’hésite pas à s’afficher en tenant du suprémacisme blanc comme en septembre 2025, lorsqu’il a affirmé ce qui suit lors de l’oraison funèbre du défunt Charlie Kirk : « Notre lignée, notre héritage remonte à Athènes, à Rome, à Philadelphie, à Monticello. […] Vous n’avez pas idée à quel point nous sommes déterminés à sauver cette civilisation, sauver l’Occident, et sauver cette république²³. » En fait, une idée, on peut s’en faire une, sur la base de quelques statistiques éloquentes : sous ses ordres, l’agence fédérale ICE (Immigration and Customs Enforcement, soit le Service de l’immigration et des douanes), est devenue le bras armé du régime. Les 350 000 personnes déportées en un an et les 70 000 personnes détenues dans les camps de concentration (administrés, en grande majorité, par des entreprises privées comme GEO Group ou CoreCivic) ne suffisent pas : Miller et Trump visent un million de déportations par an. Sans se soucier une seconde de l’État de droit.

Ce qui relie entre elles les diverses et parfois contradictoires manifestations du trumpisme, c’est la technologie matricielle qui a permis le coup d’État technofasciste, oeuvre de la Silicon Valley devenue de facto le système nerveux central des États-Unis et d’autres gouvernements autoritaires ou en passe de le devenir. On peut observer le régime de Trump sous toutes ses coutures, on trouve partout la patte de la Silicon Valley. Ce sont ses entreprises, des béhémoths comme Alphabet, Meta ou Amazon, et les nouvelles (et déjà gigantesques) startups faiseuses d’IA comme OpenAI, Palantir ou Anduril, qui fournissent les technologies de calcul, d’analyse, de prédiction et de contrôle, indispensables à la reconfiguration organisationnelle du pays. Ce sont ses patrons mystiques – le trio sud-africain de la « PayPal Mafia » formé par Elon Musk, Peter Thiel et David Sacks, ou les nouvelles figures du complexe « militaro-industriel numérique » comme Alex Karp ou Palmer Luckey –, conscrits dans une administration Trump avec qui ils forment une « broligarchie » (l’oligarchie version tech bros), qui font le lien entre l’exécutif et l’infrastructure technofasciste sur le terrain²⁴.

Le trumpisme du second mandat n’aurait jamais pu exister sans l’architecture logicielle et matérielle d’une industrie numérique dont l’appétit expansionniste et le mépris des normes démocratiques laissaient déjà craindre, en 2024, un « coup d’État permanent »²⁵. Les fantassins de Trump n’auraient jamais pu neutraliser les agences fédérales, pas plus qu’ils n’auraient pu traquer les fonctionnaires récalcitrants, ficher les « ennemis de l’intérieur » toujours plus nombreux, maintenir le panoptique technopolicier et la machine à déportation ou anéantir l’unité fédérale pour satisfaire les désirs sécessionnistes de cette contre-élite et de son projet d’« accélération réactionnaire »²⁶. Et la clé de voûte technologique de ce régime est indéniablement ce que l’on appelle désormais « intelligence artificielle » : des systèmes de calcul « construits pour fonctionner de manière à dégrader et potentiellement détruire les institutions civiques indispensables²⁷ » comme l’État de droit, la presse ou l’université. Des machines à asphyxier le corps social, en l’amputant de ses mécanismes de délibération et de production de connaissances.

En 2026, les États-Unis et la Chine sont deux itérations d’un même système d’exploitation, que la chercheuse Jennifer Lind nomme « smart authoritarianism²⁸ » (autoritarisme intelligent) : des régimes antidémocratiques qui, consolidés par les technologies de répression numériques du capitalisme de surveillance, peuvent désormais se permettre de maintenir une apparence parlementaire tout en exerçant une oppression constante et réticulaire sur leur population. La Silicon Valley, bassin de l’industrie la plus puissante de la planète, est le socle du nouveau fascisme états-unien. Ses multinationales, ses PDG, ses logiciels, son ethos, son matériel et ses fonds d’investissement sont intégrés à l’appareil d’État trumpiste qui réécrit les lois et réaffecte l’argent public en faveur de ces champions du « patriotisme technologique ». L’alliance est rentable pour les deux parties, qui fonctionnent comme un duopole immuable. Pouvoir, argent et infrastructures se concentrent toujours plus entre les mêmes mains.

L’économiste italienne Francesca Bria a récemment cartographié ce réseau de collaborations mutuellement bénéfiques, de contrats publics et de capture réglementaire. Empruntant au vocabulaire des réseaux informatiques, elle décrit le résultat de cette intégration réciproque entre puissance publique et technocapital comme une « stack autoritaire »²⁹ – une pile cohérente d’entités techniques, juridiques, financières et politiques, qui n’oeuvre plus qu’à la consolidation de son propre monopole. Une oligarchie de droit technologique dont le maillage se resserre à chaque nouveau contrat public, et qui pourrait devenir, à l’instar de Palantir, totalement indélogeable, quand bien même Trump et ses « gardes rouges » seraient éjectés du pouvoir par les urnes. Là où Trotski et ses hommes se contentaient de prendre le contrôle des infrastructures, les technofascistes et leurs soutiens MAGA deviennent l’État. Entrés par effraction puis progressivement métastasés dans l’organisme public, ils deviennent impossibles à extraire.

Ou, pour reprendre les mots d’un Donald Trump ahuri, qui philosophait durant les premiers jours de son second mandat, assis au volant d’une Tesla rouge devant la Maison-Blanche : everything’s computer (tout est ordinateur)³⁰.

✦

Comment lutter contre une technologie du coup d’État qui forme simultanément un coup d’État technologique ? Quelles stratégies, quelles technologies mobiliser en retour pour freiner la propagation de l’infection trumpiste aux autres pays néolibéraux, notamment européens, dont les appareils d’État sont déjà affaiblis par leur dépendance structurelle aux logiciels de la Silicon Valley ? Comment empêcher le coup d’État lorsque les administrations contemporaines barbotent dans l’environnement logiciel fourni par Microsoft, lorsque leurs données dorment sur des serveurs Amazon, lorsque leurs employés communiquent grâce à Gmail, Teams et WhatsApp, et lorsque les ministères communiquent en priorité sur X ?

Pour nos nations vassalisées, repenser les structures de gouvernance au xxie siècle n’est plus seulement une question de souveraineté, mais de survie. Car les parasites des extrêmes droites européennes ont bien compris une chose : dans un pouvoir informatisé, le coup d’État prend lui-même la forme d’un logiciel, un algorithme – au sens générique du mot, un « ensemble de règles opératoires dont l’application permet de résoudre un problème énoncé au moyen d’un nombre fini d’opérations » – c’est ce que l’on constatera dans l’analyse méthodique de la « méthode DOGE », théorisée bien avant l’arrivée d’Elon Musk sous le chapiteau trumpiste. L’exemple MAGA leur a fourni un tutoriel pas à pas, exportable et potentiellement transposable à toute situation et toute entité politique – puisque, rappelons-nous Malaparte, le coup d’État ne dépend ni de conditions politiques et sociales préalables ni du charisme d’un idéologue particulier. En conséquence, avec l’appui logistique de son fournisseur états-unien, une internationale réactionnaire planétaire, allant de l’Argentin Javier Milei jusqu’à l’Italienne Giorgia Meloni, reprend, affine et met à jour la recette insurrectionnelle contemporaine, à l’intention des prochains qui passeront devant les urnes.

L’algorithme s’exporte, se partage, se télécharge. D’autres autocrates en puissance, souvent députés de la nation, trépignent dans leurs starting-blocks ; au Royaume-Uni, en France, au Canada et ailleurs. À leur tour, ils planifient, cartographient, testent les vulnérabilités. Comme ces puissants groupes de hackers invisibles, que le monde de la cybersécurité appelle génériquement un APT (advanced persistent threat, menace persistante avancée), qui s’infiltrent durant des années dans des systèmes informatiques massifs, sans déclencher d’alerte, jusqu’à en posséder virtuellement le contrôle. Partout en Europe, le technofascisme se veut l’APT tapi dans les serveurs de la démocratie numérisée.

Ce livre, pensé comme une mise à jour de l’essai de Malaparte, propose une analyse des dix-huit premiers mois du coup d’État trumpiste. Son auteur n’est pas historien, mais journaliste technocritique. L’ambition de cet essai : dévoiler,  sous la cacophonie virale du trumpisme, cette nouvelle technique du coup d’État devenue une technologie – un ensemble d’outils numériques de calcul et de prédiction, mis au service d’un projet de reconfiguration radicale de la puissance publique –, dont le mode opératoire rompt avec notre perception historique de l’autoritarisme. Malaparte a été condamné à l’exil et son livre brûlé parce que, en dévoilant la manière optimale de prendre le pouvoir sans passer par les urnes ou prendre d’assaut les lieux visibles du pouvoir, il a simultanément dévoilé la meilleure manière de protéger l’État… et de renverser un pouvoir autocratique. Ce qui a provoqué l’ire de Hitler et Mussolini, c’est que Malaparte laissait entendre que n’importe quel groupe un tant soit peu organisé pouvait renverser le Duce et le Troisième Reich. C’était vrai hier, et ce l’est encore aujourd’hui.

Tout en tirant les leçons de l’histoire, l’antifascisme doit adapter ses tactiques aux mutations de l’ennemi, le poursuivre et l’affronter sur son nouvel espace de lutte qu’est l’infrastructure numérique. Les stratégies sont variées. Qu’il s’agisse d’une action comme Occupy Bureaucracy³¹, une armée de fonctionnaires « rouges » désobéissant et sabotant leur propre engin de travail, d’une suite logicielle pirate, étanche aux control freaks de la Silicon Valley, d’une caste d’ingénieurs choisissant la désertion³², l’archipel des résistances ne peut pas se contenter d’être le sable dans la machine de l’oppression : il doit à son tour déployer un algorithme. Devenir le bug, le ver informatique qui anéantira la monstrueuse entreprise du fascisme contemporain technicisé.

L’analyse à froid de la technologie du coup d’État trumpiste et de ses programmeurs nous fournit, en creux, l’antidote au poison de l’autoritarisme, aux États-Unis et dans le reste des démocraties occidentales malades du néolibéralisme. Le phénomène technofasciste n’est pas une rupture, mais une culmination. Trump, Milei et les autres ne sont pas implacables ; Musk, Thiel et les techno-oligarques ne détiennent pas les clés du futur. Leur hégémonie actuelle est artificielle, bâtie sur trente ans de dérégulation et d’impunité légale manufacturées par une classe politique complice. Pour mettre fin à leur règne, il est donc impératif d’observer leur mode opératoire et d’en identifier les vulnérabilités.

Thibault Prévost
Technologie du coup d’Etat, Lux, 2026. 

NOTES

1 Tom Dreisbach et Barbara Van Woerkom, « “This Is Not a Peaceful Protest!” », NPR, 4 janvier 2026.
2 Sur cette question, lire Nastasia Hadjadji et Olivier Tesquet, Apocalypse Nerds. Comment les technofascistes ont pris le pouvoir, Quimperlé, Divergences, 2025.
3 « Here Are the Executive Actions and Orders Trump Signed on Day 1 », The Washington Post, 20 janvier 2025.
4 Gerhard Peters et John T. Woolley (dir.), « Executive Orders: Washington – Trump II », The American Presidency Project, 20 mai 2026.
5 « Workforce Size & Composition », U.S. Office of Personnel Management, mars 2026.
6 Ruth Ben-Ghiat, « The Permanent Counterrevolution », The New Republic, 16 mai 2024.
7 Lulu Garcia-Navarro, « Inside the Heritage Foundation’s Plans for “Institutionalizing Trumpism” », The New York Times, 21 janvier 2024.
8 Paul Dans et Steven Groves (dir.), Mandate for Leadership: The Conservative Promise. Project 2025, Washington, The Heritage Foundation, 2023, p. 3 et 83.
9 Andy Kroll et Nick Surgey, « Watch: 14 Hours of Never-Before-Published Videos from Project 2025’s Presidential Administration Academy », ProPublica, 10 août 2024.
10 Jason Wilson, « Leaked Files Show Far-Right Influences Among Project 2025 Applicants », The Guardian, 28 novembre 2025.
11 Voir le site web Project 2025 Tracker, s. d.
12 Lauren Gambino, « American Democracy on the Brink a Year After Trump’s Inauguration, Experts Say », The Guardian, 21 janvier 2026.
13 Thomas B. Edsall, « Elon Musk Is Leading a “Hostile Takeover of the Federal Government” », The New York Times, 18 février 2025.
14 Charlie Warzel, « The “Rapid Unscheduled Disassembly” of the United States Government », The Atlantic, 3 février 2025.
15 Luke Broadwater et Zach Montague, « Fine Arts Panel, Remade by Trump, Indicates Support for His Ballroom Plan », The New York Times, 22 janvier 2026.
16 Curzio Malaparte, Technique du coup d’État, Paris, Grasset, coll. « Les Cahiers rouges », 2022 [1931], p. 84.
17 Nicolas Guilhot, « D’un chaman à l’autre : théories du complot et impasses du debunking », AOC, 9 novembre 2021.
18 Malaparte, Technique du coup d’État, op. cit., p. 27.
19 Ibid., p. 90.
20 Ibid., p. 40-41.
21 Ibid., p. 40, 56 et 62.
22 Ibid., p. 42 et 56.
23 Robert McCoy, « Stephen Miller’s Charlie Kirk Tribute Was as Sinister as It Gets », The New Republic, 22 septembre 2025.
24 Carole Cadwalladr, « How to Survive the Broligarchy: The Trump- Musk Crackdown Is Coming. Here’s 20 Lessons in How to Survive It », How to Survive the Broligarchy, 17 novembre 2024.
25 Marietje Schaake, « Le coup d’État permanent de la Silicon Valley » dans Giuliano Da Empoli (dir.), L’empire de l’ombre. Guerre et terre au temps de l’IA, Paris, Gallimard, 2025.
26 Lorenzo Castellani, « L’ère de l’accélération réactionnaire », Le Grand Continent, 8 novembre 2024.
27 Woodrow Hartzog et Jessica M. Silbey, « How AI Destroys Institutions », UC Law Journal, vol. 77, no 4, mai 2026, p. 727-770.
28 Justin Hendrix, « Unpacking the Rise of “Smart Authoritarianism” in China », Tech Policy Press, 25 janvier 2026.
29 Francesca Bria, The Authoritarian Stack, site web, 2025.
30 wirelyss, sakshi et Zach, « Everything Is Computer », Know Your Meme, 12 mars 2025.
31 Ned Resnikoff, « The Left Needs Bureaucrats », Dissent, 2026.
32 Jeanne Mermet, Désertons, Paris/Marseille, Les Liens qui Libèrent/Wildproject, 2025.

Dans un article du Monde Diplomatique de novembre 2011, le chercheur Frédéric Kaplan avait introduit la riche notion de « capitalisme linguistique ». Dans un petit livre pour Actes Sud, Dealers de mots, il revisite son concept à l’heure de l’IA générative pour souligner combien la fortune du capitalisme linguistique est plus totale qu’elle ne l’était quand Google inventait son Page rank, son algorithme de classement des résultats de recherche. Parier sur les mots a permis à Google de bâtir son empire et désormais bâtit ceux des producteurs d’IA. La langue est plus que jamais le pouvoir et certains l’accaparent au risque de nous en déposséder. 

A l’heure où nous faisons nôtres les mots produits par des machines ou plutôt à l’heure où nous louons à d’autres nos capacités d’expression, l’usage de « prothèses linguistiques » nous exproprie toujours plus de notre propre parole. Tous nos discours ont été accaparés par quelques entreprises se forgeant un capital qu’elles n’ont plus qu’à nous revendre. 

Dans son livre, le chercheur raconte l’évolution du capitalisme linguistique comme un roman, avec beaucoup de clarté, d’une manière très accessible. Une histoire que Google s’est longtemps accaparé, la firme transformant le classement des pages par les mots puis réinventant leur modèle économique par la publicité avec Adwords. « Tout ce qui peut être nommé peut donner lieu à une enchère ». Et l’immense capital accumulé par Google provient tout entier de ce marché : celui de la vente des mots. La somme des données linguistiques accumulées est devenue l’un des capitaux moteurs du capitalisme technologique. La plus value désormais consiste à découpler totalement la valeur économique des textes écrits du travail nécessaire pour les produire. C’est-à-dire de les réexploiter sans avoir à les payer : leur donner une nouvelle existence économique pour leur faire produire de nouvelles valeurs encore. Un capitalisme visant à exploiter la connaissance sous toutes ses formes, comme un raffinage nouveau d’une première extraction afin de produire non seulement de la connaissance mais plus encore des machines à connaissance. « Chaque année, Google gagne des centaines de milliards de dollars simplement en organisant la vente des mots à l’échelle planétaire » (493 millions de dollars par jour de chiffre d’affaires en 2020). Kaplan explique que le capital linguistique n’est rien d’autre que la somme des données linguistiques accumulées par un acteur. Ce capital résulte de l’extraction de textes existants et consiste à les accumuler pour les valoriser sous formes de services. Il consiste à capter, « idéalement sans les payer, ces écritures productives de valeur ». Ce nouveau territoire d’exploitation à l’avantage d’être peu balisé et peu réglementé, hormis par la propriété intellectuelle dont il exploite les failles. 

Pour Kaplan, le modèle économique de Google ne repose pas tant sur une économie de l’attention, que sur une économie de l’expression, c’est-à-dire d’être un médiateur de l’écrit. Le but est bien plus d’optimiser l’efficacité de l’écrit, d’optimiser l’écriture, d’infléchir les productions à son profit et au profit de ses outils et services. Google nous corrige parce que les mots sont exploitables, à l’image des systèmes d’autocomplétion. Les corrections sont orientées « selon la valeur économique donnée par le marché aux expressions produites ». Nous écrivons via les outils de Google et Google peut exploiter chaque mouvement des productions langagières. Et la vente des mots se faisant sans effort, Google dégage des profits lui permettant de produire des projets sans contrainte de rentabilité. 

Google ne fait pas qu’intercepter les flux de discours, il s’est également lancé dans des opérations d’extraction langagière, comme Google Books, qui a permis de numériser plus de 40 millions de livres, rappelle Kaplan, « l’équivalent de 820 millions d’années de travail ». Là, encore, Google a fait grandir son capital épistémique, accumulant « métaphores, personnages, concepts, faits ». Le lancement de ChatGPT en novembre 2022 a produit une nouvelle démonstration de la valeur qui pouvait être extraite de ce capital linguistique, dont la plupart des technologies sous-jacentes ont été produites par les équipes de Google (notamment la technologie Transformer). Le chercheur, rappelle d’ailleurs, avec une grande pédagogie, combien l’invention de cette linguistique plate, statistique, probabiliste, n’est pas autre chose que la continuité de l’approche que Google a appliqué avec Page Rank et Adwords. Désormais, la valeur du capital linguistique repose sur « la longueur cumulée de toutes les séquences de tokens auxquelles un acteur à un accès exclusif », car c’est ce capital même qui va permettre d’ajuster les paramètres des systèmes d’IA, de les ajuster depuis « la table de mixage du Transformer ». Dans cette reconfiguration, « seules comptent les performances de calcul des réseaux et la taille des données d’entraînement ». La performance des systèmes n’est qu’une question de puissance, de volume, d’argent. La puissance, la force brute, les volumes d’investissements… sont devenus les seuls enjeux et consistent à prendre le contrôle d’un marché depuis des logiques de pertes assumées. 

OpenAI ne disposait pourtant pas du capital linguistique de Google. Pour résoudre cette difficulté, il a fait ce que Google avait fait avant lui : moissonner l’ensemble du web, comme l’a montré l’enquête du Washington Post. Dans ce moissonnage, tout l’enjeu est de qualifier les données pour donner plus de poids à certains contenus plutôt qu’à d’autres, notamment aux contenus issus de la presse. Dans la course au capital linguistique, désormais, les acteurs tentent de trouver des ressources exclusives permettant d’affiner leurs modèles pour produire d’innombrables « simulateurs de discours ». Mais plus encore désormais les différences tiennent bien plus dans les paramètrages, les phases d’entraînement et de renforcement. Pour Kaplan, les guerres du capitalisme linguistique risquent surtout de refermer les projets d’ouverture de la science. « Si le capital linguistique devient une ressource précieuse, liée à une forme de souveraineté linguistique nationale, il peut paraître irresponsable de l’offrir librement à n’importe quel acteur. Les grandes entreprises de l’intelligence artificielle l’ont compris depuis plusieurs années déjà : les corpus les plus stratégiques pour l’entraînement des modèles de langage ne sont jamais rendus publics ».

Le risque de l’atrophie linguistique

Nous sommes désormais enjoints à vivre avec les simulateurs de discours. Et cela n’est pas sans conséquences. Dans tous les domaines où le texte est moteur, les crises sont là : journalisme, éducation, droit… En exploitant la langue, c’est elle-même qui est transformée et en ré-exploitant les textes, c’est leur condition de production largement artisanale qui est menacée. L’économie du texte construit sur la difficulté à écrire est d’un coup bouleversée par les modèles de langage. En sciences, cela conduit par exemple à l’effondrement des modèles d’évaluation. A l’école, cela conduit à interroger le sens même de l’apprentissage. Tout notre édifice épistémique, construit sur les performances rédactionnelles, vacille, sous les coups du développement du capitalisme linguistique. Partout, les machines qui écrivent réévaluent la valeur du travail d’écriture dans les structures de management. Du code au droit, des contrats aux instructions, de l’information aux textes instrumentaux (compte rendu, demandes de rendez-vous, courriers administratifs…), c’est la pertinence même des processus bureaucratiques qui est remise en question. « Ecrire avec la machine à écrire de quelqu’un d’autre, c’est prendre le risque de se voir voler son texte ». Mais plus encore d’en être non seulement dépossédé, quand ce n’est pas remplacé par les productions automatisées. Derrière ces enjeux épistémiques, c’est l’épistémologie elle-même qui est remise en question. « L’écriture algorithmique change notre confiance dans l’écrit », explique Kaplan. Mais c’est désormais à chacun d’entre nous de gérer cela, dans une relation d’autant plus difficile que ces textes sont construits pour « cacher la nature des procédés qui les ont engendrés ». 

Pour le professeur en Humanités numériques, nous sommes confrontés désormais à notre prolétarisation linguistique. Nous sommes désormais invités à payer pour écrire tant de mots (tokens) par mois, avec des prothèses plus ou moins sophistiquées, plus ou moins chères. L’usage de la langue n’est plus vendu seulement aux annonceurs, mais elle est désormais revendue à chacun d’entre nous. Les prothèses linguistiques sont partout. Elles interviennent dans la production, l’interprétation, la transmission. Elles améliorent l’efficacité, la précision ou la qualité ou la dénaturent. Nous déléguons nos compétences au risque de les abandonner, au risque de transformer profondément nos propres savoir-faire, comme le souligne très bien la philosophe Anne Alombert dans ses travaux, notamment son dernier livre, De la bêtise artificielle. Avec ces prothèses, le risque d’une atrophie de nos compétences semble plus certaine que celui d’un élargissement des compétences linguistiques du plus grand nombre. « Chaque fois qu’une technique prend en charge une faculté humaine, elle en accroît la puissance tout en affaiblissant la maîtrise (…). Les prothèses qui étendent notre intelligence risquent aussi de nous en déposséder si nous ne réinventons pas sans cesse notre façon de penser et d’agir avec elles ». Pour Kaplan, le risque d’une « atrophie expressive », d’une incapacité à composer un discours sans intermédiation est devant nous. « Le locuteur est devenu un locataire ». Nous écrivons et parlons par l’intermédiaire de mots que nous louons à ceux qui possèdent les machines. 

Le capitalisme linguistique dévore le monde

Pour Kaplan, même si nous ne nous y sommes pas encore habitué, ce capitalisme linguistique là est pourtant peut-être déjà derrière nous ! 

Dans le premier régime du capitalisme linguistique, on a revendu les mots aux annonceurs. Dans le second, on peut désormais revendre les mots aux utilisateurs. Dans le troisième, les simulateurs linguistiques peuvent désormais construire, agir, décider. Depuis quelques instructions, les systèmes construisent des systèmes. « Dans le premier régime, les mots qui s’accumulent de façon exponentielle permettent l’organisation d’une bourse qui se globalise à l’échelle mondiale et peut générer des centaines de milliards de dollars de revenus. Dans le deuxième régime, les avancées des modèles de langage prédictifs rendent possibles des prothèses linguistiques d’une expressivité croissante, favorisant l’élargissement des parts de marché et l’accumulation accélérée de capital linguistique supplémentaire. Enfin, dans le troisième régime, l’augmentation conjointe des capacités de calcul et des volumes de données permet de produire des modèles capables de simuler des raisonnements plus complexes ou de résoudre des tâches plus difficiles, sans qu’il soit nécessaire d’apporter des changements significatifs à la nature des architectures informatiques. Il suffit d’investir davantage dans les centres de calcul pour bénéficier de cette augmentation des performances cognitives des modèles. » Avec l’arrivée de « l’autocatalyse cognitive », le capital linguistique croit alors de façon quasi automatique. L’IA agentique promet désormais la grande orchestration des systèmes entre eux et la production d’agents à la carte, facturés selon leur degré d’expertise. « Cette mise au travail du capital linguistique ne se déploie pas comme une superintelligence omnisciente, mais comme une force d’engendrement qui tire sa puissance des boucles de rétroaction dans lesquelles elle s’inscrit. » « Nous sommes en train de passer d’un savoir hérité des communautés humaines à un savoir auto-entretenu par les modèles ». Pour Kaplan, ce sont nos systèmes culturels mêmes qui sont en train d’être transformés, de changer d’état, de phase. Le risque, conclut le chercheur, c’est de basculer dans un quatrième régime du capitalisme linguistique : celui du contrôle de la production du discours et de la langue elle-même. Une forme de convergence des discours, une homogénéisation voire un aplatissement de la langue, structurant une lecture du monde unique. Une logique proche de la novlangue imaginée par George Orwell : « une langue conçue pour limiter la liberté de pensée et d’expression, par l’introduction progressive de contradictions internes. La guerre, c’est la paix ; la liberté, c’est l’esclavage ; l’ignorance, c’est la force ». Mais est-ce les machines qui nous conduisent à cette impasse ? Cette langue est aujourd’hui celle des discours les plus confus et elle n’est pas tant produite par les machines que par les hommes et les idéologies qu’ils activent. 

Ce qui est sûr, c’est que le glissement culturel a commencé. En avril 2025, le trafic de Wikipédia, de Youtube, de Facebook et Google a commencé à baisser, alors que celui de l’IA, partout, explose. « L’attention se détourne des contenus construits, discutés et sourcés, pour s’orienter vers des savoirs instantanés et contextualisés ». Le document disparaît. Il est désormais recomposé à la volée. « Le quatrième régime du capitalisme linguistique confère un pouvoir démesuré à ceux qui contrôlent les modèles ». Kaplan plaide certes pour une reprise en main pour construire des corpus et des modèles publics, des modèles à code et paramètres ouverts. Nous devons garder la main sur les forces de production du langage, « avant que n’ayons peut-être plus les mots pour imaginer comment faire ». Le constat qui s’annonce est d’autant plus sombre que la puissance des outils tourne la tête de tous. 

Si l’essai de Frédéric Kaplan manque souvent de perspective critique, notamment sur les errements que ces systèmes produisent où sur les gens que ces systèmes exploitent, sa force réside surtout dans sa clarté et dans l’éclairage que produisent les concepts. Reste que si face au capitalisme de surveillance, on pouvait encore réclamer ou opposer une exigence d’une moindre surveillance. Face au capitalisme qui exploite nos propres mots pour nous en déposséder, on ne sait plus quels leviers adresser pour le contenir voire le faire refluer. Face à l’exploitation de notre propre pensée, c’est assurément nous-mêmes qui en seront dépossédés.

Hubert Guillaud

Dans un article du Monde Diplomatique de novembre 2011, le chercheur Frédéric Kaplan avait introduit la riche notion de « capitalisme linguistique ». Dans un petit livre pour Actes Sud, Dealers de mots, il revisite son concept à l’heure de l’IA générative pour souligner combien la fortune du capitalisme linguistique est plus totale qu’elle ne l’était quand Google inventait son Page rank, son algorithme de classement des résultats de recherche. Parier sur les mots a permis à Google de bâtir son empire et désormais bâtit ceux des producteurs d’IA. La langue est plus que jamais le pouvoir et certains l’accaparent au risque de nous en déposséder. 

A l’heure où nous faisons nôtres les mots produits par des machines ou plutôt à l’heure où nous louons à d’autres nos capacités d’expression, l’usage de « prothèses linguistiques » nous exproprie toujours plus de notre propre parole. Tous nos discours ont été accaparés par quelques entreprises se forgeant un capital qu’elles n’ont plus qu’à nous revendre. 

Dans son livre, le chercheur raconte l’évolution du capitalisme linguistique comme un roman, avec beaucoup de clarté, d’une manière très accessible. Une histoire que Google s’est longtemps accaparé, la firme transformant le classement des pages par les mots puis réinventant leur modèle économique par la publicité avec Adwords. « Tout ce qui peut être nommé peut donner lieu à une enchère ». Et l’immense capital accumulé par Google provient tout entier de ce marché : celui de la vente des mots. La somme des données linguistiques accumulées est devenue l’un des capitaux moteurs du capitalisme technologique. La plus value désormais consiste à découpler totalement la valeur économique des textes écrits du travail nécessaire pour les produire. C’est-à-dire de les réexploiter sans avoir à les payer : leur donner une nouvelle existence économique pour leur faire produire de nouvelles valeurs encore. Un capitalisme visant à exploiter la connaissance sous toutes ses formes, comme un raffinage nouveau d’une première extraction afin de produire non seulement de la connaissance mais plus encore des machines à connaissance. « Chaque année, Google gagne des centaines de milliards de dollars simplement en organisant la vente des mots à l’échelle planétaire » (493 millions de dollars par jour de chiffre d’affaires en 2020). Kaplan explique que le capital linguistique n’est rien d’autre que la somme des données linguistiques accumulées par un acteur. Ce capital résulte de l’extraction de textes existants et consiste à les accumuler pour les valoriser sous formes de services. Il consiste à capter, « idéalement sans les payer, ces écritures productives de valeur ». Ce nouveau territoire d’exploitation à l’avantage d’être peu balisé et peu réglementé, hormis par la propriété intellectuelle dont il exploite les failles. 

Pour Kaplan, le modèle économique de Google ne repose pas tant sur une économie de l’attention, que sur une économie de l’expression, c’est-à-dire d’être un médiateur de l’écrit. Le but est bien plus d’optimiser l’efficacité de l’écrit, d’optimiser l’écriture, d’infléchir les productions à son profit et au profit de ses outils et services. Google nous corrige parce que les mots sont exploitables, à l’image des systèmes d’autocomplétion. Les corrections sont orientées « selon la valeur économique donnée par le marché aux expressions produites ». Nous écrivons via les outils de Google et Google peut exploiter chaque mouvement des productions langagières. Et la vente des mots se faisant sans effort, Google dégage des profits lui permettant de produire des projets sans contrainte de rentabilité. 

Google ne fait pas qu’intercepter les flux de discours, il s’est également lancé dans des opérations d’extraction langagière, comme Google Books, qui a permis de numériser plus de 40 millions de livres, rappelle Kaplan, « l’équivalent de 820 millions d’années de travail ». Là, encore, Google a fait grandir son capital épistémique, accumulant « métaphores, personnages, concepts, faits ». Le lancement de ChatGPT en novembre 2022 a produit une nouvelle démonstration de la valeur qui pouvait être extraite de ce capital linguistique, dont la plupart des technologies sous-jacentes ont été produites par les équipes de Google (notamment la technologie Transformer). Le chercheur, rappelle d’ailleurs, avec une grande pédagogie, combien l’invention de cette linguistique plate, statistique, probabiliste, n’est pas autre chose que la continuité de l’approche que Google a appliqué avec Page Rank et Adwords. Désormais, la valeur du capital linguistique repose sur « la longueur cumulée de toutes les séquences de tokens auxquelles un acteur à un accès exclusif », car c’est ce capital même qui va permettre d’ajuster les paramètres des systèmes d’IA, de les ajuster depuis « la table de mixage du Transformer ». Dans cette reconfiguration, « seules comptent les performances de calcul des réseaux et la taille des données d’entraînement ». La performance des systèmes n’est qu’une question de puissance, de volume, d’argent. La puissance, la force brute, les volumes d’investissements… sont devenus les seuls enjeux et consistent à prendre le contrôle d’un marché depuis des logiques de pertes assumées. 

OpenAI ne disposait pourtant pas du capital linguistique de Google. Pour résoudre cette difficulté, il a fait ce que Google avait fait avant lui : moissonner l’ensemble du web, comme l’a montré l’enquête du Washington Post. Dans ce moissonnage, tout l’enjeu est de qualifier les données pour donner plus de poids à certains contenus plutôt qu’à d’autres, notamment aux contenus issus de la presse. Dans la course au capital linguistique, désormais, les acteurs tentent de trouver des ressources exclusives permettant d’affiner leurs modèles pour produire d’innombrables « simulateurs de discours ». Mais plus encore désormais les différences tiennent bien plus dans les paramètrages, les phases d’entraînement et de renforcement. Pour Kaplan, les guerres du capitalisme linguistique risquent surtout de refermer les projets d’ouverture de la science. « Si le capital linguistique devient une ressource précieuse, liée à une forme de souveraineté linguistique nationale, il peut paraître irresponsable de l’offrir librement à n’importe quel acteur. Les grandes entreprises de l’intelligence artificielle l’ont compris depuis plusieurs années déjà : les corpus les plus stratégiques pour l’entraînement des modèles de langage ne sont jamais rendus publics ».

Le risque de l’atrophie linguistique

Nous sommes désormais enjoints à vivre avec les simulateurs de discours. Et cela n’est pas sans conséquences. Dans tous les domaines où le texte est moteur, les crises sont là : journalisme, éducation, droit… En exploitant la langue, c’est elle-même qui est transformée et en ré-exploitant les textes, c’est leur condition de production largement artisanale qui est menacée. L’économie du texte construit sur la difficulté à écrire est d’un coup bouleversée par les modèles de langage. En sciences, cela conduit par exemple à l’effondrement des modèles d’évaluation. A l’école, cela conduit à interroger le sens même de l’apprentissage. Tout notre édifice épistémique, construit sur les performances rédactionnelles, vacille, sous les coups du développement du capitalisme linguistique. Partout, les machines qui écrivent réévaluent la valeur du travail d’écriture dans les structures de management. Du code au droit, des contrats aux instructions, de l’information aux textes instrumentaux (compte rendu, demandes de rendez-vous, courriers administratifs…), c’est la pertinence même des processus bureaucratiques qui est remise en question. « Ecrire avec la machine à écrire de quelqu’un d’autre, c’est prendre le risque de se voir voler son texte ». Mais plus encore d’en être non seulement dépossédé, quand ce n’est pas remplacé par les productions automatisées. Derrière ces enjeux épistémiques, c’est l’épistémologie elle-même qui est remise en question. « L’écriture algorithmique change notre confiance dans l’écrit », explique Kaplan. Mais c’est désormais à chacun d’entre nous de gérer cela, dans une relation d’autant plus difficile que ces textes sont construits pour « cacher la nature des procédés qui les ont engendrés ». 

Pour le professeur en Humanités numériques, nous sommes confrontés désormais à notre prolétarisation linguistique. Nous sommes désormais invités à payer pour écrire tant de mots (tokens) par mois, avec des prothèses plus ou moins sophistiquées, plus ou moins chères. L’usage de la langue n’est plus vendu seulement aux annonceurs, mais elle est désormais revendue à chacun d’entre nous. Les prothèses linguistiques sont partout. Elles interviennent dans la production, l’interprétation, la transmission. Elles améliorent l’efficacité, la précision ou la qualité ou la dénaturent. Nous déléguons nos compétences au risque de les abandonner, au risque de transformer profondément nos propres savoir-faire, comme le souligne très bien la philosophe Anne Alombert dans ses travaux, notamment son dernier livre, De la bêtise artificielle. Avec ces prothèses, le risque d’une atrophie de nos compétences semble plus certaine que celui d’un élargissement des compétences linguistiques du plus grand nombre. « Chaque fois qu’une technique prend en charge une faculté humaine, elle en accroît la puissance tout en affaiblissant la maîtrise (…). Les prothèses qui étendent notre intelligence risquent aussi de nous en déposséder si nous ne réinventons pas sans cesse notre façon de penser et d’agir avec elles ». Pour Kaplan, le risque d’une « atrophie expressive », d’une incapacité à composer un discours sans intermédiation est devant nous. « Le locuteur est devenu un locataire ». Nous écrivons et parlons par l’intermédiaire de mots que nous louons à ceux qui possèdent les machines. 

Le capitalisme linguistique dévore le monde

Pour Kaplan, même si nous ne nous y sommes pas encore habitué, ce capitalisme linguistique là est pourtant peut-être déjà derrière nous ! 

Dans le premier régime du capitalisme linguistique, on a revendu les mots aux annonceurs. Dans le second, on peut désormais revendre les mots aux utilisateurs. Dans le troisième, les simulateurs linguistiques peuvent désormais construire, agir, décider. Depuis quelques instructions, les systèmes construisent des systèmes. « Dans le premier régime, les mots qui s’accumulent de façon exponentielle permettent l’organisation d’une bourse qui se globalise à l’échelle mondiale et peut générer des centaines de milliards de dollars de revenus. Dans le deuxième régime, les avancées des modèles de langage prédictifs rendent possibles des prothèses linguistiques d’une expressivité croissante, favorisant l’élargissement des parts de marché et l’accumulation accélérée de capital linguistique supplémentaire. Enfin, dans le troisième régime, l’augmentation conjointe des capacités de calcul et des volumes de données permet de produire des modèles capables de simuler des raisonnements plus complexes ou de résoudre des tâches plus difficiles, sans qu’il soit nécessaire d’apporter des changements significatifs à la nature des architectures informatiques. Il suffit d’investir davantage dans les centres de calcul pour bénéficier de cette augmentation des performances cognitives des modèles. » Avec l’arrivée de « l’autocatalyse cognitive », le capital linguistique croit alors de façon quasi automatique. L’IA agentique promet désormais la grande orchestration des systèmes entre eux et la production d’agents à la carte, facturés selon leur degré d’expertise. « Cette mise au travail du capital linguistique ne se déploie pas comme une superintelligence omnisciente, mais comme une force d’engendrement qui tire sa puissance des boucles de rétroaction dans lesquelles elle s’inscrit. » « Nous sommes en train de passer d’un savoir hérité des communautés humaines à un savoir auto-entretenu par les modèles ». Pour Kaplan, ce sont nos systèmes culturels mêmes qui sont en train d’être transformés, de changer d’état, de phase. Le risque, conclut le chercheur, c’est de basculer dans un quatrième régime du capitalisme linguistique : celui du contrôle de la production du discours et de la langue elle-même. Une forme de convergence des discours, une homogénéisation voire un aplatissement de la langue, structurant une lecture du monde unique. Une logique proche de la novlangue imaginée par George Orwell : « une langue conçue pour limiter la liberté de pensée et d’expression, par l’introduction progressive de contradictions internes. La guerre, c’est la paix ; la liberté, c’est l’esclavage ; l’ignorance, c’est la force ». Mais est-ce les machines qui nous conduisent à cette impasse ? Cette langue est aujourd’hui celle des discours les plus confus et elle n’est pas tant produite par les machines que par les hommes et les idéologies qu’ils activent. 

Ce qui est sûr, c’est que le glissement culturel a commencé. En avril 2025, le trafic de Wikipédia, de Youtube, de Facebook et Google a commencé à baisser, alors que celui de l’IA, partout, explose. « L’attention se détourne des contenus construits, discutés et sourcés, pour s’orienter vers des savoirs instantanés et contextualisés ». Le document disparaît. Il est désormais recomposé à la volée. « Le quatrième régime du capitalisme linguistique confère un pouvoir démesuré à ceux qui contrôlent les modèles ». Kaplan plaide certes pour une reprise en main pour construire des corpus et des modèles publics, des modèles à code et paramètres ouverts. Nous devons garder la main sur les forces de production du langage, « avant que n’ayons peut-être plus les mots pour imaginer comment faire ». Le constat qui s’annonce est d’autant plus sombre que la puissance des outils tourne la tête de tous. 

Si l’essai de Frédéric Kaplan manque souvent de perspective critique, notamment sur les errements que ces systèmes produisent où sur les gens que ces systèmes exploitent, sa force réside surtout dans sa clarté et dans l’éclairage que produisent les concepts. Reste que si face au capitalisme de surveillance, on pouvait encore réclamer ou opposer une exigence d’une moindre surveillance. Face au capitalisme qui exploite nos propres mots pour nous en déposséder, on ne sait plus quels leviers adresser pour le contenir voire le faire refluer. Face à l’exploitation de notre propre pensée, c’est assurément nous-mêmes qui en seront dépossédés.

Hubert Guillaud

L’essai que signe Irénée Régnauld à la Fabrique, La sommation technologique se veut une rapide cartographie politique de la tech française. Le cofondateur de l’association technocritique le Mouton numérique, le blogueur (Mais où va le web), l’essayiste (avec Yaël Benayoun puis avec Arnaud Saint-Martin), désormais chercheur observant le rapport des développeurs à l’IA, signe une mise à distance des discours contemporains autour de la tech, renvoyant dos à dos, les simplismes de droite et de gauche sur ces sujets. Ce faisant, il permet justement de dépasser les impuissances que mobilisent tant les discours protech que leurs exacts envers, antitech. Le livre permet d’éclairer les positions et de resituer la critique pour mieux dépasser les simplifications des uns comme des autres. 

Protech : la radicalisation capitaliste ordinaire

La première partie du livre cartographie les positions techno autoritaires françaises. Ce panorama rapide, qui égratigne quelques figures médiatiques, passe en revue la galaxie protech. Il rappelle que les évangélistes de la tech ont les mêmes profils ici qu’ailleurs. Ce sont d’abord des patrons et des cadres pro business, ultra libéraux, très alignés avec l’obsession sécuritaire qui a d’ailleurs prospéré avec la montée de l’autoritarisme politique. Sous couvert de soutien à l’innovation, a prospéré un secteur techno sécuritaire, composé d’instruments de surveillance et de répression, ainsi qu’un secteur numérique à qui l’on a délégué nombre de missions publiques depuis une logique austéritaire. Pour Régnauld, il n’y a pas tant un techno-fascisme, c’est-à-dire un déterminisme technique intrinsèque au numérique, qu’une « fascisation ordinaire de l’Etat (…) contenue dans des dynamiques plus générales déjà à l’oeuvre : centralité de l’Etat régalien, culture administrative du fichier, extension des pouvoirs policiers, durcissement du droit migratoire et de la chasse aux pauvres ». 

Ce conservatisme radical a été prolongé par des entreprises, des discours et des personnes, venant appuyer et défendre le solutionnisme technologique comme l’homélie néolibérale toujours présentées sans alternatives ni espaces de compromis. Un solutionnisme orienté vers un déploiement technologique sans limite, porté par des entreprises, des personnalités et des thinks tanks, capables de cultiver thèses délirantes et discours médiatiquement simplistes et vendeurs. Des formes de discours venant accompagner les déploiements technologiques à l’œuvre, teinté de propos problématiques, à l’image de l’eugénisme et de la focalisation sur le QI, quand ce ne sont pas des discours de pur racisme. Régnauld tire le portrait problématique de nombre d’entre eux, à l’image de Laurent Alexandre, d’Olivier Babeau, de Carlos Diaz et leur clique de freaks illuminés. Entrepreneurs obsédés provenant de cercles très libéraux voire de plus en plus extrémistes. « Experts autoproclamés, courtiers du monde des startups, chercheurs reconvertis dans l’influence »… Ces discours et ces solutions techniques permettent de réaliser et diffuser un travail de cadrage qui célèbre le progrès technologique, valorise l’innovation entrepreneuriale, la dérégulation, tapant en continue sur l’assistanat et les défaillances du secteur publique…Ils déroulent tous les mêmes éléments de langages, comme le rejet de la régulation accusé de freiner l’innovation… Le but de cet épanchement sans fin : « changer le climat d’opinion » pour distiller l’idée que face à la techno, nous n’avons pas d’autre choix que de nous adapter, d’embrasser l’injonction technologique… ou disparaître. 

Des discours en roue libre, qui ressemblent aux propos que l’on entend ailleurs, qui vantent tant le miracle du numérique et de l’IA que les coupes à la tronçonneuse des services publics, éblouis par les miracles du Doge, de Musk, de Google comme de Palantir… Les financeurs ici comme ailleurs, imposent avec leur argent des produits problématiques, que ce soient ceux promus par Pierre-Edouard Stérin, Charles Beigbeder ou Pierre Entremont (ce dernier promettant de financer d’abord des entrepreneurs dont le QI serait supérieur à 130, ou investissant dans Orasio, qui veut s’imposer comme le Palantir de la vidéo surveillance intelligente). Régnauld décrit ainsi un petit monde où les financements vont beaucoup à des projets problématiques. L’investissement est de plus en plus un outil idéologique au service du profit, mais également d’un agenda politique qui ne se cache plus vraiment, comme le décrivait la sociologue Marlène Benquet dans La finance aux extrêmes (voir notre compte-rendu). Il sert des projets en phase avec les valeurs de cet entrepreneuriat ultra-libéral, autoritaire quand ce n’est pas clairement d’extrême-droite. Il finance d’abord des outils de contournement de droit, comme quand Thiel et les siens ont financé Paypal, Uber, Clearview ou Palantir… Le modèle a fait école. 

Autant de discours qui instillent l’idée que l’économie doit être pilotée par le privé, toujours jugé plus efficace, sans que les preuves ne soient saillantes, bien au contraire. Tous encapsulent une idéologie où la compétence serait uniquement celle des plus riches et de leurs ingénieurs. Au final, le monde patronal en se radicalisant, comme le montrait Benquet, adhère de plus en plus à des idéaux libertariens, allant de la primauté des choix individuels à la détestation du moindre contre pouvoir, notamment syndical, en passant par une célébration d’un mérite en roue libre qui n’abouberait que les plus nantis… 

Face à ces orientations de plus en plus problématiques d’une grande partie de la tech, Régnauld souligne le grand silence des entrepreneurs qui ne les partagent pas. « Une partie de la bourgeoisie bon teint, unanimement qualifiée de libérale, est acquise à un idéal répressif, hostile à l’Etat et aux migrants, et a déjà dans les faits rallié l’extrême-droite ». Les positions politiques du monde entrepreneurial se radicalisent et se cristallisent sur des postures en passe de devenir des dogmes indéboulonnables, débités en continue d’une tribune l’autre. Le symbole le plus marquant en étant certainement, récemment, les rires du membres du Medef quand le candidat insoumis à la présidentielle déclarait qu’il fallait augmenter les salaires. Cette expression uniforme par le rire de convictions enracinées soulignait parfaitement les blocages idéologiques à l’œuvre, indifférente à la récession qui se profile, alors que les marges des entreprises continuent de s’améliorer. 

Reste que le discours protech est emplit de confusion, souligne Régnauld. Avec par exemple des discours à géométrie variable autour de la souveraineté numérique, qui « dénonce(nt) la dépendance aux plateformes américaines, mais s’en inquiète(nt) lorsque l’État entreprend de construire lui-même, en logiciel libre, des outils adaptés à ses propres besoins », pour défendre au final un capitalisme national poreux aux intérêts des géants de la tech et au profit, quand ce n’est aligné aux thématiques nationalistes. Le souverainisme numérique se réduit à un « rejet de façade des Gafams et à la promesse d’un soutien massif aux entreprises françaises », pour dérouler les mêmes projets : faire fructifier leurs produits de surveillance. Pour tous, l’Etat semble n’avoir plus d’autres fonctions que de devoir devenir un « levier d’entraînement pour les marchés » : privatiser les profits et socialiser les risques. Les discours protechs tournent en boucle sur eux-mêmes, indifférents aux surveillances mises en place au profit de leurs affaires, indifférents aux échecs de leurs solutions et plus encore indifférents aux protections publiques. Les discours pro-IA ne présentent l’ultime innovation du capitalisme que comme un levier de relance productive alors que ses effets sur la productivité peinent à apporter des preuves concrètes. Les conséquences écologiques ou sociales sont minorées. Le milieu protech se fige dans son rêve probusiness quelles que soient les conséquences. Et chante désormais les louanges de l’IA, une technologie au service du capital pour enraciner plus encore un technosolutisme toujours plus simpliste. 

AntiTech : la dérive moraliste

La seconde partie du livre, plus éclairante encore, nous invite à mettre la même distance face aux positions antitech tout aussi radicalisées. « A la radicalisation des technocapitalismes états-uniens et français, répond depuis une vingtaine d’années un durcissement des critiques auxquelles le numérique fait face », qu’elles soient anti-industrielles ou anti-modernistes. Régnauld décortique les positions des fronts radicaux dits de gauche, comme ceux d’Anti-Tech Résistance devenu Anti-Tech Revolution ou de Pièces et main d’œuvre, bien plus réactionnaires qu’ils ne s’en donnent l’air. Cet anti-industrialisme radical fonctionne lui aussi depuis un regard simpliste sur la technologie et son déterminisme. Aux libertariens obtus répond des antitechs à courte vue, qui finissent par rejeter en bloc la machine industrielle, y compris le système de santé et de médecine moderne. « Les dispositifs de réanimation sont renvoyés au même registre que les pesticides ou les data centers ». Ces mouvements anti-industriels sont particulièrement virulents à l’encontre de tous ceux qui viennent proposer d’autres critiques du numérique que la leur et s’en prend à « tout ce qui introduit de l’ambivalence ou du compromis ». La critique réactionnaire du progrès n’a rien a envié au simplisme pro-business. Régnauld égratigne jusqu’à Jacques Ellul lui-même qui, s’il a montré que la technique appelle toujours plus de technique, a fini par caricaturer cette mise en avant, en la décorrélant du capitalisme et en nous faisant croire qu’il n’y a pas d’oppositions ou de régulation possibles. Ellul n’était pas étanche pourtant à des propos moralistes voire racistes, homophobes ou antisanitaires. Aux totalisations des uns répondent donc celles des autres. Pour Régnauld, ces fronts technocritiques distribuent « les usages sur un axe moral plutôt que de les politiser ». Les ambivalences et les compromis deviennent des fautes morales ou de conduite, comme s’il n’y avait aucune issue qu’un rejet total de la technologie de ce côté, exact pendant de l’asservissement sans discussion que proposent les protechs. 

En réalité, la technocritique est plus diverse et souvent bien moins radicale. Elle est composée de courants anarchistes, de sciences participatives, de mouvements libristes ou écologiques, de mobilisations syndicales ou citoyennes qui se parlent. Si de nombreux thèmes technocritiques se sont imposés dans l’espace public (de la place des écrans, au rapport à l’IA, à la critique de la surnumérisation), la technocritique est plus diffuse que radicale. Personne ne souhaite retourner à la vie de chasseur-cueilleur. « Les critiques qui appellent au grand débranchement ne proposent ni cap ni méthode crédible. Dans les faits, très peu de gens veulent réellement tout éteindre ». « Un récit qui se contente d’énoncer le retrait sans se donner les moyens matériels d’une substitution graduelle ne fait pas obstacle aux technofascistes : il leur abandonne l’initiative ». La critique antitech est certes pure, mais faiblement opérante, constate Régnauld. Peu reliée aux réalités situées de ceux qui luttent contre le développement du techno-capitalisme. Comme l’explique l’anthropologue Payal Arora dans From Pessimism to Promise (MIT Press, 2024 – dont Régnauld avait produit un compte-rendu sur son blog), il est plus que nécessaire de « déplacer la critique du registre moral vers le registre matériel ». 

Dans cette même critique antitech, Régnauld renvoie également les doomers, ces critiques des milieux rationalistes qui pensent que l’IA fait peser un risque existentiel sur l’humanité. Une critique où grenouille à la fois nombre de grands patrons de la tech, qui sous couvert d’annonce de l’apocalypse, invisibilisent les relations de pouvoirs, les conflits sociaux et environnementaux de cette industrie. De Pause AI aux associations transhumanistes, ces alertes sur l’IA semblent surtout reprendre les discours qu’ils prétendent combattre. Pour Régnauld, tous ces mouvements ne sont pas tant des alliés que des gens qui servent la confusion. Que proposent-ils vraiment ? « Un moratoire. Sur quels systèmes exactement ? » Le risque est fort que ces encadrements de l’IA orientent le débat vers des questions d’ingénieurs « désirant gérer a posteriori les risques, sans discuter des finalités, des usages, des rapports de pouvoir ». Une régulation par les risques qui risque surtout de « préempter la discussion politique », la confisquer.

Ce qui me semble marquant d’ailleurs, dans les discours pro comme anti tech, c’est la façon dont tout ces mondes semblent nier les conflits sociaux autour de la tech. Comme s’ils n’existaient pas, comme s’ils n’étaient pas innombrables, au profit de recadrages moraux ou économiques. Un peu comme si, pour les uns comme pour les autres, la société et la politique n’existaient pas.

Pour une critique de la tech démocratique et située

Après avoir rejeté les simplismes, le binarisme paresseux des uns et des autres, Régnauld livre une perspective parfois brouillonne mais stimulante, en appelant une critique de la tech démocratique et située, multiple, prolifique, désordonnée même, telle qu’elle est le plus souvent, tout en appelant à gouverner autrement la technologie. Si certains problèmes de la tech pourraient être expédiés (l’interdiction de la reconnaissance faciale sans exception, l’obligation à la réparabilité par exemple), nous avons besoin d’une transformation critique et maîtrisée du développement technologique, qui ouvre la voie aux compromis, à la délibération. L’idolâtrie de la tech comme son rejet sans concession est surtout « aveugle à la variété des artefacts et des contextes ». Pour Régnauld, le chemin technologique n’est jamais tout tracé. « Les technologies gagnantes sont le produit de compromis, de normes ou de rapports de force ». « Si historiquement, capitalisme comme communisme réel ont poursuivi la productivité par le machinisme, ce n’est pas parce que la technique l’exigeait en soi : c’est parce qu’ils ont érigé la productivité en boussole politique, en centralisant les décisions et en restant indifférents aux conditions de travail ». Pour Régnauld, il n’y a pas de technologie sans contrôle social : « la technocritique sans la lutte des classes, c’est du bricolage » ! Cela ne signifie pas qu’il y a des formes de réappropriation démocratiques pour toutes les technologies : il n’y a pas de surveillance de masse démocratique par exemple, ni d’extractivisme des ressources qui ne soit pas problématique. La démocratie n’est pas le seule réponse dans l’arsenal des réponses : la régulation drastique, les compensations fortes, le démantèlement, la redirection, l’abolition en sont d’autres. Pour Régnauld, il nous faut discuter au cas par cas plutôt que de refuser en bloc. Si les technologies ne sont pas neutres, ce n’est pas pour autant que tout se vaut. 

Pour Régnauld, il nous faut discuter, comme le montrait David Robinson dans son livre ou comme le défendaient Nicolas Rio et Manon Loisel dans le leur. D’ailleurs, souligne-t-il également, le marché n’est pas la seule réponse technologique disponible, contrairement à ce que voudraient nous faire croire les protechs. Coopératives, Communs, structures associatives et infrastructures publiques devraient encore avoir un espace. Régnauld rappelle pourtant que les débats sur le rôle et la place des technologies sont innombrables, comme le montre notamment l’historien François Jarrige dans ses livres, notamment Technocritiques. Dès l’apparition de l’informatisation, les conflits étaient déjà là, même si ces séquences ont souvent été écrasées par les vagues néolibérales. La privatisation a réduit les capacités de reprise collective. Pourtant, aujourd’hui encore, les argumentaires les plus offensifs contre l’IA émanent toujours des travailleurs qui y sont confrontés et des syndicats qui les défendent, rappelle Régnauld. « Lorsque que les travailleurs parlent, ils démontent la propagande des industriels ». « Sans rapport de force, la technologie s’aligne sur le pouvoir ». Pour Irénée Régnauld, les configurations humains machines sont plurielles et ne débouchent pas fatalement sur la surveillance et la réduction des compétences, comme le défendent par exemple Daron Acemoglu, David Autor et Simon Johnson en plaidant pour pour une IA pro-travailleurs (et qui s’inquiète, par ailleurs, des liens entre l’automatisation et la répression). 

Pour cela, plaide Irénée Régnauld, nous avons besoin de « réinstituer » la technologie, c’est-à-dire faire advenir les structures de discussions et de décisions. Alors que ce devrait être le rôle de l’Etat d’organiser les espaces pour trouver les compromis et d’organiser les espaces de refus, les citoyens se retrouvent pris au dépourvu dans des espaces où la discussion démocratique finalement semble escamotée, comme l’ont été les propositions de la convention citoyenne sur le climat. Réinstituer le débat sur les orientations et les développements technologiques semble à la fois urgent et impossible, notamment parce que nombre d’entre eux, comme les tentatives de régulation, semblent n’aboutir nulle part. Ces formes de réinstitutions peuvent être multiples, elle peuvent se déplacer selon les enjeux, les situations, pour autant qu’elles produisent des déplacements, comme quand le maire de New York valide la décision du département de l’Éducation, qui, après des consultations nourries, interdit l’utilisation de l’IA en primaire et au collège et limite la durée de temps passé devant les écrans à l’école, rapporte le New York Times. 

Le problème, rappelle Régnauld, c’est que nos besoins sont dynamiques et peu stables. Nous avons passé des milliers d’années sans réfrigérateurs, mais qui pourrait désormais sans passer ? L’IA semble inutile à la plupart d’entre nous, mais en sera-t-il de même demain ? Ou pourrions-nous en avoir besoin et où est-ce inutile ? Régnauld invite à réinterroger nos besoins à l’aune des enjeux, à interroger les trajectoires de nos choix possibles, à délibérer collectivement et cela nécessite de trouver la bonne échelle de discussion. Localement, discuter de l’installation de centres de données risque surtout de favoriser l’acceptation des projets, quand c’est leur déploiement d’ensemble qui devraient discuter de l’adaptation aux scénarios de besoins. Nous devrions privilégier une logique des besoins, pour discuter des ressources mobilisées et politiser les usages, comme le proposaient par exemple Cédric Durand et Razmig Keucheyan dans Comment bifurquer. 

Toutes les technologies n’ont pas vocation à devenir démocratiques, prévient néanmoins Régnauld. Des diplomaties s’imposent pour assurer la concurrence, l’interopérabilité, la portabilité comme les alternatives et éviter l’intégration unique et par défaut. « Si on n’interdit pas, au moins empêcher qu’ils règnent sans partage ». Limiter les abus, toujours. Démanteler parfois. Limiter l’invasion. Dénumériser même. « Le vivier de technologies financées pour rien où déployées inutilement et immense ». Même les promesses les plus enthousiastes se fracassent bien souvent contre la réalité. Régnault prend l’exemple des robots soignants japonais décortiqués par l’anthropologue James Wright dans un livre. « Plus la promesse est tapageuse, plus la vigilance critique devrait être grande ». 

« Que retirer ? Dans quel ordre ? A quelle vitesse ? Que mettre en place ? » Si ces enjeux ne sont pas posés institutionnellement, ce seront les luttes sociales qui s’y attaqueront pour tenter de « décapitaliser la production technique » et son monde, pour réinscrire l’informatique et le numérique dans nos limites planétaires, économiques et sociales. 

Régnauld ne propose ni grande solution ni grand soir. Juste de trouver les possibilités d’ajustement, qui nécessiteront parfois de démanteler, d’autres de domestiquer. Consolider ce que les ingénieurs du chaos abhorrent : « des infrastructures socialisées, gouvernées en commun et orientées vers des finalités délibérées ». Disputer des fins plutôt qu’y être soumis. Renforcer la démocratie partout où l’on fait de la technique. Refuser la sommation. Dans un essai qui lance un appel à la discussion, pour dépasser les positions de principes, en montrant nombres d’endroits où elle a déjà lieu et où elle pourrait fleurir.

Pour stimulante qu’elle soit, la perspective d’élargir la démocratie technique reste la seule réponse face au renforcement du technocapital. La limite de cette perspective est que l’autoritarisme de la tech comme la seule boussole pro-business, n’ont que faire des espaces de débats. En continuant de nier les débats, les conflits, le risque est de les radicaliser et de les rendre toujours moins possibles. Pour résister au fascisme qui vient, il est assurément certain que nous avons besoin plus que jamais d’ouvrir non seulement des  arènes de débats, mais bien des arènes de décision, de confier à la diversité des publics l’enjeu de faire leurs compromis. Or, ici, les autorités n’ont pas un rôle clair, orientant les débats plutôt que d’en être les garants. C’est peut-être la grande limite du rêve de démocratie technique. Mais son abandon ne nous propose qu’un cauchemar sans fin. 

Hubert Guillaud

L’essai que signe Irénée Régnauld à la Fabrique, La sommation technologique se veut une rapide cartographie politique de la tech française. Le cofondateur de l’association technocritique le Mouton numérique, le blogueur (Mais où va le web), l’essayiste (avec Yaël Benayoun puis avec Arnaud Saint-Martin), désormais chercheur observant le rapport des développeurs à l’IA, signe une mise à distance des discours contemporains autour de la tech, renvoyant dos à dos, les simplismes de droite et de gauche sur ces sujets. Ce faisant, il permet justement de dépasser les impuissances que mobilisent tant les discours protech que leurs exacts envers, antitech. Le livre permet d’éclairer les positions et de resituer la critique pour mieux dépasser les simplifications des uns comme des autres. 

Protech : la radicalisation capitaliste ordinaire

La première partie du livre cartographie les positions techno autoritaires françaises. Ce panorama rapide, qui égratigne quelques figures médiatiques, passe en revue la galaxie protech. Il rappelle que les évangélistes de la tech ont les mêmes profils ici qu’ailleurs. Ce sont d’abord des patrons et des cadres pro business, ultra libéraux, très alignés avec l’obsession sécuritaire qui a d’ailleurs prospéré avec la montée de l’autoritarisme politique. Sous couvert de soutien à l’innovation, a prospéré un secteur techno sécuritaire, composé d’instruments de surveillance et de répression, ainsi qu’un secteur numérique à qui l’on a délégué nombre de missions publiques depuis une logique austéritaire. Pour Régnauld, il n’y a pas tant un techno-fascisme, c’est-à-dire un déterminisme technique intrinsèque au numérique, qu’une « fascisation ordinaire de l’Etat (…) contenue dans des dynamiques plus générales déjà à l’oeuvre : centralité de l’Etat régalien, culture administrative du fichier, extension des pouvoirs policiers, durcissement du droit migratoire et de la chasse aux pauvres ». 

Ce conservatisme radical a été prolongé par des entreprises, des discours et des personnes, venant appuyer et défendre le solutionnisme technologique comme l’homélie néolibérale toujours présentées sans alternatives ni espaces de compromis. Un solutionnisme orienté vers un déploiement technologique sans limite, porté par des entreprises, des personnalités et des thinks tanks, capables de cultiver thèses délirantes et discours médiatiquement simplistes et vendeurs. Des formes de discours venant accompagner les déploiements technologiques à l’œuvre, teinté de propos problématiques, à l’image de l’eugénisme et de la focalisation sur le QI, quand ce ne sont pas des discours de pur racisme. Régnauld tire le portrait problématique de nombre d’entre eux, à l’image de Laurent Alexandre, d’Olivier Babeau, de Carlos Diaz et leur clique de freaks illuminés. Entrepreneurs obsédés provenant de cercles très libéraux voire de plus en plus extrémistes. « Experts autoproclamés, courtiers du monde des startups, chercheurs reconvertis dans l’influence »… Ces discours et ces solutions techniques permettent de réaliser et diffuser un travail de cadrage qui célèbre le progrès technologique, valorise l’innovation entrepreneuriale, la dérégulation, tapant en continue sur l’assistanat et les défaillances du secteur publique…Ils déroulent tous les mêmes éléments de langages, comme le rejet de la régulation accusé de freiner l’innovation… Le but de cet épanchement sans fin : « changer le climat d’opinion » pour distiller l’idée que face à la techno, nous n’avons pas d’autre choix que de nous adapter, d’embrasser l’injonction technologique… ou disparaître. 

Des discours en roue libre, qui ressemblent aux propos que l’on entend ailleurs, qui vantent tant le miracle du numérique et de l’IA que les coupes à la tronçonneuse des services publics, éblouis par les miracles du Doge, de Musk, de Google comme de Palantir… Les financeurs ici comme ailleurs, imposent avec leur argent des produits problématiques, que ce soient ceux promus par Pierre-Edouard Stérin, Charles Beigbeder ou Pierre Entremont (ce dernier promettant de financer d’abord des entrepreneurs dont le QI serait supérieur à 130, ou investissant dans Orasio, qui veut s’imposer comme le Palantir de la vidéo surveillance intelligente). Régnauld décrit ainsi un petit monde où les financements vont beaucoup à des projets problématiques. L’investissement est de plus en plus un outil idéologique au service du profit, mais également d’un agenda politique qui ne se cache plus vraiment, comme le décrivait la sociologue Marlène Benquet dans La finance aux extrêmes (voir notre compte-rendu). Il sert des projets en phase avec les valeurs de cet entrepreneuriat ultra-libéral, autoritaire quand ce n’est pas clairement d’extrême-droite. Il finance d’abord des outils de contournement de droit, comme quand Thiel et les siens ont financé Paypal, Uber, Clearview ou Palantir… Le modèle a fait école. 

Autant de discours qui instillent l’idée que l’économie doit être pilotée par le privé, toujours jugé plus efficace, sans que les preuves ne soient saillantes, bien au contraire. Tous encapsulent une idéologie où la compétence serait uniquement celle des plus riches et de leurs ingénieurs. Au final, le monde patronal en se radicalisant, comme le montrait Benquet, adhère de plus en plus à des idéaux libertariens, allant de la primauté des choix individuels à la détestation du moindre contre pouvoir, notamment syndical, en passant par une célébration d’un mérite en roue libre qui n’abouberait que les plus nantis… 

Face à ces orientations de plus en plus problématiques d’une grande partie de la tech, Régnauld souligne le grand silence des entrepreneurs qui ne les partagent pas. « Une partie de la bourgeoisie bon teint, unanimement qualifiée de libérale, est acquise à un idéal répressif, hostile à l’Etat et aux migrants, et a déjà dans les faits rallié l’extrême-droite ». Les positions politiques du monde entrepreneurial se radicalisent et se cristallisent sur des postures en passe de devenir des dogmes indéboulonnables, débités en continue d’une tribune l’autre. Le symbole le plus marquant en étant certainement, récemment, les rires du membres du Medef quand le candidat insoumis à la présidentielle déclarait qu’il fallait augmenter les salaires. Cette expression uniforme par le rire de convictions enracinées soulignait parfaitement les blocages idéologiques à l’œuvre, indifférente à la récession qui se profile, alors que les marges des entreprises continuent de s’améliorer. 

Reste que le discours protech est emplit de confusion, souligne Régnauld. Avec par exemple des discours à géométrie variable autour de la souveraineté numérique, qui « dénonce(nt) la dépendance aux plateformes américaines, mais s’en inquiète(nt) lorsque l’État entreprend de construire lui-même, en logiciel libre, des outils adaptés à ses propres besoins », pour défendre au final un capitalisme national poreux aux intérêts des géants de la tech et au profit, quand ce n’est aligné aux thématiques nationalistes. Le souverainisme numérique se réduit à un « rejet de façade des Gafams et à la promesse d’un soutien massif aux entreprises françaises », pour dérouler les mêmes projets : faire fructifier leurs produits de surveillance. Pour tous, l’Etat semble n’avoir plus d’autres fonctions que de devoir devenir un « levier d’entraînement pour les marchés » : privatiser les profits et socialiser les risques. Les discours protechs tournent en boucle sur eux-mêmes, indifférents aux surveillances mises en place au profit de leurs affaires, indifférents aux échecs de leurs solutions et plus encore indifférents aux protections publiques. Les discours pro-IA ne présentent l’ultime innovation du capitalisme que comme un levier de relance productive alors que ses effets sur la productivité peinent à apporter des preuves concrètes. Les conséquences écologiques ou sociales sont minorées. Le milieu protech se fige dans son rêve probusiness quelles que soient les conséquences. Et chante désormais les louanges de l’IA, une technologie au service du capital pour enraciner plus encore un technosolutisme toujours plus simpliste. 

AntiTech : la dérive moraliste

La seconde partie du livre, plus éclairante encore, nous invite à mettre la même distance face aux positions antitech tout aussi radicalisées. « A la radicalisation des technocapitalismes états-uniens et français, répond depuis une vingtaine d’années un durcissement des critiques auxquelles le numérique fait face », qu’elles soient anti-industrielles ou anti-modernistes. Régnauld décortique les positions des fronts radicaux dits de gauche, comme ceux d’Anti-Tech Résistance devenu Anti-Tech Revolution ou de Pièces et main d’œuvre, bien plus réactionnaires qu’ils ne s’en donnent l’air. Cet anti-industrialisme radical fonctionne lui aussi depuis un regard simpliste sur la technologie et son déterminisme. Aux libertariens obtus répond des antitechs à courte vue, qui finissent par rejeter en bloc la machine industrielle, y compris le système de santé et de médecine moderne. « Les dispositifs de réanimation sont renvoyés au même registre que les pesticides ou les data centers ». Ces mouvements anti-industriels sont particulièrement virulents à l’encontre de tous ceux qui viennent proposer d’autres critiques du numérique que la leur et s’en prend à « tout ce qui introduit de l’ambivalence ou du compromis ». La critique réactionnaire du progrès n’a rien a envié au simplisme pro-business. Régnauld égratigne jusqu’à Jacques Ellul lui-même qui, s’il a montré que la technique appelle toujours plus de technique, a fini par caricaturer cette mise en avant, en la décorrélant du capitalisme et en nous faisant croire qu’il n’y a pas d’oppositions ou de régulation possibles. Ellul n’était pas étanche pourtant à des propos moralistes voire racistes, homophobes ou antisanitaires. Aux totalisations des uns répondent donc celles des autres. Pour Régnauld, ces fronts technocritiques distribuent « les usages sur un axe moral plutôt que de les politiser ». Les ambivalences et les compromis deviennent des fautes morales ou de conduite, comme s’il n’y avait aucune issue qu’un rejet total de la technologie de ce côté, exact pendant de l’asservissement sans discussion que proposent les protechs. 

En réalité, la technocritique est plus diverse et souvent bien moins radicale. Elle est composée de courants anarchistes, de sciences participatives, de mouvements libristes ou écologiques, de mobilisations syndicales ou citoyennes qui se parlent. Si de nombreux thèmes technocritiques se sont imposés dans l’espace public (de la place des écrans, au rapport à l’IA, à la critique de la surnumérisation), la technocritique est plus diffuse que radicale. Personne ne souhaite retourner à la vie de chasseur-cueilleur. « Les critiques qui appellent au grand débranchement ne proposent ni cap ni méthode crédible. Dans les faits, très peu de gens veulent réellement tout éteindre ». « Un récit qui se contente d’énoncer le retrait sans se donner les moyens matériels d’une substitution graduelle ne fait pas obstacle aux technofascistes : il leur abandonne l’initiative ». La critique antitech est certes pure, mais faiblement opérante, constate Régnauld. Peu reliée aux réalités situées de ceux qui luttent contre le développement du techno-capitalisme. Comme l’explique l’anthropologue Payal Arora dans From Pessimism to Promise (MIT Press, 2024 – dont Régnauld avait produit un compte-rendu sur son blog), il est plus que nécessaire de « déplacer la critique du registre moral vers le registre matériel ». 

Dans cette même critique antitech, Régnauld renvoie également les doomers, ces critiques des milieux rationalistes qui pensent que l’IA fait peser un risque existentiel sur l’humanité. Une critique où grenouille à la fois nombre de grands patrons de la tech, qui sous couvert d’annonce de l’apocalypse, invisibilisent les relations de pouvoirs, les conflits sociaux et environnementaux de cette industrie. De Pause AI aux associations transhumanistes, ces alertes sur l’IA semblent surtout reprendre les discours qu’ils prétendent combattre. Pour Régnauld, tous ces mouvements ne sont pas tant des alliés que des gens qui servent la confusion. Que proposent-ils vraiment ? « Un moratoire. Sur quels systèmes exactement ? » Le risque est fort que ces encadrements de l’IA orientent le débat vers des questions d’ingénieurs « désirant gérer a posteriori les risques, sans discuter des finalités, des usages, des rapports de pouvoir ». Une régulation par les risques qui risque surtout de « préempter la discussion politique », la confisquer.

Ce qui me semble marquant d’ailleurs, dans les discours pro comme anti tech, c’est la façon dont tout ces mondes semblent nier les conflits sociaux autour de la tech. Comme s’ils n’existaient pas, comme s’ils n’étaient pas innombrables, au profit de recadrages moraux ou économiques. Un peu comme si, pour les uns comme pour les autres, la société et la politique n’existaient pas.

Pour une critique de la tech démocratique et située

Après avoir rejeté les simplismes, le binarisme paresseux des uns et des autres, Régnauld livre une perspective parfois brouillonne mais stimulante, en appelant une critique de la tech démocratique et située, multiple, prolifique, désordonnée même, telle qu’elle est le plus souvent, tout en appelant à gouverner autrement la technologie. Si certains problèmes de la tech pourraient être expédiés (l’interdiction de la reconnaissance faciale sans exception, l’obligation à la réparabilité par exemple), nous avons besoin d’une transformation critique et maîtrisée du développement technologique, qui ouvre la voie aux compromis, à la délibération. L’idolâtrie de la tech comme son rejet sans concession est surtout « aveugle à la variété des artefacts et des contextes ». Pour Régnauld, le chemin technologique n’est jamais tout tracé. « Les technologies gagnantes sont le produit de compromis, de normes ou de rapports de force ». « Si historiquement, capitalisme comme communisme réel ont poursuivi la productivité par le machinisme, ce n’est pas parce que la technique l’exigeait en soi : c’est parce qu’ils ont érigé la productivité en boussole politique, en centralisant les décisions et en restant indifférents aux conditions de travail ». Pour Régnauld, il n’y a pas de technologie sans contrôle social : « la technocritique sans la lutte des classes, c’est du bricolage » ! Cela ne signifie pas qu’il y a des formes de réappropriation démocratiques pour toutes les technologies : il n’y a pas de surveillance de masse démocratique par exemple, ni d’extractivisme des ressources qui ne soit pas problématique. La démocratie n’est pas le seule réponse dans l’arsenal des réponses : la régulation drastique, les compensations fortes, le démantèlement, la redirection, l’abolition en sont d’autres. Pour Régnauld, il nous faut discuter au cas par cas plutôt que de refuser en bloc. Si les technologies ne sont pas neutres, ce n’est pas pour autant que tout se vaut. 

Pour Régnauld, il nous faut discuter, comme le montrait David Robinson dans son livre ou comme le défendaient Nicolas Rio et Manon Loisel dans le leur. D’ailleurs, souligne-t-il également, le marché n’est pas la seule réponse technologique disponible, contrairement à ce que voudraient nous faire croire les protechs. Coopératives, Communs, structures associatives et infrastructures publiques devraient encore avoir un espace. Régnauld rappelle pourtant que les débats sur le rôle et la place des technologies sont innombrables, comme le montre notamment l’historien François Jarrige dans ses livres, notamment Technocritiques. Dès l’apparition de l’informatisation, les conflits étaient déjà là, même si ces séquences ont souvent été écrasées par les vagues néolibérales. La privatisation a réduit les capacités de reprise collective. Pourtant, aujourd’hui encore, les argumentaires les plus offensifs contre l’IA émanent toujours des travailleurs qui y sont confrontés et des syndicats qui les défendent, rappelle Régnauld. « Lorsque que les travailleurs parlent, ils démontent la propagande des industriels ». « Sans rapport de force, la technologie s’aligne sur le pouvoir ». Pour Irénée Régnauld, les configurations humains machines sont plurielles et ne débouchent pas fatalement sur la surveillance et la réduction des compétences, comme le défendent par exemple Daron Acemoglu, David Autor et Simon Johnson en plaidant pour pour une IA pro-travailleurs (et qui s’inquiète, par ailleurs, des liens entre l’automatisation et la répression). 

Pour cela, plaide Irénée Régnauld, nous avons besoin de « réinstituer » la technologie, c’est-à-dire faire advenir les structures de discussions et de décisions. Alors que ce devrait être le rôle de l’Etat d’organiser les espaces pour trouver les compromis et d’organiser les espaces de refus, les citoyens se retrouvent pris au dépourvu dans des espaces où la discussion démocratique finalement semble escamotée, comme l’ont été les propositions de la convention citoyenne sur le climat. Réinstituer le débat sur les orientations et les développements technologiques semble à la fois urgent et impossible, notamment parce que nombre d’entre eux, comme les tentatives de régulation, semblent n’aboutir nulle part. Ces formes de réinstitutions peuvent être multiples, elle peuvent se déplacer selon les enjeux, les situations, pour autant qu’elles produisent des déplacements, comme quand le maire de New York valide la décision du département de l’Éducation, qui, après des consultations nourries, interdit l’utilisation de l’IA en primaire et au collège et limite la durée de temps passé devant les écrans à l’école, rapporte le New York Times. 

Le problème, rappelle Régnauld, c’est que nos besoins sont dynamiques et peu stables. Nous avons passé des milliers d’années sans réfrigérateurs, mais qui pourrait désormais sans passer ? L’IA semble inutile à la plupart d’entre nous, mais en sera-t-il de même demain ? Ou pourrions-nous en avoir besoin et où est-ce inutile ? Régnauld invite à réinterroger nos besoins à l’aune des enjeux, à interroger les trajectoires de nos choix possibles, à délibérer collectivement et cela nécessite de trouver la bonne échelle de discussion. Localement, discuter de l’installation de centres de données risque surtout de favoriser l’acceptation des projets, quand c’est leur déploiement d’ensemble qui devraient discuter de l’adaptation aux scénarios de besoins. Nous devrions privilégier une logique des besoins, pour discuter des ressources mobilisées et politiser les usages, comme le proposaient par exemple Cédric Durand et Razmig Keucheyan dans Comment bifurquer. 

Toutes les technologies n’ont pas vocation à devenir démocratiques, prévient néanmoins Régnauld. Des diplomaties s’imposent pour assurer la concurrence, l’interopérabilité, la portabilité comme les alternatives et éviter l’intégration unique et par défaut. « Si on n’interdit pas, au moins empêcher qu’ils règnent sans partage ». Limiter les abus, toujours. Démanteler parfois. Limiter l’invasion. Dénumériser même. « Le vivier de technologies financées pour rien où déployées inutilement et immense ». Même les promesses les plus enthousiastes se fracassent bien souvent contre la réalité. Régnault prend l’exemple des robots soignants japonais décortiqués par l’anthropologue James Wright dans un livre. « Plus la promesse est tapageuse, plus la vigilance critique devrait être grande ». 

« Que retirer ? Dans quel ordre ? A quelle vitesse ? Que mettre en place ? » Si ces enjeux ne sont pas posés institutionnellement, ce seront les luttes sociales qui s’y attaqueront pour tenter de « décapitaliser la production technique » et son monde, pour réinscrire l’informatique et le numérique dans nos limites planétaires, économiques et sociales. 

Régnauld ne propose ni grande solution ni grand soir. Juste de trouver les possibilités d’ajustement, qui nécessiteront parfois de démanteler, d’autres de domestiquer. Consolider ce que les ingénieurs du chaos abhorrent : « des infrastructures socialisées, gouvernées en commun et orientées vers des finalités délibérées ». Disputer des fins plutôt qu’y être soumis. Renforcer la démocratie partout où l’on fait de la technique. Refuser la sommation. Dans un essai qui lance un appel à la discussion, pour dépasser les positions de principes, en montrant nombres d’endroits où elle a déjà lieu et où elle pourrait fleurir.

Pour stimulante qu’elle soit, la perspective d’élargir la démocratie technique reste la seule réponse face au renforcement du technocapital. La limite de cette perspective est que l’autoritarisme de la tech comme la seule boussole pro-business, n’ont que faire des espaces de débats. En continuant de nier les débats, les conflits, le risque est de les radicaliser et de les rendre toujours moins possibles. Pour résister au fascisme qui vient, il est assurément certain que nous avons besoin plus que jamais d’ouvrir non seulement des  arènes de débats, mais bien des arènes de décision, de confier à la diversité des publics l’enjeu de faire leurs compromis. Or, ici, les autorités n’ont pas un rôle clair, orientant les débats plutôt que d’en être les garants. C’est peut-être la grande limite du rêve de démocratie technique. Mais son abandon ne nous propose qu’un cauchemar sans fin. 

Hubert Guillaud

Dans un petit livre très historique – Des règles sur mesure : généalogie du profilage algorithmique (Amsterdam, 2026) -, le philosophe du droit, Nathan Genicot, retrace l’histoire des débats autour du déploiement des principaux systèmes de profilage, à savoir les systèmes d’analyse psychologique au travail, les systèmes de calcul de risque assurantiels et les systèmes d’obtention de crédits bancaires. Et ce qui me semble très éclairant dans cet essai, c’est de constater combien les débats, plus riches que ceux que nous pouvons avoir aujourd’hui sur ces sujets, ont été perdus. Et plus encore, qu’ils ne semblent pas plus avoir été résolus hier qu’ils ne le sont aujourd’hui. Le profilage semble embourbé dans ses limites sans parvenir à ouvrir de voies pour les résoudre. 

La rationalité statistique est au fondement des Etats modernes, rappelle Genicot à la suite d’Alain Desrosières (La politique des grands nombres, La découverte, 1993), d’Alain Supiot (La gouvernance par les nombres, Fayard, 2015) ou encore de Theodore Porter (The Rise of Statistical Thinking, 1820-1900, Princeton University Press, 2020). Mais elle est également au fondement de l’intelligence artificielle. Les statistiques permettent à la fois de quantifier le social et de le prédire, de profiler chacun « sous le prisme d’attributs qu’il partage avec d’autres ». Nous sommes non seulement statistifiés, mais également comparés. Le profilage dont nous sommes l’objet, bien souvent par devers nous, consiste à prédire notre comportement depuis la comparaison avec celui des autres à partir des régularités du passé. Partout, nous sommes notés, prédits, quelque soit la marge de certitude ou d’incertitude des traitements et inférences. Le calcul est normalisé, naturalisé par un score, une note. Que ce soit pour s’assurer, emprunter, se loger, obtenir un emploi, recevoir des allocations, être mis en relation avec d’autres…  Pour Genicot, ce profilage, ce scoring, les appariements qui en découlent, sont des techniques de régulation, des outils de gouvernementalité. Mais, alors que la loi s’applique à tous de la même façon, le profilage, lui, permettrait de s’adapter aux caractéristiques de chacun. Pour le philosophe du droit, il promet d’individualiser le droit pour « pleinement réaliser le principe d’égalité », pour produire des « règles sur mesure ». Tout l’enjeu du livre consiste justement à vérifier cela. Est-ce que le profilage remplit cette promesse ? Est-ce qu’il rend la justice plus juste ? 

Des débats de calculs

Pour déplier ses constats, Genicot observe trois milieux où se déploient, presque concomitant des techniques de profilage : le travail, l’assurance et le crédit. Dans chaque secteur, Genicot révèle, extirpe des archives les débats de l’époque. Et ceux-ci sont étonnement nourris. Les calculs d’alors viennent avec des questions. La science balbutiante s’interroge, quand l’ingénierie d’aujourd’hui semble avancer comme un rouleau compresseur, sans vraiment s’interroger des défaillances que ses calculs produisent ou des limites que la statistique atteint, comme le relevait danah boyd il y a quelques années (et qui vient de donner lieu à un livre qui sera publié le 29 septembre aux presses de l’université de Chicago, Data Are Made, Not Found: A Story of Politics, Power, and the Civil Servants Who Saved the US Census). 

Les pratiques de profilage, rappelle-t-il, sont antérieures à la naissance de l’informatique, même si l’informatique va leur permettre de se déployer et de s’étendre sans commune mesure. Les premières classifications sont produites pour distinguer les capacités des élèves en créant des tests mentaux et d’aptitudes avec la psychologie différentielle. Les mathématiques servent alors à mesurer l’intensité et la qualité des sensations, la vitesse de réaction… pour mesurer les différences interindividuelles et caractériser les populations en marge de la société : les aliénés, les criminels, les pauvres, les anormaux. Derrière ces tentatives pour améliorer la justice en permettant aux politiques publiques de s’adapter aux profils de chacun s’amalgame des capacités de discriminations inédites porté par tout un courant eugéniste comme le montrera le paléontologue Stephen Jay Gould dans La mal-mesure de l’homme (Odile Jacob, 1997) ou plus récemment Kate Crawford dans son Contre-atlas de l’intelligence artificielle  (Zulma, 2022, voire également notre critique). Les tests mentaux visent à diagnostiquer les enfants anormaux dans le contexte de l’instauration de l’obligation scolaire, avec, pour ses promoteurs, une volonté d’améliorer la justice sociale. 

Le terme même de profilage naît pour décrire cette mise en nombre des individus, en 1909 et s’accompagne, dès l’origine, d’un mode de production graphique pour relier les résultats aux différents tests. Au-delà de l’école, les tests vont rapidement être appliqués à l’orientation et à la sélection professionnelle, pour mieux faire correspondre les profils psychologiques aux métiers. Genicot, en plongeant par exemple dans les travaux de Jean-Maurice Lahy, dans les années 30, nous montre que les ingénieurs de l’IA n’ont rien inventé. On produit des tests psychologiques sur deux groupes de travailleurs, les bons et les mauvais (selon une distinction déjà pleine de biais, puisqu’elle ne repose que sur l’appréciation de chefs de services et le nombre de fautes professionnelles recensées) pour produire des métriques distinctives. Test qu’on peut ensuite faire passer à tout requérant pour mesurer si ses caractéristiques sont plus proches de l’un ou l’autre groupe. On tente de mesurer l’énergie, l’endurance, la concentration, la capacité d’initiative… via des tests psychométriques qui ne vont cesser de s’affiner. On les fait passer à une galerie de métiers pour tenter d’identifier ce qui singularise chaque secteur… Le profilage est dès l’origine une comparaison aux attributs statistiques des autres. « L’essence du profilage consiste à prédire une variable cachée (ici : une aptitude) de manière probabiliste, c’est-à-dire sur la base de caractéristiques (ici : les résultats obtenus à des tests psychotechniques) qui sont fortement corrélées à cette variable ». On le voit, malgré leurs efforts à « désubjectiver les méthodes d’appréciation », ces techniques les réifient. Les conditions sociales sont invisibilisées dans les capacités des individus : « le profilage réduit des situations sociales à des propriétés individuelles » et les biais de l’entité qui profilent sont passés sous silence. 

Pas étonnant que ces tests professionnels soient donc contestés. Leur caractère discriminatoire en termes de genre, de niveau social, d’origine… se dévoile à mesure que ces profilages se répandent. Les tests d’aptitudes professionnels montrent par exemple que 58% des Américains blancs les réussissent contre seulement 6% des personnes noires. Les débats pour rétablir l’équité se démultiplient alors. Faut-il différencier ces tests selon l’âge, le genre, l’origine ? Ce n’est qu’en 1991 que les Etats-Unis tranchent en prohibant les pratiques d’ajustement des scores selon l’appartenance à un groupe protégé. Mais si le débat est tranché, il n’est pas réglé. J’ai l’impression que l’enjeu de corriger les biais reste entier. Aujourd’hui encore, on ne sait pas vraiment comment les corriger. Comme si les débats, tranchés par le droit, les avait arrêtés, sans stopper les pratiques ni les problèmes afférents. 

Avec le développement du numérique, le profilage va s’amplifier. Le big data permettant de démultiplier le profilage psychologique, malgré toutes les limites de ces tests, comme nous le disaient il y a quelques années déjà le psychologue Alexandre Saint-Jevin. En fait, le profilage va également s’étendre, comme celui des chercheurs d’emploi, initié au prétexte de mieux les accompagner et qui va surtout servir à les sanctionner et faire peser sur eux des contraintes plus importantes (sans que ce contrôle ne produise aucun horizon, comme nous disions en disséquant Chômeurs, vos papiers (Raisons d’agir, 2023), qui soulignait l’inefficacité du contrôle du chômage). Il va conduire également à un recrutement de plus en plus automatisé, où les systèmes calculent (un peu n’importe comment il faut le dire) la correspondance d’un CV à une annonce. Pour Genicot, la « logique corrélationnelle » se répand et s’impose partout, jusque dans l’évaluation des employés sur leurs lieux de travail. L’appréciation des individus par des variables qui ne lui sont jamais propres se couple d’une comparaison statistique des résultats de chacun évalués par rapport à ceux d’un groupe. Le profilage tient tout entier dans ce rapport étrange de soi aux autres, où les limites des métriques utilisées sont invisibilisées par les ratios et indicateurs produits. Comme si finalement les chiffres pouvaient assurer d’une neutralité de façade, d’une neutralité dont les limites ne sont plus interrogées. Les scores de risques sont partout défaillants, il n’empêche qu’ils ne cessent d’être produits et utilisés, comme nous le pointions en lisant Jathan Sadowski.  

En observant les débats du monde assurantiel comme ceux du secteur bancaire, Nathan Genicot montre les mêmes ambiguïtés. 

Quelles discriminations acceptons-nous ?

La sélection des assurés et la tarification des primes sont depuis longtemps rattachées au calcul de probabilités. L’assurance va prendre son essor au XVIIIe siècle après l’essor de l’arithmétique politique qui invente un siècle plus tôt les premières tables de mortalité qui décrivent le nombre de décès par âge. Le risque assurantiel s’est longtemps apprécié au niveau du groupe, plus qu’au niveau individuel, là où la condition de chacun est affectée par la condition des autres. Il faudra néanmoins attendre la loi de 1898 qui impose au patron d’indemniser les salariés victimes d’accidents du travail, pour faire de l’assurance le gage de la réparation. Les assureurs se mettent à sélectionner les risques qu’ils veulent couvrir comme les assurés. Ils comprennent vite que « plus le profilage est affiné, c’est-à-dire plus il y a sélection et tarification différenciées, moins il y a de solidarité ». Une constance simple que tout le monde semble avoir oublié à l’ère du Big Data. 

A défaut de parvenir à identifier d’autres attributs pertinents, l’âge s’impose souvent comme une catégorie principale, notamment pour l’assurance vie. Genicot souligne que le débat a été constant entre individualisation et solidarité. L’assurance n’a cessé de chercher des variables pertinentes. Derrière ces débats, on en voit poindre un autre, plus philosophique s’il en était : quelles segmentations – et donc quelles discriminations – acceptons-nous en tant que société ? Et lesquelles refusons-nous ? Si tout le monde semble accepter celle de l’âge, la discrimination de genre ou sociale par exemple le sont bien moins. Et les débats sur la discrimination d’origine, aux Etats-Unis, décalque des rapports de domination de la société, sont nourris. L’intégration du comportement et du mode de vie aujourd’hui dans le calcul assurantiel reste souvent polémique, à raison, puisqu’il incrimine l’individu et masque les différences créées par les rapports sociaux. 

Comme partout ailleurs, les assureurs produisent des scores pour calculer l’assurabilité de chacun. Les assureurs ne vont cesser de développer un discours pour justifier la segmentation qui leur profite en promouvant des calculs qui seraient dénués de connotation morale, alors que nombre d’entre eux vont user et abuser de pratiques problématiques, par exemple en tenant compte de la domiciliation pour faire grimper les primes des populations racisées par rapport à celles des riches (et blanches) banlieues américaines. Pourtant souligne Genicot, malgré les critiques acerbes contre les pratiques du secteur, peu de monde interroge « la prétention à atteindre l’objectivité dans l’évaluation des risques actuariels. La pertinence du recours aux classifications ne fait, à peu de choses près, pas l’objet de débats ». Pire, comme le soulignait la sociologue Greta Krippner, l’individualisation du risque semble bien plus la conséquence de la lutte contre les pratiques discriminatoires des marchés de l’assurance plutôt que liée à l’émergence du néolibéralisme. Bon, cela ne signifie pas pour autant que l’évolution du capitalisme est absente de la segmentation assurantielle. Celle est stimulée par la liberté tarifaire, et renforcée par les progrès de l’informatique qui va permettre de démultiplier les variables et de faire disparaître les discriminations derrières la complexité des critères. 

La régulation va bien sûr s’inviter dans ces innombrables débats, par exemple en encadrant les tarifs pour prémunir l’exclusion de certains publics, ou en écartant certaines formes de segmentation les plus criantes et problématiques, comme celles sur la religion, le sexe, l’origine ethnique ou la génétique… mais sans remettre en cause nombre de pratiques problématiques. En fait, derrière les débats nourris, la société semble n’être pas parvenue à fourbir de règles claires ne permettant pas les contournements. L’interdiction de faire des distinctions de genre par exemple n’a pas conduit à limiter les possibilités de segmentations, mais à conduit à utiliser des critères plus précis, comme s’y essaie l’assurance avec la prise en compte des comportements, à l’image de la conduite automobile elle-même. Une personnalisation dans laquelle l’assurance oublie sa fonction initiale : celle de mutualiser les risques. 

Genicot rappelle pourtant que l’assurance, pour fonctionner, doit reposer sur une segmentation modérée. Même constat quant au calcul du crédit et de son risque, né lui aussi avec l’essor des techniques statistiques. Dès l’origine, portés par les grands magasins pour faciliter la consommation, ceux-ci déploient des formulaires standardisés pour classer les performances de remboursements des clients. Là encore, « l’apparente objectivité de la classification n’empêche pas la présence d’une large part d’arbitraire dans l’attribution de la note ». Si la standardisation s’impose pour réduire le pouvoir discrétionnaire des agents, la statistique va s’y imposer dès les années 50 en développant des scores pour évaluer les capacités de remboursements de chacun. Enfin, pas seulement. A mesure qu’ils se déploient, là encore, les scores se complexifient, cachant dans leurs critères leurs innombrables jugements moraux et sociaux. En 1963 par exemple, les variables d’un fournisseur de score prennent en compte toute information disponible : le taux de crédit déjà engagé et les revenus bien sûr, mais aussi le statut marital et la profession, en passant par le fait d’être syndiqué. Derrière cette complexification des scores, c’est assurément notre compréhension commune qui s’éloigne, et avec elle, notre capacité à les réguler. Les innombrables facteurs pris en compte servent à obfusquer la discrimination raciale ou de classe à l’oeuvre. On apprend à utiliser des variables très éloignées des nécessités, simplement parce qu’elles peuvent être de bons prédicateurs, comme le fait d’avoir déjà un compte bancaire, ce qui est le cas de 87% de ceux qui paient leurs échéances de crédits… au risque que ces calculs accentuent les biais inhérents. Pas étonnant que, désormais, les économistes eux-mêmes estiment que les banques ne savent plus prêter à ceux qui en ont besoin. C’est comme si, à mesure qu’ils se perpétuent, les calculs se radicalisaient d’eux-mêmes. Comme l’IA semble s’écrouler à mesure qu’elle s’entraîne sur les données qu’elle produit, les calculs de la société semblent s’effondrer sur eux-mêmes à force d’être usés. Les scores de crédits, dont le célèbre Fico Score qui naît en 1956, se développent pourtant dans un contexte de compétition forte, promettant d’élargir le crédit aux plus pauvres. Il s’impose vite comme une métrique universelle… et immuable.

L’informatisation va permettre de renchérir le score de nouvelles variables, notamment cette des cartes de paiements électroniques qui permet de rendre les notes de risques dynamiques. Genicot rappelle que les notes ont une fonction disciplinaire. Elles font penser qu’elle dépend du comportement de chacun quand elles masquent d’abord des enjeux sociaux et de classe. Pire, malgré leurs lacunes intrinsèques, elles sont désormais utilisées pour d’innombrables autres services au prétexte d’un « besoin commercial légitime » : pour louer un logement, pour assurer une voiture, pour être embauché… « Tous utilisent la note de crédit comme un proxy, un indictateur du trait de comportement qu’ils cherchent à évaluer (tel que le fait d’être un bon locataire ou un bon employé) ». Le score de crédit devient un « outil de mesure de la moralité », alors qu’il est surtout, comme le disait Frank Pasquale dans Black Box Society (Fyp, 2015) opaque, arbitraire et discriminatoire. Les scores ne servent pas tant à clarifier les choses, disait-il, mais à les rendre plus obscures. 

Or, les scores modifient le réel qu’ils entendent décrire. Et à mesure que leur usage s’étend, radicalisent leurs effets. « Une mauvaise note entraînera un taux d’intérêt plus élevé, c’est-à-dire des conditions de remboursement plus difficiles pour la personne débitrice, ce qui accroîtra sa précarité économique. Si la note est prise en compte par des bailleurs ou des employeurs, l’incidence de cet effet de boucle sera d’autant plus significative. Une personne qui, à cause d’une mauvaise note, ne trouve pas d’emploi ou ne parvient pas à se loger, aura du mal à rembourser ses crédits et verra sa note diminuer encore davantage ». C’est en cela que les calculs se radicalisent, qu’ils renforcent le « lumpenscoretariat » qu’évoquaient Marion Fourcade et Kieran Healy. 

Là encore, des régulations seront votées pour encadrer les pratiques, mais sans vraiment parvenir à agir autrement qu’en limitant les pratiques les plus discriminantes. Derrière la neutralité des scores se cache l’accélération des biais. Même un score qui ne reposerait que sur les capacités financières des individus, serait foncièrement problématique puisque les capacités à rembourser sont loin d’être équitablement distribuées. Si l’enjeu est bien de prêter de l’argent aux gens, le score, par nature, vise bien plus à limiter le prêt qu’autre chose. Pas étonnant qu’on se retrouve donc avec des organismes bancaires incapables de faire leur métier : prêter de l’argent à ceux qui en ont besoin ! L’information sur les décisions de crédits prises par les organismes, sur leur distribution, la mesure de leur équité… elle est bien souvent inaccessible. Les critères des scoring ou l’étendu des situations où ils sont utilisés également. Les innombrables données peuvent être désormais utilisées comme des prédicteurs de votre capacité de remboursement, également. Partout, l’opacité du scoring est la règle. Quand on voit par exemple le nombre de gens débancarisés, on se dit que les scores de crédit semblent surtout avoir appris, eux, à masquer leurs lacunes. 

Le risque d’un droit… sur mesure

L’essai de Nathan Genicot est bien plus sage que ma lecture énervée. Il souligne néanmoins combien les modèles statistiques et algorithmiques s’imposent dans tous ces secteurs « pour optimiser la prise de décision en se substituant au jugement humain ». Ils imposent l’idée que l’individu est seul responsable de ses notes, faisant fi du contexte social. Mais plus encore, il estime que le risque de ces calculs, de ces profilages, consiste à produire des règles de plus en plus individualisées, au risque d’altérer notre conception du droit lui-même, pour remplacer la règle qui s’applique à tous, par un droit sur mesure, calculé selon le profil de chacun. 

Dans la dernière partie du livre, il revient sur la critique d’une conception mécanique du droit : les peines similaires, impersonnelles, uniformes, à tous ont longtemps été considérées comme un idéal d’objectivité et de justice. L’impersonnalité des processus décisionnels étant vu comme un rempart contre l’arbitraire et un gage de prévisibilité. Mais là encore, au début du XXe siècle, cette conception est critiquée au prétexte que les conditions et le contexte sont toujours significatifs. A l’égalité succède le principe d’équité, et avec lui, l’idée d’une individualisation des peines pour que le droit soit le même pour tous, à l’image de la critique de la TVA ou des contraventions et amendes, qui s’appliquent à tous au même taux, même à Bernard Arnault, alors que leur impact ne sont pas les mêmes selon les revenus des justiciables. Bon, il existe bien sûr des moyens d’y remédier, en fixant par exemples des critères ou des seuils. Car, comme le souligne très justement le philosophe, le problème de l’individualisation est qu’elle n’a pas de limite. On peut personnaliser selon d’innombrables variables, comme nous le montre le marketing numérique. 

Dans les revues académiques du droit, actuellement, le débat est visiblement vif sur ces questions. La rêve d’automatisation invite certains à imaginer d’adapter la loi aux situations au grès des circonstances, à ajuster et calibrer les standards. Mais comment trouver le bon niveau pour traiter à la fois « les mêmes situations de la même manière » et « traiter différemment des situations différentes » ? « Un consommateur impulsif qui réalise régulièrement des achats en ligne pourrait par exemple se voir imposer des conditions plus strictes avant de pouvoir renvoyer un produit et se faire rembourser qu’un consommateur qui aurait, au contraire, un tempérament responsable et prudent ». Certes, mais sur quelles données, quelles inférences serait produit ce jugement comportemental ? Et serait-il lui-même juste, opposable, redevable ? On a un peu l’impression que ces perspectives oublient toutes les limites pointées par les débats passés que l’auteur a mis en avant dans sa généalogie. 

Pour Genicot, « la substitution des systèmes normatifs classiques par des dispositifs de profilage est déjà à l’œuvre », notamment dans les rapports de l’Etat à ses administrés. C’était le cas notamment, dans les années 70 avec le système GAMIN, un des premiers dispositif public de profilage pour conditionner le versement d’allocation familiales. C’est également le cas avec le profilage des bénéficiaires de la CAF et nombre d’autres outils de gestion du social que nous évoquons souvent sur danslesalgorithmes.net. Du profilage des chômeurs aux contrôles des frontières, l’individualisation et le profilage sont partout, mais ils produisent assez peu d’équité et encore moins d’égalité, au contraire. Le profilage produit surtout des conditions plus dures pour les plus vulnérables. L’optimisation prédictive partout où elle se déploie fonctionne mal, cela n’empêche hélas pas le développement d’innombrables formes de notations sociales. 

Pour Genicot, l’interdiction des notations sociales dans ce contexte par l’IA Act est le bienvenue, mais c’est oublier que le texte les rend licite plus qu’elle ne les interdit. Le RIA ne propose que de les encadrer, que de veiller à ce que les notes ne soient ni disproportionnées ni dissociées du contexte de leur production. Le fait que certains soient à haut risque ne fait peser sur eux qu’une surveillance accrue. Il ne vise pas à rendre les notes plus justes qu’elles ne sont. Ils ne nous invitent finalement pas à questionner la société. Il ne nous invite pas à changer la manière dont on calcule, ni ne nous aide à nous défier de l’enkystement des calculs. Il ne nous invite pas à changer la société, alors que demain, pour changer la société, il faudra assurément changer la manière dont elle est calculée. La personnalisation du droit, le profilage administratif, nous invite seulement à continuer la société telle qu’elle est. « Le profilage est profondément conservateur », rappelle le philosophe. « Le profilage conduit donc à créer des traitements différenciés dont il prétend cependant qu’ils sont conformes à l’égalité », sans offrir à la société les moyens de le vérifier. Ce n’est là que la parole des profileurs. Les innombrables enquêtes sur le sujet, notamment sur le profilage social, depuis les travaux pionniers de Virginia Eubanks, montrent toutes l’exact inverse. Aucun n’est conforme à l’égalité. En reposant sur l’individualisation et la responsabilisation de chacun, il est « l’exact inverse de la solidarité ». Le profilage « conduit à l’oblitération des relations et, plus largement du social. Le rapport de l’individu aux autres n’est jamais compris comme celui d’une interdépendance, mais uniquement comme une comparaison à une classe, à une collection d’individus ». « Les notes obscurcissent la dimension structurelle des inégalités sociales ». Et en s’imposant, elles nous empêchent finalement de les remettre en question. 

Au final, l’enquête historique de Nathan Genicot nous rappelle que pour changer la société, il va falloir changer la manière dont elle calcule. 

Hubert Guillaud

Dans un petit livre très historique – Des règles sur mesure : généalogie du profilage algorithmique (Amsterdam, 2026) -, le philosophe du droit, Nathan Genicot, retrace l’histoire des débats autour du déploiement des principaux systèmes de profilage, à savoir les systèmes d’analyse psychologique au travail, les systèmes de calcul de risque assurantiels et les systèmes d’obtention de crédits bancaires. Et ce qui me semble très éclairant dans cet essai, c’est de constater combien les débats, plus riches que ceux que nous pouvons avoir aujourd’hui sur ces sujets, ont été perdus. Et plus encore, qu’ils ne semblent pas plus avoir été résolus hier qu’ils ne le sont aujourd’hui. Le profilage semble embourbé dans ses limites sans parvenir à ouvrir de voies pour les résoudre. 

La rationalité statistique est au fondement des Etats modernes, rappelle Genicot à la suite d’Alain Desrosières (La politique des grands nombres, La découverte, 1993), d’Alain Supiot (La gouvernance par les nombres, Fayard, 2015) ou encore de Theodore Porter (The Rise of Statistical Thinking, 1820-1900, Princeton University Press, 2020). Mais elle est également au fondement de l’intelligence artificielle. Les statistiques permettent à la fois de quantifier le social et de le prédire, de profiler chacun « sous le prisme d’attributs qu’il partage avec d’autres ». Nous sommes non seulement statistifiés, mais également comparés. Le profilage dont nous sommes l’objet, bien souvent par devers nous, consiste à prédire notre comportement depuis la comparaison avec celui des autres à partir des régularités du passé. Partout, nous sommes notés, prédits, quelque soit la marge de certitude ou d’incertitude des traitements et inférences. Le calcul est normalisé, naturalisé par un score, une note. Que ce soit pour s’assurer, emprunter, se loger, obtenir un emploi, recevoir des allocations, être mis en relation avec d’autres…  Pour Genicot, ce profilage, ce scoring, les appariements qui en découlent, sont des techniques de régulation, des outils de gouvernementalité. Mais, alors que la loi s’applique à tous de la même façon, le profilage, lui, permettrait de s’adapter aux caractéristiques de chacun. Pour le philosophe du droit, il promet d’individualiser le droit pour « pleinement réaliser le principe d’égalité », pour produire des « règles sur mesure ». Tout l’enjeu du livre consiste justement à vérifier cela. Est-ce que le profilage remplit cette promesse ? Est-ce qu’il rend la justice plus juste ? 

Des débats de calculs

Pour déplier ses constats, Genicot observe trois milieux où se déploient, presque concomitant des techniques de profilage : le travail, l’assurance et le crédit. Dans chaque secteur, Genicot révèle, extirpe des archives les débats de l’époque. Et ceux-ci sont étonnement nourris. Les calculs d’alors viennent avec des questions. La science balbutiante s’interroge, quand l’ingénierie d’aujourd’hui semble avancer comme un rouleau compresseur, sans vraiment s’interroger des défaillances que ses calculs produisent ou des limites que la statistique atteint, comme le relevait danah boyd il y a quelques années (et qui vient de donner lieu à un livre qui sera publié le 29 septembre aux presses de l’université de Chicago, Data Are Made, Not Found: A Story of Politics, Power, and the Civil Servants Who Saved the US Census). 

Les pratiques de profilage, rappelle-t-il, sont antérieures à la naissance de l’informatique, même si l’informatique va leur permettre de se déployer et de s’étendre sans commune mesure. Les premières classifications sont produites pour distinguer les capacités des élèves en créant des tests mentaux et d’aptitudes avec la psychologie différentielle. Les mathématiques servent alors à mesurer l’intensité et la qualité des sensations, la vitesse de réaction… pour mesurer les différences interindividuelles et caractériser les populations en marge de la société : les aliénés, les criminels, les pauvres, les anormaux. Derrière ces tentatives pour améliorer la justice en permettant aux politiques publiques de s’adapter aux profils de chacun s’amalgame des capacités de discriminations inédites porté par tout un courant eugéniste comme le montrera le paléontologue Stephen Jay Gould dans La mal-mesure de l’homme (Odile Jacob, 1997) ou plus récemment Kate Crawford dans son Contre-atlas de l’intelligence artificielle  (Zulma, 2022, voire également notre critique). Les tests mentaux visent à diagnostiquer les enfants anormaux dans le contexte de l’instauration de l’obligation scolaire, avec, pour ses promoteurs, une volonté d’améliorer la justice sociale. 

Le terme même de profilage naît pour décrire cette mise en nombre des individus, en 1909 et s’accompagne, dès l’origine, d’un mode de production graphique pour relier les résultats aux différents tests. Au-delà de l’école, les tests vont rapidement être appliqués à l’orientation et à la sélection professionnelle, pour mieux faire correspondre les profils psychologiques aux métiers. Genicot, en plongeant par exemple dans les travaux de Jean-Maurice Lahy, dans les années 30, nous montre que les ingénieurs de l’IA n’ont rien inventé. On produit des tests psychologiques sur deux groupes de travailleurs, les bons et les mauvais (selon une distinction déjà pleine de biais, puisqu’elle ne repose que sur l’appréciation de chefs de services et le nombre de fautes professionnelles recensées) pour produire des métriques distinctives. Test qu’on peut ensuite faire passer à tout requérant pour mesurer si ses caractéristiques sont plus proches de l’un ou l’autre groupe. On tente de mesurer l’énergie, l’endurance, la concentration, la capacité d’initiative… via des tests psychométriques qui ne vont cesser de s’affiner. On les fait passer à une galerie de métiers pour tenter d’identifier ce qui singularise chaque secteur… Le profilage est dès l’origine une comparaison aux attributs statistiques des autres. « L’essence du profilage consiste à prédire une variable cachée (ici : une aptitude) de manière probabiliste, c’est-à-dire sur la base de caractéristiques (ici : les résultats obtenus à des tests psychotechniques) qui sont fortement corrélées à cette variable ». On le voit, malgré leurs efforts à « désubjectiver les méthodes d’appréciation », ces techniques les réifient. Les conditions sociales sont invisibilisées dans les capacités des individus : « le profilage réduit des situations sociales à des propriétés individuelles » et les biais de l’entité qui profilent sont passés sous silence. 

Pas étonnant que ces tests professionnels soient donc contestés. Leur caractère discriminatoire en termes de genre, de niveau social, d’origine… se dévoile à mesure que ces profilages se répandent. Les tests d’aptitudes professionnels montrent par exemple que 58% des Américains blancs les réussissent contre seulement 6% des personnes noires. Les débats pour rétablir l’équité se démultiplient alors. Faut-il différencier ces tests selon l’âge, le genre, l’origine ? Ce n’est qu’en 1991 que les Etats-Unis tranchent en prohibant les pratiques d’ajustement des scores selon l’appartenance à un groupe protégé. Mais si le débat est tranché, il n’est pas réglé. J’ai l’impression que l’enjeu de corriger les biais reste entier. Aujourd’hui encore, on ne sait pas vraiment comment les corriger. Comme si les débats, tranchés par le droit, les avait arrêtés, sans stopper les pratiques ni les problèmes afférents. 

Avec le développement du numérique, le profilage va s’amplifier. Le big data permettant de démultiplier le profilage psychologique, malgré toutes les limites de ces tests, comme nous le disaient il y a quelques années déjà le psychologue Alexandre Saint-Jevin. En fait, le profilage va également s’étendre, comme celui des chercheurs d’emploi, initié au prétexte de mieux les accompagner et qui va surtout servir à les sanctionner et faire peser sur eux des contraintes plus importantes (sans que ce contrôle ne produise aucun horizon, comme nous disions en disséquant Chômeurs, vos papiers (Raisons d’agir, 2023), qui soulignait l’inefficacité du contrôle du chômage). Il va conduire également à un recrutement de plus en plus automatisé, où les systèmes calculent (un peu n’importe comment il faut le dire) la correspondance d’un CV à une annonce. Pour Genicot, la « logique corrélationnelle » se répand et s’impose partout, jusque dans l’évaluation des employés sur leurs lieux de travail. L’appréciation des individus par des variables qui ne lui sont jamais propres se couple d’une comparaison statistique des résultats de chacun évalués par rapport à ceux d’un groupe. Le profilage tient tout entier dans ce rapport étrange de soi aux autres, où les limites des métriques utilisées sont invisibilisées par les ratios et indicateurs produits. Comme si finalement les chiffres pouvaient assurer d’une neutralité de façade, d’une neutralité dont les limites ne sont plus interrogées. Les scores de risques sont partout défaillants, il n’empêche qu’ils ne cessent d’être produits et utilisés, comme nous le pointions en lisant Jathan Sadowski.  

En observant les débats du monde assurantiel comme ceux du secteur bancaire, Nathan Genicot montre les mêmes ambiguïtés. 

Quelles discriminations acceptons-nous ?

La sélection des assurés et la tarification des primes sont depuis longtemps rattachées au calcul de probabilités. L’assurance va prendre son essor au XVIIIe siècle après l’essor de l’arithmétique politique qui invente un siècle plus tôt les premières tables de mortalité qui décrivent le nombre de décès par âge. Le risque assurantiel s’est longtemps apprécié au niveau du groupe, plus qu’au niveau individuel, là où la condition de chacun est affectée par la condition des autres. Il faudra néanmoins attendre la loi de 1898 qui impose au patron d’indemniser les salariés victimes d’accidents du travail, pour faire de l’assurance le gage de la réparation. Les assureurs se mettent à sélectionner les risques qu’ils veulent couvrir comme les assurés. Ils comprennent vite que « plus le profilage est affiné, c’est-à-dire plus il y a sélection et tarification différenciées, moins il y a de solidarité ». Une constance simple que tout le monde semble avoir oublié à l’ère du Big Data. 

A défaut de parvenir à identifier d’autres attributs pertinents, l’âge s’impose souvent comme une catégorie principale, notamment pour l’assurance vie. Genicot souligne que le débat a été constant entre individualisation et solidarité. L’assurance n’a cessé de chercher des variables pertinentes. Derrière ces débats, on en voit poindre un autre, plus philosophique s’il en était : quelles segmentations – et donc quelles discriminations – acceptons-nous en tant que société ? Et lesquelles refusons-nous ? Si tout le monde semble accepter celle de l’âge, la discrimination de genre ou sociale par exemple le sont bien moins. Et les débats sur la discrimination d’origine, aux Etats-Unis, décalque des rapports de domination de la société, sont nourris. L’intégration du comportement et du mode de vie aujourd’hui dans le calcul assurantiel reste souvent polémique, à raison, puisqu’il incrimine l’individu et masque les différences créées par les rapports sociaux. 

Comme partout ailleurs, les assureurs produisent des scores pour calculer l’assurabilité de chacun. Les assureurs ne vont cesser de développer un discours pour justifier la segmentation qui leur profite en promouvant des calculs qui seraient dénués de connotation morale, alors que nombre d’entre eux vont user et abuser de pratiques problématiques, par exemple en tenant compte de la domiciliation pour faire grimper les primes des populations racisées par rapport à celles des riches (et blanches) banlieues américaines. Pourtant souligne Genicot, malgré les critiques acerbes contre les pratiques du secteur, peu de monde interroge « la prétention à atteindre l’objectivité dans l’évaluation des risques actuariels. La pertinence du recours aux classifications ne fait, à peu de choses près, pas l’objet de débats ». Pire, comme le soulignait la sociologue Greta Krippner, l’individualisation du risque semble bien plus la conséquence de la lutte contre les pratiques discriminatoires des marchés de l’assurance plutôt que liée à l’émergence du néolibéralisme. Bon, cela ne signifie pas pour autant que l’évolution du capitalisme est absente de la segmentation assurantielle. Celle est stimulée par la liberté tarifaire, et renforcée par les progrès de l’informatique qui va permettre de démultiplier les variables et de faire disparaître les discriminations derrières la complexité des critères. 

La régulation va bien sûr s’inviter dans ces innombrables débats, par exemple en encadrant les tarifs pour prémunir l’exclusion de certains publics, ou en écartant certaines formes de segmentation les plus criantes et problématiques, comme celles sur la religion, le sexe, l’origine ethnique ou la génétique… mais sans remettre en cause nombre de pratiques problématiques. En fait, derrière les débats nourris, la société semble n’être pas parvenue à fourbir de règles claires ne permettant pas les contournements. L’interdiction de faire des distinctions de genre par exemple n’a pas conduit à limiter les possibilités de segmentations, mais à conduit à utiliser des critères plus précis, comme s’y essaie l’assurance avec la prise en compte des comportements, à l’image de la conduite automobile elle-même. Une personnalisation dans laquelle l’assurance oublie sa fonction initiale : celle de mutualiser les risques. 

Genicot rappelle pourtant que l’assurance, pour fonctionner, doit reposer sur une segmentation modérée. Même constat quant au calcul du crédit et de son risque, né lui aussi avec l’essor des techniques statistiques. Dès l’origine, portés par les grands magasins pour faciliter la consommation, ceux-ci déploient des formulaires standardisés pour classer les performances de remboursements des clients. Là encore, « l’apparente objectivité de la classification n’empêche pas la présence d’une large part d’arbitraire dans l’attribution de la note ». Si la standardisation s’impose pour réduire le pouvoir discrétionnaire des agents, la statistique va s’y imposer dès les années 50 en développant des scores pour évaluer les capacités de remboursements de chacun. Enfin, pas seulement. A mesure qu’ils se déploient, là encore, les scores se complexifient, cachant dans leurs critères leurs innombrables jugements moraux et sociaux. En 1963 par exemple, les variables d’un fournisseur de score prennent en compte toute information disponible : le taux de crédit déjà engagé et les revenus bien sûr, mais aussi le statut marital et la profession, en passant par le fait d’être syndiqué. Derrière cette complexification des scores, c’est assurément notre compréhension commune qui s’éloigne, et avec elle, notre capacité à les réguler. Les innombrables facteurs pris en compte servent à obfusquer la discrimination raciale ou de classe à l’oeuvre. On apprend à utiliser des variables très éloignées des nécessités, simplement parce qu’elles peuvent être de bons prédicateurs, comme le fait d’avoir déjà un compte bancaire, ce qui est le cas de 87% de ceux qui paient leurs échéances de crédits… au risque que ces calculs accentuent les biais inhérents. Pas étonnant que, désormais, les économistes eux-mêmes estiment que les banques ne savent plus prêter à ceux qui en ont besoin. C’est comme si, à mesure qu’ils se perpétuent, les calculs se radicalisaient d’eux-mêmes. Comme l’IA semble s’écrouler à mesure qu’elle s’entraîne sur les données qu’elle produit, les calculs de la société semblent s’effondrer sur eux-mêmes à force d’être usés. Les scores de crédits, dont le célèbre Fico Score qui naît en 1956, se développent pourtant dans un contexte de compétition forte, promettant d’élargir le crédit aux plus pauvres. Il s’impose vite comme une métrique universelle… et immuable.

L’informatisation va permettre de renchérir le score de nouvelles variables, notamment cette des cartes de paiements électroniques qui permet de rendre les notes de risques dynamiques. Genicot rappelle que les notes ont une fonction disciplinaire. Elles font penser qu’elle dépend du comportement de chacun quand elles masquent d’abord des enjeux sociaux et de classe. Pire, malgré leurs lacunes intrinsèques, elles sont désormais utilisées pour d’innombrables autres services au prétexte d’un « besoin commercial légitime » : pour louer un logement, pour assurer une voiture, pour être embauché… « Tous utilisent la note de crédit comme un proxy, un indictateur du trait de comportement qu’ils cherchent à évaluer (tel que le fait d’être un bon locataire ou un bon employé) ». Le score de crédit devient un « outil de mesure de la moralité », alors qu’il est surtout, comme le disait Frank Pasquale dans Black Box Society (Fyp, 2015) opaque, arbitraire et discriminatoire. Les scores ne servent pas tant à clarifier les choses, disait-il, mais à les rendre plus obscures. 

Or, les scores modifient le réel qu’ils entendent décrire. Et à mesure que leur usage s’étend, radicalisent leurs effets. « Une mauvaise note entraînera un taux d’intérêt plus élevé, c’est-à-dire des conditions de remboursement plus difficiles pour la personne débitrice, ce qui accroîtra sa précarité économique. Si la note est prise en compte par des bailleurs ou des employeurs, l’incidence de cet effet de boucle sera d’autant plus significative. Une personne qui, à cause d’une mauvaise note, ne trouve pas d’emploi ou ne parvient pas à se loger, aura du mal à rembourser ses crédits et verra sa note diminuer encore davantage ». C’est en cela que les calculs se radicalisent, qu’ils renforcent le « lumpenscoretariat » qu’évoquaient Marion Fourcade et Kieran Healy. 

Là encore, des régulations seront votées pour encadrer les pratiques, mais sans vraiment parvenir à agir autrement qu’en limitant les pratiques les plus discriminantes. Derrière la neutralité des scores se cache l’accélération des biais. Même un score qui ne reposerait que sur les capacités financières des individus, serait foncièrement problématique puisque les capacités à rembourser sont loin d’être équitablement distribuées. Si l’enjeu est bien de prêter de l’argent aux gens, le score, par nature, vise bien plus à limiter le prêt qu’autre chose. Pas étonnant qu’on se retrouve donc avec des organismes bancaires incapables de faire leur métier : prêter de l’argent à ceux qui en ont besoin ! L’information sur les décisions de crédits prises par les organismes, sur leur distribution, la mesure de leur équité… elle est bien souvent inaccessible. Les critères des scoring ou l’étendu des situations où ils sont utilisés également. Les innombrables données peuvent être désormais utilisées comme des prédicteurs de votre capacité de remboursement, également. Partout, l’opacité du scoring est la règle. Quand on voit par exemple le nombre de gens débancarisés, on se dit que les scores de crédit semblent surtout avoir appris, eux, à masquer leurs lacunes. 

Le risque d’un droit… sur mesure

L’essai de Nathan Genicot est bien plus sage que ma lecture énervée. Il souligne néanmoins combien les modèles statistiques et algorithmiques s’imposent dans tous ces secteurs « pour optimiser la prise de décision en se substituant au jugement humain ». Ils imposent l’idée que l’individu est seul responsable de ses notes, faisant fi du contexte social. Mais plus encore, il estime que le risque de ces calculs, de ces profilages, consiste à produire des règles de plus en plus individualisées, au risque d’altérer notre conception du droit lui-même, pour remplacer la règle qui s’applique à tous, par un droit sur mesure, calculé selon le profil de chacun. 

Dans la dernière partie du livre, il revient sur la critique d’une conception mécanique du droit : les peines similaires, impersonnelles, uniformes, à tous ont longtemps été considérées comme un idéal d’objectivité et de justice. L’impersonnalité des processus décisionnels étant vu comme un rempart contre l’arbitraire et un gage de prévisibilité. Mais là encore, au début du XXe siècle, cette conception est critiquée au prétexte que les conditions et le contexte sont toujours significatifs. A l’égalité succède le principe d’équité, et avec lui, l’idée d’une individualisation des peines pour que le droit soit le même pour tous, à l’image de la critique de la TVA ou des contraventions et amendes, qui s’appliquent à tous au même taux, même à Bernard Arnault, alors que leur impact ne sont pas les mêmes selon les revenus des justiciables. Bon, il existe bien sûr des moyens d’y remédier, en fixant par exemples des critères ou des seuils. Car, comme le souligne très justement le philosophe, le problème de l’individualisation est qu’elle n’a pas de limite. On peut personnaliser selon d’innombrables variables, comme nous le montre le marketing numérique. 

Dans les revues académiques du droit, actuellement, le débat est visiblement vif sur ces questions. La rêve d’automatisation invite certains à imaginer d’adapter la loi aux situations au grès des circonstances, à ajuster et calibrer les standards. Mais comment trouver le bon niveau pour traiter à la fois « les mêmes situations de la même manière » et « traiter différemment des situations différentes » ? « Un consommateur impulsif qui réalise régulièrement des achats en ligne pourrait par exemple se voir imposer des conditions plus strictes avant de pouvoir renvoyer un produit et se faire rembourser qu’un consommateur qui aurait, au contraire, un tempérament responsable et prudent ». Certes, mais sur quelles données, quelles inférences serait produit ce jugement comportemental ? Et serait-il lui-même juste, opposable, redevable ? On a un peu l’impression que ces perspectives oublient toutes les limites pointées par les débats passés que l’auteur a mis en avant dans sa généalogie. 

Pour Genicot, « la substitution des systèmes normatifs classiques par des dispositifs de profilage est déjà à l’œuvre », notamment dans les rapports de l’Etat à ses administrés. C’était le cas notamment, dans les années 70 avec le système GAMIN, un des premiers dispositif public de profilage pour conditionner le versement d’allocation familiales. C’est également le cas avec le profilage des bénéficiaires de la CAF et nombre d’autres outils de gestion du social que nous évoquons souvent sur danslesalgorithmes.net. Du profilage des chômeurs aux contrôles des frontières, l’individualisation et le profilage sont partout, mais ils produisent assez peu d’équité et encore moins d’égalité, au contraire. Le profilage produit surtout des conditions plus dures pour les plus vulnérables. L’optimisation prédictive partout où elle se déploie fonctionne mal, cela n’empêche hélas pas le développement d’innombrables formes de notations sociales. 

Pour Genicot, l’interdiction des notations sociales dans ce contexte par l’IA Act est le bienvenue, mais c’est oublier que le texte les rend licite plus qu’elle ne les interdit. Le RIA ne propose que de les encadrer, que de veiller à ce que les notes ne soient ni disproportionnées ni dissociées du contexte de leur production. Le fait que certains soient à haut risque ne fait peser sur eux qu’une surveillance accrue. Il ne vise pas à rendre les notes plus justes qu’elles ne sont. Ils ne nous invitent finalement pas à questionner la société. Il ne nous invite pas à changer la manière dont on calcule, ni ne nous aide à nous défier de l’enkystement des calculs. Il ne nous invite pas à changer la société, alors que demain, pour changer la société, il faudra assurément changer la manière dont elle est calculée. La personnalisation du droit, le profilage administratif, nous invite seulement à continuer la société telle qu’elle est. « Le profilage est profondément conservateur », rappelle le philosophe. « Le profilage conduit donc à créer des traitements différenciés dont il prétend cependant qu’ils sont conformes à l’égalité », sans offrir à la société les moyens de le vérifier. Ce n’est là que la parole des profileurs. Les innombrables enquêtes sur le sujet, notamment sur le profilage social, depuis les travaux pionniers de Virginia Eubanks, montrent toutes l’exact inverse. Aucun n’est conforme à l’égalité. En reposant sur l’individualisation et la responsabilisation de chacun, il est « l’exact inverse de la solidarité ». Le profilage « conduit à l’oblitération des relations et, plus largement du social. Le rapport de l’individu aux autres n’est jamais compris comme celui d’une interdépendance, mais uniquement comme une comparaison à une classe, à une collection d’individus ». « Les notes obscurcissent la dimension structurelle des inégalités sociales ». Et en s’imposant, elles nous empêchent finalement de les remettre en question. 

Au final, l’enquête historique de Nathan Genicot nous rappelle que pour changer la société, il va falloir changer la manière dont elle calcule. 

Hubert Guillaud

La journaliste de Bloomberg, Katrina Manson, a publié en mars un livre consacré au Project Maven : A Marine Colonel, his Team, and the Dawn of AI Warfare (Norton & Company, 2026, non traduit). Maven est le nom du programme d’IA développé par l’armée américaine pour faire la guerre (l’équivalent des programmes israélien que nous avons longuement évoqué dans DLA, notamment dans L’IA, ça sert, d’abord, à faire la guerre). Le livre raconte la bataille d’un officier des Marines, Drew Cukor, pour imposer le projet et convertir l’armée américaine aux promesses de la guerre automatisée. 

On regrettera vivement que le livre soit parfois peu précis sur ce que fait et ne fait pas Maven. Si on y apprend toute son histoire, on n’apprend pas comment le système fonctionne concrètement, ce qu’il arme ni comment. Si le livre évoque longuement le travail sur certaines données, notamment les images et vidéos satellitaires et de drones, c’est au détriment de toutes les autres qui nourrissent aussi le tableau de bord pour faire la guerre, et notamment les données provenant des écoutes téléphoniques, de la surveillance et du renseignement. Son interface qui semble la plus grande réussite du programme à en croire Manson ne nous est jamais montrée. 

Il faut comprendre que l’enquête de la journaliste porte plutôt sur le développement de projet agile au sein d’une bureaucratie contrainte et retorse. Si le livre propose une solide chronologie, Manson semble parfois rater certains enjeux au profit d’une ode à la persévérance et à l’innovation, comme fascinée par ce que Cukor et son équipe sont parvenus à imposer, dans l’adversité. 

Lancé en 2017, le projet Maven est désormais pleinement opérationnel. Il est le projet fondateur du ciblage automatisé. S’il n’est que l’un des 800 projets IA de l’armée américaine utilisés sur les champs de bataille, Maven est devenu son système phare, déployé dans toutes les branches militaires américaines. Plus qu’un outil de ciblage sans précédent, Maven est une plateforme qui concentre les dispositifs de renseignement et d’opérations. 

L’obsession de l’IA

Drew Cukor était officier dans les Marines à Kandahar en Afghanistan après les attentats du 11 septembre 2001. C’est là qu’il découvre les ordinateurs sur le terrain d’opération. Autant dire que sa déception est grande. A l’époque, les listes de cibles produites par le renseignement étaient enfermées dans des fichiers Excel. Chaque service avait ses propres outils d’analyse. Mais ces outils étaient inexploitables sur le terrain. Dès sa thèse dans le corps des marines en 97, Cukor défend que l’intelligence des machines est inutile si les soldats de terrain n’y ont pas accès. Pour lui, les ordinateurs doivent aider à transformer la donnée en intelligence pour l’action. En Afghanistan, puis à Bagdad en Irak, il constate que les ordinateurs sont inutiles aux soldats. Quand il devient le responsable du département du renseignement des Marines en 2010, son objectif est de réparer le renseignement et pour lui, cela signifie y déployer la plateforme de gestion de données proposée par une startup américaine, Palantir, dont il a apprécié la démonstration en 2009. In-Q-Tel, le fond d’investissement de la CIA a investi en 2005, 2 millions de dollars dans Palantir. A l’époque, Palantir n’est qu’un démonstrateur pourtant : il affiche des données provenant de nombreux silos du renseignement et permet de voir quel analyste y accède. Il garde la trace des changements et des indications que portent sur ces informations les agents. Une forme de wiki du renseignement permettant de discuter des informations, de les valider ou de les écarter. Parmi les données disponibles, il y a des appels téléphoniques et leurs transcriptions, des rapports d’interrogatoires, des images et vidéos… Et un système de requête permettant de trouver la trace d’informations dans toutes les informations disponibles pour les recouper. Palantir n’est qu’une interface qui permet d’afficher les données et de coopérer entre analystes sur des données qui proviennent du renseignement. Un tableau de bord.  

Le rapport de la commission du 11 septembre a pointé les défaillances du renseignement et plus encore de matériel pour l’exploiter. Cukor partage le même avis. Pour Cukor, comme pour Thiel et Karp, les fondateurs de Palantir, les attentats de 2001 ont été un choc. Pour eux, le renseignement américain a échoué à empêcher le drame. Pour eux, l’IA est la réponse à apporter : elle a pour mission de transformer le renseignement et les opérations. Mais, les Marines, où Cukor travaille, est le plus petit des services de la Défense américaine et son département spécialisé dans le renseignement est encore plus insignifiant. Cukor décide néanmoins d’utiliser Palantir sur le terrain en Afghanistan, en 2011. Très rapidement, les officiers de terrain le trouvent utile. La Marine l’utilise pour déterminer des routes et des zones d’atterrissage. L’outil est pourtant très imparfait, mais il fait vite la démonstration de ses possibilités. Pour Cukor, comme il le défendra dans une note, la modernisation du renseignement militaire est clé : à l’avenir, l’analyse déterminera qui l’emportera sur le champ de bataille. Le but est d’accélérer et d’améliorer la décision avec l’aide de l’IA. A l’heure où Google fait rouler des voitures autonomes, pourtant, l’armée n’a pas ces outils dans son catalogue. Pas même de système cloud. Et ce quand bien « même si l’internet a été une création du Pentagon et qu’il dépense 38 milliards de dollars par an dans les nouvelles technologies »…. Pour Cukor, tout est à faire. Mais pour convaincre, estime le soldat, il faut des applications concrètes, qui collent au terrain, utiles sur site.

Cukor propose d’utiliser l’IA pour analyser les données des drones et améliorer l’information satellitaire. Cukor va visiter les entreprises qui produisent des voitures autonomes. En 2017, il rencontre IDenTV, une startup qui construit un modèle de vision par ordinateur pour drones, capable de repérer des objets sur une image. Le Congrès valide les fonds. Le projet Maven est lancé. Son ambition est tout de suite de faire du ciblage. Pour lui, l’IA doit aider à sélectionner et prioriser les cibles et aider à apparier la réponse appropriée. Pour lui, le département de la Défense ne devrait plus jamais acheter de systèmes d’armement sans IA intégrée. Son idée fixe est de créer une application de ciblage révolutionnaire et démontrer que l’IA peut « réduire la durée de la chaîne d’engagement entre la détection d’une cible et son traitement : repérer, localiser, neutraliser ». Pour lui, le département de la Défense doit fonctionner bien plus comme une entreprise logicielle que comme une usine d’armement pour être capable de traiter la donnée, actif capital du terrain. 

Pour cela, Cukor se dote d’une équipe dédiée bien sûr. Tous semblent des avoir des profils atypiques, si l’on en croit Katrina Manson. Cukor, plus qu’un visionnaire, est plutôt décrit comme un psychopathe par certains d’entre eux. Un bourreau de travail, obsédé par sa vision. Manson délaye les commentaires des uns sur les autres… 

Du côté de la création de Maven, elle explique que l’enjeu a été d’intégrer peu à peu des informations provenant de différents types de drones et notamment les images qu’ils produisaient, qu’il a fallu faire parler, analyser, pour que les systèmes reconnaissent des formes. Une gageure pas si simple, notamment pour les drones qui volent le plus haut, qui renvoient des images où les informations sont difficiles à identifier du fait même de l’éloignement. Certains motifs ne font parfois que quelques pixels. L’étiquetage des images pour l’entraînement des systèmes n’était pas simple, d’autant que ces images sont produites selon différents angles, altitudes… L’autre enjeu de Maven a consisté à construire l’infrastructure pour sécuriser ces données tout en donnant accès aux agents assermentés comme aux logiciels des entreprises privées. Dès le début Maven se conçoit comme un projet en partie ouvert aux industries de l’IA, notamment aux entreprises capables d’apporter les capacités de traitement et de sécurisation, celles capables d’apporter les logiciels d’analyses des flux vidéos, etc. Manson montre surtout que les capacités du renseignement américain ne reposent pas seulement sur les capacités techniques des agences, mais visent surtout à agencer des infrastructures sécurisées, capables de traiter les volumes de données et l’information, et délimiter les capacités d’action de chacun. La structuration a consisté à ce que le gouvernement s’occupe des données et loue les licences d’usages des systèmes, à charge de les intégrer sans que ceux-ci n’accèdent aux données et les intégrer aux lourds systèmes sécurisés de l’armée. Ces travaux ne se sont pas menés avec les grandes entreprises du secteur, mais plutôt avec de petits acteurs, comme Clarifai.ai ou Xnor… Peu à peu, les entreprises fourbissent des dizaines d’algorithmes d’analyses, certains pour identifier les visages, d’autres pour les images de drones ou satellitaires. Faire apprendre la reconnaissance de formes aux systèmes prend du temps. 

L’enjeu pour Cukor était d’obtenir un démonstrateur utile sur le terrain, même si imparfait. Les premières démonstrations ont lieu en Somalie, 8 mois après le lancement de Maven. La démonstration n’est pourtant pas totalement concluante. L’écran se peuple d’indications de détection et toutes ne sont pas exactes (la moitié sont mêmes complètement fausses). La détection est lente. Mais l’IA montre qu’elle est capable de compter des humains sur un marché, de suivre des convois de véhicules en mouvement, de suivre des individus ciblés. Et puis, elle pointe des individus cachés dans des buissons qu’aucun humain n’avait détectés. L’IA venait de faire la démonstration de son utilité. Malgré ses défauts, l’exemple était saisissant. 

Cukor va tenter de rallier nombre d’acteurs à ses projets. Notamment Google et sa filiale, DeepMind, forte de son succès au jeu de Go, alors que son patron, Demis Hassabis a signé une lettre ouverte en 2015 contre les périls à utiliser l’IA pour la guerre. Les approches de Cukor pour inviter à rallier son projet sont difficiles. Partout, des déclarations s’en prennent au déploiement de l’IA, à l’image des plus actifs et radicaux, les acteurs de Stop Killer Robots, lancé dès 2012. Alors que les dépenses militaires soutiennent des entreprises de la Silicon Valley depuis longtemps, les révélations d’Edward Snowden en 2013 ont refroidi l’ambiance. Une entité de Google finira par signer un contrat avec Maven, pour le stockage d’infrastructure, pour aider l’armée à construire son propre cloud. En mars 2018, ce contrat entre Google et Maven est rendu public, déclenchant une vaste contestation dans l’entreprise… jusqu’à ce que Google annonce son retrait du projet (ou son implication semblait surtout anecdotique, mais symbolique). Microsoft prendra sa place. Puis bien d’autres. En février 2025, Google remisera ses principes. Peu à peu, les entreprises vont se joindre au projet, au prétexte de prêter leur concours à la sécurité nationale. En 2025, Hassabis lui-même affirmera que « les valeurs démocratiques de l’occident sont menacées ». La plupart de ceux qui ont dénoncé les dangers de l’IA se sont rangés pour se mettre au service du marché des armées. Après le retrait de Google d’ailleurs, le projet Maven est renforcé : le programme obtient « l’exemption de sécurité nationale », lui permettant de ne pas répondre de ses actions. Son budget passe de 16 millions de dollars en 2018 à 93 en 2019. Sous la gouvernance de Cukor, le programme Maven aura englouti 1 milliards de dollars.

Un long processus d’amélioration

Maven de son côté étend son projet à d’autres enjeux que l’analyse des images de drones, pour y intégrer des contenus de caméras de sécurité et surtout, des analyses de textes, de contenus audios provenant de l’écoute des communications, de fichiers provenant de documents capturés à l’ennemi. La labellisation permet aux algorithmes de progresser et d’identifier de plus en plus correctement de plus en plus d’objets. Ses équipes se déplacent d’un terrain d’opération l’autre pour tester ses outils, notamment en Afghanistan, où l’équipe se rend compte qu’il faut améliorer les modèles car les données d’entraînement utilisées en Somalie ne fonctionnent pas aussi bien ailleurs. Pour l’instant Maven ne fait que de la détection, mais pour Cukor, l’enjeu est déjà de passer à la phase suivante : cibler. Quand les algorithmes de détection s’améliorent en Afghanistan, ils s’effondrent aux Philippines : les véhicules à détecter ne sont pas les mêmes, l’environnement non plus… À mesure que l’outil s’étend, le travail s’étend. L’enjeu à suivre des cibles est plus complexe que la simple détection… Malgré l’effort de détection, les frappes de drones sont loin d’être parfaitement sécurisées, les erreurs et les dommages collatéraux sont élevés. Mais surtout, Maven va peu à peu devenir ce pourquoi il est peut-être vraiment créé : pas seulement optimiser l’information, mais peut-être plus encore optimiser les ressources militaires, c’est-à-dire concentrer la puissance de feu pour qu’elle ait plus d’effets. L’IA pour faire la guerre est aussi, si ce n’est d’abord, un outil pour optimiser les ressources, décider de quelle arme employer… Maven semble un tableau de bord comme les autres : utilisé pour optimiser et contrôler les dépenses !

Au détour de son histoire, Mason raconte souvent l’obsession chinoise de l’armée américaine. A tous les niveaux, l’armée US semble convaincue que le prochain terrain d’opération sera une confrontation avec la Chine. Les américains sont convaincus que la Chine va reprendre Taïwan, plateforme de la construction des puces électroniques mondiales. Et l’armée américaine est convaincue que l’IA peut les aider à détecter l’offensive chinoise qu’ils attendent et contre laquelle ils se préparent. 

Manson évoque bien sûr Palantir et son PDG, Alex Karp, « le dealer d’armes IA du XXIe siècle ». En quelques années, Palantir est devenu le premier fournisseur de systèmes de Défense au monde. « La seule façon d’être en sécurité pour les Américains, est de s’assurer que ses adversaires aient peur », clame Karp. Pour lui, les activistes de la paix sont une infection. Ses systèmes savent agréger comme nul autre toutes les données, tous les détails sur une carte permettant aux systèmes d’IA et aux analystes de tout voir et de tout planifier. En s’imposant peu à peu comme l’acteur incontournable des systèmes de Défense, Palantir a décroché un accord de 10 milliards de dollars avec l’armée américaine pour les multiples licences à utiliser ses outils. Elle est devenue l’une des entreprises les plus rentables du monde. En 2018, alors que Maven se déploie timidement, Cukor veut déjà aller plus loin. Il voudrait que Maven incorpore tous les systèmes que l’armée utilise pour devenir la plateforme unique, le tableau de bord de la guerre, et notamment, incorporer les vidéos dans sa carte pour permettre aux analystes d’avoir accès à toujours plus d’informations, simplement ou leur permettre de cliquer sur une cible pour que le système la trace et la détruise. Pour cela, Cukor estime qu’il faut intégrer l’IA plus avant, dans le flux de ciblage lui-même. Le problème, c’est qu’à l’époque, l’argent de Maven est destiné à l’intelligence, pas à l’opérationnel. L’armée dispose d’innombrables options logicielles et intégrer l’IA est encore hautement controversé. En avril 2018, Cukor rencontre Palantir et déploie sa vision des systèmes de Défense pour les 10 prochaines années. Il imagine une sorte de Google Earth appliqué à la guerre. Un tableau de bord rassemblant toutes les informations, les structurant, les rendant disponibles… et les analysant. Il demande à Palantir de réimaginer l’interface utilisateur qu’ils proposent avec Gotham, l’un de ses logiciels. De faire quelque chose sur mesure. Cukor va initier des discussions avec nombre de start-ups. En octobre, l’équipe de Maven installe Palantir sur ses serveurs. La communauté militaire est rapidement convaincue de l’apport, malgré les coûts, même si l’installation de Palantir rend Maven moins essentiel. Cukor insiste pour que tout soit profondément séparé, aucune donnée n’est autorisée à passer d’un système à l’autre. Si la protection des données semble assurée, d’autres critiquent le fait que le Pentagon construise des services en couches, comme des tranches de cake superposées. Mais Palantir ajoute une couche d’analyse sur Maven : « La nouvelle plateforme de Palantir superposait de la réalité augmentée aux flux vidéo, traçant des lignes de planification de mission aux couleurs vives sur les images pour désigner les itinéraires comme étant sûrs ou dangereux. Des cercles concentriques, appelés cercles de portée, rayonnaient depuis un site d’attaque potentiel sur la carte pour indiquer la zone où des victimes pourraient subir des dommages collatéraux. Cette superposition attribuait également des numéros à des bâtiments spécifiques, facilitant grandement la communication entre des équipes disparates. » L’interface rend le tableau de bord et les cartes plus lisibles. Dans l’équipe de Maven, plusieurs pensent que l’intégration de Palantir est problématique. Cukor fait entrer nombre d’autres entreprises dans Maven, bien avant les grands acteurs de l’IA que seront OpenAI ou Anthropic, pour développer des modèles pour analyser les images et les données. 

Mason égraine les relations partenariales entre Maven et d’innombrables startups de la Valley. Leur flux, leurs reflux… Les avancées, les reculs, les hésitations.. Les luttes internes dans l’armée pour piloter les programmes d’IA, les guerres de territoires autour du partage de données qui permettent aux programmes de fonctionner. Beaucoup estiment que les protections imposées par Cukor sur les données restent son pire échec, empêchant leur partage entre différents services plutôt qu’empêchant les startups d’y accéder. La dernière partie du livre est toute entière autour de cette guerre de territoire entre différents services de l’armée. Derrière cette bataille interne, tout l’enjeu est de permettre non seulement de repérer, mais plus encore d’éliminer, de raccourcir la kill chain, comme l’ânonne chacun.

Reste que les débuts de ces intégrations n’en sont pas moins laborieux. « Les détections par IA semblaient initialement encore plus laborieuses avec le nouveau système de Palantir. Les détections apparaissaient sous forme de points si volumineux qu’ils masquaient les objets, rendant impossible la distinction entre adultes et enfants par exemple ». En octobre 2019, Maven est sur le front pour éliminer Abu Bakr al-Baghdadi…Trump est ravi de voir l’assassinat en direct, comme s’il regardait un film. 35 000 frappes contre l’Etat islamique sont déclenchées en même temps que le raid. Maven remplit son contrat. A nouveau, le système détecte des problèmes que les analystes n’avaient pas vu. « L’IA apparaît enfin capable de déchirer le brouillard de la guerre ». Même si les frappes sont loin d’être sans erreurs, comme le pointait la presse à l’époque. Entre 1437 et 8000 civiles seront tués en 5 années d’opération contre l’Etat islamique en Irak et Syrie, comme le révéleront les investigations de la NPR et du New York Times. L’armée américaine sera contrainte à mener une deuxième enquête après les contestations de la première pour éclaircir ce point, mais ses résultats ne seront jamais publiés. 

Les défaillances de l’IA sont pour l’instant passées sous silence, mais nombre de civiles sont souvent confondus avec des combattants. L’IA ne distingue pas les bons des mauvais. Ce qu’il voit devient souvent une cible puisqu’il est conçu pour en produire. Pour les défenseurs de la généralisation de l’IA, l’IA n’est pas toujours en cause, renvoyant la responsabilité aux humains. Pour les prosélytes de ces systèmes, ils permettent d’accéder à plus de données que jamais pour mieux décider. Pour les journalistes, les victimes civiles sont toujours plus nombreuses que comptées dans les rapports de l’armée. Lors de l’opération Tempête du désert en 1991, 90% des bombardements manquaient leur cible, faute de précision. Désormais les erreurs proviennent bien plus des biais des systèmes, du défaut de contexte ou de l’ignorance. Pas sûr que ce soit plus rassurant. En 2015, l’armée américaine a bombardé un hôpital en Afghanistan faisant 42 morts : la faute à de mauvaises coordonnées et à des erreurs humaines, reconnaîtra l’armée. 

Pour s’améliorer, Maven a capitalisé sur l’étiquetage des données pour mieux aider à entraîner ses systèmes et améliorer leur performance. La labellisation coûte de l’argent et prend du temps. En septembre 2020, avec l’aide de Palantir, Scale AI puis Enabled Intelligence, la labellisation devient un gros business pour ses acteurs : elle représente 708 millions de dollars de contrats pour l’armée, sans compter les 400 étiqueteurs de données, des militaires  employés directement par Maven, qui disposerait désormais de quelques 100 millions d’images étiquetées. Une arme sur une épaule ne se distingue bien souvent que sur deux ou trois pixels. Mais une fois entraînés, les systèmes se révèlent meilleurs que les humains, puisqu’ils peuvent voir ce que les analystes ne peuvent pas voir. En fusionnant les données provenant d’innombrables sources (images, signal radio et électromagnétique…), tout l’enjeu est d’améliorer la détection d’objets qui ne sont pas visibles aux humains et de les faire apparaître sur la carte. Pour l’armée, l’IA n’identifie pas toujours des objets mieux que l’humain, mais elle les identifie avant et plus vite que l’humain. 

La journaliste évoque encore la difficulté à sélectionner les armes appropriées, qui doit répondre à des contraintes nombreuses, de disponibilité, de temporalité et de communications. Ou encore, la difficulté à distinguer les combattants de ceux qui ne le sont pas. La Défense américaine se dote de documents de cadrage sur le ciblage, sans les publier. 

Maven, la puissance brute

Alors que Drew Cukor a quitté le programme en octobre 2021, en février 2022, Maven est déployé en soutien à l’Ukraine en Allemagne. Ses capacités de détection, confrontées à un nouvel environnement, nécessitent à nouveau une mise à jour pour s’améliorer. A nouveau, les algorithmes doivent s’adapter aux données et les données être labellisées pour s’adapter aux terrains et aux objets de guerre locaux. L’Ukraine n’est pas le désert. Il faut identifier les systèmes russes, comme les Tracteur-érecteur-lanceurs russes. Cela ne prendra que deux semaines seulement. Maven fait la demonstration que son système est capable de s’adapter très rapidement. 

L’armée américaine va très vite partager des informations avec l’Ukraine, mais sans leur donner accès à ses systèmes pour ne pas être accusée de participer à la guerre. Elle aide les analystes urkrainiens à regarder aux bons endroits. Depuis son QG allemand, Maven améliore son infrastructure cloud et sa connectivité pour éviter nombre de problèmes de latence. L’équipe transmet des cibles détectées à l’Ukraine, une trentaine par jour, 3 fois plus que ce qu’elle n’en voyait en Irak 5 ans plus tôt. La vitesse de la guerre a triplé en 5 ans, souligne Manson. Le nombre de détections ne va cesser de s’améliorer… Notamment en intégrant toujours de nouvelles données par exemple les interceptions de communications téléphoniques et radios russes, les explosions de missiles entendus via ces communications, les réseaux sociaux, comme les informations provenant de TikTok ou Twitter… « Les Etats-Unis deviennent les yeux de l’Ukraine ». Ils signalent également des points d’intérêts (jusqu’à 267 par jour en 2022) grâce à Maven. Mais l’enjeu n’est déjà plus l’identification de cibles, que les ressources en armes, missiles, munitions, drones… 

La guerre devient une question de puissance brute. Alors que l’armée américaine envoie des ressources sur le terrain, Maven teste et évalue plus de 1500 algorithmes pour améliorer son système. L’Ukraine va permettre à Maven de s’améliorer encore. Maven permet à l’armée ukrainienne de voir plus loin que le front. Après avoir progressé sur les cibles fixes, Maven s’améliore sur les cibles dynamiques. La communication s’améliore. Les ukrainiens sont désormais capables de détruire des cibles 18 minutes après que les Américains les leur aient communiqué. En 2024, l’Ukraine a détruit plus de 2600 tanks russes et plus de 5000 véhicules armés. Pour l’armée US, le soutien à l’Ukraine a permis d’engranger d’innombrables progrès. Le succès de Maven ne repose pas seulement sur ses algorithmes, mais bien plus sur ses données et la façon dont les flux s’interconnectent. Les systèmes sont désormais capables d’identifier un objet dès qu’une seule image se présente. Ils font encore des erreurs, peuvent ne pas tout voir, mais savent désormais repérer des objets, même avec peu de données d’entraînements. En 2024, l’armée américaine ne fait plus passer qu’une douzaine de points d’intérêts par jour à l’armée ukrainienne. Mais c’est d’abord parce que celle-ci a également énormément progressé et a bien moins besoin de l’aide américaine. Les taux d’erreurs se réduisent selon les chiffres de l’armée. La précision s’améliore. L’armée russe a utilisé des faux marqueurs sur le terrain, pour tromper les modèles de détection satellitaires, mais Maven a vite appris à les distinguer. Les données sont devenues le nerf de la guerre. Leur intégration de plus en plus rapide fait la différence. Maven est un système adaptable, qui se met à jour rapidement, comme un logiciel, explique Manson. « Il peut produire ce dont le commandement a besoin ». Sous le commandement de Whitworth, Maven est devenu un projet public, qui a quitté le secret. Le tir est désormais prêt à être entièrement automatisé. Au printemps 2025, le contrat du Pentagon pour Maven Smart System est passé à 1,3 milliards de dollars. Celui de Palantir à 480 millions de dollars. 

Les machines combattent les machines. La NSA écoute le monde entier. Et désormais, la NGA le regarde. Elle observe le globe en permanence. « En 2024, le commandement alimentait le système intelligent Maven avec 179 flux de données en temps réel provenant des domaines terrestre, maritime, aérien, spatial et cybernétique. » Désormais, les opérateurs qui utilisent Maven approuve ou désapprouvent le ciblage depuis le tableau de bord de ciblage fourni par Palantir, déterminent les priorités, hiérarchisent les ciblages, et envoient directement des messages aux systèmes de tirs. La kill chain est effectivement devenue bien courte. « Une cible peut désormais passer de détectée à engagée en quelques minutes, contre plusieurs heures auparavant ». Maven sait désormais détecter et tracer les missiles ennemis en temps réel et travaille à prévoir là où ils vont frapper. 32 entreprises différentes travaillent sur le programme Maven, 25 000 personnes l’utilisent. Il a accumulé plus d’un milliard de détection d’objets. Depuis 2024, Northcom et le Norad l’utilisent. 

L’adoption de Maven est totale. Il est utilisé pour faire de la détection de franchissement de frontières aux Etats-Unis ou pour surveiller le trafic de drogue dans les Caraïbes. La garde nationale l’utilise pour surveiller les départs de feux. Les promoteurs de Maven comme ceux de Palantir estiment que Maven n’est pas un système d’armement, que valider une cible ne déclenche pas le largage d’une munition sur celle-ci. Mais cette défense semble de plus en plus une parade argumentative. Le système apparie les munitions aux cibles et propose une priorisation des cibles que les analystes peuvent certes aménager… 

Pour certains militaires, Maven nécessiterait une doctrine d’usage. Ce que montre Katrina Mason dans ses conclusions, c’est que pour l’instant, la seule doctrine consiste à l’utiliser. « L’IA dotée d’une capacité d’action autonome va non seulement complexifier le projet Maven et l’usage général de l’IA dans la guerre, mais aussi la rendre plus opaque pour l’utilisateur. Elle va également accélérer le rythme des conflits et en amplifier l’ampleur ; par ailleurs – et en dépit des arguments vantant le potentiel de désescalade de l’IA – elle risque de rendre la guerre plus probable. »

L’ajout de LLM dans Maven, via Palantir et d’autres entreprises, comme OpenAI ou Anthropic, a pris du temps. Les premières tentatives ont été déceptives. Elles semblent surtout utilisée pour développer des prototypes de campagne et pour planifier des décisions militaires. Mais leur usage est pour l’instant observé avec défiance, estime Mason, notamment par crainte qu’ils empoisonnent les systèmes. Cela n’empêche pas leur intégration de s’étendre, même si on connaît fort mal la manière dont l’IA générative est utilisée. 

L’obsession de l’autonomie, la réalité de l’escalade

Katrina Mason termine son livre en revenant sur les propos d’Antonio Guterres, le secrétaire général des Nations Unies, qui souhaite interdire le recours aux armes autonomes et qui s’inquiète du développement de l’IA dans le domaine militaire. La balance est pour l’instant difficile à faire, par manque d’information sur les systèmes et leurs conséquences. L’IA dans la guerre permet-elle de limiter les dommages collatéraux et les victimes civiles ou de les étendre ? Toutes les armées qui déploient ces systèmes assurent garder la main : qu’il y a toujours un humain pour valider les décisions de l’IA, mais on sait que cela tient d’une fable plus que d’une réalité. Le contrôle humain tient d’un slogan vague et mal conçu. Les systèmes embarquent les biais du renseignement avec eux et peuvent mal identifier les personnes depuis les lacunes des systèmes de reconnaissance. La Convention sur le contrôle des armes (CCW GGE) discute depuis 2014 du problème des armes autonomes. Pour Mary Wareham, longtemps responsable de la question de l’armement à Human Rights Watch, l’une des initiatrices de Stop Killer Robots, nous devrions pousser les Etats à signer un traité pareille à celui de la réduction des mines antipersonnelles. Mais pour Cukor, comme pour l’armée américaine, le risque vient bien plus du risque de développement d’armes autonomes par ses ennemis. L’armée est plus inquiète de sa capacité à neutraliser une attaque que de réguler les siennes. Pour l’administration Trump, l’IA est une contribution essentielle et positive à la guerre en tout point, comme si les critiques n’avaient aucune voix au chapitre. Si la Chine semble plus modérée sur le développement d’armes autonomes, c’est certainement pour ralentir l’avancée américaine, explique Katrina Manson, qui semble avoir été contaminée par la perspective de guerre avec la Chine. Mais plus encore que l’autonomie, le déploiement de l’IA dans les conflits risque de conduire à l’escalade, comme l’expliquait un groupe d’experts de l’ONU. 

Pourtant, au terme du livre de Manson, on ne sait toujours pas très bien comment les résultats sont générés. Pour cela, nous ne disposons que d’une poignée d’images très rarement distillées, comme dans cette vidéo récente, relayée par le journaliste Dan Israel dans un article pour Mediapart soulignant l’emprise de Palantir sur l’armée américaine. 

Captures d’écrans d’images de Maven. Source. 

Ce que l’on y voit semble tenir d’une forme de jeu vidéo, un outil de simulation qui ne simule pas, où chaque paramètre semble appréciable, mais où nombre de décisions sont automatisées, proposées pour validation, choisies par le système.  

En mai 2025, le directeur de l’unité d’innovation pour la Défense américaine, Doug Beck, expliquait que l’Ukraine consommait 4000 drones par jour (autant que ce que le département de la défense achetait en un an). L’Ukraine a produit 3 millions de drones en 2025, un million de plus de ce qu’elle produisait en 2024 (voir notre article sur le sujet). Pour chaque drone commercial fabriqué aux Etats-Unis, la Chine en produit 100 de plus, rappelle Manson. Dans son budget 2026, le Pentagon prévoit de dépenser 13,4 milliards pour des systèmes autonomes, dont le Replicator, un avion de chasse sans pilote. Face à ces perspectives, les Etats-Unis souhaitent reconstruire leurs capacités industrielles militaires. Plus facile à dire qu’à faire. 

Chez JP Morgan, Drew Cukor ne s’intéresse plus à mettre de l’IA dans les armes, mais dans la finance (pas sur que ce soit plus rassurant). Les modèles d’IA vont permettre de redéfinir le fonctionnement des prêts, des hypothéques, des cartes de crédit, des placements, s’apprêtant à « turbocharger » l’économie, tout en contournant la conformité et les régulations établies, au risque là encore des biais, des erreurs et de l’injustice. 

Le débat sur la moralité de la guerre reste entier. Pas sûr que l’autonomie ne nous aide à la faire progresser, bien au contraire. Si l’armée semble prendre l’éthique au sérieux, il y a de quoi être cynique. L’IA renforce la distance des combattants à l’acte de tuer, mais risque également de les éloigner de la décision de tuer. Ce double mouvement échoue à reconnaître l’humanité de l’opposant, qui est de plus en plus mise à distance. « Les outils d’IA risque d’abord de désensibiliser les combattants et l’armée, d’actes dont nul ne sera plus responsable », s’inquiète la journaliste. L’IA devrait pouvoir minimiser les erreurs et les dommages collatéraux, mais ce qu’on en voit pour l’instant, c’est qu’elle fait surtout s’envoler le volume de dommages plutôt qu’elle ne le réduit. La technologie rejoue le paradoxe de Jevons : « les technologies qui améliorent l’efficacité et abaissent les coûts conduisent invariablement à l’augmentation de leur consommation ». Les systèmes d’IA produisent plus de cibles, plus vites et rendent plus facile leur élimination. Les cibles générées par une boîte noire rendent le commandement trop sûr de lui. Ces systèmes transforment la guerre en jeu vidéo. De partout, il simplifie la destruction. L’ennemi est désormais plus facile à tuer qu’à capturer. Ces systèmes ne font aucun prisonnier. Ils ne proposent aucune clémence. Le paradoxe de Jevons nous le dit depuis longtemps : « plus quelque chose est efficace, plus vous allez avoir tendance à l’accomplir ». Pire, termine-t-elle. Non seulement cette technologie peut faire des choses horribles, mais les garde-fous peuvent également être facilement ajustés voire enlevés, comme le montrait Lavender, l’équivalent de Maven pour l’armée israélienne, où le nombre de victimes collatérales d’un tir pouvait être abaissé ou relevé, au gré des besoins de la guerre. Pour Mark Milley, l’ex chef d’Etat major de l’armée américaine, le champ de bataille sous IA ouvre une boîte de pandore… Les atrocités ne vont pas disparaître avec l’IA, rappelle Manson. Pour un autre gradé américain, le champ de bataille prend le tournant de l’autonomie, mais ce n’est pas parce qu’on est capable de le faire que nous devrions y aller. Trump a renommé le ministère de la Défense en ministère de la Guerre. En septembre 2025, Pete Hegseth, secrétaire de la Défense américain, devant tous les généraux de l’armée US, a affirmé vouloir plus d’IA partout et plus du tout de contraintes d’engagement excessives.

40 millions de personnes sont mortes durant la Première Guerre mondiale. 85 durant la seconde. Maven est désormais partout. Dans tous les services sur tous les continents. Jusqu’aux outils des alliés de l’Amérique. L’IA est désormais au cœur de toutes les opérations militaires américaines. Les mavenites sont pour la plupart partis dans d’autres entreprises du complexe techno-militaire américain, et notamment les entreprises d’IA qui rend Maven désormais puissant : Palantir, Microsoft, Anduril, OpenAI. La Maven mafia est partout. 

Mais surtout, ces systèmes reposent d’abord sur une surveillance invisible et sans limite aucune, au prétexte d’obtenir toujours plus de données pour optimiser toujours plus ses cibles et ses frappes. Le succès de l’IA repose sur une surveillance toujours plus totale, sans limite ni garde-fous. C’est l’éléphant dans la pièce de l’autonomie. Celle d’une surveillance de tous sans limite. 

C’est à nouveau la grande limite du livre pourtant très documenté de Katrina Mason. La journaliste semble passer à côté de ce à quoi elle n’a pas eu accès, malgré la profondeur de son enquête. C’est pourtant dans ce qu’on ne voit pas dans ce livre que se cache le monstre à venir. Un monde qui rêve d’assurer sa sécurité sans plus aucune limite quand bien même pour cela il serait finalement surtout prêt à se détruire lui-même, dans un impérialisme sans limite, dans un autoritarisme sans plus aucune contrainte. 

Hubert Guillaud

La journaliste de Bloomberg, Katrina Manson, a publié en mars un livre consacré au Project Maven : A Marine Colonel, his Team, and the Dawn of AI Warfare (Norton & Company, 2026, non traduit). Maven est le nom du programme d’IA développé par l’armée américaine pour faire la guerre (l’équivalent des programmes israélien que nous avons longuement évoqué dans DLA, notamment dans L’IA, ça sert, d’abord, à faire la guerre). Le livre raconte la bataille d’un officier des Marines, Drew Cukor, pour imposer le projet et convertir l’armée américaine aux promesses de la guerre automatisée. 

On regrettera vivement que le livre soit parfois peu précis sur ce que fait et ne fait pas Maven. Si on y apprend toute son histoire, on n’apprend pas comment le système fonctionne concrètement, ce qu’il arme ni comment. Si le livre évoque longuement le travail sur certaines données, notamment les images et vidéos satellitaires et de drones, c’est au détriment de toutes les autres qui nourrissent aussi le tableau de bord pour faire la guerre, et notamment les données provenant des écoutes téléphoniques, de la surveillance et du renseignement. Son interface qui semble la plus grande réussite du programme à en croire Manson ne nous est jamais montrée. 

Il faut comprendre que l’enquête de la journaliste porte plutôt sur le développement de projet agile au sein d’une bureaucratie contrainte et retorse. Si le livre propose une solide chronologie, Manson semble parfois rater certains enjeux au profit d’une ode à la persévérance et à l’innovation, comme fascinée par ce que Cukor et son équipe sont parvenus à imposer, dans l’adversité. 

Lancé en 2017, le projet Maven est désormais pleinement opérationnel. Il est le projet fondateur du ciblage automatisé. S’il n’est que l’un des 800 projets IA de l’armée américaine utilisés sur les champs de bataille, Maven est devenu son système phare, déployé dans toutes les branches militaires américaines. Plus qu’un outil de ciblage sans précédent, Maven est une plateforme qui concentre les dispositifs de renseignement et d’opérations. 

L’obsession de l’IA

Drew Cukor était officier dans les Marines à Kandahar en Afghanistan après les attentats du 11 septembre 2001. C’est là qu’il découvre les ordinateurs sur le terrain d’opération. Autant dire que sa déception est grande. A l’époque, les listes de cibles produites par le renseignement étaient enfermées dans des fichiers Excel. Chaque service avait ses propres outils d’analyse. Mais ces outils étaient inexploitables sur le terrain. Dès sa thèse dans le corps des marines en 97, Cukor défend que l’intelligence des machines est inutile si les soldats de terrain n’y ont pas accès. Pour lui, les ordinateurs doivent aider à transformer la donnée en intelligence pour l’action. En Afghanistan, puis à Bagdad en Irak, il constate que les ordinateurs sont inutiles aux soldats. Quand il devient le responsable du département du renseignement des Marines en 2010, son objectif est de réparer le renseignement et pour lui, cela signifie y déployer la plateforme de gestion de données proposée par une startup américaine, Palantir, dont il a apprécié la démonstration en 2009. In-Q-Tel, le fond d’investissement de la CIA a investi en 2005, 2 millions de dollars dans Palantir. A l’époque, Palantir n’est qu’un démonstrateur pourtant : il affiche des données provenant de nombreux silos du renseignement et permet de voir quel analyste y accède. Il garde la trace des changements et des indications que portent sur ces informations les agents. Une forme de wiki du renseignement permettant de discuter des informations, de les valider ou de les écarter. Parmi les données disponibles, il y a des appels téléphoniques et leurs transcriptions, des rapports d’interrogatoires, des images et vidéos… Et un système de requête permettant de trouver la trace d’informations dans toutes les informations disponibles pour les recouper. Palantir n’est qu’une interface qui permet d’afficher les données et de coopérer entre analystes sur des données qui proviennent du renseignement. Un tableau de bord.  

Le rapport de la commission du 11 septembre a pointé les défaillances du renseignement et plus encore de matériel pour l’exploiter. Cukor partage le même avis. Pour Cukor, comme pour Thiel et Karp, les fondateurs de Palantir, les attentats de 2001 ont été un choc. Pour eux, le renseignement américain a échoué à empêcher le drame. Pour eux, l’IA est la réponse à apporter : elle a pour mission de transformer le renseignement et les opérations. Mais, les Marines, où Cukor travaille, est le plus petit des services de la Défense américaine et son département spécialisé dans le renseignement est encore plus insignifiant. Cukor décide néanmoins d’utiliser Palantir sur le terrain en Afghanistan, en 2011. Très rapidement, les officiers de terrain le trouvent utile. La Marine l’utilise pour déterminer des routes et des zones d’atterrissage. L’outil est pourtant très imparfait, mais il fait vite la démonstration de ses possibilités. Pour Cukor, comme il le défendra dans une note, la modernisation du renseignement militaire est clé : à l’avenir, l’analyse déterminera qui l’emportera sur le champ de bataille. Le but est d’accélérer et d’améliorer la décision avec l’aide de l’IA. A l’heure où Google fait rouler des voitures autonomes, pourtant, l’armée n’a pas ces outils dans son catalogue. Pas même de système cloud. Et ce quand bien « même si l’internet a été une création du Pentagon et qu’il dépense 38 milliards de dollars par an dans les nouvelles technologies »…. Pour Cukor, tout est à faire. Mais pour convaincre, estime le soldat, il faut des applications concrètes, qui collent au terrain, utiles sur site.

Cukor propose d’utiliser l’IA pour analyser les données des drones et améliorer l’information satellitaire. Cukor va visiter les entreprises qui produisent des voitures autonomes. En 2017, il rencontre IDenTV, une startup qui construit un modèle de vision par ordinateur pour drones, capable de repérer des objets sur une image. Le Congrès valide les fonds. Le projet Maven est lancé. Son ambition est tout de suite de faire du ciblage. Pour lui, l’IA doit aider à sélectionner et prioriser les cibles et aider à apparier la réponse appropriée. Pour lui, le département de la Défense ne devrait plus jamais acheter de systèmes d’armement sans IA intégrée. Son idée fixe est de créer une application de ciblage révolutionnaire et démontrer que l’IA peut « réduire la durée de la chaîne d’engagement entre la détection d’une cible et son traitement : repérer, localiser, neutraliser ». Pour lui, le département de la Défense doit fonctionner bien plus comme une entreprise logicielle que comme une usine d’armement pour être capable de traiter la donnée, actif capital du terrain. 

Pour cela, Cukor se dote d’une équipe dédiée bien sûr. Tous semblent des avoir des profils atypiques, si l’on en croit Katrina Manson. Cukor, plus qu’un visionnaire, est plutôt décrit comme un psychopathe par certains d’entre eux. Un bourreau de travail, obsédé par sa vision. Manson délaye les commentaires des uns sur les autres… 

Du côté de la création de Maven, elle explique que l’enjeu a été d’intégrer peu à peu des informations provenant de différents types de drones et notamment les images qu’ils produisaient, qu’il a fallu faire parler, analyser, pour que les systèmes reconnaissent des formes. Une gageure pas si simple, notamment pour les drones qui volent le plus haut, qui renvoient des images où les informations sont difficiles à identifier du fait même de l’éloignement. Certains motifs ne font parfois que quelques pixels. L’étiquetage des images pour l’entraînement des systèmes n’était pas simple, d’autant que ces images sont produites selon différents angles, altitudes… L’autre enjeu de Maven a consisté à construire l’infrastructure pour sécuriser ces données tout en donnant accès aux agents assermentés comme aux logiciels des entreprises privées. Dès le début Maven se conçoit comme un projet en partie ouvert aux industries de l’IA, notamment aux entreprises capables d’apporter les capacités de traitement et de sécurisation, celles capables d’apporter les logiciels d’analyses des flux vidéos, etc. Manson montre surtout que les capacités du renseignement américain ne reposent pas seulement sur les capacités techniques des agences, mais visent surtout à agencer des infrastructures sécurisées, capables de traiter les volumes de données et l’information, et délimiter les capacités d’action de chacun. La structuration a consisté à ce que le gouvernement s’occupe des données et loue les licences d’usages des systèmes, à charge de les intégrer sans que ceux-ci n’accèdent aux données et les intégrer aux lourds systèmes sécurisés de l’armée. Ces travaux ne se sont pas menés avec les grandes entreprises du secteur, mais plutôt avec de petits acteurs, comme Clarifai.ai ou Xnor… Peu à peu, les entreprises fourbissent des dizaines d’algorithmes d’analyses, certains pour identifier les visages, d’autres pour les images de drones ou satellitaires. Faire apprendre la reconnaissance de formes aux systèmes prend du temps. 

L’enjeu pour Cukor était d’obtenir un démonstrateur utile sur le terrain, même si imparfait. Les premières démonstrations ont lieu en Somalie, 8 mois après le lancement de Maven. La démonstration n’est pourtant pas totalement concluante. L’écran se peuple d’indications de détection et toutes ne sont pas exactes (la moitié sont mêmes complètement fausses). La détection est lente. Mais l’IA montre qu’elle est capable de compter des humains sur un marché, de suivre des convois de véhicules en mouvement, de suivre des individus ciblés. Et puis, elle pointe des individus cachés dans des buissons qu’aucun humain n’avait détectés. L’IA venait de faire la démonstration de son utilité. Malgré ses défauts, l’exemple était saisissant. 

Cukor va tenter de rallier nombre d’acteurs à ses projets. Notamment Google et sa filiale, DeepMind, forte de son succès au jeu de Go, alors que son patron, Demis Hassabis a signé une lettre ouverte en 2015 contre les périls à utiliser l’IA pour la guerre. Les approches de Cukor pour inviter à rallier son projet sont difficiles. Partout, des déclarations s’en prennent au déploiement de l’IA, à l’image des plus actifs et radicaux, les acteurs de Stop Killer Robots, lancé dès 2012. Alors que les dépenses militaires soutiennent des entreprises de la Silicon Valley depuis longtemps, les révélations d’Edward Snowden en 2013 ont refroidi l’ambiance. Une entité de Google finira par signer un contrat avec Maven, pour le stockage d’infrastructure, pour aider l’armée à construire son propre cloud. En mars 2018, ce contrat entre Google et Maven est rendu public, déclenchant une vaste contestation dans l’entreprise… jusqu’à ce que Google annonce son retrait du projet (ou son implication semblait surtout anecdotique, mais symbolique). Microsoft prendra sa place. Puis bien d’autres. En février 2025, Google remisera ses principes. Peu à peu, les entreprises vont se joindre au projet, au prétexte de prêter leur concours à la sécurité nationale. En 2025, Hassabis lui-même affirmera que « les valeurs démocratiques de l’occident sont menacées ». La plupart de ceux qui ont dénoncé les dangers de l’IA se sont rangés pour se mettre au service du marché des armées. Après le retrait de Google d’ailleurs, le projet Maven est renforcé : le programme obtient « l’exemption de sécurité nationale », lui permettant de ne pas répondre de ses actions. Son budget passe de 16 millions de dollars en 2018 à 93 en 2019. Sous la gouvernance de Cukor, le programme Maven aura englouti 1 milliards de dollars.

Un long processus d’amélioration

Maven de son côté étend son projet à d’autres enjeux que l’analyse des images de drones, pour y intégrer des contenus de caméras de sécurité et surtout, des analyses de textes, de contenus audios provenant de l’écoute des communications, de fichiers provenant de documents capturés à l’ennemi. La labellisation permet aux algorithmes de progresser et d’identifier de plus en plus correctement de plus en plus d’objets. Ses équipes se déplacent d’un terrain d’opération l’autre pour tester ses outils, notamment en Afghanistan, où l’équipe se rend compte qu’il faut améliorer les modèles car les données d’entraînement utilisées en Somalie ne fonctionnent pas aussi bien ailleurs. Pour l’instant Maven ne fait que de la détection, mais pour Cukor, l’enjeu est déjà de passer à la phase suivante : cibler. Quand les algorithmes de détection s’améliorent en Afghanistan, ils s’effondrent aux Philippines : les véhicules à détecter ne sont pas les mêmes, l’environnement non plus… À mesure que l’outil s’étend, le travail s’étend. L’enjeu à suivre des cibles est plus complexe que la simple détection… Malgré l’effort de détection, les frappes de drones sont loin d’être parfaitement sécurisées, les erreurs et les dommages collatéraux sont élevés. Mais surtout, Maven va peu à peu devenir ce pourquoi il est peut-être vraiment créé : pas seulement optimiser l’information, mais peut-être plus encore optimiser les ressources militaires, c’est-à-dire concentrer la puissance de feu pour qu’elle ait plus d’effets. L’IA pour faire la guerre est aussi, si ce n’est d’abord, un outil pour optimiser les ressources, décider de quelle arme employer… Maven semble un tableau de bord comme les autres : utilisé pour optimiser et contrôler les dépenses !

Au détour de son histoire, Mason raconte souvent l’obsession chinoise de l’armée américaine. A tous les niveaux, l’armée US semble convaincue que le prochain terrain d’opération sera une confrontation avec la Chine. Les américains sont convaincus que la Chine va reprendre Taïwan, plateforme de la construction des puces électroniques mondiales. Et l’armée américaine est convaincue que l’IA peut les aider à détecter l’offensive chinoise qu’ils attendent et contre laquelle ils se préparent. 

Manson évoque bien sûr Palantir et son PDG, Alex Karp, « le dealer d’armes IA du XXIe siècle ». En quelques années, Palantir est devenu le premier fournisseur de systèmes de Défense au monde. « La seule façon d’être en sécurité pour les Américains, est de s’assurer que ses adversaires aient peur », clame Karp. Pour lui, les activistes de la paix sont une infection. Ses systèmes savent agréger comme nul autre toutes les données, tous les détails sur une carte permettant aux systèmes d’IA et aux analystes de tout voir et de tout planifier. En s’imposant peu à peu comme l’acteur incontournable des systèmes de Défense, Palantir a décroché un accord de 10 milliards de dollars avec l’armée américaine pour les multiples licences à utiliser ses outils. Elle est devenue l’une des entreprises les plus rentables du monde. En 2018, alors que Maven se déploie timidement, Cukor veut déjà aller plus loin. Il voudrait que Maven incorpore tous les systèmes que l’armée utilise pour devenir la plateforme unique, le tableau de bord de la guerre, et notamment, incorporer les vidéos dans sa carte pour permettre aux analystes d’avoir accès à toujours plus d’informations, simplement ou leur permettre de cliquer sur une cible pour que le système la trace et la détruise. Pour cela, Cukor estime qu’il faut intégrer l’IA plus avant, dans le flux de ciblage lui-même. Le problème, c’est qu’à l’époque, l’argent de Maven est destiné à l’intelligence, pas à l’opérationnel. L’armée dispose d’innombrables options logicielles et intégrer l’IA est encore hautement controversé. En avril 2018, Cukor rencontre Palantir et déploie sa vision des systèmes de Défense pour les 10 prochaines années. Il imagine une sorte de Google Earth appliqué à la guerre. Un tableau de bord rassemblant toutes les informations, les structurant, les rendant disponibles… et les analysant. Il demande à Palantir de réimaginer l’interface utilisateur qu’ils proposent avec Gotham, l’un de ses logiciels. De faire quelque chose sur mesure. Cukor va initier des discussions avec nombre de start-ups. En octobre, l’équipe de Maven installe Palantir sur ses serveurs. La communauté militaire est rapidement convaincue de l’apport, malgré les coûts, même si l’installation de Palantir rend Maven moins essentiel. Cukor insiste pour que tout soit profondément séparé, aucune donnée n’est autorisée à passer d’un système à l’autre. Si la protection des données semble assurée, d’autres critiquent le fait que le Pentagon construise des services en couches, comme des tranches de cake superposées. Mais Palantir ajoute une couche d’analyse sur Maven : « La nouvelle plateforme de Palantir superposait de la réalité augmentée aux flux vidéo, traçant des lignes de planification de mission aux couleurs vives sur les images pour désigner les itinéraires comme étant sûrs ou dangereux. Des cercles concentriques, appelés cercles de portée, rayonnaient depuis un site d’attaque potentiel sur la carte pour indiquer la zone où des victimes pourraient subir des dommages collatéraux. Cette superposition attribuait également des numéros à des bâtiments spécifiques, facilitant grandement la communication entre des équipes disparates. » L’interface rend le tableau de bord et les cartes plus lisibles. Dans l’équipe de Maven, plusieurs pensent que l’intégration de Palantir est problématique. Cukor fait entrer nombre d’autres entreprises dans Maven, bien avant les grands acteurs de l’IA que seront OpenAI ou Anthropic, pour développer des modèles pour analyser les images et les données. 

Mason égraine les relations partenariales entre Maven et d’innombrables startups de la Valley. Leur flux, leurs reflux… Les avancées, les reculs, les hésitations.. Les luttes internes dans l’armée pour piloter les programmes d’IA, les guerres de territoires autour du partage de données qui permettent aux programmes de fonctionner. Beaucoup estiment que les protections imposées par Cukor sur les données restent son pire échec, empêchant leur partage entre différents services plutôt qu’empêchant les startups d’y accéder. La dernière partie du livre est toute entière autour de cette guerre de territoire entre différents services de l’armée. Derrière cette bataille interne, tout l’enjeu est de permettre non seulement de repérer, mais plus encore d’éliminer, de raccourcir la kill chain, comme l’ânonne chacun.

Reste que les débuts de ces intégrations n’en sont pas moins laborieux. « Les détections par IA semblaient initialement encore plus laborieuses avec le nouveau système de Palantir. Les détections apparaissaient sous forme de points si volumineux qu’ils masquaient les objets, rendant impossible la distinction entre adultes et enfants par exemple ». En octobre 2019, Maven est sur le front pour éliminer Abu Bakr al-Baghdadi…Trump est ravi de voir l’assassinat en direct, comme s’il regardait un film. 35 000 frappes contre l’Etat islamique sont déclenchées en même temps que le raid. Maven remplit son contrat. A nouveau, le système détecte des problèmes que les analystes n’avaient pas vu. « L’IA apparaît enfin capable de déchirer le brouillard de la guerre ». Même si les frappes sont loin d’être sans erreurs, comme le pointait la presse à l’époque. Entre 1437 et 8000 civiles seront tués en 5 années d’opération contre l’Etat islamique en Irak et Syrie, comme le révéleront les investigations de la NPR et du New York Times. L’armée américaine sera contrainte à mener une deuxième enquête après les contestations de la première pour éclaircir ce point, mais ses résultats ne seront jamais publiés. 

Les défaillances de l’IA sont pour l’instant passées sous silence, mais nombre de civiles sont souvent confondus avec des combattants. L’IA ne distingue pas les bons des mauvais. Ce qu’il voit devient souvent une cible puisqu’il est conçu pour en produire. Pour les défenseurs de la généralisation de l’IA, l’IA n’est pas toujours en cause, renvoyant la responsabilité aux humains. Pour les prosélytes de ces systèmes, ils permettent d’accéder à plus de données que jamais pour mieux décider. Pour les journalistes, les victimes civiles sont toujours plus nombreuses que comptées dans les rapports de l’armée. Lors de l’opération Tempête du désert en 1991, 90% des bombardements manquaient leur cible, faute de précision. Désormais les erreurs proviennent bien plus des biais des systèmes, du défaut de contexte ou de l’ignorance. Pas sûr que ce soit plus rassurant. En 2015, l’armée américaine a bombardé un hôpital en Afghanistan faisant 42 morts : la faute à de mauvaises coordonnées et à des erreurs humaines, reconnaîtra l’armée. 

Pour s’améliorer, Maven a capitalisé sur l’étiquetage des données pour mieux aider à entraîner ses systèmes et améliorer leur performance. La labellisation coûte de l’argent et prend du temps. En septembre 2020, avec l’aide de Palantir, Scale AI puis Enabled Intelligence, la labellisation devient un gros business pour ses acteurs : elle représente 708 millions de dollars de contrats pour l’armée, sans compter les 400 étiqueteurs de données, des militaires  employés directement par Maven, qui disposerait désormais de quelques 100 millions d’images étiquetées. Une arme sur une épaule ne se distingue bien souvent que sur deux ou trois pixels. Mais une fois entraînés, les systèmes se révèlent meilleurs que les humains, puisqu’ils peuvent voir ce que les analystes ne peuvent pas voir. En fusionnant les données provenant d’innombrables sources (images, signal radio et électromagnétique…), tout l’enjeu est d’améliorer la détection d’objets qui ne sont pas visibles aux humains et de les faire apparaître sur la carte. Pour l’armée, l’IA n’identifie pas toujours des objets mieux que l’humain, mais elle les identifie avant et plus vite que l’humain. 

La journaliste évoque encore la difficulté à sélectionner les armes appropriées, qui doit répondre à des contraintes nombreuses, de disponibilité, de temporalité et de communications. Ou encore, la difficulté à distinguer les combattants de ceux qui ne le sont pas. La Défense américaine se dote de documents de cadrage sur le ciblage, sans les publier. 

Maven, la puissance brute

Alors que Drew Cukor a quitté le programme en octobre 2021, en février 2022, Maven est déployé en soutien à l’Ukraine en Allemagne. Ses capacités de détection, confrontées à un nouvel environnement, nécessitent à nouveau une mise à jour pour s’améliorer. A nouveau, les algorithmes doivent s’adapter aux données et les données être labellisées pour s’adapter aux terrains et aux objets de guerre locaux. L’Ukraine n’est pas le désert. Il faut identifier les systèmes russes, comme les Tracteur-érecteur-lanceurs russes. Cela ne prendra que deux semaines seulement. Maven fait la demonstration que son système est capable de s’adapter très rapidement. 

L’armée américaine va très vite partager des informations avec l’Ukraine, mais sans leur donner accès à ses systèmes pour ne pas être accusée de participer à la guerre. Elle aide les analystes urkrainiens à regarder aux bons endroits. Depuis son QG allemand, Maven améliore son infrastructure cloud et sa connectivité pour éviter nombre de problèmes de latence. L’équipe transmet des cibles détectées à l’Ukraine, une trentaine par jour, 3 fois plus que ce qu’elle n’en voyait en Irak 5 ans plus tôt. La vitesse de la guerre a triplé en 5 ans, souligne Manson. Le nombre de détections ne va cesser de s’améliorer… Notamment en intégrant toujours de nouvelles données par exemple les interceptions de communications téléphoniques et radios russes, les explosions de missiles entendus via ces communications, les réseaux sociaux, comme les informations provenant de TikTok ou Twitter… « Les Etats-Unis deviennent les yeux de l’Ukraine ». Ils signalent également des points d’intérêts (jusqu’à 267 par jour en 2022) grâce à Maven. Mais l’enjeu n’est déjà plus l’identification de cibles, que les ressources en armes, missiles, munitions, drones… 

La guerre devient une question de puissance brute. Alors que l’armée américaine envoie des ressources sur le terrain, Maven teste et évalue plus de 1500 algorithmes pour améliorer son système. L’Ukraine va permettre à Maven de s’améliorer encore. Maven permet à l’armée ukrainienne de voir plus loin que le front. Après avoir progressé sur les cibles fixes, Maven s’améliore sur les cibles dynamiques. La communication s’améliore. Les ukrainiens sont désormais capables de détruire des cibles 18 minutes après que les Américains les leur aient communiqué. En 2024, l’Ukraine a détruit plus de 2600 tanks russes et plus de 5000 véhicules armés. Pour l’armée US, le soutien à l’Ukraine a permis d’engranger d’innombrables progrès. Le succès de Maven ne repose pas seulement sur ses algorithmes, mais bien plus sur ses données et la façon dont les flux s’interconnectent. Les systèmes sont désormais capables d’identifier un objet dès qu’une seule image se présente. Ils font encore des erreurs, peuvent ne pas tout voir, mais savent désormais repérer des objets, même avec peu de données d’entraînements. En 2024, l’armée américaine ne fait plus passer qu’une douzaine de points d’intérêts par jour à l’armée ukrainienne. Mais c’est d’abord parce que celle-ci a également énormément progressé et a bien moins besoin de l’aide américaine. Les taux d’erreurs se réduisent selon les chiffres de l’armée. La précision s’améliore. L’armée russe a utilisé des faux marqueurs sur le terrain, pour tromper les modèles de détection satellitaires, mais Maven a vite appris à les distinguer. Les données sont devenues le nerf de la guerre. Leur intégration de plus en plus rapide fait la différence. Maven est un système adaptable, qui se met à jour rapidement, comme un logiciel, explique Manson. « Il peut produire ce dont le commandement a besoin ». Sous le commandement de Whitworth, Maven est devenu un projet public, qui a quitté le secret. Le tir est désormais prêt à être entièrement automatisé. Au printemps 2025, le contrat du Pentagon pour Maven Smart System est passé à 1,3 milliards de dollars. Celui de Palantir à 480 millions de dollars. 

Les machines combattent les machines. La NSA écoute le monde entier. Et désormais, la NGA le regarde. Elle observe le globe en permanence. « En 2024, le commandement alimentait le système intelligent Maven avec 179 flux de données en temps réel provenant des domaines terrestre, maritime, aérien, spatial et cybernétique. » Désormais, les opérateurs qui utilisent Maven approuve ou désapprouvent le ciblage depuis le tableau de bord de ciblage fourni par Palantir, déterminent les priorités, hiérarchisent les ciblages, et envoient directement des messages aux systèmes de tirs. La kill chain est effectivement devenue bien courte. « Une cible peut désormais passer de détectée à engagée en quelques minutes, contre plusieurs heures auparavant ». Maven sait désormais détecter et tracer les missiles ennemis en temps réel et travaille à prévoir là où ils vont frapper. 32 entreprises différentes travaillent sur le programme Maven, 25 000 personnes l’utilisent. Il a accumulé plus d’un milliard de détection d’objets. Depuis 2024, Northcom et le Norad l’utilisent. 

L’adoption de Maven est totale. Il est utilisé pour faire de la détection de franchissement de frontières aux Etats-Unis ou pour surveiller le trafic de drogue dans les Caraïbes. La garde nationale l’utilise pour surveiller les départs de feux. Les promoteurs de Maven comme ceux de Palantir estiment que Maven n’est pas un système d’armement, que valider une cible ne déclenche pas le largage d’une munition sur celle-ci. Mais cette défense semble de plus en plus une parade argumentative. Le système apparie les munitions aux cibles et propose une priorisation des cibles que les analystes peuvent certes aménager… 

Pour certains militaires, Maven nécessiterait une doctrine d’usage. Ce que montre Katrina Mason dans ses conclusions, c’est que pour l’instant, la seule doctrine consiste à l’utiliser. « L’IA dotée d’une capacité d’action autonome va non seulement complexifier le projet Maven et l’usage général de l’IA dans la guerre, mais aussi la rendre plus opaque pour l’utilisateur. Elle va également accélérer le rythme des conflits et en amplifier l’ampleur ; par ailleurs – et en dépit des arguments vantant le potentiel de désescalade de l’IA – elle risque de rendre la guerre plus probable. »

L’ajout de LLM dans Maven, via Palantir et d’autres entreprises, comme OpenAI ou Anthropic, a pris du temps. Les premières tentatives ont été déceptives. Elles semblent surtout utilisée pour développer des prototypes de campagne et pour planifier des décisions militaires. Mais leur usage est pour l’instant observé avec défiance, estime Mason, notamment par crainte qu’ils empoisonnent les systèmes. Cela n’empêche pas leur intégration de s’étendre, même si on connaît fort mal la manière dont l’IA générative est utilisée. 

L’obsession de l’autonomie, la réalité de l’escalade

Katrina Mason termine son livre en revenant sur les propos d’Antonio Guterres, le secrétaire général des Nations Unies, qui souhaite interdire le recours aux armes autonomes et qui s’inquiète du développement de l’IA dans le domaine militaire. La balance est pour l’instant difficile à faire, par manque d’information sur les systèmes et leurs conséquences. L’IA dans la guerre permet-elle de limiter les dommages collatéraux et les victimes civiles ou de les étendre ? Toutes les armées qui déploient ces systèmes assurent garder la main : qu’il y a toujours un humain pour valider les décisions de l’IA, mais on sait que cela tient d’une fable plus que d’une réalité. Le contrôle humain tient d’un slogan vague et mal conçu. Les systèmes embarquent les biais du renseignement avec eux et peuvent mal identifier les personnes depuis les lacunes des systèmes de reconnaissance. La Convention sur le contrôle des armes (CCW GGE) discute depuis 2014 du problème des armes autonomes. Pour Mary Wareham, longtemps responsable de la question de l’armement à Human Rights Watch, l’une des initiatrices de Stop Killer Robots, nous devrions pousser les Etats à signer un traité pareille à celui de la réduction des mines antipersonnelles. Mais pour Cukor, comme pour l’armée américaine, le risque vient bien plus du risque de développement d’armes autonomes par ses ennemis. L’armée est plus inquiète de sa capacité à neutraliser une attaque que de réguler les siennes. Pour l’administration Trump, l’IA est une contribution essentielle et positive à la guerre en tout point, comme si les critiques n’avaient aucune voix au chapitre. Si la Chine semble plus modérée sur le développement d’armes autonomes, c’est certainement pour ralentir l’avancée américaine, explique Katrina Manson, qui semble avoir été contaminée par la perspective de guerre avec la Chine. Mais plus encore que l’autonomie, le déploiement de l’IA dans les conflits risque de conduire à l’escalade, comme l’expliquait un groupe d’experts de l’ONU. 

Pourtant, au terme du livre de Manson, on ne sait toujours pas très bien comment les résultats sont générés. Pour cela, nous ne disposons que d’une poignée d’images très rarement distillées, comme dans cette vidéo récente, relayée par le journaliste Dan Israel dans un article pour Mediapart soulignant l’emprise de Palantir sur l’armée américaine. 

Captures d’écrans d’images de Maven. Source. 

Ce que l’on y voit semble tenir d’une forme de jeu vidéo, un outil de simulation qui ne simule pas, où chaque paramètre semble appréciable, mais où nombre de décisions sont automatisées, proposées pour validation, choisies par le système.  

En mai 2025, le directeur de l’unité d’innovation pour la Défense américaine, Doug Beck, expliquait que l’Ukraine consommait 4000 drones par jour (autant que ce que le département de la défense achetait en un an). L’Ukraine a produit 3 millions de drones en 2025, un million de plus de ce qu’elle produisait en 2024 (voir notre article sur le sujet). Pour chaque drone commercial fabriqué aux Etats-Unis, la Chine en produit 100 de plus, rappelle Manson. Dans son budget 2026, le Pentagon prévoit de dépenser 13,4 milliards pour des systèmes autonomes, dont le Replicator, un avion de chasse sans pilote. Face à ces perspectives, les Etats-Unis souhaitent reconstruire leurs capacités industrielles militaires. Plus facile à dire qu’à faire. 

Chez JP Morgan, Drew Cukor ne s’intéresse plus à mettre de l’IA dans les armes, mais dans la finance (pas sur que ce soit plus rassurant). Les modèles d’IA vont permettre de redéfinir le fonctionnement des prêts, des hypothéques, des cartes de crédit, des placements, s’apprêtant à « turbocharger » l’économie, tout en contournant la conformité et les régulations établies, au risque là encore des biais, des erreurs et de l’injustice. 

Le débat sur la moralité de la guerre reste entier. Pas sûr que l’autonomie ne nous aide à la faire progresser, bien au contraire. Si l’armée semble prendre l’éthique au sérieux, il y a de quoi être cynique. L’IA renforce la distance des combattants à l’acte de tuer, mais risque également de les éloigner de la décision de tuer. Ce double mouvement échoue à reconnaître l’humanité de l’opposant, qui est de plus en plus mise à distance. « Les outils d’IA risque d’abord de désensibiliser les combattants et l’armée, d’actes dont nul ne sera plus responsable », s’inquiète la journaliste. L’IA devrait pouvoir minimiser les erreurs et les dommages collatéraux, mais ce qu’on en voit pour l’instant, c’est qu’elle fait surtout s’envoler le volume de dommages plutôt qu’elle ne le réduit. La technologie rejoue le paradoxe de Jevons : « les technologies qui améliorent l’efficacité et abaissent les coûts conduisent invariablement à l’augmentation de leur consommation ». Les systèmes d’IA produisent plus de cibles, plus vites et rendent plus facile leur élimination. Les cibles générées par une boîte noire rendent le commandement trop sûr de lui. Ces systèmes transforment la guerre en jeu vidéo. De partout, il simplifie la destruction. L’ennemi est désormais plus facile à tuer qu’à capturer. Ces systèmes ne font aucun prisonnier. Ils ne proposent aucune clémence. Le paradoxe de Jevons nous le dit depuis longtemps : « plus quelque chose est efficace, plus vous allez avoir tendance à l’accomplir ». Pire, termine-t-elle. Non seulement cette technologie peut faire des choses horribles, mais les garde-fous peuvent également être facilement ajustés voire enlevés, comme le montrait Lavender, l’équivalent de Maven pour l’armée israélienne, où le nombre de victimes collatérales d’un tir pouvait être abaissé ou relevé, au gré des besoins de la guerre. Pour Mark Milley, l’ex chef d’Etat major de l’armée américaine, le champ de bataille sous IA ouvre une boîte de pandore… Les atrocités ne vont pas disparaître avec l’IA, rappelle Manson. Pour un autre gradé américain, le champ de bataille prend le tournant de l’autonomie, mais ce n’est pas parce qu’on est capable de le faire que nous devrions y aller. Trump a renommé le ministère de la Défense en ministère de la Guerre. En septembre 2025, Pete Hegseth, secrétaire de la Défense américain, devant tous les généraux de l’armée US, a affirmé vouloir plus d’IA partout et plus du tout de contraintes d’engagement excessives.

40 millions de personnes sont mortes durant la Première Guerre mondiale. 85 durant la seconde. Maven est désormais partout. Dans tous les services sur tous les continents. Jusqu’aux outils des alliés de l’Amérique. L’IA est désormais au cœur de toutes les opérations militaires américaines. Les mavenites sont pour la plupart partis dans d’autres entreprises du complexe techno-militaire américain, et notamment les entreprises d’IA qui rend Maven désormais puissant : Palantir, Microsoft, Anduril, OpenAI. La Maven mafia est partout. 

Mais surtout, ces systèmes reposent d’abord sur une surveillance invisible et sans limite aucune, au prétexte d’obtenir toujours plus de données pour optimiser toujours plus ses cibles et ses frappes. Le succès de l’IA repose sur une surveillance toujours plus totale, sans limite ni garde-fous. C’est l’éléphant dans la pièce de l’autonomie. Celle d’une surveillance de tous sans limite. 

C’est à nouveau la grande limite du livre pourtant très documenté de Katrina Mason. La journaliste semble passer à côté de ce à quoi elle n’a pas eu accès, malgré la profondeur de son enquête. C’est pourtant dans ce qu’on ne voit pas dans ce livre que se cache le monstre à venir. Un monde qui rêve d’assurer sa sécurité sans plus aucune limite quand bien même pour cela il serait finalement surtout prêt à se détruire lui-même, dans un impérialisme sans limite, dans un autoritarisme sans plus aucune contrainte. 

Hubert Guillaud

Dans le New York Times, l’historien canadien Quinn Slobodian et l’essayiste militant Ben Tarnoff qui ont fait paraître Muskism : A Guide for the Perplexed (Harper Collins, 2026 non traduit, mais le livre est annoncé au Seuil pour début 2027) discutent de l’impact d’Elon Musk sur la société. Pour eux le muskisme n’est pas tant un fascisme que l’équivalent contemporain du fordisme, un mode d’organisation et de développement d’entreprise… mais qui n’agit plus seulement sur l’entreprise, mais sur toute la société (c’était le cas du fordisme aussi d’ailleurs). Reste que quand Ford proposait son modèle de développement, celui-ci venait avec un contrat pro-social parce qu’il payait bien ses ouvriers et souhaitait qu’ils puissent s’offrir ce qu’ils produisaient (tout en promouvant un ouvrier plus discipliné, comme le rappellent d’ailleurs Slobodian et Tarnoff dans un article pour le LPE Project). Toute la question est donc de savoir quel avenir Musk propose-t-il à l’humanité ? 

Musk, une souveraineté à son profit

Pour Tarnoff et Slobodian, Musk est l’un des grands défenseurs de « l’autonomie électrique ». C’est-à-dire qu’il défend l’idée que les énergies renouvelables peuvent renforcer l’autosuffisance d’un pays. C’est ainsi qu’il a positionné Tesla, qui n’est pas seulement un producteur de véhicules autonomes, mais d’abord un fournisseur de batteries. Trump aussi, à sa manière, est un fervent défenseur de l’autonomie électrique. Ses actions offensives en Iran ou au Venezuela, ses politiques tarifaires imprévisibles, le démantèlement des normes et institutions qui stabilisaient le système mondial sous l’égide américaine, incitent le pays à investir dans l’autonomie électrique. Des mesures qui pourraient accélérer la démondialisation amorcée au moins depuis la pandémie, les pays percevant de plus en plus l’intégration mondiale comme une source de risques et privilégiant l’autosuffisance et la résilience (même si cette démondialisation n’en est peut-être pas une, l’enjeu étant certainement plus d’étendre l’impérialisme de la tech…, la souveraineté visant peut-être bien plus le renforcement de la logique impériale que son abandon, comme le rappelle pertinemment la journaliste Célia Izoard en introduction du livre Anatomie d’une puce, Le monde à l’envers, 2026). 

Pour Musk, « l’usine est une enclave, un refuge face à l’instabilité d’un monde hostile », rappelle Tarnoff. La souveraineté énergétique de Musk s’étend sous la forme d’une souveraineté stratégique que l’IA accomplit. « L’introduction de nouveaux produits de la Silicon Valley, de Claude à Maven ou Palantir dans les opérations militaires ou ceux promus par le Doge dans le champ fédéral, montrent qu’ils sont bien plus une réussite qu’un échec ». Ils ne sont peut-être pas une réussite sur le fond, mais ils le sont sur la forme : « ils rendent le gouvernement dépendant d’une nouvelle suite d’outils d’IA pour exercer ses fonctions étatiques fondamentales », explique Slobodian. Musk défend ce que les auteurs appellent la « souveraineté en tant que service », une symbiose, une fusion du pouvoir public et du pouvoir privé. 

Pour Slobodian et Tarnoff, malgré ses déclarations, Musk ne serait pas libertarien. « Plutôt que de chercher à supplanter l’État, les grands acteurs de l’IA souhaitent surtout fusionner avec lui ». C’est notamment le cas de Space X, né en 2002 comme sous-traitant pour le Pentagon à une époque où le secrétaire à la Défense, Donald Rumsfeld souhaitait une nouvelle approche militaire pour gagner la guerre contre le terrorisme. En 2024, SpaceX contrôlait plus de 95 % des lancements orbitaux américains. Musk est devenu de facto le garant de l’accès à l’orbite pour le gouvernement américain. Ce constat est encore plus flagrant pour Starlink, la branche satellitaire de SpaceX qui tente de prendre le contrôle, par la masse, sur les communications orbitales. L’intégration récente et totale de toutes ses entités (X qui a fusionné avec xAI, qui a fusionné avec SpaceX qui vient d’entrer en bourse en 2026 en incarnant le niveau le plus totalement déconnecté du marché qui soit, comme l’explique FakeTech), montrent que pour Musk, matériel, logiciel et idéologies se renforcent mutuellement. Pour lui, il y a peu de différence entre les matériaux de son empire et les moyens pour propager ses idées. 

Si Tesla pourrait sembler le miroir de Ford, le passage du roadster au Cybertruck illustre la transition d’un avenir radieux de consommation carbone sans limite à un avenir sombre marqué par le dérèglement climatique et le survivalisme. « Dans sa forme la plus aboutie, le muskisme exploite un désir de protection territoriale face aux chocs extérieurs, aux ennemis et aux indésirables. Dans un monde de relocalisation et de réarmement, le muskisme offre une infrastructure mondiale pour les projets nationaux », expliquent les deux chercheurs. 

« Les sociologues décrivent généralement le fordisme non seulement comme un mode d’organisation de l’usine, mais aussi comme un mode d’organisation de la société en dehors de l’usine. En simplifiant, on peut le décrire comme une production de masse et consommation de masse. Les nouvelles technologies et les nouvelles techniques, telles que celles mises au point par Henry Ford dans les années 1910, comme la chaîne de montage mobile, ont permis aux industriels de produire des biens à une échelle inédite. Mais, tout aussi important, les ouvriers pouvaient se permettre d’acheter ces biens grâce à une relative sécurité de l’emploi et à un salaire décent, garantis par les institutions de la négociation collective et l’État-providence. Dans les années 1970, le fordisme a commencé à s’effriter, laissant place à ce que l’on appelle généralement le « post-fordisme ». Le post-fordisme est associé aux nouvelles pratiques de production agiles développées au Japon, à l’externalisation et à la délocalisation, à la mondialisation des marchés, au déclin des syndicats, à l’essor de la finance et à l’affaiblissement de l’État-providence », rappelle Tarnoff. Pour Slobodian, les entreprises de Musk suivent le modèle d’intégration verticale de Ford. Les activités de production sont intégrées, contrairement au modèle d’Apple (conçu en Californie, assemblé en Chine). Musk acte d’un monde de relocalisation et de réarmement, il parie sur la déglobalisation de l’impérialisme, mais pas sur la fin de l’impérialisme.

Le contrat de fans, un contrat social… pour la guerre sociale

Le fordisme n’était pas uniquement, ni même principalement, un modèle de production industrielle, mais également un contrat social qui assurait de la participation active des populations à la production et à la consommation industrielle… Le muskisme, lui, ne propose qu’un « contrat de fans » à des investisseurs et quelques fidèles. A l’image de la coche bleue de X, devenue un symbole de dévotion, récompensée par une meilleure visibilité des publications de ses fans et clients grâce à l’algorithme. 

Pourtant, avec l’échec du Doge, Musk a montré qu’il a été incapable de convaincre le reste de la société que sa réussite profitera également à tous. Depuis il a fini d’embrasser le pire fascisme. Ses publications quotidiennes sont inondées d’hystéries sur le déclin démographique blanc et le tsunami étranger. Musk ne propose aucune prospérité partagée : seulement de la violence. « Le contrat de fans pour ceux qui vivent à l’intérieur des murs d’un Occident fortifié, et l’expulsion pour ceux considérés comme illégitimes. Après le déclin des modèles d’industrialisme fordiste et de sous-traitance et mondialisation post-fordistes, le muskisme offre la perspective d’une communauté purifiée de survivants. » Mais là encore, Musk peine à élargir ses soutiens. Ses alliances avec les partis d’extrême droite en Europe restent tendus, personne ne souhaitant donner l’impression que leur souverainisme est compatible avec l’ingérence américaine. Et elle a été contestée également par la mobilisation populaire à l’encontre de l’ICE aux Etats-Unis.

Comme l’expliquent Slobodian et TArnoff pour le LPE project : « Musk et ses pairs ont la chance d’évoluer à une époque où aucun acteur structurel n’est en mesure de contester leur domination. La classe ouvrière a pratiquement cessé d’exister en tant que force organisée. En l’absence de pression venant de la base, les partis politiques eux-mêmes n’opposent aucune résistance significative au muskisme. La situation engendre un paradoxe. D’un côté, la vie des capitalistes est facilitée lorsqu’ils peuvent intensifier l’exploitation de leurs travailleurs et acheter de l’influence politique sans rencontrer d’opposition majeure. Mais cela signifie aussi qu’ils ne sont nullement incités à réfréner leurs pulsions les plus antisociales ni à prendre en compte les conséquences à long terme de leurs actes. 

Le muskisme illustre parfaitement cette tendance : alors que le fordisme et le post-fordisme étaient tous deux organisés, selon des modalités différentes, pour garantir la paix sociale, le muskisme s’inscrit dans une logique de guerre sociale. La fragilité relative du mode de régulation muskiste est révélatrice : l’antagoniste ouvrier est si affaibli, et la guerre sociale si asymétrique, qu’il n’est plus nécessaire de conclure une paix négociée. Pour l’heure, la stratégie semble porter ses fruits. Musk, déjà l’homme le plus riche du monde, devrait devenir le premier « trillionnaire ».

Toutefois, un capitalisme sans contraintes n’est pas toujours bénéfique pour les capitalistes eux-mêmes. Tout au long de son histoire, le capitalisme a sans cesse transformé la nature et la société, engendrant des bouleversements considérables. Or, les entreprises ont également besoin d’un environnement politique ordonné et prévisible pour mener leurs activités. Un enseignement majeur de l’école de la régulation est que la résistance de la classe ouvrière a, paradoxalement, contribué à stabiliser le processus d’accumulation en imposant la création d’un tel environnement. En l’absence de contrepartie capable d’arracher des concessions, les capitalistes risquent de générer un tel chaos qu’ils finissent par compromettre leur propre capacité d’accumulation. Si le « muskisme » représente le triomphe de la domination de classe, ce triomphe pourrait bien finir par se dévorer lui-même. »

C’est la grande faiblesse du muskisme, estime Tarnoff. Mais, « si comme Musk et les grands patrons de la Silicon Valley, vous pensez que « l’intelligence artificielle générale est imminente, alors vous croyez que, dans un avenir très proche, la plupart des gens se retrouveront au chômage. Ils seront considérés comme une composante de la société et n’auront plus la possibilité d’influencer son cours. Dans ce cas, leur consentement n’est plus nécessaire. » 

Les entrepreneurs de la Tech, comme Musk, ne croient même pas à une perspective de révolte populaire, estiment les deux chercheurs (selon les estimations, le One Big Beautiful Bill Act de Trump prévoit que 10 millions d’Américains vont perdre leur couverture santé… ce qui risque d’ouvrir un nouvel espace de colère sociale). D’ailleurs, ces gens ne conçoivent pas la politique comme avant. Musk dépense des millions de dollars dans les élections américaines et soutient nombre de politiciens nationalistes et souverainistes. Pour eux, la politique n’est pas un enjeu de délibération, de persuasion, de compromis, mais uniquement une question de programmation où la vérité n’est que d’un côté. 

« Autre point commun entre Musk et Ford : la concentration impressionnante de leur fortune dans leurs propres entreprises. Pour Musk, si Tesla et SpaceX disparaissent, il disparaît avec elles. C’est sans doute l’une des motivations qui le poussent à agir. » « En multipliant les promesses toujours plus grandes – la colonisation de Mars, 10 milliards de robots humanoïdes à des centres de données dans l’espace… –, Musk ne cesse d’aller de l’avant. Cette dynamique est une condition sine qua non de son fantasme financier. En ce sens, sa vulnérabilité réside dans sa dépendance à l’égard du « nous » – c’est-à-dire les consommateurs du monde entier et, plus important encore, les investisseurs institutionnels – qui doivent continuer à croire en sa vision du futur. » D’où l’importance à la renouveler sans arrêt, à promettre et promettre sans fin, même si ce sont les mêmes promesses qu’il y a 10 ans.

Même constat pour Henry Farrell, à la lecture du livre. « La mythologie du futur (que déroule Musk) qui est en réalité une promesse convertible en capital financier et politique dès aujourd’hui. » Pour Farrell cependant, le Muskisme est plus fragile qu’il n’y paraît. « De toute évidence, nombre de pays peuvent percevoir les infrastructures de Musk comme dangereuses, craignant qu’elles ne soient utilisées contre eux. » « Le Muskisme repose sur une idéologie qui semble actuellement à son apogée. L’introduction en bourse de SpaceX marque l’apogée d’une inflation expansionniste colossale, propre à un univers totalement imaginaire. À ma connaissance, personne ne croit réellement que SpaceX va conquérir son « marché potentiel total » d’environ 23 000 milliards de dollars, qui, comme le souligne Matt Levine, représente « peut-être 20 % de la production économique mondiale et peut-être 40 % du chiffre d’affaires des entreprises mondiales ».

Pour Farrell, d’autres entreprises incarnent le muskisme que les auteurs questionnent. C’est le cas bien sûr de Palantir et de nombre de sociétés de technologies de défense financées par Peter Thiel, l’adversaire de Musk. Le « thielisme » part de bon nombre des mêmes prémisses que le « muskisme », avec le même fatras d’élucubrations fascisantes. L’un comme l’autre, derrière leur protectionnisme défendent un impérialisme sans limite. 

Enfin, rappellent Tarnoff et Slobodian, le muskisme résulte d’une emprise quasi mortelle, entre la finance et la tech, jusqu’à l’aporie. Tesla et Musk sont par exemple très impopulaires en Norvège, et pourtant, le fonds de pension norvégien est l’un des 10 principaux actionnaires de l’entreprise et agit en ce sens comme un pilier de la prospérité du pays.

Il semble y avoir quelque chose de très paradoxal entre la réussite économique de Musk et le fait que beaucoup le considèrent comme profondément dérangé. Aucune critique de gauche dans les années 20 ne considéraient Ford comme un idiot. A croire que c’est peut-être le capitalisme lui-même qui est devenu idiot, cerné par ses contradictions, en roue libre… vers sa propre destruction.

Hubert Guillaud

Dans le New York Times, l’historien canadien Quinn Slobodian et l’essayiste militant Ben Tarnoff qui ont fait paraître Muskism : A Guide for the Perplexed (Harper Collins, 2026 non traduit, mais le livre est annoncé au Seuil pour début 2027) discutent de l’impact d’Elon Musk sur la société. Pour eux le muskisme n’est pas tant un fascisme que l’équivalent contemporain du fordisme, un mode d’organisation et de développement d’entreprise… mais qui n’agit plus seulement sur l’entreprise, mais sur toute la société (c’était le cas du fordisme aussi d’ailleurs). Reste que quand Ford proposait son modèle de développement, celui-ci venait avec un contrat pro-social parce qu’il payait bien ses ouvriers et souhaitait qu’ils puissent s’offrir ce qu’ils produisaient (tout en promouvant un ouvrier plus discipliné, comme le rappellent d’ailleurs Slobodian et Tarnoff dans un article pour le LPE Project). Toute la question est donc de savoir quel avenir Musk propose-t-il à l’humanité ? 

Musk, une souveraineté à son profit

Pour Tarnoff et Slobodian, Musk est l’un des grands défenseurs de « l’autonomie électrique ». C’est-à-dire qu’il défend l’idée que les énergies renouvelables peuvent renforcer l’autosuffisance d’un pays. C’est ainsi qu’il a positionné Tesla, qui n’est pas seulement un producteur de véhicules autonomes, mais d’abord un fournisseur de batteries. Trump aussi, à sa manière, est un fervent défenseur de l’autonomie électrique. Ses actions offensives en Iran ou au Venezuela, ses politiques tarifaires imprévisibles, le démantèlement des normes et institutions qui stabilisaient le système mondial sous l’égide américaine, incitent le pays à investir dans l’autonomie électrique. Des mesures qui pourraient accélérer la démondialisation amorcée au moins depuis la pandémie, les pays percevant de plus en plus l’intégration mondiale comme une source de risques et privilégiant l’autosuffisance et la résilience (même si cette démondialisation n’en est peut-être pas une, l’enjeu étant certainement plus d’étendre l’impérialisme de la tech…, la souveraineté visant peut-être bien plus le renforcement de la logique impériale que son abandon, comme le rappelle pertinemment la journaliste Célia Izoard en introduction du livre Anatomie d’une puce, Le monde à l’envers, 2026). 

Pour Musk, « l’usine est une enclave, un refuge face à l’instabilité d’un monde hostile », rappelle Tarnoff. La souveraineté énergétique de Musk s’étend sous la forme d’une souveraineté stratégique que l’IA accomplit. « L’introduction de nouveaux produits de la Silicon Valley, de Claude à Maven ou Palantir dans les opérations militaires ou ceux promus par le Doge dans le champ fédéral, montrent qu’ils sont bien plus une réussite qu’un échec ». Ils ne sont peut-être pas une réussite sur le fond, mais ils le sont sur la forme : « ils rendent le gouvernement dépendant d’une nouvelle suite d’outils d’IA pour exercer ses fonctions étatiques fondamentales », explique Slobodian. Musk défend ce que les auteurs appellent la « souveraineté en tant que service », une symbiose, une fusion du pouvoir public et du pouvoir privé. 

Pour Slobodian et Tarnoff, malgré ses déclarations, Musk ne serait pas libertarien. « Plutôt que de chercher à supplanter l’État, les grands acteurs de l’IA souhaitent surtout fusionner avec lui ». C’est notamment le cas de Space X, né en 2002 comme sous-traitant pour le Pentagon à une époque où le secrétaire à la Défense, Donald Rumsfeld souhaitait une nouvelle approche militaire pour gagner la guerre contre le terrorisme. En 2024, SpaceX contrôlait plus de 95 % des lancements orbitaux américains. Musk est devenu de facto le garant de l’accès à l’orbite pour le gouvernement américain. Ce constat est encore plus flagrant pour Starlink, la branche satellitaire de SpaceX qui tente de prendre le contrôle, par la masse, sur les communications orbitales. L’intégration récente et totale de toutes ses entités (X qui a fusionné avec xAI, qui a fusionné avec SpaceX qui vient d’entrer en bourse en 2026 en incarnant le niveau le plus totalement déconnecté du marché qui soit, comme l’explique FakeTech), montrent que pour Musk, matériel, logiciel et idéologies se renforcent mutuellement. Pour lui, il y a peu de différence entre les matériaux de son empire et les moyens pour propager ses idées. 

Si Tesla pourrait sembler le miroir de Ford, le passage du roadster au Cybertruck illustre la transition d’un avenir radieux de consommation carbone sans limite à un avenir sombre marqué par le dérèglement climatique et le survivalisme. « Dans sa forme la plus aboutie, le muskisme exploite un désir de protection territoriale face aux chocs extérieurs, aux ennemis et aux indésirables. Dans un monde de relocalisation et de réarmement, le muskisme offre une infrastructure mondiale pour les projets nationaux », expliquent les deux chercheurs. 

« Les sociologues décrivent généralement le fordisme non seulement comme un mode d’organisation de l’usine, mais aussi comme un mode d’organisation de la société en dehors de l’usine. En simplifiant, on peut le décrire comme une production de masse et consommation de masse. Les nouvelles technologies et les nouvelles techniques, telles que celles mises au point par Henry Ford dans les années 1910, comme la chaîne de montage mobile, ont permis aux industriels de produire des biens à une échelle inédite. Mais, tout aussi important, les ouvriers pouvaient se permettre d’acheter ces biens grâce à une relative sécurité de l’emploi et à un salaire décent, garantis par les institutions de la négociation collective et l’État-providence. Dans les années 1970, le fordisme a commencé à s’effriter, laissant place à ce que l’on appelle généralement le « post-fordisme ». Le post-fordisme est associé aux nouvelles pratiques de production agiles développées au Japon, à l’externalisation et à la délocalisation, à la mondialisation des marchés, au déclin des syndicats, à l’essor de la finance et à l’affaiblissement de l’État-providence », rappelle Tarnoff. Pour Slobodian, les entreprises de Musk suivent le modèle d’intégration verticale de Ford. Les activités de production sont intégrées, contrairement au modèle d’Apple (conçu en Californie, assemblé en Chine). Musk acte d’un monde de relocalisation et de réarmement, il parie sur la déglobalisation de l’impérialisme, mais pas sur la fin de l’impérialisme.

Le contrat de fans, un contrat social… pour la guerre sociale

Le fordisme n’était pas uniquement, ni même principalement, un modèle de production industrielle, mais également un contrat social qui assurait de la participation active des populations à la production et à la consommation industrielle… Le muskisme, lui, ne propose qu’un « contrat de fans » à des investisseurs et quelques fidèles. A l’image de la coche bleue de X, devenue un symbole de dévotion, récompensée par une meilleure visibilité des publications de ses fans et clients grâce à l’algorithme. 

Pourtant, avec l’échec du Doge, Musk a montré qu’il a été incapable de convaincre le reste de la société que sa réussite profitera également à tous. Depuis il a fini d’embrasser le pire fascisme. Ses publications quotidiennes sont inondées d’hystéries sur le déclin démographique blanc et le tsunami étranger. Musk ne propose aucune prospérité partagée : seulement de la violence. « Le contrat de fans pour ceux qui vivent à l’intérieur des murs d’un Occident fortifié, et l’expulsion pour ceux considérés comme illégitimes. Après le déclin des modèles d’industrialisme fordiste et de sous-traitance et mondialisation post-fordistes, le muskisme offre la perspective d’une communauté purifiée de survivants. » Mais là encore, Musk peine à élargir ses soutiens. Ses alliances avec les partis d’extrême droite en Europe restent tendus, personne ne souhaitant donner l’impression que leur souverainisme est compatible avec l’ingérence américaine. Et elle a été contestée également par la mobilisation populaire à l’encontre de l’ICE aux Etats-Unis.

Comme l’expliquent Slobodian et TArnoff pour le LPE project : « Musk et ses pairs ont la chance d’évoluer à une époque où aucun acteur structurel n’est en mesure de contester leur domination. La classe ouvrière a pratiquement cessé d’exister en tant que force organisée. En l’absence de pression venant de la base, les partis politiques eux-mêmes n’opposent aucune résistance significative au muskisme. La situation engendre un paradoxe. D’un côté, la vie des capitalistes est facilitée lorsqu’ils peuvent intensifier l’exploitation de leurs travailleurs et acheter de l’influence politique sans rencontrer d’opposition majeure. Mais cela signifie aussi qu’ils ne sont nullement incités à réfréner leurs pulsions les plus antisociales ni à prendre en compte les conséquences à long terme de leurs actes. 

Le muskisme illustre parfaitement cette tendance : alors que le fordisme et le post-fordisme étaient tous deux organisés, selon des modalités différentes, pour garantir la paix sociale, le muskisme s’inscrit dans une logique de guerre sociale. La fragilité relative du mode de régulation muskiste est révélatrice : l’antagoniste ouvrier est si affaibli, et la guerre sociale si asymétrique, qu’il n’est plus nécessaire de conclure une paix négociée. Pour l’heure, la stratégie semble porter ses fruits. Musk, déjà l’homme le plus riche du monde, devrait devenir le premier « trillionnaire ».

Toutefois, un capitalisme sans contraintes n’est pas toujours bénéfique pour les capitalistes eux-mêmes. Tout au long de son histoire, le capitalisme a sans cesse transformé la nature et la société, engendrant des bouleversements considérables. Or, les entreprises ont également besoin d’un environnement politique ordonné et prévisible pour mener leurs activités. Un enseignement majeur de l’école de la régulation est que la résistance de la classe ouvrière a, paradoxalement, contribué à stabiliser le processus d’accumulation en imposant la création d’un tel environnement. En l’absence de contrepartie capable d’arracher des concessions, les capitalistes risquent de générer un tel chaos qu’ils finissent par compromettre leur propre capacité d’accumulation. Si le « muskisme » représente le triomphe de la domination de classe, ce triomphe pourrait bien finir par se dévorer lui-même. »

C’est la grande faiblesse du muskisme, estime Tarnoff. Mais, « si comme Musk et les grands patrons de la Silicon Valley, vous pensez que « l’intelligence artificielle générale est imminente, alors vous croyez que, dans un avenir très proche, la plupart des gens se retrouveront au chômage. Ils seront considérés comme une composante de la société et n’auront plus la possibilité d’influencer son cours. Dans ce cas, leur consentement n’est plus nécessaire. » 

Les entrepreneurs de la Tech, comme Musk, ne croient même pas à une perspective de révolte populaire, estiment les deux chercheurs (selon les estimations, le One Big Beautiful Bill Act de Trump prévoit que 10 millions d’Américains vont perdre leur couverture santé… ce qui risque d’ouvrir un nouvel espace de colère sociale). D’ailleurs, ces gens ne conçoivent pas la politique comme avant. Musk dépense des millions de dollars dans les élections américaines et soutient nombre de politiciens nationalistes et souverainistes. Pour eux, la politique n’est pas un enjeu de délibération, de persuasion, de compromis, mais uniquement une question de programmation où la vérité n’est que d’un côté. 

« Autre point commun entre Musk et Ford : la concentration impressionnante de leur fortune dans leurs propres entreprises. Pour Musk, si Tesla et SpaceX disparaissent, il disparaît avec elles. C’est sans doute l’une des motivations qui le poussent à agir. » « En multipliant les promesses toujours plus grandes – la colonisation de Mars, 10 milliards de robots humanoïdes à des centres de données dans l’espace… –, Musk ne cesse d’aller de l’avant. Cette dynamique est une condition sine qua non de son fantasme financier. En ce sens, sa vulnérabilité réside dans sa dépendance à l’égard du « nous » – c’est-à-dire les consommateurs du monde entier et, plus important encore, les investisseurs institutionnels – qui doivent continuer à croire en sa vision du futur. » D’où l’importance à la renouveler sans arrêt, à promettre et promettre sans fin, même si ce sont les mêmes promesses qu’il y a 10 ans.

Même constat pour Henry Farrell, à la lecture du livre. « La mythologie du futur (que déroule Musk) qui est en réalité une promesse convertible en capital financier et politique dès aujourd’hui. » Pour Farrell cependant, le Muskisme est plus fragile qu’il n’y paraît. « De toute évidence, nombre de pays peuvent percevoir les infrastructures de Musk comme dangereuses, craignant qu’elles ne soient utilisées contre eux. » « Le Muskisme repose sur une idéologie qui semble actuellement à son apogée. L’introduction en bourse de SpaceX marque l’apogée d’une inflation expansionniste colossale, propre à un univers totalement imaginaire. À ma connaissance, personne ne croit réellement que SpaceX va conquérir son « marché potentiel total » d’environ 23 000 milliards de dollars, qui, comme le souligne Matt Levine, représente « peut-être 20 % de la production économique mondiale et peut-être 40 % du chiffre d’affaires des entreprises mondiales ».

Pour Farrell, d’autres entreprises incarnent le muskisme que les auteurs questionnent. C’est le cas bien sûr de Palantir et de nombre de sociétés de technologies de défense financées par Peter Thiel, l’adversaire de Musk. Le « thielisme » part de bon nombre des mêmes prémisses que le « muskisme », avec le même fatras d’élucubrations fascisantes. L’un comme l’autre, derrière leur protectionnisme défendent un impérialisme sans limite. 

Enfin, rappellent Tarnoff et Slobodian, le muskisme résulte d’une emprise quasi mortelle, entre la finance et la tech, jusqu’à l’aporie. Tesla et Musk sont par exemple très impopulaires en Norvège, et pourtant, le fonds de pension norvégien est l’un des 10 principaux actionnaires de l’entreprise et agit en ce sens comme un pilier de la prospérité du pays.

Il semble y avoir quelque chose de très paradoxal entre la réussite économique de Musk et le fait que beaucoup le considèrent comme profondément dérangé. Aucune critique de gauche dans les années 20 ne considéraient Ford comme un idiot. A croire que c’est peut-être le capitalisme lui-même qui est devenu idiot, cerné par ses contradictions, en roue libre… vers sa propre destruction.

Hubert Guillaud