Dans un petit livre très historique – Des règles sur mesure : généalogie du profilage algorithmique (Amsterdam, 2026) -, le philosophe du droit, Nathan Genicot, retrace l’histoire des débats autour du déploiement des principaux systèmes de profilage, à savoir les systèmes d’analyse psychologique au travail, les systèmes de calcul de risque assurantiels et les systèmes d’obtention de crédits bancaires. Et ce qui me semble très éclairant dans cet essai, c’est de constater combien les débats, plus riches que ceux que nous pouvons avoir aujourd’hui sur ces sujets, ont été perdus. Et plus encore, qu’ils ne semblent pas plus avoir été résolus hier qu’ils ne le sont aujourd’hui. Le profilage semble embourbé dans ses limites sans parvenir à ouvrir de voies pour les résoudre. 

La rationalité statistique est au fondement des Etats modernes, rappelle Genicot à la suite d’Alain Desrosières (La politique des grands nombres, La découverte, 1993), d’Alain Supiot (La gouvernance par les nombres, Fayard, 2015) ou encore de Theodore Porter (The Rise of Statistical Thinking, 1820-1900, Princeton University Press, 2020). Mais elle est également au fondement de l’intelligence artificielle. Les statistiques permettent à la fois de quantifier le social et de le prédire, de profiler chacun « sous le prisme d’attributs qu’il partage avec d’autres ». Nous sommes non seulement statistifiés, mais également comparés. Le profilage dont nous sommes l’objet, bien souvent par devers nous, consiste à prédire notre comportement depuis la comparaison avec celui des autres à partir des régularités du passé. Partout, nous sommes notés, prédits, quelque soit la marge de certitude ou d’incertitude des traitements et inférences. Le calcul est normalisé, naturalisé par un score, une note. Que ce soit pour s’assurer, emprunter, se loger, obtenir un emploi, recevoir des allocations, être mis en relation avec d’autres…  Pour Genicot, ce profilage, ce scoring, les appariements qui en découlent, sont des techniques de régulation, des outils de gouvernementalité. Mais, alors que la loi s’applique à tous de la même façon, le profilage, lui, permettrait de s’adapter aux caractéristiques de chacun. Pour le philosophe du droit, il promet d’individualiser le droit pour « pleinement réaliser le principe d’égalité », pour produire des « règles sur mesure ». Tout l’enjeu du livre consiste justement à vérifier cela. Est-ce que le profilage remplit cette promesse ? Est-ce qu’il rend la justice plus juste ? 

Des débats de calculs

Pour déplier ses constats, Genicot observe trois milieux où se déploient, presque concomitant des techniques de profilage : le travail, l’assurance et le crédit. Dans chaque secteur, Genicot révèle, extirpe des archives les débats de l’époque. Et ceux-ci sont étonnement nourris. Les calculs d’alors viennent avec des questions. La science balbutiante s’interroge, quand l’ingénierie d’aujourd’hui semble avancer comme un rouleau compresseur, sans vraiment s’interroger des défaillances que ses calculs produisent ou des limites que la statistique atteint, comme le relevait danah boyd il y a quelques années (et qui vient de donner lieu à un livre qui sera publié le 29 septembre aux presses de l’université de Chicago, Data Are Made, Not Found: A Story of Politics, Power, and the Civil Servants Who Saved the US Census). 

Les pratiques de profilage, rappelle-t-il, sont antérieures à la naissance de l’informatique, même si l’informatique va leur permettre de se déployer et de s’étendre sans commune mesure. Les premières classifications sont produites pour distinguer les capacités des élèves en créant des tests mentaux et d’aptitudes avec la psychologie différentielle. Les mathématiques servent alors à mesurer l’intensité et la qualité des sensations, la vitesse de réaction… pour mesurer les différences interindividuelles et caractériser les populations en marge de la société : les aliénés, les criminels, les pauvres, les anormaux. Derrière ces tentatives pour améliorer la justice en permettant aux politiques publiques de s’adapter aux profils de chacun s’amalgame des capacités de discriminations inédites porté par tout un courant eugéniste comme le montrera le paléontologue Stephen Jay Gould dans La mal-mesure de l’homme (Odile Jacob, 1997) ou plus récemment Kate Crawford dans son Contre-atlas de l’intelligence artificielle  (Zulma, 2022, voire également notre critique). Les tests mentaux visent à diagnostiquer les enfants anormaux dans le contexte de l’instauration de l’obligation scolaire, avec, pour ses promoteurs, une volonté d’améliorer la justice sociale. 

Le terme même de profilage naît pour décrire cette mise en nombre des individus, en 1909 et s’accompagne, dès l’origine, d’un mode de production graphique pour relier les résultats aux différents tests. Au-delà de l’école, les tests vont rapidement être appliqués à l’orientation et à la sélection professionnelle, pour mieux faire correspondre les profils psychologiques aux métiers. Genicot, en plongeant par exemple dans les travaux de Jean-Maurice Lahy, dans les années 30, nous montre que les ingénieurs de l’IA n’ont rien inventé. On produit des tests psychologiques sur deux groupes de travailleurs, les bons et les mauvais (selon une distinction déjà pleine de biais, puisqu’elle ne repose que sur l’appréciation de chefs de services et le nombre de fautes professionnelles recensées) pour produire des métriques distinctives. Test qu’on peut ensuite faire passer à tout requérant pour mesurer si ses caractéristiques sont plus proches de l’un ou l’autre groupe. On tente de mesurer l’énergie, l’endurance, la concentration, la capacité d’initiative… via des tests psychométriques qui ne vont cesser de s’affiner. On les fait passer à une galerie de métiers pour tenter d’identifier ce qui singularise chaque secteur… Le profilage est dès l’origine une comparaison aux attributs statistiques des autres. « L’essence du profilage consiste à prédire une variable cachée (ici : une aptitude) de manière probabiliste, c’est-à-dire sur la base de caractéristiques (ici : les résultats obtenus à des tests psychotechniques) qui sont fortement corrélées à cette variable ». On le voit, malgré leurs efforts à « désubjectiver les méthodes d’appréciation », ces techniques les réifient. Les conditions sociales sont invisibilisées dans les capacités des individus : « le profilage réduit des situations sociales à des propriétés individuelles » et les biais de l’entité qui profilent sont passés sous silence. 

Pas étonnant que ces tests professionnels soient donc contestés. Leur caractère discriminatoire en termes de genre, de niveau social, d’origine… se dévoile à mesure que ces profilages se répandent. Les tests d’aptitudes professionnels montrent par exemple que 58% des Américains blancs les réussissent contre seulement 6% des personnes noires. Les débats pour rétablir l’équité se démultiplient alors. Faut-il différencier ces tests selon l’âge, le genre, l’origine ? Ce n’est qu’en 1991 que les Etats-Unis tranchent en prohibant les pratiques d’ajustement des scores selon l’appartenance à un groupe protégé. Mais si le débat est tranché, il n’est pas réglé. J’ai l’impression que l’enjeu de corriger les biais reste entier. Aujourd’hui encore, on ne sait pas vraiment comment les corriger. Comme si les débats, tranchés par le droit, les avait arrêtés, sans stopper les pratiques ni les problèmes afférents. 

Avec le développement du numérique, le profilage va s’amplifier. Le big data permettant de démultiplier le profilage psychologique, malgré toutes les limites de ces tests, comme nous le disaient il y a quelques années déjà le psychologue Alexandre Saint-Jevin. En fait, le profilage va également s’étendre, comme celui des chercheurs d’emploi, initié au prétexte de mieux les accompagner et qui va surtout servir à les sanctionner et faire peser sur eux des contraintes plus importantes (sans que ce contrôle ne produise aucun horizon, comme nous disions en disséquant Chômeurs, vos papiers (Raisons d’agir, 2023), qui soulignait l’inefficacité du contrôle du chômage). Il va conduire également à un recrutement de plus en plus automatisé, où les systèmes calculent (un peu n’importe comment il faut le dire) la correspondance d’un CV à une annonce. Pour Genicot, la « logique corrélationnelle » se répand et s’impose partout, jusque dans l’évaluation des employés sur leurs lieux de travail. L’appréciation des individus par des variables qui ne lui sont jamais propres se couple d’une comparaison statistique des résultats de chacun évalués par rapport à ceux d’un groupe. Le profilage tient tout entier dans ce rapport étrange de soi aux autres, où les limites des métriques utilisées sont invisibilisées par les ratios et indicateurs produits. Comme si finalement les chiffres pouvaient assurer d’une neutralité de façade, d’une neutralité dont les limites ne sont plus interrogées. Les scores de risques sont partout défaillants, il n’empêche qu’ils ne cessent d’être produits et utilisés, comme nous le pointions en lisant Jathan Sadowski.  

En observant les débats du monde assurantiel comme ceux du secteur bancaire, Nathan Genicot montre les mêmes ambiguïtés. 

Quelles discriminations acceptons-nous ?

La sélection des assurés et la tarification des primes sont depuis longtemps rattachées au calcul de probabilités. L’assurance va prendre son essor au XVIIIe siècle après l’essor de l’arithmétique politique qui invente un siècle plus tôt les premières tables de mortalité qui décrivent le nombre de décès par âge. Le risque assurantiel s’est longtemps apprécié au niveau du groupe, plus qu’au niveau individuel, là où la condition de chacun est affectée par la condition des autres. Il faudra néanmoins attendre la loi de 1898 qui impose au patron d’indemniser les salariés victimes d’accidents du travail, pour faire de l’assurance le gage de la réparation. Les assureurs se mettent à sélectionner les risques qu’ils veulent couvrir comme les assurés. Ils comprennent vite que « plus le profilage est affiné, c’est-à-dire plus il y a sélection et tarification différenciées, moins il y a de solidarité ». Une constance simple que tout le monde semble avoir oublié à l’ère du Big Data. 

A défaut de parvenir à identifier d’autres attributs pertinents, l’âge s’impose souvent comme une catégorie principale, notamment pour l’assurance vie. Genicot souligne que le débat a été constant entre individualisation et solidarité. L’assurance n’a cessé de chercher des variables pertinentes. Derrière ces débats, on en voit poindre un autre, plus philosophique s’il en était : quelles segmentations – et donc quelles discriminations – acceptons-nous en tant que société ? Et lesquelles refusons-nous ? Si tout le monde semble accepter celle de l’âge, la discrimination de genre ou sociale par exemple le sont bien moins. Et les débats sur la discrimination d’origine, aux Etats-Unis, décalque des rapports de domination de la société, sont nourris. L’intégration du comportement et du mode de vie aujourd’hui dans le calcul assurantiel reste souvent polémique, à raison, puisqu’il incrimine l’individu et masque les différences créées par les rapports sociaux. 

Comme partout ailleurs, les assureurs produisent des scores pour calculer l’assurabilité de chacun. Les assureurs ne vont cesser de développer un discours pour justifier la segmentation qui leur profite en promouvant des calculs qui seraient dénués de connotation morale, alors que nombre d’entre eux vont user et abuser de pratiques problématiques, par exemple en tenant compte de la domiciliation pour faire grimper les primes des populations racisées par rapport à celles des riches (et blanches) banlieues américaines. Pourtant souligne Genicot, malgré les critiques acerbes contre les pratiques du secteur, peu de monde interroge « la prétention à atteindre l’objectivité dans l’évaluation des risques actuariels. La pertinence du recours aux classifications ne fait, à peu de choses près, pas l’objet de débats ». Pire, comme le soulignait la sociologue Greta Krippner, l’individualisation du risque semble bien plus la conséquence de la lutte contre les pratiques discriminatoires des marchés de l’assurance plutôt que liée à l’émergence du néolibéralisme. Bon, cela ne signifie pas pour autant que l’évolution du capitalisme est absente de la segmentation assurantielle. Celle est stimulée par la liberté tarifaire, et renforcée par les progrès de l’informatique qui va permettre de démultiplier les variables et de faire disparaître les discriminations derrières la complexité des critères. 

La régulation va bien sûr s’inviter dans ces innombrables débats, par exemple en encadrant les tarifs pour prémunir l’exclusion de certains publics, ou en écartant certaines formes de segmentation les plus criantes et problématiques, comme celles sur la religion, le sexe, l’origine ethnique ou la génétique… mais sans remettre en cause nombre de pratiques problématiques. En fait, derrière les débats nourris, la société semble n’être pas parvenue à fourbir de règles claires ne permettant pas les contournements. L’interdiction de faire des distinctions de genre par exemple n’a pas conduit à limiter les possibilités de segmentations, mais à conduit à utiliser des critères plus précis, comme s’y essaie l’assurance avec la prise en compte des comportements, à l’image de la conduite automobile elle-même. Une personnalisation dans laquelle l’assurance oublie sa fonction initiale : celle de mutualiser les risques. 

Genicot rappelle pourtant que l’assurance, pour fonctionner, doit reposer sur une segmentation modérée. Même constat quant au calcul du crédit et de son risque, né lui aussi avec l’essor des techniques statistiques. Dès l’origine, portés par les grands magasins pour faciliter la consommation, ceux-ci déploient des formulaires standardisés pour classer les performances de remboursements des clients. Là encore, « l’apparente objectivité de la classification n’empêche pas la présence d’une large part d’arbitraire dans l’attribution de la note ». Si la standardisation s’impose pour réduire le pouvoir discrétionnaire des agents, la statistique va s’y imposer dès les années 50 en développant des scores pour évaluer les capacités de remboursements de chacun. Enfin, pas seulement. A mesure qu’ils se déploient, là encore, les scores se complexifient, cachant dans leurs critères leurs innombrables jugements moraux et sociaux. En 1963 par exemple, les variables d’un fournisseur de score prennent en compte toute information disponible : le taux de crédit déjà engagé et les revenus bien sûr, mais aussi le statut marital et la profession, en passant par le fait d’être syndiqué. Derrière cette complexification des scores, c’est assurément notre compréhension commune qui s’éloigne, et avec elle, notre capacité à les réguler. Les innombrables facteurs pris en compte servent à obfusquer la discrimination raciale ou de classe à l’oeuvre. On apprend à utiliser des variables très éloignées des nécessités, simplement parce qu’elles peuvent être de bons prédicateurs, comme le fait d’avoir déjà un compte bancaire, ce qui est le cas de 87% de ceux qui paient leurs échéances de crédits… au risque que ces calculs accentuent les biais inhérents. Pas étonnant que, désormais, les économistes eux-mêmes estiment que les banques ne savent plus prêter à ceux qui en ont besoin. C’est comme si, à mesure qu’ils se perpétuent, les calculs se radicalisaient d’eux-mêmes. Comme l’IA semble s’écrouler à mesure qu’elle s’entraîne sur les données qu’elle produit, les calculs de la société semblent s’effondrer sur eux-mêmes à force d’être usés. Les scores de crédits, dont le célèbre Fico Score qui naît en 1956, se développent pourtant dans un contexte de compétition forte, promettant d’élargir le crédit aux plus pauvres. Il s’impose vite comme une métrique universelle… et immuable.

L’informatisation va permettre de renchérir le score de nouvelles variables, notamment cette des cartes de paiements électroniques qui permet de rendre les notes de risques dynamiques. Genicot rappelle que les notes ont une fonction disciplinaire. Elles font penser qu’elle dépend du comportement de chacun quand elles masquent d’abord des enjeux sociaux et de classe. Pire, malgré leurs lacunes intrinsèques, elles sont désormais utilisées pour d’innombrables autres services au prétexte d’un « besoin commercial légitime » : pour louer un logement, pour assurer une voiture, pour être embauché… « Tous utilisent la note de crédit comme un proxy, un indictateur du trait de comportement qu’ils cherchent à évaluer (tel que le fait d’être un bon locataire ou un bon employé) ». Le score de crédit devient un « outil de mesure de la moralité », alors qu’il est surtout, comme le disait Frank Pasquale dans Black Box Society (Fyp, 2015) opaque, arbitraire et discriminatoire. Les scores ne servent pas tant à clarifier les choses, disait-il, mais à les rendre plus obscures. 

Or, les scores modifient le réel qu’ils entendent décrire. Et à mesure que leur usage s’étend, radicalisent leurs effets. « Une mauvaise note entraînera un taux d’intérêt plus élevé, c’est-à-dire des conditions de remboursement plus difficiles pour la personne débitrice, ce qui accroîtra sa précarité économique. Si la note est prise en compte par des bailleurs ou des employeurs, l’incidence de cet effet de boucle sera d’autant plus significative. Une personne qui, à cause d’une mauvaise note, ne trouve pas d’emploi ou ne parvient pas à se loger, aura du mal à rembourser ses crédits et verra sa note diminuer encore davantage ». C’est en cela que les calculs se radicalisent, qu’ils renforcent le « lumpenscoretariat » qu’évoquaient Marion Fourcade et Kieran Healy. 

Là encore, des régulations seront votées pour encadrer les pratiques, mais sans vraiment parvenir à agir autrement qu’en limitant les pratiques les plus discriminantes. Derrière la neutralité des scores se cache l’accélération des biais. Même un score qui ne reposerait que sur les capacités financières des individus, serait foncièrement problématique puisque les capacités à rembourser sont loin d’être équitablement distribuées. Si l’enjeu est bien de prêter de l’argent aux gens, le score, par nature, vise bien plus à limiter le prêt qu’autre chose. Pas étonnant qu’on se retrouve donc avec des organismes bancaires incapables de faire leur métier : prêter de l’argent à ceux qui en ont besoin ! L’information sur les décisions de crédits prises par les organismes, sur leur distribution, la mesure de leur équité… elle est bien souvent inaccessible. Les critères des scoring ou l’étendu des situations où ils sont utilisés également. Les innombrables données peuvent être désormais utilisées comme des prédicteurs de votre capacité de remboursement, également. Partout, l’opacité du scoring est la règle. Quand on voit par exemple le nombre de gens débancarisés, on se dit que les scores de crédit semblent surtout avoir appris, eux, à masquer leurs lacunes. 

Le risque d’un droit… sur mesure

L’essai de Nathan Genicot est bien plus sage que ma lecture énervée. Il souligne néanmoins combien les modèles statistiques et algorithmiques s’imposent dans tous ces secteurs « pour optimiser la prise de décision en se substituant au jugement humain ». Ils imposent l’idée que l’individu est seul responsable de ses notes, faisant fi du contexte social. Mais plus encore, il estime que le risque de ces calculs, de ces profilages, consiste à produire des règles de plus en plus individualisées, au risque d’altérer notre conception du droit lui-même, pour remplacer la règle qui s’applique à tous, par un droit sur mesure, calculé selon le profil de chacun. 

Dans la dernière partie du livre, il revient sur la critique d’une conception mécanique du droit : les peines similaires, impersonnelles, uniformes, à tous ont longtemps été considérées comme un idéal d’objectivité et de justice. L’impersonnalité des processus décisionnels étant vu comme un rempart contre l’arbitraire et un gage de prévisibilité. Mais là encore, au début du XXe siècle, cette conception est critiquée au prétexte que les conditions et le contexte sont toujours significatifs. A l’égalité succède le principe d’équité, et avec lui, l’idée d’une individualisation des peines pour que le droit soit le même pour tous, à l’image de la critique de la TVA ou des contraventions et amendes, qui s’appliquent à tous au même taux, même à Bernard Arnault, alors que leur impact ne sont pas les mêmes selon les revenus des justiciables. Bon, il existe bien sûr des moyens d’y remédier, en fixant par exemples des critères ou des seuils. Car, comme le souligne très justement le philosophe, le problème de l’individualisation est qu’elle n’a pas de limite. On peut personnaliser selon d’innombrables variables, comme nous le montre le marketing numérique. 

Dans les revues académiques du droit, actuellement, le débat est visiblement vif sur ces questions. La rêve d’automatisation invite certains à imaginer d’adapter la loi aux situations au grès des circonstances, à ajuster et calibrer les standards. Mais comment trouver le bon niveau pour traiter à la fois « les mêmes situations de la même manière » et « traiter différemment des situations différentes » ? « Un consommateur impulsif qui réalise régulièrement des achats en ligne pourrait par exemple se voir imposer des conditions plus strictes avant de pouvoir renvoyer un produit et se faire rembourser qu’un consommateur qui aurait, au contraire, un tempérament responsable et prudent ». Certes, mais sur quelles données, quelles inférences serait produit ce jugement comportemental ? Et serait-il lui-même juste, opposable, redevable ? On a un peu l’impression que ces perspectives oublient toutes les limites pointées par les débats passés que l’auteur a mis en avant dans sa généalogie. 

Pour Genicot, « la substitution des systèmes normatifs classiques par des dispositifs de profilage est déjà à l’œuvre », notamment dans les rapports de l’Etat à ses administrés. C’était le cas notamment, dans les années 70 avec le système GAMIN, un des premiers dispositif public de profilage pour conditionner le versement d’allocation familiales. C’est également le cas avec le profilage des bénéficiaires de la CAF et nombre d’autres outils de gestion du social que nous évoquons souvent sur danslesalgorithmes.net. Du profilage des chômeurs aux contrôles des frontières, l’individualisation et le profilage sont partout, mais ils produisent assez peu d’équité et encore moins d’égalité, au contraire. Le profilage produit surtout des conditions plus dures pour les plus vulnérables. L’optimisation prédictive partout où elle se déploie fonctionne mal, cela n’empêche hélas pas le développement d’innombrables formes de notations sociales. 

Pour Genicot, l’interdiction des notations sociales dans ce contexte par l’IA Act est le bienvenue, mais c’est oublier que le texte les rend licite plus qu’elle ne les interdit. Le RIA ne propose que de les encadrer, que de veiller à ce que les notes ne soient ni disproportionnées ni dissociées du contexte de leur production. Le fait que certains soient à haut risque ne fait peser sur eux qu’une surveillance accrue. Il ne vise pas à rendre les notes plus justes qu’elles ne sont. Ils ne nous invitent finalement pas à questionner la société. Il ne nous invite pas à changer la manière dont on calcule, ni ne nous aide à nous défier de l’enkystement des calculs. Il ne nous invite pas à changer la société, alors que demain, pour changer la société, il faudra assurément changer la manière dont elle est calculée. La personnalisation du droit, le profilage administratif, nous invite seulement à continuer la société telle qu’elle est. « Le profilage est profondément conservateur », rappelle le philosophe. « Le profilage conduit donc à créer des traitements différenciés dont il prétend cependant qu’ils sont conformes à l’égalité », sans offrir à la société les moyens de le vérifier. Ce n’est là que la parole des profileurs. Les innombrables enquêtes sur le sujet, notamment sur le profilage social, depuis les travaux pionniers de Virginia Eubanks, montrent toutes l’exact inverse. Aucun n’est conforme à l’égalité. En reposant sur l’individualisation et la responsabilisation de chacun, il est « l’exact inverse de la solidarité ». Le profilage « conduit à l’oblitération des relations et, plus largement du social. Le rapport de l’individu aux autres n’est jamais compris comme celui d’une interdépendance, mais uniquement comme une comparaison à une classe, à une collection d’individus ». « Les notes obscurcissent la dimension structurelle des inégalités sociales ». Et en s’imposant, elles nous empêchent finalement de les remettre en question. 

Au final, l’enquête historique de Nathan Genicot nous rappelle que pour changer la société, il va falloir changer la manière dont elle calcule. 

Hubert Guillaud

Dans un petit livre très historique – Des règles sur mesure : généalogie du profilage algorithmique (Amsterdam, 2026) -, le philosophe du droit, Nathan Genicot, retrace l’histoire des débats autour du déploiement des principaux systèmes de profilage, à savoir les systèmes d’analyse psychologique au travail, les systèmes de calcul de risque assurantiels et les systèmes d’obtention de crédits bancaires. Et ce qui me semble très éclairant dans cet essai, c’est de constater combien les débats, plus riches que ceux que nous pouvons avoir aujourd’hui sur ces sujets, ont été perdus. Et plus encore, qu’ils ne semblent pas plus avoir été résolus hier qu’ils ne le sont aujourd’hui. Le profilage semble embourbé dans ses limites sans parvenir à ouvrir de voies pour les résoudre. 

La rationalité statistique est au fondement des Etats modernes, rappelle Genicot à la suite d’Alain Desrosières (La politique des grands nombres, La découverte, 1993), d’Alain Supiot (La gouvernance par les nombres, Fayard, 2015) ou encore de Theodore Porter (The Rise of Statistical Thinking, 1820-1900, Princeton University Press, 2020). Mais elle est également au fondement de l’intelligence artificielle. Les statistiques permettent à la fois de quantifier le social et de le prédire, de profiler chacun « sous le prisme d’attributs qu’il partage avec d’autres ». Nous sommes non seulement statistifiés, mais également comparés. Le profilage dont nous sommes l’objet, bien souvent par devers nous, consiste à prédire notre comportement depuis la comparaison avec celui des autres à partir des régularités du passé. Partout, nous sommes notés, prédits, quelque soit la marge de certitude ou d’incertitude des traitements et inférences. Le calcul est normalisé, naturalisé par un score, une note. Que ce soit pour s’assurer, emprunter, se loger, obtenir un emploi, recevoir des allocations, être mis en relation avec d’autres…  Pour Genicot, ce profilage, ce scoring, les appariements qui en découlent, sont des techniques de régulation, des outils de gouvernementalité. Mais, alors que la loi s’applique à tous de la même façon, le profilage, lui, permettrait de s’adapter aux caractéristiques de chacun. Pour le philosophe du droit, il promet d’individualiser le droit pour « pleinement réaliser le principe d’égalité », pour produire des « règles sur mesure ». Tout l’enjeu du livre consiste justement à vérifier cela. Est-ce que le profilage remplit cette promesse ? Est-ce qu’il rend la justice plus juste ? 

Des débats de calculs

Pour déplier ses constats, Genicot observe trois milieux où se déploient, presque concomitant des techniques de profilage : le travail, l’assurance et le crédit. Dans chaque secteur, Genicot révèle, extirpe des archives les débats de l’époque. Et ceux-ci sont étonnement nourris. Les calculs d’alors viennent avec des questions. La science balbutiante s’interroge, quand l’ingénierie d’aujourd’hui semble avancer comme un rouleau compresseur, sans vraiment s’interroger des défaillances que ses calculs produisent ou des limites que la statistique atteint, comme le relevait danah boyd il y a quelques années (et qui vient de donner lieu à un livre qui sera publié le 29 septembre aux presses de l’université de Chicago, Data Are Made, Not Found: A Story of Politics, Power, and the Civil Servants Who Saved the US Census). 

Les pratiques de profilage, rappelle-t-il, sont antérieures à la naissance de l’informatique, même si l’informatique va leur permettre de se déployer et de s’étendre sans commune mesure. Les premières classifications sont produites pour distinguer les capacités des élèves en créant des tests mentaux et d’aptitudes avec la psychologie différentielle. Les mathématiques servent alors à mesurer l’intensité et la qualité des sensations, la vitesse de réaction… pour mesurer les différences interindividuelles et caractériser les populations en marge de la société : les aliénés, les criminels, les pauvres, les anormaux. Derrière ces tentatives pour améliorer la justice en permettant aux politiques publiques de s’adapter aux profils de chacun s’amalgame des capacités de discriminations inédites porté par tout un courant eugéniste comme le montrera le paléontologue Stephen Jay Gould dans La mal-mesure de l’homme (Odile Jacob, 1997) ou plus récemment Kate Crawford dans son Contre-atlas de l’intelligence artificielle  (Zulma, 2022, voire également notre critique). Les tests mentaux visent à diagnostiquer les enfants anormaux dans le contexte de l’instauration de l’obligation scolaire, avec, pour ses promoteurs, une volonté d’améliorer la justice sociale. 

Le terme même de profilage naît pour décrire cette mise en nombre des individus, en 1909 et s’accompagne, dès l’origine, d’un mode de production graphique pour relier les résultats aux différents tests. Au-delà de l’école, les tests vont rapidement être appliqués à l’orientation et à la sélection professionnelle, pour mieux faire correspondre les profils psychologiques aux métiers. Genicot, en plongeant par exemple dans les travaux de Jean-Maurice Lahy, dans les années 30, nous montre que les ingénieurs de l’IA n’ont rien inventé. On produit des tests psychologiques sur deux groupes de travailleurs, les bons et les mauvais (selon une distinction déjà pleine de biais, puisqu’elle ne repose que sur l’appréciation de chefs de services et le nombre de fautes professionnelles recensées) pour produire des métriques distinctives. Test qu’on peut ensuite faire passer à tout requérant pour mesurer si ses caractéristiques sont plus proches de l’un ou l’autre groupe. On tente de mesurer l’énergie, l’endurance, la concentration, la capacité d’initiative… via des tests psychométriques qui ne vont cesser de s’affiner. On les fait passer à une galerie de métiers pour tenter d’identifier ce qui singularise chaque secteur… Le profilage est dès l’origine une comparaison aux attributs statistiques des autres. « L’essence du profilage consiste à prédire une variable cachée (ici : une aptitude) de manière probabiliste, c’est-à-dire sur la base de caractéristiques (ici : les résultats obtenus à des tests psychotechniques) qui sont fortement corrélées à cette variable ». On le voit, malgré leurs efforts à « désubjectiver les méthodes d’appréciation », ces techniques les réifient. Les conditions sociales sont invisibilisées dans les capacités des individus : « le profilage réduit des situations sociales à des propriétés individuelles » et les biais de l’entité qui profilent sont passés sous silence. 

Pas étonnant que ces tests professionnels soient donc contestés. Leur caractère discriminatoire en termes de genre, de niveau social, d’origine… se dévoile à mesure que ces profilages se répandent. Les tests d’aptitudes professionnels montrent par exemple que 58% des Américains blancs les réussissent contre seulement 6% des personnes noires. Les débats pour rétablir l’équité se démultiplient alors. Faut-il différencier ces tests selon l’âge, le genre, l’origine ? Ce n’est qu’en 1991 que les Etats-Unis tranchent en prohibant les pratiques d’ajustement des scores selon l’appartenance à un groupe protégé. Mais si le débat est tranché, il n’est pas réglé. J’ai l’impression que l’enjeu de corriger les biais reste entier. Aujourd’hui encore, on ne sait pas vraiment comment les corriger. Comme si les débats, tranchés par le droit, les avait arrêtés, sans stopper les pratiques ni les problèmes afférents. 

Avec le développement du numérique, le profilage va s’amplifier. Le big data permettant de démultiplier le profilage psychologique, malgré toutes les limites de ces tests, comme nous le disaient il y a quelques années déjà le psychologue Alexandre Saint-Jevin. En fait, le profilage va également s’étendre, comme celui des chercheurs d’emploi, initié au prétexte de mieux les accompagner et qui va surtout servir à les sanctionner et faire peser sur eux des contraintes plus importantes (sans que ce contrôle ne produise aucun horizon, comme nous disions en disséquant Chômeurs, vos papiers (Raisons d’agir, 2023), qui soulignait l’inefficacité du contrôle du chômage). Il va conduire également à un recrutement de plus en plus automatisé, où les systèmes calculent (un peu n’importe comment il faut le dire) la correspondance d’un CV à une annonce. Pour Genicot, la « logique corrélationnelle » se répand et s’impose partout, jusque dans l’évaluation des employés sur leurs lieux de travail. L’appréciation des individus par des variables qui ne lui sont jamais propres se couple d’une comparaison statistique des résultats de chacun évalués par rapport à ceux d’un groupe. Le profilage tient tout entier dans ce rapport étrange de soi aux autres, où les limites des métriques utilisées sont invisibilisées par les ratios et indicateurs produits. Comme si finalement les chiffres pouvaient assurer d’une neutralité de façade, d’une neutralité dont les limites ne sont plus interrogées. Les scores de risques sont partout défaillants, il n’empêche qu’ils ne cessent d’être produits et utilisés, comme nous le pointions en lisant Jathan Sadowski.  

En observant les débats du monde assurantiel comme ceux du secteur bancaire, Nathan Genicot montre les mêmes ambiguïtés. 

Quelles discriminations acceptons-nous ?

La sélection des assurés et la tarification des primes sont depuis longtemps rattachées au calcul de probabilités. L’assurance va prendre son essor au XVIIIe siècle après l’essor de l’arithmétique politique qui invente un siècle plus tôt les premières tables de mortalité qui décrivent le nombre de décès par âge. Le risque assurantiel s’est longtemps apprécié au niveau du groupe, plus qu’au niveau individuel, là où la condition de chacun est affectée par la condition des autres. Il faudra néanmoins attendre la loi de 1898 qui impose au patron d’indemniser les salariés victimes d’accidents du travail, pour faire de l’assurance le gage de la réparation. Les assureurs se mettent à sélectionner les risques qu’ils veulent couvrir comme les assurés. Ils comprennent vite que « plus le profilage est affiné, c’est-à-dire plus il y a sélection et tarification différenciées, moins il y a de solidarité ». Une constance simple que tout le monde semble avoir oublié à l’ère du Big Data. 

A défaut de parvenir à identifier d’autres attributs pertinents, l’âge s’impose souvent comme une catégorie principale, notamment pour l’assurance vie. Genicot souligne que le débat a été constant entre individualisation et solidarité. L’assurance n’a cessé de chercher des variables pertinentes. Derrière ces débats, on en voit poindre un autre, plus philosophique s’il en était : quelles segmentations – et donc quelles discriminations – acceptons-nous en tant que société ? Et lesquelles refusons-nous ? Si tout le monde semble accepter celle de l’âge, la discrimination de genre ou sociale par exemple le sont bien moins. Et les débats sur la discrimination d’origine, aux Etats-Unis, décalque des rapports de domination de la société, sont nourris. L’intégration du comportement et du mode de vie aujourd’hui dans le calcul assurantiel reste souvent polémique, à raison, puisqu’il incrimine l’individu et masque les différences créées par les rapports sociaux. 

Comme partout ailleurs, les assureurs produisent des scores pour calculer l’assurabilité de chacun. Les assureurs ne vont cesser de développer un discours pour justifier la segmentation qui leur profite en promouvant des calculs qui seraient dénués de connotation morale, alors que nombre d’entre eux vont user et abuser de pratiques problématiques, par exemple en tenant compte de la domiciliation pour faire grimper les primes des populations racisées par rapport à celles des riches (et blanches) banlieues américaines. Pourtant souligne Genicot, malgré les critiques acerbes contre les pratiques du secteur, peu de monde interroge « la prétention à atteindre l’objectivité dans l’évaluation des risques actuariels. La pertinence du recours aux classifications ne fait, à peu de choses près, pas l’objet de débats ». Pire, comme le soulignait la sociologue Greta Krippner, l’individualisation du risque semble bien plus la conséquence de la lutte contre les pratiques discriminatoires des marchés de l’assurance plutôt que liée à l’émergence du néolibéralisme. Bon, cela ne signifie pas pour autant que l’évolution du capitalisme est absente de la segmentation assurantielle. Celle est stimulée par la liberté tarifaire, et renforcée par les progrès de l’informatique qui va permettre de démultiplier les variables et de faire disparaître les discriminations derrières la complexité des critères. 

La régulation va bien sûr s’inviter dans ces innombrables débats, par exemple en encadrant les tarifs pour prémunir l’exclusion de certains publics, ou en écartant certaines formes de segmentation les plus criantes et problématiques, comme celles sur la religion, le sexe, l’origine ethnique ou la génétique… mais sans remettre en cause nombre de pratiques problématiques. En fait, derrière les débats nourris, la société semble n’être pas parvenue à fourbir de règles claires ne permettant pas les contournements. L’interdiction de faire des distinctions de genre par exemple n’a pas conduit à limiter les possibilités de segmentations, mais à conduit à utiliser des critères plus précis, comme s’y essaie l’assurance avec la prise en compte des comportements, à l’image de la conduite automobile elle-même. Une personnalisation dans laquelle l’assurance oublie sa fonction initiale : celle de mutualiser les risques. 

Genicot rappelle pourtant que l’assurance, pour fonctionner, doit reposer sur une segmentation modérée. Même constat quant au calcul du crédit et de son risque, né lui aussi avec l’essor des techniques statistiques. Dès l’origine, portés par les grands magasins pour faciliter la consommation, ceux-ci déploient des formulaires standardisés pour classer les performances de remboursements des clients. Là encore, « l’apparente objectivité de la classification n’empêche pas la présence d’une large part d’arbitraire dans l’attribution de la note ». Si la standardisation s’impose pour réduire le pouvoir discrétionnaire des agents, la statistique va s’y imposer dès les années 50 en développant des scores pour évaluer les capacités de remboursements de chacun. Enfin, pas seulement. A mesure qu’ils se déploient, là encore, les scores se complexifient, cachant dans leurs critères leurs innombrables jugements moraux et sociaux. En 1963 par exemple, les variables d’un fournisseur de score prennent en compte toute information disponible : le taux de crédit déjà engagé et les revenus bien sûr, mais aussi le statut marital et la profession, en passant par le fait d’être syndiqué. Derrière cette complexification des scores, c’est assurément notre compréhension commune qui s’éloigne, et avec elle, notre capacité à les réguler. Les innombrables facteurs pris en compte servent à obfusquer la discrimination raciale ou de classe à l’oeuvre. On apprend à utiliser des variables très éloignées des nécessités, simplement parce qu’elles peuvent être de bons prédicateurs, comme le fait d’avoir déjà un compte bancaire, ce qui est le cas de 87% de ceux qui paient leurs échéances de crédits… au risque que ces calculs accentuent les biais inhérents. Pas étonnant que, désormais, les économistes eux-mêmes estiment que les banques ne savent plus prêter à ceux qui en ont besoin. C’est comme si, à mesure qu’ils se perpétuent, les calculs se radicalisaient d’eux-mêmes. Comme l’IA semble s’écrouler à mesure qu’elle s’entraîne sur les données qu’elle produit, les calculs de la société semblent s’effondrer sur eux-mêmes à force d’être usés. Les scores de crédits, dont le célèbre Fico Score qui naît en 1956, se développent pourtant dans un contexte de compétition forte, promettant d’élargir le crédit aux plus pauvres. Il s’impose vite comme une métrique universelle… et immuable.

L’informatisation va permettre de renchérir le score de nouvelles variables, notamment cette des cartes de paiements électroniques qui permet de rendre les notes de risques dynamiques. Genicot rappelle que les notes ont une fonction disciplinaire. Elles font penser qu’elle dépend du comportement de chacun quand elles masquent d’abord des enjeux sociaux et de classe. Pire, malgré leurs lacunes intrinsèques, elles sont désormais utilisées pour d’innombrables autres services au prétexte d’un « besoin commercial légitime » : pour louer un logement, pour assurer une voiture, pour être embauché… « Tous utilisent la note de crédit comme un proxy, un indictateur du trait de comportement qu’ils cherchent à évaluer (tel que le fait d’être un bon locataire ou un bon employé) ». Le score de crédit devient un « outil de mesure de la moralité », alors qu’il est surtout, comme le disait Frank Pasquale dans Black Box Society (Fyp, 2015) opaque, arbitraire et discriminatoire. Les scores ne servent pas tant à clarifier les choses, disait-il, mais à les rendre plus obscures. 

Or, les scores modifient le réel qu’ils entendent décrire. Et à mesure que leur usage s’étend, radicalisent leurs effets. « Une mauvaise note entraînera un taux d’intérêt plus élevé, c’est-à-dire des conditions de remboursement plus difficiles pour la personne débitrice, ce qui accroîtra sa précarité économique. Si la note est prise en compte par des bailleurs ou des employeurs, l’incidence de cet effet de boucle sera d’autant plus significative. Une personne qui, à cause d’une mauvaise note, ne trouve pas d’emploi ou ne parvient pas à se loger, aura du mal à rembourser ses crédits et verra sa note diminuer encore davantage ». C’est en cela que les calculs se radicalisent, qu’ils renforcent le « lumpenscoretariat » qu’évoquaient Marion Fourcade et Kieran Healy. 

Là encore, des régulations seront votées pour encadrer les pratiques, mais sans vraiment parvenir à agir autrement qu’en limitant les pratiques les plus discriminantes. Derrière la neutralité des scores se cache l’accélération des biais. Même un score qui ne reposerait que sur les capacités financières des individus, serait foncièrement problématique puisque les capacités à rembourser sont loin d’être équitablement distribuées. Si l’enjeu est bien de prêter de l’argent aux gens, le score, par nature, vise bien plus à limiter le prêt qu’autre chose. Pas étonnant qu’on se retrouve donc avec des organismes bancaires incapables de faire leur métier : prêter de l’argent à ceux qui en ont besoin ! L’information sur les décisions de crédits prises par les organismes, sur leur distribution, la mesure de leur équité… elle est bien souvent inaccessible. Les critères des scoring ou l’étendu des situations où ils sont utilisés également. Les innombrables données peuvent être désormais utilisées comme des prédicteurs de votre capacité de remboursement, également. Partout, l’opacité du scoring est la règle. Quand on voit par exemple le nombre de gens débancarisés, on se dit que les scores de crédit semblent surtout avoir appris, eux, à masquer leurs lacunes. 

Le risque d’un droit… sur mesure

L’essai de Nathan Genicot est bien plus sage que ma lecture énervée. Il souligne néanmoins combien les modèles statistiques et algorithmiques s’imposent dans tous ces secteurs « pour optimiser la prise de décision en se substituant au jugement humain ». Ils imposent l’idée que l’individu est seul responsable de ses notes, faisant fi du contexte social. Mais plus encore, il estime que le risque de ces calculs, de ces profilages, consiste à produire des règles de plus en plus individualisées, au risque d’altérer notre conception du droit lui-même, pour remplacer la règle qui s’applique à tous, par un droit sur mesure, calculé selon le profil de chacun. 

Dans la dernière partie du livre, il revient sur la critique d’une conception mécanique du droit : les peines similaires, impersonnelles, uniformes, à tous ont longtemps été considérées comme un idéal d’objectivité et de justice. L’impersonnalité des processus décisionnels étant vu comme un rempart contre l’arbitraire et un gage de prévisibilité. Mais là encore, au début du XXe siècle, cette conception est critiquée au prétexte que les conditions et le contexte sont toujours significatifs. A l’égalité succède le principe d’équité, et avec lui, l’idée d’une individualisation des peines pour que le droit soit le même pour tous, à l’image de la critique de la TVA ou des contraventions et amendes, qui s’appliquent à tous au même taux, même à Bernard Arnault, alors que leur impact ne sont pas les mêmes selon les revenus des justiciables. Bon, il existe bien sûr des moyens d’y remédier, en fixant par exemples des critères ou des seuils. Car, comme le souligne très justement le philosophe, le problème de l’individualisation est qu’elle n’a pas de limite. On peut personnaliser selon d’innombrables variables, comme nous le montre le marketing numérique. 

Dans les revues académiques du droit, actuellement, le débat est visiblement vif sur ces questions. La rêve d’automatisation invite certains à imaginer d’adapter la loi aux situations au grès des circonstances, à ajuster et calibrer les standards. Mais comment trouver le bon niveau pour traiter à la fois « les mêmes situations de la même manière » et « traiter différemment des situations différentes » ? « Un consommateur impulsif qui réalise régulièrement des achats en ligne pourrait par exemple se voir imposer des conditions plus strictes avant de pouvoir renvoyer un produit et se faire rembourser qu’un consommateur qui aurait, au contraire, un tempérament responsable et prudent ». Certes, mais sur quelles données, quelles inférences serait produit ce jugement comportemental ? Et serait-il lui-même juste, opposable, redevable ? On a un peu l’impression que ces perspectives oublient toutes les limites pointées par les débats passés que l’auteur a mis en avant dans sa généalogie. 

Pour Genicot, « la substitution des systèmes normatifs classiques par des dispositifs de profilage est déjà à l’œuvre », notamment dans les rapports de l’Etat à ses administrés. C’était le cas notamment, dans les années 70 avec le système GAMIN, un des premiers dispositif public de profilage pour conditionner le versement d’allocation familiales. C’est également le cas avec le profilage des bénéficiaires de la CAF et nombre d’autres outils de gestion du social que nous évoquons souvent sur danslesalgorithmes.net. Du profilage des chômeurs aux contrôles des frontières, l’individualisation et le profilage sont partout, mais ils produisent assez peu d’équité et encore moins d’égalité, au contraire. Le profilage produit surtout des conditions plus dures pour les plus vulnérables. L’optimisation prédictive partout où elle se déploie fonctionne mal, cela n’empêche hélas pas le développement d’innombrables formes de notations sociales. 

Pour Genicot, l’interdiction des notations sociales dans ce contexte par l’IA Act est le bienvenue, mais c’est oublier que le texte les rend licite plus qu’elle ne les interdit. Le RIA ne propose que de les encadrer, que de veiller à ce que les notes ne soient ni disproportionnées ni dissociées du contexte de leur production. Le fait que certains soient à haut risque ne fait peser sur eux qu’une surveillance accrue. Il ne vise pas à rendre les notes plus justes qu’elles ne sont. Ils ne nous invitent finalement pas à questionner la société. Il ne nous invite pas à changer la manière dont on calcule, ni ne nous aide à nous défier de l’enkystement des calculs. Il ne nous invite pas à changer la société, alors que demain, pour changer la société, il faudra assurément changer la manière dont elle est calculée. La personnalisation du droit, le profilage administratif, nous invite seulement à continuer la société telle qu’elle est. « Le profilage est profondément conservateur », rappelle le philosophe. « Le profilage conduit donc à créer des traitements différenciés dont il prétend cependant qu’ils sont conformes à l’égalité », sans offrir à la société les moyens de le vérifier. Ce n’est là que la parole des profileurs. Les innombrables enquêtes sur le sujet, notamment sur le profilage social, depuis les travaux pionniers de Virginia Eubanks, montrent toutes l’exact inverse. Aucun n’est conforme à l’égalité. En reposant sur l’individualisation et la responsabilisation de chacun, il est « l’exact inverse de la solidarité ». Le profilage « conduit à l’oblitération des relations et, plus largement du social. Le rapport de l’individu aux autres n’est jamais compris comme celui d’une interdépendance, mais uniquement comme une comparaison à une classe, à une collection d’individus ». « Les notes obscurcissent la dimension structurelle des inégalités sociales ». Et en s’imposant, elles nous empêchent finalement de les remettre en question. 

Au final, l’enquête historique de Nathan Genicot nous rappelle que pour changer la société, il va falloir changer la manière dont elle calcule. 

Hubert Guillaud

Le chercheur italien Antonio Aloisi (qu’on a déjà évoqué plusieurs fois dans nos pages, notamment ici et là) a lancé une passionnante newsletter personnelle, Workable Futures. 

Dans sa dernière édition, il enterre l’économie des plateformes de travail. L’adoption d’une directive européenne « timidement audacieuse » sur les travailleurs des plateformes a fini par ramener un peu de réalité dans un monde de mythes surmédiatisés, explique-t-il. En fait, on dit souvent que le droit est en retard par rapport au rythme des évolutions technologiques, mais il semble bien que nous devrions reconsidérer la question et constater que le droit est en avance. Après plus de 10 ans de poudre aux yeux, aucune plateforme de l’économie collaborative en Europe ne peut se targuer d’une rentabilité solide, malgré le lobbying intense en leur faveur et les financements sans fin du capital risque qui sont venus subventionner le mode de vie des plus aisés que ce soit en proposant des livraisons ou des courses en voiture de luxe à prix cassé. Le grand cimetière de l’innovation est désormais rempli de startups qui proposaient d’ubériser tout et n’importe quoi. « Ce qui pu passer pour une voie vers la rentabilité s’est révélée guère plus qu’une redistribution des pertes, reportée sur les travailleurs et les fournisseurs. Même dans sa version la plus « optimisée » (celle qui repose sur le travail forcé), le modèle peine à générer un profit durable.» 

« Depuis des années, des armées d’avocats se disputent sur le dilemme épineux de savoir si les travailleurs indépendants doivent être considérés comme des salariés ou des travailleurs à leur compte ». « Les traditions juridiques nationales peuvent diverger, mais le constat est clair : le pouvoir d’exercer un contrôle absolu sur les travailleurs (qualifiés, à juste titre, de « subordonnés ») s’accompagne du devoir de garantir stabilité et protection. Le risque commercial doit être supporté par les fondateurs, et non transféré aux employés. Plus important encore, dans la plupart des pays occidentaux, ce modèle sous-tend un système de protection sociale solide, où les travailleurs financent leur propre sécurité sociale par le biais de cotisations salariales. Depuis l’avènement du capitalisme, c’est ainsi que les entreprises fonctionnent, avec un certain succès, à moins qu’elles ne choisissent de se réfugier dans un monde numérique d’exception. »

Des armées d’avocats, de politiciens, d’universitaires, d’entrepreneurs et d’éditorialistes  ont tenté de nous convaincre  que « la notion traditionnelle de subordination ne saurait s’appliquer à des structures organisationnelles aussi flexibles, voire imprévisibles ». « La directive européenne sur le travail sur plateforme affirme en substance qu’un modèle économique basé sur une plateforme n’est pas fondamentalement incompatible avec une relation de travail. Ce principe, bien que non révolutionnaire, a été salué à juste titre comme une avancée majeure. La plupart des observateurs ont également averti que l’introduction d’une présomption de travail n’est qu’un point de départ. » 

Ce dispositif procédural n’a aucun pouvoir miraculeux. Intégrer les travailleurs précaires dans le champ d’application du droit du travail ne résout pas, en soi, les problèmes de fond auxquels ils sont confrontés. La prochaine étape devrait consister à examiner la pertinence des dispositions relatives au travail dans des contextes et pour des travailleurs qui ne correspondent pas pleinement à l’idéal dominant. Le constat est sans appel, estime le chercheur. « Nous avons déployé une énergie intellectuelle considérable pour finalement ne pas légitimer un phénomène qui n’a jamais été conçu pour être légitime, et encore moins conforme à la loi ». « La réalité s’est avérée dure pour les plateformes », ironise le chercheur. « Le problème n’a jamais été que le droit était en retard sur l’innovation, mais que les modèles économiques étaient déconnectés de la réalité ». Nous avons été abusés par un « entreprenariat factice ». Ce sont les projets d’ubérisation qui sont bidons, pas le droit qu’il faut changer. 

« Cependant, les pratiques testées dans ce contexte sont depuis devenues un modèle pour des entreprises moins scrupuleuses. La surveillance intégrée aux applications de livraison de repas est désormais une fonctionnalité du tableau de bord collaboratif de votre employeur ; ce qui a été testé dans les centres d’appels est maintenant le modèle pour les annotateurs de données (ces travailleurs qui nettoient les ensembles de données extraits par ChatGPT). Le modèle de rémunération à la tâche s’est infiltré dans l’enseignement supérieur, la santé et le secteur culturel, dans un cycle sans fin de reproduction de la même logique. Les données que nous partagions autrefois avec légèreté en échange d’un bon de réduction sont devenues la base d’une nouvelle infrastructure prédatrice. »

« Les tribunaux du monde entier sont toujours englués dans des litiges concernant le statut d’emploi des travailleurs des plateformes, le temps de travail non rémunéré et la discrimination algorithmique. Pendant ce temps, sans grande finesse, l’entreprise orchestre discrètement l’obsolescence programmée de ses chauffeurs (et la sienne), façonnant les attentes quant à la suite des événements, marquée par une dégradation progressive des conditions de travail et la promesse d’une automatisation complète. »

« Le caractère pernicieux de cette stratégie explique son attrait. Les travailleurs sont considérés comme un simple obstacle à éliminer. Or, c’est faux : même lorsqu’ils sont relégués au second plan dans les champs des Pouilles à la récolte des légumes, sur le marché mondial en ligne de l’étiquetage des données, contraints de laver les sols de supermarchés prétendument entièrement automatisés ou embauchés pour surveiller des machines défaillantes (comme les superviseurs de véhicules autonomes forcés de se déguiser en sièges auto pour donner l’illusion de voitures fonctionnant sans intervention humaine). Ce système repose sur une main-d’œuvre massive et sous-payée, une armée de maîtres numériques maniant des algorithmes impitoyables, et la crédulité, la complaisance et la superficialité du reste d’entre nous. L’économie des petits boulots est morte. Il était temps ». Aloisi sait pourtant que la directive des plateformes ne suffira pas. L’économie des petits boulots est morte « et pourtant elle persiste ». « Un modèle économique qui n’a jamais été viable a néanmoins réussi à remodeler la perception du travail chez certains, une supercherie après l’autre. » Le risque est fort que cette perception continue d’infuser en continuant à niveler les salaires et les statuts par le bas. Avant que nous enterrions définitivement son cadavre, il est probable qu’elle aura fait encore beaucoup de mal à bien des travailleurs de bien des secteurs. 

La dérégulation est pour les perdants 

Dans la première édition de sa newsletter, Antonio Aloisi expliquait déjà que « la dérégulation est pour les perdants », en revenant sur la mauvaise idée européenne, suite au rapport Draghi, de porter une forme de dérégulation avec le projet de digital omnibus. Or, rappelle le chercheur, « l’affirmation selon laquelle la croissance de l’UE serait bloquée à cause de l’ensemble des règles juridiques que nous nous sommes imposées est, pour être honnête, sans fondement. Sans vouloir détourner le regard, les causes profondes se trouvent ailleurs : une intégration insuffisante, des marchés financiers fragiles, une culture de l’aversion au risque, des politiques migratoires inadaptées et des règles d’attraction des talents inefficaces » (autant de pistes, on s’en souvient, mises en avant par Anu Bradford). On le voit dans les discussions sans fin autour du Digital Omnibus européen qui réécrivent les textes européens sous prétexte de dérégulation, reportant ses échéances d’une correction l’autre. Ceux qui critiquent l’approche légaliste de l’UE ne seront jamais satisfaits : ils continuent de réclamer toujours plus de simplification créant une Union toujours plus « économiquement dépendante, technologiquement subordonnée et stratégiquement faible ». De l’autre côté, les entreprises sérieuses qui avaient déjà mis en place des protocoles pour se conformer aux dispositions législatives seront assez légitimement mécontentes. « Elles se percevront comme les naïfs du village dans un monde où règne une culture managériale déconnectée de la réalité. Refuser de se conformer et préférer se plaindre, d’une certaine manière, s’avère payant. Ce sentiment peut être extrêmement dangereux, comme dans le cas classique de l’évasion fiscale : pourquoi payer si tout le monde contourne allègrement les règles ? » La perspective d’une impunité totale au prétexte de l’innovation ne nous conduit nulle part. 

Pour Aloisi, le risque est fort que l’innovation ne devienne un concept vide de sens. Y’a-t-il vraiment un chef d’entreprise pour affirmer que sa startup a échoué « à cause d’une politique de cookies trop stricte ou des exigences du RGPD ? », ironise-t-il. 

La réalité n’est pas celle-ci, rappelle Aloisi. En Europe, des entreprises développent des produits et services de pointe dans des secteurs essentiels, de l’aéronautique à l’industrie pharmaceutique, de l’énergie aux microprocesseurs. Ces exemples illustrent une philosophie radicalement différente, qui s’attaque aux défis sociétaux majeurs plutôt que de fabriquer des chatbots pour des rencontres amoureuses ou des images pédopornographiques. Une « innovation patiente qui fait progresser la civilisation ». « Si une entreprise « disruptive » ne peut survivre parce qu’elle doit se conformer à des règles que la plupart d’entre nous suivons, c’est peut-être l’occasion de réévaluer la viabilité de son modèle économique. C’est un service que nous pouvons rendre à la véritable notion d’innovation, celle qui ne se contente pas de détruire, mais qui contribue à bâtir un monde meilleur. » « Les appels à démanteler la réglementation européenne en matière de développement durable et de numérique peuvent facilement se retourner contre ses auteurs. Il est facile de comprendre qu’un repli de l’UE engendrerait une fragmentation, une instabilité et une concurrence accrues entre les États membres pour occuper un espace ou combler un manque. C’est là que réside l’erreur de la déréglementation : ce processus ne profite ni aux PME européennes, ni à la souveraineté ou à la compétitivité de l’UE, ni à la position des consommateurs, des travailleurs ou des citoyens. C’est un fléau déguisé en bénédiction. Une option perdant-perdant qui ne ferait qu’éroder davantage la confiance dans les institutions, les règles et les dirigeants. » Nous devrions être plus sages et changer de cap, conclut-il. La dérégulation ne nous conduit nulle part. 

Hubert Guillaud

PS : Dans La Croix, Mimoun El Alami, de la Coopérative d’activité et d’emploi Stairling et Yannick Puisset, dirigeant de la coopérative d’activité et d’emploi Coop & Bât, signaient une tribune pour pointer que le statut de micro-entrepreneur, en France, est une bombe à retardement, dénonçant un statut concernant désormais 3,186 millions de personnes en France, sans droits suffisants. « Ce à quoi nous assistons ressemble à une réémergence du prolétariat. Pas un retour aux usines du XIXe siècle, mais à l’atomisation de millions de travailleurs, cols blancs comme cols bleus, seuls face à leurs clients, payés à la tâche, sans filet de sécurité. Le XXe siècle avait construit patiemment des structures de protection collective. Le statut de microentrepreneur, choisi par défaut, les contourne. » Des organisations comme le Syndicat des indépendants et des TPE ou la Fédération nationale des autoentrepreneurs portent des revendications précises : meilleure couverture maladie, accès à la formation, droits à la retraite. « Leur audience croissante dit quelque chose du vide institutionnel que ressentent des millions de travailleurs. » Avec le portage salarial et les Coopératives d’activité et d’emploi, ces modèles de protection sociale ne demandent qu’à grandir. Pour l’instant, les pouvoirs publics ne les aident pas suffisamment.

Le chercheur italien Antonio Aloisi (qu’on a déjà évoqué plusieurs fois dans nos pages, notamment ici et là) a lancé une passionnante newsletter personnelle, Workable Futures. 

Dans sa dernière édition, il enterre l’économie des plateformes de travail. L’adoption d’une directive européenne « timidement audacieuse » sur les travailleurs des plateformes a fini par ramener un peu de réalité dans un monde de mythes surmédiatisés, explique-t-il. En fait, on dit souvent que le droit est en retard par rapport au rythme des évolutions technologiques, mais il semble bien que nous devrions reconsidérer la question et constater que le droit est en avance. Après plus de 10 ans de poudre aux yeux, aucune plateforme de l’économie collaborative en Europe ne peut se targuer d’une rentabilité solide, malgré le lobbying intense en leur faveur et les financements sans fin du capital risque qui sont venus subventionner le mode de vie des plus aisés que ce soit en proposant des livraisons ou des courses en voiture de luxe à prix cassé. Le grand cimetière de l’innovation est désormais rempli de startups qui proposaient d’ubériser tout et n’importe quoi. « Ce qui pu passer pour une voie vers la rentabilité s’est révélée guère plus qu’une redistribution des pertes, reportée sur les travailleurs et les fournisseurs. Même dans sa version la plus « optimisée » (celle qui repose sur le travail forcé), le modèle peine à générer un profit durable.» 

« Depuis des années, des armées d’avocats se disputent sur le dilemme épineux de savoir si les travailleurs indépendants doivent être considérés comme des salariés ou des travailleurs à leur compte ». « Les traditions juridiques nationales peuvent diverger, mais le constat est clair : le pouvoir d’exercer un contrôle absolu sur les travailleurs (qualifiés, à juste titre, de « subordonnés ») s’accompagne du devoir de garantir stabilité et protection. Le risque commercial doit être supporté par les fondateurs, et non transféré aux employés. Plus important encore, dans la plupart des pays occidentaux, ce modèle sous-tend un système de protection sociale solide, où les travailleurs financent leur propre sécurité sociale par le biais de cotisations salariales. Depuis l’avènement du capitalisme, c’est ainsi que les entreprises fonctionnent, avec un certain succès, à moins qu’elles ne choisissent de se réfugier dans un monde numérique d’exception. »

Des armées d’avocats, de politiciens, d’universitaires, d’entrepreneurs et d’éditorialistes  ont tenté de nous convaincre  que « la notion traditionnelle de subordination ne saurait s’appliquer à des structures organisationnelles aussi flexibles, voire imprévisibles ». « La directive européenne sur le travail sur plateforme affirme en substance qu’un modèle économique basé sur une plateforme n’est pas fondamentalement incompatible avec une relation de travail. Ce principe, bien que non révolutionnaire, a été salué à juste titre comme une avancée majeure. La plupart des observateurs ont également averti que l’introduction d’une présomption de travail n’est qu’un point de départ. » 

Ce dispositif procédural n’a aucun pouvoir miraculeux. Intégrer les travailleurs précaires dans le champ d’application du droit du travail ne résout pas, en soi, les problèmes de fond auxquels ils sont confrontés. La prochaine étape devrait consister à examiner la pertinence des dispositions relatives au travail dans des contextes et pour des travailleurs qui ne correspondent pas pleinement à l’idéal dominant. Le constat est sans appel, estime le chercheur. « Nous avons déployé une énergie intellectuelle considérable pour finalement ne pas légitimer un phénomène qui n’a jamais été conçu pour être légitime, et encore moins conforme à la loi ». « La réalité s’est avérée dure pour les plateformes », ironise le chercheur. « Le problème n’a jamais été que le droit était en retard sur l’innovation, mais que les modèles économiques étaient déconnectés de la réalité ». Nous avons été abusés par un « entreprenariat factice ». Ce sont les projets d’ubérisation qui sont bidons, pas le droit qu’il faut changer. 

« Cependant, les pratiques testées dans ce contexte sont depuis devenues un modèle pour des entreprises moins scrupuleuses. La surveillance intégrée aux applications de livraison de repas est désormais une fonctionnalité du tableau de bord collaboratif de votre employeur ; ce qui a été testé dans les centres d’appels est maintenant le modèle pour les annotateurs de données (ces travailleurs qui nettoient les ensembles de données extraits par ChatGPT). Le modèle de rémunération à la tâche s’est infiltré dans l’enseignement supérieur, la santé et le secteur culturel, dans un cycle sans fin de reproduction de la même logique. Les données que nous partagions autrefois avec légèreté en échange d’un bon de réduction sont devenues la base d’une nouvelle infrastructure prédatrice. »

« Les tribunaux du monde entier sont toujours englués dans des litiges concernant le statut d’emploi des travailleurs des plateformes, le temps de travail non rémunéré et la discrimination algorithmique. Pendant ce temps, sans grande finesse, l’entreprise orchestre discrètement l’obsolescence programmée de ses chauffeurs (et la sienne), façonnant les attentes quant à la suite des événements, marquée par une dégradation progressive des conditions de travail et la promesse d’une automatisation complète. »

« Le caractère pernicieux de cette stratégie explique son attrait. Les travailleurs sont considérés comme un simple obstacle à éliminer. Or, c’est faux : même lorsqu’ils sont relégués au second plan dans les champs des Pouilles à la récolte des légumes, sur le marché mondial en ligne de l’étiquetage des données, contraints de laver les sols de supermarchés prétendument entièrement automatisés ou embauchés pour surveiller des machines défaillantes (comme les superviseurs de véhicules autonomes forcés de se déguiser en sièges auto pour donner l’illusion de voitures fonctionnant sans intervention humaine). Ce système repose sur une main-d’œuvre massive et sous-payée, une armée de maîtres numériques maniant des algorithmes impitoyables, et la crédulité, la complaisance et la superficialité du reste d’entre nous. L’économie des petits boulots est morte. Il était temps ». Aloisi sait pourtant que la directive des plateformes ne suffira pas. L’économie des petits boulots est morte « et pourtant elle persiste ». « Un modèle économique qui n’a jamais été viable a néanmoins réussi à remodeler la perception du travail chez certains, une supercherie après l’autre. » Le risque est fort que cette perception continue d’infuser en continuant à niveler les salaires et les statuts par le bas. Avant que nous enterrions définitivement son cadavre, il est probable qu’elle aura fait encore beaucoup de mal à bien des travailleurs de bien des secteurs. 

La dérégulation est pour les perdants 

Dans la première édition de sa newsletter, Antonio Aloisi expliquait déjà que « la dérégulation est pour les perdants », en revenant sur la mauvaise idée européenne, suite au rapport Draghi, de porter une forme de dérégulation avec le projet de digital omnibus. Or, rappelle le chercheur, « l’affirmation selon laquelle la croissance de l’UE serait bloquée à cause de l’ensemble des règles juridiques que nous nous sommes imposées est, pour être honnête, sans fondement. Sans vouloir détourner le regard, les causes profondes se trouvent ailleurs : une intégration insuffisante, des marchés financiers fragiles, une culture de l’aversion au risque, des politiques migratoires inadaptées et des règles d’attraction des talents inefficaces » (autant de pistes, on s’en souvient, mises en avant par Anu Bradford). On le voit dans les discussions sans fin autour du Digital Omnibus européen qui réécrivent les textes européens sous prétexte de dérégulation, reportant ses échéances d’une correction l’autre. Ceux qui critiquent l’approche légaliste de l’UE ne seront jamais satisfaits : ils continuent de réclamer toujours plus de simplification créant une Union toujours plus « économiquement dépendante, technologiquement subordonnée et stratégiquement faible ». De l’autre côté, les entreprises sérieuses qui avaient déjà mis en place des protocoles pour se conformer aux dispositions législatives seront assez légitimement mécontentes. « Elles se percevront comme les naïfs du village dans un monde où règne une culture managériale déconnectée de la réalité. Refuser de se conformer et préférer se plaindre, d’une certaine manière, s’avère payant. Ce sentiment peut être extrêmement dangereux, comme dans le cas classique de l’évasion fiscale : pourquoi payer si tout le monde contourne allègrement les règles ? » La perspective d’une impunité totale au prétexte de l’innovation ne nous conduit nulle part. 

Pour Aloisi, le risque est fort que l’innovation ne devienne un concept vide de sens. Y’a-t-il vraiment un chef d’entreprise pour affirmer que sa startup a échoué « à cause d’une politique de cookies trop stricte ou des exigences du RGPD ? », ironise-t-il. 

La réalité n’est pas celle-ci, rappelle Aloisi. En Europe, des entreprises développent des produits et services de pointe dans des secteurs essentiels, de l’aéronautique à l’industrie pharmaceutique, de l’énergie aux microprocesseurs. Ces exemples illustrent une philosophie radicalement différente, qui s’attaque aux défis sociétaux majeurs plutôt que de fabriquer des chatbots pour des rencontres amoureuses ou des images pédopornographiques. Une « innovation patiente qui fait progresser la civilisation ». « Si une entreprise « disruptive » ne peut survivre parce qu’elle doit se conformer à des règles que la plupart d’entre nous suivons, c’est peut-être l’occasion de réévaluer la viabilité de son modèle économique. C’est un service que nous pouvons rendre à la véritable notion d’innovation, celle qui ne se contente pas de détruire, mais qui contribue à bâtir un monde meilleur. » « Les appels à démanteler la réglementation européenne en matière de développement durable et de numérique peuvent facilement se retourner contre ses auteurs. Il est facile de comprendre qu’un repli de l’UE engendrerait une fragmentation, une instabilité et une concurrence accrues entre les États membres pour occuper un espace ou combler un manque. C’est là que réside l’erreur de la déréglementation : ce processus ne profite ni aux PME européennes, ni à la souveraineté ou à la compétitivité de l’UE, ni à la position des consommateurs, des travailleurs ou des citoyens. C’est un fléau déguisé en bénédiction. Une option perdant-perdant qui ne ferait qu’éroder davantage la confiance dans les institutions, les règles et les dirigeants. » Nous devrions être plus sages et changer de cap, conclut-il. La dérégulation ne nous conduit nulle part. 

Hubert Guillaud

PS : Dans La Croix, Mimoun El Alami, de la Coopérative d’activité et d’emploi Stairling et Yannick Puisset, dirigeant de la coopérative d’activité et d’emploi Coop & Bât, signaient une tribune pour pointer que le statut de micro-entrepreneur, en France, est une bombe à retardement, dénonçant un statut concernant désormais 3,186 millions de personnes en France, sans droits suffisants. « Ce à quoi nous assistons ressemble à une réémergence du prolétariat. Pas un retour aux usines du XIXe siècle, mais à l’atomisation de millions de travailleurs, cols blancs comme cols bleus, seuls face à leurs clients, payés à la tâche, sans filet de sécurité. Le XXe siècle avait construit patiemment des structures de protection collective. Le statut de microentrepreneur, choisi par défaut, les contourne. » Des organisations comme le Syndicat des indépendants et des TPE ou la Fédération nationale des autoentrepreneurs portent des revendications précises : meilleure couverture maladie, accès à la formation, droits à la retraite. « Leur audience croissante dit quelque chose du vide institutionnel que ressentent des millions de travailleurs. » Avec le portage salarial et les Coopératives d’activité et d’emploi, ces modèles de protection sociale ne demandent qu’à grandir. Pour l’instant, les pouvoirs publics ne les aident pas suffisamment.

Dans le New Yorker, l’écrivaine Jessica Winter revient sur l’invasion de l’IA à l’école. Elle pensait être tranquille jusqu’à ce que ses enfants entrent au lycée au moins. Il n’en a rien été. Sa fille de 11 ans qui vient d’entrer au collège a reçu un Chromebook sur lequel Gemini était préinstallé. Quelque soit les travaux qu’elle doit y accomplir, d’innombrables messages lui proposent de l’aider à écrire, à modifier ses présentations, à générer des images… Désormais l’IA est là. « Elle lit ses poèmes et connaît ses mots de passe. Elle l’observe constamment à travers l’écran. » 

Aux Etats-Unis, aucune entreprise d’IA ne détient de monopole sur l’école. Mais elles sont présentes partout. Dans les écoles publiques de Boston, les élèves de sixième utilisent les chatbots d’OpenAI et d’Anthropic pour se préparer aux tests standardisés. Dans les districts scolaires de New York et de Los Angeles, entre autres, des élèves de maternelle interagissent avec Amira, un robot de lecture ludique qui enregistre leur voix afin de leur fournir des commentaires personnalisés grâce à l’IA. Un parent d’élève d’école publique de Brooklyn a raconté qu’en cours d’arts plastiques, les élèves de CE1 pouvaient créer des œuvres avec l’IA grâce à Adobe Express for Education… « Le soutien à l’IA générative dans les écoles primaires et les collèges repose sur la conviction qu’une initiation précoce à cette technologie favorisera la culture numérique, donnera aux élèves des bases en ingénierie et les préparera à un avenir où la plupart des professions seront fortement influencées par l’IA. » 

Des outils… pour fidéliser les enfants

Dans le cadre d’un des procès contre les géants du numérique aux Etats-Unis, des documents internes de Google ont montré que la motivation de Google à fournir des outils aux écoles visait à « fidéliser les enfants à vie », rappelait le journaliste Tyler Kingkade pour NBC News en janvier. Pour Sarah Gardner, la responsable de Heat Initiative, une association de parents militants critique des plateformes de médias sociaux, nous devrions surtout nous interroger pour savoir pourquoi nous laissons les géants du numérique s’accaparer le marché scolaire. Et notamment Google, qui domine largement ce marché. « Selon les cabinets d’études de marché, les écoles représentent aujourd’hui 80 % des achats de Chromebooks. En 2017, Google annonçait que plus de la moitié des élèves des écoles publiques américaines utilisaient ses applications et produits pour leurs travaux scolaires. En 2021, ce chiffre dépassait les 170 millions d’élèves et d’enseignants à travers le monde. » 

Jessica Winter pointe de nombreuses études qui montrent les limites de l’usage de l’IA dans le cadre scolaire. La Brookings Institution a publié une analyse préliminaire sur l’IA et l’éducation des enfants, combinant l’analyse d’environ quatre cents études et des centaines d’entretiens avec des élèves, des parents, des enseignants et des spécialistes des technologies. Cette analyse conclut que les outils d’IA « compromettent le développement fondamental des enfants ». 

Même certains défenseurs de l’IA dans l’éducation reconnaissent que l’IA présente des risques cognitifs et socio-émotionnels importants pour les jeunes. Amanda Bickerstaff est la cofondatrice et présidente de l’organisation AI for Education, qui propose des formations aux enseignants et aux élèves sur l’intelligence artificielle générative. « Les enfants de moins de dix ans ne devraient pas utiliser de chatbots », explique-t-elle. « Ces outils requièrent une expertise et des compétences d’évaluation que même de nombreux adultes ne possèdent pas. » La décision de Google de rendre Gemini accessible à tous les âges, a-t-elle ajouté, est l’une des rares fois de sa carrière où elle a perdu le sommeil à cause d’une question professionnelle. Elle se souvient avoir pensé : « ils savent pertinemment que cela va être néfaste pour les enfants, et pourtant, ils persistent. » Bickerstaff poursuit : « Je ne pense pas qu’ils se posent des questions fondamentales comme : “Si un enfant peut immédiatement créer une image au lieu de la dessiner, qu’adviendra-t-il de sa capacité à réfléchir et à dessiner par lui-même ?” » Drew Bent, responsable de la recherche en éducation chez Anthropic, répond : « Ce n’est pas à nous, en tant qu’entreprise, de dire : “Utilisez l’IA à tel âge, pas à tel autre.” » 

La fille de Winter a réalisé une présentation qui comportait nombre de défauts. L’IA lui a proposé de les corriger. Mais elle est restée imperturbable face à la proposition : « Je préfère la mienne, parce qu’elle est originale et que j’y ai mis tout mon cœur. Je préfère la mienne parce qu’elle ne m’a pas pris trente secondes. » 

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement « bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive ». « Les enfants n’ont pas ce filtre adulte qui consiste à extraire stratégiquement des informations de leurs expériences, et retiennent donc une multitude de détails inattendus que les adultes jugeraient sans intérêt. Cela leur permet d’être créatifs d’une manière qui nous est inaccessible », explique un psychologue. Dans son livre, Teaching Machines (MIT Press, 2020), la journaliste spécialiste des questions d’éducation technologiques, Audrey Watters (voir aussi sa newsletter), rappellait que l’apprentissage personnalisé a toujours été le rêve de ceux qui automatisent l’éducation. 

C’est ce que proposent les promoteurs d’IA dans l’éducation à l’image du programme de formation pour les enseignants, de l’Académie nationale pour l’enseignement de l’IA. L’académie, dont le siège se trouve dans les locaux de la Fédération unie des enseignants (UFT) à Manhattan, est un projet conjoint de l’UFT et de la Fédération américaine des enseignants (AFT), financé par un partenariat de vingt-trois millions de dollars avec Microsoft, OpenAI et Anthropic. Les cours en présentiel et en ligne proposés par l’académie visent à aider les enseignants « non pas à accepter l’inévitable, mais à le maîtriser », explique Randi Weingarten, présidente de l’AFT.  Celle-ci n’est pourtant pas une prosélyte. Si les membres du syndicat sont en désaccord avec la politique pro-IA de leur district scolaire, ou s’ils ne veulent pas que Gemini s’immisce dans les espaces de travail de leurs élèves, « nous les défendrons », raconte-t-elle à Winter. Nombre de syndicats d’enseignants américains ont refusé de collaborer avec Google car l’entreprise « n’a pas fait les promesses que nous attendions concernant la protection de la sécurité et de la vie privée des élèves et du personnel. »   

D’autres organisations, dirigées par des enseignants et des parents, tentent également de mettre en place des systèmes d’autorisation pour limiter l’utilisation de l’IA dans les écoles. Craig Garrett, dont l’enfant fréquente une école publique de Brooklyn, a créé un groupe WhatsApp de parents inquiets après avoir découvert que son enfant, alors en maternelle, lisait devant l’assistant vocal Amira en classe depuis le début de l’année pour que celui-ci le corrige. Des militants se demandent si l’utilisation d’Amira en classe, par l’enregistrement des voix des élèves, enfreint une loi de l’État de New York interdisant la « divulgation non autorisée d’informations personnelles identifiables ». Garrett fait également partie de la Coalition pour un moratoire sur l’IA, un groupe d’enseignants, de parents et d’élèves de toute la ville qui demande au maire de New York, Zohran Mamdani, et à Kamar Samuels, le chancelier des écoles, un moratoire de deux ans sur l’utilisation de l’IA dans les écoles primaires et secondaires. Un groupe similaire, Schools Beyond Screens, a été créé l’année dernière parmi les parents du district scolaire unifié de Los Angeles. Parmi les objectifs de Schools Beyond Screens figure un contrôle plus strict des contrats lucratifs que les districts scolaires urbains concluent avec les entreprises technologiques. L’association souhaite également que les districts établissent des directives de consentement plus claires concernant l’utilisation des plateformes numériques et adoptent une Charte des droits des élèves en matière de technologie, incluant le droit de « lire des livres entiers », de « lire et d’écrire régulièrement sur papier » et de bénéficier d’un « environnement d’apprentissage peu stimulant ». 

La présence de Chromebooks dans les salles de classe n’est pas inévitable, espère Winter. Comme le montrait la journaliste Natasha Singer dans le New York Times, la polémique autour de la technologie à l’école ne se limite pas aux téléphones. Le collège McPherson, au Kansas, qui a interdit les téléphones portables des élèves pendant les heures de cours, depuis 2022, les laissait regarder des vidéos ou jouer aux jeux vidéos sur les Chromebooks qu’elle leur fournit et qu’ils utilisent en classe. Face à cette contradiction de plus en plus flagrante, le collège a fait machine arrière. En décembre 2025, il a demandé aux élèves de rendre les ordinateurs portables. 

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie. Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage. Aujourd’hui, Google et Microsoft, ainsi que de nouveaux venus comme OpenAI, rivalisent pour diffuser leurs chatbots d’intelligence artificielle dans les écoles. Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves. Certains chercheurs et organisations, comme l’UNESCO, mettent même en garde contre une dépendance excessive à la technologie, qui peut distraire les élèves et nuire à leur apprentissage. Des écoles de Caroline du Nord, de Virginie, du Maryland et du Michigan, qui achetaient autrefois un appareil pour chaque élève, réévaluent désormais l’utilisation intensive des technologies en classe. Et les Chromebooks, les ordinateurs portables les plus populaires dans les écoles américaines, sont devenus un point central de ces discussions. Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves. » Avec le fait que plus de 30 États américains ont limité ou interdit l’utilisation des téléphones portables par les élèves à l’école, le retrait des Chromebooks est le signe d’une prise de conscience, estime Singer. De plus en plus de parents soutiennent des initiatives comme Schools Beyond Screens et le Distraction-Free Schools Policy Project, visant à contrôler et limiter l’utilisation des technologies à l’école. Dix États, dont le Kansas, le Vermont et la Virginie, ont récemment déposé des projets de loi pour limiter le temps d’écran des élèves, exiger des preuves de sécurité et d’efficacité pour les outils numériques scolaires ou permettre aux parents de refuser que leur enfant utilise des appareils numériques pour apprendre. 

Face aux accusations de tout acabit, Google a déclaré avoir fourni aux établissements scolaires des outils pour verrouiller les écrans des Chromebooks des élèves, limiter le contenu qu’ils consultent, gérer leur accès à YouTube et désactiver les Chromebooks après les cours. L’entreprise a également indiqué avoir désactivé YouTube par défaut pour les élèves du primaire et du secondaire disposant d’un compte Google scolaire. 

A McPherson, au Kansas, profs et élèves semblent redécouvrir qu’il y a un monde hors du numérique. 

Dans au autre article, Singer (qui publiera en août un livre sur l’invasion des technologies à l’école, Coding Kids, Norton, 2026) prolonge le sujet d’autres exemples encore. Suite à des réclamations de parents, « le conseil scolaire de Los Angeles a adopté une résolution exigeant du district qu’il limite l’accès des élèves à YouTube, supprime totalement les appareils numériques jusqu’en CP et instaure des limites de temps d’écran pour les classes supérieures, faisant de Los Angeles le premier grand système scolaire américain à prendre une telle mesure. » Le mois dernier, le gouverneur de l’Utah a promulgué une loi permettant aux parents de consulter le temps passé par leur enfant sur un appareil scolaire et de vérifier les sites web visités. A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens. Les districts scolaires sommés d’évaluer les outils qu’ils utilisent sont souvent à la peine par manque de moyens. A Los Angeles, Nick Melvoin avec l’association Schools Beyond Screens, a présenté une nouvelle résolution visant à limiter l’accès aux technologies à l’école. Outre la mise en place de nouvelles limites de temps d’écran pour chaque niveau scolaire, cette politique imposera aux écoles primaires et collèges d’interdire l’utilisation des appareils électroniques par les élèves pendant la pause déjeuner et la récréation. Le district devra également établir un rapport sur tous les contrats technologiques scolaires en vigueur. 

L’université est également colonisée

Mais il n’y a pas qu’à l’école, au collège ou au lycée que le déploiement de l’IA pose problème. L’université d’État de Californie (Cal State), fort de 460 000 étudiants et de 22 campus, ambitionne de devenir la plus grande université américaine spécialisée dans l’IA, rapportait en octobre 2025 la journaliste Natasha Singer pour le New York Times. Amazon et OpenAI y déploient des programmes de formation sur leurs produits d’IA. L’université a signé un contrat de 16,9 millions de dollars à OpenAI pour fournir ChatGPT Edu, l’outil de l’entreprise destiné aux établissements scolaires, à plus d’un demi-million d’étudiants et de membres du personnel – un déploiement qu’OpenAI a qualifié de plus important déploiement mondial de ChatGPT à ce jour. « Le renforcement des liens entre Cal State et l’industrie témoigne d’une transformation profonde des rapports de force sur les campus américains ». Il ne s’agit plus seulement de fournir un peu de matériel ou des outils, mais ici, de fournir un partenariat pédagogique impliquant une transformation des modalités pédagogiques mêmes. 

L’université ambitionne de construire « un système d’enseignement supérieur basé sur l’IA qui surpasse tous les modèles existants, tant par son ampleur que par son impact ». Là encore, pourtant, certains professeurs se sont opposés à ce projet d’IA, alors que l’université est confrontée à d’importantes coupes budgétaires. Pour eux, le contrat de plusieurs millions de dollars avec OpenAI – pour lequel l’université n’a pas ouvert d’appel d’offres à des concurrents comme Google – tient du gaspillage (alors que le réseau des community colleges de Californie a obtenu gratuitement les services de chatbot IA de Google pour plus de deux millions d’étudiants et de professeurs).

Les conseils de faculté de plusieurs campus de Cal State ont adopté cette année des résolutions critiquant l’initiative en matière d’IA, affirmant que l’université n’avait pas suffisamment pris en compte le problème de la tricherie via les chatbots. Les professeurs ont également déclaré que les plans de l’administration minimisaient les risques que l’IA fait peser sur l’esprit critique des étudiants et ignoraient les pratiques de travail problématiques du secteur ainsi que les coûts environnementaux. Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin. 

Une étude récente de chercheurs de Stanford rapportée par le Hechinger Report, montrait par exemple que les outils d’IA ne faisaient pas les mêmes corrections de copies aux élèves selon leurs origines ethniques. « Les dissertations attribuées à des étudiants noirs ont reçu davantage d’éloges et d’encouragements, quand celles attribuées à des étudiants hispaniques étaient plus susceptibles de susciter des corrections grammaticales et orthographiques. Lorsque l’étudiant était identifié comme blanc, les commentaires portaient plus souvent sur la structure de l’argumentation, les preuves et la clarté – des remarques qui peuvent inciter les étudiants à approfondir leurs idées. » 

De nombreux enseignants affirment qu’un enseignement adapté aux réalités culturelles – qui prend en compte l’identité et le vécu des élèves – peut accroître leur engagement scolaire. Mais, si certains élèves sont systématiquement protégés des critiques et ne sont pas incités à progresser en leurs montrant leurs lacunes, le risque est fort d’aggraver encore les différences ethno-sociales. « Le risque est que, sans une vigilance accrue, cette personnalisation puisse abaisser le niveau d’exigence pour certains élèves tout en le relevant pour d’autres. »

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services. En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. » Quand Google déploie son chatbot auprès des moins de 13 ans, « Google affirme clairement que ces problèmes ne le concernent pas, puisqu’il rejette explicitement la responsabilité sur les parents dans l’annonce du lancement imminent de son produit. Les parents, selon Google, doivent rappeler à leurs enfants de ne pas partager d’informations sensibles avec le chatbot. Les parents, dit l’entreprise, doivent « aider leurs enfants à développer leur esprit critique ». Les parents, dit Google, doivent rappeler à leurs enfants que « Gemini n’est pas humain ». 

Pour Waters, « il ne s’agit pas simplement d’automatiser l’enseignement et l’apprentissage formels (comme si ce n’était pas déjà assez grave) ; il s’agit de saper le savoir ».

Pourquoi l’IA semble-t-elle la solution à l’enseignement ? 

Le chercheur américain Daniel Greene livre pour le magazine de l’association américaine des professeurs d’université (Aaup) une stimulante synthèse des enjeux du développement de l’IA à l’université. L’université est traversée par d’innombrables crises et la dernière en date est liée au développement d’une technologie perçue à la fois « comme une atteinte fondamentale à notre mission éducative et comme une solution potentielle : l’IA générative ». Lorsque nous abordons la question du rôle de l’IA sur les campus, « nous devons à la fois être attentifs non seulement aux codes écrits avec Claude ou aux feuilles de calcul nettoyées avec Gemini, mais aussi aux fonctions politiques et économiques que cette technologie remplit au sein de nos institutions – et pour qui ». Une récente enquête de l’Aaup soulignait pourtant que les professeurs se sentent exclus des décisions importantes concernant l’IA sur le campus. En fait, ils ont peu de place pour décider des achats auxquels procèdent les établissements et encore moins sur la conception, l’utilisation et la réglementation des déploiements de l’IA à grande échelle sur les campus. Cela ne les empêche d’avoir très concrètement à combattre et négocier l’IA dans leur enseignement, leur recherche et leurs services. 

Reste que si les responsables des universités, les élus et les administrations sont si enthousiastes à propos du développement de l’IA sur les campus, c’est d’abord parce que le travail dans l’enseignement supérieur (comme dans l’administration ou les hôpitaux) est à forte intensité de main d’oeuvre et qu’il est difficile à automatiser. Pire, la croissance de la productivité y reste faible. « Nous enseignons à peu près de la même manière qu’il y a soixante ans, mais tout (y compris la main-d’œuvre) coûte plus cher. » Le succès de l’IA n’est pas tant à chercher dans ses performances pour aider les élèves à apprendre, mais reste d’abord et avant tout une promesse d’optimisation des coûts. Une optimisation théorisée dans les années 60 par l’économiste William Baumol sous le nom de maladie des coûts. 

Comme l’explique Nicholas Beuret dans Jacobin, la productivité du travail n’est pas la même dans tous les secteurs. Dans certains secteurs, la productivité n’évolue pas. Jouer une pièce de Shakespeare prend le même temps aujourd’hui qu’il y a 5 siècles. Dans les services à forte intensité de main-d’œuvre, comme la santé ou l’éducation, les salaires augmentent malgré une productivité stable, ce qui entraîne une hausse du coût relatif de ces services. « La maladie des coûts de Baumol engendre une faible croissance économique où les services essentiels, tels que les soins de santé ou d’éducation, deviennent inabordables, tandis que le prix des téléviseurs baisse d’année en année. » Avec la concurrence de l’IA, c’est tout le secteur des services qui est menacé par la maladie des coûts. A terme, estime Beuret, le risque est que des pans entiers de l’économie contemporaine deviennent non viables. Il en résulterait une stagnation profonde et persistante, et non une résolution. Et les timides projets de revenu universel défendus par les technophiles de la Silicon Valley seraient ridiculement insuffisants face à un tel événement. A terme, le succès de l’IA serait la plus grande menace économique que nous ayons à affronter. 

Pour Greene, la maladie des coûts est encore plus vive dans le contexte de la réduction des financements publics. Les frais de scolarité remplacent les investissements publics. Les étudiants veulent donc obtenir leur diplôme le plus rapidement possible pour s’endetter le moins possible, poussant l’enseignement supérieur à fonctionner comme des usines à diplômes. Et ChatGPT et les autres outils d’IA permettent d’accélérer la délivrance de diplômes. Pourtant, la maladie des coûts, n’explique par pourquoi en à peine un an, tant d’établissements d’enseignements supérieurs ont trouvé les fonds nécessaires pour créer des instituts et des diplômes d’IA. « Il s’agit manifestement d’un phénomène politique ». A l’heure où l’éducation supérieure est attaquée au niveau fédéral et où l’image de l’éducation supérieure accusée de toutes parts par l’administration Trump, l’adoption de l’IA est là pour réhausser le prestige et apaiser les détracteurs. 

« Ni les professeurs ni les administrateurs n’ont de contrôle sur les fonctionnalités d’IA intégrées aux logiciels d’entreprise », qui se déploient via de simples abonnements, explique Greene. Dans les universités, l’IA ne se déploie pas seulement dans les outils mis à disposition des professeurs et des élèves, mais également dans des logiciels de paye, de recrutement, et via des systèmes de surveillance. Elle est aussi une aubaine pour contrôler les contenus et les personnes, que ce soit pour fouiller dans les programmes de cours à la recherche de mentions de l’esclavage ou pour trouver les adresses d’étudiants manifestants. Elle est là pour faciliter « une analyse rapide, grossière et à grande échelle » et peu coûteuse. Comme l’a souligné la juriste Salome Viljoen, la droite comprend parfaitement que toute gouvernance est une gouvernance des données. « L’analyse automatisée de texte devient un moyen de contourner toute déférence, même de façade, envers la délibération institutionnelle et la consultation d’experts ». « C’est ce que montrait d’ailleurs très bien la révolution technoculturelle d’Elon Musk au sein du Département de l’efficacité gouvernementale (Doge), où de jeunes hommes fraîchement ou à peine diplômés utilisaient ChatGPT pour réécrire la réglementation fédérale, examiner les demandes de subvention à la recherche de délits d’opinion et scruter les profils des réseaux sociaux et les antécédents judiciaires d’étudiants en situation irrégulière dans l’espoir de trouver des prétextes pour les expulser. Au Fonds national pour les sciences humaines, Justin Fox, ancien associé en capital-investissement devenu fervent défenseur du DOGE, annulait des subventions en demandant à ChatGPT d’indiquer, en 120 caractères maximum, si un projet impliquait la diversité, l’équité et l’inclusion. »

A l’université, la charge de travail administrative ne cesse de croître, alors que les budgets fondent. Dans ce contexte, la direction perçoit l’IA comme un moyen de résoudre le problème de l’intérieur. L’IA promet de remplacer nombre de ces tâches par des machines à un coût bien moindre que l’expertise. La charge de travail et la précarité des professionnels augmentant, la pression sur les coûts contraint les intérêts des employés et de la direction à converger pour réduire le temps consacré aux tâches administratives.

« En fin de compte, l’adoption de l’IA sur les campus universitaires est une question de coût, tant financier que politique. » La solvabilité de l’université est une préoccupation majeure pour tous les administrateurs et conseils d’administration. L’investissement dans l’IA est vue comme une solution. Elle relève à la fois du mimétisme, où les universités sont invités à suivre les pratiques des leaders du secteur. L’IA est à la fois perçue comme une source d’économie et une source de revenus et de légitimité, en proposant des instituts et des diplômes dédiés. 

« Une dynamique inquiétante se dessine, largement indépendante de ce que l’IA, en tant qu’outil, fait réellement pour nous ou pour qui que ce soit d’autre. Les personnes les plus riches du monde se sont enrichies encore davantage grâce à leurs investissements dans l’IA. Elles ont utilisé cette richesse pour installer une administration présidentielle hostile à l’éducation, qui utilise l’IA pour traquer les « criminels de la pensée » et les immigrés. Pour survivre à cette offensive, les directions universitaires se tournent vers les investissements dans l’IA, et vers ces mêmes personnes qui nous attaquent, dans l’espoir d’obtenir ainsi des fonds et une légitimité.»

« Pour les administrations, l’IA représente donc une nouvelle méthode de privatisation du bien public qu’est l’éducation, non seulement en termes de propriété de l’institution, mais aussi par l’atomisation sociale de l’entreprise éducative collective. L’IA est accueillie comme une solution miracle précisément parce qu’il n’existe pas de solution miracle pour une éducation de qualité et accessible, seulement les solutions habituelles et peu attrayantes : classes à effectifs réduits, scolarité gratuite ou peu coûteuse. La hausse constante des coûts rend les études supérieures plus onéreuses d’année en année, et notre refus collectif de taxer la richesse perpétue cette dynamique, nous obligeant à faire toujours plus avec toujours moins. L’IA séduit les employeurs de tous les secteurs car elle semble offrir un moyen de produire de l’expertise à grande échelle sans dépendre de coûteux experts. »

Pour Greene, un véritable investissement fédéral dans l’enseignement supérieur impliquerait nécessairement de taxer les recettes fiscales issues de la richesse privée finançant la bulle de l’IA et de les réorienter vers les services publics essentiels qui rendent possible une société instruite afin de servir au mieux les intérêts des étudiants, des États et de la science.

Nous n’en prenons pas le chemin.  

Est-ce que ces outils améliorent quelque chose ?

Dans le quotidien britannique The Guardian, la chercheuse Velislava Hillman, autrice de Taming EdTech (qu’on pourrait traduire par Dompter les technologies éducatives, Bloomsbury, 2024 – un livre où elle montre que la surveillance par les technologies numériques est désormais normalisées dans le milieu scolaire et que les produits numériques éducatifs n’améliorent pas l’éducation de manière égale pour tous les enfants), rappelle à son tour que les géants de la tech ont profondément transformé les salles de classe et que les parents ont raison de s’inquiéter.

« De la quasi-omniprésence de Google et Microsoft aux produits d’IA spéculatifs tels que CenturyTech, les géants et les entreprises de technologies éducatives promettent un « apprentissage personnalisé » tout en collectant d’énormes quantités de données et en transformant l’éducation en gadgets monétisables et en badges numériques.»

Pourtant, la numérisation de l’éducation est bien peu révolutionnaire, rappelle Hillman. «  Les enfants passent leur temps devant des écrans à créer des diapositives PowerPoint ou à naviguer sur des applications comme Dr Frost ou Quizlet. Leurs cours sont souvent ponctués de publicités intempestives… D’autres s’adonnent à la course aux séries sur Duolingo, soi-disant pour apprendre le français, accumulent des pièces ou se disputent les premières places du classement sur Blooket. Pendant ce temps, les enseignants reçoivent des tableaux de bord de plateformes telles qu’Arbor ou NetSupport, où les élèves apparaissent sous forme de notes et de graphiques allant du vert au rouge. Et tous ces systèmes sont pris dans l’engrenage des guerres de territoire et de la recherche du profit. »

Pour Hillman, l’industrie de l’EdTech mobilise les mêmes tactiques que celle du tabac. Elle sème le doute sur ses effets pour retarder la réglementation et transforme l’inquiétude du public en culpabilité individuelle. Mais pour la chercheuse, « à mesure que ces systèmes se développent et se démocratisent, une fracture inquiétante se dessine : l’enseignement de masse via des applications pour le plus grand nombre, et le tutorat humain et les échanges intellectuels réservés à une élite. Ce qui est présenté comme la « démocratisation » de l’éducation risque d’aggraver les inégalités. » 

Face à cette accélération numérique, l’inquiétude des parents est justifiée. Dans The Atlantic, le journaliste Will Oremus fait le même constat. Le prof de math de son fils de 11 ans lui fait passer du temps sur Prodigy, un site de jeux, qui semble bien plus apprendre à jouer que les maths. « Les écoles conseillent des logiciels éducatifs qui sont devenus difficiles à distinguer de Candy Crush ». Ces jeux proposent entre des parties des questions à résoudre, mais il existe des extensions pour répondre aux questions automatiquement. Le logiciel a dévoré l’école, constate-t-il. Les logiciels éducatifs ne sont plus ce qu’ils étaient. Ils sont peu chers et accessibles, paresseux. 

Pour Hillman : « L’industrie vend ces outils comme un progrès – personnalisés, attrayants, efficaces – mais la réalité est bien plus préoccupante. Ces applications sont conçues pour extraire des données à chaque clic et inciter les élèves à passer un maximum de temps devant les écrans : Times Tables Rockstars distribue des pièces pour les bonnes réponses ; ClassDojo récompense les élèves pour leur bonne conduite ; Kahoot! captive les élèves grâce à des comptes à rebours et des classements. Ce ne sont que différentes facettes d’un même levier psychologique qui pousse les enfants à consulter les réseaux sociaux tard le soir. Même si ces outils améliorent les résultats scolaires (ce qui reste à prouver), la question demeure : à quel prix pour les relations en classe, le développement et le bien-être des enfants ? »

« Et c’est là que le fossé entre les promesses et la réalité apparaît clairement : malgré tous les discours sur l’équité et la personnalisation, les données probantes concernant l’efficacité des technologies éducatives sont limitées, orientées par l’industrie et, au mieux, fragiles. On dispose de peu d’informations sur le temps que les enfants passent sur les appareils scolaires, sur les plateformes qu’ils utilisent, ou sur l’impact de ces dernières sur l’apprentissage – sans parler de leur bien-être et de leur développement. Une étude a révélé que pour obtenir l’équivalent d’une amélioration d’une seule note au GCSE (General Certificate of Secondary Education), les élèves devraient passer des centaines d’heures par an sur une seule application de mathématiques – sans aucune preuve que cela réduise les écarts de réussite pour les élèves les plus défavorisés. L’absence de preuves définitives est présentée comme une garantie de sécurité, tandis que les promesses numériques reposent sur une apparence de certitude qui n’existe pas. »

« Au Royaume-Uni, les financements publics continuent de soutenir la numérisation des salles de classe, avec des appels à l’intégration de l’IA même dans les structures d’accueil de la petite enfance, comme l’a proposé l’ex-ministre de l’éducation britannique dans une tribune. Une étude publiée cette année par le Syndicat national de l’éducation a révélé que les programmes scolaires standardisés, souvent dispensés via des plateformes commerciales, sont désormais largement répandus. Pourtant, de nombreux enseignants affirment que ces systèmes réduisent leur autonomie professionnelle, n’allégent pas leur charge de travail et les excluent des décisions relatives aux programmes. » 

Enfin, pointe la chercheuse, les entreprises de technologies éducatives sont soumises à peu d’obligations. Alors que des audits réguliers, des rapports publics et des possibilité de contrôle indépendants sont nécessaires pour garantir que leurs outils soutiennent l’apprentissage des enfants. 

Il serait temps de poser des questions plus difficiles encore, suggère encore Velislava Hillman. « Pourquoi les applications basées sur la gamification et la manipulation comportementale – des techniques conçues pour maximiser le temps passé devant les écrans – sont-elles désormais la norme dans les salles de classe ? Pourquoi considère-t-on désormais que l’avenir d’un enfant est numérique par défaut ? Ce ne sont pas des préoccupations marginales. Elles touchent au cœur même de la raison d’être de l’éducation. L’apprentissage n’est pas une transaction commerciale. L’enfance n’est pas une opportunité de marché. Comme le rappelle le théoricien de l’éducation Gert Biesta, l’éducation ne sert pas seulement à l’obtention de diplômes et à la socialisation, mais aussi à aider les enfants à devenir des sujets autonomes et responsables. Ce dernier objectif – la subjectivation – est précisément ce qui se perd lorsque l’apprentissage est réduit à des clics ludiques et à des incitations algorithmiques.

Nous ne pouvons empêcher la technologie d’entrer dans la vie des enfants, mais nous pouvons exiger qu’elle soit au service de l’éducation, et non de l’industrie. Voici mon message aux parents : aux côtés des enseignants, votre voix est essentielle pour que les entreprises technologiques rendent des comptes sur ce qu’elles conçoivent, comment elles le commercialisent et les valeurs qu’elles véhiculent dans les salles de classe.»

Récemment Audrey Watters revenait par exemple sur l’insuccès continue de la Khan Academy. Pour nombre de promoteurs de l’EdTech, la Khan Academy reste la référence. Depuis 2009, cet outil de perfectionnement scolaire lancé par Salman Khan, est la coqueluche des cours en ligne, avec ses vidéos Youtube explicatives et ses exercices qui évoluent selon la progression des élèves. La promesse de Khan à produire une révolution de l’apprentissage personnalisé (promue dans un bestseller mondial, L’éducation réinventée, JC Lattès, 2013) n’a cessé d’être renouvelée, notamment par son passage à l’IA avec Khanmigo, l’outil maison (« Nous sommes à l’aube d’une transformation positive majeure de l’histoire de l’éducation grâce à l’IA. »), à grand renfort de tambours et trompettes (promue d’ailleurs par de puissantes conférences TED et par un autre bestseller, Un monde nouveau, L’arbre qui marche, 2025). Khan n’a cessé de promouvoir les technologies éducatives sans jamais s’interroger sur ses échecs. Cela n’empêche pas le sémillant Khan de continuer à dérouler ses promesses. Après avoir reproché aux enseignants de mal s’y prendre, c’est au tour des élèves à qui l’on reproche de ne pas poser les bonnes questions au chatbot, « même si aucune étude n’a démontré que « poser les bonnes questions », pour tous les adeptes de l’ingénierie des invites, permet d’obtenir de meilleures réponses de l’IA », et encore moins un meilleur apprentissage », rappelle avec pertinence Watters. Pour résoudre le peu d’intérêt de son IA maison, Khan l’impose donc, en l’intégrant directement aux programmes. « Loin des promesses d’amélioration de l’éducation, les technologies éducatives ont créé des dépendances éducatives : des dépendances bureaucratiques et, désormais, avec l’« IA », des dépendances cognitives. Il ne s’agit pas d’un simple hasard ; c’est intentionnel », explique Watters. 

Dépendances cognitives, c’est précisément ce qu’évoquait Sam Altman en affirmant « nous envisageons un avenir où l’intelligence sera un service public, comme l’électricité ou l’eau, et où les gens l’achèteront grâce à un compteur ». Comme le souligne Paris Marx : « les milliardaires de la tech veulent faire croire au public qu’ils améliorent le monde et renforcent nos capacités individuelles et collectives. Mais en réalité, ils nuisent à la capacité des gens d’apprendre et de penser par eux-mêmes, voire bouleversent le cours même de leur existence », explique-t-il avant d’en dénoncer le projet. 

Il n’y a pas que les parents, les jeunes aussi détestent l’IA

Depuis la sortie de ChatGPT, nul n’a subi autant la pression de l’IA que les jeunes, explique la journaliste Janus Rose pour The Verge. S’ils sont les plus grands adeptes des chatbots, « les étudiants et les actifs de la génération Z contribuent largement au rejet culturel plus large de l’IA. Et même s’ils utilisent ces outils, une grande partie des jeunes nourrit une profonde amertume, voire du ressentiment, face à un avenir centré sur l’IA qui, pour beaucoup, leur est imposé. » 

« Sortant du monde universitaire et confrontés à un marché du travail de plus en plus impitoyable, les jeunes sont face à une contradiction insoluble. On leur dit, d’un côté, que ces outils vont supprimer des millions d’emplois, et de l’autre, qu’ils doivent les utiliser s’ils ne veulent pas être laissés pour compte.» 

« La crainte que les chatbots nuisent à l’esprit critique et aux compétences sociales est répandue chez de nombreux jeunes adultes, même si une large majorité d’entre eux admettent utiliser régulièrement ces outils. Selon une récente étude Harvard-Gallup, 74 % des jeunes adultes interrogés aux États-Unis déclarent utiliser un chatbot au moins une fois par mois (une autre étude a révélé que plus de la moitié des étudiants américains admettent utiliser ces outils chaque semaine pour leurs travaux universitaires). Parallèlement, 79 % des personnes interrogées par Gallup « craignent que l’IA ne rende les gens plus paresseux », et 65 % estiment que l’utilisation des chatbots « favorise la gratification instantanée, et non une véritable compréhension », et empêche d’aborder les idées de manière critique et constructive.» 

« Dans un sondage Gallup plus récent, l’opinion de la génération Z sur les outils d’IA a atteint un nouveau point bas : seulement 18 % se disent optimistes quant à cette technologie, contre 27 % l’an dernier, et seulement 22 % se disent enthousiastes, contre 36 % auparavant. Le nombre de jeunes actifs de la génération Z qui estiment que les risques liés à l’IA l’emportent sur ses avantages a également augmenté de 11 points au cours de l’année écoulée, pour atteindre près de 50 %. Et même si 56 % affirment que ces outils les aident à terminer leur travail plus rapidement, huit sur dix admettent désormais que l’utilisation de l’IA compliquera l’apprentissage à l’avenir. »

« Les employeurs demandent aux universités de recruter des étudiants capables d’utiliser ces outils », explique Alex Hanna, directrice de la recherche du DAIR. « Ce n’est pas parce que ces outils ont réellement démontré leur valeur ajoutée ; on attend de la génération Z qu’elle nous la révèle. » D’où le fait que l’université ait tendance à intégrer l’IA… souvent un peu n’importe comment, comme ASU Atomic, un outil mis en place à l’université d’État de l’Arizona, qui synthétise automatiquement les cours magistraux en supports d’apprentissage concis, plus proche du slop qu’autre chose, déplorait 404 média. Le journal étudiant de l’université de Pennsylvanie a publié un édito cinglant à l’égard du déploiement de l’IA à l’université : « L’IA ne peut coexister avec l’éducation ; elle ne peut que la dégrader. » 

« Le fait que tant de jeunes soient parfaitement conscients de ces dangers, même lorsqu’ils utilisent ces outils, montre qu’ils ne se laissent pas berner par le discours enflammé des promoteurs de l’IA », estime Rose. La génération Z est extrêmement consciente des limites de ces outils, même pour ceux qui les trouvent utiles. 

Enfin, avance Rose, une autre explication nourrit l’ambiguïté du positionnement des plus jeunes : l’utilisation de l’IA est souvent moquée par les jeunes entre eux. La plupart trouvent les textes et les images générés artificielles et profondément ringards et s’en moquent ouvertement sur les réseaux sociaux, tout comme elle est dévalorisée par les étudiants et les professeurs. Selon une étude de l’Université de Pittsburgh, les étudiants perçoivent l’utilisation d’outils d’IA comme un signal d’alarme les incitant à avoir une moins haute opinion de leurs camarades. 

A croire que le refus de l’IA chez les plus jeunes (voir notre article, « nous sommes le slop »), s’il n’est pas un mouvement techno-critique, invite néanmoins à questionner notre rapport à la technologie en profondeur et montre que la colère contre l’IA prend des formes multiples. 

Hubert Guillaud

PS : Dans les écoles américaines, d’innombrables applications sont utilisées par les élèves sous la recommandation des professeurs voire des districts scolaires, explique The Markup, mais souvent en contradiction avec la loi, notamment en Californie où les protections à l’égard des données personnelles des enfants sont plus fortes qu’ailleurs. Mais il n’y a pas que les applications scolaires qui posent problèmes, les applications extrascolaires peuvent l’être tout autant. Le statut de ces applications extrascolaires, comme des applications sportives telles que TeamSnap, fait qu’elles ne semblent pas soumises aux mêmes contraintes réglementaires et peuvent revendre leurs informations à des courtiers ou à des annonceurs. Afin de renforcer l’application effective de la loi, un projet de loi californien comprend une nouvelle disposition : le droit pour les élèves et leurs parents de poursuivre les entreprises technologiques dans certains cas de violation de la vie privée. Une proposition contestée par les entreprises de la tech. Pour Jen King, chercheuse en protection de la vie privée et politiques des données à l’Institut d’intelligence artificielle de Stanford, donner aux consommateurs le droit de poursuivre est pourtant et souvent le seul moyen de renforcer l’application de la loi.

MAJ du 24/05/2026 : Sur les campus américains, les thuriféraires de l’IA de l’IA se font huer, rapporte Next… Et les refus d’usages lors des formations IA dans certaines écoles (en France également) se multiplient.

Dans le New Yorker, l’écrivaine Jessica Winter revient sur l’invasion de l’IA à l’école. Elle pensait être tranquille jusqu’à ce que ses enfants entrent au lycée au moins. Il n’en a rien été. Sa fille de 11 ans qui vient d’entrer au collège a reçu un Chromebook sur lequel Gemini était préinstallé. Quelque soit les travaux qu’elle doit y accomplir, d’innombrables messages lui proposent de l’aider à écrire, à modifier ses présentations, à générer des images… Désormais l’IA est là. « Elle lit ses poèmes et connaît ses mots de passe. Elle l’observe constamment à travers l’écran. » 

Aux Etats-Unis, aucune entreprise d’IA ne détient de monopole sur l’école. Mais elles sont présentes partout. Dans les écoles publiques de Boston, les élèves de sixième utilisent les chatbots d’OpenAI et d’Anthropic pour se préparer aux tests standardisés. Dans les districts scolaires de New York et de Los Angeles, entre autres, des élèves de maternelle interagissent avec Amira, un robot de lecture ludique qui enregistre leur voix afin de leur fournir des commentaires personnalisés grâce à l’IA. Un parent d’élève d’école publique de Brooklyn a raconté qu’en cours d’arts plastiques, les élèves de CE1 pouvaient créer des œuvres avec l’IA grâce à Adobe Express for Education… « Le soutien à l’IA générative dans les écoles primaires et les collèges repose sur la conviction qu’une initiation précoce à cette technologie favorisera la culture numérique, donnera aux élèves des bases en ingénierie et les préparera à un avenir où la plupart des professions seront fortement influencées par l’IA. » 

Des outils… pour fidéliser les enfants

Dans le cadre d’un des procès contre les géants du numérique aux Etats-Unis, des documents internes de Google ont montré que la motivation de Google à fournir des outils aux écoles visait à « fidéliser les enfants à vie », rappelait le journaliste Tyler Kingkade pour NBC News en janvier. Pour Sarah Gardner, la responsable de Heat Initiative, une association de parents militants critique des plateformes de médias sociaux, nous devrions surtout nous interroger pour savoir pourquoi nous laissons les géants du numérique s’accaparer le marché scolaire. Et notamment Google, qui domine largement ce marché. « Selon les cabinets d’études de marché, les écoles représentent aujourd’hui 80 % des achats de Chromebooks. En 2017, Google annonçait que plus de la moitié des élèves des écoles publiques américaines utilisaient ses applications et produits pour leurs travaux scolaires. En 2021, ce chiffre dépassait les 170 millions d’élèves et d’enseignants à travers le monde. » 

Jessica Winter pointe de nombreuses études qui montrent les limites de l’usage de l’IA dans le cadre scolaire. La Brookings Institution a publié une analyse préliminaire sur l’IA et l’éducation des enfants, combinant l’analyse d’environ quatre cents études et des centaines d’entretiens avec des élèves, des parents, des enseignants et des spécialistes des technologies. Cette analyse conclut que les outils d’IA « compromettent le développement fondamental des enfants ». 

Même certains défenseurs de l’IA dans l’éducation reconnaissent que l’IA présente des risques cognitifs et socio-émotionnels importants pour les jeunes. Amanda Bickerstaff est la cofondatrice et présidente de l’organisation AI for Education, qui propose des formations aux enseignants et aux élèves sur l’intelligence artificielle générative. « Les enfants de moins de dix ans ne devraient pas utiliser de chatbots », explique-t-elle. « Ces outils requièrent une expertise et des compétences d’évaluation que même de nombreux adultes ne possèdent pas. » La décision de Google de rendre Gemini accessible à tous les âges, a-t-elle ajouté, est l’une des rares fois de sa carrière où elle a perdu le sommeil à cause d’une question professionnelle. Elle se souvient avoir pensé : « ils savent pertinemment que cela va être néfaste pour les enfants, et pourtant, ils persistent. » Bickerstaff poursuit : « Je ne pense pas qu’ils se posent des questions fondamentales comme : “Si un enfant peut immédiatement créer une image au lieu de la dessiner, qu’adviendra-t-il de sa capacité à réfléchir et à dessiner par lui-même ?” » Drew Bent, responsable de la recherche en éducation chez Anthropic, répond : « Ce n’est pas à nous, en tant qu’entreprise, de dire : “Utilisez l’IA à tel âge, pas à tel autre.” » 

La fille de Winter a réalisé une présentation qui comportait nombre de défauts. L’IA lui a proposé de les corriger. Mais elle est restée imperturbable face à la proposition : « Je préfère la mienne, parce qu’elle est originale et que j’y ai mis tout mon cœur. Je préfère la mienne parce qu’elle ne m’a pas pris trente secondes. » 

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement « bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive ». « Les enfants n’ont pas ce filtre adulte qui consiste à extraire stratégiquement des informations de leurs expériences, et retiennent donc une multitude de détails inattendus que les adultes jugeraient sans intérêt. Cela leur permet d’être créatifs d’une manière qui nous est inaccessible », explique un psychologue. Dans son livre, Teaching Machines (MIT Press, 2020), la journaliste spécialiste des questions d’éducation technologiques, Audrey Watters (voir aussi sa newsletter), rappellait que l’apprentissage personnalisé a toujours été le rêve de ceux qui automatisent l’éducation. 

C’est ce que proposent les promoteurs d’IA dans l’éducation à l’image du programme de formation pour les enseignants, de l’Académie nationale pour l’enseignement de l’IA. L’académie, dont le siège se trouve dans les locaux de la Fédération unie des enseignants (UFT) à Manhattan, est un projet conjoint de l’UFT et de la Fédération américaine des enseignants (AFT), financé par un partenariat de vingt-trois millions de dollars avec Microsoft, OpenAI et Anthropic. Les cours en présentiel et en ligne proposés par l’académie visent à aider les enseignants « non pas à accepter l’inévitable, mais à le maîtriser », explique Randi Weingarten, présidente de l’AFT.  Celle-ci n’est pourtant pas une prosélyte. Si les membres du syndicat sont en désaccord avec la politique pro-IA de leur district scolaire, ou s’ils ne veulent pas que Gemini s’immisce dans les espaces de travail de leurs élèves, « nous les défendrons », raconte-t-elle à Winter. Nombre de syndicats d’enseignants américains ont refusé de collaborer avec Google car l’entreprise « n’a pas fait les promesses que nous attendions concernant la protection de la sécurité et de la vie privée des élèves et du personnel. »   

D’autres organisations, dirigées par des enseignants et des parents, tentent également de mettre en place des systèmes d’autorisation pour limiter l’utilisation de l’IA dans les écoles. Craig Garrett, dont l’enfant fréquente une école publique de Brooklyn, a créé un groupe WhatsApp de parents inquiets après avoir découvert que son enfant, alors en maternelle, lisait devant l’assistant vocal Amira en classe depuis le début de l’année pour que celui-ci le corrige. Des militants se demandent si l’utilisation d’Amira en classe, par l’enregistrement des voix des élèves, enfreint une loi de l’État de New York interdisant la « divulgation non autorisée d’informations personnelles identifiables ». Garrett fait également partie de la Coalition pour un moratoire sur l’IA, un groupe d’enseignants, de parents et d’élèves de toute la ville qui demande au maire de New York, Zohran Mamdani, et à Kamar Samuels, le chancelier des écoles, un moratoire de deux ans sur l’utilisation de l’IA dans les écoles primaires et secondaires. Un groupe similaire, Schools Beyond Screens, a été créé l’année dernière parmi les parents du district scolaire unifié de Los Angeles. Parmi les objectifs de Schools Beyond Screens figure un contrôle plus strict des contrats lucratifs que les districts scolaires urbains concluent avec les entreprises technologiques. L’association souhaite également que les districts établissent des directives de consentement plus claires concernant l’utilisation des plateformes numériques et adoptent une Charte des droits des élèves en matière de technologie, incluant le droit de « lire des livres entiers », de « lire et d’écrire régulièrement sur papier » et de bénéficier d’un « environnement d’apprentissage peu stimulant ». 

La présence de Chromebooks dans les salles de classe n’est pas inévitable, espère Winter. Comme le montrait la journaliste Natasha Singer dans le New York Times, la polémique autour de la technologie à l’école ne se limite pas aux téléphones. Le collège McPherson, au Kansas, qui a interdit les téléphones portables des élèves pendant les heures de cours, depuis 2022, les laissait regarder des vidéos ou jouer aux jeux vidéos sur les Chromebooks qu’elle leur fournit et qu’ils utilisent en classe. Face à cette contradiction de plus en plus flagrante, le collège a fait machine arrière. En décembre 2025, il a demandé aux élèves de rendre les ordinateurs portables. 

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie. Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage. Aujourd’hui, Google et Microsoft, ainsi que de nouveaux venus comme OpenAI, rivalisent pour diffuser leurs chatbots d’intelligence artificielle dans les écoles. Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves. Certains chercheurs et organisations, comme l’UNESCO, mettent même en garde contre une dépendance excessive à la technologie, qui peut distraire les élèves et nuire à leur apprentissage. Des écoles de Caroline du Nord, de Virginie, du Maryland et du Michigan, qui achetaient autrefois un appareil pour chaque élève, réévaluent désormais l’utilisation intensive des technologies en classe. Et les Chromebooks, les ordinateurs portables les plus populaires dans les écoles américaines, sont devenus un point central de ces discussions. Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves. » Avec le fait que plus de 30 États américains ont limité ou interdit l’utilisation des téléphones portables par les élèves à l’école, le retrait des Chromebooks est le signe d’une prise de conscience, estime Singer. De plus en plus de parents soutiennent des initiatives comme Schools Beyond Screens et le Distraction-Free Schools Policy Project, visant à contrôler et limiter l’utilisation des technologies à l’école. Dix États, dont le Kansas, le Vermont et la Virginie, ont récemment déposé des projets de loi pour limiter le temps d’écran des élèves, exiger des preuves de sécurité et d’efficacité pour les outils numériques scolaires ou permettre aux parents de refuser que leur enfant utilise des appareils numériques pour apprendre. 

Face aux accusations de tout acabit, Google a déclaré avoir fourni aux établissements scolaires des outils pour verrouiller les écrans des Chromebooks des élèves, limiter le contenu qu’ils consultent, gérer leur accès à YouTube et désactiver les Chromebooks après les cours. L’entreprise a également indiqué avoir désactivé YouTube par défaut pour les élèves du primaire et du secondaire disposant d’un compte Google scolaire. 

A McPherson, au Kansas, profs et élèves semblent redécouvrir qu’il y a un monde hors du numérique. 

Dans au autre article, Singer (qui publiera en août un livre sur l’invasion des technologies à l’école, Coding Kids, Norton, 2026) prolonge le sujet d’autres exemples encore. Suite à des réclamations de parents, « le conseil scolaire de Los Angeles a adopté une résolution exigeant du district qu’il limite l’accès des élèves à YouTube, supprime totalement les appareils numériques jusqu’en CP et instaure des limites de temps d’écran pour les classes supérieures, faisant de Los Angeles le premier grand système scolaire américain à prendre une telle mesure. » Le mois dernier, le gouverneur de l’Utah a promulgué une loi permettant aux parents de consulter le temps passé par leur enfant sur un appareil scolaire et de vérifier les sites web visités. A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens. Les districts scolaires sommés d’évaluer les outils qu’ils utilisent sont souvent à la peine par manque de moyens. A Los Angeles, Nick Melvoin avec l’association Schools Beyond Screens, a présenté une nouvelle résolution visant à limiter l’accès aux technologies à l’école. Outre la mise en place de nouvelles limites de temps d’écran pour chaque niveau scolaire, cette politique imposera aux écoles primaires et collèges d’interdire l’utilisation des appareils électroniques par les élèves pendant la pause déjeuner et la récréation. Le district devra également établir un rapport sur tous les contrats technologiques scolaires en vigueur. 

L’université est également colonisée

Mais il n’y a pas qu’à l’école, au collège ou au lycée que le déploiement de l’IA pose problème. L’université d’État de Californie (Cal State), fort de 460 000 étudiants et de 22 campus, ambitionne de devenir la plus grande université américaine spécialisée dans l’IA, rapportait en octobre 2025 la journaliste Natasha Singer pour le New York Times. Amazon et OpenAI y déploient des programmes de formation sur leurs produits d’IA. L’université a signé un contrat de 16,9 millions de dollars à OpenAI pour fournir ChatGPT Edu, l’outil de l’entreprise destiné aux établissements scolaires, à plus d’un demi-million d’étudiants et de membres du personnel – un déploiement qu’OpenAI a qualifié de plus important déploiement mondial de ChatGPT à ce jour. « Le renforcement des liens entre Cal State et l’industrie témoigne d’une transformation profonde des rapports de force sur les campus américains ». Il ne s’agit plus seulement de fournir un peu de matériel ou des outils, mais ici, de fournir un partenariat pédagogique impliquant une transformation des modalités pédagogiques mêmes. 

L’université ambitionne de construire « un système d’enseignement supérieur basé sur l’IA qui surpasse tous les modèles existants, tant par son ampleur que par son impact ». Là encore, pourtant, certains professeurs se sont opposés à ce projet d’IA, alors que l’université est confrontée à d’importantes coupes budgétaires. Pour eux, le contrat de plusieurs millions de dollars avec OpenAI – pour lequel l’université n’a pas ouvert d’appel d’offres à des concurrents comme Google – tient du gaspillage (alors que le réseau des community colleges de Californie a obtenu gratuitement les services de chatbot IA de Google pour plus de deux millions d’étudiants et de professeurs).

Les conseils de faculté de plusieurs campus de Cal State ont adopté cette année des résolutions critiquant l’initiative en matière d’IA, affirmant que l’université n’avait pas suffisamment pris en compte le problème de la tricherie via les chatbots. Les professeurs ont également déclaré que les plans de l’administration minimisaient les risques que l’IA fait peser sur l’esprit critique des étudiants et ignoraient les pratiques de travail problématiques du secteur ainsi que les coûts environnementaux. Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin. 

Une étude récente de chercheurs de Stanford rapportée par le Hechinger Report, montrait par exemple que les outils d’IA ne faisaient pas les mêmes corrections de copies aux élèves selon leurs origines ethniques. « Les dissertations attribuées à des étudiants noirs ont reçu davantage d’éloges et d’encouragements, quand celles attribuées à des étudiants hispaniques étaient plus susceptibles de susciter des corrections grammaticales et orthographiques. Lorsque l’étudiant était identifié comme blanc, les commentaires portaient plus souvent sur la structure de l’argumentation, les preuves et la clarté – des remarques qui peuvent inciter les étudiants à approfondir leurs idées. » 

De nombreux enseignants affirment qu’un enseignement adapté aux réalités culturelles – qui prend en compte l’identité et le vécu des élèves – peut accroître leur engagement scolaire. Mais, si certains élèves sont systématiquement protégés des critiques et ne sont pas incités à progresser en leurs montrant leurs lacunes, le risque est fort d’aggraver encore les différences ethno-sociales. « Le risque est que, sans une vigilance accrue, cette personnalisation puisse abaisser le niveau d’exigence pour certains élèves tout en le relevant pour d’autres. »

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services. En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. » Quand Google déploie son chatbot auprès des moins de 13 ans, « Google affirme clairement que ces problèmes ne le concernent pas, puisqu’il rejette explicitement la responsabilité sur les parents dans l’annonce du lancement imminent de son produit. Les parents, selon Google, doivent rappeler à leurs enfants de ne pas partager d’informations sensibles avec le chatbot. Les parents, dit l’entreprise, doivent « aider leurs enfants à développer leur esprit critique ». Les parents, dit Google, doivent rappeler à leurs enfants que « Gemini n’est pas humain ». 

Pour Waters, « il ne s’agit pas simplement d’automatiser l’enseignement et l’apprentissage formels (comme si ce n’était pas déjà assez grave) ; il s’agit de saper le savoir ».

Pourquoi l’IA semble-t-elle la solution à l’enseignement ? 

Le chercheur américain Daniel Greene livre pour le magazine de l’association américaine des professeurs d’université (Aaup) une stimulante synthèse des enjeux du développement de l’IA à l’université. L’université est traversée par d’innombrables crises et la dernière en date est liée au développement d’une technologie perçue à la fois « comme une atteinte fondamentale à notre mission éducative et comme une solution potentielle : l’IA générative ». Lorsque nous abordons la question du rôle de l’IA sur les campus, « nous devons à la fois être attentifs non seulement aux codes écrits avec Claude ou aux feuilles de calcul nettoyées avec Gemini, mais aussi aux fonctions politiques et économiques que cette technologie remplit au sein de nos institutions – et pour qui ». Une récente enquête de l’Aaup soulignait pourtant que les professeurs se sentent exclus des décisions importantes concernant l’IA sur le campus. En fait, ils ont peu de place pour décider des achats auxquels procèdent les établissements et encore moins sur la conception, l’utilisation et la réglementation des déploiements de l’IA à grande échelle sur les campus. Cela ne les empêche d’avoir très concrètement à combattre et négocier l’IA dans leur enseignement, leur recherche et leurs services. 

Reste que si les responsables des universités, les élus et les administrations sont si enthousiastes à propos du développement de l’IA sur les campus, c’est d’abord parce que le travail dans l’enseignement supérieur (comme dans l’administration ou les hôpitaux) est à forte intensité de main d’oeuvre et qu’il est difficile à automatiser. Pire, la croissance de la productivité y reste faible. « Nous enseignons à peu près de la même manière qu’il y a soixante ans, mais tout (y compris la main-d’œuvre) coûte plus cher. » Le succès de l’IA n’est pas tant à chercher dans ses performances pour aider les élèves à apprendre, mais reste d’abord et avant tout une promesse d’optimisation des coûts. Une optimisation théorisée dans les années 60 par l’économiste William Baumol sous le nom de maladie des coûts. 

Comme l’explique Nicholas Beuret dans Jacobin, la productivité du travail n’est pas la même dans tous les secteurs. Dans certains secteurs, la productivité n’évolue pas. Jouer une pièce de Shakespeare prend le même temps aujourd’hui qu’il y a 5 siècles. Dans les services à forte intensité de main-d’œuvre, comme la santé ou l’éducation, les salaires augmentent malgré une productivité stable, ce qui entraîne une hausse du coût relatif de ces services. « La maladie des coûts de Baumol engendre une faible croissance économique où les services essentiels, tels que les soins de santé ou d’éducation, deviennent inabordables, tandis que le prix des téléviseurs baisse d’année en année. » Avec la concurrence de l’IA, c’est tout le secteur des services qui est menacé par la maladie des coûts. A terme, estime Beuret, le risque est que des pans entiers de l’économie contemporaine deviennent non viables. Il en résulterait une stagnation profonde et persistante, et non une résolution. Et les timides projets de revenu universel défendus par les technophiles de la Silicon Valley seraient ridiculement insuffisants face à un tel événement. A terme, le succès de l’IA serait la plus grande menace économique que nous ayons à affronter. 

Pour Greene, la maladie des coûts est encore plus vive dans le contexte de la réduction des financements publics. Les frais de scolarité remplacent les investissements publics. Les étudiants veulent donc obtenir leur diplôme le plus rapidement possible pour s’endetter le moins possible, poussant l’enseignement supérieur à fonctionner comme des usines à diplômes. Et ChatGPT et les autres outils d’IA permettent d’accélérer la délivrance de diplômes. Pourtant, la maladie des coûts, n’explique par pourquoi en à peine un an, tant d’établissements d’enseignements supérieurs ont trouvé les fonds nécessaires pour créer des instituts et des diplômes d’IA. « Il s’agit manifestement d’un phénomène politique ». A l’heure où l’éducation supérieure est attaquée au niveau fédéral et où l’image de l’éducation supérieure accusée de toutes parts par l’administration Trump, l’adoption de l’IA est là pour réhausser le prestige et apaiser les détracteurs. 

« Ni les professeurs ni les administrateurs n’ont de contrôle sur les fonctionnalités d’IA intégrées aux logiciels d’entreprise », qui se déploient via de simples abonnements, explique Greene. Dans les universités, l’IA ne se déploie pas seulement dans les outils mis à disposition des professeurs et des élèves, mais également dans des logiciels de paye, de recrutement, et via des systèmes de surveillance. Elle est aussi une aubaine pour contrôler les contenus et les personnes, que ce soit pour fouiller dans les programmes de cours à la recherche de mentions de l’esclavage ou pour trouver les adresses d’étudiants manifestants. Elle est là pour faciliter « une analyse rapide, grossière et à grande échelle » et peu coûteuse. Comme l’a souligné la juriste Salome Viljoen, la droite comprend parfaitement que toute gouvernance est une gouvernance des données. « L’analyse automatisée de texte devient un moyen de contourner toute déférence, même de façade, envers la délibération institutionnelle et la consultation d’experts ». « C’est ce que montrait d’ailleurs très bien la révolution technoculturelle d’Elon Musk au sein du Département de l’efficacité gouvernementale (Doge), où de jeunes hommes fraîchement ou à peine diplômés utilisaient ChatGPT pour réécrire la réglementation fédérale, examiner les demandes de subvention à la recherche de délits d’opinion et scruter les profils des réseaux sociaux et les antécédents judiciaires d’étudiants en situation irrégulière dans l’espoir de trouver des prétextes pour les expulser. Au Fonds national pour les sciences humaines, Justin Fox, ancien associé en capital-investissement devenu fervent défenseur du DOGE, annulait des subventions en demandant à ChatGPT d’indiquer, en 120 caractères maximum, si un projet impliquait la diversité, l’équité et l’inclusion. »

A l’université, la charge de travail administrative ne cesse de croître, alors que les budgets fondent. Dans ce contexte, la direction perçoit l’IA comme un moyen de résoudre le problème de l’intérieur. L’IA promet de remplacer nombre de ces tâches par des machines à un coût bien moindre que l’expertise. La charge de travail et la précarité des professionnels augmentant, la pression sur les coûts contraint les intérêts des employés et de la direction à converger pour réduire le temps consacré aux tâches administratives.

« En fin de compte, l’adoption de l’IA sur les campus universitaires est une question de coût, tant financier que politique. » La solvabilité de l’université est une préoccupation majeure pour tous les administrateurs et conseils d’administration. L’investissement dans l’IA est vue comme une solution. Elle relève à la fois du mimétisme, où les universités sont invités à suivre les pratiques des leaders du secteur. L’IA est à la fois perçue comme une source d’économie et une source de revenus et de légitimité, en proposant des instituts et des diplômes dédiés. 

« Une dynamique inquiétante se dessine, largement indépendante de ce que l’IA, en tant qu’outil, fait réellement pour nous ou pour qui que ce soit d’autre. Les personnes les plus riches du monde se sont enrichies encore davantage grâce à leurs investissements dans l’IA. Elles ont utilisé cette richesse pour installer une administration présidentielle hostile à l’éducation, qui utilise l’IA pour traquer les « criminels de la pensée » et les immigrés. Pour survivre à cette offensive, les directions universitaires se tournent vers les investissements dans l’IA, et vers ces mêmes personnes qui nous attaquent, dans l’espoir d’obtenir ainsi des fonds et une légitimité.»

« Pour les administrations, l’IA représente donc une nouvelle méthode de privatisation du bien public qu’est l’éducation, non seulement en termes de propriété de l’institution, mais aussi par l’atomisation sociale de l’entreprise éducative collective. L’IA est accueillie comme une solution miracle précisément parce qu’il n’existe pas de solution miracle pour une éducation de qualité et accessible, seulement les solutions habituelles et peu attrayantes : classes à effectifs réduits, scolarité gratuite ou peu coûteuse. La hausse constante des coûts rend les études supérieures plus onéreuses d’année en année, et notre refus collectif de taxer la richesse perpétue cette dynamique, nous obligeant à faire toujours plus avec toujours moins. L’IA séduit les employeurs de tous les secteurs car elle semble offrir un moyen de produire de l’expertise à grande échelle sans dépendre de coûteux experts. »

Pour Greene, un véritable investissement fédéral dans l’enseignement supérieur impliquerait nécessairement de taxer les recettes fiscales issues de la richesse privée finançant la bulle de l’IA et de les réorienter vers les services publics essentiels qui rendent possible une société instruite afin de servir au mieux les intérêts des étudiants, des États et de la science.

Nous n’en prenons pas le chemin.  

Est-ce que ces outils améliorent quelque chose ?

Dans le quotidien britannique The Guardian, la chercheuse Velislava Hillman, autrice de Taming EdTech (qu’on pourrait traduire par Dompter les technologies éducatives, Bloomsbury, 2024 – un livre où elle montre que la surveillance par les technologies numériques est désormais normalisées dans le milieu scolaire et que les produits numériques éducatifs n’améliorent pas l’éducation de manière égale pour tous les enfants), rappelle à son tour que les géants de la tech ont profondément transformé les salles de classe et que les parents ont raison de s’inquiéter.

« De la quasi-omniprésence de Google et Microsoft aux produits d’IA spéculatifs tels que CenturyTech, les géants et les entreprises de technologies éducatives promettent un « apprentissage personnalisé » tout en collectant d’énormes quantités de données et en transformant l’éducation en gadgets monétisables et en badges numériques.»

Pourtant, la numérisation de l’éducation est bien peu révolutionnaire, rappelle Hillman. «  Les enfants passent leur temps devant des écrans à créer des diapositives PowerPoint ou à naviguer sur des applications comme Dr Frost ou Quizlet. Leurs cours sont souvent ponctués de publicités intempestives… D’autres s’adonnent à la course aux séries sur Duolingo, soi-disant pour apprendre le français, accumulent des pièces ou se disputent les premières places du classement sur Blooket. Pendant ce temps, les enseignants reçoivent des tableaux de bord de plateformes telles qu’Arbor ou NetSupport, où les élèves apparaissent sous forme de notes et de graphiques allant du vert au rouge. Et tous ces systèmes sont pris dans l’engrenage des guerres de territoire et de la recherche du profit. »

Pour Hillman, l’industrie de l’EdTech mobilise les mêmes tactiques que celle du tabac. Elle sème le doute sur ses effets pour retarder la réglementation et transforme l’inquiétude du public en culpabilité individuelle. Mais pour la chercheuse, « à mesure que ces systèmes se développent et se démocratisent, une fracture inquiétante se dessine : l’enseignement de masse via des applications pour le plus grand nombre, et le tutorat humain et les échanges intellectuels réservés à une élite. Ce qui est présenté comme la « démocratisation » de l’éducation risque d’aggraver les inégalités. » 

Face à cette accélération numérique, l’inquiétude des parents est justifiée. Dans The Atlantic, le journaliste Will Oremus fait le même constat. Le prof de math de son fils de 11 ans lui fait passer du temps sur Prodigy, un site de jeux, qui semble bien plus apprendre à jouer que les maths. « Les écoles conseillent des logiciels éducatifs qui sont devenus difficiles à distinguer de Candy Crush ». Ces jeux proposent entre des parties des questions à résoudre, mais il existe des extensions pour répondre aux questions automatiquement. Le logiciel a dévoré l’école, constate-t-il. Les logiciels éducatifs ne sont plus ce qu’ils étaient. Ils sont peu chers et accessibles, paresseux. 

Pour Hillman : « L’industrie vend ces outils comme un progrès – personnalisés, attrayants, efficaces – mais la réalité est bien plus préoccupante. Ces applications sont conçues pour extraire des données à chaque clic et inciter les élèves à passer un maximum de temps devant les écrans : Times Tables Rockstars distribue des pièces pour les bonnes réponses ; ClassDojo récompense les élèves pour leur bonne conduite ; Kahoot! captive les élèves grâce à des comptes à rebours et des classements. Ce ne sont que différentes facettes d’un même levier psychologique qui pousse les enfants à consulter les réseaux sociaux tard le soir. Même si ces outils améliorent les résultats scolaires (ce qui reste à prouver), la question demeure : à quel prix pour les relations en classe, le développement et le bien-être des enfants ? »

« Et c’est là que le fossé entre les promesses et la réalité apparaît clairement : malgré tous les discours sur l’équité et la personnalisation, les données probantes concernant l’efficacité des technologies éducatives sont limitées, orientées par l’industrie et, au mieux, fragiles. On dispose de peu d’informations sur le temps que les enfants passent sur les appareils scolaires, sur les plateformes qu’ils utilisent, ou sur l’impact de ces dernières sur l’apprentissage – sans parler de leur bien-être et de leur développement. Une étude a révélé que pour obtenir l’équivalent d’une amélioration d’une seule note au GCSE (General Certificate of Secondary Education), les élèves devraient passer des centaines d’heures par an sur une seule application de mathématiques – sans aucune preuve que cela réduise les écarts de réussite pour les élèves les plus défavorisés. L’absence de preuves définitives est présentée comme une garantie de sécurité, tandis que les promesses numériques reposent sur une apparence de certitude qui n’existe pas. »

« Au Royaume-Uni, les financements publics continuent de soutenir la numérisation des salles de classe, avec des appels à l’intégration de l’IA même dans les structures d’accueil de la petite enfance, comme l’a proposé l’ex-ministre de l’éducation britannique dans une tribune. Une étude publiée cette année par le Syndicat national de l’éducation a révélé que les programmes scolaires standardisés, souvent dispensés via des plateformes commerciales, sont désormais largement répandus. Pourtant, de nombreux enseignants affirment que ces systèmes réduisent leur autonomie professionnelle, n’allégent pas leur charge de travail et les excluent des décisions relatives aux programmes. » 

Enfin, pointe la chercheuse, les entreprises de technologies éducatives sont soumises à peu d’obligations. Alors que des audits réguliers, des rapports publics et des possibilité de contrôle indépendants sont nécessaires pour garantir que leurs outils soutiennent l’apprentissage des enfants. 

Il serait temps de poser des questions plus difficiles encore, suggère encore Velislava Hillman. « Pourquoi les applications basées sur la gamification et la manipulation comportementale – des techniques conçues pour maximiser le temps passé devant les écrans – sont-elles désormais la norme dans les salles de classe ? Pourquoi considère-t-on désormais que l’avenir d’un enfant est numérique par défaut ? Ce ne sont pas des préoccupations marginales. Elles touchent au cœur même de la raison d’être de l’éducation. L’apprentissage n’est pas une transaction commerciale. L’enfance n’est pas une opportunité de marché. Comme le rappelle le théoricien de l’éducation Gert Biesta, l’éducation ne sert pas seulement à l’obtention de diplômes et à la socialisation, mais aussi à aider les enfants à devenir des sujets autonomes et responsables. Ce dernier objectif – la subjectivation – est précisément ce qui se perd lorsque l’apprentissage est réduit à des clics ludiques et à des incitations algorithmiques.

Nous ne pouvons empêcher la technologie d’entrer dans la vie des enfants, mais nous pouvons exiger qu’elle soit au service de l’éducation, et non de l’industrie. Voici mon message aux parents : aux côtés des enseignants, votre voix est essentielle pour que les entreprises technologiques rendent des comptes sur ce qu’elles conçoivent, comment elles le commercialisent et les valeurs qu’elles véhiculent dans les salles de classe.»

Récemment Audrey Watters revenait par exemple sur l’insuccès continue de la Khan Academy. Pour nombre de promoteurs de l’EdTech, la Khan Academy reste la référence. Depuis 2009, cet outil de perfectionnement scolaire lancé par Salman Khan, est la coqueluche des cours en ligne, avec ses vidéos Youtube explicatives et ses exercices qui évoluent selon la progression des élèves. La promesse de Khan à produire une révolution de l’apprentissage personnalisé (promue dans un bestseller mondial, L’éducation réinventée, JC Lattès, 2013) n’a cessé d’être renouvelée, notamment par son passage à l’IA avec Khanmigo, l’outil maison (« Nous sommes à l’aube d’une transformation positive majeure de l’histoire de l’éducation grâce à l’IA. »), à grand renfort de tambours et trompettes (promue d’ailleurs par de puissantes conférences TED et par un autre bestseller, Un monde nouveau, L’arbre qui marche, 2025). Khan n’a cessé de promouvoir les technologies éducatives sans jamais s’interroger sur ses échecs. Cela n’empêche pas le sémillant Khan de continuer à dérouler ses promesses. Après avoir reproché aux enseignants de mal s’y prendre, c’est au tour des élèves à qui l’on reproche de ne pas poser les bonnes questions au chatbot, « même si aucune étude n’a démontré que « poser les bonnes questions », pour tous les adeptes de l’ingénierie des invites, permet d’obtenir de meilleures réponses de l’IA », et encore moins un meilleur apprentissage », rappelle avec pertinence Watters. Pour résoudre le peu d’intérêt de son IA maison, Khan l’impose donc, en l’intégrant directement aux programmes. « Loin des promesses d’amélioration de l’éducation, les technologies éducatives ont créé des dépendances éducatives : des dépendances bureaucratiques et, désormais, avec l’« IA », des dépendances cognitives. Il ne s’agit pas d’un simple hasard ; c’est intentionnel », explique Watters. 

Dépendances cognitives, c’est précisément ce qu’évoquait Sam Altman en affirmant « nous envisageons un avenir où l’intelligence sera un service public, comme l’électricité ou l’eau, et où les gens l’achèteront grâce à un compteur ». Comme le souligne Paris Marx : « les milliardaires de la tech veulent faire croire au public qu’ils améliorent le monde et renforcent nos capacités individuelles et collectives. Mais en réalité, ils nuisent à la capacité des gens d’apprendre et de penser par eux-mêmes, voire bouleversent le cours même de leur existence », explique-t-il avant d’en dénoncer le projet. 

Il n’y a pas que les parents, les jeunes aussi détestent l’IA

Depuis la sortie de ChatGPT, nul n’a subi autant la pression de l’IA que les jeunes, explique la journaliste Janus Rose pour The Verge. S’ils sont les plus grands adeptes des chatbots, « les étudiants et les actifs de la génération Z contribuent largement au rejet culturel plus large de l’IA. Et même s’ils utilisent ces outils, une grande partie des jeunes nourrit une profonde amertume, voire du ressentiment, face à un avenir centré sur l’IA qui, pour beaucoup, leur est imposé. » 

« Sortant du monde universitaire et confrontés à un marché du travail de plus en plus impitoyable, les jeunes sont face à une contradiction insoluble. On leur dit, d’un côté, que ces outils vont supprimer des millions d’emplois, et de l’autre, qu’ils doivent les utiliser s’ils ne veulent pas être laissés pour compte.» 

« La crainte que les chatbots nuisent à l’esprit critique et aux compétences sociales est répandue chez de nombreux jeunes adultes, même si une large majorité d’entre eux admettent utiliser régulièrement ces outils. Selon une récente étude Harvard-Gallup, 74 % des jeunes adultes interrogés aux États-Unis déclarent utiliser un chatbot au moins une fois par mois (une autre étude a révélé que plus de la moitié des étudiants américains admettent utiliser ces outils chaque semaine pour leurs travaux universitaires). Parallèlement, 79 % des personnes interrogées par Gallup « craignent que l’IA ne rende les gens plus paresseux », et 65 % estiment que l’utilisation des chatbots « favorise la gratification instantanée, et non une véritable compréhension », et empêche d’aborder les idées de manière critique et constructive.» 

« Dans un sondage Gallup plus récent, l’opinion de la génération Z sur les outils d’IA a atteint un nouveau point bas : seulement 18 % se disent optimistes quant à cette technologie, contre 27 % l’an dernier, et seulement 22 % se disent enthousiastes, contre 36 % auparavant. Le nombre de jeunes actifs de la génération Z qui estiment que les risques liés à l’IA l’emportent sur ses avantages a également augmenté de 11 points au cours de l’année écoulée, pour atteindre près de 50 %. Et même si 56 % affirment que ces outils les aident à terminer leur travail plus rapidement, huit sur dix admettent désormais que l’utilisation de l’IA compliquera l’apprentissage à l’avenir. »

« Les employeurs demandent aux universités de recruter des étudiants capables d’utiliser ces outils », explique Alex Hanna, directrice de la recherche du DAIR. « Ce n’est pas parce que ces outils ont réellement démontré leur valeur ajoutée ; on attend de la génération Z qu’elle nous la révèle. » D’où le fait que l’université ait tendance à intégrer l’IA… souvent un peu n’importe comment, comme ASU Atomic, un outil mis en place à l’université d’État de l’Arizona, qui synthétise automatiquement les cours magistraux en supports d’apprentissage concis, plus proche du slop qu’autre chose, déplorait 404 média. Le journal étudiant de l’université de Pennsylvanie a publié un édito cinglant à l’égard du déploiement de l’IA à l’université : « L’IA ne peut coexister avec l’éducation ; elle ne peut que la dégrader. » 

« Le fait que tant de jeunes soient parfaitement conscients de ces dangers, même lorsqu’ils utilisent ces outils, montre qu’ils ne se laissent pas berner par le discours enflammé des promoteurs de l’IA », estime Rose. La génération Z est extrêmement consciente des limites de ces outils, même pour ceux qui les trouvent utiles. 

Enfin, avance Rose, une autre explication nourrit l’ambiguïté du positionnement des plus jeunes : l’utilisation de l’IA est souvent moquée par les jeunes entre eux. La plupart trouvent les textes et les images générés artificielles et profondément ringards et s’en moquent ouvertement sur les réseaux sociaux, tout comme elle est dévalorisée par les étudiants et les professeurs. Selon une étude de l’Université de Pittsburgh, les étudiants perçoivent l’utilisation d’outils d’IA comme un signal d’alarme les incitant à avoir une moins haute opinion de leurs camarades. 

A croire que le refus de l’IA chez les plus jeunes (voir notre article, « nous sommes le slop »), s’il n’est pas un mouvement techno-critique, invite néanmoins à questionner notre rapport à la technologie en profondeur et montre que la colère contre l’IA prend des formes multiples. 

Hubert Guillaud

PS : Dans les écoles américaines, d’innombrables applications sont utilisées par les élèves sous la recommandation des professeurs voire des districts scolaires, explique The Markup, mais souvent en contradiction avec la loi, notamment en Californie où les protections à l’égard des données personnelles des enfants sont plus fortes qu’ailleurs. Mais il n’y a pas que les applications scolaires qui posent problèmes, les applications extrascolaires peuvent l’être tout autant. Le statut de ces applications extrascolaires, comme des applications sportives telles que TeamSnap, fait qu’elles ne semblent pas soumises aux mêmes contraintes réglementaires et peuvent revendre leurs informations à des courtiers ou à des annonceurs. Afin de renforcer l’application effective de la loi, un projet de loi californien comprend une nouvelle disposition : le droit pour les élèves et leurs parents de poursuivre les entreprises technologiques dans certains cas de violation de la vie privée. Une proposition contestée par les entreprises de la tech. Pour Jen King, chercheuse en protection de la vie privée et politiques des données à l’Institut d’intelligence artificielle de Stanford, donner aux consommateurs le droit de poursuivre est pourtant et souvent le seul moyen de renforcer l’application de la loi.

MAJ du 24/05/2026 : Sur les campus américains, les thuriféraires de l’IA de l’IA se font huer, rapporte Next… Et les refus d’usages lors des formations IA dans certaines écoles (en France également) se multiplient.

La coalition RSA réunit de nombreuses associations (ATD Quart Monde, le Secours Catholique, Aequitaz, Changer de Cap, la Quadrature du Net, la Ligue des droits de l’Homme, le Mouvement national des chômeurs et des précaires, la Fédération des centres sociaux…), syndicats (CGT, FSU, Solidaires, CFDT, Unsa) et chercheurs, autour d’un objectif commun : documenter, mutualiser, partager les analyses sur les effets concrets sur les demandeurs d’emploi, les bénéficiaires des minimas sociaux (RSA, AAH) et les jeunes suivis en mission locale de la loi pour le plein emploi de décembre 2023 et de son décret d’application du 30 mai 2025, plus connu sous le nom de « décret-sanction RSA » que ces associations contestent devant le conseil d’Etat.

Dans sa newsletter, l’association Changer de Cap souligne que ces associations tentent de dresser un état des lieux des pratiques des Départements, décisionnaires pour les sanctions appliquées aux allocataires du RSA. « D’après un document interne de France Travail, sur les 51 conseils départementaux ayant déjà adopté un barème de sanctions, 48 font le choix de taux fixe sans aucune proportionnalité ni individualisation, contrairement à ce qu’indiquaient les textes. Parmi ceux-ci, 45 appliquent une suspension d’au moins 50 % du RSA dès le premier manquement, quelle qu’en soit sa gravité et 32 départements des suspensions de 80 ou 100 %. L’extrême dureté dans la mise en œuvre de ce décret conforte les craintes et analyses de Changer de Cap : une logique budgétaire entraînant une précarisation accrue de pans entiers de la société et une fragilisation du Pacte social dans la quasi-indifférence générale. » A l’image des pratiques du président du département du département du Finistère, Maël de Calan, poursuivit par la CGT et six allocataires du RSA pour « harcèlement moral institutionnel », dénonçant une pression et un suivi inadaptés, pour un plan RSA qui a surtout fait passer le nombre d’allocataires finistériens de 18 000 en 2021 à 13 500 fin 2025 rapporte Splann. « Un taux de radiation pour fraude vingt fois supérieur à celui des autres départements (39,8% en 2024 contre 1,96% au niveau national) », dénonce la CGT du Finistère, rapporte Révolution Permanente, qui dénonce également les pratiques de coaching et d’activité de placement en emploi d’entreprises délégataires.

La newsletter de Changer de Cap pointe vers un rapport publié par l’Observatoire de la surveillance en démocratie de l’université de Bordeaux sur les contrôles de la CAF qui montre la logique du soupçon, l’injustice et le stress des contrôles, les obstacles à la contestation et la montée du non recours face à la violence des contrôles. Ceux qui perçoivent des minima sociaux (RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF, rappelle Marine Lamare, l’auteure du rapport. « Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même », résume pertinemment Didier Dubasque sur son blog. Derrière la neutralité et l’objectivité des algorithmes, se développe une surveillance différenciée, inégalitaire. « La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux que la CNAF est censée protéger. » Mais surtout, le rapport de Marine Lamare, montre que loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres à recourir à leurs droits. Comme si derrière le non recours se cachait de moins en moins un manque d’information des publics, et de plus en plus une capitulation face à la violence de la machine administrative.

Cette politique n’est pas nouvelle, rappelle Marine Lamare, rappelant les critiques formulées dès les années 70 par l’historien et sociologue, Jacques Donzelot, dans un article pour la revue Esprit, puis dans son livre, La police des familles (Minuit, 1977) qui expliquait déjà que « plus on est pauvre, plus on est surveillé ». La criminalisation de la pauvreté est devenue une politique publique depuis les années 90, rappelle-t-elle à la suite des travaux du sociologue Loïc Wacquant dans Punir les pauvres (Agone, 2004). « Les procédures de mise en recouvrement des indus se sont vues consolidées. De façon générale, le droit a contribué à un « durcissement » dans le traitement des cas, à la fois quant aux critères d’attribution des prestations, à la qualification de la fraude et aux sanctions administratives, faisant des CAF des « quasi-tribunaux » », comme l’expliquait le sociologue Vincent Dubois dans Contrôler les assistés (Raisons d’agir, 2021). 

Dans son mémoire, Marine Lamare rappelle que le respect de la vie privée est socialement situé. Pour ceux soumis aux contrôles, c’est une formule creuse. Pour eux, les relations de pouvoir qu’ils vivent sont toujours plus dissymétriques. 

Le sentiment d’incompréhension face aux contrôles s’explique d’abord par le silence des CAF sur les raisons des contrôles. Il s’augmente quand les bénéficiaires contrôlés découvrent qu’ils doivent déclarer les aides financières reçus de leurs proches quel qu’en soit le montant, comme si la solidarité de proximité, familiale, s’opposait finalement à la solidarité collective, alors que selon diverses jurisprudences, ils devraient être exclus des ressources prises en compte pour le RSA. Même choses pour les situations maritales que la CAF interprète toujours très étroitement et normativement, quand le Conseil d’Etat, lui, par exemple, reconnaît les séparations de faits. C’est un peu comme si la CAF portait partout une conception restrictive des droits, dans une interprétation qui semble se faire toujours au détriment de l’allocataire. Le décalage, le sentiment d’incompréhension, s’exprime encore entre le discours du contrôleur et les courriers de l’administration, et plus encore dans la « discontinuité des droits » que les contrôles instaurent, notamment les « sanctions de faits » c’est-à-dire la suspension des prestations, parfois sans préavis, souvent sans motivation explicite et souvent sans réponses. 

Le mémoire rappelle les coûts de ces procédures pour les allocataires. Les coûts psychologiques et moraux, mais également financiers pour des gens qui ne peuvent se le permettre. Et notamment, les plus difficiles : la suspension des aides ou la notification d’indus, qui nécessitent pour les contester des nouveaux recours et des procédures toujours plus complexes, difficilement accessibles aux allocataires précaires. Au final, c’est toujours le quotidien des allocataires qui devient impossible quand les aides sont suspendues. 

Dans son mémoire, Marine Lamare constate encore que le droit de communication de la CAF auprès de tiers, lui permettant d’obtenir d’innombrables données sur les administrés, s’est considérablement élargi au tournant des années 2010, « lorsque les pouvoirs d’investigation des agents des organismes de sécurité sociale ont été alignés sur ceux des agents des services fiscaux », où le contrôle des documents semble n’avoir plus aucune limite (notamment de rétroactivité et de proportionnalité…), comme quand un agent utilise le fait qu’une dame soit toujours indiquée en couple sur Facebook. Pourtant, les enquêtes de la CAF montrent surtout la grande difficulté à transformer des indices en preuves et la grande difficulté du droit à vouloir transformer des faisceaux d’indices en certitudes. La juriste montre surtout que les critères mobilisés (domiciliation commune, la communauté affective ou d’intérêts…) sont souvent plus fragiles, notamment au regard de la jurisprudence qui va les confirmer ou les écarter d’une manière très différente d’un jugement l’autre. Les avocats et le Défenseur des droits rappellent que c’est à la CAF de prouver la situation de concubinage ou de non-présence en France, par delà les indices et suspicions. Pour la docteure en droit, on assiste à « une criminalisation de la dépendance aux prestations sociales ». 

Quant à la contestation, elle est un chemin semé d’embûches, rappelle-t-elle, notamment du fait même de la numérisation de l’accès au droit. Les résistances sont souvent silencieuses et individuelles. Les contentieux sont, par nature, déséquilibrés au détriment des justiciables. Ce qui n’est pas sans évoquer les constats des derniers épisodes du Code a changé sur la dématérialisation. « Les espaces libre-service créés dans les années 2010 condensent en particulier les publics les plus démunis, les agents les moins formés et les conditions d’accueil les plus défavorables. Conformément à « l’aménagement dissuasif » déployé, des barrières sont érigées entre les plus précaires et les personnels qualifiés », souligne Lamare à la suite du psychologue Pascal Martin. Les associations ou les avocats apparaissent alors comme des substituts à l’absence d’interlocuteurs à la CAF, pour démêler l’écheveau des situations. Quant au numérique, il donne désormais la temporalité des démarches, puisque ce sont les enregistrements et les courriers électroniques qui marquent les relations. Par exemple, confient les accompagnateurs et les allocataires, il est difficile d’obtenir le « tableau de liquidation » qui permettrait d’accéder à la « boîte noire du calcul des droits » et de comprendre éventuellement les calculs d’indus opérés par les CAF. Même les rapports de contrôles ou d’enquête nécessitent bien souvent de passer par de longues démarches via la Commission d’accès aux documents administratifs pour être obtenus. Enfin, la complexité des procédures, des recours (par exemple entre demande de remise de dette et contestation de la décision, démarches incompatibles), finissent d’épuiser parfois les meilleures volontés. 

Lamare montre également que nombre d’acteurs sociaux de l’accompagnement préfèrent la conciliation au conflit avec les CAF, d’autant que certains, comme « les assistantes sociales des départements et des CAF sont juges et parties sur ce type de dossiers ». Non seulement le contentieux est difficile pour les administrés, mais il rémunère peu les avocats et face à l’envolée des demandes, se résout surtout par un fort désintérêt des acteurs pouvant accompagner les justiciables en difficultés. Les « contentieux des pauvres » démontrent surtout qu’ils n’intéressent pas grand monde et produisent peu de justice, comme le soulignait d’ailleurs la sociologue Delphine Serre dans son livre, Ultime recours (raison d’agir, 2024) quant aux procédures à l’encontre de la sécurité sociale pour faire reconnaître un accident du travail ou une maladie professionnelle, dénonçant elle aussi, le risque que les droits sociaux deviennent des principes sans objets.  

Mais surtout, conclut Marine Lamare, « le non-recours se dessine alors comme une voie de sortie qui prend l’allure d’issue de secours ». « Par peur, pression, culpabilisation, découragement, épuisement et/ou désaccord avec les principes et pratiques des CAF, [nombre de bénéficiaires] ne veulent pas ou ne veulent plus avoir affaire à elles ». L’abandon s’enkyste. La chasse à la fraude ressemble à une chasse à l’homme, témoigne une allocataire. L’acte individuel devient une critique des politiques sociales. Le non-recours devient une non-demande, le résultat d’une fabrique collective de l’exclusion plus que le signe de défaillances individuelles. 

Autant de constats qui font échos à ceux du dernier rapport de la Défenseure des droits sur la fraude sociale, alors même que le gouvernement vient de durcir l’arsenal contre les fraudes et à réformer en profondeur les aides sociales (Le Monde, Médiapart). Claire Hédon y dénonce une industrialisation de la lutte contre la fraude des bénéficiaires, explique Le Monde. Le rapport souligne, par exemple, que la communication bancaire est devenue une procédure automatisée, alors qu’elle est normalement circonscrite à certaines situations et proportionnée. De même, la généralisation de la consultation des réseaux sociaux à des fins de contrôle se déploie sans garde-fous. La Défenseure des droits rappelle à nouveau le surciblage et le surcontrôle de certaines catégories de population et renouvelle ses demandes de transparence et de mesure de l’équité des ciblages et contrôles. Elle dénonce également des notifications non motivées et non conforme à la réglementation et une faible communication sur les voies et délais de recours. Mais surtout, elle pointe combien la fraude est une qualification plastique et que ce qualificatif devenu omniprésent entrave le droit à l’erreur et l’accès aux droits. Et de plaider pour lui substituer et « ériger le droit à l’erreur de bonne foi en tant que principe général applicable en toutes circonstances aux relations entre les usagers et les organismes sociaux ».

La Défenseure des droits plaide pour une amélioration de l’information aux usagers, mais surtout pour que les services sociaux priorisent la prévention plutôt que la répression. Elle rappelle que l’administration a de plus en plus tendance à confondre la fraude et l’erreur, alors même que le droit à l’erreur a été inscrit dans la loi depuis 2018 et dénonce le constat que les pouvoirs publics s’accommodent trop du non-recours. 

Mais, si les constats du Défenseur des droits s’accumulent et se répètent de rapports en rapports, peut-être faut-il convenir que le problème est bien plus politique qu’on le pense. La nouvelle réforme proposée par le projet de loi sur la fraude sociale, montre combien le discours saturé ne parvient plus à laisser d’espace pour d’autres approches que la chasse aux pauvres. 

Pour la Quadrature du net également, le flicage n’en finit pas, dénonçant, dans la dernière version du projet de loi, l’élargissement de l’accès aux comptes bancaires pour le contrôle du RSA. Le contrôle sur les moindres dépenses des plus pauvres, a clairement pour but d’humilier, « tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits ». « Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure ». En réalité, explique l’association, le projet de loi vise d’abord à permettre aux départements de procéder à ces contrôles, alors que normalement, ils sont du recours des seuls services sociaux (et à protéger les départements de poursuites, comme celle engagée par les allocataires du Finistère). Et surtout, il vise à élargir considérablement aux acteurs du social la possibilité « d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs. » Pour la Quadrature, cette mesure s’inscrit « dans un processus d’extension continue du droit de communication » à des fins de « lutte contre la fraude sociale », faisant fit des limites et des garanties de ce droit, supprimées d’un projet de loi l’autre. « Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse. » 

La Quadrature estime pourtant qu’un espoir pourrait venir depuis le droit européen, pour réaffirmer des limites et des garanties. La Cour européenne des droits de l’Homme (CEDH) a récemment « condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français ». « La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela. »

Dans un communiqué de presse, Changé de Cap dénonce le fait qu’il sera bientôt possible à la CAF, aux Départements comme à France Travail de procéder à une suspension conservatoire des prestations et allocations en cas « d’indices sérieux d’un manquement délibéré ou de manœuvre frauduleuse ». Les organismes sociaux vont donc pouvoir couper les droits unilatéralement sans que ne soit défini ce que sont les manquements, les indices sérieux voire les indices graves et concordants. 

« Le collectif Changer de cap est en opposition totale avec cette politique de chasse aux pauvres. Nous réaffirmons :

Que la lutte contre les exclusions doit rester un impératif national fondé sur le respect de l’égale dignité de tous les êtres humains et une priorité de l’ensemble des politiques publiques.

Que toute personne en difficulté a le droit au soutien de la nation, tel que cela est énoncé dans plusieurs lois fondamentales et dans la Constitution.

Que l’État, les collectivités territoriales, les établissements publics dont les centres communaux et intercommunaux d’action sociale, les organismes de sécurité sociale ainsi que les institutions sociales et médico-sociales doivent participer à cette mission de soutien aux populations précarisées.

Que chaque personne a le droit à un accompagnement respectueux de son parcours, prenant réellement en compte les difficiles chemins empruntés et les situations complexes.

Et ne craignons pas d’exiger de nos responsables politiques de lutter contre les causes de la pauvreté plutôt que d’orchestrer la chasse aux pauvres. »

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des organismes des gestion sociale à leur mission. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées.

Voir également notre billet sur les algorithmes de score de risque de fraude à la CAF qui surveillent les bénéficiaires.

La coalition RSA réunit de nombreuses associations (ATD Quart Monde, le Secours Catholique, Aequitaz, Changer de Cap, la Quadrature du Net, la Ligue des droits de l’Homme, le Mouvement national des chômeurs et des précaires, la Fédération des centres sociaux…), syndicats (CGT, FSU, Solidaires, CFDT, Unsa) et chercheurs, autour d’un objectif commun : documenter, mutualiser, partager les analyses sur les effets concrets sur les demandeurs d’emploi, les bénéficiaires des minimas sociaux (RSA, AAH) et les jeunes suivis en mission locale de la loi pour le plein emploi de décembre 2023 et de son décret d’application du 30 mai 2025, plus connu sous le nom de « décret-sanction RSA » que ces associations contestent devant le conseil d’Etat.

Dans sa newsletter, l’association Changer de Cap souligne que ces associations tentent de dresser un état des lieux des pratiques des Départements, décisionnaires pour les sanctions appliquées aux allocataires du RSA. « D’après un document interne de France Travail, sur les 51 conseils départementaux ayant déjà adopté un barème de sanctions, 48 font le choix de taux fixe sans aucune proportionnalité ni individualisation, contrairement à ce qu’indiquaient les textes. Parmi ceux-ci, 45 appliquent une suspension d’au moins 50 % du RSA dès le premier manquement, quelle qu’en soit sa gravité et 32 départements des suspensions de 80 ou 100 %. L’extrême dureté dans la mise en œuvre de ce décret conforte les craintes et analyses de Changer de Cap : une logique budgétaire entraînant une précarisation accrue de pans entiers de la société et une fragilisation du Pacte social dans la quasi-indifférence générale. » A l’image des pratiques du président du département du département du Finistère, Maël de Calan, poursuivit par la CGT et six allocataires du RSA pour « harcèlement moral institutionnel », dénonçant une pression et un suivi inadaptés, pour un plan RSA qui a surtout fait passer le nombre d’allocataires finistériens de 18 000 en 2021 à 13 500 fin 2025 rapporte Splann. « Un taux de radiation pour fraude vingt fois supérieur à celui des autres départements (39,8% en 2024 contre 1,96% au niveau national) », dénonce la CGT du Finistère, rapporte Révolution Permanente, qui dénonce également les pratiques de coaching et d’activité de placement en emploi d’entreprises délégataires.

La newsletter de Changer de Cap pointe vers un rapport publié par l’Observatoire de la surveillance en démocratie de l’université de Bordeaux sur les contrôles de la CAF qui montre la logique du soupçon, l’injustice et le stress des contrôles, les obstacles à la contestation et la montée du non recours face à la violence des contrôles. Ceux qui perçoivent des minima sociaux (RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF, rappelle Marine Lamare, l’auteure du rapport. « Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même », résume pertinemment Didier Dubasque sur son blog. Derrière la neutralité et l’objectivité des algorithmes, se développe une surveillance différenciée, inégalitaire. « La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux que la CNAF est censée protéger. » Mais surtout, le rapport de Marine Lamare, montre que loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres à recourir à leurs droits. Comme si derrière le non recours se cachait de moins en moins un manque d’information des publics, et de plus en plus une capitulation face à la violence de la machine administrative.

Cette politique n’est pas nouvelle, rappelle Marine Lamare, rappelant les critiques formulées dès les années 70 par l’historien et sociologue, Jacques Donzelot, dans un article pour la revue Esprit, puis dans son livre, La police des familles (Minuit, 1977) qui expliquait déjà que « plus on est pauvre, plus on est surveillé ». La criminalisation de la pauvreté est devenue une politique publique depuis les années 90, rappelle-t-elle à la suite des travaux du sociologue Loïc Wacquant dans Punir les pauvres (Agone, 2004). « Les procédures de mise en recouvrement des indus se sont vues consolidées. De façon générale, le droit a contribué à un « durcissement » dans le traitement des cas, à la fois quant aux critères d’attribution des prestations, à la qualification de la fraude et aux sanctions administratives, faisant des CAF des « quasi-tribunaux » », comme l’expliquait le sociologue Vincent Dubois dans Contrôler les assistés (Raisons d’agir, 2021). 

Dans son mémoire, Marine Lamare rappelle que le respect de la vie privée est socialement situé. Pour ceux soumis aux contrôles, c’est une formule creuse. Pour eux, les relations de pouvoir qu’ils vivent sont toujours plus dissymétriques. 

Le sentiment d’incompréhension face aux contrôles s’explique d’abord par le silence des CAF sur les raisons des contrôles. Il s’augmente quand les bénéficiaires contrôlés découvrent qu’ils doivent déclarer les aides financières reçus de leurs proches quel qu’en soit le montant, comme si la solidarité de proximité, familiale, s’opposait finalement à la solidarité collective, alors que selon diverses jurisprudences, ils devraient être exclus des ressources prises en compte pour le RSA. Même choses pour les situations maritales que la CAF interprète toujours très étroitement et normativement, quand le Conseil d’Etat, lui, par exemple, reconnaît les séparations de faits. C’est un peu comme si la CAF portait partout une conception restrictive des droits, dans une interprétation qui semble se faire toujours au détriment de l’allocataire. Le décalage, le sentiment d’incompréhension, s’exprime encore entre le discours du contrôleur et les courriers de l’administration, et plus encore dans la « discontinuité des droits » que les contrôles instaurent, notamment les « sanctions de faits » c’est-à-dire la suspension des prestations, parfois sans préavis, souvent sans motivation explicite et souvent sans réponses. 

Le mémoire rappelle les coûts de ces procédures pour les allocataires. Les coûts psychologiques et moraux, mais également financiers pour des gens qui ne peuvent se le permettre. Et notamment, les plus difficiles : la suspension des aides ou la notification d’indus, qui nécessitent pour les contester des nouveaux recours et des procédures toujours plus complexes, difficilement accessibles aux allocataires précaires. Au final, c’est toujours le quotidien des allocataires qui devient impossible quand les aides sont suspendues. 

Dans son mémoire, Marine Lamare constate encore que le droit de communication de la CAF auprès de tiers, lui permettant d’obtenir d’innombrables données sur les administrés, s’est considérablement élargi au tournant des années 2010, « lorsque les pouvoirs d’investigation des agents des organismes de sécurité sociale ont été alignés sur ceux des agents des services fiscaux », où le contrôle des documents semble n’avoir plus aucune limite (notamment de rétroactivité et de proportionnalité…), comme quand un agent utilise le fait qu’une dame soit toujours indiquée en couple sur Facebook. Pourtant, les enquêtes de la CAF montrent surtout la grande difficulté à transformer des indices en preuves et la grande difficulté du droit à vouloir transformer des faisceaux d’indices en certitudes. La juriste montre surtout que les critères mobilisés (domiciliation commune, la communauté affective ou d’intérêts…) sont souvent plus fragiles, notamment au regard de la jurisprudence qui va les confirmer ou les écarter d’une manière très différente d’un jugement l’autre. Les avocats et le Défenseur des droits rappellent que c’est à la CAF de prouver la situation de concubinage ou de non-présence en France, par delà les indices et suspicions. Pour la docteure en droit, on assiste à « une criminalisation de la dépendance aux prestations sociales ». 

Quant à la contestation, elle est un chemin semé d’embûches, rappelle-t-elle, notamment du fait même de la numérisation de l’accès au droit. Les résistances sont souvent silencieuses et individuelles. Les contentieux sont, par nature, déséquilibrés au détriment des justiciables. Ce qui n’est pas sans évoquer les constats des derniers épisodes du Code a changé sur la dématérialisation. « Les espaces libre-service créés dans les années 2010 condensent en particulier les publics les plus démunis, les agents les moins formés et les conditions d’accueil les plus défavorables. Conformément à « l’aménagement dissuasif » déployé, des barrières sont érigées entre les plus précaires et les personnels qualifiés », souligne Lamare à la suite du psychologue Pascal Martin. Les associations ou les avocats apparaissent alors comme des substituts à l’absence d’interlocuteurs à la CAF, pour démêler l’écheveau des situations. Quant au numérique, il donne désormais la temporalité des démarches, puisque ce sont les enregistrements et les courriers électroniques qui marquent les relations. Par exemple, confient les accompagnateurs et les allocataires, il est difficile d’obtenir le « tableau de liquidation » qui permettrait d’accéder à la « boîte noire du calcul des droits » et de comprendre éventuellement les calculs d’indus opérés par les CAF. Même les rapports de contrôles ou d’enquête nécessitent bien souvent de passer par de longues démarches via la Commission d’accès aux documents administratifs pour être obtenus. Enfin, la complexité des procédures, des recours (par exemple entre demande de remise de dette et contestation de la décision, démarches incompatibles), finissent d’épuiser parfois les meilleures volontés. 

Lamare montre également que nombre d’acteurs sociaux de l’accompagnement préfèrent la conciliation au conflit avec les CAF, d’autant que certains, comme « les assistantes sociales des départements et des CAF sont juges et parties sur ce type de dossiers ». Non seulement le contentieux est difficile pour les administrés, mais il rémunère peu les avocats et face à l’envolée des demandes, se résout surtout par un fort désintérêt des acteurs pouvant accompagner les justiciables en difficultés. Les « contentieux des pauvres » démontrent surtout qu’ils n’intéressent pas grand monde et produisent peu de justice, comme le soulignait d’ailleurs la sociologue Delphine Serre dans son livre, Ultime recours (raison d’agir, 2024) quant aux procédures à l’encontre de la sécurité sociale pour faire reconnaître un accident du travail ou une maladie professionnelle, dénonçant elle aussi, le risque que les droits sociaux deviennent des principes sans objets.  

Mais surtout, conclut Marine Lamare, « le non-recours se dessine alors comme une voie de sortie qui prend l’allure d’issue de secours ». « Par peur, pression, culpabilisation, découragement, épuisement et/ou désaccord avec les principes et pratiques des CAF, [nombre de bénéficiaires] ne veulent pas ou ne veulent plus avoir affaire à elles ». L’abandon s’enkyste. La chasse à la fraude ressemble à une chasse à l’homme, témoigne une allocataire. L’acte individuel devient une critique des politiques sociales. Le non-recours devient une non-demande, le résultat d’une fabrique collective de l’exclusion plus que le signe de défaillances individuelles. 

Autant de constats qui font échos à ceux du dernier rapport de la Défenseure des droits sur la fraude sociale, alors même que le gouvernement vient de durcir l’arsenal contre les fraudes et à réformer en profondeur les aides sociales (Le Monde, Médiapart). Claire Hédon y dénonce une industrialisation de la lutte contre la fraude des bénéficiaires, explique Le Monde. Le rapport souligne, par exemple, que la communication bancaire est devenue une procédure automatisée, alors qu’elle est normalement circonscrite à certaines situations et proportionnée. De même, la généralisation de la consultation des réseaux sociaux à des fins de contrôle se déploie sans garde-fous. La Défenseure des droits rappelle à nouveau le surciblage et le surcontrôle de certaines catégories de population et renouvelle ses demandes de transparence et de mesure de l’équité des ciblages et contrôles. Elle dénonce également des notifications non motivées et non conforme à la réglementation et une faible communication sur les voies et délais de recours. Mais surtout, elle pointe combien la fraude est une qualification plastique et que ce qualificatif devenu omniprésent entrave le droit à l’erreur et l’accès aux droits. Et de plaider pour lui substituer et « ériger le droit à l’erreur de bonne foi en tant que principe général applicable en toutes circonstances aux relations entre les usagers et les organismes sociaux ».

La Défenseure des droits plaide pour une amélioration de l’information aux usagers, mais surtout pour que les services sociaux priorisent la prévention plutôt que la répression. Elle rappelle que l’administration a de plus en plus tendance à confondre la fraude et l’erreur, alors même que le droit à l’erreur a été inscrit dans la loi depuis 2018 et dénonce le constat que les pouvoirs publics s’accommodent trop du non-recours. 

Mais, si les constats du Défenseur des droits s’accumulent et se répètent de rapports en rapports, peut-être faut-il convenir que le problème est bien plus politique qu’on le pense. La nouvelle réforme proposée par le projet de loi sur la fraude sociale, montre combien le discours saturé ne parvient plus à laisser d’espace pour d’autres approches que la chasse aux pauvres. 

Pour la Quadrature du net également, le flicage n’en finit pas, dénonçant, dans la dernière version du projet de loi, l’élargissement de l’accès aux comptes bancaires pour le contrôle du RSA. Le contrôle sur les moindres dépenses des plus pauvres, a clairement pour but d’humilier, « tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits ». « Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure ». En réalité, explique l’association, le projet de loi vise d’abord à permettre aux départements de procéder à ces contrôles, alors que normalement, ils sont du recours des seuls services sociaux (et à protéger les départements de poursuites, comme celle engagée par les allocataires du Finistère). Et surtout, il vise à élargir considérablement aux acteurs du social la possibilité « d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs. » Pour la Quadrature, cette mesure s’inscrit « dans un processus d’extension continue du droit de communication » à des fins de « lutte contre la fraude sociale », faisant fit des limites et des garanties de ce droit, supprimées d’un projet de loi l’autre. « Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse. » 

La Quadrature estime pourtant qu’un espoir pourrait venir depuis le droit européen, pour réaffirmer des limites et des garanties. La Cour européenne des droits de l’Homme (CEDH) a récemment « condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français ». « La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela. »

Dans un communiqué de presse, Changé de Cap dénonce le fait qu’il sera bientôt possible à la CAF, aux Départements comme à France Travail de procéder à une suspension conservatoire des prestations et allocations en cas « d’indices sérieux d’un manquement délibéré ou de manœuvre frauduleuse ». Les organismes sociaux vont donc pouvoir couper les droits unilatéralement sans que ne soit défini ce que sont les manquements, les indices sérieux voire les indices graves et concordants. 

« Le collectif Changer de cap est en opposition totale avec cette politique de chasse aux pauvres. Nous réaffirmons :

Que la lutte contre les exclusions doit rester un impératif national fondé sur le respect de l’égale dignité de tous les êtres humains et une priorité de l’ensemble des politiques publiques.

Que toute personne en difficulté a le droit au soutien de la nation, tel que cela est énoncé dans plusieurs lois fondamentales et dans la Constitution.

Que l’État, les collectivités territoriales, les établissements publics dont les centres communaux et intercommunaux d’action sociale, les organismes de sécurité sociale ainsi que les institutions sociales et médico-sociales doivent participer à cette mission de soutien aux populations précarisées.

Que chaque personne a le droit à un accompagnement respectueux de son parcours, prenant réellement en compte les difficiles chemins empruntés et les situations complexes.

Et ne craignons pas d’exiger de nos responsables politiques de lutter contre les causes de la pauvreté plutôt que d’orchestrer la chasse aux pauvres. »

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des organismes des gestion sociale à leur mission. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées.

Voir également notre billet sur les algorithmes de score de risque de fraude à la CAF qui surveillent les bénéficiaires.

Pour le blog du LPE Project, Vincent Joralemon, directeur du Centre de droit et de politique des sciences de la vie de Berkeley, revient sur les récentes condamnation de Meta et Youtube pour négligence de conception de leurs systèmes pour avoir trompé les utilisateurs sur la sécurité de ses plateformes (voir notre article). « Ce qui m’a frappé en lisant l’histoire de Kaley, c’est la banalité apparente de son expérience ».

L’une des plaignantes, Kaley, 20 ans, a grandi dans un quartier très populaire de la Californie. Ses parents ont divorcé quand elle avait 3 ans. Son père était violent. Kaley a commencé à utilisé Youtube à 6 ans et Instagram à 9 ans. Elle passait jusqu’à 16 heures par jour sur Instagram. Mais le net n’était pas pour elle qu’un refuge. « La plupart d’entre nous avons déjà ressenti l’attrait irrésistible du défilement dans les moments les plus difficiles, cherchant notre fil d’actualité précisément au moment où nous sommes le moins capables de nous en détacher. Mais pour ceux qui traversent les épreuves les plus durement éprouvées – instabilité familiale, traumatisme, pauvreté – le défilement n’est pas un réconfort passager. C’est le seul refuge disponible, ce qui rend ces utilisateurs particulièrement vulnérables à la dépendance. » Or, estime Joralemon, le procès a mis en lumière un aspect largement négligé par les analyses juridiques : « les préjudices liés à la conception addictive des plateformes sont structurés par classe sociale ».

Le procès a permis de dévoiler que les recherches internes de Meta montraient que le contrôle parental et les règles familiales n’avaient aucun effet sur l’utilisation compulsive des plateformes par les adolescents… et que les enfants ayant vécu des événements traumatisants étaient les plus susceptibles de développer une dépendance. Tout le long du procès, les avocats de Meta ont passé des semaines à blâmer la famille de Kaley, arguant que sa dépression et son anxiété étaient dues à une enfance difficile et non à la conception de la plateforme. Certes, mais la défense de celle-ci a montré que même en installant tous les logiciels de blocages possibles, la mère de Kaley ne pouvait rien contre la dépendance de sa fille. Et le jury a estimé que Meta comme Youtube avaient trompé volontairement les utilisateurs. 

Derrière le préjudice reconnu, pointe Joralemon, il reste un critère qui lui l’est moins : « les effets néfastes de la conception addictive des plateformes pèsent plus lourdement sur les enfants déjà les plus vulnérables – que ce soit en raison de l’instabilité familiale, de traumatismes, de difficultés économiques, ou (comme c’est souvent le cas) des trois. » C’est-à-dire que ces systèmes ont des impacts sociaux plus forts sur certains publics que sur d’autres.

« Les enquêtes de Common Sense Media montrent que les préadolescents issus de familles à faibles revenus passent environ trois heures de plus par jour devant les écrans de divertissement que leurs pairs issus de familles plus aisées. Chez les enfants de moins de huit ans, le temps passé devant les écrans par les enfants issus de familles à faibles revenus est plus du double de celui de leurs pairs plus aisés. Lorsque les familles à faibles revenus se connectent à Internet, environ 28 % d’entre elles sont dépendantes de leur smartphone (contre 4 % des adultes les plus aisés). Il existe donc une raison valable pour laquelle les parents à faibles revenus sont 50 % plus susceptibles d’être « extrêmement ou très inquiets » pour la santé mentale de leurs enfants que les parents à revenus élevés. Plus inquiétant encore, le Rapport mondial sur le bonheur 2026, basé sur un sondage auprès de 330 000 adolescents dans 43 pays, confirme que les adolescents issus de milieux socio-économiques défavorisés sont les plus touchés par les comportements numériques compulsifs. »

« Ce qui semble être un problème d’éducation parentale est en réalité un problème d’économie politique », explique Joralemon. « L’écart en matière de temps passé devant les écrans est lié à la réduction des financements alloués aux activités périscolaires, aux horaires de travail atypiques des parents à faibles revenus. Selon une étude de l’hôpital pour enfants Lurie, un parent sur quatre utilise les écrans faute de moyens pour faire garder ses enfants. Un document interne de YouTube, présenté lors du procès, décrivait la plateforme comme une « nounou numérique à court terme ». » Et le cadre politique mis en place pour remédier à ces problèmes, fondé presque entièrement sur la responsabilité parentale, est intrinsèquement régressif, appuie le chercheur.

Mais si « la dépendance numérique est un problème de santé publique, quelle est la solution ? », interrogeait Joralemon dans un article pour la revue Health Affairs. Il y rappelle que la compulsion où l’addiction numérique doit être appréhendée comme un problème de santé publique, non pas dû à une défaillance individuelle, mais à des produits conçus à des fins commerciales. Que la réglementation en la matière devrait donc s’inspirer de la réglementation du tabac qui en restreint l’accès et dénormalise son usage ; de la réglementation des opioïdes qui contrôle leur disponibilité par le biais d’une prescription supervisée ; et de la réglementation des jeux d’argent qui impose des mesures de protection dès la conception afin d’atténuer le potentiel addictif. Bref, s’appuyer sur des normes de conception des produits, des obligations d’avertissement et de divulgation, des restrictions publicitaires, des contrôles d’accès basés sur l’âge, des obligations de surveillance et des mécanismes de financement pour le traitement et la prévention. Or « les plateformes numériques fonctionnent sans contrôle comparable. Il n’existe aucune obligation générale de surveiller les signes de dépendance, aucune obligation d’interrompre les comportements à risque, ni aucune obligation de repenser les fonctionnalités connues pour favoriser une utilisation compulsive ».

Si les premiers litiges liés à la compulsion à arriver devant les tribunaux américains se concentrent sur les mineurs, les préjudices sous-jacents ne se limitent pas aux adolescents, mais touchent notamment les personnes âgées, ainsi que les individus souffrant de dépression, d’anxiété ou de solitude. Dans le cas des opioïdes comme du tabac, les actions en justice privées se sont révélées être le principal catalyseur, imposant la divulgation de documents et la surveillance des comportements, comme c’est le cas dans les régulations des jeux d’argent. « Le statu quo – qui consiste à considérer les technologies addictives algorithmiques comme fondamentalement différentes des autres produits conçus pour exploiter les vulnérabilités humaines – devient scientifiquement et éthiquement intenable. » 

Pour Joralemon, il faut aller plus loin encore, conclut-il sur le blog du LPE Project. « Une réponse adéquate doit associer les obligations des plateformes à des investissements dans les biens communs : des services de garde d’enfants abordables, des activités périscolaires, des horaires de travail stables et des espaces publics sûrs. Réglementer le produit est nécessaire. Mais construire un monde où les enfants n’auraient pas besoin de ces produits l’est tout autant ! »

Pour le blog du LPE Project, Vincent Joralemon, directeur du Centre de droit et de politique des sciences de la vie de Berkeley, revient sur les récentes condamnation de Meta et Youtube pour négligence de conception de leurs systèmes pour avoir trompé les utilisateurs sur la sécurité de ses plateformes (voir notre article). « Ce qui m’a frappé en lisant l’histoire de Kaley, c’est la banalité apparente de son expérience ».

L’une des plaignantes, Kaley, 20 ans, a grandi dans un quartier très populaire de la Californie. Ses parents ont divorcé quand elle avait 3 ans. Son père était violent. Kaley a commencé à utilisé Youtube à 6 ans et Instagram à 9 ans. Elle passait jusqu’à 16 heures par jour sur Instagram. Mais le net n’était pas pour elle qu’un refuge. « La plupart d’entre nous avons déjà ressenti l’attrait irrésistible du défilement dans les moments les plus difficiles, cherchant notre fil d’actualité précisément au moment où nous sommes le moins capables de nous en détacher. Mais pour ceux qui traversent les épreuves les plus durement éprouvées – instabilité familiale, traumatisme, pauvreté – le défilement n’est pas un réconfort passager. C’est le seul refuge disponible, ce qui rend ces utilisateurs particulièrement vulnérables à la dépendance. » Or, estime Joralemon, le procès a mis en lumière un aspect largement négligé par les analyses juridiques : « les préjudices liés à la conception addictive des plateformes sont structurés par classe sociale ».

Le procès a permis de dévoiler que les recherches internes de Meta montraient que le contrôle parental et les règles familiales n’avaient aucun effet sur l’utilisation compulsive des plateformes par les adolescents… et que les enfants ayant vécu des événements traumatisants étaient les plus susceptibles de développer une dépendance. Tout le long du procès, les avocats de Meta ont passé des semaines à blâmer la famille de Kaley, arguant que sa dépression et son anxiété étaient dues à une enfance difficile et non à la conception de la plateforme. Certes, mais la défense de celle-ci a montré que même en installant tous les logiciels de blocages possibles, la mère de Kaley ne pouvait rien contre la dépendance de sa fille. Et le jury a estimé que Meta comme Youtube avaient trompé volontairement les utilisateurs. 

Derrière le préjudice reconnu, pointe Joralemon, il reste un critère qui lui l’est moins : « les effets néfastes de la conception addictive des plateformes pèsent plus lourdement sur les enfants déjà les plus vulnérables – que ce soit en raison de l’instabilité familiale, de traumatismes, de difficultés économiques, ou (comme c’est souvent le cas) des trois. » C’est-à-dire que ces systèmes ont des impacts sociaux plus forts sur certains publics que sur d’autres.

« Les enquêtes de Common Sense Media montrent que les préadolescents issus de familles à faibles revenus passent environ trois heures de plus par jour devant les écrans de divertissement que leurs pairs issus de familles plus aisées. Chez les enfants de moins de huit ans, le temps passé devant les écrans par les enfants issus de familles à faibles revenus est plus du double de celui de leurs pairs plus aisés. Lorsque les familles à faibles revenus se connectent à Internet, environ 28 % d’entre elles sont dépendantes de leur smartphone (contre 4 % des adultes les plus aisés). Il existe donc une raison valable pour laquelle les parents à faibles revenus sont 50 % plus susceptibles d’être « extrêmement ou très inquiets » pour la santé mentale de leurs enfants que les parents à revenus élevés. Plus inquiétant encore, le Rapport mondial sur le bonheur 2026, basé sur un sondage auprès de 330 000 adolescents dans 43 pays, confirme que les adolescents issus de milieux socio-économiques défavorisés sont les plus touchés par les comportements numériques compulsifs. »

« Ce qui semble être un problème d’éducation parentale est en réalité un problème d’économie politique », explique Joralemon. « L’écart en matière de temps passé devant les écrans est lié à la réduction des financements alloués aux activités périscolaires, aux horaires de travail atypiques des parents à faibles revenus. Selon une étude de l’hôpital pour enfants Lurie, un parent sur quatre utilise les écrans faute de moyens pour faire garder ses enfants. Un document interne de YouTube, présenté lors du procès, décrivait la plateforme comme une « nounou numérique à court terme ». » Et le cadre politique mis en place pour remédier à ces problèmes, fondé presque entièrement sur la responsabilité parentale, est intrinsèquement régressif, appuie le chercheur.

Mais si « la dépendance numérique est un problème de santé publique, quelle est la solution ? », interrogeait Joralemon dans un article pour la revue Health Affairs. Il y rappelle que la compulsion où l’addiction numérique doit être appréhendée comme un problème de santé publique, non pas dû à une défaillance individuelle, mais à des produits conçus à des fins commerciales. Que la réglementation en la matière devrait donc s’inspirer de la réglementation du tabac qui en restreint l’accès et dénormalise son usage ; de la réglementation des opioïdes qui contrôle leur disponibilité par le biais d’une prescription supervisée ; et de la réglementation des jeux d’argent qui impose des mesures de protection dès la conception afin d’atténuer le potentiel addictif. Bref, s’appuyer sur des normes de conception des produits, des obligations d’avertissement et de divulgation, des restrictions publicitaires, des contrôles d’accès basés sur l’âge, des obligations de surveillance et des mécanismes de financement pour le traitement et la prévention. Or « les plateformes numériques fonctionnent sans contrôle comparable. Il n’existe aucune obligation générale de surveiller les signes de dépendance, aucune obligation d’interrompre les comportements à risque, ni aucune obligation de repenser les fonctionnalités connues pour favoriser une utilisation compulsive ».

Si les premiers litiges liés à la compulsion à arriver devant les tribunaux américains se concentrent sur les mineurs, les préjudices sous-jacents ne se limitent pas aux adolescents, mais touchent notamment les personnes âgées, ainsi que les individus souffrant de dépression, d’anxiété ou de solitude. Dans le cas des opioïdes comme du tabac, les actions en justice privées se sont révélées être le principal catalyseur, imposant la divulgation de documents et la surveillance des comportements, comme c’est le cas dans les régulations des jeux d’argent. « Le statu quo – qui consiste à considérer les technologies addictives algorithmiques comme fondamentalement différentes des autres produits conçus pour exploiter les vulnérabilités humaines – devient scientifiquement et éthiquement intenable. » 

Pour Joralemon, il faut aller plus loin encore, conclut-il sur le blog du LPE Project. « Une réponse adéquate doit associer les obligations des plateformes à des investissements dans les biens communs : des services de garde d’enfants abordables, des activités périscolaires, des horaires de travail stables et des espaces publics sûrs. Réglementer le produit est nécessaire. Mais construire un monde où les enfants n’auraient pas besoin de ces produits l’est tout autant ! »

Les discussions sur les strates qui constituent le réseau sont nourries, d’autant qu’elles interrogent profondément les enjeux de souveraineté technologique. La souveraineté numérique est un concept flou qui fait l’objet de beaucoup d’instrumentalisations, rappelait avec pertinence l’association Data For Good. Bien souvent, être souverain en la matière implique d’être autonome sur toutes les couches de l’industrie numérique. Un objectif impossible tant les dépendances sont partout, des logiciels au matériel, des ressources aux infrastructures, des conditions juridiques aux financements. Comme l’expliquait la chercheuse Ophélie Coelho dans son livre, Géopolitique du numérique(éditions de l’Atelier, nouvelle édition 2025) l’enjeu est bien plus de déterminer les secteurs et les couches sur lesquels nous devons reprendre le contrôle. Pour le dire autrement, l’enjeu n’est pas tant d’avoir des produits totalement souverains, que de comprendre là où la souveraineté doit s’exercer et comment. 

Construire la strate de l’autonomie

Cette autonomie stratégique à laquelle aspirer est très souvent présentée comme un enjeu nationaliste ou patriotique, qui confond la souveraineté avec le leadership technologique, sans toujours voir que ces leaderships peuvent reposer sur des dépendances innombrables, à l’image de l’enjeu à déployer des centres de données sur le territoire au prétexte de souveraineté, sans questionner le fait que leur financement ou leurs équipements puissent être totalement entre les mains d’acteurs étrangers. 

L’IA est en passe de devenir une couche supplémentaire dans le mille-feuille des couches sociotechniques du numérique. Et elle requestionne en profondeur ces enjeux, explique  Raffi Krikorian, directeur technique de Mozilla, dans une tribune pour Rest of World. « Dans un monde de plus en plus polarisé et protectionniste, où les plateformes technologiques sont de plus en plus instrumentalisées par les politiques étatiques, construire des infrastructures nationales critiques sur des systèmes dont on n’est pas propriétaire, que l’on ne peut ni auditer ni adapter, représente un risque considérable et croissant. Ce défi comporte une dimension tant économique que politique. Un État soucieux de sa souveraineté en matière d’IA en 2026 ne pourra pas justifier de manière crédible le financement d’une infrastructure d’IA étrangère et verticalement intégrée tout en négligeant les investissements dans des alternatives nationales et open source. Investir dans les hyperscalers peut minimiser les coûts à court terme, mais cela consolide également les rentes numériques versées à des entités étrangères, maximise la dépendance à long terme envers des partenaires peu fiables et augmente considérablement les coûts de sortie. Si les gouvernements financent la dépendance, c’est bien la dépendance qu’ils obtiendront. »

Pour Raffi Krikorian pourtant, l’enjeu n’est pas tant de construire une souveraineté de l’IA nationaliste, que de bâtir des Communs maîtrisés. « L’absence actuelle de financements privés à grande échelle pour les infrastructures d’IA ouvertes reflète leur nature de bien public, et non leurs capacités. Les modèles open source atteignent déjà couramment 90 % ou plus des performances des systèmes propriétaires, pour un coût bien moindre. Investir dans les cadres d’IA ouverts, c’est investir dans les infrastructures publiques numériques, car cela génère des avantages grâce à des coûts réduits, au maintien de l’autonomie politique et à des gains de productivité à l’échelle de l’économie. L’IA ouverte offre également ce que les systèmes propriétaires ne peuvent pas : la légitimité démocratique. Les pays ne créent pas de valeur en revendant des solutions étrangères, mais en développant des produits différenciés sur des bases partagées, ouvertes et moins coûteuses. Il s’agit d’une politique industrielle qui encourage la concurrence et le développement des compétences nationales, et non d’un rejet de l’industrie nationale. »

« Internet n’est pas né de la seule initiative d’acteurs privés, mais d’investissements publics soutenus dans les technologies ouvertes. De Linux à Apache, les fondations open source partagées sont devenues l’épine dorsale de l’économie numérique mondiale, favorisant l’innovation privée tout en empêchant la mainmise sur l’infrastructure. Du CERN à Airbus en passant par Galileo, la leçon est claire : lorsque les États cofinancent des fondations ouvertes ou partagées, l’innovation privée prospère. En revanche, lorsqu’ils financent l’accès, la dépendance s’accentue. L’IA se trouve précisément à ce tournant.»

Souveraineté ne rime pas avec isolement, rappelle-t-il. « Les coûts de développement de l’IA open source peuvent être partagés. Comme l’a déclaré le Premier ministre canadien Mark Carney à Davos : « Investir collectivement dans la résilience coûte moins cher que de construire sa propre forteresse. » L’enjeu n’est pas que chaque pays construise son propre jardin clos. Il appartient aux nations de collaborer autour de standards ouverts et d’infrastructures partagées, en rejetant la fausse dichotomie entre dépendance et isolement des plateformes, et en construisant plutôt un avenir de l’IA qu’elles maîtrisent réellement. » 

« Si nous voulons des écosystèmes d’IA résilients, ouverts et fiables, nous devons les financer comme tels – non par idéalisme, mais comme un investissement concret dans la souveraineté, la résilience et la légitimité démocratique. Les pays qui aspirent à la souveraineté en matière d’IA doivent participer à ce débat, non pas en simples observateurs, mais en tant que co-investisseurs et co-constructeurs. Plus nous attendons, plus il sera difficile de changer de cap », conclut le responsable de Mozilla en appelant à construire des protocoles plus que des plateformes, des cadres ouverts plus que des solutions, des systèmes de valeurs plus que des contraintes économiques ou techniques. Une proposition qui rappelle que c’est bien le cadre de la souveraineté qu’il faut discuter, pour comprendre là où nous pouvons avoir des dépendances et là où nous devons les refuser. L’enjeu n’est pas de construire des investissements nationaux mais bien d’investir dans des infrastructures communes porteuses de valeurs démocratiques et émancipatrices, libres et ouvertes. « La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisit, capacitante. 

La coopération comme architecture solidaire

On se souvient que, récemment, l’économiste Francesca Bria avait évoqué le risque d’une soumission à une strate autoritaire fomentée par les géants de la Silicon valley : « derrière les strates qui composent le réseau, comme l’avait défini Benjamin Bratton dans son livre, Le Stack (UGAP, 2020), comme autant de régimes de souveraineté qui se superposent et s’imbriquent, la strate autoritaire semble l’envers de la proposition d’autonomie stratégique que propose EuroStack ». Mais le risque est bien, sous couvert de souveraineté, de produire des strates nationalistes voire militaristes, comme semble le proposer l’annonce récente d’un « Deutchland Stack » Allemand. 

D’où l’importance de faire un pas de côté.

C’est la piste que proposent les chercheurs Trebor Scholz et Mark Esposito dans la revue d’innovation sociale de Stanford. Pour contrebalancer l’extractivisme des plateformes, « nous avons besoin de construire la strate solidaire de l’empilement numérique ». Lorsque les systèmes technologiques sont conçus uniquement pour l’extraction et l’efficacité, ils isolent et brisent les personnes qui les font vivre, rappellent les deux chercheurs. L’exploitation des travailleurs du clic par exemple est le « symptôme d’une industrie structurée pour transférer les risques vers le bas via des chaînes contractuelles opaques, tout en concentrant les profits et le contrôle au sommet ». Pour Scholz et Esposito, « sans intervention délibérée, ces logiques d’extraction se généraliseront à l’échelle mondiale, concentrant encore davantage le pouvoir entre les mains des plus puissants, à moins que nous ne choisissions de construire un système fondamentalement différent ». Jusqu’à présent, les chercheurs invitaient à investir dans des entreprises inclusives, dans des coopératives de travailleurs, que Scholz a beaucoup défendu. Trebor Scholz est professeur à la New School for Social Research de New York depuis 2009. Il est l’un des premiers à s’être attelé à analyser le phénomène du Digital Labor (Routledge, 2013). Il est aussi l’un des promoteurs du coopérativisme de plateformes (voir par exemple notre article de 2015), notamment dans son livre Le coopérativisme de plateformes (FYP, 2017) ainsi que dans Own this ! (Verso, 2023). Il est également le fondateur du Platform Cooperativism Consortium un réseau de promotion du mouvement coopérativiste, qui organise notamment des conférences sur la coopération, comme celle sur l’IA coopérative qui se tenait il y a peu à Istanbul. Pourtant, écrit-il dans son article, « la réponse aux méfaits de l’IA ne peut se limiter à la régulation des plateformes dominantes ». 

En fait, la concentration du pouvoir des géants du numérique rend de plus en plus vulnérables même les institutions internationales les plus critiques aux politiques autoritaires et aux pressions des dirigeants, comme l’illustre la dépendance de la Cour pénale internationale à l’égard de l’infrastructure Microsoft face aux menaces proférées sous l’administration Trump. Les coopératives, les institutions publiques et les mouvements sociaux doivent donc activement construire et connecter des alternatives grâce à ce que Scholz appelle la « pile de solidarité », une économie numérique coopérative émergente. 

« L’extraction ne se résume pas à des algorithmes biaisés ou à des violations de la vie privée. C’est un problème structurel : l’IA actuelle fonctionne grâce à ce que nous appelons une « strate d’extraction » verticalement intégrée, comprenant le matériel, l’infrastructure cloud, les modèles, la main-d’œuvre et les applications. Seules quelques entreprises contrôlent la construction, la gouvernance et l’utilisation de ces technologies et les personnes qui en dépendent n’ont aucun droit de regard démocratique. »

Les critiques et les régulateurs soulignent à juste titre que les seules directives éthiques ne peuvent résoudre les problèmes posés par la logique extractiviste des plateformes. Les systèmes d’IA reposent sur des modèles de propriété, des chaînes d’approvisionnement et des architectures techniques qui privilégient le profit, le passage à l’échelle et le contrôle. « Ces incitations structurelles déterminent la collecte des données, le traitement des travailleurs, les décideurs et les bénéficiaires de la création de valeur, privant ainsi les directives éthiques de tout pouvoir pour remettre en cause la logique sous-jacente du système. Une IA démocratique ne peut se contenter de louer un espace sur la strate extractiviste ! Elle exige que les travailleurs, les communautés, les coopératives et les institutions publiques se réapproprient l’infrastructure elle-même, couche par couche, de la terre au nuage. »

Scholz et Esposito plaident pour construire une architecture solidaire. Un défi qui nécessite de rejeter la notion d’intelligence artificielle, qui sous-entend une force magique et autonome, au profit d’une intelligence collective, reconnaissant le travail humain et le savoir partagé qui alimentent ces systèmes. Cependant, parvenir à la coordination nécessaire pour contester les monopoles mondiaux de l’IA demeure un défi de taille. Même des organisations établies comme l‘Alliance coopérative internationale, qui représente un mouvement d’environ un milliard de membres et des milliers de coopératives employant près de 10 % de l’emploi mondial, sont structurées principalement pour la représentation et le plaidoyer plutôt que pour la coordination et l’exploitation d’une infrastructure numérique partagée.

De la gouvernance coopérative… 

Pour les deux chercheurs, plusieurs initiatives menées par des communautés, des coopératives et des institutions publiques permettent déjà de reprendre le contrôle de ces niveaux économiques, notamment des ressources, des infrastructures, des données, du travail comme du savoir. 

Une approche solidaire exige des chaînes d’approvisionnement transparentes, la propriété communautaire des ressources minérales et des mécanismes de partage équitable des bénéfices. Elle permettrait également de distribuer l’infrastructure sur des serveurs fédérés, appartenant à la communauté et interconnectables sans contrôle central. Butler Rural Electric offre un précédent historique éloquent. Fondées dans les années 1930 avec le soutien du gouvernement fédéral et une gouvernance coopérative, les coopératives électriques rurales ont permis aux communautés de financer, construire et gérer leur propre infrastructure énergétique, un modèle qui continue aujourd’hui de fournir de l’électricité à environ 42 millions de personnes dans les zones rurales américaines. Des coopératives numériques telles que Hostsharing eG en Allemagne et Som Connexio en Espagne, ainsi que plusieurs coopératives de vente au détail au Royaume-Uni, appliquent cette même logique en mutualisant les ressources de leurs membres, en utilisant une gouvernance coopérative et en collaborant avec des partenaires publics pour construire et exploiter une infrastructure numérique partagée. Cela permet aux communautés de réduire leur dépendance aux fournisseurs de cloud propriétaires, de conserver le contrôle local de leurs données et d’assumer la responsabilité de la gestion des coûts environnementaux liés à la consommation d’énergie. Bien que ces initiatives soient explicitement expérimentales et de portée modeste, elles suggèrent que la capacité de calcul peut fonctionner comme un bien public. Les décideurs politiques et les responsables municipaux pourraient même appliquer ce modèle pour créer une option publique d’accès à la puissance de calcul. 

Dans le modèle d’extraction, les données personnelles sont une matière première prélevée auprès des utilisateurs pour alimenter des modèles propriétaires. Cette logique considère les individus non pas comme des participants ou des détenteurs de droits, mais comme des sources passives de valeur. Le modèle de solidarité, lui, réinvente les données comme une ressource partagée, gérée démocratiquement. Par exemple, MIDATA, une plateforme suisse de données de santé détenue et gérée par des patients agit comme une fiducie pour ses membres. Elle maintient une infrastructure sécurisée permettant aux patients de consulter leurs données agrégées et de décider démocratiquement de les partager ou non à des fins de recherche médicale. MIDATA démontre qu’il est possible de créer des ensembles de données de haute qualité, issus de sources éthiques, sans surveillance. Les membres partagent volontairement leurs données car ils font confiance à la gouvernance et à la gestion des données de la coopérative, ce qui élimine le besoin d’extraction ou de surveillance coercitive. 

Au travail, l’IA implique une rétroaction entre contenus et modérateurs. Les travailleurs étiquettent, examinent, corrigent et leurs décisions enregistrées sont utilisées par les systèmes pour reconnaître, classer, améliorer. Ce processus contraint les individus à absorber le fardeau psychologique des contenus. Dans le modèle solidaire, ces travailleurs ont des garanties de salaires, de droits, bénéficient de soutiens… et pilotent la gouvernance de leurs outils et missions, comme c’est le cas de nombreuses coopératives de travailleurs, comme celle de la Gamayyar African Tech Workers au Kenya, Facttic en Argentine, Outlandish à Londres… et de nombreuses autres (comme la plateforme danoise Hilfr qu’on avait évoqué dans notre article sur les plateformes du secteur du nettoyage).

… à l’IA coopérative

Scholz et Esposito proposent d’appliquer les principes coopératifs à l’IA. « L’accès à l’IA seul est insuffisant quand les outils fonctionnent comme des boîtes noires, incapables d’expliquer ou de remettre en question leurs résultats, et si leurs valeurs reposent sur des principes imposés plutôt que sur des valeurs démocratiquement établies. L’approche solidaire propose de réhabiliter le domaine du savoir comme un espace de gouvernance collective, favorisant l’explicabilité, la contestabilité, des normes partagées » pour construire d’autres IA.

AI4Coops, en Argentine, est une initiative de petite envergure qui réunit des praticiens et des technologues du monde coopératif afin d’étudier comment l’intelligence artificielle pourrait soutenir la gouvernance coopérative et l’apprentissage partagé. Elle veille à ce que la culture algorithmique ne soit pas réservée aux institutions d’élite ni concentrée au sein des géants de la technologie, mais soit largement accessible aux travailleurs, aux coopératives et aux communautés. Elle développe des outils d’IA adaptés à des problématiques locales avec des acteurs locaux, comme des systèmes de reconnaissance d’images pour du contrôle qualité dans une usine, un système d’analyse d’images satellites pour des coopératives agricoles… La coopérative britannique Animorph développe des outils de réalité augmentée pour la prise en charge de la démence, utilisant la narration immersive et des supports visuels pour soutenir la mémoire, la communication et le lien affectif des personnes atteintes de démence et de leurs aidants. Puisqu’elle est détenue par ses employés, elle refuse de monétiser la vulnérabilité des patients et conçoit des outils qui privilégient les soins aux indicateurs d’engagement. « Ces exemples montrent que l’IA au service du bien commun ne saurait se réduire à de la simple posture vertueuse, à du marketing éthique, ni à des formes d’écoblanchiment ou de blanchiment d’image. La construction d’une infrastructure solidaire exige que les modèles économiques alternatifs soient véritablement ancrés dans la démocratie au travail, la propriété partagée et une gouvernance responsable », expliquent les chercheurs. Ces modèles locaux ont d’autres vertus encore, comme la souveraineté linguistique, la maîtrise des processus, la sobriété…

Reste que, comme nous le disions, « les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. » Pour Scholz et Esposito également, l’infrastructure solidaire nécessite, pour émerger et s’imposer, une articulation stratégique des politiques, des financements et de l’organisation communautaire. Il faut que les développeurs technologiques « s’accordent régulièrement sur des principes partagés, l’interdépendance matérielle, des institutions durables, des rituels et un récit politique commun que les individus choisissent consciemment de défendre, notamment sous pression ».

Ici, Scholz et Esposito prennent l’exemple des organisations autonomes décentralisées (DAO), où la blockchain aide à formaliser la gouvernance partagée. Pas sûr que l’exemple soit convaincant, tant le mouvement est devenu a bien des égards problématique. Par contre, ils pointent vers le Public AI Network, un réseau de défense et promotion d’une IA publique intégrée, « qui fournirait des services d’IA au même titre que l’électricité ou l’eau », accessible à tous, contrainte à rendre des comptes, durable, fiable. Ou encore le projet Lestac AI en France, pour tester des services d’IA écoresponsables. Ou le modèle multilingue et open source Apertus, développé par l’École polytechnique fédérale de Zurich (EPFZ) et l’École polytechnique fédérale de Lausanne (EPFL)…  Le protocole OpenCourier, par exemple, crée une base technique commune permettant aux plateformes de livraison gérées par leurs travailleurs de se connecter et de collaborer. Ou encore le projet d’IA coopérative du réseau des collectivités locales britanniques qui s’engage à respecter les principes coopératifs et démocratiques dans la prestation de services publics. 

Pour Scholz et Esposito, ces « cercles » de strates solidaires, locales, conçoivent le développement d’infrastructures comme une forme d’action politique collective, que ce soit par le biais de fiducies de données municipales, de services cloud coopératifs ou de modèles linguistiques gérés publiquement. « Le discours dominant sur l’IA laisse faussement entendre qu’un contrôle centralisé par les entreprises est inévitable. Pourtant, des modérateurs de contenu au Kenya, des gestionnaires de données en Suisse et d’autres encore démontrent que les composantes d’un avenir numérique démocratique sont déjà présentes. Notre mission est de les relier et, ce faisant, d’exercer notre pouvoir d’agir, de refuser le désespoir et de créer un système où la technologie est au service de la majorité. »

Hubert Guillaud

Signalons encore que dans le syllabus (.pdf) du cours qu’il a donné au premier semestre à la New School sur le thème d’une « IA sans patrons », Trebor Scholz pointait encore vers bien d’autres exemples. En estimant que les infrastructures solidaires peuvent être mises en place à chaque niveau de la chaîne d’approvisionnement mondiale de l’IA, il évoquait les mines coopératives au Pérou, en Colombie, en Zambie ou en Mongolie, ou des centres de données coopératifs en Allemagne ou aux Pays-Bas. Il signalait par exemple, la tribune de la doctorante Tara Merk, contributrice au Metagovernance Project, sur les limites de projets de centres de données coopératifs. Face aux data centers dominés par les géants de la Tech, Merk défendait « une plus grande diversité dans la propriété et la gouvernance des centres de données », notamment coopératifs. « Et si les centres de données étaient détenus et gérés de manière coopérative par les personnes vivant à proximité immédiate et souvent directement desservies par eux ? » Dans ce modèle, les opérateurs citoyens pourraient recevoir une part des bénéfices générés par le centre de données (à l’instar des parcs éoliens citoyens). Cela entraînerait une redistribution indirecte des bénéfices générés par les données des utilisateurs en ligne – une idée qui prend d’autant plus d’importance que ces données gagnent en valeur à l’ère de l’IA. Les centres de données coopératifs offriraient également aux citoyens un meilleur contrôle sur l’impact de ces infrastructures sur leur environnement physique local. Par exemple, les citoyens pourraient décider si et quand la quantité d’énergie ou d’eau utilisée par le centre de données entre en conflit avec d’autres besoins locaux et pourraient décider de réduire l’approvisionnement énergétique du centre de données en cas de situation critique. Guidé par les valeurs coopératives d’équité et de solidarité, de tels centres de données pourraient décider de renoncer à des bénéfices plus élevés afin de rendre son infrastructure plus accessible à tous, comme aux associations et coopératives. Cela pourrait à son tour encourager une plus grande diversité dans le développement de l’IA et inciter les entreprises à adopter une identité coopérative. De plus, en s’appuyant sur une infrastructure de centres de données coopérative, les coopératives d’IA renforceraient leur autonomie et leur indépendance, offrant à leurs membres un meilleur contrôle sur l’ensemble de la pile technologique, y compris les moyens de production de l’IA. Tara Merk est en train de faire une étude sur GAD eG, une coopérative qui pendant 50 ans a été l’un des grands fournisseurs de services informatiques allemand notamment pour les services financiers (jusqu’à sa fusion en 2015 avec une autre entreprise). Pour la chercheuse, l’exemple de GAD démontre « que les centres de données coopératifs constituent une option économiquement viable et évolutive, capable de fonctionner de manière fiable dans des secteurs critiques ». 

Dans son syllabus, Scholz aborde d’autres exemples de coopératives pour montrer comment les valeurs coopératives peuvent guider des alternatives concrètes au développement technologique, comme le propose Read-Coop, la coopérative européenne à l’origine de la plateforme de reconnaissance d’écriture manuscrite Transkribus. Et pointe vers nombre de ressources sur le sujet des technologies pour la coopération. 

A compléter encore par le numéro de Nature consacré aux modèles d’IA des pays du Sud, qui offre un autre regard sur d’autres façon de faire de l’IA.

Les discussions sur les strates qui constituent le réseau sont nourries, d’autant qu’elles interrogent profondément les enjeux de souveraineté technologique. La souveraineté numérique est un concept flou qui fait l’objet de beaucoup d’instrumentalisations, rappelait avec pertinence l’association Data For Good. Bien souvent, être souverain en la matière implique d’être autonome sur toutes les couches de l’industrie numérique. Un objectif impossible tant les dépendances sont partout, des logiciels au matériel, des ressources aux infrastructures, des conditions juridiques aux financements. Comme l’expliquait la chercheuse Ophélie Coelho dans son livre, Géopolitique du numérique(éditions de l’Atelier, nouvelle édition 2025) l’enjeu est bien plus de déterminer les secteurs et les couches sur lesquels nous devons reprendre le contrôle. Pour le dire autrement, l’enjeu n’est pas tant d’avoir des produits totalement souverains, que de comprendre là où la souveraineté doit s’exercer et comment. 

Construire la strate de l’autonomie

Cette autonomie stratégique à laquelle aspirer est très souvent présentée comme un enjeu nationaliste ou patriotique, qui confond la souveraineté avec le leadership technologique, sans toujours voir que ces leaderships peuvent reposer sur des dépendances innombrables, à l’image de l’enjeu à déployer des centres de données sur le territoire au prétexte de souveraineté, sans questionner le fait que leur financement ou leurs équipements puissent être totalement entre les mains d’acteurs étrangers. 

L’IA est en passe de devenir une couche supplémentaire dans le mille-feuille des couches sociotechniques du numérique. Et elle requestionne en profondeur ces enjeux, explique  Raffi Krikorian, directeur technique de Mozilla, dans une tribune pour Rest of World. « Dans un monde de plus en plus polarisé et protectionniste, où les plateformes technologiques sont de plus en plus instrumentalisées par les politiques étatiques, construire des infrastructures nationales critiques sur des systèmes dont on n’est pas propriétaire, que l’on ne peut ni auditer ni adapter, représente un risque considérable et croissant. Ce défi comporte une dimension tant économique que politique. Un État soucieux de sa souveraineté en matière d’IA en 2026 ne pourra pas justifier de manière crédible le financement d’une infrastructure d’IA étrangère et verticalement intégrée tout en négligeant les investissements dans des alternatives nationales et open source. Investir dans les hyperscalers peut minimiser les coûts à court terme, mais cela consolide également les rentes numériques versées à des entités étrangères, maximise la dépendance à long terme envers des partenaires peu fiables et augmente considérablement les coûts de sortie. Si les gouvernements financent la dépendance, c’est bien la dépendance qu’ils obtiendront. »

Pour Raffi Krikorian pourtant, l’enjeu n’est pas tant de construire une souveraineté de l’IA nationaliste, que de bâtir des Communs maîtrisés. « L’absence actuelle de financements privés à grande échelle pour les infrastructures d’IA ouvertes reflète leur nature de bien public, et non leurs capacités. Les modèles open source atteignent déjà couramment 90 % ou plus des performances des systèmes propriétaires, pour un coût bien moindre. Investir dans les cadres d’IA ouverts, c’est investir dans les infrastructures publiques numériques, car cela génère des avantages grâce à des coûts réduits, au maintien de l’autonomie politique et à des gains de productivité à l’échelle de l’économie. L’IA ouverte offre également ce que les systèmes propriétaires ne peuvent pas : la légitimité démocratique. Les pays ne créent pas de valeur en revendant des solutions étrangères, mais en développant des produits différenciés sur des bases partagées, ouvertes et moins coûteuses. Il s’agit d’une politique industrielle qui encourage la concurrence et le développement des compétences nationales, et non d’un rejet de l’industrie nationale. »

« Internet n’est pas né de la seule initiative d’acteurs privés, mais d’investissements publics soutenus dans les technologies ouvertes. De Linux à Apache, les fondations open source partagées sont devenues l’épine dorsale de l’économie numérique mondiale, favorisant l’innovation privée tout en empêchant la mainmise sur l’infrastructure. Du CERN à Airbus en passant par Galileo, la leçon est claire : lorsque les États cofinancent des fondations ouvertes ou partagées, l’innovation privée prospère. En revanche, lorsqu’ils financent l’accès, la dépendance s’accentue. L’IA se trouve précisément à ce tournant.»

Souveraineté ne rime pas avec isolement, rappelle-t-il. « Les coûts de développement de l’IA open source peuvent être partagés. Comme l’a déclaré le Premier ministre canadien Mark Carney à Davos : « Investir collectivement dans la résilience coûte moins cher que de construire sa propre forteresse. » L’enjeu n’est pas que chaque pays construise son propre jardin clos. Il appartient aux nations de collaborer autour de standards ouverts et d’infrastructures partagées, en rejetant la fausse dichotomie entre dépendance et isolement des plateformes, et en construisant plutôt un avenir de l’IA qu’elles maîtrisent réellement. » 

« Si nous voulons des écosystèmes d’IA résilients, ouverts et fiables, nous devons les financer comme tels – non par idéalisme, mais comme un investissement concret dans la souveraineté, la résilience et la légitimité démocratique. Les pays qui aspirent à la souveraineté en matière d’IA doivent participer à ce débat, non pas en simples observateurs, mais en tant que co-investisseurs et co-constructeurs. Plus nous attendons, plus il sera difficile de changer de cap », conclut le responsable de Mozilla en appelant à construire des protocoles plus que des plateformes, des cadres ouverts plus que des solutions, des systèmes de valeurs plus que des contraintes économiques ou techniques. Une proposition qui rappelle que c’est bien le cadre de la souveraineté qu’il faut discuter, pour comprendre là où nous pouvons avoir des dépendances et là où nous devons les refuser. L’enjeu n’est pas de construire des investissements nationaux mais bien d’investir dans des infrastructures communes porteuses de valeurs démocratiques et émancipatrices, libres et ouvertes. « La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisit, capacitante. 

La coopération comme architecture solidaire

On se souvient que, récemment, l’économiste Francesca Bria avait évoqué le risque d’une soumission à une strate autoritaire fomentée par les géants de la Silicon valley : « derrière les strates qui composent le réseau, comme l’avait défini Benjamin Bratton dans son livre, Le Stack (UGAP, 2020), comme autant de régimes de souveraineté qui se superposent et s’imbriquent, la strate autoritaire semble l’envers de la proposition d’autonomie stratégique que propose EuroStack ». Mais le risque est bien, sous couvert de souveraineté, de produire des strates nationalistes voire militaristes, comme semble le proposer l’annonce récente d’un « Deutchland Stack » Allemand. 

D’où l’importance de faire un pas de côté.

C’est la piste que proposent les chercheurs Trebor Scholz et Mark Esposito dans la revue d’innovation sociale de Stanford. Pour contrebalancer l’extractivisme des plateformes, « nous avons besoin de construire la strate solidaire de l’empilement numérique ». Lorsque les systèmes technologiques sont conçus uniquement pour l’extraction et l’efficacité, ils isolent et brisent les personnes qui les font vivre, rappellent les deux chercheurs. L’exploitation des travailleurs du clic par exemple est le « symptôme d’une industrie structurée pour transférer les risques vers le bas via des chaînes contractuelles opaques, tout en concentrant les profits et le contrôle au sommet ». Pour Scholz et Esposito, « sans intervention délibérée, ces logiques d’extraction se généraliseront à l’échelle mondiale, concentrant encore davantage le pouvoir entre les mains des plus puissants, à moins que nous ne choisissions de construire un système fondamentalement différent ». Jusqu’à présent, les chercheurs invitaient à investir dans des entreprises inclusives, dans des coopératives de travailleurs, que Scholz a beaucoup défendu. Trebor Scholz est professeur à la New School for Social Research de New York depuis 2009. Il est l’un des premiers à s’être attelé à analyser le phénomène du Digital Labor (Routledge, 2013). Il est aussi l’un des promoteurs du coopérativisme de plateformes (voir par exemple notre article de 2015), notamment dans son livre Le coopérativisme de plateformes (FYP, 2017) ainsi que dans Own this ! (Verso, 2023). Il est également le fondateur du Platform Cooperativism Consortium un réseau de promotion du mouvement coopérativiste, qui organise notamment des conférences sur la coopération, comme celle sur l’IA coopérative qui se tenait il y a peu à Istanbul. Pourtant, écrit-il dans son article, « la réponse aux méfaits de l’IA ne peut se limiter à la régulation des plateformes dominantes ». 

En fait, la concentration du pouvoir des géants du numérique rend de plus en plus vulnérables même les institutions internationales les plus critiques aux politiques autoritaires et aux pressions des dirigeants, comme l’illustre la dépendance de la Cour pénale internationale à l’égard de l’infrastructure Microsoft face aux menaces proférées sous l’administration Trump. Les coopératives, les institutions publiques et les mouvements sociaux doivent donc activement construire et connecter des alternatives grâce à ce que Scholz appelle la « pile de solidarité », une économie numérique coopérative émergente. 

« L’extraction ne se résume pas à des algorithmes biaisés ou à des violations de la vie privée. C’est un problème structurel : l’IA actuelle fonctionne grâce à ce que nous appelons une « strate d’extraction » verticalement intégrée, comprenant le matériel, l’infrastructure cloud, les modèles, la main-d’œuvre et les applications. Seules quelques entreprises contrôlent la construction, la gouvernance et l’utilisation de ces technologies et les personnes qui en dépendent n’ont aucun droit de regard démocratique. »

Les critiques et les régulateurs soulignent à juste titre que les seules directives éthiques ne peuvent résoudre les problèmes posés par la logique extractiviste des plateformes. Les systèmes d’IA reposent sur des modèles de propriété, des chaînes d’approvisionnement et des architectures techniques qui privilégient le profit, le passage à l’échelle et le contrôle. « Ces incitations structurelles déterminent la collecte des données, le traitement des travailleurs, les décideurs et les bénéficiaires de la création de valeur, privant ainsi les directives éthiques de tout pouvoir pour remettre en cause la logique sous-jacente du système. Une IA démocratique ne peut se contenter de louer un espace sur la strate extractiviste ! Elle exige que les travailleurs, les communautés, les coopératives et les institutions publiques se réapproprient l’infrastructure elle-même, couche par couche, de la terre au nuage. »

Scholz et Esposito plaident pour construire une architecture solidaire. Un défi qui nécessite de rejeter la notion d’intelligence artificielle, qui sous-entend une force magique et autonome, au profit d’une intelligence collective, reconnaissant le travail humain et le savoir partagé qui alimentent ces systèmes. Cependant, parvenir à la coordination nécessaire pour contester les monopoles mondiaux de l’IA demeure un défi de taille. Même des organisations établies comme l‘Alliance coopérative internationale, qui représente un mouvement d’environ un milliard de membres et des milliers de coopératives employant près de 10 % de l’emploi mondial, sont structurées principalement pour la représentation et le plaidoyer plutôt que pour la coordination et l’exploitation d’une infrastructure numérique partagée.

De la gouvernance coopérative… 

Pour les deux chercheurs, plusieurs initiatives menées par des communautés, des coopératives et des institutions publiques permettent déjà de reprendre le contrôle de ces niveaux économiques, notamment des ressources, des infrastructures, des données, du travail comme du savoir. 

Une approche solidaire exige des chaînes d’approvisionnement transparentes, la propriété communautaire des ressources minérales et des mécanismes de partage équitable des bénéfices. Elle permettrait également de distribuer l’infrastructure sur des serveurs fédérés, appartenant à la communauté et interconnectables sans contrôle central. Butler Rural Electric offre un précédent historique éloquent. Fondées dans les années 1930 avec le soutien du gouvernement fédéral et une gouvernance coopérative, les coopératives électriques rurales ont permis aux communautés de financer, construire et gérer leur propre infrastructure énergétique, un modèle qui continue aujourd’hui de fournir de l’électricité à environ 42 millions de personnes dans les zones rurales américaines. Des coopératives numériques telles que Hostsharing eG en Allemagne et Som Connexio en Espagne, ainsi que plusieurs coopératives de vente au détail au Royaume-Uni, appliquent cette même logique en mutualisant les ressources de leurs membres, en utilisant une gouvernance coopérative et en collaborant avec des partenaires publics pour construire et exploiter une infrastructure numérique partagée. Cela permet aux communautés de réduire leur dépendance aux fournisseurs de cloud propriétaires, de conserver le contrôle local de leurs données et d’assumer la responsabilité de la gestion des coûts environnementaux liés à la consommation d’énergie. Bien que ces initiatives soient explicitement expérimentales et de portée modeste, elles suggèrent que la capacité de calcul peut fonctionner comme un bien public. Les décideurs politiques et les responsables municipaux pourraient même appliquer ce modèle pour créer une option publique d’accès à la puissance de calcul. 

Dans le modèle d’extraction, les données personnelles sont une matière première prélevée auprès des utilisateurs pour alimenter des modèles propriétaires. Cette logique considère les individus non pas comme des participants ou des détenteurs de droits, mais comme des sources passives de valeur. Le modèle de solidarité, lui, réinvente les données comme une ressource partagée, gérée démocratiquement. Par exemple, MIDATA, une plateforme suisse de données de santé détenue et gérée par des patients agit comme une fiducie pour ses membres. Elle maintient une infrastructure sécurisée permettant aux patients de consulter leurs données agrégées et de décider démocratiquement de les partager ou non à des fins de recherche médicale. MIDATA démontre qu’il est possible de créer des ensembles de données de haute qualité, issus de sources éthiques, sans surveillance. Les membres partagent volontairement leurs données car ils font confiance à la gouvernance et à la gestion des données de la coopérative, ce qui élimine le besoin d’extraction ou de surveillance coercitive. 

Au travail, l’IA implique une rétroaction entre contenus et modérateurs. Les travailleurs étiquettent, examinent, corrigent et leurs décisions enregistrées sont utilisées par les systèmes pour reconnaître, classer, améliorer. Ce processus contraint les individus à absorber le fardeau psychologique des contenus. Dans le modèle solidaire, ces travailleurs ont des garanties de salaires, de droits, bénéficient de soutiens… et pilotent la gouvernance de leurs outils et missions, comme c’est le cas de nombreuses coopératives de travailleurs, comme celle de la Gamayyar African Tech Workers au Kenya, Facttic en Argentine, Outlandish à Londres… et de nombreuses autres (comme la plateforme danoise Hilfr qu’on avait évoqué dans notre article sur les plateformes du secteur du nettoyage).

… à l’IA coopérative

Scholz et Esposito proposent d’appliquer les principes coopératifs à l’IA. « L’accès à l’IA seul est insuffisant quand les outils fonctionnent comme des boîtes noires, incapables d’expliquer ou de remettre en question leurs résultats, et si leurs valeurs reposent sur des principes imposés plutôt que sur des valeurs démocratiquement établies. L’approche solidaire propose de réhabiliter le domaine du savoir comme un espace de gouvernance collective, favorisant l’explicabilité, la contestabilité, des normes partagées » pour construire d’autres IA.

AI4Coops, en Argentine, est une initiative de petite envergure qui réunit des praticiens et des technologues du monde coopératif afin d’étudier comment l’intelligence artificielle pourrait soutenir la gouvernance coopérative et l’apprentissage partagé. Elle veille à ce que la culture algorithmique ne soit pas réservée aux institutions d’élite ni concentrée au sein des géants de la technologie, mais soit largement accessible aux travailleurs, aux coopératives et aux communautés. Elle développe des outils d’IA adaptés à des problématiques locales avec des acteurs locaux, comme des systèmes de reconnaissance d’images pour du contrôle qualité dans une usine, un système d’analyse d’images satellites pour des coopératives agricoles… La coopérative britannique Animorph développe des outils de réalité augmentée pour la prise en charge de la démence, utilisant la narration immersive et des supports visuels pour soutenir la mémoire, la communication et le lien affectif des personnes atteintes de démence et de leurs aidants. Puisqu’elle est détenue par ses employés, elle refuse de monétiser la vulnérabilité des patients et conçoit des outils qui privilégient les soins aux indicateurs d’engagement. « Ces exemples montrent que l’IA au service du bien commun ne saurait se réduire à de la simple posture vertueuse, à du marketing éthique, ni à des formes d’écoblanchiment ou de blanchiment d’image. La construction d’une infrastructure solidaire exige que les modèles économiques alternatifs soient véritablement ancrés dans la démocratie au travail, la propriété partagée et une gouvernance responsable », expliquent les chercheurs. Ces modèles locaux ont d’autres vertus encore, comme la souveraineté linguistique, la maîtrise des processus, la sobriété…

Reste que, comme nous le disions, « les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. » Pour Scholz et Esposito également, l’infrastructure solidaire nécessite, pour émerger et s’imposer, une articulation stratégique des politiques, des financements et de l’organisation communautaire. Il faut que les développeurs technologiques « s’accordent régulièrement sur des principes partagés, l’interdépendance matérielle, des institutions durables, des rituels et un récit politique commun que les individus choisissent consciemment de défendre, notamment sous pression ».

Ici, Scholz et Esposito prennent l’exemple des organisations autonomes décentralisées (DAO), où la blockchain aide à formaliser la gouvernance partagée. Pas sûr que l’exemple soit convaincant, tant le mouvement est devenu a bien des égards problématique. Par contre, ils pointent vers le Public AI Network, un réseau de défense et promotion d’une IA publique intégrée, « qui fournirait des services d’IA au même titre que l’électricité ou l’eau », accessible à tous, contrainte à rendre des comptes, durable, fiable. Ou encore le projet Lestac AI en France, pour tester des services d’IA écoresponsables. Ou le modèle multilingue et open source Apertus, développé par l’École polytechnique fédérale de Zurich (EPFZ) et l’École polytechnique fédérale de Lausanne (EPFL)…  Le protocole OpenCourier, par exemple, crée une base technique commune permettant aux plateformes de livraison gérées par leurs travailleurs de se connecter et de collaborer. Ou encore le projet d’IA coopérative du réseau des collectivités locales britanniques qui s’engage à respecter les principes coopératifs et démocratiques dans la prestation de services publics. 

Pour Scholz et Esposito, ces « cercles » de strates solidaires, locales, conçoivent le développement d’infrastructures comme une forme d’action politique collective, que ce soit par le biais de fiducies de données municipales, de services cloud coopératifs ou de modèles linguistiques gérés publiquement. « Le discours dominant sur l’IA laisse faussement entendre qu’un contrôle centralisé par les entreprises est inévitable. Pourtant, des modérateurs de contenu au Kenya, des gestionnaires de données en Suisse et d’autres encore démontrent que les composantes d’un avenir numérique démocratique sont déjà présentes. Notre mission est de les relier et, ce faisant, d’exercer notre pouvoir d’agir, de refuser le désespoir et de créer un système où la technologie est au service de la majorité. »

Hubert Guillaud

Signalons encore que dans le syllabus (.pdf) du cours qu’il a donné au premier semestre à la New School sur le thème d’une « IA sans patrons », Trebor Scholz pointait encore vers bien d’autres exemples. En estimant que les infrastructures solidaires peuvent être mises en place à chaque niveau de la chaîne d’approvisionnement mondiale de l’IA, il évoquait les mines coopératives au Pérou, en Colombie, en Zambie ou en Mongolie, ou des centres de données coopératifs en Allemagne ou aux Pays-Bas. Il signalait par exemple, la tribune de la doctorante Tara Merk, contributrice au Metagovernance Project, sur les limites de projets de centres de données coopératifs. Face aux data centers dominés par les géants de la Tech, Merk défendait « une plus grande diversité dans la propriété et la gouvernance des centres de données », notamment coopératifs. « Et si les centres de données étaient détenus et gérés de manière coopérative par les personnes vivant à proximité immédiate et souvent directement desservies par eux ? » Dans ce modèle, les opérateurs citoyens pourraient recevoir une part des bénéfices générés par le centre de données (à l’instar des parcs éoliens citoyens). Cela entraînerait une redistribution indirecte des bénéfices générés par les données des utilisateurs en ligne – une idée qui prend d’autant plus d’importance que ces données gagnent en valeur à l’ère de l’IA. Les centres de données coopératifs offriraient également aux citoyens un meilleur contrôle sur l’impact de ces infrastructures sur leur environnement physique local. Par exemple, les citoyens pourraient décider si et quand la quantité d’énergie ou d’eau utilisée par le centre de données entre en conflit avec d’autres besoins locaux et pourraient décider de réduire l’approvisionnement énergétique du centre de données en cas de situation critique. Guidé par les valeurs coopératives d’équité et de solidarité, de tels centres de données pourraient décider de renoncer à des bénéfices plus élevés afin de rendre son infrastructure plus accessible à tous, comme aux associations et coopératives. Cela pourrait à son tour encourager une plus grande diversité dans le développement de l’IA et inciter les entreprises à adopter une identité coopérative. De plus, en s’appuyant sur une infrastructure de centres de données coopérative, les coopératives d’IA renforceraient leur autonomie et leur indépendance, offrant à leurs membres un meilleur contrôle sur l’ensemble de la pile technologique, y compris les moyens de production de l’IA. Tara Merk est en train de faire une étude sur GAD eG, une coopérative qui pendant 50 ans a été l’un des grands fournisseurs de services informatiques allemand notamment pour les services financiers (jusqu’à sa fusion en 2015 avec une autre entreprise). Pour la chercheuse, l’exemple de GAD démontre « que les centres de données coopératifs constituent une option économiquement viable et évolutive, capable de fonctionner de manière fiable dans des secteurs critiques ». 

Dans son syllabus, Scholz aborde d’autres exemples de coopératives pour montrer comment les valeurs coopératives peuvent guider des alternatives concrètes au développement technologique, comme le propose Read-Coop, la coopérative européenne à l’origine de la plateforme de reconnaissance d’écriture manuscrite Transkribus. Et pointe vers nombre de ressources sur le sujet des technologies pour la coopération. 

A compléter encore par le numéro de Nature consacré aux modèles d’IA des pays du Sud, qui offre un autre regard sur d’autres façon de faire de l’IA.