« L’IA est un concentré de concepts d’organisations ratés, et l’apogée de l’ère des incompétents, une époque où nous sommes dirigés par des gens tellement déconnectés de la réalité du terrain qu’il était inévitable qu’une technologie soit créée spécifiquement pour exploiter leur incompétence », cingle Ed Zitron, dans un billet savoureux d’être si rageux. 

« Si les PDG sont particulièrement vulnérables à la psychose de l’IA c’est parce qu’ils sont suffisamment éloignés du travail de terrain nécessaire pour générer de la valeur avec l’IA. Les LLM sont dangereux pour de nombreuses raisons, mais l’une des moins évoquées est leur capacité à manipuler les dirigeants les plus incompétents. L’IA générative est très douée pour imiter le travail, tout comme la plupart des managers et des dirigeants. Comme eux, même si elle est totalement incapable de faire quelque chose, elle prétendra le contraire et vous complimentera pour vos suggestions. Et c’est pour ça que les crétins du business l’adorent. » « Là où un humain dirait des choses agaçantes comme « c’est impossible dans ces délais » ou « on n’a pas les ressources nécessaires », l’IA répondra « bien sûr, tout de suite ! » et dépensera un maximum de ressources. »  

« Les entreprises ne dépensent pas des millions, voire des centaines de millions de dollars par an en IA parce que c’est une bonne chose, mais parce qu’elles sont dirigées par des personnes totalement incompétentes. L’IA générative est un véritable aimant pour les surveillants, les mouchards, les incapables, les flagorneurs et tous ceux qui détestent travailler et aiment rabaisser les autres. Autrement dit, elle flatte les ratés qui pensent qu’apprendre ou exceller dans un domaine est une perte de temps, car ils méritent de faire ce qu’ils veulent sans le moindre effort. » Les imbéciles de l’IA du monde des affaires sont des sortes d’escrocs, à l’heure où l’escroquerie est devenue la norme pour une part alarmante de la société. 

Si nous en sommes arrivés là, pour Zitron, c’est parce que la définition d’une bonne entreprise a évolué : nous sommes passés d’une entreprise fabriquant de bons produits à un prix juste, fidélisant sa clientèle et s’appuyant sur un marché durable, à une entreprise capable d’afficher la plus forte croissance boursière d’un trimestre à l’autre. C’est ce qu’il appelle, l’économie de la dégradation, une expression qui décrit bien comment les entreprises technologiques ont volontairement dénaturé leurs produits phares pour satisfaire leurs actionnaires, transformant des services utiles – et parfois appréciés – en une coquille vide, au nom de la croissance. Il est important de noter que cette transformation ne se limite pas au secteur technologique et n’est pas apparue uniquement lorsque ce secteur a pris sa forme actuelle, alimentée par le capital-risque et cotée en bourse. « Le management, en tant que concept, ne signifie plus « faire le travail », mais instaurer une culture de domination et d’extraction de valeur. » Un manager, à l’instar d’un PDG, n’occupe plus une fonction à responsabilités réelles : son rôle est de s’assurer que vous travaillez, de connaître suffisamment votre travail pour pouvoir vous donner des instructions, « mais ce rôle de « donner des ordres » ne s’accompagne d’aucun travail concret, et ces instructions n’ont pas besoin d’être utiles, ni même pertinentes.» « Les problèmes que Microsoft, Google, Meta et Amazon résolvent quotidiennement sont ceux liés à leurs actionnaires. Comment assurer notre croissance ? Comment maintenir l’engagement des utilisateurs avec nos produits ? Comment convaincre nos clients de payer plus cher pour nos services ? »

« Les machines à fabriquer du consentement promues par les imbéciles du monde des affaires servent à nous couper de la réalité, comme eux-mêmes le sont », explique Zitron avec sa verve habituelle. Comme si se déconnecter de la réalité était le principal moyen pour espérer devenir riche et occuper un poste de direction. 

« C’est pourquoi tant de patrons ont une réaction si anormale face à l’IA, la promouvant et la défendant comme s’il s’agissait de leur religion ou de leur patrie. Si beaucoup utilisent les LLM et les perçoivent comme une sorte de calculatrice ou de moteur de recherche, beaucoup d’autres y voient l’opportunité de s’élever au-dessus du peuple qui travaille ou qui crée, car ils trouvent le processus de travail ou d’effort absolument répugnant. Quand quelqu’un dénigre l’IA, l’idiot du Business se sent obligé de la défendre bec et ongles, car attaquer les LLM revient à attaquer leur production, ce qui revient à juger ceux qui tolèrent sa médiocrité et ses hallucinations inévitables. » « Les LLM impressionnent les écrivains qui rechignent à écrire, les développeurs qui rechignent à coder, les chercheurs qui rechignent à faire de la recherche et les juristes qui se désintéressent de la jurisprudence. Ceux qui vous vantent les mérites de l’IA et vous persuadent qu’il est indispensable de l’utiliser cherchent en réalité à justifier leur propre paresse ou leur aversion pour l’effort. Quant à ceux qui sont impressionnés par les travaux des LLM, ils ont généralement des exigences crasses ». 

« L’agressivité dont font preuve les promoteurs et les dirigeants de l’IA envers ceux qui ne sont pas convaincus révèle une véritable faiblesse intellectuelle et morale. Personne n’a jamais eu raison, avec une telle insistance, une telle agressivité et un tel discours péremptoire du type « c’est là, et si vous ne l’adoptez pas, vous êtes stupide et condamné ». Personne d’aussi désespéré, insistant et autoritaire n’a jamais eu de bonnes intentions ». 

Les zélotes de l’IA « ne défendent pas tant les LLM que la forme la plus aboutie du capitalisme », celle d’un capitalisme de corruption, de prédation, mafieux. « L’industrie de l’IA est fondamentalement une machine à escroquer », balance Zitron. « Quelqu’un qui n’aime rien d’autre que recevoir des éloges pour le travail des autres peut désormais exécuter plusieurs agents simultanément, modifier sans cesse les instructions et se faire passer pour un spécialiste en IA, ses IA lui donnant l’air occupé d’une manière difficile à contester tant il n’y a que mensonges ». 

« Quand toute votre économie est organisée autour de cadres intermédiaires, de vice-présidents et de dirigeants qui ne font aucun travail concret, l’IA paraît donc magique ». 

« Comme les modèles d’IA peuvent être intégrés à n’importe quel système, par extension, n’importe quel fondateur d’entreprise spécialisée en IA peut prétendre que n’importe quel secteur peut être automatisé grâce à l’IA. Et comme les investisseurs en capital-risque ne n’y connaissent rien, ils sont naturellement impressionnés par n’importe quelle démo ou promesse qui semble plausible, surtout lorsqu’un LLM peut créer quelque chose qui ressemble à un logiciel.»

Nous sommes confrontés au plus grand gaspillage de capital de l’histoire de l’humanité. Et l’industrie de l’IA est en train de perdre. Personne ne sait vraiment comment mesurer le retour sur investissement de l’IA, rappelle Zitron. « Les entreprises ignorent la valeur réelle de l’IA et le budget qu’elles devraient y consacrer. C’est pourquoi Uber et d’autres épuisent leurs budgets de jetons sans, semble-t-il, réduire leurs dépenses.» « Tout ce baratin sur l’IA, soi-disant inévitable, réelle et surpuissante, ne semble jamais se traduire par des profits. » L’expérience d’Uber – qui brûle beaucoup d’argent dans l’IA – est représentative de l’expérience de pratiquement toutes les entreprises avec l’IA. Des dirigeants incompétents, totalement déconnectés de la production, exigent que leurs employés consomment un maximum de ressources, les incitant à le faire pour des raisons qui n’ont de sens que pour quelqu’un qui ne travaille pas. « L’IA est censée être un outil de rationalisation ultra-puissant qui transformera le monde du travail à jamais. Or, le résultat concret semble être : nous avons dépensé des sommes considérables pour quelque chose qui enthousiasme nos managers les moins compétents », explique Zitron avant d’analyser la profondeur de la bulle économique de l’IA, son grand cheval de bataille, depuis longtemps. Le modèle économique de l’industrie de l’IA est totalement irrationnel, répète celui qui n’a cessé d’en documenter les terribles excès. Il n’y aura pas de méthodes miracles pour rendre profitables des services facturés 100 ou 200 dollars par an quand ils en coûtent des milliers. « L’une des plus grandes erreurs que nous puissions commettre est de croire que les riches et les puissants ont la moindre idée de ce que l’avenir leur réserve, ou qu’ils ont une quelconque stratégie. »

« L’intrusion brutale, voire harcelante, des services d’IA dans notre quotidien n’est pas un signe de leur puissance, mais plutôt le reflet du manque de confiance et de la peur de leurs créateurs. Les bons produits se vendent en expliquant leurs atouts ; les produits douteux se vendent en trompant et en effrayant, et en profitant de la naïveté des personnes qui pensent qu’utiliser un LLM pour rédiger des e-mails et passer 12 heures par jour sur Twitter constitue un véritable travail. »

La demande en IA demeure le fruit d’une psychose collective. Son effondrement sera présenté comme imprévisible, car personne au pouvoir n’aura pris la peine de s’y intéresser. Pour Zitron, « nous sommes arrivés à un point où le masque commence à tomber, et la classe dirigeante, composée d’imbéciles, affiche sans vergogne son mépris pour l’humain », en annonçant notamment des licenciements sans fin. « Les dirigeants du secteur croient pouvoir bourrer le système de promesses de gains si mirobolants que la tech préférera s’autodétruire plutôt que d’admettre son erreur. Sundar Pichai, Andy Jassy, ​​Larry Ellison, Elon Musk, Mark Zuckerberg et Satya Nadella n’hésiteront pas à dilapider des centaines de milliards de dollars pour éviter l’inévitable, mais une fois que ce sera le cas, le résultat sera catastrophique.» Ceux qui adorent l’IA parlent sans cesse de son incroyable puissance sans jamais montrer ce qu’elle a accompli ni, peut-être, à quoi leur a servi tout ce temps soi-disant gagné… 

Zitron veut croire que nous nous dirigeons vers un krach véritablement catastrophique, susceptible de bouleverser le secteur du capital-risque et de porter un coup fatal à un ou plusieurs géants du cloud, tout en divisant profondément la société à de nombreux niveaux entre ceux qui se sont laissés prendre au piège et ceux qui ne l’ont pas été. À court terme, les conséquences seront absolument désastreuses pour nos marchés et notre économie en général. C’est la conséquence de la bombe à retardement que représentent le crédit privé et le capital-investissement. « Ces gens ne savent plus construire des choses qui fonctionnent, et la seule chose qu’ils savent faire, c’est dépenser de l’argent et licencier. Ils ne croient qu’à la croissance, et on ne peut pas survivre uniquement ni indéfiniment grâce à des croyances et à des promesses illusoires. »

« Aucune industrie digne de ce nom n’a besoin de vous induire en erreur ni de vous culpabiliser de ne pas adopter sa technologie. Personne de confiance ne jugera nécessaire d’humilier ou d’attaquer quelqu’un qui n’est pas suffisamment enthousiaste à propos d’un produit. Aucun PDG qui parle d’un avenir hypothétique pour vous vendre un logiciel aujourd’hui ne mérite votre confiance. Aucune technologie qui commet des erreurs régulièrement ne devrait être défendue. Et une industrie qui exige tout de nous — notre terre, notre énergie, notre eau, nos emplois, notre art, notre écriture, notre attention et chaque dollar que nous possédons — ne devrait susciter que du dégoût. »

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

MAJ du 21/06/2026 : Dans leur newsletter, Tim O’Reilly et Ilan Strauss, proposent de garantir un exosquelette pour appliquer l’IA à la science. Cet exosquelette est constitué d’innombrables systèmes permettant de garantir les références, comme le DOI (l’identifiant d’objets numériques qui attribue un numéro à chaque publication scientifique), RetractationWatch (la base de données des articles scientifique dépubliés et rétractés), Orcid (qui founit un identifiant unique aux chercheurs), Open Alex (un graphe de connaissances scientifiques)… ou encore le projet Vraix du MIT (cherchant à créer une toile du savoir pour distinguer les contenus possiblement génératifs des autres)… et nombres d’autres, qui n’ont pas été intégrés aux systèmes d’IA, alors qu’ils pourraient permettre de résoudre de nombreux problèmes : diminuer les citations erronées, réduire l’emprise de la littérature scientifique non valide… une infrastructure fondée sur des principes ouverts qui cherchent à garantir que les contenus scientifiques ne puissent être ni accaparés ni dégradés. Ces infrastructures sont des biens publics que les entreprises d’IA ignorent pour la plupart ou, pire, fragilisent. « À l’heure actuelle, la relation entre l’IA et l’infrastructure scientifique est presque exclusivement extractive. Les entreprises d’IA entraînent leurs modèles sur des articles scientifiques. Elles créent des produits capables de générer et de manipuler des textes scientifiques. Elles se disputent le marché de l’« IA au service de la science ». Pourtant, elles ne contribuent pratiquement pas à l’infrastructure qui, à la base, garantit la fiabilité des connaissances scientifiques. »

Les entreprises d’IA consomment du contenu scientifique sans rien apporter en retour. Strauss et O’Reilly font une analogie avec Content ID de YouTube : face à l’utilisation non autorisée de leurs œuvres, la première réaction de l’industrie musicale a été d’exiger leur retrait. La réponse de YouTube a été : « Et si nous vous aidions plutôt à les monétiser ? » Cette approche a permis d’aligner les intérêts et de créer une économie dynamique pour les créateurs. Nous devrions appliquer le même raisonnement à la science. Les entreprises d’IA ne devraient pas seulement utiliser l’infrastructure scientifique pour améliorer leurs produits (elles le devraient pourtant), mais elles devraient surtout chercher à aider la science à gagner en valeur, en pérennité et en exhaustivité.

Pour cela, les systèmes d’IA devraient améliorer la validation de leurs sources et références. L’infrastructure existe, il leur suffit de l’utiliser. Ils pourraient également réinjecter les métadonnées extraites dans OpenAlex, améliorant ainsi le graphe de données pour tous. Ils pourraient utiliser et financer RetractationWatch pour améliorer leurs modèles et réponses. Les fournisseurs d’IA pourraient également financer cette infrastructure scientifique très fragile qui constitue le socle technique de la crédibilité de la science. « Les entreprises d’IA, qui génèrent des milliards de revenus grâce à des produits reposant sur la crédibilité scientifique, devraient contribuer à l’infrastructure qui garantit cette crédibilité. Il ne s’agit pas de philanthropie, mais d’un intérêt bien compris.» Elles pourraient également contribuer a améliorer cette chaîne qui identifie la provenance du contenu scientifique. « Lorsque l’IA contribue à un article scientifique, cette contribution doit être traçable : elle ne doit pas simplement faire l’objet d’une déclaration standard, mais être liée à des affirmations, des sources et des étapes de vérification précises. »

« Les entreprises d’IA qui s’appuieront sur cette infrastructure créeront de meilleurs produits. Mais surtout, elles investiront dans l’infrastructure civilisationnelle qui rend possible, à la base, l’existence de connaissances fiables. À condition toutefois que les entreprises d’IA cessent de considérer cette question comme le problème d’autrui et commencent à la voir comme un socle sur lequel bâtir — un socle dont dépend leur propre succès dans le domaine scientifique.»

Dans le Financial Times, l’économiste Bhaskar Chakravorti, estime également que la colère monte contre l’IA. La colère dans la Rust Belt (la ceinture de la rouille qui désigne les anciens bastions de l’industrie américaine du Nord-Est des Etats-Unis) a propulsé Trump à la victoire ; la rage des travailleurs du savoir des banlieues de la Wired Belt (la ceinture connectée) alimentera la réaction contre l’IA. 

Mais qu’est-ce que la Wired Belt ? Cette idée s’appuie sur une étude produite par Chakravorti et ses équipes à la Tufts University qui s’intéresse aux risques que l’IA fait peser sur l’emploi aux Etats-Unis, par secteurs et également par régions. Pour ses auteurs, outre le fait que l’IA fait peser des risques sur certaines catégories d’emploi (à savoir les métiers de l’information, de la finance et de l’assurance, la programmation et les concepteurs d’interfaces), l’étude est plus originale pour son aspect géographique. Ils mettent en avant que ce sont les grands pôles d’innovations urbains comme New York, Los Angeles, Washington D.C., San Francisco, Chicago, Dallas et Boston qui figurent parmi les plus exposés, ainsi que la Californie, le Texas, New York, la Floride et l’Illinois. Les auteurs soulignent d’ailleurs que ces États figurent également parmi les plus actifs en matière de réglementation de l’IA, ce qui souligne les dimensions politiques et d’économie politique des perturbations du marché du travail induites par l’IA et met en évidence d’importantes implications réglementaires et politiques au niveau des États.  

Pour les auteurs, les zones connectées seront les prochaines zones désaffectées. L’IA va s’en prendre aux régions abritant les emplois les mieux rémunérés des Etats-Unis. 

Pour Chakravorti, les cadres qui s’apprêtent à perdre leur emploi à cause de l’IA pourraient bien être à l’origine du prochain choc politique que connaîtra les États-Unis. « Les professions les plus menacées sont concentrées dans les « ceintures connectées » : des régions qui ont prospéré grâce aux données, au contenu et aux activités cognitives. Ces régions pourraient bien devenir les nouvelles « ceintures de rouille », s’étendant des pôles technologiques bien connus de la Silicon Valley, de Boston et de New York jusqu’à Philadelphie, Atlanta et Phoenix. Les corridors de connaissances périurbains entourant les grandes villes des États indécis (swing states) américains figurent parmi les plus vulnérables du pays.» 

L’IA pourrait donc avoir des conséquences très politiques, estime Chakravorti. « Lorsque les perturbations économiques frappent les communautés américaines et que la classe politique réagit avec indifférence, il en résulte un réalignement politique radical, mais cette fois-ci, il viendra des cols blancs des régions technologiques, et non des cols bleus des régions industrielles en déclin. »