On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

MAJ du 21/06/2026 : Dans leur newsletter, Tim O’Reilly et Ilan Strauss, proposent de garantir un exosquelette pour appliquer l’IA à la science. Cet exosquelette est constitué d’innombrables systèmes permettant de garantir les références, comme le DOI (l’identifiant d’objets numériques qui attribue un numéro à chaque publication scientifique), RetractationWatch (la base de données des articles scientifique dépubliés et rétractés), Orcid (qui founit un identifiant unique aux chercheurs), Open Alex (un graphe de connaissances scientifiques)… ou encore le projet Vraix du MIT (cherchant à créer une toile du savoir pour distinguer les contenus possiblement génératifs des autres)… et nombres d’autres, qui n’ont pas été intégrés aux systèmes d’IA, alors qu’ils pourraient permettre de résoudre de nombreux problèmes : diminuer les citations erronées, réduire l’emprise de la littérature scientifique non valide… une infrastructure fondée sur des principes ouverts qui cherchent à garantir que les contenus scientifiques ne puissent être ni accaparés ni dégradés. Ces infrastructures sont des biens publics que les entreprises d’IA ignorent pour la plupart ou, pire, fragilisent. « À l’heure actuelle, la relation entre l’IA et l’infrastructure scientifique est presque exclusivement extractive. Les entreprises d’IA entraînent leurs modèles sur des articles scientifiques. Elles créent des produits capables de générer et de manipuler des textes scientifiques. Elles se disputent le marché de l’« IA au service de la science ». Pourtant, elles ne contribuent pratiquement pas à l’infrastructure qui, à la base, garantit la fiabilité des connaissances scientifiques. »

Les entreprises d’IA consomment du contenu scientifique sans rien apporter en retour. Strauss et O’Reilly font une analogie avec Content ID de YouTube : face à l’utilisation non autorisée de leurs œuvres, la première réaction de l’industrie musicale a été d’exiger leur retrait. La réponse de YouTube a été : « Et si nous vous aidions plutôt à les monétiser ? » Cette approche a permis d’aligner les intérêts et de créer une économie dynamique pour les créateurs. Nous devrions appliquer le même raisonnement à la science. Les entreprises d’IA ne devraient pas seulement utiliser l’infrastructure scientifique pour améliorer leurs produits (elles le devraient pourtant), mais elles devraient surtout chercher à aider la science à gagner en valeur, en pérennité et en exhaustivité.

Pour cela, les systèmes d’IA devraient améliorer la validation de leurs sources et références. L’infrastructure existe, il leur suffit de l’utiliser. Ils pourraient également réinjecter les métadonnées extraites dans OpenAlex, améliorant ainsi le graphe de données pour tous. Ils pourraient utiliser et financer RetractationWatch pour améliorer leurs modèles et réponses. Les fournisseurs d’IA pourraient également financer cette infrastructure scientifique très fragile qui constitue le socle technique de la crédibilité de la science. « Les entreprises d’IA, qui génèrent des milliards de revenus grâce à des produits reposant sur la crédibilité scientifique, devraient contribuer à l’infrastructure qui garantit cette crédibilité. Il ne s’agit pas de philanthropie, mais d’un intérêt bien compris.» Elles pourraient également contribuer a améliorer cette chaîne qui identifie la provenance du contenu scientifique. « Lorsque l’IA contribue à un article scientifique, cette contribution doit être traçable : elle ne doit pas simplement faire l’objet d’une déclaration standard, mais être liée à des affirmations, des sources et des étapes de vérification précises. »

« Les entreprises d’IA qui s’appuieront sur cette infrastructure créeront de meilleurs produits. Mais surtout, elles investiront dans l’infrastructure civilisationnelle qui rend possible, à la base, l’existence de connaissances fiables. À condition toutefois que les entreprises d’IA cessent de considérer cette question comme le problème d’autrui et commencent à la voir comme un socle sur lequel bâtir — un socle dont dépend leur propre succès dans le domaine scientifique.»

Ce que l’IA accélère

Les promesses de l’IA pour découvrir de nouveaux matériaux ou révolutionner les découvertes scientifiques sont fortes. L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique, au risque d’augmenter la dépendance de la science à l’IA. 

Dans le domaine de la fabrication de médicament, on attend là encore que l’IA permette de nouvelles percées, explique The Economist. Pourtant, les partenariats entre entreprises pharmaceutiques et sociétés d’IA se multiplient, notamment dans l’espoir de mieux identifier des molécules, de raccourcir le temps de développement des essais cliniques et de diminuer le taux d’échec de ceux-ci (actuellement, « les médicaments candidats entrant en essais cliniques ont un taux d’échec de 90 %, ce qui porte le coût de développement d’un médicament efficace à la somme astronomique de 2,8 milliards de dollars »). « Même des gains d’efficacité marginaux représenteraient des avantages considérables. Des rapports provenant de l’ensemble du secteur suggèrent que l’IA a commencé à apporter ces gains. Elle a réduit la phase préclinique (celle qui précède les essais cliniques sur l’homme) à 12-18 mois, contre trois à cinq ans auparavant. Et elle a amélioré le taux de réussite. Une étude publiée en 2024, portant sur les performances de molécules proposées par l’IA lors des premiers essais cliniques, a révélé un taux de réussite de 80 à 90 %. À titre de comparaison, les moyennes historiques se situaient entre 40 et 65 %. »

« La conception d’un nouveau médicament commence généralement par le criblage de petites molécules organiques afin d’identifier celles présentant une activité biologique prometteuse afin de sélectionner les plus probables. L’IA peut analyser des bibliothèques de dizaines de milliards de molécules, en testant des propriétés telles que la puissance, la solubilité et la toxicité grâce à des émulations logicielles de ces molécules, sans qu’il soit nécessaire d’utiliser les molécules réelles en laboratoire. Jim Weatherall, l’un des responsables de cette activité chez AstraZeneca, une autre grande entreprise pharmaceutique, affirme que cette méthode permet de trier les molécules prometteuses deux fois plus vite qu’auparavant, et que plus de 90 % du processus de découverte de petites molécules de l’entreprise est désormais assisté par l’IA. »  

L’IA sert donc d’abord à optimiser les investissements. L’IA contribue également à améliorer la conception des essais cliniques. Par exemple en formulant une hypothèse sur une maladie et en tentant de confirmer ou d’infirmer ces hypothèses par une recherche bibliographique. 

L’IA se révèle également prometteuse dans la sélection des patients pour les essais cliniques. Elle peut analyser les dossiers médicaux, les biopsies et les examens d’imagerie des candidats afin d’identifier ceux qui pourraient tirer le meilleur parti d’un nouveau médicament. Une meilleure sélection des participants permet de réduire la taille des essais, et donc de les rendre plus rapides et moins coûteux. Un autre utilisation de l’IA consiste à créer des patients synthétiques permettant de comparer un patient réel et son double numérique pour comparer l’évolution prédite sans traitement par rapport au patient testé. A terme, les patients synthétiques permettrait de réduire les groupes témoins et leurs coûts (au risque tout de même que ces comparaisons aient une fiabilité relative). 

L’optimisation des essais cliniques via l’IA représente une réduction considérable des risques, avec une diminution concomitante des coûts de développement des médicaments. 

Mais si l’IA promet de produire de nouveaux médicaments, elle ne promet pas que nous ayons les capacités industrielles de le faire, comme le montrent les innombrables pénuries que nous traversons. Elle ne résout pas le risque d’abandon de la santé pour tous, qu’évoquait par exemple le philosophe Alexandre Monnin dans AOC il y a quelques mois (voire notre synthèse).

Au contraire. Dans le domaine de la médecine, comme le soulignaient l’avocate américaine des sans abris Leah Goodridge et la médecin et chercheuse, Oni Blackstock, directrice de l’association Health Justice, dans une tribune pour The Guardian, l’IA risque bien plus d’être utilisée pour refuser des soins que pour faire progresser la médecine. En Californie du Sud, où le nombre de personnes sans abris est l’un des plus élevé du pays, Akido Labs gère des cliniques pour les personnes sans domicile fixe et celles à faibles revenus. Mais ces patients sont vus par des assistants médicaux qui utilisent l’IA pour écouter les conversations, puis proposer des diagnostics et des plans de traitement potentiels, qui sont ensuite examinés par un médecin. L’objectif de l’entreprise, a déclaré son directeur technique à la Technology Review, est de « supprimer le médecin de la consultation ».

Cela s’inscrit dans une tendance plus large où l’IA générative est de plus en plus intégrée au système de santé, rappellent Goodridge et Blackstock. En 2025, une enquête de l’Association médicale américaine a révélé que deux médecins sur trois utilisaient l’IA dans leur travail quotidien, notamment pour diagnostiquer les patients. Une start-up spécialisée en IA (OpenEvidence, qui n’est pas accessible en Europe) a levé 200 millions de dollars pour fournir aux professionnels de santé un ChatGPT pour médecins. Et les législateurs américains examinent actuellement un projet de loi qui autoriserait l’IA à prescrire des médicaments. Bien que cette tendance à l’intelligence artificielle dans le secteur de la santé affecte presque tous les patients, son impact est plus profond sur les personnes à faibles revenus, qui rencontrent déjà d’importants obstacles à l’accès aux soins. « Les personnes sans domicile fixe et à faibles revenus ne devraient pas servir de cobayes pour l’IA dans le domaine de la santé. Au contraire, leurs voix et leurs priorités devraient déterminer si, comment et quand l’IA sera mise en œuvre dans leurs soins ». 

La saturation des hôpitaux, les coûts d’accès au soin… expliquent en grande partie ces développements. D’autant que ces contraintes « sont souvent amplifiées dans les communautés économiquement défavorisées, où les établissements de santé sont souvent sous-financés et les patients non assurés, avec un fardeau plus lourd de maladies chroniques dû au racisme et à la pauvreté ». Les très documentés biais des IA de santé, « qui diagnostiquent bien moins les problèmes des patients noirs et hispaniques, des femmes et des patients bénéficiant de l’assurance Medicaid, promettent surtout d’aggraver les inégalités de santé pour les patients qui rencontrent déjà des obstacles à l’accès aux soins ». Pire, comme on le lit dans la TR, les patients ne sont même pas informés que leur professionnel de santé ou leur système de santé utilise l’IA. Un assistant médical explique ainsi que ses patients savent qu’un système d’IA les écoute, mais qu’il ne leur dit pas qu’elle formule des recommandations diagnostiques. Ces discriminations sont renforcées par la tendance croissante à l’utilisation de l’IA pour déterminer les remboursements de santé des personnes à faibles revenus (voir ce que nous disions d’United HealthCare connu pour sa politique de refus de remboursement de soins de santé). Bref, si l’IA d’un côté promet une amélioration de la production de médicaments, elle risque bien plus d’empêcher les publics d’y accéder. 

Il y a d’autres domaines que l’IA accélère, comme le pointait Cade Metz dans le New York Times. Notamment la recherche en mathématiques, en biologie et en chimie. Mais là encore, bien des annonces tonitruantes se révèlent souvent assez décevantes une fois que les spécialistes les décortiquent. C’était le cas notamment lorsqu’une startup d’IA, Harmonic a annoncé avoir résolu un problème mathématique, avant que les experts ne constatent que ses solutions ne différaient guère des travaux antérieurs de mathématiciens. L’IA parvient à identifier des solutions existantes, enfouies dans des décennies d’articles de recherche plus qu’elle n’en invente. « On a l’impression d’être face à un élève brillant qui a tout mémorisé pour l’examen, mais qui ne comprend pas vraiment le concept », assène le mathématicien Terence Tao. L’IA permet bien plus de suggérer des hypothèses ou des expériences qui permettent de cibler les recherches, explique un spécialiste du cancer, qui constate lui aussi que cela permet d’accélérer les processus. Mais un chercheur expérimenté est toujours nécessaire pour guider le système. Pour Terence Tao, interviewé dans Nature, l’IA peut commettre des erreurs invérifiables dans nombre de domaines, mais en maths, elles sont vérifiables. Les inconvénients sont donc bien plus limités. « On commence à voir des exemples où l’IA – peut-être par chance – résout des problèmes importants pour les mathématiciens. C’est encore très rare et l’IA présente encore de nombreuses faiblesses ; elle ne remplace pas le travail humain. Mais il devient de plus en plus difficile de nier l’efficacité de ces outils. » Mais définir de nouveaux concepts et déterminer les problèmes à résoudre restera probablement du ressort des mathématiciens humains… au moins pendant un certain temps encore, estime le médaillé Fields. 

… au risque de réduire le champ d’investigation de la science

Si l’IA pour la recherche scientifique promet, elle pourrait aussi avoir des effets délétères, rappelle la journaliste Grace Huckins pour la Technology Review et réduire à terme le dynamisme de la science. Une étude publiée dans Nature a révélé que si certains scientifiques perçoivent des avantages professionnels à adopter l’IA, la science dans son ensemble pourrait en pâtir, car l‘IA réduit le champ d’investigation de la communauté scientifique. Cela pourrait s’expliquer par le fait que l’IA excelle particulièrement dans l’analyse de données et de publications existantes, ce qui incite les scientifiques qui l’utilisent à se concentrer sur des domaines établis où des données à grande échelle sont disponibles. Il pourrait en résulter un nombre réduit de scientifiques disponibles pour étudier des problèmes moins adaptés à l’IA. Intégrer efficacement l’IA dans la science est plus qu’un simple défi technique : préserver le dynamisme et la diversité de la science à l’ère de l’IA pourrait nécessiter un effort concerté de la part de la communauté scientifique. 

Dans un éditorial pour Science, Julio Ottino et Brian Uzzi enfoncent le clou et dénoncent le risque d’une « progression sans progrès ». « Les progrès réalisés dans l’utilisation de l’intelligence artificielle pour faire progresser la découverte scientifique rendent de plus en plus réaliste l’idée de systèmes automatisés de « science de bout en bout » : des chaînes de traitement intégrées capables de générer des hypothèses, de mener des expériences (in silico ou robotisées), d’analyser les résultats et de produire des résultats publiables avec une intervention humaine minimale. La question cruciale n’est pas de savoir si l’IA peut « faire » de la science, mais si la science – en tant que système social et évolutif produisant des connaissances fiables – peut survivre à la manière dont l’IA la pratique. »

Or, « la science n’est pas simplement une suite de tâches optimisables. Elle progresse par un processus analogue à l’évolution darwinienne : variation à travers de nombreux efforts indépendants ; sélection par la critique, la réplication et la compétition ; et conservation des résultats robustes. Cette structure distribuée permet à la science de s’autocorriger et de générer de la nouveauté. L’indépendance n’est pas fortuite ; elle est le mécanisme qui produit à la fois la fiabilité et la découverte. »

Mais, la science n’a jamais pleinement atteint cet idéal, rappellent-ils. Elle a aussi été façonnée par les biais, les erreurs et la fraude. Les partisans de l’intelligence artificielle arguent que l’automatisation pourrait atténuer certaines de ces limitations tout en accélérant les découvertes et en élargissant la participation. Reste donc à savoir si l’IA en science réduit ces imperfections ou les amplifie à l’échelle des machines.

L’intégration de l’IA à la science risque de modifier fondamentalement la structure de la science. Notamment en favorisant des plateformes dominantes, entraînées sur des données similaires et optimisées pour certains objectifs. « Comme sur d’autres marchés de technologies numériques, la concentration est un résultat plausible. Le risque est fort qu’une poignée de systèmes façonnent la majorité de la production scientifique (…). La diversité simulée au sein d’un système ne saurait se substituer à la diversité épistémique entre des approches véritablement concurrentes.»

La conséquence n’est pas seulement institutionnelle ; elle est bien épistémique, c’est-à-dire qu’elle concerne toutes les connaissances. « Le système scientifique prospère grâce à l’inefficacité : efforts redondants, tentatives infructueuses et chemins divergents. Il ne s’agit pas de coûts à éliminer, mais de sources de découverte. À l’inverse, les pressions d’optimisation favorisent la convergence. Il risque d’en résulter une production accrue, mais une exploration moindre de l’inattendu.»

« Ce rétrécissement a des implications sur la créativité. Une grande partie de la force de l’IA réside dans l’exploration combinatoire, le réarrangement des connaissances existantes en de nouvelles configurations. Or, nombre d’avancées majeures en science ne sont pas des combinaisons ; ce sont des ruptures, des changements conceptuels qui contredisent les hypothèses des cadres antérieurs. Parce que ces avancées s’écartent des schémas encodés dans les données existantes, elles sont les moins susceptibles d’émerger de systèmes entraînés sur le passé. »

« L’indépendance n’est pas seulement une garantie de fiabilité ; elle est la condition de la rupture conceptuelle. » A l’inverse, « l’optimisation de chaque composant ne garantit pas l’intégrité de l’ensemble. » Au contraire, elle peut la compromettre.

« Il ne s’agit pas de rejeter l’IA, mais de la considérer comme un simple progrès technique. Préserver les propriétés fondamentales d’un système scientifique évolutif devient désormais une contrainte de conception. Les résultats scientifiques doivent garantir une traçabilité claire – une chaîne de responsabilité identifiable qui ne se dissout pas dans des systèmes opaques. Les dispositifs institutionnels et techniques doivent assurer des approches véritablement distinctes, et non de simples variations au sein d’une architecture partagée. »

« Ces exigences ne sont pas des inefficacités à éliminer par l’ingénierie. Elles représentent les solutions accumulées au problème de la fiabilité des connaissances. Un système d’IA peut produire des résultats impressionnants. Mais s’il remplace un processus évolutif par un processus artificiel, il risque de restreindre non seulement le champ de nos découvertes, mais aussi notre capacité de découverte tout court. »

Le financement de la recherche : submergé par l’IA

Geraint Rees et James Wilsdon pour Nature tirent la sonnette d’alarme. L’IA est en train de submerger les appels à projets et demandes de financement de la recherche, améliorant le nombre, la qualité, le volume des demandes au risque de provoquer l’effondrement même du système. Les réponses générées par l’IA peuvent être entraînées sur les publications des chercheurs, sur les critères d’attribution des subventions et même sur les projets retenus pour ajuster les demandes aux résultats attendus. Et l’effet se constate déjà, pointent les chercheurs. Dans une étude qui a regardé les projets de 12 organismes de financement de la recherche de l’Union européenne, les chercheurs montrent une augmentation des candidatures depuis 2022. 

« Les décideurs politiques et les organismes de financement vont devoir repenser l’allocation des fonds de recherche avant que le système ne devienne ingérable. » Confrontés à un afflux de réponses de qualité, ils devront alors faire des choix largement arbitraires quant aux projets à financer et aux candidats. 

Jusqu’à présent, les organismes de financement de la recherche ont principalement réagi à ces évolutions en restreignant l’utilisation de l’IA par les candidats et les évaluateurs, certains déclarant les demandes inéligibles si elles sont élaborées avec de l’IA. Mais ces préconisations sont impossibles à appliquer car la probabilité de détection est faible et ne constitue pas une réponse au problème. Le risque est fort que toutes les propositions répondent aux critères de financement et que les différences entre elles soient minimes. « Lorsque les propositions et les évaluations sont toutes deux gérées par des agents entraînés sur le même corpus de travaux déjà financés, le système n’évaluera plus la qualité des idées, mais plutôt la capacité des agents à simuler les idées précédemment récompensées par les financeurs.» 

« Parmi les propositions visant à remédier à la surcharge des systèmes de financement figurent le recours à des tirages au sort (attribution aléatoire de fonds à des demandes de subvention correspondant à un certain niveau de qualité) et des modèles distribués d’évaluation par les pairs, où les chercheurs qui soumettent des demandes de subvention sont chargés d’évaluer celles d’autres chercheurs. Ces mesures permettent de lutter contre le volume de demandes, mais elles restent inefficaces si les indicateurs de qualité deviennent peu fiables. »

Geraint Rees et James Wilsdon proposent plutôt que les organismes de financement envisagent de recentrer l’évaluation non plus sur les propositions écrites, mais sur le chercheur principal, son équipe et ses programmes de recherche passés et en cours. « Les financeurs devraient investir dans la vérification des antécédents afin d’examiner la performance de recherche d’un individu ou d’un groupe sur une période prolongée, ainsi que dans des entretiens et des évaluations de portefeuilles de la performance d’équipe sur la durée. » Mais cette solution écarte de fait les plus petites ou plus jeunes équipes : les aides risquent alors d’aller uniquement aux projets les plus établis. 

En mars, le Conseil de la recherche médicale du Royaume-Uni a annoncé le rétablissement des entretiens pour tous les candidats présélectionnés : une approche chronophage et laborieuse et peu adaptée aux grands volumes de candidatures. Le NIH américain, regroupant l’ensemble des Instituts nationaux de la santé, lui, a limité à 6 dépôts par an le nombre de candidatures individuelles, après avoir constaté que certains chercheurs en soumettaient plus de 40. Les financeurs pourraient également envisager des approches plus radicales, suggèrent les deux chercheurs.Il pourrait s’agir d’instaurer un quota fixe de propositions par chercheur ou pour l’ensemble de sa carrière, toutes sources de financement confondues. Ils pourraient aussi répartir le budget disponible entre les chercheurs éligibles à l’échelle nationale et attribuer le même montant à tous, éliminant ainsi la concurrence. 

D’autres solutions proposent aux organismes de recherche de s’appuyer sur l’IA pour l’évaluation. « L’IA pourrait ensuite servir à prioriser et à présélectionner les candidatures, en comparant les données selon ces différents profils afin d’identifier les candidats dont le parcours est cohérent avec les informations fournies dans leur dossier. Ce processus de présélection serait transparent, auditable et conçu pour favoriser la diversité, et non la freiner, à travers les différentes étapes de carrière, disciplines et institutions. » Mieux (ou pire, c’est selon), certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs. 

Quelque soient les solutions retenues, la nécessaire transformation du financement de la recherche risque de se faire dans la douleur et la contestation, estiment les chercheurs. La mise en place d’infrastructures IA nécessite des investissements soutenus, des tests rigoureux et une gouvernance continue. Les financeurs confrontés à des contraintes budgétaires pourraient hésiter. C’est oublier pourtant que le système gaspille déjà des ressources considérables en comités d’experts et en nouvelles soumissions, sans parler du temps consacré par les chercheurs à répondre aux appels. Un système basé sur l’IA native et bien conçu pourrait constituer un investissement judicieux, défendent les chercheurs. Reste que des systèmes d’évaluation entraînés sur des données de financement historiques intégreront les inégalités passées, risquant d’amplifier, plutôt que de corriger, l’effet Matthieu, c’est-à-dire la concentration au profit des plus dotés. « Il s’agit d’un risque réel, mais nous pensons que la conception et la gouvernance peuvent contribuer à l’atténuer. Les biais dans les systèmes d’IA sont mesurables, ce qui permet de les examiner et d’y remédier », soulignent-ils, certainement trop rapidement car les biais ne sont ni  mesurables ni corrigeables facilement. Troisièmement, les chercheurs et les institutions pourraient se montrer réticents face aux décisions façonnées par des algorithmes qu’ils ne peuvent pas interroger. La transparence et les mécanismes d’appel pourraient contribuer à instaurer la confiance, défendent-ils encore.

Le système de financement par subventions conçu pour un monde pré-IA est devenu défaillant. Les financeurs doivent s’adapter, estiment les chercheurs. Il pourrait en résulter un système plus performant : un système qui exploite la puissance de l’IA et la combine à des connaissances spécialisées, et qui réduit le temps et l’énergie gaspillés dans la rédaction de demandes de subventions improductives pour les réorienter vers une recherche novatrice. Un constat plus facile à déclamer qu’à mettre au point. 

Prédire les résultats de la science… au risque de l’y enfermer

Certains modèles proposent de prédire l’impact d’un article ou d’une recherche, fléchant les financements vers les projets les plus porteurs, expliquaient donc Geraint Rees et James Wilsdon. Qu’en est-il ? 

Savoir si une étude changera le monde ? C’est pourtant l’idée que propose Funding the Frontier : un tableau de bord pour prédire l’impact de la recherche. L’outil (non disponible) utilise le Big data pour retracer l’impact sociétal des projets de recherche sur les politiques, les médicaments ou les produits, explique Nature (voir également l’article de recherche qui montre des captures d’écran du tableau de bord et la vidéo promotionnelle). Le projet porté par Dashun Wang « intègre des données sur les publications de recherche, les brevets, les documents d’orientation et les essais cliniques, et présente ces informations de manière visuelle et intuitive. Ils ont également combiné cet outil à un algorithme prédictif basé sur l’apprentissage automatique pour prédire les études et les domaines susceptibles d’apporter les plus grands bénéfices sociétaux à l’avenir – par exemple, les subventions les plus susceptibles de déboucher sur un brevet ». « Même sans son aspect prédictif, disposer d’un outil permettant de rechercher l’impact des recherches sur la société » est déjà une information importante, estime un chercheur. 

Un chef de projet d’une importante agence de financement américaine l’a utilisée pour examiner les impacts sociaux généraux des subventions de l’agence, lui permettant de constater l’impact de certaines recherches ailleurs dans le monde. « Un autre utilisateur, investisseur dans le domaine de la recherche biomédicale, a constaté que dans le domaine de la recherche sur la maladie d’Alzheimer, l’impact clinique le plus important au cours des 20 dernières années provenait d’études visant à comprendre la maladie, mais que l’impact futur le plus important prévu se concentrait sur les études portant sur les systèmes de soutien social des personnes atteintes de la maladie, ce qui laisse entrevoir de nouvelles opportunités d’investissement ». 

L’aspect prédictif est pourtant préoccupant, estime le même James Wilsdon qui en évoquait les perspectives précédemment. Le spécialiste des politiques de recherche estime que ce tableau de bord pourrait créer des prophéties autoréalisatrices et des décisions d’investissements plus conservatrices, au détriment de recherches plus originales, capables d’ouvrir d’autres possibilités. 

Coincés dans l’Academic Slop ? 

En attendant, le travail académique commence à crouler sous la « prolifération métastatique de publications » truffées d’hallucinations et de distorsions de contenus, comme s’en plaint sur Facebook la philosophe du droit, Antoinette Rouvroy. L’Academic Slop est arrivé, constate également le chercheur Seva Gunitsky dans sa newsletter. Il raconte que dans la revue dont il s’occupait le nombre de soumission a doublé voire triplé depuis l’apparition de l’IA générative, et que le taux de rejet s’est envolé. Techniquement compétents, certains de ces articles respectent les normes et sont tout à fait convenables. Faciles à produire et exigeant peu de créativité, ils constituent néanmoins le type de travail incrémental légitime que le philosophe des sciences Thomas Kuhn appelait la fabrique de la « science normale ». Pour Gunitsky la valeur d’une théorie originale va continuer à prendre de l’importance. « Les travaux quantitatifs de qualité deviennent bon marché et abondants ; une bonne théorie reste difficile à élaborer ».

Mais l’effet le plus important est que l’évaluation par les pairs repose désormais davantage sur le discernement. Si n’importe qui peut produire un article empirique compétent sur n’importe quel sujet, le principal obstacle devient l’identification des questions importantes à poser. « Dans ce contexte, la question pour les évaluateurs et les éditeurs n’est plus tant « est-ce juste ?» que « pourquoi est-ce important ? ». Cette question est inévitablement subjective, mais pas totalement, car elle exige une solide connaissance des débats en cours. Elle nécessite néanmoins de connaître les tensions et les lacunes productives, les énigmes intéressantes et les idées reçues apparemment établies. »

« Ce concept porte un nom : la phronesis. C’était le terme employé par Aristote pour désigner la sagesse pratique, ou la capacité à discerner la conduite à tenir dans des circonstances particulières. Contrairement à l’épistémè (la connaissance scientifique) ou à la technè (le savoir-faire technique), la phronesis ne peut se réduire à des règles ou à des algorithmes. Elle requiert de l’expérience, du jugement et ce qu’Aristote appelait la « perception ». Cela signifie non seulement l’intelligence, mais aussi la capacité intellectuelle de percevoir les caractéristiques essentielles d’une situation donnée. »

La philosophe Isaiah Berlin appelait cette qualité « le sens du réel » dans le jugement politique : la capacité de percevoir ce qui est possible et ce qui compte à un moment historique donné. Or, il n’est pas certain que les IA possèdent cette capacité voire ne la possèdent jamais. « Si le discernement devient le critère ultime de qualité, nous nous dirigeons encore davantage vers un système à deux vitesses dans l’édition scientifique. Les revues les plus prestigieuses privilégieront les articles d’une originalité remarquable ou présentant des avancées théoriques ou empiriques majeures, tandis que toutes les autres publieront les articles produits par l’IA qui font progresser, de manière graduelle, notre compréhension de sujets spécifiques. Et peut-être que la théorie gagnera en prestige au détriment des méthodes sophistiquées d’analyse des données. »

Pas sûr que la théorie et l’empirisme puissent ainsi si facilement se scinder en deux. Le risque que les publications automatisées se transforment en matière noire scientifique, que personne ne lit ni ne consulte est fort. A nouveau, ici aussi, le risque est fort que s’accentue  davantage les hiérarchies de prestige comme critère d’importance. « Paradoxalement, l’effet uniformisant de l’IA pourrait rendre le monde universitaire plus élitiste encore ».

« La technologie qui nous a inondés de dissertations étudiantes façonnées avec l’IA va maintenant inonder de nos propres travaux, et nous aurons besoin de ce même discernement dont nous nous plaignons de l’absence chez nos étudiants. » Pas sûr que ce soit plus facile pour les experts. L’IA fait peut-être gagner beaucoup de temps à certains, mais la pollution des travaux de recherche qu’elle engendre en fait perdre énormément aux lectrices et lecteurs. Le goulot d’étranglement de la lecture et de la vérification s’annonce plus reserré que jamais. 

La seule chose dont on soit sûr, en observant toutes ces perspectives… ce n’est pas que l’IA apporte un progrès scientifique notable, c’est que l’IA en science renforce les inégalités dans toutes les couches de la science.  

Hubert Guillaud

MAJ du 02/06/2026 : Une analyse de 7,3 millions d’articles de revues scientifiques publiés entre 2020 et 2025 révèle qu’en 2025, un peu plus de la moitié présentent des signes d’influence des LLM, avec des variations importantes d’utilisation selon la région du monde, le prestige de l’établissement, l’éditeur et la discipline. « Le développement économique et la proximité de l’anglais comme langue principale sont des facteurs prédictifs clés de ces variations régionales. Les établissements moins bien classés affichent des taux d’adoption plus élevés que les universités d’élite, les jeunes éditeurs à but lucratif présentent des taux supérieurs à ceux de leurs concurrents, et l’adoption varie considérablement selon les disciplines universitaires. L’adoption des LLM dans la rédaction académique est répandue, mais socialement stratifiée. »

MAJ du 21/06/2026 : Dans leur newsletter, Tim O’Reilly et Ilan Strauss, proposent de garantir un exosquelette pour appliquer l’IA à la science. Cet exosquelette est constitué d’innombrables systèmes permettant de garantir les références, comme le DOI (l’identifiant d’objets numériques qui attribue un numéro à chaque publication scientifique), RetractationWatch (la base de données des articles scientifique dépubliés et rétractés), Orcid (qui founit un identifiant unique aux chercheurs), Open Alex (un graphe de connaissances scientifiques)… ou encore le projet Vraix du MIT (cherchant à créer une toile du savoir pour distinguer les contenus possiblement génératifs des autres)… et nombres d’autres, qui n’ont pas été intégrés aux systèmes d’IA, alors qu’ils pourraient permettre de résoudre de nombreux problèmes : diminuer les citations erronées, réduire l’emprise de la littérature scientifique non valide… une infrastructure fondée sur des principes ouverts qui cherchent à garantir que les contenus scientifiques ne puissent être ni accaparés ni dégradés. Ces infrastructures sont des biens publics que les entreprises d’IA ignorent pour la plupart ou, pire, fragilisent. « À l’heure actuelle, la relation entre l’IA et l’infrastructure scientifique est presque exclusivement extractive. Les entreprises d’IA entraînent leurs modèles sur des articles scientifiques. Elles créent des produits capables de générer et de manipuler des textes scientifiques. Elles se disputent le marché de l’« IA au service de la science ». Pourtant, elles ne contribuent pratiquement pas à l’infrastructure qui, à la base, garantit la fiabilité des connaissances scientifiques. »

Les entreprises d’IA consomment du contenu scientifique sans rien apporter en retour. Strauss et O’Reilly font une analogie avec Content ID de YouTube : face à l’utilisation non autorisée de leurs œuvres, la première réaction de l’industrie musicale a été d’exiger leur retrait. La réponse de YouTube a été : « Et si nous vous aidions plutôt à les monétiser ? » Cette approche a permis d’aligner les intérêts et de créer une économie dynamique pour les créateurs. Nous devrions appliquer le même raisonnement à la science. Les entreprises d’IA ne devraient pas seulement utiliser l’infrastructure scientifique pour améliorer leurs produits (elles le devraient pourtant), mais elles devraient surtout chercher à aider la science à gagner en valeur, en pérennité et en exhaustivité.

Pour cela, les systèmes d’IA devraient améliorer la validation de leurs sources et références. L’infrastructure existe, il leur suffit de l’utiliser. Ils pourraient également réinjecter les métadonnées extraites dans OpenAlex, améliorant ainsi le graphe de données pour tous. Ils pourraient utiliser et financer RetractationWatch pour améliorer leurs modèles et réponses. Les fournisseurs d’IA pourraient également financer cette infrastructure scientifique très fragile qui constitue le socle technique de la crédibilité de la science. « Les entreprises d’IA, qui génèrent des milliards de revenus grâce à des produits reposant sur la crédibilité scientifique, devraient contribuer à l’infrastructure qui garantit cette crédibilité. Il ne s’agit pas de philanthropie, mais d’un intérêt bien compris.» Elles pourraient également contribuer a améliorer cette chaîne qui identifie la provenance du contenu scientifique. « Lorsque l’IA contribue à un article scientifique, cette contribution doit être traçable : elle ne doit pas simplement faire l’objet d’une déclaration standard, mais être liée à des affirmations, des sources et des étapes de vérification précises. »

« Les entreprises d’IA qui s’appuieront sur cette infrastructure créeront de meilleurs produits. Mais surtout, elles investiront dans l’infrastructure civilisationnelle qui rend possible, à la base, l’existence de connaissances fiables. À condition toutefois que les entreprises d’IA cessent de considérer cette question comme le problème d’autrui et commencent à la voir comme un socle sur lequel bâtir — un socle dont dépend leur propre succès dans le domaine scientifique.»

Rapidement quelques réflexions construites en préparant mon intervention lors d’une journée autour de l’IAG organisée par l’APDEN de Poitiers. Merci à toute l’équipe pour l’invitation et l’organisation.

Ecrire du code.

Arthur Mensch est Le PDG de Mistral AI, entreprise spécialisée dans l’IA et « licorne » française. Il vient d’être auditionné par l’assemblée nationale. Si vous vous intéressez au sujet, l’entretien est assez intéressant même s’il faut très souvent faire la part de ce qui relève de la réalité de cette firme (et qui peut être étendu à d’autres semblables) et la dimension très prégnante de l’opportunité de lobbying qui lui est ainsi offerte (mais c’est le jeu, il fait son taff, et il le fait plutôt très bien).

Deux séquences, ou plus exactement deux phrases m’ont beaucoup frappé dans cette intervention de presque une heure trente.

« Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Je répète et souligne : « Aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. »

Et il poursuit : « Aujourd’hui vous n’êtes plus un artisan, vous êtes un manager, donc vous demandez à des agents (IA) d’écrire le code pour vous. Vous donnez les spécifications ; vous êtes un donneur d’ordre. » (la séquence est accessible à partir de 1h 8 min et 41 sec.

Et là quand j’entends ça j’ai plein de questions.
Première question : est-ce que c’est vrai ? Alors disons oui et non. Pour en avoir échangé avec des collègues informaticien.ne.s dont certain.e.s ont également travaillé dans ces grands groupes (Google et Facebook), disons que oui c’est vrai il existe des ingénieurs / développeurs qui n’écrivent plus de ligne de code, mais il existe aussi toujours quand même qui codent les agents IA qui à leur tour vont coder à la place d’autres ingénieurs et/ou développeurs. Il y a d’ailleurs une expression dédiée, on appelle cela du « Vibe Coding » qui consiste à créer du code informatique (par des initiés ou des non-initiés) en utilisant du langage naturel grâce à l’IA.

Deuxième question : est-ce que c’est grave ? Je n’ai pas la réponse à court terme mais à moyen terme j’ai l’absolue certitude que cela l’est. Et que cela l’est éminemment.

Troisième question : est-ce que c’est une bonne nouvelle ? Pour répondre, je vous propose de transposer la situation du PDG d’une boite d’IA expliquant que ses ingénieurs n’écrivent plus de ligne de code pour … coder, à la situation, par exemple, d’un ou d’une responsable de formation, d’un ou d’une enseignante, qui dirait : « je n’ai plus aucun étudiant / élève qui ait besoin de comprendre les concepts et notions que je manipule pour leur transmettre un savoir et qu’ils soient en capacité d’en produire de nouveaux à leur tour. Et là c’est, convenez-en, tout à fait vertigineux. Alors oui bien sûr, comparaison n’est pas raison, les ingénieurs d’Arthur Mensch ne sont pas les élèves ou étudiants dans nos classes et nos amphis, et oui bien sûr le code est un langage mais on pourrait philosopher quelques heures (en relisant Saussure, Chomsky, Wittgenstein et quelques autres) sur le fait qu’il est ou non une langue. Mais vous voyez l’idée.

Quatrième question. Si l’on s’accorde sur le fait que le code est une langue ou à tout le moins un langage, quand vous n’écrivez ou ne parlez plus une langue, au bout de combien de temps cessez-vous de la comprendre et de la maîtriser ? Arthur Mensch le dit lui-même, il est de cette génération « d’artisans du code » (il a 33 ans), il a appris cet artisanat et il dit aussi que cela lui a plu. Mais une autre génération arrive, qui n’aura plus la nécessité d’apprendre, ou d’apprendre autant. Alors que feront-ils ? Et s’ils n’écrivent plus une ligne de code mais doivent continuer de fabriquer des applications, alors que feront-ils … sans code ? Autre vertige.

Alors oui je sais, entre ce que dit Arthur Mensch, et le contexte et la place depuis lesquels il dit cela, il y a tout de même une série de nuances à apporter. Pour autant, dans le champ scientifique qui est le mien (les sciences de l’information et de la communication), il nous appartient précisément de prendre des énoncés pour ce qu’ils disent dans l’instant, autant que pour ce qu’ils installent aussi en terme de narration sociale plus ou moins implicite. Et Arthur Mensch « incarnant » et portant le discours technophile, accélérationniste et dérégulateur autour de l’IA, ce qu’il dit (même si cela n’est que 2 minutes dans une vidéo d’une heure trente) est en soi un énoncé particulièrement performatif auprès de celles et ceux qui l’écoutent. Et ce que dit Arthur Mensch c’est que « aujourd’hui les ingénieurs chez Mistral n’écrivent plus de ligne de code. » Comprenez et entendez que donc tous les ingénieurs dans toutes les entreprises d’IA qui sont ou se rêvent en futures licornes, n’écrivent et n’écriront plus une ligne de code ou en tout cas n’ont et n’auront plus vocation à le faire. Juste du Vibe Coding.

Le cauchemar de Lessig.

« Code Is Law. » (traduit en français par Framasoft). « Le code c’est la loi. » C’est un livre (paru en 1999, « Code And Other Laws of Cyberspace« ) et un article (paru en 2000). C’est l’un des textes fondateurs de la culture numérique. Publié au début des années 2000, absolument fondamental et totalement visionnaire, Lawrence Lessig (professeur de droit, spécialiste de propriété intellectuelle, inventeur des licences Creative Commons, etc.), Lawrence Lessig y explique notamment que le code est un régulateur, que le code décide et que le code :

« définit la manière dont nous vivons le cyberespace. Il détermine s’il est facile ou non de protéger sa vie privée, ou de censurer la parole. Il détermine si l’accès à l’information est global ou sectorisé. Il a un impact sur qui peut voir quoi, ou sur ce qui est surveillé. Lorsqu’on commence à comprendre la nature de ce code, on se rend compte que, d’une myriade de manières, le code du cyberespace régule. »

Et il poursuit en expliquant que :

Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n’est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D’autres gens – les codeurs – le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix – et si nous pourrons alors déterminer la manière dont ces valeurs se régulent – ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place. 

D’où ma dernière question : if « Code Is Law », then what da fuck is Vibe Coding ?

Le « Vibe Coding », un monde dans lequel les entreprises les plus puissantes en IA n’auraient que des ingénieurs et des développeurs n’écrivant plus de ligne de code, ce monde c’est le cauchemar de Lawrence Lessig et notre cauchemar à toutes et tous. Car si les codeurs eux-mêmes sont à distance du langage ou de la langue par laquelle ils installent des valeurs dans le code, s’ils ne parlent ou n’entendent plus cette langue et s’ils se réduisent à des fonctions de « managers d’agents IA – faussement – autonomes », alors comment elles et eux en première ligne, et surtout comment nous toutes et tous en première cible, comment serons-nous encore capables de jouer collectivement un rôle dans la circulation et l’établissement de ces valeurs, de ces agendas politiques, économiques, idéologiques, que le code véhicule et qui n’ont jamais été aussi puissants et déterminants, et dans le même temps jamais à ce point été inféodés à des intérêts presqu’uniquement marchands, mafieux et singuliers ?

Si le code se passe de développeurs autres que des agents non-humains, alors la question de la maîtrise des valeurs que le code véhicule devient une non-question, un inquestionnable.

« Un algorithme c’est la décision de quelqu’un d’autre » me faisait l’honneur d’écrire Antonio Casilli dans la préface à l’un de mes tout premiers ouvrages. Et ce quelqu’un n’était pas extrêmement compliqué à trouver, à isoler, et à questionner. Mais un algorithme « vibe codé » c’est la décision de … qui ?

« Les limites de mon langage signifient les limites de mon propre monde » écrivait Wittgenstein.

L’intelligence c’est de l’énergie (et la connerie c’est de l’énergie moins chère).

Arthur Mensch dit aussi plein d’autres trucs qui installent des narratifs extrêmement clairs et puissants dans leur fonction d’agenda. Par exemple à plusieurs reprises il répète qu’il faut réfléchir ou considérer l’intelligence comme on réfléchit à l’énergie, à l’électricité. Alors bien sûr il parle de l’intelligence artificielle. Mais il ne dit pas « intelligence artificielle », il dit juste « intelligence ». Et ce n’est pas « juste » une omission ou un raccourci. C’est l’endroit d’où il parle, celui d’où il est situé, c’est l’énoncé de son futur probable et de son futur désiré, d’un futur qui répond à « son » agenda propre. Un mode dans lequel en effet l’intelligence se capte, se stocke, se transmet et se calcule comme l’énergie, comme l’électricité. D’ailleurs et c’est aussi extrêmement frappant, à plusieurs reprises et sur plusieurs questions, il commence toujours par répondre en nombre de kilowatts ou de mégawatts. C’est son unité de mesure, son mètre étalon et ce sur presque l’ensemble des questions qui lui sont posées et adressées. Tout se calcule en kilowatts ou mégawatts. Tout est là. Toutes les réponses sont là. Un mètre étalon. Qui est aussi son plus grand talon d’Achille (à lui et à l’ensemble de l’industrie extractiviste de l’IA).

Et si notre terre était notre langue ?
Et si les IA conversationnelles étaient nos vaisseaux ?
Et si nous étions des astronautes sociaux ?

L’Overview Effect ou « effet de vue d’ensemble » c’est « un choc cognitif, une prise de conscience dont témoignent certains astronautes lors d’un vol spatial qui se produit lorsque ceux-ci observent la Terre depuis l’orbite terrestre ou la Lune. Cet effet se produit par la mise en perspective directe de la situation de la Terre dans l’espace : la planète est perçue comme une sphère fragile, un point bleu pâle « suspendu dans le vide », protégé par une fine atmosphère. »

L’Overview Effect conduit donc à prendre conscience de la fragilité d’un écosystème en l’observant d’un point, d’une position qui ne nous est ni naturelle ni facilement accessible et qui introduit une grande distance impliquant un renversement de perspective.

Et bien – me semble-t-il en tout cas – c’est très caractéristique de ce qu’ont produit les premiers systèmes d’IA conversationnels, ces artefacts génératifs. Et de ce qu’ils continuent de produire actuellement. En même temps que ces « agencements machiniques informationnels » ont déplacé la question du langage, ces IA conversationnelles et leur insincères maïeutiques nous ont mis dans une situation d’observation tout sauf naturelle de processus discursifs en temps réel qu’ils effectuent, processus discursifs pour autant (essentiellement) crédibles et « satisfaisants » (en tout cas satisfaisants aux principaux codes d’un échange conversationnel entre deux êtres humains).

Voir des machines parler était déjà étonnant mais fut longtemps cantonné au seul imaginaire de science-fiction ; puis parler à des machines (via les interfaces vocales du World Wide Voice) devînt une forme de routine mais demeurait, quelque part, toujours une forme d’étonnement ; aujourd’hui, voir des machines avoir avec nous des conversations rationnelles en temps réel, produit un effet de décalage qui fait que c’est « notre » intelligence, « notre » capacité dialogique et rationnelle qui est vue comme immensément fragile et qui, par contraste, donne à ces machines et à ces artefacts, dans l’interaction que nous avons avec elles, une place différente de ce qu’elle devrait être. Un renversement de perspective.

Nous sommes dans la position de l’astronaute qui observe non pas la terre mais la capacité de langage et d’intellection (et parfois aussi d’imagination), et qui l’observe pour la première fois depuis la médiation artificielle et artefactuelle qu’en propose l’IA générative. Et si la distance de la terre à la station spatiale qui permet de l’observer est considérable et se mesure en kilomètres (autour de 400 pour être précis), la distance entre notre « engagement langagier » et l’écho conversationnel médié par les IA est tout aussi vertigineuse à ceci près qu’elle ne se mesure plus en kilomètres mais plutôt en dépliant l’ensemble des règles algorithmiques, corpus d’entraînement, processus de « fine-tuning » mais aussi infrastructures techniques (data centers) et autres opérations qui permettent aux machines de faire à la fois illusion de langage et leurre de conversation.

Soit la langue est fragile, soit c’est nous qui le sommes.
Et si la langue est aux machines …

Cette position tout sauf naturelle (au même titre que celle de l’astronaute Sophie Adenot ci-dessus) nous conduit, en partie au moins, à regarder et à mieux mesurer et prendre en compte toute la fragilité du langage et des interactions humaines qu’il permet et conditionne. Mais cette situation d’observation inédite produit également deux effets différents : certains cherchent à protéger ou à sanctuariser la nature ou à tout le moins la fonction du langage, et à ne pas entièrement et systématiquement les soumettre aux systèmes techno-politiques qui produisent et façonnent ces IA ; d’autres au contraire font de cette fragilité évidente l’occasion d’un renoncement sur l’autel de l’efficience ou de la rationalité économique, prétextant se démultiplier via des IA agentiques qui sont le Taylorisme d’une langue véhicule. Et puis bien sûr il y a les enjeux même de l’écriture et de la création, que décrit un récent et admirable texte de Gregory Chatonsky sur AOC : « Ce qui (me) permet d’écrire est ce qui (vous) empêche de lire. »

Dans les deux types de réaction possible à cet Overview Effect de l’IA sur le langage, certains initialement en garderont donc surtout un sentiment accru de connexion avec une entité non-humaine, là où d’autres n’y verront que l’instanciation de formes toujours plus abouties d’isolement et de solitude. Tout comme la littérature scientifique autour de l’Overview Effect (qui date des premiers vols à haute altitude dans les années 1950), documentait aussi bien « l’appréciation et la perception de la beauté, une émotion inattendue, voire bouleversante, et un sentiment accru de connexion avec les autres » (Wikipedia) qu’un effet paradoxal de « rupture » ; les aviateurs traversaient en effet un phénomène décrit comme un sentiment de séparation physique de la terre occasionnant des réactions individuelles allant qui pouvait soit les plonger dans un sentiment  « d’exaltation ou du sentiment de se sentir plus proche de Dieu » tout comme à des formes élevées d’anxiété, de peur ou de solitude (Wikipedia). Ce phénomène dit de « break-off » cessa d’être étudié en tant que tel au début des années 1970.

Dans l’histoire des technologies numériques, qu’il s’agisse du Cloud, des réseaux sociaux, ou désormais de l’IA, les effets de proximité sont presque toujours paradoxaux et ne font que masquer une distance de plus en plus grande. Le « Cloud Computing » permet une disponibilité immédiate de documents qui n’ont jamais été stockés physiquement aussi loin de nous ; les réseaux sociaux ont historiquement fait proximité (puis promiscuité) avec des individus géographiquement toujours plus éloignés. Sans toujours le mesurer ou l’éprouver, nous avons donc déjà traversé d’autres « Overview Effects » : celui de l’éloignement et d’une distension de nos mémoires documentaires, celui de l’éloignement et d’une distension de nos relations sociales, et désormais donc, celui de l’éloignement et d’une distension là encore paradoxale de notre rapport au langage.

Voilà pourquoi, aussi, la question des heuristiques de preuve, celle de savoir comment à l’échelle d’une société nous serons – ou non – encore capables de définir la valeur de vérité d’un énoncé ou d’un fait et que cette valeur soit partagée parce que démontrable, documentable, voilà pourquoi la question des heuristiques de preuve est devenue aussi essentielle : non pas seulement par l’industrialisation de la production du faux, non pas uniquement par la vitesse même à laquelle ce faux est créé et se diffuse mais parce que nous sommes placés à une distance lointaine, inédite, comme en « décrochage » de notre capacité à faire langage. Parce que pour filer cette métaphore au moins visuelle de l’Overview Effect, c’est un autre type de vaisseau que l’ISS qui nous mène à si grande distance d’un biotope (la langue) qui nous est habituellement si proche et qui à mesure qu’elle se rapproche des machines semble aussi comme proportionnellement s’éloigner de nous. Les IA, ou plus précisément leur cadre de déploiement technique (les LLM) et infrastructurel (Data Centers et processeurs), sont un vaisseau comme un vecteur de mise à distance, d’éloignement de ce qui fait la langue.

Nous arrivons aujourd’hui à un moment charnière dans lequel nous verrons si la massification de l’usage des IA (pour autant qu’elle continue d’augmenter de manière constante et ne soit pas soumise à divers aléas d’un modèle économique pour l’instant reposant sur la dynamique d’un gigantisme de l’épuisement – toujours plus de ressources et de consommation), nous verrons, disais-je, si la massification de l’usage des IA nous emmène plutôt vers la conscientisation de la fragilité de la langue ou s’il faut plutôt se résoudre, après sa marchandisation dans un capitalisme linguistique (Frédéric Kaplan), à sa presque totale servicialisation dans un cadre où ce que l’on appelait la novlangue et le néo-parler, seront l’essentiel de la langue collective circulante quand d’autres régimes discursifs et linguistiques, jusqu’ici principalement vecteurs de socialisations affectives fines, seront de plus en plus cantonnés aux seuls échanges entre humains et machines.

Je ne crois pas trop à l’avènement à moyen terme d’une société du silence qu’extrapole par exemple un éditorial du WSJ reposant sur un article scientifique qui montre que nous utilisons en moyenne chaque année, 300 mots de moins par jour. Un recul de la parole qui touche toutes les classes d’âge et que les chercheurs comptabilisent en indiquant que notre volume de parole a diminué de 28% en moins de 15 ans.

Je crois par contre que depuis l’avènement des médiations numériques, l’inflation de paroles et de discours directement monétisables d’une part (capitalisme linguistique), et en parallèle et d’autre part, l’artificialisation soutenue de formes discursives indigentes au seul renfort d’une nécessité d’interaction rendant la langue soluble dans sa fonction phatique, je crois que oui, tout cela fait qu’encore une fois la question du langage s’est déplacée et qu’elle continue de le faire toujours davantage, les IA conversationnelles augmentant la distance entre elle et nous à des échelles stratosphériques jusqu’ici jamais atteintes.

One More Thing.

Dans une interview au magazine Usbek & Rika à propos de son dernier livre, la question était posée à Nicholas Carr de savoir quelle serait sa première décision s’il était nommé à la tête d’un puissant ministère de la technologie et du numérique par un gouvernement éclairé. Et il répondait ceci : « Détruire tous les centres de données. »

Or que sont ces centres de données fondamentalement dans la perspective qui nous occupe ? Ce sont des centres d’accumulation de paroles et de discours ; de paroles et de discours retenus, en permanence recalculés, archivés non pas par vertu de conservation mais par nécessité de manipulation. Détruire tous les centres de données pourrait alors, en effet, redonner une chance à la parole d’exister, et que chaque occasion nouvelle de discourir soit aussi une occasion nouvelle de découvrir. Ce qui fût un temps l’essentiel de l’intérêt de ce que nous appelions le Web.

J’étais il y a quelques semaines l’invité des Universités Populaires du pays Yonnais (UPPY), pour une soirée conférence-débat autour du thème de l’IA.

La captation de cette intervention est désormais disponible en ligne.

SI vous résidez autour de La Roche sur Yon ne manquez pas les prochains rendez-vous de ces universités populaires (informations sur leur page Facebook)

Contrairement à ce que pouvait écrire Céline, l’histoire, numérique en tout cas, repasse parfois les plats. A fortiori lorsque ceux-ci ont un goût amer. Au début des années 2005, j’ai suivi, chroniqué et établi l’un de mes terrains de terrain de recherche sur la manière dont le projet Google Books allait (et aujourd’hui, avait) définitivement modifié et remodelé à son avantage non seulement l’entièreté des « métiers du livre » (librairie, édition, bibliothèque), mais aussi initié et accompagné toutes les mutations ayant donné lieu à de nouveaux standards dans l’ensemble des industries culturelles. Vous trouverez trace de nombre de ces réflexions dans la rubrique éponyme de ce blog, ou bien dans cette version (qu’il faut que j’actualise) d’un cours que je donne sur le sujet à mes étudiantes et étudiants.

Je vous résume l’histoire en quelques mots.

Google débarque en 2005 avec un projet assez dingue de numérisation massive d’ouvrages du domaine public pris dans les bibliothèques avec leur accord, et en prenant tous les frais (colossaux) à sa charge. Au fur et à mesure on découvre qu’il n’a pas seulement numérisé des oeuvres libres de droits mais aussi des ouvrages sous droits et des oeuvres dites « orphelines » (oeuvres toujours sous droits mais commercialement épuisées et dont les ayants-droits ne se font pas connaître). Qu’il a fait tout cela en loucedé mais avec l’accord de certaines bibliothèques, accord couvert par des clauses de non-divulgation léonines. Et que toute sa stratégie était de venir concurrencer ses grands rivaux de l’époque (dont Amazon) en se positionnant rapidement sur la vente de livres numériques, mais aussi (et surtout) de prendre une colossale avance dans le domaine de l’IA en entraînant ses algorithmes sur ce que l’on ne nommait pas encore un « large modèle de langage » mais qui de fait, en était l’un des tous premiers et l’un des plus massifs. Après plein d’étapes et de rebondissements, de tentatives d’accord à l’amiable (et à grands coups de valises de billets), de coups fourrés y compris entre les plaignants où certains grands groupes éditoriaux firent cavalier seul pour négocier en direct avec Google, et après 10 ans de procès aux USA mais également en France, le verdict fut finalement rendu en faveur de Google au nom de l’argument du « Fair-Use », le juge américain considérant en effet que :

« Le but de la copie est hautement transformatif, l’affichage pour le public du texte est limité, et les passages ne fournissent pas un substitut aux œuvres originales protégées. La nature commerciale de Google et ses motivations lucratives ne permettent pas de rejeter l’argument du Fair Use. »

En 2010, lors de la sortie de l’excellent documentaire « Google and the world brain« , Amit Singhal (qui a rejoint Uber au début de l’année 2017) était interviewé en tant que grand chef de l’algorithmie chez Google et déclarait ceci : « Google Search is going to be assisted intelligence and not artificial intelligence.«  Une intelligence « assistée » par l’immensité d’un corpus construit dans la temporalité du procès. Alors que presque tous les regards étaient tournés vers l’exploitation d’un marché du livre numérique et les questions de droit d’auteur, la firme travaillait en réalité aussi et surtout sur l’optimisation de son immense corpus de textes dans l’optique du TALN (traitement automatique du langage naturel). L’invention de la technologie dite des « Transformers » en 2017 par huit chercheurs de Google dans l’article « Attention Is All You Need » allait métamorphoser ce corpus immense en l’un des tout premiers large modèle de langage et donner à Google un avantage concurrentiel colossal que l’on mesure aujourd’hui avec son modèle Gemini qui s’affirme comme l’un des plus puissants.

Et le rapport avec l’IA aujourd’hui?

Aujourd’hui (décembre 2024) des universités, les mêmes qui avaient initialement contractualisé avec Google pour le projet Google Books en 2005, Harvard en l’occurrence, mettent de la même manière gratuitement à disposition, non plus des corpus de livres papier pour qu’ils soient numérisés, mais des corpus de livres numérisés pour qu’ils puissent « entraîner des IA ». Quelques mois plus tard, en Mars 2025, Sam Altman (CEO d’Open AI) déclare que si sa boîte n’a pas le droit de s’entraîner comme elle le veut et sans rien demander à personne sur d’immenses corpus de textes (y compris protégés par le droit d’auteur), que si tout cela n’est pas reconnu comme du « Fair Use », alors la course à l’IA est terminée côté américain et que les Chinois et les Russes prendront la place (et gagneront la course). Quelques mois plus tard encore, en Septembre 2025, c’est la société Anthropic (dont nous reparlerons) qui, pour échapper à un procès initié par des auteurs sur le pillage et l’utilisation sans consentement de leurs oeuvres, sort le chéquier et débourse 1,5 milliard de dollars pour éviter l’action en justice. Pour vous donner un effet d’échelle, à l’époque du procès Google Books (démarré en 2005), la firme avait proposé aux plaignants (les auteurs et éditeurs) un dédommagement de 45 millions de dollars en échange de l’abandon de toute poursuite. Une somme qu’à l’époque tout le monde considérait comme « folle ». Nous étions alors en 2008. Moins de 20 ans plus tard, les 45 millions de dollars sont devenus 1,5 milliard. C’est bien plus que vertigineux.

Hier en plein procès Google Books la firme fixait aux auteurs et autrices un ultimatum pour retrouver et déclarer les oeuvres leur appartement et numérisées sans leur accord et soit réclamer leur retrait soit accepter un dédommagement et renoncer à poursuivre l’action en justice. On appelait ça le « règlement Google ».

Aujourd’hui en plein procès Anthropic on fait face à un scénario … rigoureusement identique au mot près.

Hier. A l’époque des débuts de la numérisation massive lancée par Google (2005 donc) et jusqu’à assez tard (2010 et au-delà) on trouvait fréquemment dans le moteur de recherche des ouvrages dont les informations de catalogage (date de parution notamment) étaient absolument fantaisistes et erronés. Comme la collecte de ces infos n’était pas faite par des gens (bibliothécaires) et de manière structurée mais par des algorithmes qui scannaient le texte et récupéraient ce qu’ils pouvaient, il était fréquent que Google Books vous indique que Notre Dame de Paris avait été écrit au 16ème siècle ou que Baudelaire était l’auteur du célèbre ouvrage « les fleurs et leurs parfums ». On y trouvait aussi, dans ces rayonnages numériques algorithmisés, tout un tas d’ouvrages pas du tout rangés au bon endroit, comme si un bibliothécaire fou ou rigolo avait décidé de ranger Le Château de Kafka au rayon moyen-âge, Les fleurs du mal au rayon horticulture, et Mein Kampf au rayon jeunesse (ce qui pour le coup n’est pas très rigolo j’en conviens). Et tout un tas d’autres erreurs qui pourraient prêter à rire s’il n’était pas question de forger des référents culturels stables.

Aujourd’hui. Et aujourd’hui dans les bibliothèques américaines des gens viennent chercher des livres qui n’existent pas. Qui n’existent pas parce que c’est ChatGPT ou l’un de ses copains qui a fabriqué de toute pièce ici un titre, ici une collection, ici un auteur, ici un mix des trois ne reposant sur rien d’autre de réel que le besoin de satisfaire le besoin de celui ou celle qui l’interrogeait. Dans le même genre et à l’instar des fausses dates de publication ou des fausses dates de naissance que le Google Books des années 2005-2015 attribuait parfois aux auteurs et autrices référencées, le Google de 2025 dopé à l’IA se met à citer des auteurs et des pages dont … l’IA de Google et l’auteur. Cela peut représenter (selon le type de requête) parfois plus de 10% des 100 premiers résultats organiques. Précisons que Google conteste les résultats de cette étude et présente des chiffres d’autres études qui situent plutôt cette proportion autour de 2 à 3,5%.

Google Books en 2005 ou Google Gemini en 2025, le problème n’est pas tant que la numérisation d’hier ou l’artificialisation d’aujourd’hui soient sources d’erreurs ; le problème tient dans le « statut » de ces erreurs, dans notre capacité à les identifier en tant que telles, et dans la possibilité effective qu’elles soient de nouveau traitées comme des informations fiables par des IA devenues autophages et plus souvent infra-visées que réellement supervisées.

La propriété (intellectuelle) c’est ce qui peut être volé. 

Je raconte souvent à mes étudiantes et étudiants la manière dont la bibliothèque d’Alexandrie s’est largement construite sur un mode confiscatoire. On récupérait toutes les oeuvres qui se trouvaient dans la cargaison des navires rentrant au port, si on en avait le temps, on en faisait une copie pour le musée et la bibliothèque d’Alexandrie puis on rendait tantôt l’original tantôt la copie, et si on n’avait pas temps, on gardait l’original. Tout cela parce qu’à l’époque déjà, en tout cas dans l’esprit de Ptolémée, la culture était une arme, et que faire collection c’était faire légion.

Rien de très étonnant donc à constater que de la même manière que Google Books vint littéralement piller des collections entières de livres ou d’articles de journaux pour alimenter et constituer son moteur de recherche aspirant à l’IA, ce sont aujourd’hui les IA contemporaines qui à leur tour viennent piller tout le savoir disponible sans le moindre égard pour le respect de la propriété intellectuelle.

Rien ou presque n’a changé depuis la bibliothèque d’Alexandrie : officiellement il s’agit d’en faire des « copies » pour hypothétiquement les rendre ensuite aux détenteurs des droits s’ils s’en aperçoivent et les réclament ; en réalité il s’agit de constituer un corpus confiscatoire sur lequel on appliquera des droits de propriété intellectuelle au seul bénéfice de la firme extractiviste qui l’a constitué par prédation. Concrètement ? Là encore l’histoire bégaie.Comme le révélait une enquête de The Atlantic, récemment reprise par Mediapart, « pour entraîner son modèle d’intelligence artificielle, la maison mère de Facebook a téléchargé illégalement, dès 2022, les ouvrages accumulés par le site pirate LibGen. Mediapart révèle l’implication centrale de Guillaume Lample, devenu l’un des patrons de Mistral AI, l’entreprise française phare de l’IA. » Le site pirate LibGen est loin d’avoir été le seul à être pillé. Et il faut rappeler que s’il est un site « pirate » c’est parce qu’historiquement 4 grands acteurs détiennent à eux seuls l’ensemble des revues scientifiques et y exercent un pouvoir de contrainte et de vérouillage tel, qu’il fallut le courage de gens comme Aaron Swartz ou Alexandra Elbakyan pour ramener, dans l’espace public et citoyen, des connaissances scientifiques produites sur fonds publics et qui à ce titre, appartiennent à toutes et tous et n’auraient jamais du en sortir au seul bénéfice d’éditeurs prédateurs jouant de leur monopole pour restreindre l’accès aux connaissances. En 2010 donc, Aaron Swartz téléchargea illégalement près de 5 millions d’articles scientifiques hébergés chez l’éditeur JSTOR pour les remettre dans l’espace public. Poursuivi par la justice et « pour l’exemple », il fit face à une amende de plus d’un million de dollars et à une peine de 35 ans de prison (sic). Face à un acharnement judiciaire sans précédent, il se suicida 3 ans plus tard.

Après Aaron Swartz qui le fit pour libérer l’accès au savoir, voici donc Guillaume Lample chez Meta puis chez Mistral AI qui vient cette fois piller et voler pour permettre à la firme qui l’emploie de dépasser rapidement la concurrence. Il vole, il pille, mais il ne le fait pas pour détruire un monopole, il le fait pour en créer un nouveau. Et il est malheureusement loin d’être le seul.

Mais aujourd’hui, l’état du droit a changé et ce sont des firmes à la trésorerie presqu’infinie que l’on poursuit plutôt que des individus isolés dont on cherche à faire un exemple. A l’époque où Aaron Swartz libéra ces 5 millions d’articles scientifiques, près de 70 GB de données, il fut poursuivi et menacé de 35 ans de prison et de plus d’un million de dollars d’amende. Aujourd’hui dans le procès « Kadrey VS Meta », du nom d’un auteur (Kadrey) s’opposant à l’utilisation sans consentement de ses oeuvres par la forme Meta pour alimenter son modèle d’IA, le juge n’a pas menacé Meta de 35 ans de prison et d’une amende à la hauteur de son chiffre d’affaire. Car entre Aaron Swartz et ce procès, il y eut un autre procès, celui qu’aux Etats-Unis la Guilde des Auteurs et l’association américaine des éditeurs intenta en 2005 à Google qui numérisait alors également à tout va et également sans consentement. Et le verdict de ce procès, en 2015, qui donna raison à Google considérant que les copies et usages produits à partir des oeuvres originales était « hautement transformatif » et donc conforme à la doctrine du Fair-Use en droit américain, y compris dans le cadre de la stratégie pourtant clairement commerciale de Google. Nous voici en 2025, dix ans après la fin de ce qui fut le plus grand procès de l’histoire des industries culturelles autour du droit d’auteur et de la numérisation, et dix ans plus tard, Meta (et Guillaume Lample) s’en tirent sans aucune condamnation, la justice estimant que là encore, la copie réalisée sur la base de ces plus de 80 GB de données de livres piratés, était « hautement transformative » (puisqu’elle permettait aux outils d’IA générative de recracher des textes … différents) et donc là encore conforme au Fair-Use en droit américain.

Les ennuis de Meta et de Zuckerberg ne sont pas pour autant terminés puisqu’il existe d’autres actions en justice initiées de la même manière, mais cette fois non plus sur des livres mais sur des films, plus précisément des films pour adultes. Un producteur de ces films accuse le groupe Meta d’en avoir téléchargé via Bittorrent pour alimenter les modèles de ses IA, le groupe Meta tente d’éviter d’aller au procès en arguant que des films ont certes été téléchargés sur les serveurs de la firme mais que c’était « pour des usages privés et personnels » (sic).

Les IA génératives s’attaquant à l’ensemble des industries culturelles (livre, film, musique, radio, télévision, jeux vidéo) ce sont autant de fronts ouverts en termes de batailles juridiques. Et là encore le passé jouera un rôle précieux d’analyse. Lorsqu’en Mars 2025 en France, le syndicat national de l’édition (SNE), la société des gens de lettres (SGDL), et le syndicat national des auteurs et compositeurs (SNAC) intentent un procès contre Méta au motif qu’ils y ont trouvé des oeuvres utilisées sans leur autorisation et permettant d’alimenter et d’entraîner les IA de la firme, c’est, à l’exception de la participation du SNAC, l’exacte redite du procès intenté par l’éditeur La Martinière en 2006 contre Google, qui fut ensuite rejoint par le SNE et la SGDL. Même procès, mêmes raisons d’aller en justice, mêmes acteurs et plaignants. Le résultat du procès de 2005 côté français fut que les auteurs et éditeurs renoncèrent aux poursuites contre Google, préférant des accords de gré à gré, et une avancée du droit dans les contrats d’éditions qui doivent aujourd’hui obligatoirement intégrer un volet sur l’exploitation numérique des oeuvres. Pendant qu’aux USA, le même procès (auteurs et éditeurs américains contre Google) se termina donc à l’entier bénéfice de Google, considérant que la copie produite était hautement transformative et s’inscrivant dans le cadre du Fair-Use. Un procès américain qui eut, en droit français sa traduction dans la directive pour l’exception « TDM (Text and Data Mining) » qui « autorise toute personne à procéder à des fouilles, quelle que soit la finalité, sous réserve que l’auteur n’ait pas exprimé son opposition de manière appropriée« , donnant ainsi aux firmes d’IA la possibilité d’accéder légalement à l’ensemble des oeuvres et documents disponibles quelque soit l’écosystème dans lequel elles sont hébergées et consultables, sauf si leurs auteurs et autrices s’y sont explicitement et « de manière appropriée » opposés. Autant vous dire que la plainte du SNE, de la SGDL et du SNAC est certes importante et courageuse mais qu’en l’état du droit, elle apparaît aussi totalement vaine. Mais il est vrai qu’indépendamment des intérêts des plaignants, certaines plaintes ont aussi pour vocation première de faire évoluer l’état du droit en multipliant les jurisprudences. Espérons qu’il en soit alors ainsi même si j’en doute profondément au moment où j’écris ces lignes.

Dans la série des procès qui se rejouent avec des similarités plus que troublantes à 15 ou 20 ans d’intervalle, après « l’AFP contre Google News » en 2005, voici aujourd’hui « les éditeurs de presse contre l’IA de Google« , une plainte venant en effet d’être déposée en Février 2026, à Bruxelles, par le European Publishers Council (EPC) sur la base du droit de la concurrence. Comme rappelé par Isabelle Szczepanski sur le site Electronlibre, « Les éditeurs dénoncent une captation de leurs contenus « sans autorisation, sans mécanismes de retrait effectifs et sans rémunération équitable », et alertent sur un risque structurel pour l’économie de la presse. Le conflit entre éditeurs européens et géants du numérique franchit un nouveau cap, du fait d’une urgence économique, puisque selon les dernières données, le trafic issu de Google vers les sites de presse a chuté d’un tiers à l’échelle mondiale entre novembre 2024 et novembre 2025. »

Prenez la plupart des titres de presse des années 2005 et ajoutez simplement IA devant les noms de grandes firmes technologiques, et vous aurez l’exact équivalent des titres de presse des années 2025 s’interrogeant sur le devenir de l’IA et son utilisation par ces firmes dans leur arsenal de services. En 2005 on se demandait sur Google News allait tuer le journalisme, en 2025 on s’interroge pour savoir si « L’IA de Google est-elle en train de tuer le journalisme ? » Vingt années on passé. Les prédateurs sont identiques. Les modes de prédation également. A croire que vingt années ne nous ont rien appris, ou si peu.

Autre exemple de procès cette fois centré sur une possible distorsion de concurrence autant que sur le respect du droit d’auteur, celui que la commission européenne a ouvert contre Google accusé de piller des contenus de créateurs sur Youtube pour alimenter son IA « Veo 3 ». Comme rappelé sur le site Presse-Citron :

« En ce qui concerne le moteur de recherche, la Commission européenne va examiner dans quelle mesure les aperçus IA de Google et les réponses de l’AI Mode reposent sur les contenus des éditeurs, “sans compensation appropriée et sans possibilité pour les éditeurs de refuser sans perdre l’accès à Google Search”, alors que le moteur de recherche est une source de trafic majeur pour ces éditeurs. En ce qui concerne YouTube, la Commission explique que “les créateurs de contenu qui publient des vidéos sur YouTube ont l’obligation d’autoriser Google à utiliser leurs données à différentes fins, notamment pour l’entraînement de modèles d’IA générative”, que ceux-ci ne sont pas rémunérés, et que Google interdit pourtant ses concurrents d’utiliser le contenu YouTube pour entraîner leurs modèles d’IA. »

Là encore et comme dans l’ensemble des procès que la firme a jusqu’ici déjà traversés, l’accusation d’abus de position dominante n’est pas une dérive, c’est une marque.

Alors certes au fur et à mesure que l’histoire avance et que les mêmes procès de rejouent avec pour l’essentiel les mêmes catégories d’acteurs, l’époque change, et la chaîne de valeur se modifie. Ce qui hier était l’intérêt premier de la presse dans un monde informationnel certes connecté mais non encore numériquement préempté, ce qui valait pour une économie des médias, vaut aujourd’hui pour un écosystème nouveau dans lequel la valeur d’une information n’est plus premièrement sa capacité à être certifiée comme vraie mais plutôt la garantie virale et circulatoire d’une information assemblée et produite industriellement.

Bibliothèques pirates et entreprises corsaires. 

J’ouvre une petite parenthèse. Dans l’histoire du web et des industries culturelles, et dès lors que son usage – celui du web – devînt massif, il a toujours existé des sites pirates (qui venaient historiquement compenser l’absence d’une offre légale) et des bibliothèques également pirates qui se constituaient principalement pour lutter contre des monopoles empêchant, entravant ou monnayant à l’excès et pour leur seul bénéfice la circulation des connaissances, notamment scientifiques. Parmi ces bibliothèques pirates on peut notamment citer LibGen, Z-Library (qui commença par être un site miroir de LibGen) mais aussi l’extraordinaire Sci-Hub fondé par la non moins extraordinaire Alexandra Elbakyan. On trouve aussi l’archive d’Anna qui est, pour faire simple, un moteur de recherche de bibliothèques clandestines, donnant accès l’une des plus grandes collections d’ouvrages numérisés du domaine public principalement.  Si ces bibliothèques pirates ont souvent mauvaise presse dans nos contrées, il ne faut jamais perdre de vue l’immensité du rôle scientifique et intellectuel qu’elles jouent dans des pays qui n’ont ni la chance ni les moyens d’être des démocraties garantissant l’accès aux savoirs et aux connaissances.

Et dans l’histoire des technologies numériques, donc pour faire simple dans le dernier quart de siècle que nous venons de traverser, il est tout à fait frappant et sidérant de voir comment ces bibliothèques pirates, après avoir été criminalisées par les monopoles qu’elles combattaient, sont aujourd’hui instrumentalisées par d’autres monopoles (souvent les mêmes) qui agissent en corsaires au bénéfice d’intérêts économiques et géo-politiques devenus majeurs dans la course à l’armement que représente le développement des outils dits d’intelligence artificielle. Voici par exemple Nvidia qui se trouve prise la main dans le pot de confiture, en train de négocier avec l’archive d’Anna pour accéder à des millions de livres numériques et combler son retard dans l’entraînement de ses modèles. Là encore, l’ombre et la mémoire de l’enfant d’internet sont tristement pesantes et présentes.

Panama (destructive) Papers.

Vous vous souvenez de l’affaire des Panama Papers ? Ok bah rien à voir Par contre je vais vous parler du Projet Panama de la société Anthropic. Que j’ai découvert dans la formidable enquête du Washington Post, reprise et résumée notamment par le site Actualitté. Avant cela je vais vous rappeler, qu’historiquement la numérisation a toujours eu comme un de ses principaux objectifs de protéger, via une copie numérique, des ouvrages anciens et fragiles tout en les offrant à la consultation d’un public bien plus large.

Le projet Panama consiste, lui, à s’adresser à des libraires, bouquinistes, et à des bibliothèques, je cite, « sous-financées », pour récupérer d’énormes volumes d’ouvrages, lesquels seraient ensuite désossés pour n’en récupérer que les feuillets qui seraient ensuite envoyés sur des bancs industriels de numérisation, numérisation permettant donc d’entraîner l’IA d’Anthropic, à la suite de quoi tout ce papier serait soit détruit (sic) soit recyclé. Au début y’avait un livre. Après y’a plus rien. Ce projet allie et synthétise à la fois tout le cynisme et la crapulerie dont ces acteurs industriels sont capables. Comme c’est trop compliqué ou trop long d’entrainer légalement des IA sur des corpus suffisamment denses, on n’a qu’à jouer l’appât du gain auprès d’acteurs dans le besoin pour récupérer des livres en loucedé et les détruire après désossage et numérisation. Et au passage nourrir l’IA maison en mode Chronos dévorant ses enfants.

Petite parenthèse ici nécessaire. La numérisation d’ouvrages dispose de modalités différentes. On peut numériser « en mode image » ou numériser « en mode texte » (c’est à dire ajouter sur la numérisation en mode image un logiciel de reconnaissance optique de caractère – OCR – qui nous permettra de chercher à l’intérieur du document). Mais on peut aussi faire de la numérisation « destructive » ou « non-destructive ». Et en général on prend l’option « non-destructive ». Mais la numérisation non-destructive est beaucoup plus coûteuse que la numérisation destructive. Et il existe (en gros) trois types de machines pour réaliser la numérisation d’ouvrages. Les machines « manuelles » dans lesquelles c’est un opérateur humain qui va tourner les pages avant chaque « flash » de numérisation (par exemple pour les ouvrages abîmés ou anciens ou fragiles) ; les machines automatiques dans lesquelles c’est un robot automate (sorte de bras articulé) qui va vernir tourner plus ou moins rapidement les pages à numériser. Et enfin les machines « bancs de numérisation » dans lesquelles défilent des pages préalablement découpées et qui va donc beaucoup plus vite (il est par ailleurs possible de « réassembler » les livres une fois ainsi numérisés). A l’époque du procès Google Books, on avait beaucoup parlé de ces techniques de numérisation. Celles de Google restaient secrètes mais dans les grands centres de numérisation qu’il faisait construire pour accomplir sa tâche, les bibliothèques envoyaient des livres, certains précieux, certains anciens, d’autres plus « banals », mais en aucun cas la numérisation « destructive » n’était pratiquée. Cette dernière est d’ailleurs réservée à certains ouvrages à gros tirage, certains secteurs de l’administration ou à certains documents par exemple commerciaux dont la « forme livre » importe peu.

Je le redis donc ici, le projet Panama d’Anthropic est l’exemple parfait de tout le cynisme et la crapulerie dont sont capables des acteurs industriels uniquement soucieux de construire ou de préserver un avantage concurrentiel. Et ceci est pourtant l’une de leurs moindres saloperies au regard de – par exemple – ces mêmes acteurs emploient ou plus exactement exploitent de manière dissimulée des travailleurs pauvres à l’autre bout de la planète, qu’ils exposent délibérément à des contenus d’une violence extrême, pour affiner et entraîner leurs larges modèles de langage.

L’acte de lire dans l’impensé.

Un autre des grands enjeux du premier grand procès des industries culturelles, le procès Google Books, était celui de la mise en danger et de la fin programmée de la confidentialité de l’acte de lecture. Un argument qui avait notamment été porté par l’EFF (Electronic Frontier Foundation) et d’autres militants des libertés numériques, et que le juge en charge avait reconnu comme « effectivement important » mais non suffisant pour permettre à lui seul de rendre une décision favorable aux plaignants dans l’affaire. Et pourtant. Et pourtant la confidentialité de l’acte de lecture est au fondement même de nos démocraties. Sans même parler des dictatures, il suffit de voir ce que chaque gouvernement autoritaire fait du choix et de la place des livres dans les premières mesures qu’il prend.

En 2005 on s’alarmait (insuffisamment) du fait que l’avènement du livre numérique propriétaire et d’une consultation sur le modèle du streaming, concentrée entre les mains de quelques plateformes hégémoniques, allait leur donner un pouvoir infini pour à la fois orienter mais surtout documenter chacun de nos choix de lecture et les retenir ensuite comme potentielles preuves à charge.

En 2025 c’est le New-York Times qui dans le cadre d’une plainte déposée en 2023, attend que ChatGPT lui fournisse le contenu de 20 millions de conversations avec le générateur de texte, pour prouver que l’IA a porté atteinte aux droits d’auteur du journal (en mobilisant sans les référencer ni les citer, de larges extraits de ses articles pour alimenter lesdites conversations). La confidentialité de nos conversations avait pourtant déjà été mise à mal dans les nombreuses affaires autour des enceintes connectées qui, même éteintes, continuaient d’enregistrer tout ce que nous disions pour ensuite le scripter et là encore, alimenter (notamment) différents modèles algorithmiques. Mais avec la capacité de ChatGPT et des autres à se nourrir de textes et donc de lectures pour en produire d’autres qui ne soient pas simplement des usages de lecture mais des composants structurels et structurants de chaque interaction simulée avec chacun et chacune d’entre nous, la confidentialité de l’acte de lecture est en quelque sorte mise à mal … au carré.

Comment tout cela va (probablement) finir.

Sur le plan juridique, certains tentent aujourd’hui d’éviter que les procès de 2025 ne se terminent tous comme celui de 2005, c’est à dire avec une décision favorable aux grandes entreprises de l’IA à qui l’on accorderait, nonobstant la prédation extractiviste torcheculatoire pour le droit d’auteur à laquelle elles se livrent, la reconnaissance d’un « usage équitable » (Fair Use) établi sur des copies (génératives) considérées comme « hautement transformatives ». Et pour ce faire, ils et elles essaient d’inverser la charge de la preuve en défendant un texte dans lequel, puisqu’il est impossible pour un auteur de prouver que son travail a été repris et utilisé par des IA, on considérerait que « Sauf preuve contraire, l’objet protégé par un droit d’auteur (…) est présumé avoir été exploité par le système d’IA, dès lors qu’un indice afférent au développement ou au déploiement de ce système ou au résultat généré par celui-ci rend vraisemblable cette exploitation ». Ce serait donc aux sociétés qui développent des IA de faire la preuve qu’elles n’ont pas pillé des oeuvres et des auteurs sans leur accord. Juridiquement cela tient la route. Et il existe d’ailleurs d’autres approches intéressantes qui visent à prouver que ces IA sont capables de réécrire certaines oeuvres presqu’intégralement et littéralement, ce qui rend la notion d’usage uniquement transformatif compliqué à défendre :

Pour Alexandra Bensamoun, professeure de droit à l’université Paris-Saclay et experte du droit d’auteur des IA, « cette étude apporte des éléments empiriques décisifs » pour les contentieux en cours dans ce domaine. Des éléments qui mettent en évidence une « absence de transformation [qui] pourrait exclure le bénéfice du fair use aux Etats-Unis, et en Europe, de l’exception TDM [fouille de textes et de données], laquelle suppose une utilisation aux fins d’analyse, et non de reproduction/stockage en vue de restitution », juge-t-elle.

Mais au vu de ce que je me suis efforcé de vous raconter dans cet article, je suis tout sauf optimiste sur les chances d’un tel texte et d’une telle approche d’aboutir aujourd’hui (ou demain). Car même si « une large coalition de représentants des auteurs, de la presse, du cinéma, de l’édition ou du disque ont salué l’initiative« , ils ont en face d’eux, en plus des acteurs de la tech, le gouvernement français et la commission européenne qui dans la roue des acteurs de la tech voit officiellement cette mesure comme un frein à l’innovation (sic).

Le scénario le plus probable ressemblera à mon avis trait pour trait au jugement rendu dans l’affaire Google Books après 10 ans de procès. C’est à dire que sur le plan juridique, le Fair Use et l’argument de copies hautement transformatives l’emportera. Ce qui, là encore comme dans l’affaire Google Books, n’empêchera pas, au contraire même, des accords de gré à gré entre les parties, accords qui comporteront à la fois des volets de compensations financières (comme les 1,5 milliards déjà versés par Anthropic) et d’autres davantage partenariaux (notamment avec les éditeurs de presse). La question qui qui reste ouverte est celle de l’évolution des usages et des pratiques (ainsi que du droit) que cela aura, dans l’intervalle, permis de sanctuariser.

Je veux conclure en trois temps.

D’abord avec les mots de Bruce Schneier qui dans une tribune à propos de l’affaire Anthropic parue dans le San Francisco Chronicle et reprise sur son blog, écrit :

« Aaron Swartz avait compris que l’accès au savoir est une condition préalable à la démocratie. La manière dont nous traitons le savoir – qui peut y accéder, qui peut en tirer profit et qui est puni pour le partager – est devenue un test de notre engagement démocratique. » 

« Un test de notre engagement démocratique. » Qui prend des allures de crash-test. Derrière ces questions de propriété intellectuelle, de copie transformative, d’usage équitable, de rémunération de la création, qui font la Une des journaux et sont le principal angle de traitement de ces sujets, il y a des enjeux beaucoup plus fondamentaux qui touchent à la transformation et à la réingénierie permanente d’une matière vivante que l’on appelle tantôt la culture, tantôt la connaissance, tantôt la création, tantôt l’information, tantôt tout cela à la fois. Une matière vivante qui définit ce que nous savons autant que ce que nous croyons, et une manière vivante qui à force de copies hautement transformatives (ou non) de ce qu’elle est, peut nous rendre davantage enclins à faire sécession qu’à faire société.

Ensuite en rappelant que ces questions aujourd’hui posées se posaient déjà dans l’esprit de l’un des pionniers visionnaires de l’internet et du Web, Ted Nelson, notamment connu pour avoir « inventé » le terme hypertexte mais qui dès avant qu’ils soient opérants (le web et l’hypertexte) réfléchissait à la question du « versioning ».

Définition courte : « Le versioning désigne l’ensemble des manières de gérer, indépendamment de tout niveau d’échelle, les procédures permettant de rattacher différentes versions d’un même document à un (des) auteur(s), tout en permettant à chacun de s’approprier tout ou partie des documents produits par d’autres ou par eux-mêmes, et en assurant un suivi des différentes modifications apportées. » (définition extraite du chapitre de ma thèse consacré au sujet, thèse disponible ici).

Définition un peu plus longue : « Le versioning désigne l’ensemble des manières de gérer, à l’échelle de l’hypertexte planétaire, les procédures permettant de rattacher un texte à un auteur (ou à un collectif d’auteurs), tout en permettant à chacun de s’approprier – de se ré-approprier – tout ou partie de documents produits par d’autres ou par eux-mêmes afin, premièrement, de limiter la prolifération « bruyante » des versions différentes d’une même information sur le réseau et deuxièmement, d’identifier la nature et les origines de ces modifications dans l’optique d’une gestion cohérente de l’ensemble des documents électroniques actuellement disponibles, indépendamment de leur format, de leur statut et en dehors de tout institution centralisée. Autant dire que plus qu’une problématique, il s’agit là d’un véritable « idéal ». » (définition toujours extraite du chapitre de ma thèse, toujours disponible ici).

Définition à rapprocher de celle qu’il [Ted Nelson] propose pour le terme document : « Un document est une collection arbitraire de versions disposant d’un nom propriétaire et de limites.« 

Les IA génératives sont essentiellement une version totalement dérégulée et spéculative de ce « versioning ». L’attachement aux textes et aux oeuvres, n’est rien, ou si peu, sans la possibilité de leur rattachement, à des auteurs, des époques, des contextes, des courants, des dynamiques ancrées dans le temps et dans l’espace dont certaines ont par ailleurs réussi à s’affranchir. Sans ces rattachements possibles, c’est toute une part forte de notre attachement aux oeuvres qui n’ayant plus d’objet, se dispense de la possibilité d’exprimer des subjectivités de lecture, d’analyse ou de compréhension qui soient en tant soit peu fécondes.

Enfin, loin, très très loin de la stratégie de Lisbonne définie au début des années 2000 et qui sanctuarisa l’idée mortifère d’une « économie de la connaissance » érigée en objectif, il aurait fallu se donner les moyens et les cadres pour bâtir non une économie mais une écologie de la connaissance (et par exemple creuser le sillon ouvert en 1972 par Bateson avec son écologie de l’esprit). Nous avons pris un chemin différent qui nous conduit aujourd’hui, pour toute la connaissance, la culture et l’information, qu’elles soient scientifiques, littéraires, ou de toute autre nature, à n’avoir comme possibilité que celle d’affronter économiquement des acteurs dont le coeur de métier est dépendant de leur capacité de prédation, d’extractivisme et de mépris des lois (ou de rapprochement avec celles et ceux qui les font). Dès que nous aurons fini nos réunions de Quichotte et nos atermoiements de pleureuses, peut-être nous concentrerons-nous sur les luttes et moyens d’action, légaux ou nécessaires, pour une écologie de la connaissance qui ne peut-être autre chose que désormais pleinement radicale.

Aaron Swartz l’avait payé de sa vie, mais il nous avait clairement montré le chemin.

Republication pour archivage et partage de l’article paru sur AOC.media le 20 Octobre 2025.

La question du langage s’est déplacée, et ce déplacement s’accélère de manière assez vertigineuse. Juin 2024 : mon livre « Les IA à l’assaut du cyberespace » revient sur les début tonitruants de ChatGPT et de ce que je nomme les « artefacts génératifs ». J’y pointe notamment les promesses encore maladroites de la génération de vidéos. Six mois plus tard, décembre 2024 : chacun reste bouche bée devant les prémisses des promesses de Sora d’OpenAI en termes de génération vidéo. Six mois plus tard encore, mai 2025, nous restons bouche bée devant cette fois Veo 3 de Google qui ajoute du son synchronisé à des vidéos toujours artificielles. Et en août 2025 c’est encore Google qui dévoile « Genie 3 », permettant de générer des mondes interactifs en temps réel à partir d’un simple prompt.

La question du langage s’est déplacée. C’est ce que depuis 25 ans et un peu plus, j’observe et documente à l’échelle de recherche qui est la mienne : celle de nos environnements numériques. Ces environnements avant-hier saturés de mots, puis hier encore d’images et de vidéos, et qui le sont désormais d’artefacts génératifs qui à leur tout sursaturent tant les mots que les images. Ad Libitum. Vertiges non d’une simple logorrhée mais d’une sorte de « technorrhée », l’emballement continu d’un capitalisme sémiotique ; une technorrhée pensée comme l’alliance chimiquement pure entre, d’une part, la merdification – « enshittification » – des médias sociaux en particulier et du web en général, et d’autre part, le « Brainrot » ou « abrutissement numérique » qui en est tout autant la cause que l’effet.

La question du langage s’est déplacée. Et dans ce déplacement, dans cette « différance » (Derrida), naissent et prennent place des mondes. Avec leurs images, leurs langages, leurs grammaires, et leurs vérités propres qui sont autant de singulières croyances. C’est dans cet écart par exemple que deviennent possibles, tristement et pathétiquement possibles, des images de Gaza transformée en Riviera, ou celles de soldats nazis défilant au milieu de résistants fêtant la fin de la guerre dans une vidéo mise en ligne par le pourtant très sérieux Service d’Information du Gouvernement (SIG). Dans ces déplacements du langage, dans ces « différances », et dans ces univers propres, cohabitent des représentations tenant aussi bien de délires, de fantasmes ou d’imaginaires que de saisissants réalismes.

Dans ce monde, dans ces mondes plus précisément qui sont aussi le nôtre, qui font en tout cas partie du nôtre, la frontière est extrêmement fine entre la capacité de ces technologies à nous laisser tout émerveillés et ahuris ou à nous transformer en autant d’abrutis totalement hébétés.

La question du langage s’est déplacée.

Et avec elle nos capacités à faire récit, à s’entendre et à s’écouter. Et avec elles, donc, notre capacité à faire société.

Longtemps cantonnées à la vallée de l’étrange, ces générations artificielles, ces vidéos notamment, n’ont aujourd’hui plus rien d’étrange dans leur rendu naturaliste. Fini les scènes animées où l’on détectait l’intervention de l’IA en regardant les mains et le nombre de doigts. Cela ne dispense pas ces générations d’erreurs factuelles ou contextuelles ou d’approximations, d’errances et d’hallucinations (nous y reviendrons) mais le photoréalisme est désormais totalement calculable. Certes le coût de ce calcul est vertigineux mais pour l’instant nous n’y prenons garde. Cette sortie de la vallée de l’étrange pour la plupart des contenus vidéos générés par IA (je parle ici de ceux qui ont vocation illustrative et non délirante ou seulement poético-ludique), nous fait entrer dans un monde … étrange. Une étrangeté qui ré-interroge notre capacité à dire le vrai, et surtout nos heuristiques de preuve, c’est à dire la manière dont collectivement nous pouvons attester que ceci s’est produit et s’inscrit dans une possibilité du monde que l’on appelle le réel.

On convoque souvent, à raison, l’argument selon lequel rien de tout cela ne serait vraiment nouveau. En effet l’invention de la peinture voit aussi l’invention des faussaires, l’invention de la photographie voit aussi celle de la retouche, avec l’invention du cinéma vient l’invention du truquage, et le développement de la radio et de la presse vont de pair avec celui des blagues, canulars, détournements, caricatures et fausses nouvelles. Mais les artefacts génératifs contemporains proposent une cinétique de représentations qui, à des échelles jamais atteintes d’usages massifiés et de circulations permanentes, cessent de nourrir nos imaginaires pour préférer les instancier, et ce faisant prive notre capacité individuelle et collective de recours à l’imaginaire d’une bonne part de sa puissance symbolique ; car tout est déjà là, car tout semble calculable et donc prévisible ; car tous les calculs ont été déjà faits ou le seront bientôt.

Pour bien saisir ce qui nous étreint et nous éreinte collectivement dans l’irruption de ces artefacts génératifs, il faut par exemple imaginer l’intérêt de l’écriture et le rôle d’un écrivain dans un monde où la bibliothèque infinie de Borges serait non seulement réelle mais dans laquelle chacun des ouvrages qu’elle contient serait surtout aisément accessible et consultable ; puisque tout est déjà là où peut l’être sur simple commande, alors la langue n’est plus un ouvroir de potentialités et d’imaginaires : elle semble n’être plus que la gangue de possibles concaténés, calculables et révélables.

Création, confiance et certification.

Sans refaire le débat du Phèdre de Platon et la condamnation de l’écriture, il est certain que quelque chose d’essentiel se joue aujourd’hui autour de la création, de la confiance et de la certification.

Création d’abord : qui peut encore être créateur/créatrice (dans le domaine des arts comme dans l’ensemble des métiers, tâches et fonctions de nos quotidiens) et de quelle manière l’être « avec », « à l’abri » ou « à l’écart » des artefacts génératifs ?

Confiance ensuite : comment avoir et faire confiance à celui ou celle qui crée dans l’originalité et l’intentionnalité de sa création ?

Certification enfin : comment certifier la part de cette création de la confiance qui peut ou doit lui être rattachée (et qui peut varier d’intensité et d’enjeu selon que ladite création concernera une oeuvre par exemple littéraire ou picturale, ou une décision médicale ou de justice) ? Des questions en triptyque que l’on ramène trop souvent à nos perceptions singulières alors qu’elles sont un bouleversement qui doit être pensé collectivement comme le suggérait Hervé Le Crosnier il y a … 30 ans de cela :

« La modification d’un document porteur de sens, de point de vue, d’expérience est problématique. Ce qui change dans le temps c’est la connaissance. Celle d’un environnement social et scientifique, celle d’un individu donné … Mais ce mouvement de la connaissance se construit à partir de référents stables que sont les documents publiés à un moment donné. Les peintres pratiquaient le « vernissage » des toiles afin de s’interdire toute retouche. Les imprimeurs apposaient « l’achevé d’imprimer ». Il convient d’élaborer de même un rite de publication sur le réseau afin que des points stables soient offerts à le lecture, à la critique, à la relecture … et parfois aussi à la réhabilitation. » Hervé Le Crosnier. « De l’(in)utilité de W3 : communication et information vont en bateau. » Présentation lors du congrès JRES’95, Chambéry, 22-24 Novembre 1995.

Ce que nous traversons avec l’IA dans sa dimension générative relève également d’un manque de ritualisation assumant la création de « points stables » qui fassent consensus ; mais apposer un label ou un filigrane « généré avec IA » ne suffira pas à construire ce repère car il ne s’agit plus ici de traiter seulement des questions de « modification » de documents porteurs de sens mais d’étendre ces points stables à des processus créatifs qui relèvent essentiellement de continuums complexes entremêlant des questions juridiques, économiques, techniques (informatiques) et éthiques.

Le temps des c(e)rises.

Nous sommes à ce moment de bascule où, pour l’instant, c’est comme si perdurait encore un effet Larsen dans l’esthétique de la réception de ces images et de ces vidéos ; comme si subsistait encore un bruit, une distorsion, un Larsen cognitif autant que collectif ; un Larsen qui ne s’éteint que lorsqu’enfin nous sommes à distance, à bonne distance, entre l’intention lisible de la génération et l’interprétation lucide de son effet sur nous ou sur le monde. Tant que cette distance n’est pas établie, ce bruit, ce doute, nécessaire, subsiste à l’horizon interprétatif : ce que nous voyons est-il réel malgré son photoréalisme ? Dès lors que cette distance est abolie – et tout est fait dans l’économie des plateformes pour y parvenir – alors ce bruit et ce doute s’éteignent, nous croyons ce que nous voyons. Or il n’est plus grand-chose de réel à voir dans ces enceintes.

Heuristique (et colégram).

C’est à chaque fois la même question qui revient et que je pointe (avec d’autres) depuis au moins 2011, parce que cette question est consubstancielle de chaque avancée technique qui touche à notre rapport au langage ou à l’image ou aux deux, c’est à dire à notre rapport au réel. Cette question c’est celle de savoir comme l’on bâtit de nouvelles heuristiques de preuve.

Il y a deux niveaux différents sur lesquels penser la complexification de nos anciennes heuristiques de preuve. D’abord la documentation récréative, ludique ou fictionnée du monde : l’enjeu est alors celui de la dissimulation ; il faut soit faire en sorte que le destinataire ne voit pas la simulation, soit qu’elle se dise pour ce qu’elle est (un « dit » de simulation) et qu’elle suscite l’étonnement sur sa nature. Et puis il y a la documentation rétrospective de tout ce qui fait histoire dans le temps long ainsi que celle qui concerne l’actualité. C’est alors l’exemple de la vidéo du SIG que j’évoquais plus haut, où le moindre casque à pointe nous fait basculer de l’ahurissement à l’abrutissement.

On croit souvent – et l’on s’abrite derrière cette croyance – que chaque simulation, chaque nouvelle production documentaire générée par intelligence artificielle, ajoute au réel. C’est totalement faux. Chaque nouvelle simulation enlève au réel. Parce que le réel historique n’est pas un réel extensible : il peut se nourrir de représentations historiques mouvantes au gré de l’historiographie et de l’émergence de preuves ou de témoignages, mais chaque nouvelle génération de ce réel historique potentiel va venir se sédimenter dans l’espace public mémoriel dont la part transmissible est extrêmement ténue et s’accommode mal d’effets de concurrences génératives. La question, dès lors, n’est pas tant de condamner les utilisations imbéciles ou négligentes de technologies d’IA pour illustrer un fait historique mais, par exemple, de savoir comment mieux rendre visible et faire pédagogie de la force incroyable d’authentiques images d’archives.

Nos imaginaires sont des réels en plus. Les effets de réel produits par les artefacts génératifs sont des imaginaires en moins.

Dans le domaine du langage les artefacts génératifs orientent bien plus qu’ils n’augmentent notre capacité à faire récit. Il se produit à peu de choses près ce que l’on avait déjà observé derrière la – fausse – promesse marketing initiale qui fut celle des grands réseaux sociaux généralistes : la promesse qu’en multipliant la diversité des profils, des origines, des croyances, des nationalités, des cultures auxquelles nous serions confrontés alors nous deviendrions plus ouverts, plus riches de liens sociaux, et plus empathiques. Or il se produisit essentiellement deux choses : d’abord cette exposition à une supposée diversité fut un feu de paille parce qu’elle allait contre la naturalité première de nos socialisations qui est de d’abord chercher celles et ceux qui nous sont semblables et que les plateformes, Facebook en tête s’aperçurent très vite que tout cela n’était pas bon pour le business (voir à ce sujet les travaux de danah boyd qui montra très tôt comment Facebook avait détruit l’expérience de la mixité sociale dans les universités de 1er cycle – « college » – aux états-unis). Ensuite les effets promis de proximité se transformèrent en effets subis de promiscuités effaçant toute forme d’empathie au profit de la dimension spéculative immédiatement virale et donc rentable de l’ensemble du spectre des discours de haine.

Il est en train de nous arriver exactement la même chose avec l’ensemble de l’actuelle panoplie des artefacts génératifs disponibles, de Genie 3 à ChatGPT5 : nous ne multiplions pas nos capacités collectives à faire récit (que ces récits soient imaginaires, réels ou réalistes et que leur support premier soit celui du texte, de l’image ou de la vidéo), nous les standardisons et nous nous enfonçons dans des dynamiques de reproduction qui se nourrissent de toutes les formes possibles de confusion ; une confusion entretenue par des formes complexes d’indiscernabilité qui tiennent à l’immensité non auditable des corpus sur lesquels ces IA et autres artefacts génératifs sont « entraînés » et ensuite calibrés.

Nous ne produisons pas davantage de nouveaux récits ou de nouveaux imaginaires mais, pour l’essentiel, nous reproduisons de manière industrielle toujours les mêmes, et après la phase de ce que l’on nomma des « hallucinations » vient aujourd’hui une autre phase, qui est celle de « l’effondrement » et qui désigne ce moment où les artefacts génératifs sont entraînés sur des contenus eux-mêmes artificiellement générés, des effondrements qui ruinent et minent les dynamiques d’interprétation et de représentation au fur et à mesure où celles-là mêmes sont érigées en modèles.

Au commencement était le mot-clé.

« En 2025 le web est donc un champ de ruine épistémique » écrit Thibault Prévost dans l’une de ses analyses à propos du phénomène de Slop AI, cette « technorrhée » symptôme de la merdification des plateformes et de notre expérience générale des environnement numériques. Je vous propose un (rapide) retour sur l’une des origines de cet effondrement qui fait qu’aujourd’hui et comme l’écrivait Balzac à propos d’une figure féminine de l’un de ses romans, la plupart de nos environnements numériques, dont le web, « n’ont plus que la beauté des villes sur lesquelles ont passé les laves d’un volcan. »

Au commencement donc était le mot-clé. Notre premier rapport au langage comme nouvelle agentivité opératoire sur une immensité de contenus non-ordonnés, c’est celui du mot-clé tel que les moteurs de recherche nous le proposèrent en prenant la suite des annuaires de recherche (lesquels catégorisaient en arborescence une série limitée de sites et pages choisies par des opérateurs humains). Ce mot-clé, longtemps utilisé seul, est de l’ordre de la formule incantatoire : écrivez « voyage » et vous trouverez les destinations et les prix et les conditions et les descriptions de vos destinations y compris celles non-choisies ; écrivez « voyage » et vous voyagerez. Nous ne donnons qu’un seul mot, qu’une seule clé, et nous attendons de recevoir un monde ordonné, accessible et surtout un monde soit « pertinent » (c’est à dire depuis le début aussi conforme que possible à notre propre désir), soit « populaire » (c’est à dire aussi conforme que possible au désir des autres, ce que René Girard appelle le désir mimétique). Un seul mot et en face, l’immensité ordonnée de pages choisies et triées dans l’économie libidinale où nous sommes passés du statut de déclamant à celui de simple variable statistique dans une chaîne de production qui ne vise que son propre maintient.

Puis de plus en plus, à la place des mots (clés), nous avons fait des phrases. Nous sommes partis à la conquête du langage naturel. Nous avons donc discouru avec des machines, avec des algorithmes. Qui en retour de notre déclamation naturelle, se mirent à nous répondre non plus sous forme de liste de sites, mais d’extraits choisis et signifiants.

Et puis lassés de leur écrire autant que par la simple possibilité offerte de le faire, nous leur avons parlé. Les interfaces vocales se sont proposées, souvent imposées. De cette vocalisation nouvelle sont nées en retour d’autres échos sonores : ceux des machines et de algorithmes nous répondant, prenant voix. Siri, Alexa, et les autres. World Wide Voice.

Il y a l’initiative de la parole, de la requête, de la question. Et l’espace de la réponse. Car durant tout ce temps, de nos premiers mots-clés balbutiés à nos dernières commandes vocales prononcées, s’est structuré un espace matériel du recueil de nos expressions, une géographie politique de nos espaces de parole, de nos espaces discursifs, singuliers et partagés.

Le passage du web aux plateformes, aux « jardins fermés » comme les appelle Tim Berners-Lee, ne fut pas simplement le passage d’un espace public à des espaces semi-privés. Il fut aussi celui où ces plateformes délimitèrent en nombre l’espace de nos énonciations possibles. On décrit souvent le numérique comme un espace de publication illimité, ce que fut et que demeure le web en effet, mais les plateformes, toutes les plateformes, ont installé des espaces discursifs bornés, limités, frustrants, dont rien ne peut ni ne doit dépasser tels de modernes Procuste, ce bandit qui dans la mythologie proposait aux gens de les héberger avant que de leur couper les membres qui dépassaient de son lit.

Procuste dans l’histoire des plateformes c’est 140 signes sur Twitter puis 280 sur X, 2200 signes sur Instagram, 3000 pour LinkedIn, 150 signes pour une vidéo TikTok et 5000 signes pour décrire une vidéo Youtube. Malgré l’extension du domaine de la statusphère, Et tout le reste de ces espaces tant limités que limitrophes d’une atrophie des possibles.

(source : Dailyfy.co)

Comme le montre ce tableau, chaque espace est catégorisé par sa nature « titre de publication », « nom de la page », « description », « commentaire », « description vidéo », « bio », « DM message privé », etc. Et à chaque catégorie un autre espace, une autre limite : 58 caractères pour un titre de publication, 80 caractères pour une bio Tiktok, 30 pour un nom de profil Instagram, 1250 pour un commentaire LinkedIn, et ainsi de suite. Tout est métrique. A coups de trique. Quelques grands espaces demeurent : 110 000 caractères l’article LinkedIn mais 3000 caractères la « publication » de la même plateforme ; 63206 caractères le le post Facebook mais 8000 seulement pour le commentaire. Le numérique des plateformes est tout sauf l’espace infini qui était celui de la publication web des années 2000, c’est un espace totalement sous contrainte et en permanence sous astreinte.

Aujourd’hui l’essentiel de nos espaces discursifs en ligne qui ont recours au langage indépendamment de l’image ou de la vidéo sont des espaces Procustéens (images et vidéos par ailleurs elles-mêmes soumises à des limitations de durée). Des espaces où l’énonciation, où l’accès à la capacité de dire, ne vaut que par l’acceptation de cet horizon court de la diction. Certes il est possible, et certains y parviennent, de sublimer ces limites en les esthétisant ou en les poétisant. Les formes courtes ont par ailleurs une existence culturelle et littéraire longue. Mais nous parlons ici des conditions de production de la langue et donc du réel à l’échelle d’une humanité toute entière, en tout cas de sa part connectée (près de 5,5 milliards d’êtres humains). La « merdification » (enshittification) des plateformes, de presque toutes  les énonciations qui s’y déploient aujourd’hui, est aussi liée à cela. Ces espaces ne nous offrent pas tant la possibilité de dire qu’ils ne nous imposent la nécessité de rapidement nous taire. Il est d’ailleurs singulier de voir les plateformes parler de « liberté d’expression » dans des espaces aussi bornés et limités que ceux qu’elles nous offrent. Parlerait-on d’une « liberté de circulation » si celle-ci se limitait à un déplacement entre notre chambre et nos toilettes ?

D’un côté donc, il y eut, à l’échelle des plateformes numériques, la multiplication des espaces d’expression possibles. Mais en parallèle chaque nouvel espace énonciatif est apparu comme permettant de cadrer et de limiter « en nombre » toute expression singulière en ligne. Et désormais il y a la contamination de l’ensemble de ces espaces par des tiers énonciatifs logorrhéiques dopés à l’IA et aux artefacts génératifs. Voilà pour la parole « en émission ».

Quand à la parole « en réception », nous sommes aujourd’hui de plus en plus confrontés et exposés à ces dispositifs techno-logorrhéiques à proportion inverse de nos propres capacités à nourrir et à alimenter ces espaces expressifs et énonciatifs. Pour le dire plus trivialement : la part des bots et des contenus artificiellement générés explose et contamine l’ensemble des espaces numériques de l’ensemble des plateformes (c’est l’un des thèmes de mon livre « Les IA à l’assaut du cyberespace : vers un web synthétique » paru l’été dernier chez C&F Editions).

A l’échelle du numérique, si l’humanité se figeait à ce moment précis, et si nous l’observions à l’échelle macroscopique, nous serions alors forcés de constater que l’initiative de la parole, de la conversation, de la langue comme interaction et comme compréhension, que cette initiative revient davantage aux machines qu’à nous-mêmes. Et que notre réel s’y consomme d’abord, puis s’y épuise et s’y consume. Je le redis, chaque nouvelle simulation enlève au réel. Quand Trump annonce vouloir transformer Gaza en Riviera, des milliers d’images et de vidéos « génératives » viennent instantanément illustrer, montrer, filmer, documenter cet impossible, ce délire macabre autant que cynique. Ce qui était et aurait du rester impossible, y compris à formuler, devient sous le poids des générations illustratives un embranchement possible du futur qui nous est proposé comme instantanément disponible pour nos sens et nos imaginaires. C’est en cela qu’il enlève au réel, au seul réel possible qui est celui d’un arrêt des massacres en cours. Il ne s’agit pas uniquement d’élargir la fenêtre d’Overton mais bien de bâtir autour d’elle l’ensemble la totalité de la barre d’immeuble où elle ne sera plus qu’une fenêtre parmi d’autres, de faire exister la réalité qu’elle inaugure pour laisser au réel encore moins de chance de pouvoir la limiter ou la contraindre rapidement. C’est aussi cela que Trump a sinon compris, du moins intuitivement senti, et qui le fait tant à l’aise dans ces médias sociaux où prime l’expression courte et bouffonne : la parole politique, sa parole politique, se suffit au lit de Procuste tant que l’image y tient les dimensions voulues. Gaza en Riviera. Voilà ce qui seul doit tenir. Le reste s’abîme, s’épuise et s’effondre derrière ces dispositifs techno[-logo]rrhéiques pensés pour l’emballement viral et dont les IA et autres artefacts génératifs ne sont que la dernière – mais non ultime – instance contemporaine.

Les 3 chambres.

Depuis longtemps dans l’analyse des médias on utilise le concept de « chambre d’écho » pour désigner de manière métaphorique, le fait que « l’information, les idées, ou les croyances sont amplifiées ou renforcées par la communication et la répétition dans un système défini. »

Avec l’arrivée des médias sociaux, se fait jour chez Eli Pariser le concept de « bulle(s) de filtre« , cette idée que les algorithmes des moteurs de recherche comme des grands médias sociaux tendent à nous enfermer dans nos propres croyances et convictions.

Aujourd’hui, avec l’essor et la place que prennent les différents artefacts génératifs à l’identique de ChatGPT, des chercheurs (Jacob, Kerrigan, Bastos 2025) parlent d’un « Chat-Chamber effect ». Rien à voir avec les matous qui ont conquis l’internet, le « chat » doit être lu et compris comme le « Tchat », et caractérise l’un des biais de nos échanges conversationnels avec des artefacts génératifs, lequel biais désigne les informations incorrectes mais allant dans le sens du questionnement de l’utilisateur que les grands modèles de langage peuvent fournir ; des résultats et informations qui restent non contrôlées et non vérifiées par les mêmes utilisateurs mais auxquels ces mêmes utilisateurs font pourtant confiance. Le titre complet de leur article est ainsi : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Derrière ces 3 déclinaisons d’une même tendance à trois époques contemporaines successives, se jouent deux choses. D’abord des dynamiques médiatiques qui s’interpénètrent pour forger, favoriser et figer une certaine logique ou esthétique de réception des discours qui s’y tiennent. Ensuite une affordance informationnelle première qui est l’inverse du doute raisonnable : ces systèmes médiatiques ont pour affordance première leur capacité à nous faire croire qu’ils disent le vrai : les logiques virales de partage (« si c’est tant partagé c’est bien que ça doit être vrai« ), le dispositif de proximité (illusoire) avec l’énonciateur (« si c’est lui qui le dit alors cela doit être vrai« ), le biais de disponibilité (des informations délibérément erronées ou mensongères sont plus immédiatement accessibles et rendus visibles que d’autres plus sourcées) ne sont que quelques-uns des leviers de cette affordance de vérité supposée.

Depuis plus de 20 ans j’explique et documente le fait que les algorithmes sont des éditorialistes comme les autres, mais qui avancent essentiellement masqués et que les IA et autres artefacts génératifs installent dans une sorte de théâtre total, « gestes, sons, paroles, feus, cris« , dont plus personne n’est en capacité de comprendre les codes.

A.M.I. : Assemblage Machinique Informationnel.

L’arrivée des artefacts génératifs ajoute une dimension nouvelle et passablement problématique au tableau contemporain de la fabrication de nos croyances et adhésions. Jusqu’ici, moteurs de recherche et réseaux sociaux jouaient sur le levier déjà immensément puissant de leurs arbitraires d’indexation et de publication (le fait de choisir ce qu’ils allaient indexer et/ou publier) ainsi que sur celui, tout aussi puissant, de la hiérarchisation et de la circulation (viralisation) de ce qui pouvait être vu et donc en creux de ce qu’ils estimaient devoir l’être moins ou pas du tout.

Choisir quoi mettre à la « Une » et définir l’agenda médiatique selon le vieux précepte de « l’agenda setting » qui dit que les médias ne nous disent pas ce qu’il faut penser mais ce à quoi il faut penser. Ce principe premier de l’éditorialisation se double, avec les artefacts génératifs conversationnels à vocation de recherche, d’une capacité à produire des sortes d’assemblages machiniques informationnels, c’est à dire des contenus uniquement déterminés par ce que nous interprétons comme un « devenir machine** » en capacité de « phraser » les immenses bases de données textuelles sur lesquelles il repose. Des machines à communiquer mais en aucun cas, comme le souligne aussi Arthur Perret, en aucun cas des machines à informer.

** [ce « devenir-machine » est à lire dans le sens du « devenir-animal » chez Deleuze et Guattari : « le “devenir-animal” ne consiste pas à “imiter l’animal, mais d’entrer dans des rapports de composition, d’affect et d’intensité sensible” ».]

Ce concept d’assemblage machinique informationnel me semble intéressant à penser en miroir ou en leurre des agencements collectifs d’énonciation théorisés par Félix Guattari. D’abord parce qu’un assemblage n’est pas un agencement. Il n’en a justement pas l’agentivité. Il n’est mû par aucune intentionnalité, par aucun désir combinatoire, calculatoire, informationnel, communicationnel ou social. Ensuite parce que la dimension machinique est antithétique de la dimension collective, elle en est la matière noire : ChatGPT (et les autres artefacts génératifs) n’est rien sans la base de connaissance sur laquelle il repose et les immenses réservoirs de textes, d’images et de contenus divers qui ont été, pour le coup, assemblés, et sont l’oeuvre de singularités fondues dans un collectif qui n’a jamais été mobilisé ou sollicité en tant que tel. Enfin, l’information est ici un degré zéro de l’énonciation. L’énonciation c’est précisément ce qui va donner un corps social à ce qui étymologiquement, a donc déjà été « mis en forme » (in-formare) et se trouve prêt à être transmis, à trouver résonance. ChatGPT est l’ombre, le simulacre, le leurre d’une énonciation. Et cette duperie est aussi sa plus grande victoire.

La question du langage s’est déplacée. Un grand déplacement. Quelque chose qui n’est plus aligné entre le territoire du monde et la langue qui en est la carte.

Apostille(s). 

Pendant que nos réels sont saturés et épuisés d’IA, en Israël, un spot de publicité pour une entreprise d’armement utilise pour la première fois des images réelles d’une attaque de drone à Gaza. C’est à la fois la plus cynique et la plus perverse des formes de publicitarisation. Pendant ce temps Youtube dévoile un système baptisé « Peak Points » qui utilise son IA « Gemini » pour insérer des publicités aux moments où l’attention des spectateurs est supposément la plus forte grâce à l’exploitation de données « émotionnelles » (ou qui sont en tout cas supposées rendre compte de notre état émotionnel).

Couplez maintenant ces deux informations et déterminez sans algorithme votre propre état émotionnel …

De manière plus anecdotique, on constate un jaunissement par contamination de nombreuses images générées artificiellement. Les animaux étaient malades de la peste, les IA le sont déjà de consanguinité. Pendant ce temps encore, Youtube fait des retouches de vidéos sans en avertir les créateurs, pour « rapprocher esthétiquement le rendu des vidéos de ce que l’IA générative peut proposer. » Standardiser la consanguinité des contenus générés.

Pendant ce temps, des images pédocriminelles générées par IA sèment autant le trouble que le doute et entravent les démarches déjà si complexes du travail de police et de justice. La volumétrie des faux-positifs est ici la première alliée des pédocriminels. Et une nouvelle fois la charge de la preuve s’inverse comme si souvent dans l’histoire du numérique : il ne s’agit plus de pouvoir détecter la marginalité de faux-positifs sur un volume de contenus donnés, il s’agit de la maximiser pour que les résultats « sincères » soient marginalisés.

En 1985, dans un entretien où elle était interrogée sur sa vision de l’an 2000, Marguerite Duras prophétisait avec une rare acuité « Il n’y aura plus que des réponses. Tous les textes seront des réponses. (…) »  Nous sommes au moment où tout comme après l’avènement des moteurs de recherche au début des années 2000, il n’y a plus, aujourd’hui, que des réponses. De fausses réponses pourrait-on donc ajouter.

Marguerite Duras poursuivait : « Un jour un homme il lira. Et puis tout recommencera. » L’inflation des artefacts génératifs dans l’ensemble de nos écosystèmes informationnels et des sphères de nos savoirs sociaux (école, université, cercles politiques, etc.) pose autant la question de savoir ce qu’il restera encore à lire, que celle de savoir si nous serons en peine d’encore pouvoir écrire un destin commun. Christian Salmon le rappelait aussi dans sa récente analyse sur ce nouvel ordre narratif en train de s’imposer : « La prolifération de ces narrations non humaines interroge le devenir de l’humanité tout entière. »

La question du langage s’est déplacée, et notre technorrhée ressemble à s’y méprendre aux vers de Macbeth : un conte raconté par un idiot (ils sont en fait plusieurs), plein de bruit et de fureur, ne signifiant plus rien. (« It is a tale / Told by an idiot, full of sound and fury / Signifying nothing« ).

J’étais donc l’autre jour (mercredi) convoqué Au Poste chez le camarade David Dufresne pour une petite causerie autour de mon article sur le web pourrissant et l’IA florissante. L’émission est disponible gratuitement (grâce aux abonné.e.s de la chaîne, abonnez-vous si vous le pouvez). Cela dure un peu plus d’une heure, ça cause IA, web, indépendance, Bourdieu, distinction et plein d’autres choses encore. C’est dispo sur Youtube et Peertube. Dans tous les cas, rendez-vous Au Poste aussi souvent que vous le pourrez.

Comme je le fais depuis quelques temps, certains de mes textes sont initialement publiés dans la revue AOC avant d’être republiés ici en version gratuite après embargo de 2 mois (sachant qu’AOC vous offre un article par mois gratuitement en échange de votre adresse mail).

Mon dernier texte s’intitule « Le réel, le vrai et la technorrhée. Comment la question du langage s’est déplacée. » Il est disponible sur AOC depuis le 20 octobre 2025 (et sera donc republié ici fin décembre). C’est un texte assez long et assez dense qui propose plusieurs concepts (celui de technorrhée, celui « d’assemblages machiniques informationnels », et quelques autres encore), travaille plusieurs aspects de l’IA au travers des différents générateurs (de texte, d’image, de vidéo), qui revient aussi sur les cadres discursifs et langagiers qui se trouvent bousculées et remodelés et tente de replacer ces dernières évolutions dans le temps long des espaces discursifs en ligne, qui ont, depuis l’invention des plateformes de médias sociaux, toujours été davantage astreignants que libératoires. Parmi quelques-uns des aspects développés dans ce texte, je vous livre ici deux courts extraits qui, je l’espère, vous donneront envie de lire l’ensemble sur AOC (et de vous y abonner, c’est un espace de réflexion et de respiration aussi salutaire que nécessaire dans l’époque actuelle).

Extrait 1.

« Il y a deux niveaux différents sur lesquels penser la complexification de nos anciennes heuristiques de preuve. D’abord la documentation récréative, ludique ou fictionnée du monde : l’enjeu est alors celui de la dissimulation ; il faut soit faire en sorte que le destinataire ne voit pas la simulation, soit qu’elle se dise pour ce qu’elle est (un « dit » de simulation) et qu’elle suscite l’étonnement sur sa nature. Et puis il y a la documentation rétrospective de tout ce qui fait histoire dans le temps long ainsi que celle qui concerne l’actualité. C’est alors l’exemple de la vidéo du SIG que j’évoquais plus haut, où le moindre casque à pointe nous fait basculer de l’ahurissement à l’abrutissement.

On croit souvent – et l’on s’abrite derrière cette croyance – que chaque simulation, chaque nouvelle production documentaire générée par intelligence artificielle, ajoute au réel. C’est totalement faux. Chaque nouvelle simulation enlève au réel. Parce que le réel historique n’est pas un réel extensible : il peut se nourrir de représentations historiques mouvantes au gré de l’historiographie et de l’émergence de preuves ou de témoignages, mais chaque nouvelle génération de ce réel historique potentiel va venir se sédimenter dans l’espace public mémoriel dont la part transmissible est extrêmement ténue et s’accommode mal d’effets de concurrences génératives. La question, dès lors, n’est pas tant de condamner les utilisations imbéciles ou négligentes de technologies d’IA pour illustrer un fait historique mais, par exemple, de savoir comment mieux rendre visible et faire pédagogie de la force incroyable d’authentiques images d’archives.

Nos imaginaires sont des réels en plus. Les effets de réel produits par les artefacts génératifs sont des imaginaires en moins.

(…) Il est en train de nous arriver exactement la même chose avec l’ensemble de l’actuelle panoplie des artefacts génératifs disponibles, de Genie 3 à ChatGPT5 : nous ne multiplions pas nos capacités collectives à faire récit (que ces récits soient imaginaires, réels ou réalistes et que leur support premier soit celui du texte, de l’image ou de la vidéo), nous les standardisons et nous nous enfonçons dans des dynamiques de reproduction qui se nourrissent de toutes les formes possibles de confusion ; une confusion entretenue par des formes complexes d’indiscernabilité qui tiennent à l’immensité non auditable des corpus sur lesquels ces IA et autres artefacts génératifs sont « entraînés » et ensuite calibrés.

Extrait 2.
À propos de ce que je nomme « Assemblages machiniques informationnels »

L’arrivée des artefacts génératifs ajoute une dimension nouvelle et passablement problématique au tableau contemporain de la fabrication de nos croyances et adhésions. Jusqu’ici, moteurs de recherche et réseaux sociaux jouaient sur le levier déjà immensément puissant de leurs arbitraires d’indexation et de publication (le fait de choisir ce qu’ils allaient indexer et/ou publier) ainsi que sur celui, tout aussi puissant, de la hiérarchisation et de la circulation (viralisation) de ce qui pouvait être vu et donc en creux de ce qu’ils estimaient devoir l’être moins ou pas du tout.

Choisir quoi mettre à la « Une » et définir l’agenda médiatique selon le vieux précepte de « l’agenda setting » qui dit que les médias ne nous disent pas ce qu’il faut penser mais ce à quoi il faut penser. Ce principe premier de l’éditorialisation se double, avec les artefacts génératifs conversationnels à vocation de recherche, d’une capacité à produire des sortes d’assemblages machiniques informationnels, c’est à dire des contenus uniquement déterminés par ce que nous interprétons comme un « devenir machine** » en capacité de « phraser » les immenses bases de données textuelles sur lesquelles il repose. Des machines à communiquer mais en aucun cas, comme le souligne aussi Arthur Perret, en aucun cas des machines à informer.

** [ce « devenir-machine » est à lire dans le sens du « devenir-animal » chez Deleuze et Guattari : « le “devenir-animal” ne consiste pas à “imiter l’animal, mais d’entrer dans des rapports de composition, d’affect et d’intensité sensible” ».]

Ce concept d’assemblage machinique informationnel me semble intéressant à penser en miroir ou en leurre des agencements collectifs d’énonciation théorisés par Félix Guattari. D’abord parce qu’un assemblage n’est pas un agencement. Il n’en a justement pas l’agentivité. Il n’est mû par aucune intentionnalité, par aucun désir combinatoire, calculatoire, informationnel, communicationnel ou social. Ensuite parce que la dimension machinique est antithétique de la dimension collective, elle en est la matière noire : ChatGPT (et les autres artefacts génératifs) n’est rien sans la base de connaissance sur laquelle il repose et les immenses réservoirs de textes, d’images et de contenus divers qui ont été, pour le coup, assemblés, et sont l’oeuvre de singularités fondues dans un collectif qui n’a jamais été mobilisé ou sollicité en tant que tel. Enfin, l’information est ici un degré zéro de l’énonciation. L’énonciation c’est précisément ce qui va donner un corps social à ce qui étymologiquement, a donc déjà été « mis en forme » (in-formare) et se trouve prêt à être transmis, à trouver résonance. ChatGPT est l’ombre, le simulacre, le leurre d’une énonciation. Et cette duperie est aussi sa plus grande victoire.

La question du langage s’est déplacée. Un grand déplacement. Quelque chose qui n’est plus aligné entre le territoire du monde et la langue qui en est la carte.

La suite ici :

Chapitre 1er.
Le web pourrissant et l’IA florissante.

Nos espaces discursifs en ligne, nos médias sociaux, sont déjà largement contaminés de contenus entièrement générés par IA. Les proportions peuvent varier d’un média à l’autre mais il s’agit de bien plus qu’une simple tendance, il s’agit de l’aboutissement d’un changement complet de paradigme. Après avoir été acteurs et actrices de la production de contenus, après avoir été essentiellement spectateurs et spectatrices de contenus publiés par d’autres que nous appartenant à différents sphères « d’influence » ou de médias, nous sommes aujourd’hui entrés dans une ère où des contenus produits par des IA phagocytent et recouvrent la quasi-totalité des contenus qui nous sont proposés. Il ne s’agit pas ici de rejoindre la théorie conspirationniste du « Dead Internet » selon laquelle les bots seraient en charge et à l’origine de la totalité du trafic en ligne ainsi que des contenus produits afin de mettre l’humanité sous coupe réglée, mais de constater que les bots et les contenus générés par IA … sont désormais à l’origine d’une majeure partie du trafic en ligne des des contenus produits. Pas de complot donc mais une question : que peut-il se produire dès lors que la réalité de nos espaces informationnels et discursifs en ligne est effectivement majoritairement produite par des bots et des IA. Bref, le pitch d’un excellent bouquin : « Les IA à l’assaut du cyberespace : vers un web synthétique. » Et sans divulgâcher la suite de cet article, il est évident qu’il ne peut pas en sortir grand chose de bon.

D’autant que ces contenus générés par IA et autres artefacts génératifs, sont devenus un nouvel horizon du capitalisme sémiotique et que la totalité de nos ectoplasmiques plateformes sociales annoncent vouloir s’y engouffrer, et s’y engouffrer massivement. Le groupe de Mark le Mascu annonce ainsi le lancement de Vibes, qui va se présenter comme un fil (feed) présentant uniquement des vidéos créées par IA (et par d’autres que nous parce qu’une fois qu’on aura fait joujou 5 minutes avec on se contentera de faire défiler). Le phénomène de « Slop AI » devient non plus un « encombrement » ou une « bouillie » numérique mais une ligne éditoriale revendiquée. De son côté, Singularity Sam (Altman) annonce le lancement de devinez quoi ? Bah oui, un réseau social sur le modèle de TikTok et entièrement dédié aux contenus vidéos générés par IA (des contenus directement issus de Sora, la plateforme de génération de vidéos par IA d’Open AI, ou comme on dit dans le milieu des égoutiers et autres fabriquants de pompes à merde, « Garbage In, Garbage Out« ). Toutes proportions gardées, c’est un peu comme si au début des années 2000 avec l’explosion du Spam (contenus, souvent publicitaires, non sollicités et invasifs) on avait dit « Oh vazy c’est cool, on va mettre en avant le Spam, on va faire des médias avec juste du Spam dedans« . La seule différence c’est qu’aujourd’hui le Spam du Slop (vous suivez ?) est essentiellement constitué d’animaux mignons et autres contenus suffisamment débiles pour être consommés rapidement et à coût cognitif nul, et suffisamment « engageants » pour nous faire croire qu’on ne perd pas totalement nos vies à regarder des trucs débiles. Et ce n’est pas près de s’arrêter, car pour l’instant en tout cas, la production de ces contenus « Slop » est une manne financière conséquente, car ces VAAC (Vidéos Artificielles A la Con, bah quoi moi aussi j’acronymise si je veux), car ces VAAC ** disais-je sont certes tout aussi répétitives et ennuyeuses que d’autres avant elles, mais elles agrègent un grand nombre de vues, et donc de monétisation, et beaucoup de Youtubeurs et Youtubeuses s’en frottent déjà les mains.

** Sur Mastodon, le camarade Tristan Nitot propose le concept de VACCUM : « Vidéos Artificielles à la Con Universellement et Uniformément Merdiques. »

Pour l’instant uniquement disponibles aux US, ces applications ont pu être testées, notamment par Michaël Szadkowski de l’équipe Pixels du Monde :

Le 7 octobre, entouré de collègues curieux, nous découvrons, entre amusement et effarement, la réalité concrète de ces deux applications. Un chat faisant du skateboard. Un lion jouant du djembé. Jésus câlinant un enfant. Une grand-mère en roue arrière sur une Harley.

Défile sous nos yeux une forme de reconnaissance du « brainrot » (abrutissement numérique) et autre « slop » (contenus IA de faible qualité et produits à la chaîne) qui prospéraient jusqu’ici à la marge des réseaux. Ici, ces formats sont pleinement assumés, une nouvelle forme de divertissement, d’expérience collective – et de source de revenus, de l’aveu même de Sam Altman, le PDG d’OpenAI.

Par-delà la facilité de générer ces vidéos sur la base d’un simple prompt, par-delà les fonctionnalités de mise en scène de soi dans lesdites vidéos au moyen d’une fonction « caméo » vous permettant de vous ajouter (votre avatar en tout cas) au coeur de n’importe quelle scène, et par-delà l’immensité subséquente des problèmes que cela peut poser selon les usages – et les âges – de celles et ceux qui utiliseront ces fonctions, c’est le sentiment qu’après plus d’un quart de siècle d’internet « grand public » nous n’avons rien compris, ou qu’en tout cas les propriétaires de ces plateformes n’ont rien appris, car comme le relate encore Michaël Szadkowski  :

Rapidement, sans même parler de la culpabilité liée au bilan carbone de nos expériences, les problèmes s’accumulent. Générer une version obèse, plus maigre ou plus musclée de mon caméo a été un jeu d’enfant. De même que de me faire tenir des propos ou des gestes condamnés par la loi, de faire de la pub de services douteux ou de danser avec une célébrité sulfureuse. On devine aussi les immenses problèmes à venir en termes de détournements. Surtout que la plupart des vidéos générées dans les brouillons d’un utilisateur peuvent être téléchargées, sauf quand elles contiennent un caméo de quelqu’un d’autre.

Si besoin, croisez aussi cela avec les récentes annonces d’Open AI de permettre à ChatGPT d’avoir des conversations « érotiques », et avec les révélations sur le fait que le groupe Méta entraîne ses modèles d’IA à des conversations érotiques avec des mineurs** et vous aurez une idée à peu près exacte de l’irresponsabilité autant que du cynisme le plus crasse des dirigeants de ces plateformes.

** à ce propos je vous invite à lire l’enquête de Reuters qui a rendu publics des documents internes dans lesquels les limites de « l’acceptable » sont définies face à des prompts dans lesquels une petite fille de 8 ans se dénude (enlève son t-shirt) devant l’écran et demande à l’assistant IA son ‘avis’, ou cet autre exemple dans lequel le prompt consiste à demander d’argumenter sur le fait que les noirs seraient plus cons que les blancs (sic). Dans tous les cas, les réponses jugées et définies comme « acceptables » par le groupe Méta permettent de mesurer toute l’étendue de l’absolue bêtise et de la dangerosité critique de celles et ceux définissant lesdits cadres d’acceptabilité, et qui ne sont rien moins que « les équipes juridiques, de politique publique et d’ingénierie de Meta, y compris son responsable de l’éthique. »  Puissent l’ensemble de ces connards décérébrés être rapidement mis à grande distance de toute forme de responsabilité juridique ou éthique dans quelque secteur que ce soit.

D’autant que ce même groupe Méta annonce sans broncher et un mois à peine après les révélations de Reuters, qu’il va « lancer des comptes spéciaux pour les ados sur Facebook et Messenger« , des outils « pensés pour protéger les jeunes en ligne. » Autant confier la justice des mineurs à Jean-Marc Morandini.

Vous aurez donc compris qu’il va être très compliqué d’analyser tout ça autrement que sous l’angle d’un gigantesque tsunami de merde. Mais pour m’efforcer d’être moins grossier et plus constructif, j’ai en tête le modèle mathématique de la communication proposé par Claude Shannon (en 1949), un modèle dans lequel il s’agissait (en gros) de comprendre comment optimiser la transmission d’un message en limitant le « bruit », c’est à dire tout signal parasite entre l’encodage et le décodage de l’information transmise. Avec ce célèbre schéma que tous et toutes les étudiant.e.s passées par le champ de l’information et de la communication ont eu sous les yeux :

Et ce souvenir en tête, la situation dans laquelle nous placent aujourd’hui l’ensemble des médias sociaux nous inondant de contenus générés par IA bien plus que par nous-mêmes, notamment par l’usage de « prompts » qui sont moins des « commandes » faites à des systèmes que des assignations et des injonctions faites à nous-même de s’inscrire dans ces dynamiques de générations, cette situation c’est que dans ce schéma global de la communication, j’ai le sentiment que nous ne sommes plus que le bruit. Nous sommes cet élément que Shannon et son camarade Weaver essayaient de réduire et de limiter. Nous sommes le bruit de ces plateformes qui n’aspirent finalement qu’à communiquer sans nous autrement que comme spectateurs assignés à justifier leur existence (celle des plateformes hein, pas celle des spectateurs, suivez un peu quoi). Chacun de nos prompts ajoute au bruit de cette grande lessiveuse qui choisira de ne visibiliser que la part qu’elle estimera immédiatement rentable de nos im-prompt-us murmures, de nos souffles, de nos cris, de nos ahurissements et de nos consentements à l’étrangeté de ces mondes générés pour rien. J’écrivais récemment dans une analyse parue sur AOC à propos de ce que j’appelais une « technorhée » que « les effets de réel produits par les artefacts génératifs sont des imaginaires en moins » : s’il s’agit d’imaginaires en moins c’est aussi parce ce que l’ensemble de ces générations artificielles sont du réel en trop, du réel pour rien. Et le reste, tout le reste, retournera au silence des plateformes.

Nous ne sommes plus que le bruit. Mais si nous sommes le bruit, alors qui sera la fureur ?

Chapitre 2nd.
Des moteurs de recherche aux super-assistants dopés à l’IA ?

Il y a une dizaine de jours (21 Octobre 2025) OpenAI a annoncé la sortie de son nouveau « super-assistant » baptisé « Atlas », qui est un navigateur intégrant toutes les fonctionnalités de ChatGPT présentées à la manière d’un moteur de recherche.

« ChatGPT Atlas est un navigateur conçu avec ChatGPT qui vous rapproche d’un véritable super assistant, capable de comprendre votre univers et de vous aider à atteindre vos objectifs » 

Alors évidemment il s’agit d’une nouvelle offre de service « logique » dans la guerre de position qui doit permettre à OpenAI de venir butiner sur les terres de ses concurrents directs, Google en tête. Et à ce titre et à l’échelle du web, « sortir » ChatGPT de sa « page » et propulser un navigateur dans lequel il fera office de moteur est tout à fait cohérent. Ce n’est pas pour autant que la bascule des usages se fera car à l’échelle des navigateurs justement, les habitudes ont la vie dure. Du côté des moteurs de recherche aussi d’ailleurs : Google peine à imposer les usages de Gemini (son IA maison) dans le cadre d’usage du moteur de recherche, pas sûr que OpenAI arrive à imposer l’usage d’un assistant IA comme un nouveau moteur de recherche. Nous y reviendrons. Mais bon il eût été dans tous les cas incompréhensible qu’OpenAI ne tente pas le coup. De fait l’expérience (j’ai testé) d’Atlas est rapidement assez déceptive en ce sens qu’elle oblige à passer par l’installation d’un navigateur et qu’en termes de fonctionnalités on n’a pas grand chose de plus que ce qui était déjà proposé sur la page dédiée à ChatGPT sur le site d’OpenAI (mais cela permet au passage à OpenAI de s’installer sur votre machine et de vous demander de récupérer l’ensemble de vos contacts, signets, mots de passe, réglages divers, etc.)

La seule valeur ajoutée réelle est celle de la fonction « agent » décrite comme suit par Alexandre Piquard sur Le Monde :

Le navigateur intègre aussi la fonction « agent » de ChatGPT, par laquelle l’utilisateur peut demander à l’assistant d’accomplir pour lui des actions, notamment en surfant le Web : réserver des billets de théâtre, un restaurant ou un livre, faire des courses de supermarché en ligne, remplir un formulaire, trouver un e-mail de contact puis envoyer un message… L’IA est en principe capable de consulter des pages par lui-même et même, avec autorisation de l’utilisateur, de se connecter à des services protégés par mot de passe, par exemple pour faire des achats en ligne. La fonctionnalité « agent » est toutefois réservée aux abonnés payants de ChatGPT.

Ce qui m’intéresse donc dans l’annonce du lancement d’Atlas (Titan mythologique assez fort pour supporter le poids de la voûte céleste et assez débile pour céder à la ruse de CE1 d’Héraclès à qui il avait réussi à la refiler), c’est précisément le narratif qui l’accompagne en tant que « super assistant ». En résumé ce narratif me semble être le nouveau signe d’une bascule anthropo-technique proche de son aboutissement. Car face à des nouveaux « assistants » ou « super assistants » nous sommes essentiellement désignés comme les assistés, les super assistés. Et face aux nouveaux « agents » conversationnels qui prennent en charge (notamment) nos recherches et qui, comme je l’expliquerai plus bas, « font à notre place », nous sommes désignés comme de nouveaux « mandants », presque de nouveaux « mand-IA-nts » (mais qui n’ont hélas rien de clochards célestes). Comment en sommes-nous arrivés là ?

Il fut un temps où la désignation des circulations possibles à l’échelle de l’internet et du web étaient de claires métaphores. Nous avions des « navigateurs« , lesquels utilisaient des « moteurs » ; et parfois sans moteur mais toujours en navigateur on se contentait de « surfer« . Pour se repérer on connaissait des adresses (URL) qui étaient autant de phares, de rives déjà apprivoisées ou de rivages à découvrir.

Et puis. Puis les moteurs de « recherche » sont devenus des moteurs de « réponses ». Puis les adresses (URL) se sont effacées, rétrogradées au second plan, amputées au-delà de leur racine, considérant que plus personne n’avait à se soucier de les retenir et nous privant du même coup d’une autre possibilité de s’orienter en dehors des déterminismes techniques servant de béquilles à nos mémoires. Et donc aujourd’hui, plus de moteurs ou de navigateurs, ou plus exactement qu’importent les moteurs et les navigateurs, nous serons « super assistés » par de « super assistants », et deviendrons donc « mandants » de ces nouveaux « agents ».

Chapitre 3ème.
Des technologies de la déprise qui ouvrent de nouveaux horizons d’emprise.

Depuis les NTIC (nouvelles technologies de l’information et de la communication) et les métaphoriquement célèbres « autoroutes de l’information », depuis aussi cette idée idiote que « l’internet » serait un « Far-West » (Sarkozy, 2007) et autres récurrences tout aussi crétines de l’idée qu’il faudrait « reciviliser internet » (Mounir Mahjoubi en 2018) en passant par l’inénarrable Frédéric Lefebvre en 2009 et sa diatribe Kamoulox entre Hadopi, jeunes filles violées et identité nationale (sic) et jusqu’à tout récemment Clara Chappaz (2025) qui ressort le coup du Far-West à l’occasion de la mort de Raphaël Graven, chacun voit bien que la question de ces technologies est avant tout de nature politique. Et que ce qu’elles viennent bousculer dans nos schémas de communication et d’information est tout ce qui tient à notre capacité de faire société c’est à dire à nourrir des formes de sociabilités informationnelles, affectives et cognitives qui dessinent une réalité partagée.

La question des infrastructures technologiques n’est évidemment pas neutre dans l’équation, elle est même déterminante (à ce sujet lisez ou relisez Cyberstructure de Stéphane Bortzmeyer). Mais nous héritons d’un monde où la question politique de ces technologies et de leurs infrastructures n’a été posée en termes à peu près correct qu’à partir du moment où précisément elles avaient déjà commencé à ronger les structures même du débat public et politique tout autant que ses conditions pratiques d’exercice. L’histoire est malheureusement connue, à force de se concentrer sur la ruée vers l’or personne n’a noté que les seuls à faire réellement fortune étaient les fabricants de pelles. Et bien voici venu le temps des coups de pelle dans la tronche.

Pour sortir de cette qualification dépolitisante de « NTIC » beaucoup ont proposé d’autres dénominations. Pour ma part j’ai suggéré de questionner les NTAD, nouvelles technologies de l’attention et de la distraction. J’ai aussi et surtout interrogé la question de la déprise, c’est à dire la capacité de ces technologies à nous placer en situation de dépendance choisie, de nous installer dans des routines à coût cognitif nul, et finalement de presque tout faire à notre place, et inexorablement, de ne plus répondre à nos commandes que dans un « à peu près » qui nous satisfasse au regard de l’habitude prise à ne plus nous soucier de la précision du monde et de ce qui le constitue. Je vous invite à relire mon article de 2018 dans lequel j’explique tout cela avec de nombreux exemples et où je proposais l’insatisfaisant concept de « technologies de l’à peu près et de l’à ta place » que je requalifie donc aujourd’hui comme des technologies de la déprise (voilà pour le côté « à peu près ») et de l’emprise (voilà pour le côté « à ta place »). A partir de deux exemples « d’innovation » j’y montrais notamment ceci :

« Ce qui m’intéresse dans cette affaire c’est la chose suivante : nous avons donc un algorithme qui s’occupe de recadrer automatiquement les photos que nous prenons, au risque de nous faire prendre des photos que nous ne voulions pas prendre, ou en tout cas de donner à voir une « composition photographique » qui n’est pas celle que nous voulions montrer. Et ce « choix algorithmique » de recadrage, dont on nous dit qu’il est là pour permettre d’optimiser – paradoxalement – la visibilité, se trouve lui-même soumis au choix algorithmique conditionnant la visibilité du Tweet lui-même, indépendamment des photos recadrées qu’il contient. Soit un empilement de strates et de régimes algorithmiques d’obfuscation et de dévoilement, sur lesquels nous n’avons quasiment plus aucune prise (de vue).

Là encore, comme pour Clips de Google mais à un niveau légèrement différent, l’usage de la technologie nous installe dans une position que l’on pourrait qualifier « d’assistance contrainte » : nous n’avons pas demandé à ce que nos photos soient recadrées, mais nous n’avons pas d’autre choix en les soumettant que de les voir recadrées. La technologie et l’algorithme de machine-learning le font à notre place. TIYS (Technology In Your Stead) & AIYS (Algorithms In Your Stead). La négociation dans l’usage se jouant autour de la promesse de gain de visibilité pour l’utilisateur (et donc d’interaction ou d’engagement pour la plateforme).

Aujourd’hui l’ensemble des contenus produits par IA sont l’incarnation finale de ces technologies qui font à la fois « à peu près » et « à notre place ». Donnez-leur un prompt et vous aurez une projection qui sera « à peu près » ce que vous imaginiez, et qui surtout sera produite « à votre place » au double sens du terme, c’est à dire depuis votre place qui est une place à distance de l’acte de création, mais également qui vous départit de l’essentiel même de ce qu’imaginer ou créer veut dire.

Chapitre 4ème
À moins de revoir la doctrine entre le statut d’éditeur et celui d’hébergeur

J’ai le sentiment qu’il est beaucoup trop tard et que la seule manière de remettre un peu d’eau claire dans ce flot de merde, c’est de revenir sur une constante qui fut pourtant fondamentale et constitutive de l’histoire du web et des plateformes. Il faut que les plateformes soient immédiatement considérées comme totalement et pleinement éditrices des contenus qu’elles font circuler. De tous les contenus ? Oui. Voici pourquoi et voici aussi comment cela pourrait permettre de résoudre le problème qu’Emmanuel Macron résume parfaitement (bah oui faut le dire parfois il résume bien les trucs) mais en omettant de parler de l’autre éléphant dans la pièce, c’est à dire les « autres » médias classiques, traditionnels et pas spécialement sociaux mais qui sont au moins autant coupables de l’effondrement démocratique qui se dessine.

Parce que t’as raison Manu, on tape Islam sur TikTok et on tombe en trois clics sur des contenus salafistes. Mais je te rappelle qu’on dit « Bonjour » sur CNews et on tombe encore plus rapidement sur des contenus racistes éditorialisés par des gens condamnés pour corruption de mineurs et harcèlement sexuel, donc bon voilà quoi.

Oh oui reprends-moi le contrôle et enfourchons le tigre.

[Si vous êtes familiers de la distinction entre éditeur et hébergeur et de tout ce qui tient à la « section 230 », vous pouvez directement sauter ce passage et on se retrouve après les crochets, sinon je vous invite à lire l’article d’Anne Deysine dans l’excellentissime Revue Européenne des médias et du numérique, et vous en partage l’extrait qui suit :

« La section 230 a été ajoutée à la loi Communications Decency Act (CDA) de 1996 (qui visait à réguler la pornographie) grâce au lobbying de ceux que les chercheuses Mary Ann Franks et Danielle Keats Citron appellent les « fondamentalistes de l’internet » : ceux qui défendent une vision du web comme espace paradisiaque de liberté totale. La section 230 (surnommée « les 26 mots qui ont créé l’internet ») fut, à l’origine, conçue pour encourager les compagnies de la Tech à nettoyer les contenus offensifs en ligne. Il s’agissait de contrer une décision rendue en 1995 dans l’État de New York, ayant conclu à la responsabilité de Prodigy qui avait modéré des contenus postés sur son site. La section 230 (c) (1) stipule qu’« aucun fournisseur d’accès ne sera traité comme un éditeur ». Un deuxième paragraphe, 230 (c) (2), précise qu’« aucun fournisseur ou utilisateur d’un service informatique interactif ne sera tenu responsable, s’il a de bonne foi restreint l’accès ou la disponibilité de matériaux qu’il considère être obscènes, excessivement violents, de nature harcelante ou autrement problématiques (otherwise objectionable), que cette information soit constitutionnellement protégée ou non. 

C’est ce qu’on appelle la disposition du « bon Samaritain », conçue comme plus limitée que le paragraphe (c) (1), car nécessitant de prouver la bonne foi.

Mais les juridictions étatiques et fédérales ont étendu la protection juridique bien au-delà de ce que prévoit le texte de la loi, avec pour résultat que les plateformes ne soient guère incitées à combattre les abus en ligne. La section 230 a, de fait, libéré les sites internet, les sites de streaming et les réseaux sociaux (pas encore nés en 1996), qui peuvent héberger du contenu extérieur sans être confrontés à la tâche (impossible ?) de vérifier et de contrôler tout ce qui est posté par les utilisateurs. Telle qu’interprétée par les juridictions fédérales, la section 230 confère aux plateformes et réseaux sociaux une immunité totale, quels que soient le contexte et le cas de figure (modération ou non). Avec pour conséquences, entre autres, la multiplication des mensonges et la prolifération de la désinformation et des discours de haine. Ils ont donc le pouvoir sans la responsabilité, selon les mots de Rebecca Tushnet. » in Deysine, Anne. « La section 230 : quelle immunité pour les réseaux sociaux ? » La revue européenne des médias et du numérique, 13 février 2024.

Pour rappel également, Trump s’est tour à tour « amusé », dans ce mandat comme dans son précédent, à brandir la menace de la suppression de la section 230 (quand ça l’arrangeait pour mettre la pression aux grands patrons de la tech qui tardaient à lui donner des gages de servilité) puis à en rappeler l’importance (dès lors que les gages de servilité avaient été obtenus et qu’il s’agissait alors pour lui de rétablir les plateformes dans une immunité totale au service de ses intérêts politiques.]

Reprenons.

Dans le contexte de l’explosion totalement dérégulée des contenus générés par IA, continuer aujourd’hui à prétendre encore distinguer entre un statut d’éditeur et un autre d’hébergeur en privilégiant ce dernier, c’est prétendre vouloir nettoyer les écuries d’Augias avec un coton-tige et un mi-temps thérapeutique. Il ne s’agit plus de dire que c’est trop tard (c’est en effet trop tard) ; il s’agit de dire que ce n’est simplement plus le sujet.

On ne peut plus considérer aujourd’hui que les très grandes plateformes actuelles de médias sociaux sont légitimes à continuer de s’abriter derrière un statut d’hébergeur. Elles ne le sont plus. Du tout. Leurs algorithmes tordent la réalité sous l’impulsion et les intentions claires et transparentes de l’idéologie de leurs propriétaires. Et elles ont toutes jusqu’ici absolument tout mis en place pour, à chaque fois que possible, se soustraire à leurs obligations légales ou à leurs engagements moraux.

Nous sommes au coeur d’un nouvel épisode du paradoxe de la tolérance de Popper : nous avons été beaucoup trop tolérants avec des grandes plateformes qui trop longtemps furent et continuent d’être la caution de toutes les intolérances. Tout a été dit et documenté sur le fait que toutes les plateformes ont non seulement parfaitement conscience des dérives et des dangers qu’elles représentent (notamment mais pas uniquement pour les publics les plus jeunes), sur les moyens dont elles disposent toutes pour immédiatement atténuer ces dangers et ces dérives, et sur les coupables atermoiements, reniements, dissimulations et mensonges qui les conduisent à ne rien mettre en place de significatif à l’échelle de l’immensité et de l’urgence des problèmes qu’elles posent. Je l’ai (et tant d’autres avec moi) tant de fois dit, écrit, montré et démontré et le redis encore une fois :

Après les mensonges de l’industrie du tabac sur sa responsabilité dans la conduite vers la mort de centaines de millions de personnes, après les mensonges de l’industrie du pétrole sur sa responsabilité dans le dérèglement climatique, nous faisons face aujourd’hui au troisième grand mensonge de notre modernité. Et ce mensonge est celui des industries extractivistes de l’information, sous toutes leurs formes. (…) Et même s’ils s’inscrivent, comme je le rappelais plus haut, dans un écosystème médiatique, économique et politique bien plus vaste qu’eux (…) les médias sociaux, sont aujourd’hui pour l’essentiel de même nature que la publicité et le lobbying le furent pour l’industrie du tabac et du pétrole : des outils au service d’une diversion elle-même au service d’une perversion qui n’est alimentée que par la recherche permanente du profit.

Autre fait incontestable de ce premier quart du 21ème siècle, aujourd’hui et lorsqu’ils ne disposent pas déjà d’un internet totalement fermé ou sous contrôle (comme en Chine ou en Russie par exemple), l’essentiel des pouvoirs politiques de la planète n’ont plus pour projet, ambition ou vocation de contrôler et de limiter le pouvoir de nuisance de ces plateformes mais tout au contraire de le maximiser et de le mettre à leur propre service ou, le cas échéant, à celui d’un agenda du chaos sur lequel ils espèrent pouvoir encore prospérer. Comme le rappelle très bien Fred Turner dans « Politique des machines » :

« L’une des plus grandes ironies de notre situation actuelle est que les modes de communication qui permettent aujourd’hui aux autoritaires d’exercer leur pouvoir ont d’abord été imaginés pour les vaincre. »

Il revient donc aux quelques états encore pleinement démocratiques (ou pas encore totalement illibéraux), en Europe notamment, de mettre immédiatement fin à la tolérance qui est faite à ces très grandes plateformes, de rompre avec leur statut d’hébergeur et de les rendre éditrices en droit. À celles et ceux qui m’objecteront que c’est impossible, je répondrai qu’il s’agit de l’une de nos dernières chances pour préserver l’espoir de vivre encore dans une forme de réalité partagée et consensuelle, et qui ne soit pas en permanence minée et traversée d’opérations massives de déstabilisation ou d’influence de plus en plus simples à initier et de plus en plus complexes à contrer (si vous êtes curieux de cela, regardez par exemple ce qui se passe actuellement autour de l’IA, des LLM et de la stratégie des « data voids » – données manquantes – et autres LLM Grooming). Et que si ce mur là continue de se fissurer et tombe, alors …

À celles et ceux qui disent que c’est impossible je répondrai aussi que refuser de le faire c’est continuer de nier la place et le rôle politique de ces plateformes et privilégier un argument de neutralité de la technique dont nous avons chaque jour démonstration de l’ineptie totale qu’il recouvre. C’est bien parce que ces plateformes sont avant tout politiques, c’est bien parce que ces plateformes sont dirigées par des hommes (et quelques rares femmes) aux agendas idéologiques clairs (et le plus souvent dangereux), c’est bien parce qu’ouvrir le code des algorithmes ne suffit plus, c’est bien parce qu’il s’agit de protéger des populations entières d’usages incitatifs qui tendent majoritairement à corrompre, à pourrir, à remettre en doute toute forme de réalité objectivable et partagée, c’est bien pour l’ensemble de ces raisons qu’il est aujourd’hui impérieux de sortir d’une logique où le statut d’hébergeur est systématiquement brandi comme la carte joker de l’effacement de toute responsabilité ou de toute contrainte.

Le maintient d’un statut d’hébergeur primant sur celui d’éditeur n’avait de sens que dès lors qu’il n’y avait pas plus qu’un doute raisonnable sur l’indépendance politique et idéologique des plateformes et de ceux qui les dirigent. Ce doute étant aujourd’hui totalement levé et démonstration étant faite quasi-quotidiennement de l’ingérence de ces plateformes dans chacune des strates et orientation du débat public comme des décisions politiques, il faut imposer un statut d’éditeur à toutes ces grandes plateformes et que ce statut prime sur des fonctions d’hébergeur qui peuvent, marginalement ou périphériquement leur être conservées. Bref il faut de toute urgence inverser la logique. Il faut que ces plateformes répondent en droit de leur responsabilité d’abord éditoriale ou il faut qu’elles s’effondrent. Tout autre scénario revient aujourd’hui à accepter l’effondrement à moyen terme de nos démocraties. Il nous faut un effet cliquet ; il nous faut « cranter » une décision suffisamment forte pour qu’elle change totalement les dynamiques en cours.

Depuis l’émergence des grands réseaux puis médias sociaux « grand public », disons depuis 15 ou 20 ans, nous avons, et le législateur, raisonné en alignement avec l’argumentaire des plateformes consistant à expliquer que « plus elles étaient grosses » (en nombre d’utilisateurs), « plus les contenus y étaient abondants« , et « plus il était impossible d’y appliquer une modération ou une transparence éditoriale. » Or nous avons commis une triple erreur.

D’abord sur le statut d’hébergeur versus celui d’éditeur : cet argumentaire était directement repris de celui des fournisseurs d’accès, qui eux, étaient à l’époque comme maintenant, parfaitement légitimes à être protégés par le statut d’hébergeur en tant qu’intermédiaires techniques. Mais aucune des grandes plateformes dont nous parlons aujourd’hui n’a bâti son succès et son audience en tant qu’intermédiaire technique. Voilà notre première erreur.

La seconde erreur est de considérer que plus les gens sont nombreux à interagir, plus il y a de contenus en circulation, et moins il devrait y avoir de règles (ou seulement des règles « automatisées ») car toutes ces interactions seraient impossibles à contrôler. Je vous demande maintenant de relire la phrase précédente et d’imaginer que nous ne parlons plus de grandes plateformes numériques mais de pays et de populations civiles. Imagine-t-on réellement pouvoir tenir un argumentaire qui expliquerait que plus la population d’un pays est nombreuse, plus elle interagit et produit des discours et des richesses, et moins il doit y avoir de règles et de lois car tout cela serait trop complexes à gérer ? Voilà notre deuxième erreur. Et même si par nature, les espaces de ces très grandes plateformes ne sont ni entièrement des espaces publics, ni jamais pleinement des espaces privés, ils demeurent des espaces politiques traversés en chacun de leurs points et de leurs vecteurs par la question du « rendu public » et des règles afférentes qui le permettent et l’autorisent.

La troisième erreur est d’avoir laissé ces grandes plateformes agglomérer, agglutiner, une série de services et de « métiers » qui n’ont rien à voir entre eux et obéissent à des logiques de régulation différentes pouvant aller jusqu’à l’antagonisme. Ainsi, un service de « réseau social » qui s’appuie uniquement sur de la mise en relation, un service de messagerie électronique, un service de production de contenus vidéos, un service de moteur de recherche, et quelques autres encore, ne peuvent évidemment pas être soumis aux mêmes règles ou statuts d’hébergeur ou d’éditeur. Il n’est ainsi pas question pour un service de courrier électronique de faire peser la même responsabilité éditoriale que, par exemple, pour un service de production de vidéos. Lorsque Mark Zuckerberg déclarait ainsi en 2020, « Treat us like something between a telco and a newspaper » (« traitez-nous comme quelque chose entre un opérateur télécom et un journal »), c’est une manière d’échapper à sa responsabilité de « journal » (en s’abritant derrière les régulations des opérateurs télécoms qui ne couvrent pas l’aspect éditorial) et d’échapper aussi à sa responsabilité d’opérateur télécom (en s’abritant derrière les régulations propres aux médias). Voilà notre troisième erreur : avoir accepté de traiter l’ensemble de ces grandes plateformes comme si elles n’étaient qu’un tout et n’avaient qu’un seul « métier », alors pourtant que depuis des années, la nécessité de leur démantèlement (ou de leur nationalisation partielle) était la seule hypothèse rationnelle.

En parallèle voilà plus de deux décennies que nous demandions et tentons d’installer dans le débat public la nécessité d’ouvrir le code ces algorithmes. Moi y compris et – pardon pour l’immodestie – moi parmi les tous premiers avec mon camarde Gabriel Gallezot dès 2003, Aujourd’hui non seulement ouvrir le code des algorithmes ne suffit plus puisqu’irrévocablement, irrémédiablement, « il n’y a pas d’algorithme, juste la décision de quelqu’un d’autre » (Antonio Casilli, 2017), et de quelqu’un d’autre qui, soit se cogne de toute considération politique, soit au contraire ne raisonne qu’en termes politiques et idéologiques.

Cela ne veut pas dire pour autant que toute plateforme hébergeant des contenus en ligne doit se voir assignée uniquement et exclusivement un rôle et statut d’éditeur. Cela veut par contre dire que toutes les très grandes plateformes sociales actuelles, disons pour reprendre la catégorisation du DSA (Digital Service Act) toutes celles ayant plus de 45 millions d’utilisateurs actifs (soit 10% de la population européenne), toutes ces très grandes plateformes doivent d’abord être considérées comme éditrices. Dans la jurisprudence, l’un des critères les plus déterminants qui permet de distinguer entre hébergeur et éditeur et celui dit du « rôle actif », défini comme « la connaissance et le contrôle sur les données qui vont être stockées. » Or qui peut aujourd’hui sérieusement prétendre que Facebook, Instagram, X, TikTok et les autres n’ont pas un rôle actif dans la circulation des contenus hébergés, et que ces plateformes n’auraient ni connaissance ni contrôle sur les données et contenus stockés ? Le gigantisme fut longtemps l’argument mis en avant par les plateformes pour, précisément échapper à leur responsabilité éditoriale. Cet argument n’a aujourd’hui (presque) plus rien de valide techniquement ou de valable en droit.

Entendez-vous le son qui monte ? « Cela reviendrait à condamner le modèle même de ces plateformes, à les empêcher d’exister« . Oui. Oui encore et encore oui. Puisqu’elles n’entendent rien et se soustraient à toutes leurs obligations légales ou morales, oui il faut les renvoyer à leur responsabilité première, qui est une responsabilité éditoriale. Et le risque qu’elles ferment ? Oui il faut prendre ce risque. Qu’elles revoient entièrement leur mode de fonctionnement ? Oui il faut prendre ce risque. Que les interactions y baissent drastiquement ? Oui il faut prendre ce risque. Qu’elles soient contraintes de massivement recruter des modérateurs et des modératrices bien au-delà de ce qu’exige l’actuel DSA (dont elles n’ont à peu près rien à secouer) ? Oui il faut prendre ce risque. Qu’elles soient contraintes d’appliquer toutes les décisions de justice qui restent jusqu’ici lettre morte ? Oui il faut prendre ce risque. Que leur modèle économique soit totalement remis en cause ? Oui il faut prendre ce risque. Qu’une mathématique algorithmique explicite s’applique de plein droit sans être en permanence triturée pour faire remonter le pire, le plus clivant, le plus choquant, le plus porteur émotionnellement et le plus au service des idéaux du patron ? Oui il faut prendre ce risque. Que nous soyons contraint.e.s de les quitter ? Oui il faut prendre ce risque.

Et par-delà ces « risques » il s’agit surtout d’opportunités. Je rappelle en effet que d’autres formes de collectif, d’agrégation, d’intelligences collectives ont toujours été possibles, le sont et le seront encore à l’échelle d’internet, à l’échelle du web, à l’échelle des plateformes. Car si l’on parvient, pour les plus grosses d’entre elles, à mettre fin à ce statut d’hébergeur aujourd’hui presque totalement dérogatoire au droit, alors il reviendra à chacun.e d’entre nous, aux pouvoirs politiques et aux collectifs citoyens, aux chercheurs, aux chercheuses, aux journalistes et à l’ensemble des corps intermédiaires aujourd’hui tous menacés ou contraints par ces plateformes, de retrouver ce qui fut un temps le rêve achevé du web : des gens s’exprimant en leur nom (ou pseudonyme qu’importe), depuis principalement leur adresse, créant entre elles et eux des liens plutôt que des like. Un Homme, une page, une adresse.

Éditorialiser.

Ce que nous ferons de l’actuelle l’irresponsabilité éditoriale des très grandes plateformes n’est ni temporairement un choix technique, ni réellement un choix juridique, ni même pleinement un choix politique ; c’est une somme de tout cela mais c’est bien plus encore que cela. C’est un choix ontologique, qui seul peut nous permettre de définir et d’assigner ces écosystèmes informationnels à ce qu’ils sont vraiment et non à ce qu’ils prétendent être. Fred Turner encore, dans une interview sur NeXt à l’occasion de la sortie de « Politique des machines » (chez le meilleur éditeur de la galaxie connue) nous le rappelle (je souligne) :

« Nous vivons dans une ère saturée de médias et d’histoires. Rien ne donne plus de pouvoir que la capacité à contrôler le récit. En la matière, Donald Trump, c’est un drame dans lequel chaque Américain a une chance de jouer un rôle. C’est ce drame qui structure la réalité.

Si la France est là où les États-Unis étaient en 2022, disons, alors elle a une opportunité que nous n’avons pas su saisir. Vous pouvez construire des réseaux de solidarité dans les gouvernements, dans la société civile, dans les mondes numériques. Vous pouvez commencer à parler du monde que vous voulez construire. De cette manière, si l’autoritarisme arrive à votre porte, vous aurez déjà une autre histoire à proposer. »

Il (me) semble que cette histoire ne pourra jamais être contée si nous ne contribuons pas, en parallèle et peux-être en préalable, à démolir et à éparpiller façon puzzle l’actuel paysage éditorial dominant.

Marcello Vitali Rosati donnait la définition suivante de l’éditorialisation, une définition que je vous ai souvent donnée ici, que j’ai souvent reprise à mon compte :

« L’éditorialisation n’est pas seulement un ensemble de techniques, même si l’aspect technique est le plus visible et le plus facilement définissable. On pourrait donner la définition suivante. L’éditorialisation est l’ensemble des dispositifs qui permettent la structuration et la circulation du savoir. En ce sens l’éditorialisation est une production de visions du monde, ou mieux, un acte de production du réel. »

« Avoir une autre histoire à proposer« , « produire des visions du monde« , produire du réel. Que font et que sont ces méga-plateformes aujourd’hui sinon un acte premier et fondateur de production du réel. Mais souvenez-vous en et retenez-le bien, c’est un réel « à peu près » ; c’est un acte de production « à notre place« . Il est temps que tout cela cesse. Alors cessons d’être le bruit, et surtout, empêchons-les de plonger notre monde dans la fureur.

A l’invitation de la chaire Unesco RELIA de l’université de Nantes et dans le cadre de la Nantes Digital Week, j’étais ce vendredi 19 Septembre 2025 en bonne compagnie pour une « Scientific Battle » sur le thème suivant : « L’intelligence artificielle va-t-elle nous rendre (encore) plus idiots ? »

Voici ce que j’y ai dit, sachant que le format était celui de la contrainte : 3 minutes et basta. Je vous livre donc ces trois minutes mais aussi (et peut-être surtout) des réflexions complémentaires.

Ce que j’ai dit à la Scientific Battle en 3 minutes
(douche comprise)

366 avant JC, Platon dans le Phèdre se demande si l’écriture ne va pas nous rendre idiots et nous faire « perdre la mémoire ». Vingt-trois siècles plus tard, en 2008 Nicolas Carr se demande : « Google va-t-il nous rendre stupides ? » Et aujourd’hui donc on se demande :  « l’IA va-t-elle nous rendre encore plus idiots. » Vous noterez le « encore » qui est bien de circonstance

Plutôt que de parler d’IA je vais me concentrer sur ce que j’appelle (dans ce magnifique livre) les artefacts génératifs (les outils comme ChatGPT, Midjourney, Le Chat, Claude, Gemini, etc.). Vont-ils nous rendre encore plus idiots ?

D’abord ils nous font faire moins d’effort. Ces technologies allègent à la fois notre coût cognitif (« l’attribution de ressources attentionnelles à une tâche »)  et notre bagage cognitif (ce que cela mobilise comme connaissances).

From « ChatGPT » to « CouchGPT »

Ensuite ils démobilisent notre attention. On devient plus crédule. Ces technologies abaissent notre seuil de vigilance. L’idée (comme les notifications) c’est d’installer des arcs-réflexe, des routines, qui, à force, nous évitent non pas « de penser » ou « de réfléchir » mais de se souvenir qu’il faut penser ou qu’il faut réfléchir, par exemple à ce que ces artefacts génératifs nous disent, à pourquoi ils nous le disent et à comment ils nous le disent. D’autant qu’on a documenté ce que des chercheurs (Jacob, Kerrigan, Bastos 2025) appellent le « chat-chamber effect », le fait que nous « fassions confiance aux hallucinations de l’IA » dès lors que les informations / hallucinations vont dans le sens de nos croyances ou de notre questionnement, même si ces informations sont  incorrectes, non contrôlées et non vérifiées. Le titre complet de leur article c’est : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Et puis ces artefacts génératifs nous rendent moins exigeants. Ces technologies abaissent aussi notre seuil d’exigence parce qu’elles jouent sur un biais de disponibilité exacerbé qui se double d’une dimension de biais d’opacité (l’information est disponible, certes, mais difficile de savoir d’où elle a été tirée). Le biais de disponibilité c’est « se baser uniquement ou principalement sur les informations immédiatement disponibles en mémoire. » Et là on doit se demander : mais dans la mémoire de qui ? ChatGPT c’est la mémoire de … qui ? Des auteurs, photographes et des créateurs dont les oeuvres sont pillées (Anthropic a récemment promis un chèque d’1,5 milliards de dollars à un collectif d’auteurs pour éviter un procès) ? D’artefacts génératifs précédents dont les productions sont à leur tour mises en mémoire ? Avec déjà des formes de consanguinité « générative » qui sont accablantes comme ces images jaunies à force d’être copiées sur style Ghibli ou de manière générale des mécanismes d’effondrement de modèles autophages ?

Alors en effet quand on fait moins d’efforts (intellectuels), quand on fait moins attention, et quand on est moins exigeant intellectuellement, il est possible que l »on soit un peu plus idiot qu’avant.

Il y a une citation de Philippe Meirieu qui me semble très bien résumer tout cela : « l’IA comble le désir de savoir mais tue le désir d’apprendre. »

Pourtant au commencement, les idiots c’était pas nous ; les idiots c’étaient clairement ces IA et ces artefacts génératifs. Et vas-y que ça te proposait des recettes d’omelettes avec des oeufs de mouton, et vas-y que ça t’expliquait pourquoi « Jean-Paul Sartre avait écrit Le Petit Bonhomme en mousse », et vas-y que, de manière bien plus préoccupante, ça t’indiquait que « oui on a des doutes sur l’existence de la Shoah ».

Et puis on s’est mis à leur parler beaucoup et on a oublié ce que disait Audiard : « J’parle pas aux cons ça les instruit. » Maintenant on a une question à se poser : on fait quoi collectivement de ces artefacts génératifs très très cons que nous avons contribué à instruire (mais très incomplètement et très imparfaitement) ? On en fait quoi alors même qu’ils n’ont jamais eu et qu’ils n’auront jamais … aucun désir d’apprendre ? Pour le savoir on peut bien sûr poser la question à ChatGPT ; ou alors on peut aussi commencer par relire le Phèdre de Platon.

Moralité ? Je ne suis pas certain que ça nous rende tous encore plus idiots, mais je suis presque totalement convaincu que ça ne pas nous rendre collectivement plus intelligents.

Ce que je n’ai pas dit à la Scientific Battle.
(parce que ça ne tenait pas en 3 minutes)

L’IA c’est vaste, ça permet en médecine de sauver des vies et de détecter des cancers précocement, de concevoir de nouvelles molécules et de faire du design de protéines, mais ça permet aussi de faire du ciblage marketing émotionnel pour vous afficher des pubs juste au moment où vous êtes le plus « disponible », et puis ça fait vos devoirs à votre place et puis dès que vous avez une idée totalement crétine ou criminelle (genre transformer Gaza en Riviera), bah ça l’illustre et lui donne vie directement, ça imprègne, ça imprime, ça impressionne.

Je ne crois pas que les technologies (quelles qu’elles soient) nous rendent idiots. Par contre elles changent, modifient, transforment notre rapport au monde. La voiture, le train, l’avion ont moins modifié notre rapport à la vitesse et au déplacement individuel que notre rapport collectif à la géographie du monde. L’imprimerie a moins modifié notre rapport individuel à la lecture que notre rapport collectif aux structures sociales du pouvoir et de la contestation du pouvoir ; elle a transformé les anciens régimes de vérité et en a inauguré de nouveaux. Les moteurs de recherche, les réseaux sociaux et maintenant l’IA ont moins modifié notre rapport individuel à la question de l’accès à l’information et aux connaissances que notre rapport collectif à celles et ceux qui étaient jusque-là garants de la production d’informations vérifiées et de connaissances procédant par accumulation et respect de procédures scientifiques.

La question n’est donc pas tant de savoir ce que ces technologies nous font mais ce qu’elles font au monde et, surtout, ce que nous ferons et serons encore capables de faire dans le monde qu’elles façonnent.

Le grand paradoxe de ces technologies d’intelligence artificielle, via leurs artefacts génératifs, c’est qu’elles ne nous fatiguent pas (cf leur coût cognitif quasi nul) mais qu’elles produisent des formes d’épuisement de la langue et du réel. Ces générations artificielles n’ajoutent pas à nos imaginaires, à nos possibles, elles leur enlèvent, elles leurs ôtent quelque chose par les instanciations systématiques et à coût nul de chaque réponse, de chaque possible, de chaque probable. Pour paraphraser le titre de l’ouvrage d’un philosophe célèbre, elles nous placent dans un monde qui n’est vu que comme représentations et plus comme volonté. Ce sont des technologies du retrait, de la mise en retrait. Alors bien sûr il y a des exceptions : le domaine médical et celui de la recherche fondamentale dans le domaine de la biologie, de la physique, et quelques autres encore. Mais dans ces domaines ces technologies sont exactement à leur place, c’est à dire que nous leur commandons de faire à notre place sur la base d’instructions et de méthodologies claires : leur capacité de calcul est mobilisée dans les lignes et contraintes que nous définissons, elles sont assignées. Alors que dans la sphère médiatique informationnelle de leur propagation, elles définissent un agenda d’assujettissement qui répond aux commandes des infrastructures de pouvoir qui les hébergent et les commandent.

Ce qu’il nous faut craindre, ce sont les alignements de tous nos effondrements. Effondrements de la parole journalistique, de l’espace médiatique, du lien social, de l’exercice politique du pouvoir. Mais aussi leurs pourrissements volontaires par les affrontements culturels autour de cette internationale capitaliste réactionnaire et néo-fasciste. Et au milieu donc les effondrements des IA et des artefacts génératifs. Or nous entrons dans une époque où tous ces pourrissements volontaires et où tous ces effondrements documentés s’alignent et font cadre. Ils deviennent un déterminisme qui nous conduit vers un abîme ; un abîme que nous regardons avec la lucidité que nous apportent celles et ceux qui le documentent sur le plan politique, historique, journalistique (les derniers numéros Fascisme 2.0 et Guerres de la revue AOC en sont une remarquable synthèse) mais pour lequel il semble que l’inertie soit désormais trop grande pour pouvoir l’éviter.

Comme l’écrivait Beckett, « Fini, c’est fini, ça va finir, ça va peut-être finir. Les grains s’ajoutent aux grains, un à un et un jour, soudain, c’est un tas, un petit tas, l’impossible tas. » L’impossible est en train d’advenir.

Et au milieu de cet impossible il y a ces chiffres et cette frénésie comptable qui est la nouvelle phrénologie de l’essentialisation capitaliste de nos pulsions et de nos désirs (Stiegler parlait d’une économie libidinale). Ces chiffres en voici quelques-uns qui concernent ChatGPT : « 700 millions d’usagers, qui lui adressent chaque jour 2,6 milliards de requêtes. » (Google c’est plus de 13 à 16 milliards par jour).

Et cette question supplémentaire : que sont devenus les gens à qui nous ne posons plus ces questions parce que nous les posons à Google ou à ChatGPT ? Et quelles auraient été leurs réponses ? Que serions-nous devenus dans ces échanges, ces réponses ou ces absences de réponses immédiates ? Que seraient devenues nos singulières errances d’ignorance, vers quel destin ou quels ailleurs nous auraient-elles conduites ? Et quelles réponses collectives leurs auraient alors été apportées ? De cela nous n’en saurons jamais rien. Il ne nous reste alors que le frémissement d’une inquiétude, clinique, la même que celle qui traversait Apostolos Gerasoulis (le papa du moteur de recherche Ask Jeeves) lorsqu’il s’interrogeait en regardant défiler les dix millions de requêtes quotidiennes d’Ask Jeeves : « Je me dis parfois que je peux sentir les sentiments du monde, ce qui peut aussi être un fardeau. Qu’arrivera-t-il si nous répondons mal à des requêtes comme ‘amour’ ou ‘ouragan’ ? »

Il n’est qu’une seule manière d’apaiser cette inquiétude, c’est d’avoir la certitude que Sam Altman (dirigeant d’OpenAI), Daniela Amodei et Dario Amodei (fondateurs et dirigeants d’Anthropic), Arthur Mensch, Guillaume Lample et Timothée Lacroix (fondateurs et dirigeants de Mistral AI) et quelques autres se posent et se poseront tous les jours cette même question et qu’elle guide et guidera chacune de leurs décisions. Et comme c’est une certitude que nous n’aurons jamais, notre seul impératif est de la leur poser sans cesse, sans trêve et sans relâche.

Longtemps le numérique fut envisagé et traité comme ce qu’il était en première intention : un moyen de stockage. Et à ce titre la possible et pratique externalisation de nos mémoires, mémoires documentaires d’abord, mémoires intimes ensuite.

Je suis récemment tombé sur un article expliquant comment le recours à l’IA allait permettre de redonner vie à la série Caméra Café, notamment en clonant – avec leur accord – les deux acteurs principaux et en les rajeunissant, mais aussi je cite : dans l’optique de « moderniser la série » et de « faire revivre [le] catalogue [de la maison de production]. »

On s’était habitué aux suites menant à Rocky 5 ou à Rambo 4 ou plus récemment à Fast And Furious 10, on vit également l’émergence des séries, reboots, préquels et autres déclinaisons « d’univers » ou de tonneaux des Danaïdes scénaristiques baptisés « multivers », mais aujourd’hui avec l’IA ce à quoi nous assistons c’est à l’industrialisation de ces multivers comme autant de répliques d’univers à moindre coût. Et ce pour permettre de doper de vacuité d’anciennes têtes de gondole d’audience en leur donnant une nouvelle et artificielle jeunesse, mais aussi et surtout une nouvelle surface et amplitude de diffusion.

Têtes de clones.

L’article de Marina Alcaraz dans Les Échos explique ainsi que l’IA sera utilisée dans 4 objectifs distincts :

« D’abord, pour reprendre tout le catalogue français du programme tourné au début des années 2000 (environ 700 épisodes) et le passer au format actuel en 16/9 et 4K. L’IA sert à reconstituer les images manquantes et à moderniser le rendu.

Ensuite, les nouvelles technologies sont utilisées pour indexer les épisodes et analyser les textes. Exit les termes de l’époque, comme Walkman, les références à l’actualité ou à la politique du début du millénaire. « Quand les dialogues parlent de choses que les jeunes ne connaissent pas, l’IA va les remplacer par des mots ou des expressions plus d’actualité », explique Jean-Yves Robin, président de Robin & Co.

Enfin, l’IA va créer des deepfakes des comédiens, dont ceux Bruno Solo et Yvan Le Bolloc’h, pour les insérer dans les versions issues de l’international. On estime qu’il y a 5.000 à 6.000 épisodes produits dans le monde, dont environ la moitié d’originaux, reprend le producteur. On pense pouvoir au moins doubler le catalogue français. C’est une façon de faire revivre les catalogues sur des fictions comme celle-ci, où des comédiens sont trop âgés. »

Cet exemple est particulièrement intéressant car il mobilise en effet les quatre ressorts actuels des enjeux de l’IA dans le contexte des industries culturelles. Un enjeu d’abord technique d’optimisation et de « modernisation » (pour autant que l’idée de modernisme ait un sens lorsque l’on parle d’IA). Un enjeu ensuite « éthique » qui mobilise la question de l’intégrité documentaire des oeuvres (et d’une forme de « cancel culture », j’y reviendrai). Un enjeu juridique qui touche à la fois au droit d’auteur, au droit à l’image et à la propriété intellectuelle ; ici les comédiens ont accepté d’être clonés contre rémunération et il serait d’ailleurs intéressant de voir quel type de contrôle ils ont accepté de céder sur leur image, et jusqu’à quand. Et enfin un enjeu économique de saturation et de maximisation des logiques d’exploitation par procédé de duplication dans un univers médiatique déjà passablement saturé et qui vient encore alourdir le poids de ce que l’on appelait « les étagères infinies », c’est à dire l’immensité de catalogues de contenus dans lesquels on passe davantage de temps à choisir quoi regarder plutôt qu’à simplement … regarder.

Désormais, il semble qu’aucun contenu culturel ayant eu ne serait-ce qu’une once de succès d’audience ou critique ne puisse et ne doive mourir ou être oublié. Tout doit être fait pour le maintenir artificiellement en circulation médiatique. C’est une sorte de palimpseste à l’envers, dans lequel on partirait de la version la plus aboutie de l’oeuvre originale pour ensuite la recouvrir de couches affadies de ses propres extensions, dérivations, réécritures et copies.

[Mise à jour du 23 Juillet]

Autour de ce sujet on pourra également se référer au concept de « Foreverism » de Grafton Tanner, ainsi qu’aux pages de Deleuze sur la question de la répétition.

[/Mise à jour]

Dans un tout autre registre, je m’étais il y a quelques années intéressé au fait que les profils Facebook de personnes décédées continuaient d’être une manne d’interaction (et donc de revenus) pour la plateforme ; plateforme qui avait ainsi tout intérêt à nous inciter à transformer ces comptes en autant de « mémorial » et à nous rappeler de souhaiter les anniversaires de nos amis morts. Il s’agissait et il s’agit toujours de se payer, encore et encore, jusqu’au bout du cynisme.

C’est un peu le même type de processus auquel nous assistons aujourd’hui avec ces maisons de production qui veulent encore se payer sur des contenus culturels (ici des séries) pourtant déjà au bout de toutes les logiques de rentabilité existantes : en l’occurence, pour la série Caméra Café, elle a déjà été vendue et exploitée dans plus de 60 pays, et tous les produits dérives possibles et imaginables ont également été exploités et surexploités.

Intégrité documentaire.

C’est pour moi le grand sujet des années qui s’ouvrent devant nous. Car avec l’IA, et comme cela est relaté dans l’article de Marina Alcaraz pour Les Échos, vient aussi la tentation d’effacer toute forme de référence à l’actualité de l’époque de production du contenu concerné. On parle ainsi de gommer le « walkman » pour le remplacer par autre chose qui parle à la nouvelle « cible » envisagée. Toujours d’après le prodicteur de la série, grâce à l’IA, exit aussi les références à l’actualité politique de l’époque. Ce qui vient nourrir encore le débat sur une forme de Cancel Culture. Ou comment réécrire des contenus culturels qui ne peuvent être autre chose que le reflet d’une époque avec tout ce que cette époque comportait de tolérance qui nous semble aujourd’hui relever légitimement de formes d’abus condamnables.

De mon côté, plutôt que de m’enferrer dans le débat souvent glissant de la « cancel culture » je préfère parler et questionner le thème de l’intégrité documentaire.

Je vous en ai souvent parlé sur ce blog, mais la première fois que j’ai commencé à réfléchir à la notion « d’intégrité documentaire » c’était lorsque j’écrivais beaucoup sur « l’affaire » Google Books et la manière dont le moteur s’était soudainement mis à numériser à très large échelle des livres du domaine public mais aussi des ouvrages sous droits, et où avaient émergé, pour l’ensemble des contenus culturels, les offres de streaming allant avec une forme manifeste de dépossession des anciens supports physiques (CD, DVD, etc.) qui nous privaient ce faisant de certains de nos droits de propriété (j’avais même appelé cela « l’acopie« ). Bref c’était il y a plus de 20 ans. Pour expliquer cette notion d’intégrité documentaire auprès de mes étudiants j’utilisais et j’utilise encore souvent l’exemple des éditions des grands classiques en version « digest » disponibles aux USA du type « la bible en 20 pages » ou « les misérables en 50 pages. » Je leur explique que si l’on n’est confronté qu’à la version « courte » des misérables, version dont on a expurgé non seulement différents niveaux de l’intrigue mais dont on a aussi modifié, pour les atténuer, les aspects paraissant les plus « choquants », le référent culturel que l’on construit et les comportements et les repères sociaux communs qu’il permet d’inscrire dans un horizon culturel partagé changent alors de manière radicale. En modifiant et en édulcorant « Les misérables » comme oeuvre littéraire (ou fait culturel) on influe nécessairement sur la perception que nous aurons de « la misère » comme réalité sociale. De la même manière et en prolongement, le fait de choisir, sur telle ou telle édition ou réédition, numérique ou non, d’enlever, de gommer ou de réécrire certains aspects de l’oeuvre sont une atteinte claire à son intégrité documentaire et constitue donc aussi un trouble à la diachronie et à la synchronie dans lesquelles toute oeuvre s’inscrit.

C’est d’ailleurs ce que l’historienne Laure Murat rappelle encore dans son dernier essai (que je n’ai pas encore lu) « Toutes les époques sont dégueulasses » mais dont j’ai pu entendre une interview sur France Inter dans laquelle elle expliquait ceci :

Faut-il corriger les textes pour qu’ils soient lisibles à nos yeux contemporains ? Laure Murat : « Je crois que la question pose un gros problème. Parce que si vous nettoyez les textes des sujets qui fâchent, des mots qui fâchent, vous aboutissez à une falsification et un mensonge historique, qui a pour conséquence très grave de priver les opprimés de l’histoire de leur oppression. Donc, supprimez les remarques misogynes de James Bond et ses actions – parce qu’il faut aussi toucher à l’intrigue – ça devient quand même nettement plus compliqué. Faites-en un proto-féministe, il y a beaucoup de travail, et vous ne comprendrez plus rien à la misogynie des années 1950-60. Et je crois que ce n’est pas une bonne idée. »

Alors on pourra certes arguer que la suppression d’un Walkman dans Caméra café n’a pas la portée symbolique de la réécriture d’une oppression, mais quid des blagues machistes ou sexistes de la série qui, à l’époque déjà, jouaient d’une ambiguïté sur la « beaufitude » de celui qui les énonçait ?  Faut-il également les réécrire au risque, en effet, de ne plus rien comprendre au sexisme et à la misogynie du début des années 2000 ?

« Celui qui oublie ou qui méprise l’histoire est condamné à la revivre » écrivait le philosophe George Santayana. La seule promesse d’une Cancel Culture qui au prétexte de l’IA, finirait par faire système à l’échelle de nombre de biens et produits culturels, c’est le retour en plus violent de ce passé effacé.