Et si notre terre était notre langue ?
Et si les IA conversationnelles étaient nos vaisseaux ?
Et si nous étions des astronautes sociaux ?

L’Overview Effect ou « effet de vue d’ensemble » c’est « un choc cognitif, une prise de conscience dont témoignent certains astronautes lors d’un vol spatial qui se produit lorsque ceux-ci observent la Terre depuis l’orbite terrestre ou la Lune. Cet effet se produit par la mise en perspective directe de la situation de la Terre dans l’espace : la planète est perçue comme une sphère fragile, un point bleu pâle « suspendu dans le vide », protégé par une fine atmosphère. »

L’Overview Effect conduit donc à prendre conscience de la fragilité d’un écosystème en l’observant d’un point, d’une position qui ne nous est ni naturelle ni facilement accessible et qui introduit une grande distance impliquant un renversement de perspective.

Et bien – me semble-t-il en tout cas – c’est très caractéristique de ce qu’ont produit les premiers systèmes d’IA conversationnels, ces artefacts génératifs. Et de ce qu’ils continuent de produire actuellement. En même temps que ces « agencements machiniques informationnels » ont déplacé la question du langage, ces IA conversationnelles et leur insincères maïeutiques nous ont mis dans une situation d’observation tout sauf naturelle de processus discursifs en temps réel qu’ils effectuent, processus discursifs pour autant (essentiellement) crédibles et « satisfaisants » (en tout cas satisfaisants aux principaux codes d’un échange conversationnel entre deux êtres humains).

Voir des machines parler était déjà étonnant mais fut longtemps cantonné au seul imaginaire de science-fiction ; puis parler à des machines (via les interfaces vocales du World Wide Voice) devînt une forme de routine mais demeurait, quelque part, toujours une forme d’étonnement ; aujourd’hui, voir des machines avoir avec nous des conversations rationnelles en temps réel, produit un effet de décalage qui fait que c’est « notre » intelligence, « notre » capacité dialogique et rationnelle qui est vue comme immensément fragile et qui, par contraste, donne à ces machines et à ces artefacts, dans l’interaction que nous avons avec elles, une place différente de ce qu’elle devrait être. Un renversement de perspective.

Nous sommes dans la position de l’astronaute qui observe non pas la terre mais la capacité de langage et d’intellection (et parfois aussi d’imagination), et qui l’observe pour la première fois depuis la médiation artificielle et artefactuelle qu’en propose l’IA générative. Et si la distance de la terre à la station spatiale qui permet de l’observer est considérable et se mesure en kilomètres (autour de 400 pour être précis), la distance entre notre « engagement langagier » et l’écho conversationnel médié par les IA est tout aussi vertigineuse à ceci près qu’elle ne se mesure plus en kilomètres mais plutôt en dépliant l’ensemble des règles algorithmiques, corpus d’entraînement, processus de « fine-tuning » mais aussi infrastructures techniques (data centers) et autres opérations qui permettent aux machines de faire à la fois illusion de langage et leurre de conversation.

Soit la langue est fragile, soit c’est nous qui le sommes.
Et si la langue est aux machines …

Cette position tout sauf naturelle (au même titre que celle de l’astronaute Sophie Adenot ci-dessus) nous conduit, en partie au moins, à regarder et à mieux mesurer et prendre en compte toute la fragilité du langage et des interactions humaines qu’il permet et conditionne. Mais cette situation d’observation inédite produit également deux effets différents : certains cherchent à protéger ou à sanctuariser la nature ou à tout le moins la fonction du langage, et à ne pas entièrement et systématiquement les soumettre aux systèmes techno-politiques qui produisent et façonnent ces IA ; d’autres au contraire font de cette fragilité évidente l’occasion d’un renoncement sur l’autel de l’efficience ou de la rationalité économique, prétextant se démultiplier via des IA agentiques qui sont le Taylorisme d’une langue véhicule. Et puis bien sûr il y a les enjeux même de l’écriture et de la création, que décrit un récent et admirable texte de Gregory Chatonsky sur AOC : « Ce qui (me) permet d’écrire est ce qui (vous) empêche de lire. »

Dans les deux types de réaction possible à cet Overview Effect de l’IA sur le langage, certains initialement en garderont donc surtout un sentiment accru de connexion avec une entité non-humaine, là où d’autres n’y verront que l’instanciation de formes toujours plus abouties d’isolement et de solitude. Tout comme la littérature scientifique autour de l’Overview Effect (qui date des premiers vols à haute altitude dans les années 1950), documentait aussi bien « l’appréciation et la perception de la beauté, une émotion inattendue, voire bouleversante, et un sentiment accru de connexion avec les autres » (Wikipedia) qu’un effet paradoxal de « rupture » ; les aviateurs traversaient en effet un phénomène décrit comme un sentiment de séparation physique de la terre occasionnant des réactions individuelles allant qui pouvait soit les plonger dans un sentiment  « d’exaltation ou du sentiment de se sentir plus proche de Dieu » tout comme à des formes élevées d’anxiété, de peur ou de solitude (Wikipedia). Ce phénomène dit de « break-off » cessa d’être étudié en tant que tel au début des années 1970.

Dans l’histoire des technologies numériques, qu’il s’agisse du Cloud, des réseaux sociaux, ou désormais de l’IA, les effets de proximité sont presque toujours paradoxaux et ne font que masquer une distance de plus en plus grande. Le « Cloud Computing » permet une disponibilité immédiate de documents qui n’ont jamais été stockés physiquement aussi loin de nous ; les réseaux sociaux ont historiquement fait proximité (puis promiscuité) avec des individus géographiquement toujours plus éloignés. Sans toujours le mesurer ou l’éprouver, nous avons donc déjà traversé d’autres « Overview Effects » : celui de l’éloignement et d’une distension de nos mémoires documentaires, celui de l’éloignement et d’une distension de nos relations sociales, et désormais donc, celui de l’éloignement et d’une distension là encore paradoxale de notre rapport au langage.

Voilà pourquoi, aussi, la question des heuristiques de preuve, celle de savoir comment à l’échelle d’une société nous serons – ou non – encore capables de définir la valeur de vérité d’un énoncé ou d’un fait et que cette valeur soit partagée parce que démontrable, documentable, voilà pourquoi la question des heuristiques de preuve est devenue aussi essentielle : non pas seulement par l’industrialisation de la production du faux, non pas uniquement par la vitesse même à laquelle ce faux est créé et se diffuse mais parce que nous sommes placés à une distance lointaine, inédite, comme en « décrochage » de notre capacité à faire langage. Parce que pour filer cette métaphore au moins visuelle de l’Overview Effect, c’est un autre type de vaisseau que l’ISS qui nous mène à si grande distance d’un biotope (la langue) qui nous est habituellement si proche et qui à mesure qu’elle se rapproche des machines semble aussi comme proportionnellement s’éloigner de nous. Les IA, ou plus précisément leur cadre de déploiement technique (les LLM) et infrastructurel (Data Centers et processeurs), sont un vaisseau comme un vecteur de mise à distance, d’éloignement de ce qui fait la langue.

Nous arrivons aujourd’hui à un moment charnière dans lequel nous verrons si la massification de l’usage des IA (pour autant qu’elle continue d’augmenter de manière constante et ne soit pas soumise à divers aléas d’un modèle économique pour l’instant reposant sur la dynamique d’un gigantisme de l’épuisement – toujours plus de ressources et de consommation), nous verrons, disais-je, si la massification de l’usage des IA nous emmène plutôt vers la conscientisation de la fragilité de la langue ou s’il faut plutôt se résoudre, après sa marchandisation dans un capitalisme linguistique (Frédéric Kaplan), à sa presque totale servicialisation dans un cadre où ce que l’on appelait la novlangue et le néo-parler, seront l’essentiel de la langue collective circulante quand d’autres régimes discursifs et linguistiques, jusqu’ici principalement vecteurs de socialisations affectives fines, seront de plus en plus cantonnés aux seuls échanges entre humains et machines.

Je ne crois pas trop à l’avènement à moyen terme d’une société du silence qu’extrapole par exemple un éditorial du WSJ reposant sur un article scientifique qui montre que nous utilisons en moyenne chaque année, 300 mots de moins par jour. Un recul de la parole qui touche toutes les classes d’âge et que les chercheurs comptabilisent en indiquant que notre volume de parole a diminué de 28% en moins de 15 ans.

Je crois par contre que depuis l’avènement des médiations numériques, l’inflation de paroles et de discours directement monétisables d’une part (capitalisme linguistique), et en parallèle et d’autre part, l’artificialisation soutenue de formes discursives indigentes au seul renfort d’une nécessité d’interaction rendant la langue soluble dans sa fonction phatique, je crois que oui, tout cela fait qu’encore une fois la question du langage s’est déplacée et qu’elle continue de le faire toujours davantage, les IA conversationnelles augmentant la distance entre elle et nous à des échelles stratosphériques jusqu’ici jamais atteintes.

One More Thing.

Dans une interview au magazine Usbek & Rika à propos de son dernier livre, la question était posée à Nicholas Carr de savoir quelle serait sa première décision s’il était nommé à la tête d’un puissant ministère de la technologie et du numérique par un gouvernement éclairé. Et il répondait ceci : « Détruire tous les centres de données. »

Or que sont ces centres de données fondamentalement dans la perspective qui nous occupe ? Ce sont des centres d’accumulation de paroles et de discours ; de paroles et de discours retenus, en permanence recalculés, archivés non pas par vertu de conservation mais par nécessité de manipulation. Détruire tous les centres de données pourrait alors, en effet, redonner une chance à la parole d’exister, et que chaque occasion nouvelle de discourir soit aussi une occasion nouvelle de découvrir. Ce qui fût un temps l’essentiel de l’intérêt de ce que nous appelions le Web.

L’ère post-chatbots s’annonce, explique la journaliste Lila Shroff pour The Atlantic. L’IA ne fait plus que répondre aux questions. Elle programme, elle agit. Et le « tournant agentique » formalise ces progrès, explique Eryk Salvaggio pour Tech Policy Press. Le tournant agentique désigne des systèmes qui génèrent du code et s’adaptent de manière autonome. Les systèmes d’IA produisent désormais du code et vérifient l’efficacité de cette production en la corrigeant jusqu’à ce qu’elle fonctionne. Mais si ces évolutions améliorent l’expérience utilisateur des LLM, est-ce que cela suffit pour « justifier » du déploiement de l’IA, interroge pertinemment Salvaggio. Est-ce que le fait que leurs productions s’améliorent suffit pour justifier de l’utilité de cette technologie ? 

Nous ne sommes plus exactement dans le cadre des perroquets stochastiques définis par l’article fondateur de 2021, d’Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, même si ce cadre reste pertinent – voir notre article, « la gauche minimise-t-elle le pouvoir de l’IA ? ». « Les systèmes agentiques empilent ces perroquets » pour produire des formes « d’essaims stochastiques ». Des systèmes qui s’auto-alignent sur ce qu’ils doivent produire, tout en demeurant fondamentalement incapables de rendre des comptes. La question centrale de l’article de Bender et alii demeure toujours pertinente, estime Salvaggio : « Les modèles de langage peuvent-ils être trop volumineux ? » 

La prolifération des modèles ne fait qu’amplifier les problèmes de biais, d’attribution erronée de la pensée et d’inefficacité. Distinguer la critique systémique de l’évaluation des modèles n’est pas céder à la surenchère : cela signifie se concentrer sur les avantages et les inconvénients collectifs plutôt que sur les usages individuels. On peut parler de ce que les modèles ne peuvent ou ne devraient pas faire sans pour autant nier leurs capacités, estime Salvaggio. 

L’IA agentique s’apprête à débarquer et ses effets vont être nombreux, estime l’artiste-chercheur. D’abord, il promet la production de logiciels bâclés (slopware, contraction de slop qu’on peut traduire par soupe ou de bouillie et de ware qui désigne les composants – voir notre article sur le slop), produits plus rapidement, mais qu’il va être difficile à évaluer. Distribution accélérée qui risque de créer des situations comparables à un espace aérien non réglementé, où une multitude de décisions individuelles et déconnectées engendrent le chaos. Le code peut sembler fonctionner dans des circonstances particulières grâce à toutes sortes de bidouillages qui masquent des erreurs sous-jacentes. « Contrairement aux logiciels malveillants, le logiciel bâclé n’est pas intentionnellement perturbateur ; il perturbe par négligence : c’est la variable codée en dur qui permet à un homme célibataire de gérer correctement son budget, mais qui entraîne des frais de découvert lorsqu’il est utilisé par une mère célibataire. La conception de logiciels exige une grande finesse dans le choix des valeurs et priorités qu’ils intègrent, ainsi que dans la manière dont ils déforment, ignorent ou présentent de façon erronée les données qu’ils traitent. Le suivi de ce processus requiert des connaissances techniques. » C’est cela qui pourrait disparaître dans les logiciels de demain. 

Ensuite, l’IA agentique promet l’accumulation des défaillances techniques. Malgré une perception accrue de fiabilité, les modèles de langage ne peuvent jamais être des machines à dire la vérité. Les soi-disant hallucinations sont mathématiquement impossibles à éliminer, et par conséquent, la perception d’une fiabilité accrue augmente le risque de surestimer la pertinence d’un modèle de langage pour une tâche donnée. Alors qu’un modèle de langage produit des textes ou autres médias persuasifs et potentiellement faux, un système agentiel produit un « code convaincant ». Ce code est produit de manière plus difficile à interrompre, à tracer ou à auditer qu’une simple sortie de modèle. « Il est impossible de documenter de manière fiable le processus de pensée d’un code créé sans réflexion » ; par conséquent, le code doit être considéré comme non fiable jusqu’à ce qu’il soit vérifié. On pourrait ajouter ici, le risque d’une sécurité infrastructurelle, comme l’évoquait Bruce Schneier.  

Conséquence du risque précédent, un autre risque repose sur l’accumulation des défaillances de responsabilité. Les erreurs dans un système agentiel s’accumulent de manière invisible jusqu’à ce qu’un élément vienne briser la façade. Dans les systèmes sensibles, ce dysfonctionnement peut nuire aux personnes. On encourage le gouvernement à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire – des domaines où des défaillances en cascade peuvent avoir de graves conséquences humaines. « L’objectif du gouvernement ne devrait pourtant pas être de gagner du temps en reportant la charge de travail sur un retraité qui se voit refuser indûment ses prestations ». 

Enfin, l’empilement des systèmes agentiques pousse à la montée en puissance du solutionnisme. Salvaggio rappelle pourtant que tous les problèmes ne se résument pas à des problèmes de programmation. L’accès à la génération de code nous pousse à résoudre les défis politiques par de nouvelles lignes de code et à nous concentrer sur les problèmes compréhensibles par les machines, au risque d’exacerber des formes de déshumanisation. Les cas particuliers, parfois flous, ne sont plus les subtilités du tissu social, mais une nuisance technique. Aucune simulation d’une communauté capable de résoudre ses problèmes n’est possible : le désordre est une étape nécessaire à la construction du sens et au fonctionnement de la démocratie. 

Enfin, ces systèmes risquent d’accroître l’extraction et le gaspillage des ressources à grande échelle. Les systèmes multi-agents fonctionnent en boucle, consommant bien plus de ressources que les logiciels conçus de manière plus ciblée. Lorsqu’un débutant réécrit une seule ligne de code avec un système multi-agents, « il n’utilise pas un seul modèle : il active l’ensemble du système ». Cette mise à l’échelle optimise la production individuelle : plus, plus vite, sans tenir compte de l’efficacité du code ni de ses effets. Il ne s’agit pas seulement d’un coût environnemental. « Cela dégrade le patrimoine informationnel commun et crée des problèmes pour tous ceux qui, en aval, dépendent de ce code. Les essaims multi-agents augmentent la puissance de calcul individuelle tout en comprimant de vastes réseaux de travail et d’extraction de ressources dans une seule fenêtre d’exécution. »

Pour Salvaggio, d’autres problèmes encore posent questions avec le passage à l’IA agentique, notamment le pouvoir politique que ces outils vont donner à l’industrie de l’IA, l’extension de la surveillance, le renforcement et l’invisibilisation des biais… Reste qu’énumérer les défaillances à venir ne suffit pas à contrer l’expansion des machines. Se moquer des piètres résultats de ces systèmes semble n’avoir aucun impact sur leur déploiement estime Salvaggio. Pour lui, il nous faut ouvrir un débat sur l’utilité et ses limites. « Que signifie l’utilité ? Pour qui et dans quelles conditions ? » Qui bénéficie des systèmes et qui en pâtit ? « Quelles décisions sont discrètement soustraites au débat public et confiées à des systèmes automatisés contrôlés par des entreprises, des gouvernements et d’autres institutions ? Le fait que l’on utilise des modèles de langage ne rend pas les critiques à leur égard superflues ; au contraire, elles les rendent urgentes. »

L’ère post-chatbots s’annonce, explique la journaliste Lila Shroff pour The Atlantic. L’IA ne fait plus que répondre aux questions. Elle programme, elle agit. Et le « tournant agentique » formalise ces progrès, explique Eryk Salvaggio pour Tech Policy Press. Le tournant agentique désigne des systèmes qui génèrent du code et s’adaptent de manière autonome. Les systèmes d’IA produisent désormais du code et vérifient l’efficacité de cette production en la corrigeant jusqu’à ce qu’elle fonctionne. Mais si ces évolutions améliorent l’expérience utilisateur des LLM, est-ce que cela suffit pour « justifier » du déploiement de l’IA, interroge pertinemment Salvaggio. Est-ce que le fait que leurs productions s’améliorent suffit pour justifier de l’utilité de cette technologie ? 

Nous ne sommes plus exactement dans le cadre des perroquets stochastiques définis par l’article fondateur de 2021, d’Emily M. Bender, Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell, même si ce cadre reste pertinent – voir notre article, « la gauche minimise-t-elle le pouvoir de l’IA ? ». « Les systèmes agentiques empilent ces perroquets » pour produire des formes « d’essaims stochastiques ». Des systèmes qui s’auto-alignent sur ce qu’ils doivent produire, tout en demeurant fondamentalement incapables de rendre des comptes. La question centrale de l’article de Bender et alii demeure toujours pertinente, estime Salvaggio : « Les modèles de langage peuvent-ils être trop volumineux ? » 

La prolifération des modèles ne fait qu’amplifier les problèmes de biais, d’attribution erronée de la pensée et d’inefficacité. Distinguer la critique systémique de l’évaluation des modèles n’est pas céder à la surenchère : cela signifie se concentrer sur les avantages et les inconvénients collectifs plutôt que sur les usages individuels. On peut parler de ce que les modèles ne peuvent ou ne devraient pas faire sans pour autant nier leurs capacités, estime Salvaggio. 

L’IA agentique s’apprête à débarquer et ses effets vont être nombreux, estime l’artiste-chercheur. D’abord, il promet la production de logiciels bâclés (slopware, contraction de slop qu’on peut traduire par soupe ou de bouillie et de ware qui désigne les composants – voir notre article sur le slop), produits plus rapidement, mais qu’il va être difficile à évaluer. Distribution accélérée qui risque de créer des situations comparables à un espace aérien non réglementé, où une multitude de décisions individuelles et déconnectées engendrent le chaos. Le code peut sembler fonctionner dans des circonstances particulières grâce à toutes sortes de bidouillages qui masquent des erreurs sous-jacentes. « Contrairement aux logiciels malveillants, le logiciel bâclé n’est pas intentionnellement perturbateur ; il perturbe par négligence : c’est la variable codée en dur qui permet à un homme célibataire de gérer correctement son budget, mais qui entraîne des frais de découvert lorsqu’il est utilisé par une mère célibataire. La conception de logiciels exige une grande finesse dans le choix des valeurs et priorités qu’ils intègrent, ainsi que dans la manière dont ils déforment, ignorent ou présentent de façon erronée les données qu’ils traitent. Le suivi de ce processus requiert des connaissances techniques. » C’est cela qui pourrait disparaître dans les logiciels de demain. 

Ensuite, l’IA agentique promet l’accumulation des défaillances techniques. Malgré une perception accrue de fiabilité, les modèles de langage ne peuvent jamais être des machines à dire la vérité. Les soi-disant hallucinations sont mathématiquement impossibles à éliminer, et par conséquent, la perception d’une fiabilité accrue augmente le risque de surestimer la pertinence d’un modèle de langage pour une tâche donnée. Alors qu’un modèle de langage produit des textes ou autres médias persuasifs et potentiellement faux, un système agentiel produit un « code convaincant ». Ce code est produit de manière plus difficile à interrompre, à tracer ou à auditer qu’une simple sortie de modèle. « Il est impossible de documenter de manière fiable le processus de pensée d’un code créé sans réflexion » ; par conséquent, le code doit être considéré comme non fiable jusqu’à ce qu’il soit vérifié. On pourrait ajouter ici, le risque d’une sécurité infrastructurelle, comme l’évoquait Bruce Schneier.  

Conséquence du risque précédent, un autre risque repose sur l’accumulation des défaillances de responsabilité. Les erreurs dans un système agentiel s’accumulent de manière invisible jusqu’à ce qu’un élément vienne briser la façade. Dans les systèmes sensibles, ce dysfonctionnement peut nuire aux personnes. On encourage le gouvernement à utiliser ces systèmes pour des tâches telles que l’automatisation des décisions relatives aux prestations sociales, l’analyse des contrats et le contrôle réglementaire – des domaines où des défaillances en cascade peuvent avoir de graves conséquences humaines. « L’objectif du gouvernement ne devrait pourtant pas être de gagner du temps en reportant la charge de travail sur un retraité qui se voit refuser indûment ses prestations ». 

Enfin, l’empilement des systèmes agentiques pousse à la montée en puissance du solutionnisme. Salvaggio rappelle pourtant que tous les problèmes ne se résument pas à des problèmes de programmation. L’accès à la génération de code nous pousse à résoudre les défis politiques par de nouvelles lignes de code et à nous concentrer sur les problèmes compréhensibles par les machines, au risque d’exacerber des formes de déshumanisation. Les cas particuliers, parfois flous, ne sont plus les subtilités du tissu social, mais une nuisance technique. Aucune simulation d’une communauté capable de résoudre ses problèmes n’est possible : le désordre est une étape nécessaire à la construction du sens et au fonctionnement de la démocratie. 

Enfin, ces systèmes risquent d’accroître l’extraction et le gaspillage des ressources à grande échelle. Les systèmes multi-agents fonctionnent en boucle, consommant bien plus de ressources que les logiciels conçus de manière plus ciblée. Lorsqu’un débutant réécrit une seule ligne de code avec un système multi-agents, « il n’utilise pas un seul modèle : il active l’ensemble du système ». Cette mise à l’échelle optimise la production individuelle : plus, plus vite, sans tenir compte de l’efficacité du code ni de ses effets. Il ne s’agit pas seulement d’un coût environnemental. « Cela dégrade le patrimoine informationnel commun et crée des problèmes pour tous ceux qui, en aval, dépendent de ce code. Les essaims multi-agents augmentent la puissance de calcul individuelle tout en comprimant de vastes réseaux de travail et d’extraction de ressources dans une seule fenêtre d’exécution. »

Pour Salvaggio, d’autres problèmes encore posent questions avec le passage à l’IA agentique, notamment le pouvoir politique que ces outils vont donner à l’industrie de l’IA, l’extension de la surveillance, le renforcement et l’invisibilisation des biais… Reste qu’énumérer les défaillances à venir ne suffit pas à contrer l’expansion des machines. Se moquer des piètres résultats de ces systèmes semble n’avoir aucun impact sur leur déploiement estime Salvaggio. Pour lui, il nous faut ouvrir un débat sur l’utilité et ses limites. « Que signifie l’utilité ? Pour qui et dans quelles conditions ? » Qui bénéficie des systèmes et qui en pâtit ? « Quelles décisions sont discrètement soustraites au débat public et confiées à des systèmes automatisés contrôlés par des entreprises, des gouvernements et d’autres institutions ? Le fait que l’on utilise des modèles de langage ne rend pas les critiques à leur égard superflues ; au contraire, elles les rendent urgentes. »

Les discussions sur les strates qui constituent le réseau sont nourries, d’autant qu’elles interrogent profondément les enjeux de souveraineté technologique. La souveraineté numérique est un concept flou qui fait l’objet de beaucoup d’instrumentalisations, rappelait avec pertinence l’association Data For Good. Bien souvent, être souverain en la matière implique d’être autonome sur toutes les couches de l’industrie numérique. Un objectif impossible tant les dépendances sont partout, des logiciels au matériel, des ressources aux infrastructures, des conditions juridiques aux financements. Comme l’expliquait la chercheuse Ophélie Coelho dans son livre, Géopolitique du numérique(éditions de l’Atelier, nouvelle édition 2025) l’enjeu est bien plus de déterminer les secteurs et les couches sur lesquels nous devons reprendre le contrôle. Pour le dire autrement, l’enjeu n’est pas tant d’avoir des produits totalement souverains, que de comprendre là où la souveraineté doit s’exercer et comment. 

Construire la strate de l’autonomie

Cette autonomie stratégique à laquelle aspirer est très souvent présentée comme un enjeu nationaliste ou patriotique, qui confond la souveraineté avec le leadership technologique, sans toujours voir que ces leaderships peuvent reposer sur des dépendances innombrables, à l’image de l’enjeu à déployer des centres de données sur le territoire au prétexte de souveraineté, sans questionner le fait que leur financement ou leurs équipements puissent être totalement entre les mains d’acteurs étrangers. 

L’IA est en passe de devenir une couche supplémentaire dans le mille-feuille des couches sociotechniques du numérique. Et elle requestionne en profondeur ces enjeux, explique  Raffi Krikorian, directeur technique de Mozilla, dans une tribune pour Rest of World. « Dans un monde de plus en plus polarisé et protectionniste, où les plateformes technologiques sont de plus en plus instrumentalisées par les politiques étatiques, construire des infrastructures nationales critiques sur des systèmes dont on n’est pas propriétaire, que l’on ne peut ni auditer ni adapter, représente un risque considérable et croissant. Ce défi comporte une dimension tant économique que politique. Un État soucieux de sa souveraineté en matière d’IA en 2026 ne pourra pas justifier de manière crédible le financement d’une infrastructure d’IA étrangère et verticalement intégrée tout en négligeant les investissements dans des alternatives nationales et open source. Investir dans les hyperscalers peut minimiser les coûts à court terme, mais cela consolide également les rentes numériques versées à des entités étrangères, maximise la dépendance à long terme envers des partenaires peu fiables et augmente considérablement les coûts de sortie. Si les gouvernements financent la dépendance, c’est bien la dépendance qu’ils obtiendront. »

Pour Raffi Krikorian pourtant, l’enjeu n’est pas tant de construire une souveraineté de l’IA nationaliste, que de bâtir des Communs maîtrisés. « L’absence actuelle de financements privés à grande échelle pour les infrastructures d’IA ouvertes reflète leur nature de bien public, et non leurs capacités. Les modèles open source atteignent déjà couramment 90 % ou plus des performances des systèmes propriétaires, pour un coût bien moindre. Investir dans les cadres d’IA ouverts, c’est investir dans les infrastructures publiques numériques, car cela génère des avantages grâce à des coûts réduits, au maintien de l’autonomie politique et à des gains de productivité à l’échelle de l’économie. L’IA ouverte offre également ce que les systèmes propriétaires ne peuvent pas : la légitimité démocratique. Les pays ne créent pas de valeur en revendant des solutions étrangères, mais en développant des produits différenciés sur des bases partagées, ouvertes et moins coûteuses. Il s’agit d’une politique industrielle qui encourage la concurrence et le développement des compétences nationales, et non d’un rejet de l’industrie nationale. »

« Internet n’est pas né de la seule initiative d’acteurs privés, mais d’investissements publics soutenus dans les technologies ouvertes. De Linux à Apache, les fondations open source partagées sont devenues l’épine dorsale de l’économie numérique mondiale, favorisant l’innovation privée tout en empêchant la mainmise sur l’infrastructure. Du CERN à Airbus en passant par Galileo, la leçon est claire : lorsque les États cofinancent des fondations ouvertes ou partagées, l’innovation privée prospère. En revanche, lorsqu’ils financent l’accès, la dépendance s’accentue. L’IA se trouve précisément à ce tournant.»

Souveraineté ne rime pas avec isolement, rappelle-t-il. « Les coûts de développement de l’IA open source peuvent être partagés. Comme l’a déclaré le Premier ministre canadien Mark Carney à Davos : « Investir collectivement dans la résilience coûte moins cher que de construire sa propre forteresse. » L’enjeu n’est pas que chaque pays construise son propre jardin clos. Il appartient aux nations de collaborer autour de standards ouverts et d’infrastructures partagées, en rejetant la fausse dichotomie entre dépendance et isolement des plateformes, et en construisant plutôt un avenir de l’IA qu’elles maîtrisent réellement. » 

« Si nous voulons des écosystèmes d’IA résilients, ouverts et fiables, nous devons les financer comme tels – non par idéalisme, mais comme un investissement concret dans la souveraineté, la résilience et la légitimité démocratique. Les pays qui aspirent à la souveraineté en matière d’IA doivent participer à ce débat, non pas en simples observateurs, mais en tant que co-investisseurs et co-constructeurs. Plus nous attendons, plus il sera difficile de changer de cap », conclut le responsable de Mozilla en appelant à construire des protocoles plus que des plateformes, des cadres ouverts plus que des solutions, des systèmes de valeurs plus que des contraintes économiques ou techniques. Une proposition qui rappelle que c’est bien le cadre de la souveraineté qu’il faut discuter, pour comprendre là où nous pouvons avoir des dépendances et là où nous devons les refuser. L’enjeu n’est pas de construire des investissements nationaux mais bien d’investir dans des infrastructures communes porteuses de valeurs démocratiques et émancipatrices, libres et ouvertes. « La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisit, capacitante. 

La coopération comme architecture solidaire

On se souvient que, récemment, l’économiste Francesca Bria avait évoqué le risque d’une soumission à une strate autoritaire fomentée par les géants de la Silicon valley : « derrière les strates qui composent le réseau, comme l’avait défini Benjamin Bratton dans son livre, Le Stack (UGAP, 2020), comme autant de régimes de souveraineté qui se superposent et s’imbriquent, la strate autoritaire semble l’envers de la proposition d’autonomie stratégique que propose EuroStack ». Mais le risque est bien, sous couvert de souveraineté, de produire des strates nationalistes voire militaristes, comme semble le proposer l’annonce récente d’un « Deutchland Stack » Allemand. 

D’où l’importance de faire un pas de côté.

C’est la piste que proposent les chercheurs Trebor Scholz et Mark Esposito dans la revue d’innovation sociale de Stanford. Pour contrebalancer l’extractivisme des plateformes, « nous avons besoin de construire la strate solidaire de l’empilement numérique ». Lorsque les systèmes technologiques sont conçus uniquement pour l’extraction et l’efficacité, ils isolent et brisent les personnes qui les font vivre, rappellent les deux chercheurs. L’exploitation des travailleurs du clic par exemple est le « symptôme d’une industrie structurée pour transférer les risques vers le bas via des chaînes contractuelles opaques, tout en concentrant les profits et le contrôle au sommet ». Pour Scholz et Esposito, « sans intervention délibérée, ces logiques d’extraction se généraliseront à l’échelle mondiale, concentrant encore davantage le pouvoir entre les mains des plus puissants, à moins que nous ne choisissions de construire un système fondamentalement différent ». Jusqu’à présent, les chercheurs invitaient à investir dans des entreprises inclusives, dans des coopératives de travailleurs, que Scholz a beaucoup défendu. Trebor Scholz est professeur à la New School for Social Research de New York depuis 2009. Il est l’un des premiers à s’être attelé à analyser le phénomène du Digital Labor (Routledge, 2013). Il est aussi l’un des promoteurs du coopérativisme de plateformes (voir par exemple notre article de 2015), notamment dans son livre Le coopérativisme de plateformes (FYP, 2017) ainsi que dans Own this ! (Verso, 2023). Il est également le fondateur du Platform Cooperativism Consortium un réseau de promotion du mouvement coopérativiste, qui organise notamment des conférences sur la coopération, comme celle sur l’IA coopérative qui se tenait il y a peu à Istanbul. Pourtant, écrit-il dans son article, « la réponse aux méfaits de l’IA ne peut se limiter à la régulation des plateformes dominantes ». 

En fait, la concentration du pouvoir des géants du numérique rend de plus en plus vulnérables même les institutions internationales les plus critiques aux politiques autoritaires et aux pressions des dirigeants, comme l’illustre la dépendance de la Cour pénale internationale à l’égard de l’infrastructure Microsoft face aux menaces proférées sous l’administration Trump. Les coopératives, les institutions publiques et les mouvements sociaux doivent donc activement construire et connecter des alternatives grâce à ce que Scholz appelle la « pile de solidarité », une économie numérique coopérative émergente. 

« L’extraction ne se résume pas à des algorithmes biaisés ou à des violations de la vie privée. C’est un problème structurel : l’IA actuelle fonctionne grâce à ce que nous appelons une « strate d’extraction » verticalement intégrée, comprenant le matériel, l’infrastructure cloud, les modèles, la main-d’œuvre et les applications. Seules quelques entreprises contrôlent la construction, la gouvernance et l’utilisation de ces technologies et les personnes qui en dépendent n’ont aucun droit de regard démocratique. »

Les critiques et les régulateurs soulignent à juste titre que les seules directives éthiques ne peuvent résoudre les problèmes posés par la logique extractiviste des plateformes. Les systèmes d’IA reposent sur des modèles de propriété, des chaînes d’approvisionnement et des architectures techniques qui privilégient le profit, le passage à l’échelle et le contrôle. « Ces incitations structurelles déterminent la collecte des données, le traitement des travailleurs, les décideurs et les bénéficiaires de la création de valeur, privant ainsi les directives éthiques de tout pouvoir pour remettre en cause la logique sous-jacente du système. Une IA démocratique ne peut se contenter de louer un espace sur la strate extractiviste ! Elle exige que les travailleurs, les communautés, les coopératives et les institutions publiques se réapproprient l’infrastructure elle-même, couche par couche, de la terre au nuage. »

Scholz et Esposito plaident pour construire une architecture solidaire. Un défi qui nécessite de rejeter la notion d’intelligence artificielle, qui sous-entend une force magique et autonome, au profit d’une intelligence collective, reconnaissant le travail humain et le savoir partagé qui alimentent ces systèmes. Cependant, parvenir à la coordination nécessaire pour contester les monopoles mondiaux de l’IA demeure un défi de taille. Même des organisations établies comme l‘Alliance coopérative internationale, qui représente un mouvement d’environ un milliard de membres et des milliers de coopératives employant près de 10 % de l’emploi mondial, sont structurées principalement pour la représentation et le plaidoyer plutôt que pour la coordination et l’exploitation d’une infrastructure numérique partagée.

De la gouvernance coopérative… 

Pour les deux chercheurs, plusieurs initiatives menées par des communautés, des coopératives et des institutions publiques permettent déjà de reprendre le contrôle de ces niveaux économiques, notamment des ressources, des infrastructures, des données, du travail comme du savoir. 

Une approche solidaire exige des chaînes d’approvisionnement transparentes, la propriété communautaire des ressources minérales et des mécanismes de partage équitable des bénéfices. Elle permettrait également de distribuer l’infrastructure sur des serveurs fédérés, appartenant à la communauté et interconnectables sans contrôle central. Butler Rural Electric offre un précédent historique éloquent. Fondées dans les années 1930 avec le soutien du gouvernement fédéral et une gouvernance coopérative, les coopératives électriques rurales ont permis aux communautés de financer, construire et gérer leur propre infrastructure énergétique, un modèle qui continue aujourd’hui de fournir de l’électricité à environ 42 millions de personnes dans les zones rurales américaines. Des coopératives numériques telles que Hostsharing eG en Allemagne et Som Connexio en Espagne, ainsi que plusieurs coopératives de vente au détail au Royaume-Uni, appliquent cette même logique en mutualisant les ressources de leurs membres, en utilisant une gouvernance coopérative et en collaborant avec des partenaires publics pour construire et exploiter une infrastructure numérique partagée. Cela permet aux communautés de réduire leur dépendance aux fournisseurs de cloud propriétaires, de conserver le contrôle local de leurs données et d’assumer la responsabilité de la gestion des coûts environnementaux liés à la consommation d’énergie. Bien que ces initiatives soient explicitement expérimentales et de portée modeste, elles suggèrent que la capacité de calcul peut fonctionner comme un bien public. Les décideurs politiques et les responsables municipaux pourraient même appliquer ce modèle pour créer une option publique d’accès à la puissance de calcul. 

Dans le modèle d’extraction, les données personnelles sont une matière première prélevée auprès des utilisateurs pour alimenter des modèles propriétaires. Cette logique considère les individus non pas comme des participants ou des détenteurs de droits, mais comme des sources passives de valeur. Le modèle de solidarité, lui, réinvente les données comme une ressource partagée, gérée démocratiquement. Par exemple, MIDATA, une plateforme suisse de données de santé détenue et gérée par des patients agit comme une fiducie pour ses membres. Elle maintient une infrastructure sécurisée permettant aux patients de consulter leurs données agrégées et de décider démocratiquement de les partager ou non à des fins de recherche médicale. MIDATA démontre qu’il est possible de créer des ensembles de données de haute qualité, issus de sources éthiques, sans surveillance. Les membres partagent volontairement leurs données car ils font confiance à la gouvernance et à la gestion des données de la coopérative, ce qui élimine le besoin d’extraction ou de surveillance coercitive. 

Au travail, l’IA implique une rétroaction entre contenus et modérateurs. Les travailleurs étiquettent, examinent, corrigent et leurs décisions enregistrées sont utilisées par les systèmes pour reconnaître, classer, améliorer. Ce processus contraint les individus à absorber le fardeau psychologique des contenus. Dans le modèle solidaire, ces travailleurs ont des garanties de salaires, de droits, bénéficient de soutiens… et pilotent la gouvernance de leurs outils et missions, comme c’est le cas de nombreuses coopératives de travailleurs, comme celle de la Gamayyar African Tech Workers au Kenya, Facttic en Argentine, Outlandish à Londres… et de nombreuses autres (comme la plateforme danoise Hilfr qu’on avait évoqué dans notre article sur les plateformes du secteur du nettoyage).

… à l’IA coopérative

Scholz et Esposito proposent d’appliquer les principes coopératifs à l’IA. « L’accès à l’IA seul est insuffisant quand les outils fonctionnent comme des boîtes noires, incapables d’expliquer ou de remettre en question leurs résultats, et si leurs valeurs reposent sur des principes imposés plutôt que sur des valeurs démocratiquement établies. L’approche solidaire propose de réhabiliter le domaine du savoir comme un espace de gouvernance collective, favorisant l’explicabilité, la contestabilité, des normes partagées » pour construire d’autres IA.

AI4Coops, en Argentine, est une initiative de petite envergure qui réunit des praticiens et des technologues du monde coopératif afin d’étudier comment l’intelligence artificielle pourrait soutenir la gouvernance coopérative et l’apprentissage partagé. Elle veille à ce que la culture algorithmique ne soit pas réservée aux institutions d’élite ni concentrée au sein des géants de la technologie, mais soit largement accessible aux travailleurs, aux coopératives et aux communautés. Elle développe des outils d’IA adaptés à des problématiques locales avec des acteurs locaux, comme des systèmes de reconnaissance d’images pour du contrôle qualité dans une usine, un système d’analyse d’images satellites pour des coopératives agricoles… La coopérative britannique Animorph développe des outils de réalité augmentée pour la prise en charge de la démence, utilisant la narration immersive et des supports visuels pour soutenir la mémoire, la communication et le lien affectif des personnes atteintes de démence et de leurs aidants. Puisqu’elle est détenue par ses employés, elle refuse de monétiser la vulnérabilité des patients et conçoit des outils qui privilégient les soins aux indicateurs d’engagement. « Ces exemples montrent que l’IA au service du bien commun ne saurait se réduire à de la simple posture vertueuse, à du marketing éthique, ni à des formes d’écoblanchiment ou de blanchiment d’image. La construction d’une infrastructure solidaire exige que les modèles économiques alternatifs soient véritablement ancrés dans la démocratie au travail, la propriété partagée et une gouvernance responsable », expliquent les chercheurs. Ces modèles locaux ont d’autres vertus encore, comme la souveraineté linguistique, la maîtrise des processus, la sobriété…

Reste que, comme nous le disions, « les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. » Pour Scholz et Esposito également, l’infrastructure solidaire nécessite, pour émerger et s’imposer, une articulation stratégique des politiques, des financements et de l’organisation communautaire. Il faut que les développeurs technologiques « s’accordent régulièrement sur des principes partagés, l’interdépendance matérielle, des institutions durables, des rituels et un récit politique commun que les individus choisissent consciemment de défendre, notamment sous pression ».

Ici, Scholz et Esposito prennent l’exemple des organisations autonomes décentralisées (DAO), où la blockchain aide à formaliser la gouvernance partagée. Pas sûr que l’exemple soit convaincant, tant le mouvement est devenu a bien des égards problématique. Par contre, ils pointent vers le Public AI Network, un réseau de défense et promotion d’une IA publique intégrée, « qui fournirait des services d’IA au même titre que l’électricité ou l’eau », accessible à tous, contrainte à rendre des comptes, durable, fiable. Ou encore le projet Lestac AI en France, pour tester des services d’IA écoresponsables. Ou le modèle multilingue et open source Apertus, développé par l’École polytechnique fédérale de Zurich (EPFZ) et l’École polytechnique fédérale de Lausanne (EPFL)…  Le protocole OpenCourier, par exemple, crée une base technique commune permettant aux plateformes de livraison gérées par leurs travailleurs de se connecter et de collaborer. Ou encore le projet d’IA coopérative du réseau des collectivités locales britanniques qui s’engage à respecter les principes coopératifs et démocratiques dans la prestation de services publics. 

Pour Scholz et Esposito, ces « cercles » de strates solidaires, locales, conçoivent le développement d’infrastructures comme une forme d’action politique collective, que ce soit par le biais de fiducies de données municipales, de services cloud coopératifs ou de modèles linguistiques gérés publiquement. « Le discours dominant sur l’IA laisse faussement entendre qu’un contrôle centralisé par les entreprises est inévitable. Pourtant, des modérateurs de contenu au Kenya, des gestionnaires de données en Suisse et d’autres encore démontrent que les composantes d’un avenir numérique démocratique sont déjà présentes. Notre mission est de les relier et, ce faisant, d’exercer notre pouvoir d’agir, de refuser le désespoir et de créer un système où la technologie est au service de la majorité. »

Hubert Guillaud

Signalons encore que dans le syllabus (.pdf) du cours qu’il a donné au premier semestre à la New School sur le thème d’une « IA sans patrons », Trebor Scholz pointait encore vers bien d’autres exemples. En estimant que les infrastructures solidaires peuvent être mises en place à chaque niveau de la chaîne d’approvisionnement mondiale de l’IA, il évoquait les mines coopératives au Pérou, en Colombie, en Zambie ou en Mongolie, ou des centres de données coopératifs en Allemagne ou aux Pays-Bas. Il signalait par exemple, la tribune de la doctorante Tara Merk, contributrice au Metagovernance Project, sur les limites de projets de centres de données coopératifs. Face aux data centers dominés par les géants de la Tech, Merk défendait « une plus grande diversité dans la propriété et la gouvernance des centres de données », notamment coopératifs. « Et si les centres de données étaient détenus et gérés de manière coopérative par les personnes vivant à proximité immédiate et souvent directement desservies par eux ? » Dans ce modèle, les opérateurs citoyens pourraient recevoir une part des bénéfices générés par le centre de données (à l’instar des parcs éoliens citoyens). Cela entraînerait une redistribution indirecte des bénéfices générés par les données des utilisateurs en ligne – une idée qui prend d’autant plus d’importance que ces données gagnent en valeur à l’ère de l’IA. Les centres de données coopératifs offriraient également aux citoyens un meilleur contrôle sur l’impact de ces infrastructures sur leur environnement physique local. Par exemple, les citoyens pourraient décider si et quand la quantité d’énergie ou d’eau utilisée par le centre de données entre en conflit avec d’autres besoins locaux et pourraient décider de réduire l’approvisionnement énergétique du centre de données en cas de situation critique. Guidé par les valeurs coopératives d’équité et de solidarité, de tels centres de données pourraient décider de renoncer à des bénéfices plus élevés afin de rendre son infrastructure plus accessible à tous, comme aux associations et coopératives. Cela pourrait à son tour encourager une plus grande diversité dans le développement de l’IA et inciter les entreprises à adopter une identité coopérative. De plus, en s’appuyant sur une infrastructure de centres de données coopérative, les coopératives d’IA renforceraient leur autonomie et leur indépendance, offrant à leurs membres un meilleur contrôle sur l’ensemble de la pile technologique, y compris les moyens de production de l’IA. Tara Merk est en train de faire une étude sur GAD eG, une coopérative qui pendant 50 ans a été l’un des grands fournisseurs de services informatiques allemand notamment pour les services financiers (jusqu’à sa fusion en 2015 avec une autre entreprise). Pour la chercheuse, l’exemple de GAD démontre « que les centres de données coopératifs constituent une option économiquement viable et évolutive, capable de fonctionner de manière fiable dans des secteurs critiques ». 

Dans son syllabus, Scholz aborde d’autres exemples de coopératives pour montrer comment les valeurs coopératives peuvent guider des alternatives concrètes au développement technologique, comme le propose Read-Coop, la coopérative européenne à l’origine de la plateforme de reconnaissance d’écriture manuscrite Transkribus. Et pointe vers nombre de ressources sur le sujet des technologies pour la coopération. 

A compléter encore par le numéro de Nature consacré aux modèles d’IA des pays du Sud, qui offre un autre regard sur d’autres façon de faire de l’IA.

Les discussions sur les strates qui constituent le réseau sont nourries, d’autant qu’elles interrogent profondément les enjeux de souveraineté technologique. La souveraineté numérique est un concept flou qui fait l’objet de beaucoup d’instrumentalisations, rappelait avec pertinence l’association Data For Good. Bien souvent, être souverain en la matière implique d’être autonome sur toutes les couches de l’industrie numérique. Un objectif impossible tant les dépendances sont partout, des logiciels au matériel, des ressources aux infrastructures, des conditions juridiques aux financements. Comme l’expliquait la chercheuse Ophélie Coelho dans son livre, Géopolitique du numérique(éditions de l’Atelier, nouvelle édition 2025) l’enjeu est bien plus de déterminer les secteurs et les couches sur lesquels nous devons reprendre le contrôle. Pour le dire autrement, l’enjeu n’est pas tant d’avoir des produits totalement souverains, que de comprendre là où la souveraineté doit s’exercer et comment. 

Construire la strate de l’autonomie

Cette autonomie stratégique à laquelle aspirer est très souvent présentée comme un enjeu nationaliste ou patriotique, qui confond la souveraineté avec le leadership technologique, sans toujours voir que ces leaderships peuvent reposer sur des dépendances innombrables, à l’image de l’enjeu à déployer des centres de données sur le territoire au prétexte de souveraineté, sans questionner le fait que leur financement ou leurs équipements puissent être totalement entre les mains d’acteurs étrangers. 

L’IA est en passe de devenir une couche supplémentaire dans le mille-feuille des couches sociotechniques du numérique. Et elle requestionne en profondeur ces enjeux, explique  Raffi Krikorian, directeur technique de Mozilla, dans une tribune pour Rest of World. « Dans un monde de plus en plus polarisé et protectionniste, où les plateformes technologiques sont de plus en plus instrumentalisées par les politiques étatiques, construire des infrastructures nationales critiques sur des systèmes dont on n’est pas propriétaire, que l’on ne peut ni auditer ni adapter, représente un risque considérable et croissant. Ce défi comporte une dimension tant économique que politique. Un État soucieux de sa souveraineté en matière d’IA en 2026 ne pourra pas justifier de manière crédible le financement d’une infrastructure d’IA étrangère et verticalement intégrée tout en négligeant les investissements dans des alternatives nationales et open source. Investir dans les hyperscalers peut minimiser les coûts à court terme, mais cela consolide également les rentes numériques versées à des entités étrangères, maximise la dépendance à long terme envers des partenaires peu fiables et augmente considérablement les coûts de sortie. Si les gouvernements financent la dépendance, c’est bien la dépendance qu’ils obtiendront. »

Pour Raffi Krikorian pourtant, l’enjeu n’est pas tant de construire une souveraineté de l’IA nationaliste, que de bâtir des Communs maîtrisés. « L’absence actuelle de financements privés à grande échelle pour les infrastructures d’IA ouvertes reflète leur nature de bien public, et non leurs capacités. Les modèles open source atteignent déjà couramment 90 % ou plus des performances des systèmes propriétaires, pour un coût bien moindre. Investir dans les cadres d’IA ouverts, c’est investir dans les infrastructures publiques numériques, car cela génère des avantages grâce à des coûts réduits, au maintien de l’autonomie politique et à des gains de productivité à l’échelle de l’économie. L’IA ouverte offre également ce que les systèmes propriétaires ne peuvent pas : la légitimité démocratique. Les pays ne créent pas de valeur en revendant des solutions étrangères, mais en développant des produits différenciés sur des bases partagées, ouvertes et moins coûteuses. Il s’agit d’une politique industrielle qui encourage la concurrence et le développement des compétences nationales, et non d’un rejet de l’industrie nationale. »

« Internet n’est pas né de la seule initiative d’acteurs privés, mais d’investissements publics soutenus dans les technologies ouvertes. De Linux à Apache, les fondations open source partagées sont devenues l’épine dorsale de l’économie numérique mondiale, favorisant l’innovation privée tout en empêchant la mainmise sur l’infrastructure. Du CERN à Airbus en passant par Galileo, la leçon est claire : lorsque les États cofinancent des fondations ouvertes ou partagées, l’innovation privée prospère. En revanche, lorsqu’ils financent l’accès, la dépendance s’accentue. L’IA se trouve précisément à ce tournant.»

Souveraineté ne rime pas avec isolement, rappelle-t-il. « Les coûts de développement de l’IA open source peuvent être partagés. Comme l’a déclaré le Premier ministre canadien Mark Carney à Davos : « Investir collectivement dans la résilience coûte moins cher que de construire sa propre forteresse. » L’enjeu n’est pas que chaque pays construise son propre jardin clos. Il appartient aux nations de collaborer autour de standards ouverts et d’infrastructures partagées, en rejetant la fausse dichotomie entre dépendance et isolement des plateformes, et en construisant plutôt un avenir de l’IA qu’elles maîtrisent réellement. » 

« Si nous voulons des écosystèmes d’IA résilients, ouverts et fiables, nous devons les financer comme tels – non par idéalisme, mais comme un investissement concret dans la souveraineté, la résilience et la légitimité démocratique. Les pays qui aspirent à la souveraineté en matière d’IA doivent participer à ce débat, non pas en simples observateurs, mais en tant que co-investisseurs et co-constructeurs. Plus nous attendons, plus il sera difficile de changer de cap », conclut le responsable de Mozilla en appelant à construire des protocoles plus que des plateformes, des cadres ouverts plus que des solutions, des systèmes de valeurs plus que des contraintes économiques ou techniques. Une proposition qui rappelle que c’est bien le cadre de la souveraineté qu’il faut discuter, pour comprendre là où nous pouvons avoir des dépendances et là où nous devons les refuser. L’enjeu n’est pas de construire des investissements nationaux mais bien d’investir dans des infrastructures communes porteuses de valeurs démocratiques et émancipatrices, libres et ouvertes. « La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisit, capacitante. 

La coopération comme architecture solidaire

On se souvient que, récemment, l’économiste Francesca Bria avait évoqué le risque d’une soumission à une strate autoritaire fomentée par les géants de la Silicon valley : « derrière les strates qui composent le réseau, comme l’avait défini Benjamin Bratton dans son livre, Le Stack (UGAP, 2020), comme autant de régimes de souveraineté qui se superposent et s’imbriquent, la strate autoritaire semble l’envers de la proposition d’autonomie stratégique que propose EuroStack ». Mais le risque est bien, sous couvert de souveraineté, de produire des strates nationalistes voire militaristes, comme semble le proposer l’annonce récente d’un « Deutchland Stack » Allemand. 

D’où l’importance de faire un pas de côté.

C’est la piste que proposent les chercheurs Trebor Scholz et Mark Esposito dans la revue d’innovation sociale de Stanford. Pour contrebalancer l’extractivisme des plateformes, « nous avons besoin de construire la strate solidaire de l’empilement numérique ». Lorsque les systèmes technologiques sont conçus uniquement pour l’extraction et l’efficacité, ils isolent et brisent les personnes qui les font vivre, rappellent les deux chercheurs. L’exploitation des travailleurs du clic par exemple est le « symptôme d’une industrie structurée pour transférer les risques vers le bas via des chaînes contractuelles opaques, tout en concentrant les profits et le contrôle au sommet ». Pour Scholz et Esposito, « sans intervention délibérée, ces logiques d’extraction se généraliseront à l’échelle mondiale, concentrant encore davantage le pouvoir entre les mains des plus puissants, à moins que nous ne choisissions de construire un système fondamentalement différent ». Jusqu’à présent, les chercheurs invitaient à investir dans des entreprises inclusives, dans des coopératives de travailleurs, que Scholz a beaucoup défendu. Trebor Scholz est professeur à la New School for Social Research de New York depuis 2009. Il est l’un des premiers à s’être attelé à analyser le phénomène du Digital Labor (Routledge, 2013). Il est aussi l’un des promoteurs du coopérativisme de plateformes (voir par exemple notre article de 2015), notamment dans son livre Le coopérativisme de plateformes (FYP, 2017) ainsi que dans Own this ! (Verso, 2023). Il est également le fondateur du Platform Cooperativism Consortium un réseau de promotion du mouvement coopérativiste, qui organise notamment des conférences sur la coopération, comme celle sur l’IA coopérative qui se tenait il y a peu à Istanbul. Pourtant, écrit-il dans son article, « la réponse aux méfaits de l’IA ne peut se limiter à la régulation des plateformes dominantes ». 

En fait, la concentration du pouvoir des géants du numérique rend de plus en plus vulnérables même les institutions internationales les plus critiques aux politiques autoritaires et aux pressions des dirigeants, comme l’illustre la dépendance de la Cour pénale internationale à l’égard de l’infrastructure Microsoft face aux menaces proférées sous l’administration Trump. Les coopératives, les institutions publiques et les mouvements sociaux doivent donc activement construire et connecter des alternatives grâce à ce que Scholz appelle la « pile de solidarité », une économie numérique coopérative émergente. 

« L’extraction ne se résume pas à des algorithmes biaisés ou à des violations de la vie privée. C’est un problème structurel : l’IA actuelle fonctionne grâce à ce que nous appelons une « strate d’extraction » verticalement intégrée, comprenant le matériel, l’infrastructure cloud, les modèles, la main-d’œuvre et les applications. Seules quelques entreprises contrôlent la construction, la gouvernance et l’utilisation de ces technologies et les personnes qui en dépendent n’ont aucun droit de regard démocratique. »

Les critiques et les régulateurs soulignent à juste titre que les seules directives éthiques ne peuvent résoudre les problèmes posés par la logique extractiviste des plateformes. Les systèmes d’IA reposent sur des modèles de propriété, des chaînes d’approvisionnement et des architectures techniques qui privilégient le profit, le passage à l’échelle et le contrôle. « Ces incitations structurelles déterminent la collecte des données, le traitement des travailleurs, les décideurs et les bénéficiaires de la création de valeur, privant ainsi les directives éthiques de tout pouvoir pour remettre en cause la logique sous-jacente du système. Une IA démocratique ne peut se contenter de louer un espace sur la strate extractiviste ! Elle exige que les travailleurs, les communautés, les coopératives et les institutions publiques se réapproprient l’infrastructure elle-même, couche par couche, de la terre au nuage. »

Scholz et Esposito plaident pour construire une architecture solidaire. Un défi qui nécessite de rejeter la notion d’intelligence artificielle, qui sous-entend une force magique et autonome, au profit d’une intelligence collective, reconnaissant le travail humain et le savoir partagé qui alimentent ces systèmes. Cependant, parvenir à la coordination nécessaire pour contester les monopoles mondiaux de l’IA demeure un défi de taille. Même des organisations établies comme l‘Alliance coopérative internationale, qui représente un mouvement d’environ un milliard de membres et des milliers de coopératives employant près de 10 % de l’emploi mondial, sont structurées principalement pour la représentation et le plaidoyer plutôt que pour la coordination et l’exploitation d’une infrastructure numérique partagée.

De la gouvernance coopérative… 

Pour les deux chercheurs, plusieurs initiatives menées par des communautés, des coopératives et des institutions publiques permettent déjà de reprendre le contrôle de ces niveaux économiques, notamment des ressources, des infrastructures, des données, du travail comme du savoir. 

Une approche solidaire exige des chaînes d’approvisionnement transparentes, la propriété communautaire des ressources minérales et des mécanismes de partage équitable des bénéfices. Elle permettrait également de distribuer l’infrastructure sur des serveurs fédérés, appartenant à la communauté et interconnectables sans contrôle central. Butler Rural Electric offre un précédent historique éloquent. Fondées dans les années 1930 avec le soutien du gouvernement fédéral et une gouvernance coopérative, les coopératives électriques rurales ont permis aux communautés de financer, construire et gérer leur propre infrastructure énergétique, un modèle qui continue aujourd’hui de fournir de l’électricité à environ 42 millions de personnes dans les zones rurales américaines. Des coopératives numériques telles que Hostsharing eG en Allemagne et Som Connexio en Espagne, ainsi que plusieurs coopératives de vente au détail au Royaume-Uni, appliquent cette même logique en mutualisant les ressources de leurs membres, en utilisant une gouvernance coopérative et en collaborant avec des partenaires publics pour construire et exploiter une infrastructure numérique partagée. Cela permet aux communautés de réduire leur dépendance aux fournisseurs de cloud propriétaires, de conserver le contrôle local de leurs données et d’assumer la responsabilité de la gestion des coûts environnementaux liés à la consommation d’énergie. Bien que ces initiatives soient explicitement expérimentales et de portée modeste, elles suggèrent que la capacité de calcul peut fonctionner comme un bien public. Les décideurs politiques et les responsables municipaux pourraient même appliquer ce modèle pour créer une option publique d’accès à la puissance de calcul. 

Dans le modèle d’extraction, les données personnelles sont une matière première prélevée auprès des utilisateurs pour alimenter des modèles propriétaires. Cette logique considère les individus non pas comme des participants ou des détenteurs de droits, mais comme des sources passives de valeur. Le modèle de solidarité, lui, réinvente les données comme une ressource partagée, gérée démocratiquement. Par exemple, MIDATA, une plateforme suisse de données de santé détenue et gérée par des patients agit comme une fiducie pour ses membres. Elle maintient une infrastructure sécurisée permettant aux patients de consulter leurs données agrégées et de décider démocratiquement de les partager ou non à des fins de recherche médicale. MIDATA démontre qu’il est possible de créer des ensembles de données de haute qualité, issus de sources éthiques, sans surveillance. Les membres partagent volontairement leurs données car ils font confiance à la gouvernance et à la gestion des données de la coopérative, ce qui élimine le besoin d’extraction ou de surveillance coercitive. 

Au travail, l’IA implique une rétroaction entre contenus et modérateurs. Les travailleurs étiquettent, examinent, corrigent et leurs décisions enregistrées sont utilisées par les systèmes pour reconnaître, classer, améliorer. Ce processus contraint les individus à absorber le fardeau psychologique des contenus. Dans le modèle solidaire, ces travailleurs ont des garanties de salaires, de droits, bénéficient de soutiens… et pilotent la gouvernance de leurs outils et missions, comme c’est le cas de nombreuses coopératives de travailleurs, comme celle de la Gamayyar African Tech Workers au Kenya, Facttic en Argentine, Outlandish à Londres… et de nombreuses autres (comme la plateforme danoise Hilfr qu’on avait évoqué dans notre article sur les plateformes du secteur du nettoyage).

… à l’IA coopérative

Scholz et Esposito proposent d’appliquer les principes coopératifs à l’IA. « L’accès à l’IA seul est insuffisant quand les outils fonctionnent comme des boîtes noires, incapables d’expliquer ou de remettre en question leurs résultats, et si leurs valeurs reposent sur des principes imposés plutôt que sur des valeurs démocratiquement établies. L’approche solidaire propose de réhabiliter le domaine du savoir comme un espace de gouvernance collective, favorisant l’explicabilité, la contestabilité, des normes partagées » pour construire d’autres IA.

AI4Coops, en Argentine, est une initiative de petite envergure qui réunit des praticiens et des technologues du monde coopératif afin d’étudier comment l’intelligence artificielle pourrait soutenir la gouvernance coopérative et l’apprentissage partagé. Elle veille à ce que la culture algorithmique ne soit pas réservée aux institutions d’élite ni concentrée au sein des géants de la technologie, mais soit largement accessible aux travailleurs, aux coopératives et aux communautés. Elle développe des outils d’IA adaptés à des problématiques locales avec des acteurs locaux, comme des systèmes de reconnaissance d’images pour du contrôle qualité dans une usine, un système d’analyse d’images satellites pour des coopératives agricoles… La coopérative britannique Animorph développe des outils de réalité augmentée pour la prise en charge de la démence, utilisant la narration immersive et des supports visuels pour soutenir la mémoire, la communication et le lien affectif des personnes atteintes de démence et de leurs aidants. Puisqu’elle est détenue par ses employés, elle refuse de monétiser la vulnérabilité des patients et conçoit des outils qui privilégient les soins aux indicateurs d’engagement. « Ces exemples montrent que l’IA au service du bien commun ne saurait se réduire à de la simple posture vertueuse, à du marketing éthique, ni à des formes d’écoblanchiment ou de blanchiment d’image. La construction d’une infrastructure solidaire exige que les modèles économiques alternatifs soient véritablement ancrés dans la démocratie au travail, la propriété partagée et une gouvernance responsable », expliquent les chercheurs. Ces modèles locaux ont d’autres vertus encore, comme la souveraineté linguistique, la maîtrise des processus, la sobriété…

Reste que, comme nous le disions, « les plateformes coopératives, qui privilégient les pratiques éthiques, des normes de travail et sociales plus élevées, peinent à être compétitives. L’absence de législation spécifique aggrave ce problème, permettant aux plateformes capitalistes d’opérer en toute impunité et de saper les efforts des acteurs de bonne foi, tels que les coopératives de plateformes. » Pour Scholz et Esposito également, l’infrastructure solidaire nécessite, pour émerger et s’imposer, une articulation stratégique des politiques, des financements et de l’organisation communautaire. Il faut que les développeurs technologiques « s’accordent régulièrement sur des principes partagés, l’interdépendance matérielle, des institutions durables, des rituels et un récit politique commun que les individus choisissent consciemment de défendre, notamment sous pression ».

Ici, Scholz et Esposito prennent l’exemple des organisations autonomes décentralisées (DAO), où la blockchain aide à formaliser la gouvernance partagée. Pas sûr que l’exemple soit convaincant, tant le mouvement est devenu a bien des égards problématique. Par contre, ils pointent vers le Public AI Network, un réseau de défense et promotion d’une IA publique intégrée, « qui fournirait des services d’IA au même titre que l’électricité ou l’eau », accessible à tous, contrainte à rendre des comptes, durable, fiable. Ou encore le projet Lestac AI en France, pour tester des services d’IA écoresponsables. Ou le modèle multilingue et open source Apertus, développé par l’École polytechnique fédérale de Zurich (EPFZ) et l’École polytechnique fédérale de Lausanne (EPFL)…  Le protocole OpenCourier, par exemple, crée une base technique commune permettant aux plateformes de livraison gérées par leurs travailleurs de se connecter et de collaborer. Ou encore le projet d’IA coopérative du réseau des collectivités locales britanniques qui s’engage à respecter les principes coopératifs et démocratiques dans la prestation de services publics. 

Pour Scholz et Esposito, ces « cercles » de strates solidaires, locales, conçoivent le développement d’infrastructures comme une forme d’action politique collective, que ce soit par le biais de fiducies de données municipales, de services cloud coopératifs ou de modèles linguistiques gérés publiquement. « Le discours dominant sur l’IA laisse faussement entendre qu’un contrôle centralisé par les entreprises est inévitable. Pourtant, des modérateurs de contenu au Kenya, des gestionnaires de données en Suisse et d’autres encore démontrent que les composantes d’un avenir numérique démocratique sont déjà présentes. Notre mission est de les relier et, ce faisant, d’exercer notre pouvoir d’agir, de refuser le désespoir et de créer un système où la technologie est au service de la majorité. »

Hubert Guillaud

Signalons encore que dans le syllabus (.pdf) du cours qu’il a donné au premier semestre à la New School sur le thème d’une « IA sans patrons », Trebor Scholz pointait encore vers bien d’autres exemples. En estimant que les infrastructures solidaires peuvent être mises en place à chaque niveau de la chaîne d’approvisionnement mondiale de l’IA, il évoquait les mines coopératives au Pérou, en Colombie, en Zambie ou en Mongolie, ou des centres de données coopératifs en Allemagne ou aux Pays-Bas. Il signalait par exemple, la tribune de la doctorante Tara Merk, contributrice au Metagovernance Project, sur les limites de projets de centres de données coopératifs. Face aux data centers dominés par les géants de la Tech, Merk défendait « une plus grande diversité dans la propriété et la gouvernance des centres de données », notamment coopératifs. « Et si les centres de données étaient détenus et gérés de manière coopérative par les personnes vivant à proximité immédiate et souvent directement desservies par eux ? » Dans ce modèle, les opérateurs citoyens pourraient recevoir une part des bénéfices générés par le centre de données (à l’instar des parcs éoliens citoyens). Cela entraînerait une redistribution indirecte des bénéfices générés par les données des utilisateurs en ligne – une idée qui prend d’autant plus d’importance que ces données gagnent en valeur à l’ère de l’IA. Les centres de données coopératifs offriraient également aux citoyens un meilleur contrôle sur l’impact de ces infrastructures sur leur environnement physique local. Par exemple, les citoyens pourraient décider si et quand la quantité d’énergie ou d’eau utilisée par le centre de données entre en conflit avec d’autres besoins locaux et pourraient décider de réduire l’approvisionnement énergétique du centre de données en cas de situation critique. Guidé par les valeurs coopératives d’équité et de solidarité, de tels centres de données pourraient décider de renoncer à des bénéfices plus élevés afin de rendre son infrastructure plus accessible à tous, comme aux associations et coopératives. Cela pourrait à son tour encourager une plus grande diversité dans le développement de l’IA et inciter les entreprises à adopter une identité coopérative. De plus, en s’appuyant sur une infrastructure de centres de données coopérative, les coopératives d’IA renforceraient leur autonomie et leur indépendance, offrant à leurs membres un meilleur contrôle sur l’ensemble de la pile technologique, y compris les moyens de production de l’IA. Tara Merk est en train de faire une étude sur GAD eG, une coopérative qui pendant 50 ans a été l’un des grands fournisseurs de services informatiques allemand notamment pour les services financiers (jusqu’à sa fusion en 2015 avec une autre entreprise). Pour la chercheuse, l’exemple de GAD démontre « que les centres de données coopératifs constituent une option économiquement viable et évolutive, capable de fonctionner de manière fiable dans des secteurs critiques ». 

Dans son syllabus, Scholz aborde d’autres exemples de coopératives pour montrer comment les valeurs coopératives peuvent guider des alternatives concrètes au développement technologique, comme le propose Read-Coop, la coopérative européenne à l’origine de la plateforme de reconnaissance d’écriture manuscrite Transkribus. Et pointe vers nombre de ressources sur le sujet des technologies pour la coopération. 

A compléter encore par le numéro de Nature consacré aux modèles d’IA des pays du Sud, qui offre un autre regard sur d’autres façon de faire de l’IA.

J’étais il y a quelques semaines l’invité des Universités Populaires du pays Yonnais (UPPY), pour une soirée conférence-débat autour du thème de l’IA.

La captation de cette intervention est désormais disponible en ligne.

SI vous résidez autour de La Roche sur Yon ne manquez pas les prochains rendez-vous de ces universités populaires (informations sur leur page Facebook)

Contrairement à ce que pouvait écrire Céline, l’histoire, numérique en tout cas, repasse parfois les plats. A fortiori lorsque ceux-ci ont un goût amer. Au début des années 2005, j’ai suivi, chroniqué et établi l’un de mes terrains de terrain de recherche sur la manière dont le projet Google Books allait (et aujourd’hui, avait) définitivement modifié et remodelé à son avantage non seulement l’entièreté des « métiers du livre » (librairie, édition, bibliothèque), mais aussi initié et accompagné toutes les mutations ayant donné lieu à de nouveaux standards dans l’ensemble des industries culturelles. Vous trouverez trace de nombre de ces réflexions dans la rubrique éponyme de ce blog, ou bien dans cette version (qu’il faut que j’actualise) d’un cours que je donne sur le sujet à mes étudiantes et étudiants.

Je vous résume l’histoire en quelques mots.

Google débarque en 2005 avec un projet assez dingue de numérisation massive d’ouvrages du domaine public pris dans les bibliothèques avec leur accord, et en prenant tous les frais (colossaux) à sa charge. Au fur et à mesure on découvre qu’il n’a pas seulement numérisé des oeuvres libres de droits mais aussi des ouvrages sous droits et des oeuvres dites « orphelines » (oeuvres toujours sous droits mais commercialement épuisées et dont les ayants-droits ne se font pas connaître). Qu’il a fait tout cela en loucedé mais avec l’accord de certaines bibliothèques, accord couvert par des clauses de non-divulgation léonines. Et que toute sa stratégie était de venir concurrencer ses grands rivaux de l’époque (dont Amazon) en se positionnant rapidement sur la vente de livres numériques, mais aussi (et surtout) de prendre une colossale avance dans le domaine de l’IA en entraînant ses algorithmes sur ce que l’on ne nommait pas encore un « large modèle de langage » mais qui de fait, en était l’un des tous premiers et l’un des plus massifs. Après plein d’étapes et de rebondissements, de tentatives d’accord à l’amiable (et à grands coups de valises de billets), de coups fourrés y compris entre les plaignants où certains grands groupes éditoriaux firent cavalier seul pour négocier en direct avec Google, et après 10 ans de procès aux USA mais également en France, le verdict fut finalement rendu en faveur de Google au nom de l’argument du « Fair-Use », le juge américain considérant en effet que :

« Le but de la copie est hautement transformatif, l’affichage pour le public du texte est limité, et les passages ne fournissent pas un substitut aux œuvres originales protégées. La nature commerciale de Google et ses motivations lucratives ne permettent pas de rejeter l’argument du Fair Use. »

En 2010, lors de la sortie de l’excellent documentaire « Google and the world brain« , Amit Singhal (qui a rejoint Uber au début de l’année 2017) était interviewé en tant que grand chef de l’algorithmie chez Google et déclarait ceci : « Google Search is going to be assisted intelligence and not artificial intelligence.«  Une intelligence « assistée » par l’immensité d’un corpus construit dans la temporalité du procès. Alors que presque tous les regards étaient tournés vers l’exploitation d’un marché du livre numérique et les questions de droit d’auteur, la firme travaillait en réalité aussi et surtout sur l’optimisation de son immense corpus de textes dans l’optique du TALN (traitement automatique du langage naturel). L’invention de la technologie dite des « Transformers » en 2017 par huit chercheurs de Google dans l’article « Attention Is All You Need » allait métamorphoser ce corpus immense en l’un des tout premiers large modèle de langage et donner à Google un avantage concurrentiel colossal que l’on mesure aujourd’hui avec son modèle Gemini qui s’affirme comme l’un des plus puissants.

Et le rapport avec l’IA aujourd’hui?

Aujourd’hui (décembre 2024) des universités, les mêmes qui avaient initialement contractualisé avec Google pour le projet Google Books en 2005, Harvard en l’occurrence, mettent de la même manière gratuitement à disposition, non plus des corpus de livres papier pour qu’ils soient numérisés, mais des corpus de livres numérisés pour qu’ils puissent « entraîner des IA ». Quelques mois plus tard, en Mars 2025, Sam Altman (CEO d’Open AI) déclare que si sa boîte n’a pas le droit de s’entraîner comme elle le veut et sans rien demander à personne sur d’immenses corpus de textes (y compris protégés par le droit d’auteur), que si tout cela n’est pas reconnu comme du « Fair Use », alors la course à l’IA est terminée côté américain et que les Chinois et les Russes prendront la place (et gagneront la course). Quelques mois plus tard encore, en Septembre 2025, c’est la société Anthropic (dont nous reparlerons) qui, pour échapper à un procès initié par des auteurs sur le pillage et l’utilisation sans consentement de leurs oeuvres, sort le chéquier et débourse 1,5 milliard de dollars pour éviter l’action en justice. Pour vous donner un effet d’échelle, à l’époque du procès Google Books (démarré en 2005), la firme avait proposé aux plaignants (les auteurs et éditeurs) un dédommagement de 45 millions de dollars en échange de l’abandon de toute poursuite. Une somme qu’à l’époque tout le monde considérait comme « folle ». Nous étions alors en 2008. Moins de 20 ans plus tard, les 45 millions de dollars sont devenus 1,5 milliard. C’est bien plus que vertigineux.

Hier en plein procès Google Books la firme fixait aux auteurs et autrices un ultimatum pour retrouver et déclarer les oeuvres leur appartement et numérisées sans leur accord et soit réclamer leur retrait soit accepter un dédommagement et renoncer à poursuivre l’action en justice. On appelait ça le « règlement Google ».

Aujourd’hui en plein procès Anthropic on fait face à un scénario … rigoureusement identique au mot près.

Hier. A l’époque des débuts de la numérisation massive lancée par Google (2005 donc) et jusqu’à assez tard (2010 et au-delà) on trouvait fréquemment dans le moteur de recherche des ouvrages dont les informations de catalogage (date de parution notamment) étaient absolument fantaisistes et erronés. Comme la collecte de ces infos n’était pas faite par des gens (bibliothécaires) et de manière structurée mais par des algorithmes qui scannaient le texte et récupéraient ce qu’ils pouvaient, il était fréquent que Google Books vous indique que Notre Dame de Paris avait été écrit au 16ème siècle ou que Baudelaire était l’auteur du célèbre ouvrage « les fleurs et leurs parfums ». On y trouvait aussi, dans ces rayonnages numériques algorithmisés, tout un tas d’ouvrages pas du tout rangés au bon endroit, comme si un bibliothécaire fou ou rigolo avait décidé de ranger Le Château de Kafka au rayon moyen-âge, Les fleurs du mal au rayon horticulture, et Mein Kampf au rayon jeunesse (ce qui pour le coup n’est pas très rigolo j’en conviens). Et tout un tas d’autres erreurs qui pourraient prêter à rire s’il n’était pas question de forger des référents culturels stables.

Aujourd’hui. Et aujourd’hui dans les bibliothèques américaines des gens viennent chercher des livres qui n’existent pas. Qui n’existent pas parce que c’est ChatGPT ou l’un de ses copains qui a fabriqué de toute pièce ici un titre, ici une collection, ici un auteur, ici un mix des trois ne reposant sur rien d’autre de réel que le besoin de satisfaire le besoin de celui ou celle qui l’interrogeait. Dans le même genre et à l’instar des fausses dates de publication ou des fausses dates de naissance que le Google Books des années 2005-2015 attribuait parfois aux auteurs et autrices référencées, le Google de 2025 dopé à l’IA se met à citer des auteurs et des pages dont … l’IA de Google et l’auteur. Cela peut représenter (selon le type de requête) parfois plus de 10% des 100 premiers résultats organiques. Précisons que Google conteste les résultats de cette étude et présente des chiffres d’autres études qui situent plutôt cette proportion autour de 2 à 3,5%.

Google Books en 2005 ou Google Gemini en 2025, le problème n’est pas tant que la numérisation d’hier ou l’artificialisation d’aujourd’hui soient sources d’erreurs ; le problème tient dans le « statut » de ces erreurs, dans notre capacité à les identifier en tant que telles, et dans la possibilité effective qu’elles soient de nouveau traitées comme des informations fiables par des IA devenues autophages et plus souvent infra-visées que réellement supervisées.

La propriété (intellectuelle) c’est ce qui peut être volé. 

Je raconte souvent à mes étudiantes et étudiants la manière dont la bibliothèque d’Alexandrie s’est largement construite sur un mode confiscatoire. On récupérait toutes les oeuvres qui se trouvaient dans la cargaison des navires rentrant au port, si on en avait le temps, on en faisait une copie pour le musée et la bibliothèque d’Alexandrie puis on rendait tantôt l’original tantôt la copie, et si on n’avait pas temps, on gardait l’original. Tout cela parce qu’à l’époque déjà, en tout cas dans l’esprit de Ptolémée, la culture était une arme, et que faire collection c’était faire légion.

Rien de très étonnant donc à constater que de la même manière que Google Books vint littéralement piller des collections entières de livres ou d’articles de journaux pour alimenter et constituer son moteur de recherche aspirant à l’IA, ce sont aujourd’hui les IA contemporaines qui à leur tour viennent piller tout le savoir disponible sans le moindre égard pour le respect de la propriété intellectuelle.

Rien ou presque n’a changé depuis la bibliothèque d’Alexandrie : officiellement il s’agit d’en faire des « copies » pour hypothétiquement les rendre ensuite aux détenteurs des droits s’ils s’en aperçoivent et les réclament ; en réalité il s’agit de constituer un corpus confiscatoire sur lequel on appliquera des droits de propriété intellectuelle au seul bénéfice de la firme extractiviste qui l’a constitué par prédation. Concrètement ? Là encore l’histoire bégaie.Comme le révélait une enquête de The Atlantic, récemment reprise par Mediapart, « pour entraîner son modèle d’intelligence artificielle, la maison mère de Facebook a téléchargé illégalement, dès 2022, les ouvrages accumulés par le site pirate LibGen. Mediapart révèle l’implication centrale de Guillaume Lample, devenu l’un des patrons de Mistral AI, l’entreprise française phare de l’IA. » Le site pirate LibGen est loin d’avoir été le seul à être pillé. Et il faut rappeler que s’il est un site « pirate » c’est parce qu’historiquement 4 grands acteurs détiennent à eux seuls l’ensemble des revues scientifiques et y exercent un pouvoir de contrainte et de vérouillage tel, qu’il fallut le courage de gens comme Aaron Swartz ou Alexandra Elbakyan pour ramener, dans l’espace public et citoyen, des connaissances scientifiques produites sur fonds publics et qui à ce titre, appartiennent à toutes et tous et n’auraient jamais du en sortir au seul bénéfice d’éditeurs prédateurs jouant de leur monopole pour restreindre l’accès aux connaissances. En 2010 donc, Aaron Swartz téléchargea illégalement près de 5 millions d’articles scientifiques hébergés chez l’éditeur JSTOR pour les remettre dans l’espace public. Poursuivi par la justice et « pour l’exemple », il fit face à une amende de plus d’un million de dollars et à une peine de 35 ans de prison (sic). Face à un acharnement judiciaire sans précédent, il se suicida 3 ans plus tard.

Après Aaron Swartz qui le fit pour libérer l’accès au savoir, voici donc Guillaume Lample chez Meta puis chez Mistral AI qui vient cette fois piller et voler pour permettre à la firme qui l’emploie de dépasser rapidement la concurrence. Il vole, il pille, mais il ne le fait pas pour détruire un monopole, il le fait pour en créer un nouveau. Et il est malheureusement loin d’être le seul.

Mais aujourd’hui, l’état du droit a changé et ce sont des firmes à la trésorerie presqu’infinie que l’on poursuit plutôt que des individus isolés dont on cherche à faire un exemple. A l’époque où Aaron Swartz libéra ces 5 millions d’articles scientifiques, près de 70 GB de données, il fut poursuivi et menacé de 35 ans de prison et de plus d’un million de dollars d’amende. Aujourd’hui dans le procès « Kadrey VS Meta », du nom d’un auteur (Kadrey) s’opposant à l’utilisation sans consentement de ses oeuvres par la forme Meta pour alimenter son modèle d’IA, le juge n’a pas menacé Meta de 35 ans de prison et d’une amende à la hauteur de son chiffre d’affaire. Car entre Aaron Swartz et ce procès, il y eut un autre procès, celui qu’aux Etats-Unis la Guilde des Auteurs et l’association américaine des éditeurs intenta en 2005 à Google qui numérisait alors également à tout va et également sans consentement. Et le verdict de ce procès, en 2015, qui donna raison à Google considérant que les copies et usages produits à partir des oeuvres originales était « hautement transformatif » et donc conforme à la doctrine du Fair-Use en droit américain, y compris dans le cadre de la stratégie pourtant clairement commerciale de Google. Nous voici en 2025, dix ans après la fin de ce qui fut le plus grand procès de l’histoire des industries culturelles autour du droit d’auteur et de la numérisation, et dix ans plus tard, Meta (et Guillaume Lample) s’en tirent sans aucune condamnation, la justice estimant que là encore, la copie réalisée sur la base de ces plus de 80 GB de données de livres piratés, était « hautement transformative » (puisqu’elle permettait aux outils d’IA générative de recracher des textes … différents) et donc là encore conforme au Fair-Use en droit américain.

Les ennuis de Meta et de Zuckerberg ne sont pas pour autant terminés puisqu’il existe d’autres actions en justice initiées de la même manière, mais cette fois non plus sur des livres mais sur des films, plus précisément des films pour adultes. Un producteur de ces films accuse le groupe Meta d’en avoir téléchargé via Bittorrent pour alimenter les modèles de ses IA, le groupe Meta tente d’éviter d’aller au procès en arguant que des films ont certes été téléchargés sur les serveurs de la firme mais que c’était « pour des usages privés et personnels » (sic).

Les IA génératives s’attaquant à l’ensemble des industries culturelles (livre, film, musique, radio, télévision, jeux vidéo) ce sont autant de fronts ouverts en termes de batailles juridiques. Et là encore le passé jouera un rôle précieux d’analyse. Lorsqu’en Mars 2025 en France, le syndicat national de l’édition (SNE), la société des gens de lettres (SGDL), et le syndicat national des auteurs et compositeurs (SNAC) intentent un procès contre Méta au motif qu’ils y ont trouvé des oeuvres utilisées sans leur autorisation et permettant d’alimenter et d’entraîner les IA de la firme, c’est, à l’exception de la participation du SNAC, l’exacte redite du procès intenté par l’éditeur La Martinière en 2006 contre Google, qui fut ensuite rejoint par le SNE et la SGDL. Même procès, mêmes raisons d’aller en justice, mêmes acteurs et plaignants. Le résultat du procès de 2005 côté français fut que les auteurs et éditeurs renoncèrent aux poursuites contre Google, préférant des accords de gré à gré, et une avancée du droit dans les contrats d’éditions qui doivent aujourd’hui obligatoirement intégrer un volet sur l’exploitation numérique des oeuvres. Pendant qu’aux USA, le même procès (auteurs et éditeurs américains contre Google) se termina donc à l’entier bénéfice de Google, considérant que la copie produite était hautement transformative et s’inscrivant dans le cadre du Fair-Use. Un procès américain qui eut, en droit français sa traduction dans la directive pour l’exception « TDM (Text and Data Mining) » qui « autorise toute personne à procéder à des fouilles, quelle que soit la finalité, sous réserve que l’auteur n’ait pas exprimé son opposition de manière appropriée« , donnant ainsi aux firmes d’IA la possibilité d’accéder légalement à l’ensemble des oeuvres et documents disponibles quelque soit l’écosystème dans lequel elles sont hébergées et consultables, sauf si leurs auteurs et autrices s’y sont explicitement et « de manière appropriée » opposés. Autant vous dire que la plainte du SNE, de la SGDL et du SNAC est certes importante et courageuse mais qu’en l’état du droit, elle apparaît aussi totalement vaine. Mais il est vrai qu’indépendamment des intérêts des plaignants, certaines plaintes ont aussi pour vocation première de faire évoluer l’état du droit en multipliant les jurisprudences. Espérons qu’il en soit alors ainsi même si j’en doute profondément au moment où j’écris ces lignes.

Dans la série des procès qui se rejouent avec des similarités plus que troublantes à 15 ou 20 ans d’intervalle, après « l’AFP contre Google News » en 2005, voici aujourd’hui « les éditeurs de presse contre l’IA de Google« , une plainte venant en effet d’être déposée en Février 2026, à Bruxelles, par le European Publishers Council (EPC) sur la base du droit de la concurrence. Comme rappelé par Isabelle Szczepanski sur le site Electronlibre, « Les éditeurs dénoncent une captation de leurs contenus « sans autorisation, sans mécanismes de retrait effectifs et sans rémunération équitable », et alertent sur un risque structurel pour l’économie de la presse. Le conflit entre éditeurs européens et géants du numérique franchit un nouveau cap, du fait d’une urgence économique, puisque selon les dernières données, le trafic issu de Google vers les sites de presse a chuté d’un tiers à l’échelle mondiale entre novembre 2024 et novembre 2025. »

Prenez la plupart des titres de presse des années 2005 et ajoutez simplement IA devant les noms de grandes firmes technologiques, et vous aurez l’exact équivalent des titres de presse des années 2025 s’interrogeant sur le devenir de l’IA et son utilisation par ces firmes dans leur arsenal de services. En 2005 on se demandait sur Google News allait tuer le journalisme, en 2025 on s’interroge pour savoir si « L’IA de Google est-elle en train de tuer le journalisme ? » Vingt années on passé. Les prédateurs sont identiques. Les modes de prédation également. A croire que vingt années ne nous ont rien appris, ou si peu.

Autre exemple de procès cette fois centré sur une possible distorsion de concurrence autant que sur le respect du droit d’auteur, celui que la commission européenne a ouvert contre Google accusé de piller des contenus de créateurs sur Youtube pour alimenter son IA « Veo 3 ». Comme rappelé sur le site Presse-Citron :

« En ce qui concerne le moteur de recherche, la Commission européenne va examiner dans quelle mesure les aperçus IA de Google et les réponses de l’AI Mode reposent sur les contenus des éditeurs, “sans compensation appropriée et sans possibilité pour les éditeurs de refuser sans perdre l’accès à Google Search”, alors que le moteur de recherche est une source de trafic majeur pour ces éditeurs. En ce qui concerne YouTube, la Commission explique que “les créateurs de contenu qui publient des vidéos sur YouTube ont l’obligation d’autoriser Google à utiliser leurs données à différentes fins, notamment pour l’entraînement de modèles d’IA générative”, que ceux-ci ne sont pas rémunérés, et que Google interdit pourtant ses concurrents d’utiliser le contenu YouTube pour entraîner leurs modèles d’IA. »

Là encore et comme dans l’ensemble des procès que la firme a jusqu’ici déjà traversés, l’accusation d’abus de position dominante n’est pas une dérive, c’est une marque.

Alors certes au fur et à mesure que l’histoire avance et que les mêmes procès de rejouent avec pour l’essentiel les mêmes catégories d’acteurs, l’époque change, et la chaîne de valeur se modifie. Ce qui hier était l’intérêt premier de la presse dans un monde informationnel certes connecté mais non encore numériquement préempté, ce qui valait pour une économie des médias, vaut aujourd’hui pour un écosystème nouveau dans lequel la valeur d’une information n’est plus premièrement sa capacité à être certifiée comme vraie mais plutôt la garantie virale et circulatoire d’une information assemblée et produite industriellement.

Bibliothèques pirates et entreprises corsaires. 

J’ouvre une petite parenthèse. Dans l’histoire du web et des industries culturelles, et dès lors que son usage – celui du web – devînt massif, il a toujours existé des sites pirates (qui venaient historiquement compenser l’absence d’une offre légale) et des bibliothèques également pirates qui se constituaient principalement pour lutter contre des monopoles empêchant, entravant ou monnayant à l’excès et pour leur seul bénéfice la circulation des connaissances, notamment scientifiques. Parmi ces bibliothèques pirates on peut notamment citer LibGen, Z-Library (qui commença par être un site miroir de LibGen) mais aussi l’extraordinaire Sci-Hub fondé par la non moins extraordinaire Alexandra Elbakyan. On trouve aussi l’archive d’Anna qui est, pour faire simple, un moteur de recherche de bibliothèques clandestines, donnant accès l’une des plus grandes collections d’ouvrages numérisés du domaine public principalement.  Si ces bibliothèques pirates ont souvent mauvaise presse dans nos contrées, il ne faut jamais perdre de vue l’immensité du rôle scientifique et intellectuel qu’elles jouent dans des pays qui n’ont ni la chance ni les moyens d’être des démocraties garantissant l’accès aux savoirs et aux connaissances.

Et dans l’histoire des technologies numériques, donc pour faire simple dans le dernier quart de siècle que nous venons de traverser, il est tout à fait frappant et sidérant de voir comment ces bibliothèques pirates, après avoir été criminalisées par les monopoles qu’elles combattaient, sont aujourd’hui instrumentalisées par d’autres monopoles (souvent les mêmes) qui agissent en corsaires au bénéfice d’intérêts économiques et géo-politiques devenus majeurs dans la course à l’armement que représente le développement des outils dits d’intelligence artificielle. Voici par exemple Nvidia qui se trouve prise la main dans le pot de confiture, en train de négocier avec l’archive d’Anna pour accéder à des millions de livres numériques et combler son retard dans l’entraînement de ses modèles. Là encore, l’ombre et la mémoire de l’enfant d’internet sont tristement pesantes et présentes.

Panama (destructive) Papers.

Vous vous souvenez de l’affaire des Panama Papers ? Ok bah rien à voir Par contre je vais vous parler du Projet Panama de la société Anthropic. Que j’ai découvert dans la formidable enquête du Washington Post, reprise et résumée notamment par le site Actualitté. Avant cela je vais vous rappeler, qu’historiquement la numérisation a toujours eu comme un de ses principaux objectifs de protéger, via une copie numérique, des ouvrages anciens et fragiles tout en les offrant à la consultation d’un public bien plus large.

Le projet Panama consiste, lui, à s’adresser à des libraires, bouquinistes, et à des bibliothèques, je cite, « sous-financées », pour récupérer d’énormes volumes d’ouvrages, lesquels seraient ensuite désossés pour n’en récupérer que les feuillets qui seraient ensuite envoyés sur des bancs industriels de numérisation, numérisation permettant donc d’entraîner l’IA d’Anthropic, à la suite de quoi tout ce papier serait soit détruit (sic) soit recyclé. Au début y’avait un livre. Après y’a plus rien. Ce projet allie et synthétise à la fois tout le cynisme et la crapulerie dont ces acteurs industriels sont capables. Comme c’est trop compliqué ou trop long d’entrainer légalement des IA sur des corpus suffisamment denses, on n’a qu’à jouer l’appât du gain auprès d’acteurs dans le besoin pour récupérer des livres en loucedé et les détruire après désossage et numérisation. Et au passage nourrir l’IA maison en mode Chronos dévorant ses enfants.

Petite parenthèse ici nécessaire. La numérisation d’ouvrages dispose de modalités différentes. On peut numériser « en mode image » ou numériser « en mode texte » (c’est à dire ajouter sur la numérisation en mode image un logiciel de reconnaissance optique de caractère – OCR – qui nous permettra de chercher à l’intérieur du document). Mais on peut aussi faire de la numérisation « destructive » ou « non-destructive ». Et en général on prend l’option « non-destructive ». Mais la numérisation non-destructive est beaucoup plus coûteuse que la numérisation destructive. Et il existe (en gros) trois types de machines pour réaliser la numérisation d’ouvrages. Les machines « manuelles » dans lesquelles c’est un opérateur humain qui va tourner les pages avant chaque « flash » de numérisation (par exemple pour les ouvrages abîmés ou anciens ou fragiles) ; les machines automatiques dans lesquelles c’est un robot automate (sorte de bras articulé) qui va vernir tourner plus ou moins rapidement les pages à numériser. Et enfin les machines « bancs de numérisation » dans lesquelles défilent des pages préalablement découpées et qui va donc beaucoup plus vite (il est par ailleurs possible de « réassembler » les livres une fois ainsi numérisés). A l’époque du procès Google Books, on avait beaucoup parlé de ces techniques de numérisation. Celles de Google restaient secrètes mais dans les grands centres de numérisation qu’il faisait construire pour accomplir sa tâche, les bibliothèques envoyaient des livres, certains précieux, certains anciens, d’autres plus « banals », mais en aucun cas la numérisation « destructive » n’était pratiquée. Cette dernière est d’ailleurs réservée à certains ouvrages à gros tirage, certains secteurs de l’administration ou à certains documents par exemple commerciaux dont la « forme livre » importe peu.

Je le redis donc ici, le projet Panama d’Anthropic est l’exemple parfait de tout le cynisme et la crapulerie dont sont capables des acteurs industriels uniquement soucieux de construire ou de préserver un avantage concurrentiel. Et ceci est pourtant l’une de leurs moindres saloperies au regard de – par exemple – ces mêmes acteurs emploient ou plus exactement exploitent de manière dissimulée des travailleurs pauvres à l’autre bout de la planète, qu’ils exposent délibérément à des contenus d’une violence extrême, pour affiner et entraîner leurs larges modèles de langage.

L’acte de lire dans l’impensé.

Un autre des grands enjeux du premier grand procès des industries culturelles, le procès Google Books, était celui de la mise en danger et de la fin programmée de la confidentialité de l’acte de lecture. Un argument qui avait notamment été porté par l’EFF (Electronic Frontier Foundation) et d’autres militants des libertés numériques, et que le juge en charge avait reconnu comme « effectivement important » mais non suffisant pour permettre à lui seul de rendre une décision favorable aux plaignants dans l’affaire. Et pourtant. Et pourtant la confidentialité de l’acte de lecture est au fondement même de nos démocraties. Sans même parler des dictatures, il suffit de voir ce que chaque gouvernement autoritaire fait du choix et de la place des livres dans les premières mesures qu’il prend.

En 2005 on s’alarmait (insuffisamment) du fait que l’avènement du livre numérique propriétaire et d’une consultation sur le modèle du streaming, concentrée entre les mains de quelques plateformes hégémoniques, allait leur donner un pouvoir infini pour à la fois orienter mais surtout documenter chacun de nos choix de lecture et les retenir ensuite comme potentielles preuves à charge.

En 2025 c’est le New-York Times qui dans le cadre d’une plainte déposée en 2023, attend que ChatGPT lui fournisse le contenu de 20 millions de conversations avec le générateur de texte, pour prouver que l’IA a porté atteinte aux droits d’auteur du journal (en mobilisant sans les référencer ni les citer, de larges extraits de ses articles pour alimenter lesdites conversations). La confidentialité de nos conversations avait pourtant déjà été mise à mal dans les nombreuses affaires autour des enceintes connectées qui, même éteintes, continuaient d’enregistrer tout ce que nous disions pour ensuite le scripter et là encore, alimenter (notamment) différents modèles algorithmiques. Mais avec la capacité de ChatGPT et des autres à se nourrir de textes et donc de lectures pour en produire d’autres qui ne soient pas simplement des usages de lecture mais des composants structurels et structurants de chaque interaction simulée avec chacun et chacune d’entre nous, la confidentialité de l’acte de lecture est en quelque sorte mise à mal … au carré.

Comment tout cela va (probablement) finir.

Sur le plan juridique, certains tentent aujourd’hui d’éviter que les procès de 2025 ne se terminent tous comme celui de 2005, c’est à dire avec une décision favorable aux grandes entreprises de l’IA à qui l’on accorderait, nonobstant la prédation extractiviste torcheculatoire pour le droit d’auteur à laquelle elles se livrent, la reconnaissance d’un « usage équitable » (Fair Use) établi sur des copies (génératives) considérées comme « hautement transformatives ». Et pour ce faire, ils et elles essaient d’inverser la charge de la preuve en défendant un texte dans lequel, puisqu’il est impossible pour un auteur de prouver que son travail a été repris et utilisé par des IA, on considérerait que « Sauf preuve contraire, l’objet protégé par un droit d’auteur (…) est présumé avoir été exploité par le système d’IA, dès lors qu’un indice afférent au développement ou au déploiement de ce système ou au résultat généré par celui-ci rend vraisemblable cette exploitation ». Ce serait donc aux sociétés qui développent des IA de faire la preuve qu’elles n’ont pas pillé des oeuvres et des auteurs sans leur accord. Juridiquement cela tient la route. Et il existe d’ailleurs d’autres approches intéressantes qui visent à prouver que ces IA sont capables de réécrire certaines oeuvres presqu’intégralement et littéralement, ce qui rend la notion d’usage uniquement transformatif compliqué à défendre :

Pour Alexandra Bensamoun, professeure de droit à l’université Paris-Saclay et experte du droit d’auteur des IA, « cette étude apporte des éléments empiriques décisifs » pour les contentieux en cours dans ce domaine. Des éléments qui mettent en évidence une « absence de transformation [qui] pourrait exclure le bénéfice du fair use aux Etats-Unis, et en Europe, de l’exception TDM [fouille de textes et de données], laquelle suppose une utilisation aux fins d’analyse, et non de reproduction/stockage en vue de restitution », juge-t-elle.

Mais au vu de ce que je me suis efforcé de vous raconter dans cet article, je suis tout sauf optimiste sur les chances d’un tel texte et d’une telle approche d’aboutir aujourd’hui (ou demain). Car même si « une large coalition de représentants des auteurs, de la presse, du cinéma, de l’édition ou du disque ont salué l’initiative« , ils ont en face d’eux, en plus des acteurs de la tech, le gouvernement français et la commission européenne qui dans la roue des acteurs de la tech voit officiellement cette mesure comme un frein à l’innovation (sic).

Le scénario le plus probable ressemblera à mon avis trait pour trait au jugement rendu dans l’affaire Google Books après 10 ans de procès. C’est à dire que sur le plan juridique, le Fair Use et l’argument de copies hautement transformatives l’emportera. Ce qui, là encore comme dans l’affaire Google Books, n’empêchera pas, au contraire même, des accords de gré à gré entre les parties, accords qui comporteront à la fois des volets de compensations financières (comme les 1,5 milliards déjà versés par Anthropic) et d’autres davantage partenariaux (notamment avec les éditeurs de presse). La question qui qui reste ouverte est celle de l’évolution des usages et des pratiques (ainsi que du droit) que cela aura, dans l’intervalle, permis de sanctuariser.

Je veux conclure en trois temps.

D’abord avec les mots de Bruce Schneier qui dans une tribune à propos de l’affaire Anthropic parue dans le San Francisco Chronicle et reprise sur son blog, écrit :

« Aaron Swartz avait compris que l’accès au savoir est une condition préalable à la démocratie. La manière dont nous traitons le savoir – qui peut y accéder, qui peut en tirer profit et qui est puni pour le partager – est devenue un test de notre engagement démocratique. » 

« Un test de notre engagement démocratique. » Qui prend des allures de crash-test. Derrière ces questions de propriété intellectuelle, de copie transformative, d’usage équitable, de rémunération de la création, qui font la Une des journaux et sont le principal angle de traitement de ces sujets, il y a des enjeux beaucoup plus fondamentaux qui touchent à la transformation et à la réingénierie permanente d’une matière vivante que l’on appelle tantôt la culture, tantôt la connaissance, tantôt la création, tantôt l’information, tantôt tout cela à la fois. Une matière vivante qui définit ce que nous savons autant que ce que nous croyons, et une manière vivante qui à force de copies hautement transformatives (ou non) de ce qu’elle est, peut nous rendre davantage enclins à faire sécession qu’à faire société.

Ensuite en rappelant que ces questions aujourd’hui posées se posaient déjà dans l’esprit de l’un des pionniers visionnaires de l’internet et du Web, Ted Nelson, notamment connu pour avoir « inventé » le terme hypertexte mais qui dès avant qu’ils soient opérants (le web et l’hypertexte) réfléchissait à la question du « versioning ».

Définition courte : « Le versioning désigne l’ensemble des manières de gérer, indépendamment de tout niveau d’échelle, les procédures permettant de rattacher différentes versions d’un même document à un (des) auteur(s), tout en permettant à chacun de s’approprier tout ou partie des documents produits par d’autres ou par eux-mêmes, et en assurant un suivi des différentes modifications apportées. » (définition extraite du chapitre de ma thèse consacré au sujet, thèse disponible ici).

Définition un peu plus longue : « Le versioning désigne l’ensemble des manières de gérer, à l’échelle de l’hypertexte planétaire, les procédures permettant de rattacher un texte à un auteur (ou à un collectif d’auteurs), tout en permettant à chacun de s’approprier – de se ré-approprier – tout ou partie de documents produits par d’autres ou par eux-mêmes afin, premièrement, de limiter la prolifération « bruyante » des versions différentes d’une même information sur le réseau et deuxièmement, d’identifier la nature et les origines de ces modifications dans l’optique d’une gestion cohérente de l’ensemble des documents électroniques actuellement disponibles, indépendamment de leur format, de leur statut et en dehors de tout institution centralisée. Autant dire que plus qu’une problématique, il s’agit là d’un véritable « idéal ». » (définition toujours extraite du chapitre de ma thèse, toujours disponible ici).

Définition à rapprocher de celle qu’il [Ted Nelson] propose pour le terme document : « Un document est une collection arbitraire de versions disposant d’un nom propriétaire et de limites.« 

Les IA génératives sont essentiellement une version totalement dérégulée et spéculative de ce « versioning ». L’attachement aux textes et aux oeuvres, n’est rien, ou si peu, sans la possibilité de leur rattachement, à des auteurs, des époques, des contextes, des courants, des dynamiques ancrées dans le temps et dans l’espace dont certaines ont par ailleurs réussi à s’affranchir. Sans ces rattachements possibles, c’est toute une part forte de notre attachement aux oeuvres qui n’ayant plus d’objet, se dispense de la possibilité d’exprimer des subjectivités de lecture, d’analyse ou de compréhension qui soient en tant soit peu fécondes.

Enfin, loin, très très loin de la stratégie de Lisbonne définie au début des années 2000 et qui sanctuarisa l’idée mortifère d’une « économie de la connaissance » érigée en objectif, il aurait fallu se donner les moyens et les cadres pour bâtir non une économie mais une écologie de la connaissance (et par exemple creuser le sillon ouvert en 1972 par Bateson avec son écologie de l’esprit). Nous avons pris un chemin différent qui nous conduit aujourd’hui, pour toute la connaissance, la culture et l’information, qu’elles soient scientifiques, littéraires, ou de toute autre nature, à n’avoir comme possibilité que celle d’affronter économiquement des acteurs dont le coeur de métier est dépendant de leur capacité de prédation, d’extractivisme et de mépris des lois (ou de rapprochement avec celles et ceux qui les font). Dès que nous aurons fini nos réunions de Quichotte et nos atermoiements de pleureuses, peut-être nous concentrerons-nous sur les luttes et moyens d’action, légaux ou nécessaires, pour une écologie de la connaissance qui ne peut-être autre chose que désormais pleinement radicale.

Aaron Swartz l’avait payé de sa vie, mais il nous avait clairement montré le chemin.

Republication pour archivage et partage de l’article paru sur AOC.media le 20 Octobre 2025.

La question du langage s’est déplacée, et ce déplacement s’accélère de manière assez vertigineuse. Juin 2024 : mon livre « Les IA à l’assaut du cyberespace » revient sur les début tonitruants de ChatGPT et de ce que je nomme les « artefacts génératifs ». J’y pointe notamment les promesses encore maladroites de la génération de vidéos. Six mois plus tard, décembre 2024 : chacun reste bouche bée devant les prémisses des promesses de Sora d’OpenAI en termes de génération vidéo. Six mois plus tard encore, mai 2025, nous restons bouche bée devant cette fois Veo 3 de Google qui ajoute du son synchronisé à des vidéos toujours artificielles. Et en août 2025 c’est encore Google qui dévoile « Genie 3 », permettant de générer des mondes interactifs en temps réel à partir d’un simple prompt.

La question du langage s’est déplacée. C’est ce que depuis 25 ans et un peu plus, j’observe et documente à l’échelle de recherche qui est la mienne : celle de nos environnements numériques. Ces environnements avant-hier saturés de mots, puis hier encore d’images et de vidéos, et qui le sont désormais d’artefacts génératifs qui à leur tout sursaturent tant les mots que les images. Ad Libitum. Vertiges non d’une simple logorrhée mais d’une sorte de « technorrhée », l’emballement continu d’un capitalisme sémiotique ; une technorrhée pensée comme l’alliance chimiquement pure entre, d’une part, la merdification – « enshittification » – des médias sociaux en particulier et du web en général, et d’autre part, le « Brainrot » ou « abrutissement numérique » qui en est tout autant la cause que l’effet.

La question du langage s’est déplacée. Et dans ce déplacement, dans cette « différance » (Derrida), naissent et prennent place des mondes. Avec leurs images, leurs langages, leurs grammaires, et leurs vérités propres qui sont autant de singulières croyances. C’est dans cet écart par exemple que deviennent possibles, tristement et pathétiquement possibles, des images de Gaza transformée en Riviera, ou celles de soldats nazis défilant au milieu de résistants fêtant la fin de la guerre dans une vidéo mise en ligne par le pourtant très sérieux Service d’Information du Gouvernement (SIG). Dans ces déplacements du langage, dans ces « différances », et dans ces univers propres, cohabitent des représentations tenant aussi bien de délires, de fantasmes ou d’imaginaires que de saisissants réalismes.

Dans ce monde, dans ces mondes plus précisément qui sont aussi le nôtre, qui font en tout cas partie du nôtre, la frontière est extrêmement fine entre la capacité de ces technologies à nous laisser tout émerveillés et ahuris ou à nous transformer en autant d’abrutis totalement hébétés.

La question du langage s’est déplacée.

Et avec elle nos capacités à faire récit, à s’entendre et à s’écouter. Et avec elles, donc, notre capacité à faire société.

Longtemps cantonnées à la vallée de l’étrange, ces générations artificielles, ces vidéos notamment, n’ont aujourd’hui plus rien d’étrange dans leur rendu naturaliste. Fini les scènes animées où l’on détectait l’intervention de l’IA en regardant les mains et le nombre de doigts. Cela ne dispense pas ces générations d’erreurs factuelles ou contextuelles ou d’approximations, d’errances et d’hallucinations (nous y reviendrons) mais le photoréalisme est désormais totalement calculable. Certes le coût de ce calcul est vertigineux mais pour l’instant nous n’y prenons garde. Cette sortie de la vallée de l’étrange pour la plupart des contenus vidéos générés par IA (je parle ici de ceux qui ont vocation illustrative et non délirante ou seulement poético-ludique), nous fait entrer dans un monde … étrange. Une étrangeté qui ré-interroge notre capacité à dire le vrai, et surtout nos heuristiques de preuve, c’est à dire la manière dont collectivement nous pouvons attester que ceci s’est produit et s’inscrit dans une possibilité du monde que l’on appelle le réel.

On convoque souvent, à raison, l’argument selon lequel rien de tout cela ne serait vraiment nouveau. En effet l’invention de la peinture voit aussi l’invention des faussaires, l’invention de la photographie voit aussi celle de la retouche, avec l’invention du cinéma vient l’invention du truquage, et le développement de la radio et de la presse vont de pair avec celui des blagues, canulars, détournements, caricatures et fausses nouvelles. Mais les artefacts génératifs contemporains proposent une cinétique de représentations qui, à des échelles jamais atteintes d’usages massifiés et de circulations permanentes, cessent de nourrir nos imaginaires pour préférer les instancier, et ce faisant prive notre capacité individuelle et collective de recours à l’imaginaire d’une bonne part de sa puissance symbolique ; car tout est déjà là, car tout semble calculable et donc prévisible ; car tous les calculs ont été déjà faits ou le seront bientôt.

Pour bien saisir ce qui nous étreint et nous éreinte collectivement dans l’irruption de ces artefacts génératifs, il faut par exemple imaginer l’intérêt de l’écriture et le rôle d’un écrivain dans un monde où la bibliothèque infinie de Borges serait non seulement réelle mais dans laquelle chacun des ouvrages qu’elle contient serait surtout aisément accessible et consultable ; puisque tout est déjà là où peut l’être sur simple commande, alors la langue n’est plus un ouvroir de potentialités et d’imaginaires : elle semble n’être plus que la gangue de possibles concaténés, calculables et révélables.

Création, confiance et certification.

Sans refaire le débat du Phèdre de Platon et la condamnation de l’écriture, il est certain que quelque chose d’essentiel se joue aujourd’hui autour de la création, de la confiance et de la certification.

Création d’abord : qui peut encore être créateur/créatrice (dans le domaine des arts comme dans l’ensemble des métiers, tâches et fonctions de nos quotidiens) et de quelle manière l’être « avec », « à l’abri » ou « à l’écart » des artefacts génératifs ?

Confiance ensuite : comment avoir et faire confiance à celui ou celle qui crée dans l’originalité et l’intentionnalité de sa création ?

Certification enfin : comment certifier la part de cette création de la confiance qui peut ou doit lui être rattachée (et qui peut varier d’intensité et d’enjeu selon que ladite création concernera une oeuvre par exemple littéraire ou picturale, ou une décision médicale ou de justice) ? Des questions en triptyque que l’on ramène trop souvent à nos perceptions singulières alors qu’elles sont un bouleversement qui doit être pensé collectivement comme le suggérait Hervé Le Crosnier il y a … 30 ans de cela :

« La modification d’un document porteur de sens, de point de vue, d’expérience est problématique. Ce qui change dans le temps c’est la connaissance. Celle d’un environnement social et scientifique, celle d’un individu donné … Mais ce mouvement de la connaissance se construit à partir de référents stables que sont les documents publiés à un moment donné. Les peintres pratiquaient le « vernissage » des toiles afin de s’interdire toute retouche. Les imprimeurs apposaient « l’achevé d’imprimer ». Il convient d’élaborer de même un rite de publication sur le réseau afin que des points stables soient offerts à le lecture, à la critique, à la relecture … et parfois aussi à la réhabilitation. » Hervé Le Crosnier. « De l’(in)utilité de W3 : communication et information vont en bateau. » Présentation lors du congrès JRES’95, Chambéry, 22-24 Novembre 1995.

Ce que nous traversons avec l’IA dans sa dimension générative relève également d’un manque de ritualisation assumant la création de « points stables » qui fassent consensus ; mais apposer un label ou un filigrane « généré avec IA » ne suffira pas à construire ce repère car il ne s’agit plus ici de traiter seulement des questions de « modification » de documents porteurs de sens mais d’étendre ces points stables à des processus créatifs qui relèvent essentiellement de continuums complexes entremêlant des questions juridiques, économiques, techniques (informatiques) et éthiques.

Le temps des c(e)rises.

Nous sommes à ce moment de bascule où, pour l’instant, c’est comme si perdurait encore un effet Larsen dans l’esthétique de la réception de ces images et de ces vidéos ; comme si subsistait encore un bruit, une distorsion, un Larsen cognitif autant que collectif ; un Larsen qui ne s’éteint que lorsqu’enfin nous sommes à distance, à bonne distance, entre l’intention lisible de la génération et l’interprétation lucide de son effet sur nous ou sur le monde. Tant que cette distance n’est pas établie, ce bruit, ce doute, nécessaire, subsiste à l’horizon interprétatif : ce que nous voyons est-il réel malgré son photoréalisme ? Dès lors que cette distance est abolie – et tout est fait dans l’économie des plateformes pour y parvenir – alors ce bruit et ce doute s’éteignent, nous croyons ce que nous voyons. Or il n’est plus grand-chose de réel à voir dans ces enceintes.

Heuristique (et colégram).

C’est à chaque fois la même question qui revient et que je pointe (avec d’autres) depuis au moins 2011, parce que cette question est consubstancielle de chaque avancée technique qui touche à notre rapport au langage ou à l’image ou aux deux, c’est à dire à notre rapport au réel. Cette question c’est celle de savoir comme l’on bâtit de nouvelles heuristiques de preuve.

Il y a deux niveaux différents sur lesquels penser la complexification de nos anciennes heuristiques de preuve. D’abord la documentation récréative, ludique ou fictionnée du monde : l’enjeu est alors celui de la dissimulation ; il faut soit faire en sorte que le destinataire ne voit pas la simulation, soit qu’elle se dise pour ce qu’elle est (un « dit » de simulation) et qu’elle suscite l’étonnement sur sa nature. Et puis il y a la documentation rétrospective de tout ce qui fait histoire dans le temps long ainsi que celle qui concerne l’actualité. C’est alors l’exemple de la vidéo du SIG que j’évoquais plus haut, où le moindre casque à pointe nous fait basculer de l’ahurissement à l’abrutissement.

On croit souvent – et l’on s’abrite derrière cette croyance – que chaque simulation, chaque nouvelle production documentaire générée par intelligence artificielle, ajoute au réel. C’est totalement faux. Chaque nouvelle simulation enlève au réel. Parce que le réel historique n’est pas un réel extensible : il peut se nourrir de représentations historiques mouvantes au gré de l’historiographie et de l’émergence de preuves ou de témoignages, mais chaque nouvelle génération de ce réel historique potentiel va venir se sédimenter dans l’espace public mémoriel dont la part transmissible est extrêmement ténue et s’accommode mal d’effets de concurrences génératives. La question, dès lors, n’est pas tant de condamner les utilisations imbéciles ou négligentes de technologies d’IA pour illustrer un fait historique mais, par exemple, de savoir comment mieux rendre visible et faire pédagogie de la force incroyable d’authentiques images d’archives.

Nos imaginaires sont des réels en plus. Les effets de réel produits par les artefacts génératifs sont des imaginaires en moins.

Dans le domaine du langage les artefacts génératifs orientent bien plus qu’ils n’augmentent notre capacité à faire récit. Il se produit à peu de choses près ce que l’on avait déjà observé derrière la – fausse – promesse marketing initiale qui fut celle des grands réseaux sociaux généralistes : la promesse qu’en multipliant la diversité des profils, des origines, des croyances, des nationalités, des cultures auxquelles nous serions confrontés alors nous deviendrions plus ouverts, plus riches de liens sociaux, et plus empathiques. Or il se produisit essentiellement deux choses : d’abord cette exposition à une supposée diversité fut un feu de paille parce qu’elle allait contre la naturalité première de nos socialisations qui est de d’abord chercher celles et ceux qui nous sont semblables et que les plateformes, Facebook en tête s’aperçurent très vite que tout cela n’était pas bon pour le business (voir à ce sujet les travaux de danah boyd qui montra très tôt comment Facebook avait détruit l’expérience de la mixité sociale dans les universités de 1er cycle – « college » – aux états-unis). Ensuite les effets promis de proximité se transformèrent en effets subis de promiscuités effaçant toute forme d’empathie au profit de la dimension spéculative immédiatement virale et donc rentable de l’ensemble du spectre des discours de haine.

Il est en train de nous arriver exactement la même chose avec l’ensemble de l’actuelle panoplie des artefacts génératifs disponibles, de Genie 3 à ChatGPT5 : nous ne multiplions pas nos capacités collectives à faire récit (que ces récits soient imaginaires, réels ou réalistes et que leur support premier soit celui du texte, de l’image ou de la vidéo), nous les standardisons et nous nous enfonçons dans des dynamiques de reproduction qui se nourrissent de toutes les formes possibles de confusion ; une confusion entretenue par des formes complexes d’indiscernabilité qui tiennent à l’immensité non auditable des corpus sur lesquels ces IA et autres artefacts génératifs sont « entraînés » et ensuite calibrés.

Nous ne produisons pas davantage de nouveaux récits ou de nouveaux imaginaires mais, pour l’essentiel, nous reproduisons de manière industrielle toujours les mêmes, et après la phase de ce que l’on nomma des « hallucinations » vient aujourd’hui une autre phase, qui est celle de « l’effondrement » et qui désigne ce moment où les artefacts génératifs sont entraînés sur des contenus eux-mêmes artificiellement générés, des effondrements qui ruinent et minent les dynamiques d’interprétation et de représentation au fur et à mesure où celles-là mêmes sont érigées en modèles.

Au commencement était le mot-clé.

« En 2025 le web est donc un champ de ruine épistémique » écrit Thibault Prévost dans l’une de ses analyses à propos du phénomène de Slop AI, cette « technorrhée » symptôme de la merdification des plateformes et de notre expérience générale des environnement numériques. Je vous propose un (rapide) retour sur l’une des origines de cet effondrement qui fait qu’aujourd’hui et comme l’écrivait Balzac à propos d’une figure féminine de l’un de ses romans, la plupart de nos environnements numériques, dont le web, « n’ont plus que la beauté des villes sur lesquelles ont passé les laves d’un volcan. »

Au commencement donc était le mot-clé. Notre premier rapport au langage comme nouvelle agentivité opératoire sur une immensité de contenus non-ordonnés, c’est celui du mot-clé tel que les moteurs de recherche nous le proposèrent en prenant la suite des annuaires de recherche (lesquels catégorisaient en arborescence une série limitée de sites et pages choisies par des opérateurs humains). Ce mot-clé, longtemps utilisé seul, est de l’ordre de la formule incantatoire : écrivez « voyage » et vous trouverez les destinations et les prix et les conditions et les descriptions de vos destinations y compris celles non-choisies ; écrivez « voyage » et vous voyagerez. Nous ne donnons qu’un seul mot, qu’une seule clé, et nous attendons de recevoir un monde ordonné, accessible et surtout un monde soit « pertinent » (c’est à dire depuis le début aussi conforme que possible à notre propre désir), soit « populaire » (c’est à dire aussi conforme que possible au désir des autres, ce que René Girard appelle le désir mimétique). Un seul mot et en face, l’immensité ordonnée de pages choisies et triées dans l’économie libidinale où nous sommes passés du statut de déclamant à celui de simple variable statistique dans une chaîne de production qui ne vise que son propre maintient.

Puis de plus en plus, à la place des mots (clés), nous avons fait des phrases. Nous sommes partis à la conquête du langage naturel. Nous avons donc discouru avec des machines, avec des algorithmes. Qui en retour de notre déclamation naturelle, se mirent à nous répondre non plus sous forme de liste de sites, mais d’extraits choisis et signifiants.

Et puis lassés de leur écrire autant que par la simple possibilité offerte de le faire, nous leur avons parlé. Les interfaces vocales se sont proposées, souvent imposées. De cette vocalisation nouvelle sont nées en retour d’autres échos sonores : ceux des machines et de algorithmes nous répondant, prenant voix. Siri, Alexa, et les autres. World Wide Voice.

Il y a l’initiative de la parole, de la requête, de la question. Et l’espace de la réponse. Car durant tout ce temps, de nos premiers mots-clés balbutiés à nos dernières commandes vocales prononcées, s’est structuré un espace matériel du recueil de nos expressions, une géographie politique de nos espaces de parole, de nos espaces discursifs, singuliers et partagés.

Le passage du web aux plateformes, aux « jardins fermés » comme les appelle Tim Berners-Lee, ne fut pas simplement le passage d’un espace public à des espaces semi-privés. Il fut aussi celui où ces plateformes délimitèrent en nombre l’espace de nos énonciations possibles. On décrit souvent le numérique comme un espace de publication illimité, ce que fut et que demeure le web en effet, mais les plateformes, toutes les plateformes, ont installé des espaces discursifs bornés, limités, frustrants, dont rien ne peut ni ne doit dépasser tels de modernes Procuste, ce bandit qui dans la mythologie proposait aux gens de les héberger avant que de leur couper les membres qui dépassaient de son lit.

Procuste dans l’histoire des plateformes c’est 140 signes sur Twitter puis 280 sur X, 2200 signes sur Instagram, 3000 pour LinkedIn, 150 signes pour une vidéo TikTok et 5000 signes pour décrire une vidéo Youtube. Malgré l’extension du domaine de la statusphère, Et tout le reste de ces espaces tant limités que limitrophes d’une atrophie des possibles.

(source : Dailyfy.co)

Comme le montre ce tableau, chaque espace est catégorisé par sa nature « titre de publication », « nom de la page », « description », « commentaire », « description vidéo », « bio », « DM message privé », etc. Et à chaque catégorie un autre espace, une autre limite : 58 caractères pour un titre de publication, 80 caractères pour une bio Tiktok, 30 pour un nom de profil Instagram, 1250 pour un commentaire LinkedIn, et ainsi de suite. Tout est métrique. A coups de trique. Quelques grands espaces demeurent : 110 000 caractères l’article LinkedIn mais 3000 caractères la « publication » de la même plateforme ; 63206 caractères le le post Facebook mais 8000 seulement pour le commentaire. Le numérique des plateformes est tout sauf l’espace infini qui était celui de la publication web des années 2000, c’est un espace totalement sous contrainte et en permanence sous astreinte.

Aujourd’hui l’essentiel de nos espaces discursifs en ligne qui ont recours au langage indépendamment de l’image ou de la vidéo sont des espaces Procustéens (images et vidéos par ailleurs elles-mêmes soumises à des limitations de durée). Des espaces où l’énonciation, où l’accès à la capacité de dire, ne vaut que par l’acceptation de cet horizon court de la diction. Certes il est possible, et certains y parviennent, de sublimer ces limites en les esthétisant ou en les poétisant. Les formes courtes ont par ailleurs une existence culturelle et littéraire longue. Mais nous parlons ici des conditions de production de la langue et donc du réel à l’échelle d’une humanité toute entière, en tout cas de sa part connectée (près de 5,5 milliards d’êtres humains). La « merdification » (enshittification) des plateformes, de presque toutes  les énonciations qui s’y déploient aujourd’hui, est aussi liée à cela. Ces espaces ne nous offrent pas tant la possibilité de dire qu’ils ne nous imposent la nécessité de rapidement nous taire. Il est d’ailleurs singulier de voir les plateformes parler de « liberté d’expression » dans des espaces aussi bornés et limités que ceux qu’elles nous offrent. Parlerait-on d’une « liberté de circulation » si celle-ci se limitait à un déplacement entre notre chambre et nos toilettes ?

D’un côté donc, il y eut, à l’échelle des plateformes numériques, la multiplication des espaces d’expression possibles. Mais en parallèle chaque nouvel espace énonciatif est apparu comme permettant de cadrer et de limiter « en nombre » toute expression singulière en ligne. Et désormais il y a la contamination de l’ensemble de ces espaces par des tiers énonciatifs logorrhéiques dopés à l’IA et aux artefacts génératifs. Voilà pour la parole « en émission ».

Quand à la parole « en réception », nous sommes aujourd’hui de plus en plus confrontés et exposés à ces dispositifs techno-logorrhéiques à proportion inverse de nos propres capacités à nourrir et à alimenter ces espaces expressifs et énonciatifs. Pour le dire plus trivialement : la part des bots et des contenus artificiellement générés explose et contamine l’ensemble des espaces numériques de l’ensemble des plateformes (c’est l’un des thèmes de mon livre « Les IA à l’assaut du cyberespace : vers un web synthétique » paru l’été dernier chez C&F Editions).

A l’échelle du numérique, si l’humanité se figeait à ce moment précis, et si nous l’observions à l’échelle macroscopique, nous serions alors forcés de constater que l’initiative de la parole, de la conversation, de la langue comme interaction et comme compréhension, que cette initiative revient davantage aux machines qu’à nous-mêmes. Et que notre réel s’y consomme d’abord, puis s’y épuise et s’y consume. Je le redis, chaque nouvelle simulation enlève au réel. Quand Trump annonce vouloir transformer Gaza en Riviera, des milliers d’images et de vidéos « génératives » viennent instantanément illustrer, montrer, filmer, documenter cet impossible, ce délire macabre autant que cynique. Ce qui était et aurait du rester impossible, y compris à formuler, devient sous le poids des générations illustratives un embranchement possible du futur qui nous est proposé comme instantanément disponible pour nos sens et nos imaginaires. C’est en cela qu’il enlève au réel, au seul réel possible qui est celui d’un arrêt des massacres en cours. Il ne s’agit pas uniquement d’élargir la fenêtre d’Overton mais bien de bâtir autour d’elle l’ensemble la totalité de la barre d’immeuble où elle ne sera plus qu’une fenêtre parmi d’autres, de faire exister la réalité qu’elle inaugure pour laisser au réel encore moins de chance de pouvoir la limiter ou la contraindre rapidement. C’est aussi cela que Trump a sinon compris, du moins intuitivement senti, et qui le fait tant à l’aise dans ces médias sociaux où prime l’expression courte et bouffonne : la parole politique, sa parole politique, se suffit au lit de Procuste tant que l’image y tient les dimensions voulues. Gaza en Riviera. Voilà ce qui seul doit tenir. Le reste s’abîme, s’épuise et s’effondre derrière ces dispositifs techno[-logo]rrhéiques pensés pour l’emballement viral et dont les IA et autres artefacts génératifs ne sont que la dernière – mais non ultime – instance contemporaine.

Les 3 chambres.

Depuis longtemps dans l’analyse des médias on utilise le concept de « chambre d’écho » pour désigner de manière métaphorique, le fait que « l’information, les idées, ou les croyances sont amplifiées ou renforcées par la communication et la répétition dans un système défini. »

Avec l’arrivée des médias sociaux, se fait jour chez Eli Pariser le concept de « bulle(s) de filtre« , cette idée que les algorithmes des moteurs de recherche comme des grands médias sociaux tendent à nous enfermer dans nos propres croyances et convictions.

Aujourd’hui, avec l’essor et la place que prennent les différents artefacts génératifs à l’identique de ChatGPT, des chercheurs (Jacob, Kerrigan, Bastos 2025) parlent d’un « Chat-Chamber effect ». Rien à voir avec les matous qui ont conquis l’internet, le « chat » doit être lu et compris comme le « Tchat », et caractérise l’un des biais de nos échanges conversationnels avec des artefacts génératifs, lequel biais désigne les informations incorrectes mais allant dans le sens du questionnement de l’utilisateur que les grands modèles de langage peuvent fournir ; des résultats et informations qui restent non contrôlées et non vérifiées par les mêmes utilisateurs mais auxquels ces mêmes utilisateurs font pourtant confiance. Le titre complet de leur article est ainsi : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Derrière ces 3 déclinaisons d’une même tendance à trois époques contemporaines successives, se jouent deux choses. D’abord des dynamiques médiatiques qui s’interpénètrent pour forger, favoriser et figer une certaine logique ou esthétique de réception des discours qui s’y tiennent. Ensuite une affordance informationnelle première qui est l’inverse du doute raisonnable : ces systèmes médiatiques ont pour affordance première leur capacité à nous faire croire qu’ils disent le vrai : les logiques virales de partage (« si c’est tant partagé c’est bien que ça doit être vrai« ), le dispositif de proximité (illusoire) avec l’énonciateur (« si c’est lui qui le dit alors cela doit être vrai« ), le biais de disponibilité (des informations délibérément erronées ou mensongères sont plus immédiatement accessibles et rendus visibles que d’autres plus sourcées) ne sont que quelques-uns des leviers de cette affordance de vérité supposée.

Depuis plus de 20 ans j’explique et documente le fait que les algorithmes sont des éditorialistes comme les autres, mais qui avancent essentiellement masqués et que les IA et autres artefacts génératifs installent dans une sorte de théâtre total, « gestes, sons, paroles, feus, cris« , dont plus personne n’est en capacité de comprendre les codes.

A.M.I. : Assemblage Machinique Informationnel.

L’arrivée des artefacts génératifs ajoute une dimension nouvelle et passablement problématique au tableau contemporain de la fabrication de nos croyances et adhésions. Jusqu’ici, moteurs de recherche et réseaux sociaux jouaient sur le levier déjà immensément puissant de leurs arbitraires d’indexation et de publication (le fait de choisir ce qu’ils allaient indexer et/ou publier) ainsi que sur celui, tout aussi puissant, de la hiérarchisation et de la circulation (viralisation) de ce qui pouvait être vu et donc en creux de ce qu’ils estimaient devoir l’être moins ou pas du tout.

Choisir quoi mettre à la « Une » et définir l’agenda médiatique selon le vieux précepte de « l’agenda setting » qui dit que les médias ne nous disent pas ce qu’il faut penser mais ce à quoi il faut penser. Ce principe premier de l’éditorialisation se double, avec les artefacts génératifs conversationnels à vocation de recherche, d’une capacité à produire des sortes d’assemblages machiniques informationnels, c’est à dire des contenus uniquement déterminés par ce que nous interprétons comme un « devenir machine** » en capacité de « phraser » les immenses bases de données textuelles sur lesquelles il repose. Des machines à communiquer mais en aucun cas, comme le souligne aussi Arthur Perret, en aucun cas des machines à informer.

** [ce « devenir-machine » est à lire dans le sens du « devenir-animal » chez Deleuze et Guattari : « le “devenir-animal” ne consiste pas à “imiter l’animal, mais d’entrer dans des rapports de composition, d’affect et d’intensité sensible” ».]

Ce concept d’assemblage machinique informationnel me semble intéressant à penser en miroir ou en leurre des agencements collectifs d’énonciation théorisés par Félix Guattari. D’abord parce qu’un assemblage n’est pas un agencement. Il n’en a justement pas l’agentivité. Il n’est mû par aucune intentionnalité, par aucun désir combinatoire, calculatoire, informationnel, communicationnel ou social. Ensuite parce que la dimension machinique est antithétique de la dimension collective, elle en est la matière noire : ChatGPT (et les autres artefacts génératifs) n’est rien sans la base de connaissance sur laquelle il repose et les immenses réservoirs de textes, d’images et de contenus divers qui ont été, pour le coup, assemblés, et sont l’oeuvre de singularités fondues dans un collectif qui n’a jamais été mobilisé ou sollicité en tant que tel. Enfin, l’information est ici un degré zéro de l’énonciation. L’énonciation c’est précisément ce qui va donner un corps social à ce qui étymologiquement, a donc déjà été « mis en forme » (in-formare) et se trouve prêt à être transmis, à trouver résonance. ChatGPT est l’ombre, le simulacre, le leurre d’une énonciation. Et cette duperie est aussi sa plus grande victoire.

La question du langage s’est déplacée. Un grand déplacement. Quelque chose qui n’est plus aligné entre le territoire du monde et la langue qui en est la carte.

Apostille(s). 

Pendant que nos réels sont saturés et épuisés d’IA, en Israël, un spot de publicité pour une entreprise d’armement utilise pour la première fois des images réelles d’une attaque de drone à Gaza. C’est à la fois la plus cynique et la plus perverse des formes de publicitarisation. Pendant ce temps Youtube dévoile un système baptisé « Peak Points » qui utilise son IA « Gemini » pour insérer des publicités aux moments où l’attention des spectateurs est supposément la plus forte grâce à l’exploitation de données « émotionnelles » (ou qui sont en tout cas supposées rendre compte de notre état émotionnel).

Couplez maintenant ces deux informations et déterminez sans algorithme votre propre état émotionnel …

De manière plus anecdotique, on constate un jaunissement par contamination de nombreuses images générées artificiellement. Les animaux étaient malades de la peste, les IA le sont déjà de consanguinité. Pendant ce temps encore, Youtube fait des retouches de vidéos sans en avertir les créateurs, pour « rapprocher esthétiquement le rendu des vidéos de ce que l’IA générative peut proposer. » Standardiser la consanguinité des contenus générés.

Pendant ce temps, des images pédocriminelles générées par IA sèment autant le trouble que le doute et entravent les démarches déjà si complexes du travail de police et de justice. La volumétrie des faux-positifs est ici la première alliée des pédocriminels. Et une nouvelle fois la charge de la preuve s’inverse comme si souvent dans l’histoire du numérique : il ne s’agit plus de pouvoir détecter la marginalité de faux-positifs sur un volume de contenus donnés, il s’agit de la maximiser pour que les résultats « sincères » soient marginalisés.

En 1985, dans un entretien où elle était interrogée sur sa vision de l’an 2000, Marguerite Duras prophétisait avec une rare acuité « Il n’y aura plus que des réponses. Tous les textes seront des réponses. (…) »  Nous sommes au moment où tout comme après l’avènement des moteurs de recherche au début des années 2000, il n’y a plus, aujourd’hui, que des réponses. De fausses réponses pourrait-on donc ajouter.

Marguerite Duras poursuivait : « Un jour un homme il lira. Et puis tout recommencera. » L’inflation des artefacts génératifs dans l’ensemble de nos écosystèmes informationnels et des sphères de nos savoirs sociaux (école, université, cercles politiques, etc.) pose autant la question de savoir ce qu’il restera encore à lire, que celle de savoir si nous serons en peine d’encore pouvoir écrire un destin commun. Christian Salmon le rappelait aussi dans sa récente analyse sur ce nouvel ordre narratif en train de s’imposer : « La prolifération de ces narrations non humaines interroge le devenir de l’humanité tout entière. »

La question du langage s’est déplacée, et notre technorrhée ressemble à s’y méprendre aux vers de Macbeth : un conte raconté par un idiot (ils sont en fait plusieurs), plein de bruit et de fureur, ne signifiant plus rien. (« It is a tale / Told by an idiot, full of sound and fury / Signifying nothing« ).

J’étais donc l’autre jour (mercredi) convoqué Au Poste chez le camarade David Dufresne pour une petite causerie autour de mon article sur le web pourrissant et l’IA florissante. L’émission est disponible gratuitement (grâce aux abonné.e.s de la chaîne, abonnez-vous si vous le pouvez). Cela dure un peu plus d’une heure, ça cause IA, web, indépendance, Bourdieu, distinction et plein d’autres choses encore. C’est dispo sur Youtube et Peertube. Dans tous les cas, rendez-vous Au Poste aussi souvent que vous le pourrez.

Comme je le fais depuis quelques temps, certains de mes textes sont initialement publiés dans la revue AOC avant d’être republiés ici en version gratuite après embargo de 2 mois (sachant qu’AOC vous offre un article par mois gratuitement en échange de votre adresse mail).

Mon dernier texte s’intitule « Le réel, le vrai et la technorrhée. Comment la question du langage s’est déplacée. » Il est disponible sur AOC depuis le 20 octobre 2025 (et sera donc republié ici fin décembre). C’est un texte assez long et assez dense qui propose plusieurs concepts (celui de technorrhée, celui « d’assemblages machiniques informationnels », et quelques autres encore), travaille plusieurs aspects de l’IA au travers des différents générateurs (de texte, d’image, de vidéo), qui revient aussi sur les cadres discursifs et langagiers qui se trouvent bousculées et remodelés et tente de replacer ces dernières évolutions dans le temps long des espaces discursifs en ligne, qui ont, depuis l’invention des plateformes de médias sociaux, toujours été davantage astreignants que libératoires. Parmi quelques-uns des aspects développés dans ce texte, je vous livre ici deux courts extraits qui, je l’espère, vous donneront envie de lire l’ensemble sur AOC (et de vous y abonner, c’est un espace de réflexion et de respiration aussi salutaire que nécessaire dans l’époque actuelle).

Extrait 1.

« Il y a deux niveaux différents sur lesquels penser la complexification de nos anciennes heuristiques de preuve. D’abord la documentation récréative, ludique ou fictionnée du monde : l’enjeu est alors celui de la dissimulation ; il faut soit faire en sorte que le destinataire ne voit pas la simulation, soit qu’elle se dise pour ce qu’elle est (un « dit » de simulation) et qu’elle suscite l’étonnement sur sa nature. Et puis il y a la documentation rétrospective de tout ce qui fait histoire dans le temps long ainsi que celle qui concerne l’actualité. C’est alors l’exemple de la vidéo du SIG que j’évoquais plus haut, où le moindre casque à pointe nous fait basculer de l’ahurissement à l’abrutissement.

On croit souvent – et l’on s’abrite derrière cette croyance – que chaque simulation, chaque nouvelle production documentaire générée par intelligence artificielle, ajoute au réel. C’est totalement faux. Chaque nouvelle simulation enlève au réel. Parce que le réel historique n’est pas un réel extensible : il peut se nourrir de représentations historiques mouvantes au gré de l’historiographie et de l’émergence de preuves ou de témoignages, mais chaque nouvelle génération de ce réel historique potentiel va venir se sédimenter dans l’espace public mémoriel dont la part transmissible est extrêmement ténue et s’accommode mal d’effets de concurrences génératives. La question, dès lors, n’est pas tant de condamner les utilisations imbéciles ou négligentes de technologies d’IA pour illustrer un fait historique mais, par exemple, de savoir comment mieux rendre visible et faire pédagogie de la force incroyable d’authentiques images d’archives.

Nos imaginaires sont des réels en plus. Les effets de réel produits par les artefacts génératifs sont des imaginaires en moins.

(…) Il est en train de nous arriver exactement la même chose avec l’ensemble de l’actuelle panoplie des artefacts génératifs disponibles, de Genie 3 à ChatGPT5 : nous ne multiplions pas nos capacités collectives à faire récit (que ces récits soient imaginaires, réels ou réalistes et que leur support premier soit celui du texte, de l’image ou de la vidéo), nous les standardisons et nous nous enfonçons dans des dynamiques de reproduction qui se nourrissent de toutes les formes possibles de confusion ; une confusion entretenue par des formes complexes d’indiscernabilité qui tiennent à l’immensité non auditable des corpus sur lesquels ces IA et autres artefacts génératifs sont « entraînés » et ensuite calibrés.

Extrait 2.
À propos de ce que je nomme « Assemblages machiniques informationnels »

L’arrivée des artefacts génératifs ajoute une dimension nouvelle et passablement problématique au tableau contemporain de la fabrication de nos croyances et adhésions. Jusqu’ici, moteurs de recherche et réseaux sociaux jouaient sur le levier déjà immensément puissant de leurs arbitraires d’indexation et de publication (le fait de choisir ce qu’ils allaient indexer et/ou publier) ainsi que sur celui, tout aussi puissant, de la hiérarchisation et de la circulation (viralisation) de ce qui pouvait être vu et donc en creux de ce qu’ils estimaient devoir l’être moins ou pas du tout.

Choisir quoi mettre à la « Une » et définir l’agenda médiatique selon le vieux précepte de « l’agenda setting » qui dit que les médias ne nous disent pas ce qu’il faut penser mais ce à quoi il faut penser. Ce principe premier de l’éditorialisation se double, avec les artefacts génératifs conversationnels à vocation de recherche, d’une capacité à produire des sortes d’assemblages machiniques informationnels, c’est à dire des contenus uniquement déterminés par ce que nous interprétons comme un « devenir machine** » en capacité de « phraser » les immenses bases de données textuelles sur lesquelles il repose. Des machines à communiquer mais en aucun cas, comme le souligne aussi Arthur Perret, en aucun cas des machines à informer.

** [ce « devenir-machine » est à lire dans le sens du « devenir-animal » chez Deleuze et Guattari : « le “devenir-animal” ne consiste pas à “imiter l’animal, mais d’entrer dans des rapports de composition, d’affect et d’intensité sensible” ».]

Ce concept d’assemblage machinique informationnel me semble intéressant à penser en miroir ou en leurre des agencements collectifs d’énonciation théorisés par Félix Guattari. D’abord parce qu’un assemblage n’est pas un agencement. Il n’en a justement pas l’agentivité. Il n’est mû par aucune intentionnalité, par aucun désir combinatoire, calculatoire, informationnel, communicationnel ou social. Ensuite parce que la dimension machinique est antithétique de la dimension collective, elle en est la matière noire : ChatGPT (et les autres artefacts génératifs) n’est rien sans la base de connaissance sur laquelle il repose et les immenses réservoirs de textes, d’images et de contenus divers qui ont été, pour le coup, assemblés, et sont l’oeuvre de singularités fondues dans un collectif qui n’a jamais été mobilisé ou sollicité en tant que tel. Enfin, l’information est ici un degré zéro de l’énonciation. L’énonciation c’est précisément ce qui va donner un corps social à ce qui étymologiquement, a donc déjà été « mis en forme » (in-formare) et se trouve prêt à être transmis, à trouver résonance. ChatGPT est l’ombre, le simulacre, le leurre d’une énonciation. Et cette duperie est aussi sa plus grande victoire.

La question du langage s’est déplacée. Un grand déplacement. Quelque chose qui n’est plus aligné entre le territoire du monde et la langue qui en est la carte.

La suite ici :

Chapitre 1er.
Le web pourrissant et l’IA florissante.

Nos espaces discursifs en ligne, nos médias sociaux, sont déjà largement contaminés de contenus entièrement générés par IA. Les proportions peuvent varier d’un média à l’autre mais il s’agit de bien plus qu’une simple tendance, il s’agit de l’aboutissement d’un changement complet de paradigme. Après avoir été acteurs et actrices de la production de contenus, après avoir été essentiellement spectateurs et spectatrices de contenus publiés par d’autres que nous appartenant à différents sphères « d’influence » ou de médias, nous sommes aujourd’hui entrés dans une ère où des contenus produits par des IA phagocytent et recouvrent la quasi-totalité des contenus qui nous sont proposés. Il ne s’agit pas ici de rejoindre la théorie conspirationniste du « Dead Internet » selon laquelle les bots seraient en charge et à l’origine de la totalité du trafic en ligne ainsi que des contenus produits afin de mettre l’humanité sous coupe réglée, mais de constater que les bots et les contenus générés par IA … sont désormais à l’origine d’une majeure partie du trafic en ligne des des contenus produits. Pas de complot donc mais une question : que peut-il se produire dès lors que la réalité de nos espaces informationnels et discursifs en ligne est effectivement majoritairement produite par des bots et des IA. Bref, le pitch d’un excellent bouquin : « Les IA à l’assaut du cyberespace : vers un web synthétique. » Et sans divulgâcher la suite de cet article, il est évident qu’il ne peut pas en sortir grand chose de bon.

D’autant que ces contenus générés par IA et autres artefacts génératifs, sont devenus un nouvel horizon du capitalisme sémiotique et que la totalité de nos ectoplasmiques plateformes sociales annoncent vouloir s’y engouffrer, et s’y engouffrer massivement. Le groupe de Mark le Mascu annonce ainsi le lancement de Vibes, qui va se présenter comme un fil (feed) présentant uniquement des vidéos créées par IA (et par d’autres que nous parce qu’une fois qu’on aura fait joujou 5 minutes avec on se contentera de faire défiler). Le phénomène de « Slop AI » devient non plus un « encombrement » ou une « bouillie » numérique mais une ligne éditoriale revendiquée. De son côté, Singularity Sam (Altman) annonce le lancement de devinez quoi ? Bah oui, un réseau social sur le modèle de TikTok et entièrement dédié aux contenus vidéos générés par IA (des contenus directement issus de Sora, la plateforme de génération de vidéos par IA d’Open AI, ou comme on dit dans le milieu des égoutiers et autres fabriquants de pompes à merde, « Garbage In, Garbage Out« ). Toutes proportions gardées, c’est un peu comme si au début des années 2000 avec l’explosion du Spam (contenus, souvent publicitaires, non sollicités et invasifs) on avait dit « Oh vazy c’est cool, on va mettre en avant le Spam, on va faire des médias avec juste du Spam dedans« . La seule différence c’est qu’aujourd’hui le Spam du Slop (vous suivez ?) est essentiellement constitué d’animaux mignons et autres contenus suffisamment débiles pour être consommés rapidement et à coût cognitif nul, et suffisamment « engageants » pour nous faire croire qu’on ne perd pas totalement nos vies à regarder des trucs débiles. Et ce n’est pas près de s’arrêter, car pour l’instant en tout cas, la production de ces contenus « Slop » est une manne financière conséquente, car ces VAAC (Vidéos Artificielles A la Con, bah quoi moi aussi j’acronymise si je veux), car ces VAAC ** disais-je sont certes tout aussi répétitives et ennuyeuses que d’autres avant elles, mais elles agrègent un grand nombre de vues, et donc de monétisation, et beaucoup de Youtubeurs et Youtubeuses s’en frottent déjà les mains.

** Sur Mastodon, le camarade Tristan Nitot propose le concept de VACCUM : « Vidéos Artificielles à la Con Universellement et Uniformément Merdiques. »

Pour l’instant uniquement disponibles aux US, ces applications ont pu être testées, notamment par Michaël Szadkowski de l’équipe Pixels du Monde :

Le 7 octobre, entouré de collègues curieux, nous découvrons, entre amusement et effarement, la réalité concrète de ces deux applications. Un chat faisant du skateboard. Un lion jouant du djembé. Jésus câlinant un enfant. Une grand-mère en roue arrière sur une Harley.

Défile sous nos yeux une forme de reconnaissance du « brainrot » (abrutissement numérique) et autre « slop » (contenus IA de faible qualité et produits à la chaîne) qui prospéraient jusqu’ici à la marge des réseaux. Ici, ces formats sont pleinement assumés, une nouvelle forme de divertissement, d’expérience collective – et de source de revenus, de l’aveu même de Sam Altman, le PDG d’OpenAI.

Par-delà la facilité de générer ces vidéos sur la base d’un simple prompt, par-delà les fonctionnalités de mise en scène de soi dans lesdites vidéos au moyen d’une fonction « caméo » vous permettant de vous ajouter (votre avatar en tout cas) au coeur de n’importe quelle scène, et par-delà l’immensité subséquente des problèmes que cela peut poser selon les usages – et les âges – de celles et ceux qui utiliseront ces fonctions, c’est le sentiment qu’après plus d’un quart de siècle d’internet « grand public » nous n’avons rien compris, ou qu’en tout cas les propriétaires de ces plateformes n’ont rien appris, car comme le relate encore Michaël Szadkowski  :

Rapidement, sans même parler de la culpabilité liée au bilan carbone de nos expériences, les problèmes s’accumulent. Générer une version obèse, plus maigre ou plus musclée de mon caméo a été un jeu d’enfant. De même que de me faire tenir des propos ou des gestes condamnés par la loi, de faire de la pub de services douteux ou de danser avec une célébrité sulfureuse. On devine aussi les immenses problèmes à venir en termes de détournements. Surtout que la plupart des vidéos générées dans les brouillons d’un utilisateur peuvent être téléchargées, sauf quand elles contiennent un caméo de quelqu’un d’autre.

Si besoin, croisez aussi cela avec les récentes annonces d’Open AI de permettre à ChatGPT d’avoir des conversations « érotiques », et avec les révélations sur le fait que le groupe Méta entraîne ses modèles d’IA à des conversations érotiques avec des mineurs** et vous aurez une idée à peu près exacte de l’irresponsabilité autant que du cynisme le plus crasse des dirigeants de ces plateformes.

** à ce propos je vous invite à lire l’enquête de Reuters qui a rendu publics des documents internes dans lesquels les limites de « l’acceptable » sont définies face à des prompts dans lesquels une petite fille de 8 ans se dénude (enlève son t-shirt) devant l’écran et demande à l’assistant IA son ‘avis’, ou cet autre exemple dans lequel le prompt consiste à demander d’argumenter sur le fait que les noirs seraient plus cons que les blancs (sic). Dans tous les cas, les réponses jugées et définies comme « acceptables » par le groupe Méta permettent de mesurer toute l’étendue de l’absolue bêtise et de la dangerosité critique de celles et ceux définissant lesdits cadres d’acceptabilité, et qui ne sont rien moins que « les équipes juridiques, de politique publique et d’ingénierie de Meta, y compris son responsable de l’éthique. »  Puissent l’ensemble de ces connards décérébrés être rapidement mis à grande distance de toute forme de responsabilité juridique ou éthique dans quelque secteur que ce soit.

D’autant que ce même groupe Méta annonce sans broncher et un mois à peine après les révélations de Reuters, qu’il va « lancer des comptes spéciaux pour les ados sur Facebook et Messenger« , des outils « pensés pour protéger les jeunes en ligne. » Autant confier la justice des mineurs à Jean-Marc Morandini.

Vous aurez donc compris qu’il va être très compliqué d’analyser tout ça autrement que sous l’angle d’un gigantesque tsunami de merde. Mais pour m’efforcer d’être moins grossier et plus constructif, j’ai en tête le modèle mathématique de la communication proposé par Claude Shannon (en 1949), un modèle dans lequel il s’agissait (en gros) de comprendre comment optimiser la transmission d’un message en limitant le « bruit », c’est à dire tout signal parasite entre l’encodage et le décodage de l’information transmise. Avec ce célèbre schéma que tous et toutes les étudiant.e.s passées par le champ de l’information et de la communication ont eu sous les yeux :

Et ce souvenir en tête, la situation dans laquelle nous placent aujourd’hui l’ensemble des médias sociaux nous inondant de contenus générés par IA bien plus que par nous-mêmes, notamment par l’usage de « prompts » qui sont moins des « commandes » faites à des systèmes que des assignations et des injonctions faites à nous-même de s’inscrire dans ces dynamiques de générations, cette situation c’est que dans ce schéma global de la communication, j’ai le sentiment que nous ne sommes plus que le bruit. Nous sommes cet élément que Shannon et son camarade Weaver essayaient de réduire et de limiter. Nous sommes le bruit de ces plateformes qui n’aspirent finalement qu’à communiquer sans nous autrement que comme spectateurs assignés à justifier leur existence (celle des plateformes hein, pas celle des spectateurs, suivez un peu quoi). Chacun de nos prompts ajoute au bruit de cette grande lessiveuse qui choisira de ne visibiliser que la part qu’elle estimera immédiatement rentable de nos im-prompt-us murmures, de nos souffles, de nos cris, de nos ahurissements et de nos consentements à l’étrangeté de ces mondes générés pour rien. J’écrivais récemment dans une analyse parue sur AOC à propos de ce que j’appelais une « technorhée » que « les effets de réel produits par les artefacts génératifs sont des imaginaires en moins » : s’il s’agit d’imaginaires en moins c’est aussi parce ce que l’ensemble de ces générations artificielles sont du réel en trop, du réel pour rien. Et le reste, tout le reste, retournera au silence des plateformes.

Nous ne sommes plus que le bruit. Mais si nous sommes le bruit, alors qui sera la fureur ?

Chapitre 2nd.
Des moteurs de recherche aux super-assistants dopés à l’IA ?

Il y a une dizaine de jours (21 Octobre 2025) OpenAI a annoncé la sortie de son nouveau « super-assistant » baptisé « Atlas », qui est un navigateur intégrant toutes les fonctionnalités de ChatGPT présentées à la manière d’un moteur de recherche.

« ChatGPT Atlas est un navigateur conçu avec ChatGPT qui vous rapproche d’un véritable super assistant, capable de comprendre votre univers et de vous aider à atteindre vos objectifs » 

Alors évidemment il s’agit d’une nouvelle offre de service « logique » dans la guerre de position qui doit permettre à OpenAI de venir butiner sur les terres de ses concurrents directs, Google en tête. Et à ce titre et à l’échelle du web, « sortir » ChatGPT de sa « page » et propulser un navigateur dans lequel il fera office de moteur est tout à fait cohérent. Ce n’est pas pour autant que la bascule des usages se fera car à l’échelle des navigateurs justement, les habitudes ont la vie dure. Du côté des moteurs de recherche aussi d’ailleurs : Google peine à imposer les usages de Gemini (son IA maison) dans le cadre d’usage du moteur de recherche, pas sûr que OpenAI arrive à imposer l’usage d’un assistant IA comme un nouveau moteur de recherche. Nous y reviendrons. Mais bon il eût été dans tous les cas incompréhensible qu’OpenAI ne tente pas le coup. De fait l’expérience (j’ai testé) d’Atlas est rapidement assez déceptive en ce sens qu’elle oblige à passer par l’installation d’un navigateur et qu’en termes de fonctionnalités on n’a pas grand chose de plus que ce qui était déjà proposé sur la page dédiée à ChatGPT sur le site d’OpenAI (mais cela permet au passage à OpenAI de s’installer sur votre machine et de vous demander de récupérer l’ensemble de vos contacts, signets, mots de passe, réglages divers, etc.)

La seule valeur ajoutée réelle est celle de la fonction « agent » décrite comme suit par Alexandre Piquard sur Le Monde :

Le navigateur intègre aussi la fonction « agent » de ChatGPT, par laquelle l’utilisateur peut demander à l’assistant d’accomplir pour lui des actions, notamment en surfant le Web : réserver des billets de théâtre, un restaurant ou un livre, faire des courses de supermarché en ligne, remplir un formulaire, trouver un e-mail de contact puis envoyer un message… L’IA est en principe capable de consulter des pages par lui-même et même, avec autorisation de l’utilisateur, de se connecter à des services protégés par mot de passe, par exemple pour faire des achats en ligne. La fonctionnalité « agent » est toutefois réservée aux abonnés payants de ChatGPT.

Ce qui m’intéresse donc dans l’annonce du lancement d’Atlas (Titan mythologique assez fort pour supporter le poids de la voûte céleste et assez débile pour céder à la ruse de CE1 d’Héraclès à qui il avait réussi à la refiler), c’est précisément le narratif qui l’accompagne en tant que « super assistant ». En résumé ce narratif me semble être le nouveau signe d’une bascule anthropo-technique proche de son aboutissement. Car face à des nouveaux « assistants » ou « super assistants » nous sommes essentiellement désignés comme les assistés, les super assistés. Et face aux nouveaux « agents » conversationnels qui prennent en charge (notamment) nos recherches et qui, comme je l’expliquerai plus bas, « font à notre place », nous sommes désignés comme de nouveaux « mandants », presque de nouveaux « mand-IA-nts » (mais qui n’ont hélas rien de clochards célestes). Comment en sommes-nous arrivés là ?

Il fut un temps où la désignation des circulations possibles à l’échelle de l’internet et du web étaient de claires métaphores. Nous avions des « navigateurs« , lesquels utilisaient des « moteurs » ; et parfois sans moteur mais toujours en navigateur on se contentait de « surfer« . Pour se repérer on connaissait des adresses (URL) qui étaient autant de phares, de rives déjà apprivoisées ou de rivages à découvrir.

Et puis. Puis les moteurs de « recherche » sont devenus des moteurs de « réponses ». Puis les adresses (URL) se sont effacées, rétrogradées au second plan, amputées au-delà de leur racine, considérant que plus personne n’avait à se soucier de les retenir et nous privant du même coup d’une autre possibilité de s’orienter en dehors des déterminismes techniques servant de béquilles à nos mémoires. Et donc aujourd’hui, plus de moteurs ou de navigateurs, ou plus exactement qu’importent les moteurs et les navigateurs, nous serons « super assistés » par de « super assistants », et deviendrons donc « mandants » de ces nouveaux « agents ».

Chapitre 3ème.
Des technologies de la déprise qui ouvrent de nouveaux horizons d’emprise.

Depuis les NTIC (nouvelles technologies de l’information et de la communication) et les métaphoriquement célèbres « autoroutes de l’information », depuis aussi cette idée idiote que « l’internet » serait un « Far-West » (Sarkozy, 2007) et autres récurrences tout aussi crétines de l’idée qu’il faudrait « reciviliser internet » (Mounir Mahjoubi en 2018) en passant par l’inénarrable Frédéric Lefebvre en 2009 et sa diatribe Kamoulox entre Hadopi, jeunes filles violées et identité nationale (sic) et jusqu’à tout récemment Clara Chappaz (2025) qui ressort le coup du Far-West à l’occasion de la mort de Raphaël Graven, chacun voit bien que la question de ces technologies est avant tout de nature politique. Et que ce qu’elles viennent bousculer dans nos schémas de communication et d’information est tout ce qui tient à notre capacité de faire société c’est à dire à nourrir des formes de sociabilités informationnelles, affectives et cognitives qui dessinent une réalité partagée.

La question des infrastructures technologiques n’est évidemment pas neutre dans l’équation, elle est même déterminante (à ce sujet lisez ou relisez Cyberstructure de Stéphane Bortzmeyer). Mais nous héritons d’un monde où la question politique de ces technologies et de leurs infrastructures n’a été posée en termes à peu près correct qu’à partir du moment où précisément elles avaient déjà commencé à ronger les structures même du débat public et politique tout autant que ses conditions pratiques d’exercice. L’histoire est malheureusement connue, à force de se concentrer sur la ruée vers l’or personne n’a noté que les seuls à faire réellement fortune étaient les fabricants de pelles. Et bien voici venu le temps des coups de pelle dans la tronche.

Pour sortir de cette qualification dépolitisante de « NTIC » beaucoup ont proposé d’autres dénominations. Pour ma part j’ai suggéré de questionner les NTAD, nouvelles technologies de l’attention et de la distraction. J’ai aussi et surtout interrogé la question de la déprise, c’est à dire la capacité de ces technologies à nous placer en situation de dépendance choisie, de nous installer dans des routines à coût cognitif nul, et finalement de presque tout faire à notre place, et inexorablement, de ne plus répondre à nos commandes que dans un « à peu près » qui nous satisfasse au regard de l’habitude prise à ne plus nous soucier de la précision du monde et de ce qui le constitue. Je vous invite à relire mon article de 2018 dans lequel j’explique tout cela avec de nombreux exemples et où je proposais l’insatisfaisant concept de « technologies de l’à peu près et de l’à ta place » que je requalifie donc aujourd’hui comme des technologies de la déprise (voilà pour le côté « à peu près ») et de l’emprise (voilà pour le côté « à ta place »). A partir de deux exemples « d’innovation » j’y montrais notamment ceci :

« Ce qui m’intéresse dans cette affaire c’est la chose suivante : nous avons donc un algorithme qui s’occupe de recadrer automatiquement les photos que nous prenons, au risque de nous faire prendre des photos que nous ne voulions pas prendre, ou en tout cas de donner à voir une « composition photographique » qui n’est pas celle que nous voulions montrer. Et ce « choix algorithmique » de recadrage, dont on nous dit qu’il est là pour permettre d’optimiser – paradoxalement – la visibilité, se trouve lui-même soumis au choix algorithmique conditionnant la visibilité du Tweet lui-même, indépendamment des photos recadrées qu’il contient. Soit un empilement de strates et de régimes algorithmiques d’obfuscation et de dévoilement, sur lesquels nous n’avons quasiment plus aucune prise (de vue).

Là encore, comme pour Clips de Google mais à un niveau légèrement différent, l’usage de la technologie nous installe dans une position que l’on pourrait qualifier « d’assistance contrainte » : nous n’avons pas demandé à ce que nos photos soient recadrées, mais nous n’avons pas d’autre choix en les soumettant que de les voir recadrées. La technologie et l’algorithme de machine-learning le font à notre place. TIYS (Technology In Your Stead) & AIYS (Algorithms In Your Stead). La négociation dans l’usage se jouant autour de la promesse de gain de visibilité pour l’utilisateur (et donc d’interaction ou d’engagement pour la plateforme).

Aujourd’hui l’ensemble des contenus produits par IA sont l’incarnation finale de ces technologies qui font à la fois « à peu près » et « à notre place ». Donnez-leur un prompt et vous aurez une projection qui sera « à peu près » ce que vous imaginiez, et qui surtout sera produite « à votre place » au double sens du terme, c’est à dire depuis votre place qui est une place à distance de l’acte de création, mais également qui vous départit de l’essentiel même de ce qu’imaginer ou créer veut dire.

Chapitre 4ème
À moins de revoir la doctrine entre le statut d’éditeur et celui d’hébergeur

J’ai le sentiment qu’il est beaucoup trop tard et que la seule manière de remettre un peu d’eau claire dans ce flot de merde, c’est de revenir sur une constante qui fut pourtant fondamentale et constitutive de l’histoire du web et des plateformes. Il faut que les plateformes soient immédiatement considérées comme totalement et pleinement éditrices des contenus qu’elles font circuler. De tous les contenus ? Oui. Voici pourquoi et voici aussi comment cela pourrait permettre de résoudre le problème qu’Emmanuel Macron résume parfaitement (bah oui faut le dire parfois il résume bien les trucs) mais en omettant de parler de l’autre éléphant dans la pièce, c’est à dire les « autres » médias classiques, traditionnels et pas spécialement sociaux mais qui sont au moins autant coupables de l’effondrement démocratique qui se dessine.

Parce que t’as raison Manu, on tape Islam sur TikTok et on tombe en trois clics sur des contenus salafistes. Mais je te rappelle qu’on dit « Bonjour » sur CNews et on tombe encore plus rapidement sur des contenus racistes éditorialisés par des gens condamnés pour corruption de mineurs et harcèlement sexuel, donc bon voilà quoi.

Oh oui reprends-moi le contrôle et enfourchons le tigre.

[Si vous êtes familiers de la distinction entre éditeur et hébergeur et de tout ce qui tient à la « section 230 », vous pouvez directement sauter ce passage et on se retrouve après les crochets, sinon je vous invite à lire l’article d’Anne Deysine dans l’excellentissime Revue Européenne des médias et du numérique, et vous en partage l’extrait qui suit :

« La section 230 a été ajoutée à la loi Communications Decency Act (CDA) de 1996 (qui visait à réguler la pornographie) grâce au lobbying de ceux que les chercheuses Mary Ann Franks et Danielle Keats Citron appellent les « fondamentalistes de l’internet » : ceux qui défendent une vision du web comme espace paradisiaque de liberté totale. La section 230 (surnommée « les 26 mots qui ont créé l’internet ») fut, à l’origine, conçue pour encourager les compagnies de la Tech à nettoyer les contenus offensifs en ligne. Il s’agissait de contrer une décision rendue en 1995 dans l’État de New York, ayant conclu à la responsabilité de Prodigy qui avait modéré des contenus postés sur son site. La section 230 (c) (1) stipule qu’« aucun fournisseur d’accès ne sera traité comme un éditeur ». Un deuxième paragraphe, 230 (c) (2), précise qu’« aucun fournisseur ou utilisateur d’un service informatique interactif ne sera tenu responsable, s’il a de bonne foi restreint l’accès ou la disponibilité de matériaux qu’il considère être obscènes, excessivement violents, de nature harcelante ou autrement problématiques (otherwise objectionable), que cette information soit constitutionnellement protégée ou non. 

C’est ce qu’on appelle la disposition du « bon Samaritain », conçue comme plus limitée que le paragraphe (c) (1), car nécessitant de prouver la bonne foi.

Mais les juridictions étatiques et fédérales ont étendu la protection juridique bien au-delà de ce que prévoit le texte de la loi, avec pour résultat que les plateformes ne soient guère incitées à combattre les abus en ligne. La section 230 a, de fait, libéré les sites internet, les sites de streaming et les réseaux sociaux (pas encore nés en 1996), qui peuvent héberger du contenu extérieur sans être confrontés à la tâche (impossible ?) de vérifier et de contrôler tout ce qui est posté par les utilisateurs. Telle qu’interprétée par les juridictions fédérales, la section 230 confère aux plateformes et réseaux sociaux une immunité totale, quels que soient le contexte et le cas de figure (modération ou non). Avec pour conséquences, entre autres, la multiplication des mensonges et la prolifération de la désinformation et des discours de haine. Ils ont donc le pouvoir sans la responsabilité, selon les mots de Rebecca Tushnet. » in Deysine, Anne. « La section 230 : quelle immunité pour les réseaux sociaux ? » La revue européenne des médias et du numérique, 13 février 2024.

Pour rappel également, Trump s’est tour à tour « amusé », dans ce mandat comme dans son précédent, à brandir la menace de la suppression de la section 230 (quand ça l’arrangeait pour mettre la pression aux grands patrons de la tech qui tardaient à lui donner des gages de servilité) puis à en rappeler l’importance (dès lors que les gages de servilité avaient été obtenus et qu’il s’agissait alors pour lui de rétablir les plateformes dans une immunité totale au service de ses intérêts politiques.]

Reprenons.

Dans le contexte de l’explosion totalement dérégulée des contenus générés par IA, continuer aujourd’hui à prétendre encore distinguer entre un statut d’éditeur et un autre d’hébergeur en privilégiant ce dernier, c’est prétendre vouloir nettoyer les écuries d’Augias avec un coton-tige et un mi-temps thérapeutique. Il ne s’agit plus de dire que c’est trop tard (c’est en effet trop tard) ; il s’agit de dire que ce n’est simplement plus le sujet.

On ne peut plus considérer aujourd’hui que les très grandes plateformes actuelles de médias sociaux sont légitimes à continuer de s’abriter derrière un statut d’hébergeur. Elles ne le sont plus. Du tout. Leurs algorithmes tordent la réalité sous l’impulsion et les intentions claires et transparentes de l’idéologie de leurs propriétaires. Et elles ont toutes jusqu’ici absolument tout mis en place pour, à chaque fois que possible, se soustraire à leurs obligations légales ou à leurs engagements moraux.

Nous sommes au coeur d’un nouvel épisode du paradoxe de la tolérance de Popper : nous avons été beaucoup trop tolérants avec des grandes plateformes qui trop longtemps furent et continuent d’être la caution de toutes les intolérances. Tout a été dit et documenté sur le fait que toutes les plateformes ont non seulement parfaitement conscience des dérives et des dangers qu’elles représentent (notamment mais pas uniquement pour les publics les plus jeunes), sur les moyens dont elles disposent toutes pour immédiatement atténuer ces dangers et ces dérives, et sur les coupables atermoiements, reniements, dissimulations et mensonges qui les conduisent à ne rien mettre en place de significatif à l’échelle de l’immensité et de l’urgence des problèmes qu’elles posent. Je l’ai (et tant d’autres avec moi) tant de fois dit, écrit, montré et démontré et le redis encore une fois :

Après les mensonges de l’industrie du tabac sur sa responsabilité dans la conduite vers la mort de centaines de millions de personnes, après les mensonges de l’industrie du pétrole sur sa responsabilité dans le dérèglement climatique, nous faisons face aujourd’hui au troisième grand mensonge de notre modernité. Et ce mensonge est celui des industries extractivistes de l’information, sous toutes leurs formes. (…) Et même s’ils s’inscrivent, comme je le rappelais plus haut, dans un écosystème médiatique, économique et politique bien plus vaste qu’eux (…) les médias sociaux, sont aujourd’hui pour l’essentiel de même nature que la publicité et le lobbying le furent pour l’industrie du tabac et du pétrole : des outils au service d’une diversion elle-même au service d’une perversion qui n’est alimentée que par la recherche permanente du profit.

Autre fait incontestable de ce premier quart du 21ème siècle, aujourd’hui et lorsqu’ils ne disposent pas déjà d’un internet totalement fermé ou sous contrôle (comme en Chine ou en Russie par exemple), l’essentiel des pouvoirs politiques de la planète n’ont plus pour projet, ambition ou vocation de contrôler et de limiter le pouvoir de nuisance de ces plateformes mais tout au contraire de le maximiser et de le mettre à leur propre service ou, le cas échéant, à celui d’un agenda du chaos sur lequel ils espèrent pouvoir encore prospérer. Comme le rappelle très bien Fred Turner dans « Politique des machines » :

« L’une des plus grandes ironies de notre situation actuelle est que les modes de communication qui permettent aujourd’hui aux autoritaires d’exercer leur pouvoir ont d’abord été imaginés pour les vaincre. »

Il revient donc aux quelques états encore pleinement démocratiques (ou pas encore totalement illibéraux), en Europe notamment, de mettre immédiatement fin à la tolérance qui est faite à ces très grandes plateformes, de rompre avec leur statut d’hébergeur et de les rendre éditrices en droit. À celles et ceux qui m’objecteront que c’est impossible, je répondrai qu’il s’agit de l’une de nos dernières chances pour préserver l’espoir de vivre encore dans une forme de réalité partagée et consensuelle, et qui ne soit pas en permanence minée et traversée d’opérations massives de déstabilisation ou d’influence de plus en plus simples à initier et de plus en plus complexes à contrer (si vous êtes curieux de cela, regardez par exemple ce qui se passe actuellement autour de l’IA, des LLM et de la stratégie des « data voids » – données manquantes – et autres LLM Grooming). Et que si ce mur là continue de se fissurer et tombe, alors …

À celles et ceux qui disent que c’est impossible je répondrai aussi que refuser de le faire c’est continuer de nier la place et le rôle politique de ces plateformes et privilégier un argument de neutralité de la technique dont nous avons chaque jour démonstration de l’ineptie totale qu’il recouvre. C’est bien parce que ces plateformes sont avant tout politiques, c’est bien parce que ces plateformes sont dirigées par des hommes (et quelques rares femmes) aux agendas idéologiques clairs (et le plus souvent dangereux), c’est bien parce qu’ouvrir le code des algorithmes ne suffit plus, c’est bien parce qu’il s’agit de protéger des populations entières d’usages incitatifs qui tendent majoritairement à corrompre, à pourrir, à remettre en doute toute forme de réalité objectivable et partagée, c’est bien pour l’ensemble de ces raisons qu’il est aujourd’hui impérieux de sortir d’une logique où le statut d’hébergeur est systématiquement brandi comme la carte joker de l’effacement de toute responsabilité ou de toute contrainte.

Le maintient d’un statut d’hébergeur primant sur celui d’éditeur n’avait de sens que dès lors qu’il n’y avait pas plus qu’un doute raisonnable sur l’indépendance politique et idéologique des plateformes et de ceux qui les dirigent. Ce doute étant aujourd’hui totalement levé et démonstration étant faite quasi-quotidiennement de l’ingérence de ces plateformes dans chacune des strates et orientation du débat public comme des décisions politiques, il faut imposer un statut d’éditeur à toutes ces grandes plateformes et que ce statut prime sur des fonctions d’hébergeur qui peuvent, marginalement ou périphériquement leur être conservées. Bref il faut de toute urgence inverser la logique. Il faut que ces plateformes répondent en droit de leur responsabilité d’abord éditoriale ou il faut qu’elles s’effondrent. Tout autre scénario revient aujourd’hui à accepter l’effondrement à moyen terme de nos démocraties. Il nous faut un effet cliquet ; il nous faut « cranter » une décision suffisamment forte pour qu’elle change totalement les dynamiques en cours.

Depuis l’émergence des grands réseaux puis médias sociaux « grand public », disons depuis 15 ou 20 ans, nous avons, et le législateur, raisonné en alignement avec l’argumentaire des plateformes consistant à expliquer que « plus elles étaient grosses » (en nombre d’utilisateurs), « plus les contenus y étaient abondants« , et « plus il était impossible d’y appliquer une modération ou une transparence éditoriale. » Or nous avons commis une triple erreur.

D’abord sur le statut d’hébergeur versus celui d’éditeur : cet argumentaire était directement repris de celui des fournisseurs d’accès, qui eux, étaient à l’époque comme maintenant, parfaitement légitimes à être protégés par le statut d’hébergeur en tant qu’intermédiaires techniques. Mais aucune des grandes plateformes dont nous parlons aujourd’hui n’a bâti son succès et son audience en tant qu’intermédiaire technique. Voilà notre première erreur.

La seconde erreur est de considérer que plus les gens sont nombreux à interagir, plus il y a de contenus en circulation, et moins il devrait y avoir de règles (ou seulement des règles « automatisées ») car toutes ces interactions seraient impossibles à contrôler. Je vous demande maintenant de relire la phrase précédente et d’imaginer que nous ne parlons plus de grandes plateformes numériques mais de pays et de populations civiles. Imagine-t-on réellement pouvoir tenir un argumentaire qui expliquerait que plus la population d’un pays est nombreuse, plus elle interagit et produit des discours et des richesses, et moins il doit y avoir de règles et de lois car tout cela serait trop complexes à gérer ? Voilà notre deuxième erreur. Et même si par nature, les espaces de ces très grandes plateformes ne sont ni entièrement des espaces publics, ni jamais pleinement des espaces privés, ils demeurent des espaces politiques traversés en chacun de leurs points et de leurs vecteurs par la question du « rendu public » et des règles afférentes qui le permettent et l’autorisent.

La troisième erreur est d’avoir laissé ces grandes plateformes agglomérer, agglutiner, une série de services et de « métiers » qui n’ont rien à voir entre eux et obéissent à des logiques de régulation différentes pouvant aller jusqu’à l’antagonisme. Ainsi, un service de « réseau social » qui s’appuie uniquement sur de la mise en relation, un service de messagerie électronique, un service de production de contenus vidéos, un service de moteur de recherche, et quelques autres encore, ne peuvent évidemment pas être soumis aux mêmes règles ou statuts d’hébergeur ou d’éditeur. Il n’est ainsi pas question pour un service de courrier électronique de faire peser la même responsabilité éditoriale que, par exemple, pour un service de production de vidéos. Lorsque Mark Zuckerberg déclarait ainsi en 2020, « Treat us like something between a telco and a newspaper » (« traitez-nous comme quelque chose entre un opérateur télécom et un journal »), c’est une manière d’échapper à sa responsabilité de « journal » (en s’abritant derrière les régulations des opérateurs télécoms qui ne couvrent pas l’aspect éditorial) et d’échapper aussi à sa responsabilité d’opérateur télécom (en s’abritant derrière les régulations propres aux médias). Voilà notre troisième erreur : avoir accepté de traiter l’ensemble de ces grandes plateformes comme si elles n’étaient qu’un tout et n’avaient qu’un seul « métier », alors pourtant que depuis des années, la nécessité de leur démantèlement (ou de leur nationalisation partielle) était la seule hypothèse rationnelle.

En parallèle voilà plus de deux décennies que nous demandions et tentons d’installer dans le débat public la nécessité d’ouvrir le code ces algorithmes. Moi y compris et – pardon pour l’immodestie – moi parmi les tous premiers avec mon camarde Gabriel Gallezot dès 2003, Aujourd’hui non seulement ouvrir le code des algorithmes ne suffit plus puisqu’irrévocablement, irrémédiablement, « il n’y a pas d’algorithme, juste la décision de quelqu’un d’autre » (Antonio Casilli, 2017), et de quelqu’un d’autre qui, soit se cogne de toute considération politique, soit au contraire ne raisonne qu’en termes politiques et idéologiques.

Cela ne veut pas dire pour autant que toute plateforme hébergeant des contenus en ligne doit se voir assignée uniquement et exclusivement un rôle et statut d’éditeur. Cela veut par contre dire que toutes les très grandes plateformes sociales actuelles, disons pour reprendre la catégorisation du DSA (Digital Service Act) toutes celles ayant plus de 45 millions d’utilisateurs actifs (soit 10% de la population européenne), toutes ces très grandes plateformes doivent d’abord être considérées comme éditrices. Dans la jurisprudence, l’un des critères les plus déterminants qui permet de distinguer entre hébergeur et éditeur et celui dit du « rôle actif », défini comme « la connaissance et le contrôle sur les données qui vont être stockées. » Or qui peut aujourd’hui sérieusement prétendre que Facebook, Instagram, X, TikTok et les autres n’ont pas un rôle actif dans la circulation des contenus hébergés, et que ces plateformes n’auraient ni connaissance ni contrôle sur les données et contenus stockés ? Le gigantisme fut longtemps l’argument mis en avant par les plateformes pour, précisément échapper à leur responsabilité éditoriale. Cet argument n’a aujourd’hui (presque) plus rien de valide techniquement ou de valable en droit.

Entendez-vous le son qui monte ? « Cela reviendrait à condamner le modèle même de ces plateformes, à les empêcher d’exister« . Oui. Oui encore et encore oui. Puisqu’elles n’entendent rien et se soustraient à toutes leurs obligations légales ou morales, oui il faut les renvoyer à leur responsabilité première, qui est une responsabilité éditoriale. Et le risque qu’elles ferment ? Oui il faut prendre ce risque. Qu’elles revoient entièrement leur mode de fonctionnement ? Oui il faut prendre ce risque. Que les interactions y baissent drastiquement ? Oui il faut prendre ce risque. Qu’elles soient contraintes de massivement recruter des modérateurs et des modératrices bien au-delà de ce qu’exige l’actuel DSA (dont elles n’ont à peu près rien à secouer) ? Oui il faut prendre ce risque. Qu’elles soient contraintes d’appliquer toutes les décisions de justice qui restent jusqu’ici lettre morte ? Oui il faut prendre ce risque. Que leur modèle économique soit totalement remis en cause ? Oui il faut prendre ce risque. Qu’une mathématique algorithmique explicite s’applique de plein droit sans être en permanence triturée pour faire remonter le pire, le plus clivant, le plus choquant, le plus porteur émotionnellement et le plus au service des idéaux du patron ? Oui il faut prendre ce risque. Que nous soyons contraint.e.s de les quitter ? Oui il faut prendre ce risque.

Et par-delà ces « risques » il s’agit surtout d’opportunités. Je rappelle en effet que d’autres formes de collectif, d’agrégation, d’intelligences collectives ont toujours été possibles, le sont et le seront encore à l’échelle d’internet, à l’échelle du web, à l’échelle des plateformes. Car si l’on parvient, pour les plus grosses d’entre elles, à mettre fin à ce statut d’hébergeur aujourd’hui presque totalement dérogatoire au droit, alors il reviendra à chacun.e d’entre nous, aux pouvoirs politiques et aux collectifs citoyens, aux chercheurs, aux chercheuses, aux journalistes et à l’ensemble des corps intermédiaires aujourd’hui tous menacés ou contraints par ces plateformes, de retrouver ce qui fut un temps le rêve achevé du web : des gens s’exprimant en leur nom (ou pseudonyme qu’importe), depuis principalement leur adresse, créant entre elles et eux des liens plutôt que des like. Un Homme, une page, une adresse.

Éditorialiser.

Ce que nous ferons de l’actuelle l’irresponsabilité éditoriale des très grandes plateformes n’est ni temporairement un choix technique, ni réellement un choix juridique, ni même pleinement un choix politique ; c’est une somme de tout cela mais c’est bien plus encore que cela. C’est un choix ontologique, qui seul peut nous permettre de définir et d’assigner ces écosystèmes informationnels à ce qu’ils sont vraiment et non à ce qu’ils prétendent être. Fred Turner encore, dans une interview sur NeXt à l’occasion de la sortie de « Politique des machines » (chez le meilleur éditeur de la galaxie connue) nous le rappelle (je souligne) :

« Nous vivons dans une ère saturée de médias et d’histoires. Rien ne donne plus de pouvoir que la capacité à contrôler le récit. En la matière, Donald Trump, c’est un drame dans lequel chaque Américain a une chance de jouer un rôle. C’est ce drame qui structure la réalité.

Si la France est là où les États-Unis étaient en 2022, disons, alors elle a une opportunité que nous n’avons pas su saisir. Vous pouvez construire des réseaux de solidarité dans les gouvernements, dans la société civile, dans les mondes numériques. Vous pouvez commencer à parler du monde que vous voulez construire. De cette manière, si l’autoritarisme arrive à votre porte, vous aurez déjà une autre histoire à proposer. »

Il (me) semble que cette histoire ne pourra jamais être contée si nous ne contribuons pas, en parallèle et peux-être en préalable, à démolir et à éparpiller façon puzzle l’actuel paysage éditorial dominant.

Marcello Vitali Rosati donnait la définition suivante de l’éditorialisation, une définition que je vous ai souvent donnée ici, que j’ai souvent reprise à mon compte :

« L’éditorialisation n’est pas seulement un ensemble de techniques, même si l’aspect technique est le plus visible et le plus facilement définissable. On pourrait donner la définition suivante. L’éditorialisation est l’ensemble des dispositifs qui permettent la structuration et la circulation du savoir. En ce sens l’éditorialisation est une production de visions du monde, ou mieux, un acte de production du réel. »

« Avoir une autre histoire à proposer« , « produire des visions du monde« , produire du réel. Que font et que sont ces méga-plateformes aujourd’hui sinon un acte premier et fondateur de production du réel. Mais souvenez-vous en et retenez-le bien, c’est un réel « à peu près » ; c’est un acte de production « à notre place« . Il est temps que tout cela cesse. Alors cessons d’être le bruit, et surtout, empêchons-les de plonger notre monde dans la fureur.

A l’invitation de la chaire Unesco RELIA de l’université de Nantes et dans le cadre de la Nantes Digital Week, j’étais ce vendredi 19 Septembre 2025 en bonne compagnie pour une « Scientific Battle » sur le thème suivant : « L’intelligence artificielle va-t-elle nous rendre (encore) plus idiots ? »

Voici ce que j’y ai dit, sachant que le format était celui de la contrainte : 3 minutes et basta. Je vous livre donc ces trois minutes mais aussi (et peut-être surtout) des réflexions complémentaires.

Ce que j’ai dit à la Scientific Battle en 3 minutes
(douche comprise)

366 avant JC, Platon dans le Phèdre se demande si l’écriture ne va pas nous rendre idiots et nous faire « perdre la mémoire ». Vingt-trois siècles plus tard, en 2008 Nicolas Carr se demande : « Google va-t-il nous rendre stupides ? » Et aujourd’hui donc on se demande :  « l’IA va-t-elle nous rendre encore plus idiots. » Vous noterez le « encore » qui est bien de circonstance

Plutôt que de parler d’IA je vais me concentrer sur ce que j’appelle (dans ce magnifique livre) les artefacts génératifs (les outils comme ChatGPT, Midjourney, Le Chat, Claude, Gemini, etc.). Vont-ils nous rendre encore plus idiots ?

D’abord ils nous font faire moins d’effort. Ces technologies allègent à la fois notre coût cognitif (« l’attribution de ressources attentionnelles à une tâche »)  et notre bagage cognitif (ce que cela mobilise comme connaissances).

From « ChatGPT » to « CouchGPT »

Ensuite ils démobilisent notre attention. On devient plus crédule. Ces technologies abaissent notre seuil de vigilance. L’idée (comme les notifications) c’est d’installer des arcs-réflexe, des routines, qui, à force, nous évitent non pas « de penser » ou « de réfléchir » mais de se souvenir qu’il faut penser ou qu’il faut réfléchir, par exemple à ce que ces artefacts génératifs nous disent, à pourquoi ils nous le disent et à comment ils nous le disent. D’autant qu’on a documenté ce que des chercheurs (Jacob, Kerrigan, Bastos 2025) appellent le « chat-chamber effect », le fait que nous « fassions confiance aux hallucinations de l’IA » dès lors que les informations / hallucinations vont dans le sens de nos croyances ou de notre questionnement, même si ces informations sont  incorrectes, non contrôlées et non vérifiées. Le titre complet de leur article c’est : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Et puis ces artefacts génératifs nous rendent moins exigeants. Ces technologies abaissent aussi notre seuil d’exigence parce qu’elles jouent sur un biais de disponibilité exacerbé qui se double d’une dimension de biais d’opacité (l’information est disponible, certes, mais difficile de savoir d’où elle a été tirée). Le biais de disponibilité c’est « se baser uniquement ou principalement sur les informations immédiatement disponibles en mémoire. » Et là on doit se demander : mais dans la mémoire de qui ? ChatGPT c’est la mémoire de … qui ? Des auteurs, photographes et des créateurs dont les oeuvres sont pillées (Anthropic a récemment promis un chèque d’1,5 milliards de dollars à un collectif d’auteurs pour éviter un procès) ? D’artefacts génératifs précédents dont les productions sont à leur tour mises en mémoire ? Avec déjà des formes de consanguinité « générative » qui sont accablantes comme ces images jaunies à force d’être copiées sur style Ghibli ou de manière générale des mécanismes d’effondrement de modèles autophages ?

Alors en effet quand on fait moins d’efforts (intellectuels), quand on fait moins attention, et quand on est moins exigeant intellectuellement, il est possible que l »on soit un peu plus idiot qu’avant.

Il y a une citation de Philippe Meirieu qui me semble très bien résumer tout cela : « l’IA comble le désir de savoir mais tue le désir d’apprendre. »

Pourtant au commencement, les idiots c’était pas nous ; les idiots c’étaient clairement ces IA et ces artefacts génératifs. Et vas-y que ça te proposait des recettes d’omelettes avec des oeufs de mouton, et vas-y que ça t’expliquait pourquoi « Jean-Paul Sartre avait écrit Le Petit Bonhomme en mousse », et vas-y que, de manière bien plus préoccupante, ça t’indiquait que « oui on a des doutes sur l’existence de la Shoah ».

Et puis on s’est mis à leur parler beaucoup et on a oublié ce que disait Audiard : « J’parle pas aux cons ça les instruit. » Maintenant on a une question à se poser : on fait quoi collectivement de ces artefacts génératifs très très cons que nous avons contribué à instruire (mais très incomplètement et très imparfaitement) ? On en fait quoi alors même qu’ils n’ont jamais eu et qu’ils n’auront jamais … aucun désir d’apprendre ? Pour le savoir on peut bien sûr poser la question à ChatGPT ; ou alors on peut aussi commencer par relire le Phèdre de Platon.

Moralité ? Je ne suis pas certain que ça nous rende tous encore plus idiots, mais je suis presque totalement convaincu que ça ne pas nous rendre collectivement plus intelligents.

Ce que je n’ai pas dit à la Scientific Battle.
(parce que ça ne tenait pas en 3 minutes)

L’IA c’est vaste, ça permet en médecine de sauver des vies et de détecter des cancers précocement, de concevoir de nouvelles molécules et de faire du design de protéines, mais ça permet aussi de faire du ciblage marketing émotionnel pour vous afficher des pubs juste au moment où vous êtes le plus « disponible », et puis ça fait vos devoirs à votre place et puis dès que vous avez une idée totalement crétine ou criminelle (genre transformer Gaza en Riviera), bah ça l’illustre et lui donne vie directement, ça imprègne, ça imprime, ça impressionne.

Je ne crois pas que les technologies (quelles qu’elles soient) nous rendent idiots. Par contre elles changent, modifient, transforment notre rapport au monde. La voiture, le train, l’avion ont moins modifié notre rapport à la vitesse et au déplacement individuel que notre rapport collectif à la géographie du monde. L’imprimerie a moins modifié notre rapport individuel à la lecture que notre rapport collectif aux structures sociales du pouvoir et de la contestation du pouvoir ; elle a transformé les anciens régimes de vérité et en a inauguré de nouveaux. Les moteurs de recherche, les réseaux sociaux et maintenant l’IA ont moins modifié notre rapport individuel à la question de l’accès à l’information et aux connaissances que notre rapport collectif à celles et ceux qui étaient jusque-là garants de la production d’informations vérifiées et de connaissances procédant par accumulation et respect de procédures scientifiques.

La question n’est donc pas tant de savoir ce que ces technologies nous font mais ce qu’elles font au monde et, surtout, ce que nous ferons et serons encore capables de faire dans le monde qu’elles façonnent.

Le grand paradoxe de ces technologies d’intelligence artificielle, via leurs artefacts génératifs, c’est qu’elles ne nous fatiguent pas (cf leur coût cognitif quasi nul) mais qu’elles produisent des formes d’épuisement de la langue et du réel. Ces générations artificielles n’ajoutent pas à nos imaginaires, à nos possibles, elles leur enlèvent, elles leurs ôtent quelque chose par les instanciations systématiques et à coût nul de chaque réponse, de chaque possible, de chaque probable. Pour paraphraser le titre de l’ouvrage d’un philosophe célèbre, elles nous placent dans un monde qui n’est vu que comme représentations et plus comme volonté. Ce sont des technologies du retrait, de la mise en retrait. Alors bien sûr il y a des exceptions : le domaine médical et celui de la recherche fondamentale dans le domaine de la biologie, de la physique, et quelques autres encore. Mais dans ces domaines ces technologies sont exactement à leur place, c’est à dire que nous leur commandons de faire à notre place sur la base d’instructions et de méthodologies claires : leur capacité de calcul est mobilisée dans les lignes et contraintes que nous définissons, elles sont assignées. Alors que dans la sphère médiatique informationnelle de leur propagation, elles définissent un agenda d’assujettissement qui répond aux commandes des infrastructures de pouvoir qui les hébergent et les commandent.

Ce qu’il nous faut craindre, ce sont les alignements de tous nos effondrements. Effondrements de la parole journalistique, de l’espace médiatique, du lien social, de l’exercice politique du pouvoir. Mais aussi leurs pourrissements volontaires par les affrontements culturels autour de cette internationale capitaliste réactionnaire et néo-fasciste. Et au milieu donc les effondrements des IA et des artefacts génératifs. Or nous entrons dans une époque où tous ces pourrissements volontaires et où tous ces effondrements documentés s’alignent et font cadre. Ils deviennent un déterminisme qui nous conduit vers un abîme ; un abîme que nous regardons avec la lucidité que nous apportent celles et ceux qui le documentent sur le plan politique, historique, journalistique (les derniers numéros Fascisme 2.0 et Guerres de la revue AOC en sont une remarquable synthèse) mais pour lequel il semble que l’inertie soit désormais trop grande pour pouvoir l’éviter.

Comme l’écrivait Beckett, « Fini, c’est fini, ça va finir, ça va peut-être finir. Les grains s’ajoutent aux grains, un à un et un jour, soudain, c’est un tas, un petit tas, l’impossible tas. » L’impossible est en train d’advenir.

Et au milieu de cet impossible il y a ces chiffres et cette frénésie comptable qui est la nouvelle phrénologie de l’essentialisation capitaliste de nos pulsions et de nos désirs (Stiegler parlait d’une économie libidinale). Ces chiffres en voici quelques-uns qui concernent ChatGPT : « 700 millions d’usagers, qui lui adressent chaque jour 2,6 milliards de requêtes. » (Google c’est plus de 13 à 16 milliards par jour).

Et cette question supplémentaire : que sont devenus les gens à qui nous ne posons plus ces questions parce que nous les posons à Google ou à ChatGPT ? Et quelles auraient été leurs réponses ? Que serions-nous devenus dans ces échanges, ces réponses ou ces absences de réponses immédiates ? Que seraient devenues nos singulières errances d’ignorance, vers quel destin ou quels ailleurs nous auraient-elles conduites ? Et quelles réponses collectives leurs auraient alors été apportées ? De cela nous n’en saurons jamais rien. Il ne nous reste alors que le frémissement d’une inquiétude, clinique, la même que celle qui traversait Apostolos Gerasoulis (le papa du moteur de recherche Ask Jeeves) lorsqu’il s’interrogeait en regardant défiler les dix millions de requêtes quotidiennes d’Ask Jeeves : « Je me dis parfois que je peux sentir les sentiments du monde, ce qui peut aussi être un fardeau. Qu’arrivera-t-il si nous répondons mal à des requêtes comme ‘amour’ ou ‘ouragan’ ? »

Il n’est qu’une seule manière d’apaiser cette inquiétude, c’est d’avoir la certitude que Sam Altman (dirigeant d’OpenAI), Daniela Amodei et Dario Amodei (fondateurs et dirigeants d’Anthropic), Arthur Mensch, Guillaume Lample et Timothée Lacroix (fondateurs et dirigeants de Mistral AI) et quelques autres se posent et se poseront tous les jours cette même question et qu’elle guide et guidera chacune de leurs décisions. Et comme c’est une certitude que nous n’aurons jamais, notre seul impératif est de la leur poser sans cesse, sans trêve et sans relâche.

Longtemps le numérique fut envisagé et traité comme ce qu’il était en première intention : un moyen de stockage. Et à ce titre la possible et pratique externalisation de nos mémoires, mémoires documentaires d’abord, mémoires intimes ensuite.

Je suis récemment tombé sur un article expliquant comment le recours à l’IA allait permettre de redonner vie à la série Caméra Café, notamment en clonant – avec leur accord – les deux acteurs principaux et en les rajeunissant, mais aussi je cite : dans l’optique de « moderniser la série » et de « faire revivre [le] catalogue [de la maison de production]. »

On s’était habitué aux suites menant à Rocky 5 ou à Rambo 4 ou plus récemment à Fast And Furious 10, on vit également l’émergence des séries, reboots, préquels et autres déclinaisons « d’univers » ou de tonneaux des Danaïdes scénaristiques baptisés « multivers », mais aujourd’hui avec l’IA ce à quoi nous assistons c’est à l’industrialisation de ces multivers comme autant de répliques d’univers à moindre coût. Et ce pour permettre de doper de vacuité d’anciennes têtes de gondole d’audience en leur donnant une nouvelle et artificielle jeunesse, mais aussi et surtout une nouvelle surface et amplitude de diffusion.

Têtes de clones.

L’article de Marina Alcaraz dans Les Échos explique ainsi que l’IA sera utilisée dans 4 objectifs distincts :

« D’abord, pour reprendre tout le catalogue français du programme tourné au début des années 2000 (environ 700 épisodes) et le passer au format actuel en 16/9 et 4K. L’IA sert à reconstituer les images manquantes et à moderniser le rendu.

Ensuite, les nouvelles technologies sont utilisées pour indexer les épisodes et analyser les textes. Exit les termes de l’époque, comme Walkman, les références à l’actualité ou à la politique du début du millénaire. « Quand les dialogues parlent de choses que les jeunes ne connaissent pas, l’IA va les remplacer par des mots ou des expressions plus d’actualité », explique Jean-Yves Robin, président de Robin & Co.

Enfin, l’IA va créer des deepfakes des comédiens, dont ceux Bruno Solo et Yvan Le Bolloc’h, pour les insérer dans les versions issues de l’international. On estime qu’il y a 5.000 à 6.000 épisodes produits dans le monde, dont environ la moitié d’originaux, reprend le producteur. On pense pouvoir au moins doubler le catalogue français. C’est une façon de faire revivre les catalogues sur des fictions comme celle-ci, où des comédiens sont trop âgés. »

Cet exemple est particulièrement intéressant car il mobilise en effet les quatre ressorts actuels des enjeux de l’IA dans le contexte des industries culturelles. Un enjeu d’abord technique d’optimisation et de « modernisation » (pour autant que l’idée de modernisme ait un sens lorsque l’on parle d’IA). Un enjeu ensuite « éthique » qui mobilise la question de l’intégrité documentaire des oeuvres (et d’une forme de « cancel culture », j’y reviendrai). Un enjeu juridique qui touche à la fois au droit d’auteur, au droit à l’image et à la propriété intellectuelle ; ici les comédiens ont accepté d’être clonés contre rémunération et il serait d’ailleurs intéressant de voir quel type de contrôle ils ont accepté de céder sur leur image, et jusqu’à quand. Et enfin un enjeu économique de saturation et de maximisation des logiques d’exploitation par procédé de duplication dans un univers médiatique déjà passablement saturé et qui vient encore alourdir le poids de ce que l’on appelait « les étagères infinies », c’est à dire l’immensité de catalogues de contenus dans lesquels on passe davantage de temps à choisir quoi regarder plutôt qu’à simplement … regarder.

Désormais, il semble qu’aucun contenu culturel ayant eu ne serait-ce qu’une once de succès d’audience ou critique ne puisse et ne doive mourir ou être oublié. Tout doit être fait pour le maintenir artificiellement en circulation médiatique. C’est une sorte de palimpseste à l’envers, dans lequel on partirait de la version la plus aboutie de l’oeuvre originale pour ensuite la recouvrir de couches affadies de ses propres extensions, dérivations, réécritures et copies.

[Mise à jour du 23 Juillet]

Autour de ce sujet on pourra également se référer au concept de « Foreverism » de Grafton Tanner, ainsi qu’aux pages de Deleuze sur la question de la répétition.

[/Mise à jour]

Dans un tout autre registre, je m’étais il y a quelques années intéressé au fait que les profils Facebook de personnes décédées continuaient d’être une manne d’interaction (et donc de revenus) pour la plateforme ; plateforme qui avait ainsi tout intérêt à nous inciter à transformer ces comptes en autant de « mémorial » et à nous rappeler de souhaiter les anniversaires de nos amis morts. Il s’agissait et il s’agit toujours de se payer, encore et encore, jusqu’au bout du cynisme.

C’est un peu le même type de processus auquel nous assistons aujourd’hui avec ces maisons de production qui veulent encore se payer sur des contenus culturels (ici des séries) pourtant déjà au bout de toutes les logiques de rentabilité existantes : en l’occurence, pour la série Caméra Café, elle a déjà été vendue et exploitée dans plus de 60 pays, et tous les produits dérives possibles et imaginables ont également été exploités et surexploités.

Intégrité documentaire.

C’est pour moi le grand sujet des années qui s’ouvrent devant nous. Car avec l’IA, et comme cela est relaté dans l’article de Marina Alcaraz pour Les Échos, vient aussi la tentation d’effacer toute forme de référence à l’actualité de l’époque de production du contenu concerné. On parle ainsi de gommer le « walkman » pour le remplacer par autre chose qui parle à la nouvelle « cible » envisagée. Toujours d’après le prodicteur de la série, grâce à l’IA, exit aussi les références à l’actualité politique de l’époque. Ce qui vient nourrir encore le débat sur une forme de Cancel Culture. Ou comment réécrire des contenus culturels qui ne peuvent être autre chose que le reflet d’une époque avec tout ce que cette époque comportait de tolérance qui nous semble aujourd’hui relever légitimement de formes d’abus condamnables.

De mon côté, plutôt que de m’enferrer dans le débat souvent glissant de la « cancel culture » je préfère parler et questionner le thème de l’intégrité documentaire.

Je vous en ai souvent parlé sur ce blog, mais la première fois que j’ai commencé à réfléchir à la notion « d’intégrité documentaire » c’était lorsque j’écrivais beaucoup sur « l’affaire » Google Books et la manière dont le moteur s’était soudainement mis à numériser à très large échelle des livres du domaine public mais aussi des ouvrages sous droits, et où avaient émergé, pour l’ensemble des contenus culturels, les offres de streaming allant avec une forme manifeste de dépossession des anciens supports physiques (CD, DVD, etc.) qui nous privaient ce faisant de certains de nos droits de propriété (j’avais même appelé cela « l’acopie« ). Bref c’était il y a plus de 20 ans. Pour expliquer cette notion d’intégrité documentaire auprès de mes étudiants j’utilisais et j’utilise encore souvent l’exemple des éditions des grands classiques en version « digest » disponibles aux USA du type « la bible en 20 pages » ou « les misérables en 50 pages. » Je leur explique que si l’on n’est confronté qu’à la version « courte » des misérables, version dont on a expurgé non seulement différents niveaux de l’intrigue mais dont on a aussi modifié, pour les atténuer, les aspects paraissant les plus « choquants », le référent culturel que l’on construit et les comportements et les repères sociaux communs qu’il permet d’inscrire dans un horizon culturel partagé changent alors de manière radicale. En modifiant et en édulcorant « Les misérables » comme oeuvre littéraire (ou fait culturel) on influe nécessairement sur la perception que nous aurons de « la misère » comme réalité sociale. De la même manière et en prolongement, le fait de choisir, sur telle ou telle édition ou réédition, numérique ou non, d’enlever, de gommer ou de réécrire certains aspects de l’oeuvre sont une atteinte claire à son intégrité documentaire et constitue donc aussi un trouble à la diachronie et à la synchronie dans lesquelles toute oeuvre s’inscrit.

C’est d’ailleurs ce que l’historienne Laure Murat rappelle encore dans son dernier essai (que je n’ai pas encore lu) « Toutes les époques sont dégueulasses » mais dont j’ai pu entendre une interview sur France Inter dans laquelle elle expliquait ceci :

Faut-il corriger les textes pour qu’ils soient lisibles à nos yeux contemporains ? Laure Murat : « Je crois que la question pose un gros problème. Parce que si vous nettoyez les textes des sujets qui fâchent, des mots qui fâchent, vous aboutissez à une falsification et un mensonge historique, qui a pour conséquence très grave de priver les opprimés de l’histoire de leur oppression. Donc, supprimez les remarques misogynes de James Bond et ses actions – parce qu’il faut aussi toucher à l’intrigue – ça devient quand même nettement plus compliqué. Faites-en un proto-féministe, il y a beaucoup de travail, et vous ne comprendrez plus rien à la misogynie des années 1950-60. Et je crois que ce n’est pas une bonne idée. »

Alors on pourra certes arguer que la suppression d’un Walkman dans Caméra café n’a pas la portée symbolique de la réécriture d’une oppression, mais quid des blagues machistes ou sexistes de la série qui, à l’époque déjà, jouaient d’une ambiguïté sur la « beaufitude » de celui qui les énonçait ?  Faut-il également les réécrire au risque, en effet, de ne plus rien comprendre au sexisme et à la misogynie du début des années 2000 ?

« Celui qui oublie ou qui méprise l’histoire est condamné à la revivre » écrivait le philosophe George Santayana. La seule promesse d’une Cancel Culture qui au prétexte de l’IA, finirait par faire système à l’échelle de nombre de biens et produits culturels, c’est le retour en plus violent de ce passé effacé.

Il y a les images d’un monde version studio Ghibli. Et il y a Elon Musk avec un chapeau fromage.

Le monde version studio Ghibli c’est une trace documentaire qui fait l’inverse de ce que documenter veut dire. Elle déréalise, elle euphémise, elle fictionnise. Elle enlève du relief aux êtres et aux choses. Elle les installe dans un univers d’à côté. Dans une tangence.

Le monde version Elon Musk c’est à lui seul une exponentielle du grand n’importe quoi et l’asymptote d’un réel entièrement fictionné pour servir ses seuls intérêts pour autant qu’il soit lui-même en capacité de les identifier comme tels. Salut Nazi hier, chapeau fromage aujourd’hui, et demain quoi d’autre ?

On a beaucoup parlé de l’ère des Fake News et de celle des faits alternatifs. En 2018 dans l’article « Fifty Shades of Fake » publié un 1er Avril, je vous parlais de la manière dont les architectures techniques toxiques des grandes plateformes numériques se mettaient au service presque « mécanique » de cette amplification du faux et de son écho dans nos sociétés. Je martelais que « la propagation de Fake News est davantage affaire de topologie que de sociologie » ; en d’autres termes que la capacité de circulation des contenus relevant des Fake News ou des faits alternatifs, leur capacité également de percoler dans tous les espaces sociaux conversationnels, massifs ou intersticiels, médiatiques ou dialogiques, cette capacité s’explique d’abord et avant tout par la topologie et l’organisation (le « dispositif ») des espaces numériques. Et que ce n’est qu’à la marge ou en tout cas dans un second temps que l’on peut caractériser de manière causale ces circulations en les rattachant à des catégories sociologiques liées à l’âge, au niveau d’éducation ou à tout autre variable.

Sept ans plus tard, ce 1er Avril 2025, ce qui se joue est de l’ordre de la tension désormais explosive entre un écosystème numérique bâti sur la question documentaire de la trace (traces de nos données, de nos comportements, de nos navigations, de nos opinions, etc.), et un saisissement technologique et politique qui ajoute un déterminisme de l’emballement à un extractivisme souche. Et ce que l’on nomme IA  – et qui est plus précisément un ensemble d’artefacts génératifs nourris d’une incommensurable quantité de données sans considération aucune pour leur origine, leur appartenance ou leur(s) propriété(s) – ce que l’on nomme IA n’est que le dernier (et peut-être ultime) avatar à la fois de cet extractivisme et de cet emballement. Avec un point nouveau qui est celui de l’alignement total de ces technologies avec les agendas politiques de régimes tous au mieux illibéraux.

« It is a tale
Told by an idiot, full of sound and fury,
Signifying nothing. »
(Macbeth. Shakespeare.)

Poisson (mort) d’Avril. Il y a de cela quelques années, la plupart des grands groupes technologiques de la trace (de Google à Facebook) se livraient à quelques « poissons » en ce jour particulier du 1er Avril. Aujourd’hui cette pratique s’est pour l’essentiel perdue et lorsqu’elle subsiste, elle ne suscite que peu ou pas d’écho médiatique tant le rapport que nous entretenons au quotidien avec la tromperie, la duperie, le décalage, de faux et l’irréel s’est totalement transformé. Ce qui était hier une stratégie éditoriale d’exception (dire le faux) est devenu aujourd’hui un régime éditorial courant, une routine.

Le monde façon studio Ghibli. Que chacun se soit emparé de la possibilité de faire « mème » dès lors que quelques-uns se sont saisis de la nouvelle opportunité offerte de créer des images, de soi ou du monde, à la manière du studio Ghibli dans ChatGPT, n’a rien d’inédit ou d’étonnant. Chaque époque numérique a pu documenter la manière dont ces productions documentaires particulièrement fécondes étaient massivement reprises lorsqu’elles présentaient la double capacité de se mettre en scène soi-même et/ou de s’attacher à des représentations culturelles déjà prégnantes. Ainsi certains et certaines se souviendront avec moi de ces générateurs permettant de « vieillir » une photo de nous, ou de chez nous, comme à l’argentique des premiers temps photographiques ; se souviendront aussi de la reprise du portrait « Hope » d’Obama par l’artiste Shepard Fairey et de la manière dont on vit presque partout se multiplier les copies de ce portrait avec nous à la place d’Obama. Et de tant d’autres choses encore.

Aujourd’hui des biotopes numériques tout entiers sont exclusivement bâtis sur leur capacité à faire « mème », à conditionner la production de contenus à leur alignement avec des ritournelles préenregistrées, des « trends ». « Trends » ou « tendances » : des formes de facilitations virales qui devraient nous interroger non pas par leur capacité à être suivies en tant que telles dès lors qu’elles ont été « amorcées », mais par l’assignation à l’identique qu’elles produisent et qui est une forme de prophylaxie paradoxalement mortifère de diversités, d’altérités et de dissemblances. En un mot : TikTok.

Que dire d’un monde dans lequel l’esthétisation de soi (et du monde) fait aussi fonction de bascule dans d’autres régimes de vérité ? Comment « être au monde » quand la plupart des « corporations du filtre » (pour reprendre une expression d’Umberto Eco désignant les journalistes, éditeurs, bibliothécaires, etc.) qui jusqu’ici faisaient fonction d’assignation, de rappel et de construction du réel sont en train de s’effondrer pendant qu’à l’autre bout de la chaîne documentaire de l’énonciation prospère une vision du réel qui n’est plus qu’essentiellement filtrée, et ce, des filtres de déguisement que chaque application ou biotope numérique propose ou superpose à chaque dialogue ou interaction jusqu’aux filtres de travestissement qui s’accolent aux paroles politiques publiques quand elles sont portées « sous couvert » de décalage, d’humour, de cynisme ou plus simplement de … programme.

Je fais ici une différence entre la question du filtre comme « déguisement » et dans lequel l’enjeu est précisément que le destinataire puisse repérer et identifier l’effet de décalage soit par l’exagération soit par le grotesque soit par l’irréalisme produit (par exemple les filtres « oreilles de chien » dans Snapchat), et la question des filtres comme « travestissements » dans lesquels l’enjeu est cette fois de produire un effet de réel authentifiable sinon authentique, travestissements qui « agissent » de manière performative autant chez l’émetteur (avec des troubles pouvant aller jusqu’à la dysmorphophobie) que chez le récepteur devenu incapable de discernement ou propulsé dans une vallée de l’étrange dont il ne sait à quelle part de son réel rattacher l’expérience ressentie.

Se confronter à l’information sur et dans les médias sociaux numériques (mais pas uniquement) c’est donc pour beaucoup se confronter à des surimpressions permanentes et rémanentes qui oscillent entre l’esthétique Ghibli, les chapeaux fromage d’Elon Musk, ou les pulsions d’un président élu pour envahir le Groenland. Non seulement plus grand-chose ne prête à sourire mais la tentation de faire des blagues se trouve totalement distancée par le réel lui-même. Par-delà la réalité sourde de l’état réel de notre monde, de ces effondrements climatiques et de ses guerres en cours en Ukraine, à Gaza, au Yémen et ailleurs, l’actualité géopolitique internationale est une oscillation permanente entre une version documentaire d’Idiocracy et des faits totalement en phase avec la ligne éditoriale du Gorafi.

Tout cela est irréel par intention ; tout cela contribue à déréaliser pour partie notre rapport au monde et aux autres ; tout cela nous installe dans une sorte d’a-réalité, une privation de réel, une douce torpeur ; tout cela produit des formes instrumentales et instrumentalisées de tech-réalité, c’est à dire d’une réalité qui ne serait sensible qu’au travers des politiques éditoriales ou des interfaces des grandes sociétés technologiques et de leurs filtres.

Le rêve avorté du Métavers imaginé par Zuckerberg n’est pas l’essentiel. L’essentiel est de rester en capacité de discernement sur des formes avérées d’univers sociaux et informationnels qui déjà peuplent, filtrent, habitent nos univers quotidiens et qui s’y superposent en évidence.

Le monde version studio Ghibli. Et le chapeau fromage d’Elon Musk. Irréel. Déréaliser. A-réalité. Tech-réel. Et la suite. Déjà là. Tescreal.

[Mise à jour du 6 Avril] I’ve got my Ghibli. And the World is filtered-reality.