Quelques mots à propos de la polémique qui enfle et enfle encore au sujet du roman « C’était ça ou mourir » de Thélyson Orélien. « Il paraît » qu’il aurait été en grande partie écrit par une IA. « On dit que » des détecteurs d’IA identifient des passages entiers comme « utilisant l’IA« . Les mêmes détecteurs qui sur à peu près n’importe quel texte classique du 18ème, 19ème siècle ou d’avant (donc de l’époque où les IA n’existaient pas) affirment avec autant d’assurance qu’ils ont aussi été écrits avec l’aide de l’IA.
A l’université comme dans tous les espaces critiques, sociaux et politiques dans lesquels l’écriture est socle, on passe notre temps à nous demander si ce devoir, ce rapport, cet article, ce mémoire, cette thèse a été ou non écrit avec l’aide de l’IA et dans quelles proportions. Et les « outils » de détection sont tous, je dis bien absolument tous, à la ramasse. Et bien sûr nous le sommes aussi parfois (mais bien moins souvent ceci dit que lesdits outils).
Thélyson Orélien. C’était ça ou mourir. Je n’ai pas (encore) lu le livre. Pourtant je vais ici vous affirmer qu’il l’a bien écrit, lui et lui seul. Et je suis prêt à parier beaucoup là-dessus. Pourquoi ? D’où sort cette étrange assurance qui en même temps fait aveu de n’avoir même pas lu l’ouvrage.
C’est assez simple. J’ai vu et j’ai surtout entendu Thélyson Orélien quand il est venu parler de son livre dans l’émission la grande librairie. Dans sa voix, son phrasé, dans sa langue, dans ce qu’il dit de son livre et dans la manière qu’il a lui-même de le lire, j’ai été immédiatement frappé, bien avant cette polémique naissante, par ce qu’on appelle un style, une intensité, une singularité, et l’évidence des trois précédents. Je n’ai absolument aucun doute. Comme je n’ai absolument aucune doute sur des rapports rendus par mes étudiants dès lors que je les ai entendu parler et que je les ai lus dans une cadre où l’usage de l’IA était impossible.
D’autres choses frappent dans cette polémique. Evidemment. Thélyson Orélien est noir et haïtien. C’est aussi l’un des derniers ouvrages publiés par Olivier Nora avant son éviction dans les conditions que l’on connaît. Les théories du complot ne jouent pas l’une contre l’autre. Bien sûr. Mais si l’on pose la question de la sincérité de l’écriture alors il faut aussi, et simultanément, poser la question du rattachement et de l’appartenance de cette écriture. Sinon on passe à côté de tout. Et surtout de ce qu’écrire veut dire lorsque l’on est noir, haïtien, poète, exilé, publié chez Grasset par Olivier Nora. Et aussi du fait qu’il écrivait déjà et était déjà salué et primé comme écrivain et poète bien avant l’invention de ChatGPT et des autres outils d’IA.
Dans un article précédent sur l’IA je parlais de la capacité qu’elle a de défaire et de dissoudre toutes les formes de collectif. L’écriture est toujours singulière. La question que pose la polémique lancée contre Thélyson Orélien est d’abord celle de notre capacité à faire collectif autour de la singularité d’une écriture située, comme toutes les sont mais comme la sienne l’est particulièrement. Aux yeux de certains en tout cas.
<Mise à jour>
Parmi les articles à lire qui ne sont pas qu’un ramassis d’amalgames, celui de Numerama fait le taff 
</mise à jour>
<Moralité de deux jours plus tard …>
Alors deux jours plus tard et autant d’emballements médiatiques et de (passionnants) débats plus tard, la réalité toute nue est donc que derrière ce mystérieux compte « Balance ton Claude » se cachait un chroniqueur néo-conservateur du Figaro, qui s’est lancé depuis des années dans une croisade anti-woke.
La morale de cette histoire me semble être la suivante. Désormais il faudra que chaque livre de chaque prix littéraire soit passé au crible de chaque détecteur d’IA existant pour établir corrélations comme avant on agitait potions. Et ce faisant des oracles statistiques seront rendus. Et pour qu’ils le soient toujours davantage d’autres livres nourriront à leur tour presque licitement des bases de données de textes qui serviront d’entraînement aux prochains générateurs de texte qui seront utilisés ou non par d’obscurs auteurs qui soudainement se verront révélés mais aussitôt parfois enterrés après être passés à d’obscurs détecteurs d’on ne saura plus trop bien quoi. Ou alors on se souviendra que Thélyson Orélien était noir, haïtien, exilé, poète, en tête des ventes y compris devant le dernier opus de Sarah Knafo lorsque soudain … Samuel Fitoussi, un néo-conservateur lancé dans une croisade anti-woke et disposant de relais dans un grand nombre de journaux et notamment au Figaro, décida d’en faire sa cible et y parvînt. La chair est triste hélas, et il nous reste des livres à lire.
</Moralité de deux jours plus tard …>
Pour archivage personnel et repartage, je reproduis ici le texte paru initialement le 20 Juillet dans la (remarquable) revue AOC.media.
On notera que les modèles les plus puissants d’IA à ce jour – ceux-là que l’on présente comme l’armageddon cyber et le terminator langagier (capable entre autres de lipogrammer en E avec la facilité d’un Mr Jourdain) – s’appellent « Fable » et « Mythe ». Et l’on en déduira ce que l’on voudra mais on se souviendra que le nom de l’IA est avant tout « récit ».
On notera aussi que ces modèles d’IA sont déployés au coeur d’une société baptisée « Anthropic », dont on ne sait plus si le nom est :
Derrière ces récits je veux vous conter celui qui affleure si peu et me semble pourtant si déterminant. Le récit de la manière dont l’IA signe la fin des collectifs, de la manière dont elle engage cette fin et des moyens colossaux qu’elle y consacre.
Des travaux de sociologues ont, longtemps après les premiers scandales de la Silicon Valley, permis de documenter pourquoi il n’était pas très étonnant que des biais racistes et sexistes soient présents un peu partout dans les algorithmes des plateformes dès lors que les gens qui les développaient (ces algorithmes et ces plateformes) étaient très majoritairement des hommes jeunes, blancs et issus de milieux aisés ; et comment l’automatisation des inégalités constituait (et constitue toujours) un cadre de référence (lire notamment Safiya Umoja Noble, Kate Crawford, Virginia Eubanks, Olivier Alexandre, Jen Schradie et quelques autres …)
D’autres sociologues, d’autres chercheurs, ont montré que derrière ces technologies, se trouvait un travail invisible, celui des modérateurs et modératrices, asservis dans des formes renouvelées et exacerbées d’un capitalisme tissé de néo-colonialités (cf les travaux d’Antonio Casilli et de Paola Tubaro et ceux de Sarah T. Roberts).
Depuis longtemps enfin on connaît les dynamiques du capitalisme linguistique, puis globalement sémiotique, et de ce qu’il fait à la langue et donc au monde.
Dans l’effervescence analytique et critique de « l’IA » et de ses structures de pouvoir (cf l’une des conclusions de Kate Crawford que je vous remets en toute fin d’article), et en plus de la stratégie Ender qu’elle installe dans notre rapport à la technologie, il est une dimension assez peu souvent évoquée : la capacité structurelle de l’IA à défaire et à effondrer des collectifs. Une dimension qui s’ajoute à une autre de ses modalités fondamentales qui est celle d’un principe d’épuisement : épuisement du langage, des signes, des images, du sens. On ne parle plus ici de capacité de calcul, mais de disponibilité de calcul. Et avec cette disponibilité vient le biais et l’heuristique du même nom. Tout ce qui peut être calculé le sera, la bibliothèque de Babel imaginée par Borges existe de fait non plus comme imaginaire mais comme potentialité activable. Cette potentialité (qui est celle des IA génératives) n’est pas une nouvelle capacitation – hors quelques contextes très précis – mais un effondrement de notre détermination : notre puissance (de calcul d’abord mais aussi et surtout de création et d’imagination) se confronte à des artefacts qui n’ont pas simplement vocation à la démultiplier ou à la dépasser mais, ce faisant, à nous renvoyer l’impression d’une dépossession en nous plaçant dans une boucle de rétroaction insincère dans laquelle nous finissons collectivement par apprendre bien plus à ces artefacts qu’ils ne sont en capacité de nous le rendre individuellement.
Les travaux critiques autour de l’IA mettent le plus souvent en discussion à la fois les enjeux environnementaux de ces technologies et de leurs infrastructures, et les enjeux d’expertise métier (risque de désapprendre ou de perdre de compétences ou qualifications). Bien plus que les impacts de l’IA sur les individus y compris lorsqu’ils sont abordés sous l’angle d’une entité globalisante (« les étudiants », « les professeurs », « les médecins », « les avocats », etc.), un point nodal peu exploré me semble être celui de la manière dont les IA remplacent l’ensemble des formes documentées de coordination sociale, c’est à dire aussi bien ce qui relève de logiques délibératives ou décisionnelles mais aussi l’ensemble des instances d’apprentissage mutuel quels qu’en soient les modalités (conflit, solidarité, etc.).
De manière plus fine, l’IA inaugure des formes de désintermédiation fortes, brutales et « robustes » dans tout le spectre des interactions sociales qui constituaient jusqu’ici le coeur du travail collectif qu’elles qu’en soient les formes et les modalités. L’IA ou plus exactement le biais de disponibilité du recours à l’IA et l’efficience de ce biais, vient éparpiller façon puzzle toutes les formes de coordination reposant jusqu’ici principalement sur la stratification d’interactions sociales : coordination par la hiérarchie ou l’autorité, coordination par les règles, les procédures ou les routines, coordination par l’ajustement mutuel ou la participation périphérique, coordination par la délibération, la négociation, la confiance … les technologies d’IA (assistants conversationnels notamment mais pas uniquement) relèguent en arrière-plan ces dynamiques de premier recours, et ce jusqu’à leur effacement parfois complet. Ces coordinations tournent en « tâche de fond » alors qu’elles sont et devraient continuer d’être … le fond de la tâche. Les travaux d’Antoinette Rouvroy (entre autres) l’ont bien montré, la gouvernementalité algorithmique tend à remplacer les publics politiques par des agrégats calculés, par des clusters comportementaux (d’autres travaux parlent de « publics fantômes »). Clusters sur lesquels, et c’est cette fois Eva Illouz qui le documente et le démontre dans « Le futur des émotions« , « la question est moins celle de l’intelligence artificielle que de la relation artificielle » et de l’ensemble du spectre émotionnel qui n’est plus qu’une ingénierie des affects, un Fordisme des sentiments. Eva Illouz qui explique encore dans le magazine Usbek & Rica : « Le problème est que ces entités inertes nous répondent désormais. Les chatbots, pour ne citer qu’eux, nous parlent, interagissent avec nous et nourrissent ainsi une fiction extrêmement puissante de relationnalité. » Or là encore, cette relation artificielle s’exprime presqu’exclusivement dans le cadre de relations duales qui sont ainsi « optimisées » pour gommer d’abord des altérités, puis presque « logiquement » des collectifs dans lesquels elles s’expriment et se donnent à voir.
Par parenthèse, il faudrait aussi évoquer et rappeler sans cesse que dès lors que ces « relations artificielles » duales basculent dans le domaine de la médecine et de la santé mentale, ces artefacts échouent et constituent même un danger dans leur prise en charge de problématiques comme les pulsions suicidaires.
Bien sûr tout cela n’est pas entièrement nouveau et a été en quelque sorte « préparé » par de précédentes désintermédiations liées au déploiement de plateformes et d’infrastructures qui déjà opéraient un glissement majeur dans l’initiative des coordinations et dans la responsabilité des négociations, affichant ces plateformes en dirigeants et leurs algorithmes en autant de contremaitres (« Uberisation » notamment). Et c’est notamment pour tout cela que la question de l’effacement ou du remplacement du lien social est, comme Hannah Arendt l’a montré, la première condition d’un déploiement de régimes fascistes que l’on éprouve déjà et qui sont à l’oeuvre dans la systématisation – par exemple – de contrôle et de surveillance des individus autant que des populations.
Un exemple tout particulièrement intéressant est celui de l’encyclopédie collaborative Wikipédia qui jusqu’ici parvenait essentiellement à se coordonner par des échanges et des interactions collectives qui, si elles étaient toujours traversées de tensions, s’organisaient toujours autour de la reconnaissance d’une identité commune qui demeurait celle de « la » communauté. Le grignotage et les attaques des contenus de Wikipédia par l’entrisme de contenus et de « bots » autant générés qu’instrumentalisés par l’IA met fortement en tension et en difficulté la capacité de maintenir cet horizon commun au-dessus de logiques plus singulières qui, si elles se figent et s’installent, peuvent à moyen terme faire chanceler l’ensemble du projet. De la même manière, il sera intéressant de regarder la manière dont le monde du logiciel libre et son fonctionnement communautaire peuvent être impactés par les technologies d’IA autour (notamment) des pratiques de Vibe Coding.
Dans la grande ligne de temps du numérique, des enthousiasmes naïfs aux promesses natives du web jusqu’à son pourrissement et son « emmerdification », les premiers agrégats communautaires ont presque tous fini par se dissoudre dans des plateformes de promiscuité plus que de proximité ; l’individualisation, sous le double coup, d’une part de la publicitarisation où chaque individu est enjoint à se penser d’abord en tant que marque, et d’autre part du prétexte de la personnalisation de chaque fonctionnalité, de chaque recherche et de chaque usage, l’individualisation est devenue la norme.
Et les collectifs ? Soit ils se sont soit lentement désagrégés ; soit ils ne subsistent que sous les formes délétères d’antichambres de contestation instrumentales (voir par exemple les révolutions et printemps arabes ou les gilets jaunes ou le Brexit au prisme de l’instrumentalisation opérée par les plateformes, Facebook en tête) ; soit ils sont les nouveaux avatars des néo-colonialités d’un capitalisme extractiviste et prédateur (Digital Labor, Uberisation), c’est à dire des collectifs de populations exploitées, isolées, assignées à résidence autant qu’à surveillance.
Si l’IA est redoutablement efficace pour dissoudre ces collectifs, c’est pour au moins quatre grandes raisons.
D’abord parce qu’elle installe un marché attentionnel qui est au premier plan « dual » (celui des agents conversationnels avec qui nous sommes en face à face permanent), j’en ai parlé plus haut.
Ensuite parce qu’elle parvient à invisibiliser encore davantage les infrastructures de travail des collectifs exploités.
C’est aussi parce qu’elle renverse la dynamique qui jusqu’ici nous voyait forts collectivement face à des technologies efficaces singulièrement, en une perspective où nos singularités s’affrontent a des artefacts différents des précédents seuls « algorithmes » ; les algorithmes facilitaient et accéléraient les calculs de prévisibilité (comportementale par exemple), mais si l’on peut le dire ainsi, nous savions à l’avance ce qu’ils étaient en capacité de prédire ; les IA nous proposent un autre horizon dans lequel c’est moins la prédiction d’une tendance collective qui se travaille (et peut donc être contestée ou renversée par un ou des collectifs organisés s’y opposant) que l’instanciation simultanée d’un ensemble de potentialités face auxquelles il est bien plus complexe de réagir et de s’organiser de manière uniforme.
Et c’est enfin parce que certains bots peuvent augmenter la coopération tandis que d’autres la diminuent. Ce qui démontre que le braconnage (au sens de De Certeau) peut aussi passer du côté des machines dès lors qu’il est programmé pour ce faire. Ce que montrent en creux Lei Shi et al. dans leur article, c’est que la cohésion d’un collectif devient un paramètre que l’on peut faire varier par l’introduction d’agents artificiels ;
Les technologies d’IA, pour l’instant en tout cas, contraignent et cantonnent les réponses collectives à des espaces périphériques difficilement mobilisateurs. Par ailleurs et de manière plus triviale mais extrêmement efficace, les discours sur l’IA font un même « texte » de trames sémantiques aussi diverses que celle des IA généralistes, génératives, sectorielles, agentiques, générales, etc. Et en les présentant toujours comme inextricables et nécessairement en relations causales, il est compliqué de parvenir à positionner un discours critique qui ne soit pas résumé ou astreint à la seule dimension des infrastructures (discours presqu’impossible à politiser face au contre-argumentaire robuste et médiatiquement vérouillé d’un accélérationnisme maquillé en progressisme), ou à l’éternel débat (et donc démonétisé attentionnellement) qui est celui de l’angoisse d’un grand remplacement ou d’une grande incapacitation (par des algorithmes, par des robots, par des IA …).
D’autant que comme Antoinette Rouvroy l’écrivait il y a peu (je souligne) : « Contrairement à l’idée naïve d’une substitution de l’information à la matière, l’économie numérique fait proliférer de nouvelles infrastructures dont l’ampleur reconfigure durablement les milieux de vie. Le débat public intervient – lorsqu’il intervient – lorsque les investissements sont déjà réalisés et que le retour en arrière apparaît économiquement ou politiquement impensable. La transformation du territoire précède et court-circuite la délibération collective. »
Pour le dire peut-être plus rapidement, « l’IA » dans le débat public est à la fois un concept écran (qui masque les enjeux qu’il porte) et un concept bouclier (qui se protège lui-même avec la ruse du flou incapacitant de sa dénomination).
S’il faut prendre un exemple très récent, on pourra s’appuyer sur l’émergence de cette nouvelle doxa consistant à affirmer le recours à des assistants IA dans le cadre des parcours pédagogiques d’accompagnement et de formation, et ce de la maternelle (ou presque) à l’université (ou à ce qu’il en restera dans deux ans). Le « tutorat par l’IA » devient la modalité première (et exclusive) mise en avant dans certains groupes prédateurs se prétendant « écoles » aux USA ainsi que dans quelques établissements privés à Londres. En France également, tant dans les discours de Gabriel Attal ou d’Edouard Philippe très récemment, on entend aussi cette nouvelle antienne ad nauseam, et même si ce tutorat par l’IA est présenté comme complémentaire d’autres dispositifs (par exemple de faire bosser des retraités gratuitement …) il s’agit bien là encore de dissoudre des collectifs d’enseignants et d’accompagnants. Le 14 Juillet on apprenait via un communiqué d’Anthropic la sortie de « Claude For Teachers » qui offre aux enseignants certifiés du primaire et du secondaire aux États-Unis un accès gratuit aux fonctionnalités premium de Claude ; un entrisme façon « pied dans la porte » somme toute assez classique et qu’à peu près tous les acteurs du numérique ont déjà activé à leur échelle mais dont l’impact raisonne ici avec les risques évoqués ci-dessus. « Il y aura toujours des profs« , disent-ils, monsieur le commissaire. Oui il y en aura toujours, peut-être. Mais la certitude et le projet, c’est qu’il n’y ait plus aucun collectif enseignant. L’IA offre un prétexte parfait en termes d’alignement avec l’agenda libéral dont tant d’entreprises se sont déjà saisies pour masquer des licenciements derrière le putatif progès technique d’un basculement vers l’IA.
Même chose du côté des élèves et des étudiants, dont l’un des apprentissages fondamentaux de la citoyenneté collective passait aussi par les échanges (physiques ou numériquement médiés) autour de l’école, des devoirs et plus globalement des études. Tout cela se dissout. L’IA est n’est alors tout au plus que l’Instanciation d’un Abandon.
Dans une interview récente, Eva Illouz parle de cette « idée que les émotions peuvent être converties, mesurées et rendues calculables » et la qualifie de « croyance épistémologique« . Je crois qu’elle se trompe en cela que cette conversion et cette calculabilité sont non seulement possibles mais avérées. La question n’est pas tant de savoir si on peut qualifier cela de « croyance » mais, à partir du moment où cette croyance s’affirme et s’installe comme un premier régime de vérité, de comprendre l’enjeu et les finalités de ces conversions dans le cadre d’une gouvernance par les nombres et d’une gouvernementalité algorithmique qui ont fini par s’imposer comme le cadre principal de(s) politique(s) publique(s).
Je vous parlais enfin d’une citation de Kate Crawford dans son « Atlas de l’Intelligence Artificielle » qui demeure incontournable, la voici en guise de conclusion :
« L’IA n’est ni intelligente ni artificielle. Elle n’est qu’une industrie du calcul intensive et extractive qui sert les intérêts dominants. Une technologie de pouvoir qui à la fois reflète et produit les relations sociales et la compréhension du monde. (…) Les modèles permettant de comprendre et de tenir les systèmes responsables ont longtemps reposé sur des idéaux de transparence… (…) Dans le cas de l’IA, il n’y a pas de boîte noire unique à ouvrir, pas de secret à révéler, mais une multitude de systèmes de pouvoir entrelacés. La transparence totale est donc un objectif impossible à atteindre. Nous parviendrons à mieux comprendre le rôle de l’IA dans le monde en nous intéressant à ses architectures matérielles, à ses environnements contextuels et aux politiques qui la façonnent, et en retraçant la manière dont ils sont reliés. »
Connexion