Lila Shroff s’inquiète. A raison. ChatGPT Images 2.0 qui vient de sortir permet de créer des visuels photoréalistes nettement plus convaincants que ceux produits par ses prédécesseurs. Elle l’a utilisé pour créer une image de Trump en train de donner des conseils de maquillage comme une capture d’écran de TikTok. Amusant. « Mais les deepfakes les plus réalistes que j’ai pu créer n’impliquaient ni politiciens ni célébrités. La plupart ne représentaient même pas de personnes. Sans trop d’efforts, j’ai pu créer plus de 100 images falsifiées, notamment des ordonnances d’opioïdes et de médicaments contre le TDAH, des alertes bancaires, des publications sur les réseaux sociaux, de fausses images de cartes d’identité et de passeports », de faux documents financiers (factures, reçus et déclarations fiscales), fausses captures d’écran (pour falsifier une confirmation de virement bancaire), fausses notes de frais, fausse capture d’écran d’un site de presse… Les modèles d’images ont longtemps peiné à produire des images intégrant du texte. Ce n’est plus du tout le cas avec cette version ci. Bien sûr, en y regardant de plus près, tous ces faux ne sont pas encore parfaits. Dans son dernier rapport annuel sur la cybercriminalité, le FBI a inclus une section sur les escroqueries à l’IA, qui auraient coûté près d’un milliard de dollars aux Américains l’an dernier. 

Fake, ça accélère

« En théorie, je n’aurais pas dû être capable de créer la plupart de ces images. OpenAI interdit l’utilisation de sa technologie à des fins de fraude ou d’escroquerie » … mais souhaite laisser une liberté créative totale à ses utilisateurs. De la à permettre de reproduire des logos de banque ou des documents officiels… Même constats chez Google dont les IA permettent également de générer ce genre de faux. Les entreprises d’IA se défendent en estimant que les images générées le sont avec des filigranes comme SynthID ou des métadonnées, mais encore faut-il que les gens aient des outils pour analyser les images qu’ils voient. « Malgré la fragmentation de notre écosystème médiatique, une simple recherche Google suffit généralement à vérifier si ces images sont fausses. Ce sont les deepfakes ciblés et omniprésents – ceux qui escroquent vos proches plutôt que de simplement perturber les réseaux sociaux – qui sont peut-être les plus inquiétants. » Et pour lesquels les mesures de protection s’annoncent encore très perfectibles.

Pour le New York Times, Stuart Thompson a testé les détecteurs d’IA. Plus d’une douzaine d’outils en ligne affirment pouvoir faire la différence entre le vrai et le faux en recherchant des filigranes cachés, des erreurs de composition et d’autres indices numériques. « Les résultats suggèrent que ces détecteurs peuvent aider à confirmer les soupçons concernant les contenus générés par l’IA, mais il est difficile de s’y fier pour établir un diagnostic définitif. » Thompson réalise plusieurs tests ne produisant pas toujours des résultats adaptés auprès d’une galerie d’outils comme Hive Detect, Resemble.ai, AI or Not, Reality Defender, Copyleaks, BrandWell, Sensity, Sightengine et les grands outils d’IA qui ont tous intégré ces fonctions, de Gemini à Claude, ChatGPT ou SuperGrok.

Le NYTimes a fait passer des tests à tout ces outils. « Nombre d’entre eux ont pu détecter les contrefaçons les plus simples ». Parfois, certains outils ne parviennent même pas à détecter les images qu’ils ont eux-mêmes créé. Les propriétaires de ces outils estiment néanmoins que les mises à jour de ceux-ci seront plus efficaces qu’ils ne sont, sans parvenir à la perfection. La détection de vidéo est plus difficile que celle des images et les résultats de ces outils sont tous moins bons, mais semblent plus performants pour détecter les sons générés. Ils réussissent mieux à détecter comme réels des images et vidéos réels, par contre les images réelles modifiées demeurent les plus difficiles à détecter… tant pour les outils que pour les humains. 

Deepfakes : pourquoi ça marche ?

Dans sa newsletter, Rob Horning tente de comprendre pourquoi les images génératives rencontrent un tel succès. Par rapport aux images réelles, « les versions générées par l’IA sont souvent plus spectaculaires, plus cinématographiques et optimisées pour générer des clics sur les réseaux sociaux ». Toutes les images ne sont pas propagandistes, rappelle le philosophe, elles sont surtout « opportunistes ». Elles visent à produire du contenu. C’est une propagande pour l’information elle-même, qui soutient l’idée que « toute information peut et doit être vécue comme un divertissement ». « Elles encouragent plutôt une approche post-narrative où l’appréciation des mèmes ne dépend plus de la compréhension des enjeux globaux ni de la recherche de contexte ». « Les spectateurs sont pris en étau entre deux systèmes algorithmiques : l’un génère le contenu et l’autre nous le présente, notre attention étant captée pour les entraîner à converger.» 

Ces images et vidéos cherchent plus à être émotionnellement compréhensibles qu’à être authentiques. Le contenu ne fait que nourrir et renforcer notre soif de spectacle. « La confusion entre preuves et contenu dans les flux d’information a engendré une confusion entre les deux. Les éléments présentés comme des preuves deviennent un alibi pour le spectacle ; ils imitent la vérifiabilité tout en nous incitant à nier tout besoin de vérification. » Mais, s’inquiète Horning, « ces contenus renforcent également l’idée qu’il est plus amusant d’être dupé que d’être informé, et que l’indifférence à la vérité procure des récompenses émotionnelles immédiates ». Ils nous disent autre chose encore de notre monde, souligne-t-il. Ces contenus de piètre qualité alimentent l’idée que tout devrait être visible, surtout dans un monde aussi saturé de surveillance que le nôtre. A l’heure où tout est accessible, nous avons l’impression que tout est désormais visible, comme quand le journalisme lui-même utilise la reconstitution fictive pour nous montrer ce qui n’a pas été enregistré. Il existe de fausses images sur tout ce qui peut susciter des réactions. Et ces images et vidéos permettent de montrer ce qu’il se passe réellement, sans que ce soit réel. « Ces vidéos ne fournissent pas d’informations factuelles, mais une idéologie, nous épargnant ainsi l’effort de la réflexion. » 

Si ces fausses images prolifèrent, c’est parce qu’elles offrent des illustrations claires de problèmes perçus comme réels, explique la chercheuse Claire Wilmot sur son blog pour la London Review of Books, qui montre que les deepfakes racistes offrent à ceux qui les utilisent la confirmation de leurs diagnostics. Les gens qui les partagent savent très bien que ces images sont fausses, mais elles permettent de montrer ce que ces gens pensent qu’il se passe réellement. « Ces vidéos répondent au désir du public de voir ses croyances se manifester sous forme de preuves et de consommer ce qu’il croit déjà comme si cela était irréfutablement établi par des événements réels. Elles nous offrent des explications simplistes, nous dispensant ainsi de tout effort de réflexion ou de toute responsabilité. Ces types de vidéos et d’images nous permettent de vivre ces croyances comme un contenu sans avoir à y croire « réellement ». Elles apparaissent simplement sous nos yeux pour nous rassurer. Ces contenus s’auto-valident pour leur public car ils présentent une idée qu’il tient déjà pour acquise. »  

« Le flux constant de ces contenus normalise l’idée que l’information sera immédiatement remaniée pour nous satisfaire, et que nous pouvons compter sur nos flux d’actualités pour moduler nos émotions et nous apporter une forme de clarté, voire de soulagement. » Les fausses images permettent finalement de neutraliser le flux des images réelles qui sont peu commodes à comprendre. Elles apaisent l’anxiété de l’actualité en permettant de mieux la maîtriser, de la rendre plus lisible qu’elle n’est, plus conforme à ce qu’elle devrait être ou ce qu’on voudrait qu’elle soit. 

« Le caractère facilement rejetable de ces images obséquieuses fait partie de leur attrait ; il rend la tromperie apparente et contenue, grâce à l’incrédulité délibérément suspendue du spectateur. La désinformation nous flatte en nous laissant entrevoir la supercherie tout en savourant la vision du monde qu’elle propose. Elle offre un discours facile à suivre, qui procure un sentiment constant de réussite, de reconnaissance, d’obtention sans effort. Elle flatte comme un chatbot obséquieux. Son mal ne réside pas dans le fait de nous persuader de choses fausses, mais dans l’érosion du sens des responsabilités collectives face à l’information partagée. » C’est un peu comme si ces images permettaient d’enlever de l’actualité sa complexité. « C’est le message sous-jacent de tout contenu : nous devrions pouvoir voir ce que nous voulons croire sans avoir à investir d’efforts pour construire cette réalité. »

Horning pointe un autre effet de la désinformation partagée : celle de nous isoler finalement. « Au lieu de rechercher l’information en reconnaissant notre ignorance nous ingérons des quantités massives d’informations simulées et de propagande maladroite qui nous donne l’illusion d’être imbus de nous-mêmes. Si le devoir civique, en tant que raison de s’informer, s’est atrophié, la diffusion de désinformation vise à l’anéantir complètement. »

L’industrie médiatique a subordonné la vérité au spectacle, éliminant les points de vue marginalisés et les voix divergentes. Or, ce que nous voyons, entendons, lisons… ne devrait jamais suffire à dicter nos croyances, rappelle Horning. La « crise de la vérité » ne provient pas d’un nouveau pouvoir des médias de nous tromper, « mais de la conviction que la simple consommation de médias suffit à nous faire vivre dans le monde réel ». Or, « aucune image ne peut nous conférer un rapport privilégié à la vérité, une conscience automatique de la réalité objective, une empathie accrue ou un sens moral plus sûr. Aucun média ne peut nous affranchir de la médiation. S’engager avec les médias ne signifie pas « surveiller la situation » ; cela implique de participer à la guerre de la propagande, et non de se complaire dans la médiocrité ». 

Nous sommes de plus en plus soumis à une pure consommation d’information. Et en cela, les fausses images nous invitent à rester dans une pure consommation, en n’ayant plus qu’à circuler parmi elles, en naviguant parmi celles qui nous complaisent le mieux. Or, consommer l’information ne suffit pas, rappelle Horning. Les militants du Minnesota, face à l’ICE, ont montré l’importance à documenter ensemble, les pratiques de la milice, pas seulement en invitant les gens à regarder leurs vidéos, mais à les produire collectivement, en filmant la réalité des exactions de l’ICE sous tous les angles possibles, à témoigner. Une pratique qui devient plus forte à mesure que plus de gens y participent. Une pratique qui produit de la solidarité et qui participe à la production d’une réalité partagée. Tout l’inverse de la production politique traditionnelle qui amplifie de plus en plus les pires outrages, les pires dénis, les pires mensonges. Trump est assurément le pire menteur et affabulateur de tous les temps, et pourtant, il reste perçu comme plus honnête et plus authentique que ses adversaires, se désole la journaliste Zoe Williams dans The Guardian. Le risque est bien que les images génératives empruntent le même chemin : qu’elles semblent honnêtes et plus authentiques que la réalité. 

Hubert Guillaud

Cet édito a été originellement publié pour la lettre d’information Café IA du 13 mai 2026.

MAJ du 25/06/2026 : En janvier, dans la Technology Review, le journaliste James O’Donnell avait révélé que le Département américain de la Sécurité intérieure, qui gère les services d’immigration, utilisait des générateurs vidéo IA de Google et d’Adobe pour créer du contenu destiné au public. Si certains commentateurs n’étaient pas surpris (le président Trump lui-même étant coutumier du fait), de nombreux autres justifiaient la pratique en estimant qu’il fallait combattre la désinformation par de la désinformation. Au grand damne du journaliste qui, dans un autre article où il raconte les conséquences, constate que l’enjeu n’est plus la vérité. Et le journaliste de pointer vers un article de recherche de la revue Communications Psychology de Nature. Dans cette étude, les participants ont visionné une « confession » truquée et les chercheurs ont constaté que même lorsqu’on leur disait explicitement que la preuve était fausse, les participants s’y fiaient pour juger de la culpabilité d’un individu. « Autrement dit, même lorsque les gens apprennent que le contenu qu’ils consultent est entièrement faux, ils restent influencés émotionnellement par celui-ci ». Nous avons réagi à la crise de la vérité en nous préparant à un monde où le principal danger serait la confusion, conclu O’Donnell. « Or, nous entrons dans un monde où l’influence survit à la révélation, où le doute est facilement instrumentalisé et où établir la vérité ne permet pas de repartir à zéro. Et les défenseurs de la vérité sont déjà largement distancés. » Face à la submersion par le faux, même rétablir la vérité ne semble plus avoir d’effets. 

MAJ du 25/06/2026 : Il reste des éléments qui permettent encore de distinguer les images réelles des images générées, estime Hany Farid, pionnier de la criminalistique numérique, qui à la tête de l’entreprise GetReal Security, est l’un des plus grands experts mondiaux en matière de détection de manipulation de photos et de vidéos. Dans Science, il explique que les images génératives peinent à reproduire fidèlement les lois de la physique. Même constat pour Darren Linvill, codirecteur du Media Forensics Hub de l’université de Clemson : les images génératives sont plus saisissantes que la réalité. « En termes de contenu à partager et à regarder, une grande partie du contenu généré par l’IA surpasse la réalité », explique-t-il. Les explosions sont plus impressionnantes, le point de fuite des perspective n’est pas unique, les différences d’éclairages perceptibles… Farid cherche surtout les traces laissées par certains types de manipulation, notamment en analysant les pixels des images. « L’IA générative ignore tout de la physique et de la géométrie ». Pour vérifier les images, Hany Farid contrôle souvent si la géométrie de la scène est réaliste. Il a développé également un logiciel de lecture labiale automatique capable de repérer quand les mouvements de la bouche ne correspondent pas pas aux paroles… Mais reconnait-il, ces problèmes évoluent vite et les systèmes s’améliorant, la détection est de plus en plus difficile. « Le monde réel est incroyablement complexe à simuler, et les entreprises d’IA n’ont guère intérêt à pousser leurs modèles aussi loin. Après tout, leur objectif n’est pas de tromper les experts en criminalistique numérique comme Farid, mais simplement l’utilisateur lambda, un critère bien moins exigeant. « Le système visuel tolère toutes sortes d’absurdités sur les photos, car il n’y prête pas attention », explique-t-il. » Un de ses étudiants, Lyu, a développé deepfake-o-meter un système pour estimer la crédibilité des images. Mais un des principaux problèmes est que ces détecteurs fonctionnent mal avec des contenus très différents de leurs données d’entraînement. « Il n’existe pas de détecteur d’apprentissage automatique unique permettant aux utilisateurs de télécharger tous types de vidéos, photos, fichiers audio et d’obtenir une réponse fiable. » 

Bien sûr, même l’enquête la plus approfondie et la plus rigoureuse ne convaincra pas toujours les sceptiques. Farid l’a appris à ses dépens en 2009, lorsqu’il a analysé une photo de 1963 montrant Lee Harvey Oswald tenant le fusil qu’il utiliserait plus tard pour assassiner le président John F. Kennedy. Les théoriciens du complot – et Oswald lui-même – affirmaient depuis longtemps que la photo était truquée, pointant du doigt des détails inhabituels comme les ombres sur le visage d’Oswald. Mais l’analyse de Farid n’a rien révélé d’anormal. Cela ne l’a pas empêché d’être accusé d’être partie prenante dans la dissimulation de la vérité ! 

Farid a également participé du développement de PhotoDNA qui repère les contenus pédopornographiques en ligne (voir notre article sur la modération automatisée depuis le livre de Tarleton Gillespie de 2019, Custodians of the internet, Yale, 2018). Développé en 2009 en collaboration avec Microsoft, cet outil analyse les contenus mis en ligne sur Google, Facebook, Reddit et d’autres plateformes, en comparant les fichiers à une base de données de contenus pédopornographiques connus. Le Centre canadien de protection de l’enfance (C3P) utilise ce logiciel dans le cadre du Projet Arachnide qui explore activement l’internet à la recherche de correspondances. 

Mais Farid reconnaît qu’il est désormais submergé par le flot : au début de sa carrière, il recevait une ou deux demandes de vérification par mois, se souvient-il. Puis, chaque semaine. « Maintenant, c’est tous les jours. Sans blague, chaque matin, je me réveille avec une dizaine de courriels de journalistes du monde entier. » 

Il est possible que quelqu’un parvienne à créer un faux document indétectable, explique-t-il. Mais son objectif est de rendre la tâche si difficile qu’elle reste hors de portée de la grande majorité des personnes mal intentionnées. « Chaque fois que je quitte ma maison, je verrouille ma porte d’entrée », explique Farid. « Cela empêche 99,99 % des gens de s’introduire chez moi, mais pas un serrurier. » 

Lila Shroff s’inquiète. A raison. ChatGPT Images 2.0 qui vient de sortir permet de créer des visuels photoréalistes nettement plus convaincants que ceux produits par ses prédécesseurs. Elle l’a utilisé pour créer une image de Trump en train de donner des conseils de maquillage comme une capture d’écran de TikTok. Amusant. « Mais les deepfakes les plus réalistes que j’ai pu créer n’impliquaient ni politiciens ni célébrités. La plupart ne représentaient même pas de personnes. Sans trop d’efforts, j’ai pu créer plus de 100 images falsifiées, notamment des ordonnances d’opioïdes et de médicaments contre le TDAH, des alertes bancaires, des publications sur les réseaux sociaux, de fausses images de cartes d’identité et de passeports », de faux documents financiers (factures, reçus et déclarations fiscales), fausses captures d’écran (pour falsifier une confirmation de virement bancaire), fausses notes de frais, fausse capture d’écran d’un site de presse… Les modèles d’images ont longtemps peiné à produire des images intégrant du texte. Ce n’est plus du tout le cas avec cette version ci. Bien sûr, en y regardant de plus près, tous ces faux ne sont pas encore parfaits. Dans son dernier rapport annuel sur la cybercriminalité, le FBI a inclus une section sur les escroqueries à l’IA, qui auraient coûté près d’un milliard de dollars aux Américains l’an dernier. 

Fake, ça accélère

« En théorie, je n’aurais pas dû être capable de créer la plupart de ces images. OpenAI interdit l’utilisation de sa technologie à des fins de fraude ou d’escroquerie » … mais souhaite laisser une liberté créative totale à ses utilisateurs. De la à permettre de reproduire des logos de banque ou des documents officiels… Même constats chez Google dont les IA permettent également de générer ce genre de faux. Les entreprises d’IA se défendent en estimant que les images générées le sont avec des filigranes comme SynthID ou des métadonnées, mais encore faut-il que les gens aient des outils pour analyser les images qu’ils voient. « Malgré la fragmentation de notre écosystème médiatique, une simple recherche Google suffit généralement à vérifier si ces images sont fausses. Ce sont les deepfakes ciblés et omniprésents – ceux qui escroquent vos proches plutôt que de simplement perturber les réseaux sociaux – qui sont peut-être les plus inquiétants. » Et pour lesquels les mesures de protection s’annoncent encore très perfectibles.

Pour le New York Times, Stuart Thompson a testé les détecteurs d’IA. Plus d’une douzaine d’outils en ligne affirment pouvoir faire la différence entre le vrai et le faux en recherchant des filigranes cachés, des erreurs de composition et d’autres indices numériques. « Les résultats suggèrent que ces détecteurs peuvent aider à confirmer les soupçons concernant les contenus générés par l’IA, mais il est difficile de s’y fier pour établir un diagnostic définitif. » Thompson réalise plusieurs tests ne produisant pas toujours des résultats adaptés auprès d’une galerie d’outils comme Hive Detect, Resemble.ai, AI or Not, Reality Defender, Copyleaks, BrandWell, Sensity, Sightengine et les grands outils d’IA qui ont tous intégré ces fonctions, de Gemini à Claude, ChatGPT ou SuperGrok.

Le NYTimes a fait passer des tests à tout ces outils. « Nombre d’entre eux ont pu détecter les contrefaçons les plus simples ». Parfois, certains outils ne parviennent même pas à détecter les images qu’ils ont eux-mêmes créé. Les propriétaires de ces outils estiment néanmoins que les mises à jour de ceux-ci seront plus efficaces qu’ils ne sont, sans parvenir à la perfection. La détection de vidéo est plus difficile que celle des images et les résultats de ces outils sont tous moins bons, mais semblent plus performants pour détecter les sons générés. Ils réussissent mieux à détecter comme réels des images et vidéos réels, par contre les images réelles modifiées demeurent les plus difficiles à détecter… tant pour les outils que pour les humains. 

Deepfakes : pourquoi ça marche ?

Dans sa newsletter, Rob Horning tente de comprendre pourquoi les images génératives rencontrent un tel succès. Par rapport aux images réelles, « les versions générées par l’IA sont souvent plus spectaculaires, plus cinématographiques et optimisées pour générer des clics sur les réseaux sociaux ». Toutes les images ne sont pas propagandistes, rappelle le philosophe, elles sont surtout « opportunistes ». Elles visent à produire du contenu. C’est une propagande pour l’information elle-même, qui soutient l’idée que « toute information peut et doit être vécue comme un divertissement ». « Elles encouragent plutôt une approche post-narrative où l’appréciation des mèmes ne dépend plus de la compréhension des enjeux globaux ni de la recherche de contexte ». « Les spectateurs sont pris en étau entre deux systèmes algorithmiques : l’un génère le contenu et l’autre nous le présente, notre attention étant captée pour les entraîner à converger.» 

Ces images et vidéos cherchent plus à être émotionnellement compréhensibles qu’à être authentiques. Le contenu ne fait que nourrir et renforcer notre soif de spectacle. « La confusion entre preuves et contenu dans les flux d’information a engendré une confusion entre les deux. Les éléments présentés comme des preuves deviennent un alibi pour le spectacle ; ils imitent la vérifiabilité tout en nous incitant à nier tout besoin de vérification. » Mais, s’inquiète Horning, « ces contenus renforcent également l’idée qu’il est plus amusant d’être dupé que d’être informé, et que l’indifférence à la vérité procure des récompenses émotionnelles immédiates ». Ils nous disent autre chose encore de notre monde, souligne-t-il. Ces contenus de piètre qualité alimentent l’idée que tout devrait être visible, surtout dans un monde aussi saturé de surveillance que le nôtre. A l’heure où tout est accessible, nous avons l’impression que tout est désormais visible, comme quand le journalisme lui-même utilise la reconstitution fictive pour nous montrer ce qui n’a pas été enregistré. Il existe de fausses images sur tout ce qui peut susciter des réactions. Et ces images et vidéos permettent de montrer ce qu’il se passe réellement, sans que ce soit réel. « Ces vidéos ne fournissent pas d’informations factuelles, mais une idéologie, nous épargnant ainsi l’effort de la réflexion. » 

Si ces fausses images prolifèrent, c’est parce qu’elles offrent des illustrations claires de problèmes perçus comme réels, explique la chercheuse Claire Wilmot sur son blog pour la London Review of Books, qui montre que les deepfakes racistes offrent à ceux qui les utilisent la confirmation de leurs diagnostics. Les gens qui les partagent savent très bien que ces images sont fausses, mais elles permettent de montrer ce que ces gens pensent qu’il se passe réellement. « Ces vidéos répondent au désir du public de voir ses croyances se manifester sous forme de preuves et de consommer ce qu’il croit déjà comme si cela était irréfutablement établi par des événements réels. Elles nous offrent des explications simplistes, nous dispensant ainsi de tout effort de réflexion ou de toute responsabilité. Ces types de vidéos et d’images nous permettent de vivre ces croyances comme un contenu sans avoir à y croire « réellement ». Elles apparaissent simplement sous nos yeux pour nous rassurer. Ces contenus s’auto-valident pour leur public car ils présentent une idée qu’il tient déjà pour acquise. »  

« Le flux constant de ces contenus normalise l’idée que l’information sera immédiatement remaniée pour nous satisfaire, et que nous pouvons compter sur nos flux d’actualités pour moduler nos émotions et nous apporter une forme de clarté, voire de soulagement. » Les fausses images permettent finalement de neutraliser le flux des images réelles qui sont peu commodes à comprendre. Elles apaisent l’anxiété de l’actualité en permettant de mieux la maîtriser, de la rendre plus lisible qu’elle n’est, plus conforme à ce qu’elle devrait être ou ce qu’on voudrait qu’elle soit. 

« Le caractère facilement rejetable de ces images obséquieuses fait partie de leur attrait ; il rend la tromperie apparente et contenue, grâce à l’incrédulité délibérément suspendue du spectateur. La désinformation nous flatte en nous laissant entrevoir la supercherie tout en savourant la vision du monde qu’elle propose. Elle offre un discours facile à suivre, qui procure un sentiment constant de réussite, de reconnaissance, d’obtention sans effort. Elle flatte comme un chatbot obséquieux. Son mal ne réside pas dans le fait de nous persuader de choses fausses, mais dans l’érosion du sens des responsabilités collectives face à l’information partagée. » C’est un peu comme si ces images permettaient d’enlever de l’actualité sa complexité. « C’est le message sous-jacent de tout contenu : nous devrions pouvoir voir ce que nous voulons croire sans avoir à investir d’efforts pour construire cette réalité. »

Horning pointe un autre effet de la désinformation partagée : celle de nous isoler finalement. « Au lieu de rechercher l’information en reconnaissant notre ignorance nous ingérons des quantités massives d’informations simulées et de propagande maladroite qui nous donne l’illusion d’être imbus de nous-mêmes. Si le devoir civique, en tant que raison de s’informer, s’est atrophié, la diffusion de désinformation vise à l’anéantir complètement. »

L’industrie médiatique a subordonné la vérité au spectacle, éliminant les points de vue marginalisés et les voix divergentes. Or, ce que nous voyons, entendons, lisons… ne devrait jamais suffire à dicter nos croyances, rappelle Horning. La « crise de la vérité » ne provient pas d’un nouveau pouvoir des médias de nous tromper, « mais de la conviction que la simple consommation de médias suffit à nous faire vivre dans le monde réel ». Or, « aucune image ne peut nous conférer un rapport privilégié à la vérité, une conscience automatique de la réalité objective, une empathie accrue ou un sens moral plus sûr. Aucun média ne peut nous affranchir de la médiation. S’engager avec les médias ne signifie pas « surveiller la situation » ; cela implique de participer à la guerre de la propagande, et non de se complaire dans la médiocrité ». 

Nous sommes de plus en plus soumis à une pure consommation d’information. Et en cela, les fausses images nous invitent à rester dans une pure consommation, en n’ayant plus qu’à circuler parmi elles, en naviguant parmi celles qui nous complaisent le mieux. Or, consommer l’information ne suffit pas, rappelle Horning. Les militants du Minnesota, face à l’ICE, ont montré l’importance à documenter ensemble, les pratiques de la milice, pas seulement en invitant les gens à regarder leurs vidéos, mais à les produire collectivement, en filmant la réalité des exactions de l’ICE sous tous les angles possibles, à témoigner. Une pratique qui devient plus forte à mesure que plus de gens y participent. Une pratique qui produit de la solidarité et qui participe à la production d’une réalité partagée. Tout l’inverse de la production politique traditionnelle qui amplifie de plus en plus les pires outrages, les pires dénis, les pires mensonges. Trump est assurément le pire menteur et affabulateur de tous les temps, et pourtant, il reste perçu comme plus honnête et plus authentique que ses adversaires, se désole la journaliste Zoe Williams dans The Guardian. Le risque est bien que les images génératives empruntent le même chemin : qu’elles semblent honnêtes et plus authentiques que la réalité. 

Hubert Guillaud

Cet édito a été originellement publié pour la lettre d’information Café IA du 13 mai 2026.

MAJ du 25/06/2026 : En janvier, dans la Technology Review, le journaliste James O’Donnell avait révélé que le Département américain de la Sécurité intérieure, qui gère les services d’immigration, utilisait des générateurs vidéo IA de Google et d’Adobe pour créer du contenu destiné au public. Si certains commentateurs n’étaient pas surpris (le président Trump lui-même étant coutumier du fait), de nombreux autres justifiaient la pratique en estimant qu’il fallait combattre la désinformation par de la désinformation. Au grand damne du journaliste qui, dans un autre article où il raconte les conséquences, constate que l’enjeu n’est plus la vérité. Et le journaliste de pointer vers un article de recherche de la revue Communications Psychology de Nature. Dans cette étude, les participants ont visionné une « confession » truquée et les chercheurs ont constaté que même lorsqu’on leur disait explicitement que la preuve était fausse, les participants s’y fiaient pour juger de la culpabilité d’un individu. « Autrement dit, même lorsque les gens apprennent que le contenu qu’ils consultent est entièrement faux, ils restent influencés émotionnellement par celui-ci ». Nous avons réagi à la crise de la vérité en nous préparant à un monde où le principal danger serait la confusion, conclu O’Donnell. « Or, nous entrons dans un monde où l’influence survit à la révélation, où le doute est facilement instrumentalisé et où établir la vérité ne permet pas de repartir à zéro. Et les défenseurs de la vérité sont déjà largement distancés. » Face à la submersion par le faux, même rétablir la vérité ne semble plus avoir d’effets. 

MAJ du 25/06/2026 : Il reste des éléments qui permettent encore de distinguer les images réelles des images générées, estime Hany Farid, pionnier de la criminalistique numérique, qui à la tête de l’entreprise GetReal Security, est l’un des plus grands experts mondiaux en matière de détection de manipulation de photos et de vidéos. Dans Science, il explique que les images génératives peinent à reproduire fidèlement les lois de la physique. Même constat pour Darren Linvill, codirecteur du Media Forensics Hub de l’université de Clemson : les images génératives sont plus saisissantes que la réalité. « En termes de contenu à partager et à regarder, une grande partie du contenu généré par l’IA surpasse la réalité », explique-t-il. Les explosions sont plus impressionnantes, le point de fuite des perspective n’est pas unique, les différences d’éclairages perceptibles… Farid cherche surtout les traces laissées par certains types de manipulation, notamment en analysant les pixels des images. « L’IA générative ignore tout de la physique et de la géométrie ». Pour vérifier les images, Hany Farid contrôle souvent si la géométrie de la scène est réaliste. Il a développé également un logiciel de lecture labiale automatique capable de repérer quand les mouvements de la bouche ne correspondent pas pas aux paroles… Mais reconnait-il, ces problèmes évoluent vite et les systèmes s’améliorant, la détection est de plus en plus difficile. « Le monde réel est incroyablement complexe à simuler, et les entreprises d’IA n’ont guère intérêt à pousser leurs modèles aussi loin. Après tout, leur objectif n’est pas de tromper les experts en criminalistique numérique comme Farid, mais simplement l’utilisateur lambda, un critère bien moins exigeant. « Le système visuel tolère toutes sortes d’absurdités sur les photos, car il n’y prête pas attention », explique-t-il. » Un de ses étudiants, Lyu, a développé deepfake-o-meter un système pour estimer la crédibilité des images. Mais un des principaux problèmes est que ces détecteurs fonctionnent mal avec des contenus très différents de leurs données d’entraînement. « Il n’existe pas de détecteur d’apprentissage automatique unique permettant aux utilisateurs de télécharger tous types de vidéos, photos, fichiers audio et d’obtenir une réponse fiable. » 

Bien sûr, même l’enquête la plus approfondie et la plus rigoureuse ne convaincra pas toujours les sceptiques. Farid l’a appris à ses dépens en 2009, lorsqu’il a analysé une photo de 1963 montrant Lee Harvey Oswald tenant le fusil qu’il utiliserait plus tard pour assassiner le président John F. Kennedy. Les théoriciens du complot – et Oswald lui-même – affirmaient depuis longtemps que la photo était truquée, pointant du doigt des détails inhabituels comme les ombres sur le visage d’Oswald. Mais l’analyse de Farid n’a rien révélé d’anormal. Cela ne l’a pas empêché d’être accusé d’être partie prenante dans la dissimulation de la vérité ! 

Farid a également participé du développement de PhotoDNA qui repère les contenus pédopornographiques en ligne (voir notre article sur la modération automatisée depuis le livre de Tarleton Gillespie de 2019, Custodians of the internet, Yale, 2018). Développé en 2009 en collaboration avec Microsoft, cet outil analyse les contenus mis en ligne sur Google, Facebook, Reddit et d’autres plateformes, en comparant les fichiers à une base de données de contenus pédopornographiques connus. Le Centre canadien de protection de l’enfance (C3P) utilise ce logiciel dans le cadre du Projet Arachnide qui explore activement l’internet à la recherche de correspondances. 

Mais Farid reconnaît qu’il est désormais submergé par le flot : au début de sa carrière, il recevait une ou deux demandes de vérification par mois, se souvient-il. Puis, chaque semaine. « Maintenant, c’est tous les jours. Sans blague, chaque matin, je me réveille avec une dizaine de courriels de journalistes du monde entier. » 

Il est possible que quelqu’un parvienne à créer un faux document indétectable, explique-t-il. Mais son objectif est de rendre la tâche si difficile qu’elle reste hors de portée de la grande majorité des personnes mal intentionnées. « Chaque fois que je quitte ma maison, je verrouille ma porte d’entrée », explique Farid. « Cela empêche 99,99 % des gens de s’introduire chez moi, mais pas un serrurier. » 

À DLA, on connaît bien l’acronyme TL;DR (too long, didn’t read, « trop long ; pas lu ») que de bien peu aimables personnes nous envoient parfois après avoir pris connaissance de notre lettre d’information. Il est peu probable pourtant que l’on passe à l’étape suivante : TL;DW (too long, didn’t write : « c’est trop long à écrire, alors je ne l’ai pas écrit moi-même »), qui consiste à faire écrire ses contenus par une IA générative… Quoique, les articles seraient peut-être plus clairs, les circonvolutions moins alambiquées ? Allez savoir !

Mais c’est d’un autre mème dont je voulais parler. Un mème qui devrait lui aussi beaucoup moins nous être adressé, mais qu’on utilise souvent : AI;DR (AI, didn’t read) : « c’est de l’IA, je ne l’ai pas lu » ! Un jugement qu’on énonce couramment et qui décrit la transformation de notre rapport aux textes, à l’heure où tout doit aller si vite, qu’on n’a plus le temps d’écrire ni de lire. Un refus face au déferlement : « c’est de l’IA, je ne veux même pas le lire » !

A qui profite le verbiage ? 

AI;DR donc. L’acronyme exprime quelque chose entre la lassitude et l’hostilité à voir des textes génératifs envahir le web. Qu’ils soient très formatés, énergiques ou lénifiants, l’expression nous dit que nous serions capables de repérer la prose des LLM à leur tiédeur, à leur style, à leurs effets (qu’importe si en vérité, nous nous trompons souvent, comme c’est le cas des enseignants qui peinent à identifier les productions génératives de leurs étudiants). Un peu comme si nous étions dotés d’un système de repérage, une boussole infaillible, alors que les textes génératifs sont souvent corrigés, amendés, modifiés par leurs auteurs, et qu’ils tiennent bien plus d’une forme de coproduction qu’autre chose. Non seulement l’acronyme nous dit que ces productions n’ont finalement pas grande importance, mais il nous dit aussi que nos erreurs d’attribution peuvent être aussi péremptoires que les réponses des chatbots à la confiance survitaminée. Il nous dit que ces productions n’ont finalement pas grande importance au risque de renvoyer avec elles des propos bien humains, un peu comme ceux qui étaient trop longs finalement, trop humains. AI;DR nous dit que ce qui est écrit n’a pas grand intérêt, qu’il soit le fait de robots ou d’humains. Ce que ça fait est bien plus important : même si ce que ça fait (écrire) devient en même temps qu’on l’énonce bien peu important puisqu’on ne lui prête plus aucune attention.

Rapidement, on est saisi d’un vertige : à quoi peuvent bien servir des outils pour produire du texte que les gens ne souhaitent pas lire ? AI;DR semble mettre en abîme le grand vide des machines à verbiage, comme pour rendre béant le vortex qui s’ouvre sous nos mots. Un peu comme vient de le proposer le moteur de traduction Kagi en permettant de traduire (après le Dothraki, le Haut Valyrien ou le Klingon quand même !) n’importe quel texte en « Linked-in speak », c’est-à-dire dans le jargon de Linked-in. En permettant de transformer n’importe quel texte en post de motivation entrepreneuriale, truffé d’emojis, de hashtags et de déconvenues transformées en leçons de vie. « Le traducteur de Kagi ne fabrique pas cette langue, il la révèle. Il en expose la mécanique, la pauvreté, le vide soigneusement emballé dans du vocabulaire managérial », s’amusait la chroniqueuse de Radio France, Constance Vilanova. Elle pointait d’ailleurs vers une étude d’un chercheur en linguistique qui a mis au point une échelle pour mesurer la réceptivité au jargon d’entreprise. Une étude qui montrait que plus on est sensible aux formules creuses, moins on performe soi-même aux tests de pensée analytique et aux tests de prise de décision. « Les grands amateurs de Linked-in speak seraient donc aussi les moins capables de repérer le vide. Ce qui crée un cercle vicieux parfait : les patrons sont récompensés pour leur langue de bois, et les équipes se peuplent progressivement de gens qui n’y voient que du feu. » Mais surtout, les personnes les plus réceptives au jargonnage ont aussi plus tendance à percevoir leurs leaders comme visionnaires, à être plus inspirées par les homélies d’entreprises et à faire plus confiance à leurs managers. « Pour certaines personnes, un discours abstrait et vaporeux peut donner l’impression de profondeur, de vision et de compétence et parfois suffit à produire de la crédibilité. Il peut aussi fonctionner comme un signal de leadership », s’amuse David Gateau… Pire, « plus la réceptivité au bullshit corporate est élevée, plus la qualité des décisions diminue ». « Les personnes les plus sensibles aux discours creux en entreprise ont tendance à choisir systématiquement les pires solutions aux problèmes », explique l’auteur de l’étude, Shane Littrell. Pourtant, l’étude montre aussi finalement que le jargon persuade et impressionne certains publics, explique The Guardian, tout comme le verbiage des LLM finalement. « N’importe qui peut se laisser berner, et nous sommes tous, selon les circonstances, susceptibles d’être influencés par des discours creux présentés de manière à flatter nos préjugés. »

Les contenus produits par l’IA sont-ils faits pour être lus ?

Le hashtag #AI;DR entérine la dépréciation des contenus génératifs, dénigrés depuis leur apparition. Comme le disait John Hermann dans le New York Mag dès 2024 : alors que l’IA est associée au summum des réalisations humaines, pour tout à chacun, elle désigne d’abord des choses assez pauvres, assez communes. Dans le langage courant, dire d’un texte qu’il a été réalisé par ChatGPT qualifie toujours un document sans grand intérêt. Aujourd’hui encore. « Pourquoi devrais-je me donner la peine de lire quelque chose que personne d’autre n’a daigné écrire ? », remarque pertinemment un développeur, relayé par Futurism. Quand on lit le propos de quelqu’un, c’est pour comprendre ce qu’il pense, perçoit et appréhende du monde. Ecrire, c’est penser. Et penser, c’est exister. Mais que signifie lire la prose d’un LLM ? QUI sommes-nous censés comprendre ? Et donc QUE sommes-nous censés comprendre ? Quelque part, les gens qui dénoncent ces contenus, disent que ce qui est écrit par l’IA ne nous est pas adressé. Que ces contenus ne sont pas vraiment pour les humains puisqu’ils ne sont pas humains.

Dans le New York Mag, John Hermann (encore lui), dénonçait récemment le cauchemar de l’e-mail piloté à l’IA : « Êtes-vous impatient de voir vos collègues devenir beaucoup plus bavards, transformant chaque simple « Ça me va » en une lettre de trois paragraphes ? Êtes-vous ravi que le genre d’e-mails de masse semi-personnalisés que vous avez l’habitude de recevoir des grandes marques dotées de services marketing (ou des spammeurs et des auteurs de phishing) soit désormais accessible à toute personne possédant un compte Google ? Avez-vous hâte de vous demander si cette charmante lettre de condoléances d’un ami perdu de vue depuis longtemps a été entièrement générée par un logiciel ou s’il a simplement cliqué sur le bouton pour rendre le contenu « plus sincère » avant de l’envoyer ? » Ce dernier exemple n’est même pas une blague, le mois dernier, l’administration de l’université Vanderbilt a dû présenter ses excuses après avoir envoyé un e-mail de condoléances aux étudiants suite à la fusillade de l’université d’État du Michigan. En bas du message il était indiqué qu’il avait été rédigé par ChatGPT !

Le Financial Times rapporte que le volume des plaintes aux services juridiques et RH des entreprises est en augmentation et que celles-ci sont plus documentées et complexes qu’avant. Ce ne sont plus de simple e-mail à traiter, mais des pièces jointes volumineuses, qui évoquent parfois des législations qui n’existent pas. La raison ? Le recours à l’IA. De plus en plus de plaintes leur arrivent « incompétentes mais sûres d’elles », « superficiellement persuasives », « excessivement juridiques sans être pertinentes »… de gens pouvant avoir des attentes irréalistes, désorientés par les réponses des IA à leurs problèmes. Le volume de récriminations augmente et le temps pour les vérifier également, au risque de ralentir les réponses des employeurs.

Reste que le besoin de formalisation que traduit le passage à un argumentaire structuré par l’IA dit peut-être autre chose du rapport employés-employeurs, où les discussions ne suffisent pas pour être écoutés…

Le New York Times, récemment, expliquait que la romance générative était en pleine explosion et que l’IA était l’avenir du genre. Pas si sûr, contestait Gita Jackson pour Aftermath, les défenseur(e)s de l’IA dans la littérature n’ont pas d’autre but que de gagner de l’argent, en produisant beaucoup de contenus et en vendant des formations pour apprendre à d’autres comment faire. L’une des autrices interviewées par le NYT prétend que ses 200 livres publiés par IA ont totalisé 50 000 ventes… soit en moyenne 250 exemplaires par livre. Ce modèle économique n’est viable que si l’on se fiche de la qualité des livres et de leur popularité, assassine Jackson. Bref, il n’est pas sûr que les romances dopées à l’IA soient l’avenir du genre, comme le défendent les autrices qui le proposent parce qu’elles y ont doublement intérêt. Pas sûr que les contenus dopés à l’IA soient finalement meilleurs que les romances incarnées par leurs autrices.

Deux exemples qui montrent que les contenus génératifs viennent s’intercaler dans les situations de blocages et viennent toujours avec les intérêts de ceux qui les portent, même s’ils ne sont pas toujours faciles à percevoir.

Pour qui écrivons-nous ?

Le mot-clé AI;DR rejoint également celui de sloppers, désignant les producteurs de slop, les producteurs de contenus qui ne produisent plus qu’avec les robots conversationnels (à l’image de la proposition parodique de sloppers.ai, qui se présente comme un service d’IA pour produire… des contenus parfaitement inutiles). Entre résistance et lassitude, le point-virgule, qui à l’origine séparait la cause de l’effet – plus vous écrivez, moins je lis – sépare désormais la production de la machine du refus de lui accorder la moindre attention.

Comme le souligne Alberto Romero, nous passons d’un monde où la longueur d’un texte constitue un obstacle à la lecture, à un monde où le manque d’implication humaine devient un obstacle supplémentaire. Nous sommes passés de « je ne finirai pas ça » à « personne n’a commencé ça ». « La première attitude suppose que l’on est responsable de ses propres limites, tandis que la seconde incite à externaliser sa responsabilité », comme si ce n’était pas à nous de lire, de vérifier, d’agréer aux productions générées. La perspective de notre submersion par les contenus génératifs, par l’intensification des productions, risque de nous laisser plus épuisé que jamais, disions-nous la semaine dernière. Non seulement nous sommes cernés par plus de contenus que jamais, mais nous sommes en même temps confrontés à une forme de post-alphabétisation où l’écrit lui-même semble de plus en plus décrédibilisé par son automatisation.

Pour Romero, l’IA;DR fait écho à son exact inverse : WF;AI (What the fuck; AI, « bordel, écrire pour l’IA ») où nous sommes confrontés au vide de sens qu’exige d’écrire pour l’IA plutôt que pour d’autres humains. Nous sommes en train de passer du pourquoi écrivons-nous à pourquoi lisons-nous, comme si le cœur même de la connaissance n’avait plus de sens, ni pour les autres ni pour nous. « Doit-on consacrer vingt minutes de son attention déjà si sollicitée à un texte qui n’a coûté à son auteur fantôme que quarante-cinq secondes et une consigne maladroite ? »

Perdus au milieu de contenus de plus en plus fantomatiques, comment s’orienter ? « La lecture, comme tout ce que nous faisons, repose sur un contrat social implicite : je vous offre ma réflexion, vous me donnez votre temps. Or, lorsque l’une des parties automatise sa part du marché, l’autre se sent légitimement flouée. Et comme déléguer la lecture n’a aucun sens pour la plupart des gens, ils ne le font tout simplement pas », constate pertinemment Romero. Le contrat de lecture exige une intention et une relation que l’IA ne peut pas produire. Le contrat de lecture est donc profondément rompu, quelles que soient ses conséquences. D’autant que dans la roue du hamster de la lecture/écriture, l’IA a tendance à exclure de plus en plus l’humain. Dans le biais anti-humain de l’IA, l’IA se nourrit de l’IA et récompense plus facilement les contenus IA faisant gonfler plus encore les contenus génératifs qu’on ne veut pas lire. Et pourtant, se moque Romero en conclusion, son texte a été écrit avec une IA. Nous même avons été pris au piège. Le contrat de lecture n’est donc pas totalement rompu, il est flouté au risque de nous abuser en continue. 

C’est toute l’aporie où nous sommes réduits, comme l’illustre le dessinateur Tom Fishburne avec un de ses délicieux dessins : l’IA permet de transformer une liste à puce en un long mail qu’on peut prétendre avoir écrit et où son récepteur peut le transformer en liste à puce qu’il peut prétendre avoir lu. Tom Fishburne rappelle qu’il va falloir du temps pour apprendre quand et comment bien utiliser ces outils et surtout quand ne pas les utiliser. L’acronyme AI;DR nous rappelle que nous sommes face à des contenus dont le statut n’est pas clair, des contenus que nous ne savons pas vraiment utiliser. Peut-on vraiment en vouloir à des gens de refuser de lire des contenus qui sont produits par personne et destinés à personne, de refuser de lire des propos d’une machine, aussi séduisants ou creux puissent-ils être ?

Le risque d’une parole sans conséquence

IA;DR nous dit autre chose pourtant. Que ces mots produits sont produits. Que ce qui devait être fait est fait et que la réception est finalement un autre enjeu, comme s’il dépendait d’autres métriques.

« Pour la première fois, la parole est dissociée de ses conséquences. Nous vivons désormais aux côtés de systèmes d’IA qui conversent avec assurance et persuasion – débitant des affirmations sur le monde, des explications, des conseils, des encouragements, des excuses et des promesses – sans jamais assumer la responsabilité de leurs propos. Des millions de personnes utilisent déjà des chatbots, alimentés par de vastes modèles de langage, et ont intégré ces interlocuteurs synthétiques à leur vie personnelle et professionnelle. Les mots d’un chatbot façonnent nos croyances, nos décisions et nos actions, sans qu’aucun locuteur ne les cautionne », explique Deb Roy dans The Atlantic.

Deb Roy est professeur d’arts et de sciences des médias au MIT, où il dirige le Centre pour la communication constructive au Media Lab. Il est également cofondateur et président de Cortico, une organisation à but non lucratif qui se consacre à la construction de réseaux civiques plus forts, notamment en analysant les échanges vocaux de groupes de discussions pour en dégager liens et tendances.

Dans nos échanges avec les chatbots, ceux-ci s’excusent, corrigent, mais débitent une chose puis son contraire, vide de sens, rappelle le professeur. Pour Roy, « il ne s’agit pas d’une simple nouveauté technique, mais d’un bouleversement de la structure morale du langage ». Lorsque nous parlons, nos mots nous engagent dans un contrat social implicite. Ils nous exposent au jugement, aux représailles, à la honte et à la responsabilité. Dire ce que l’on pense, c’est prendre un risque. Le chercheur en intelligence artificielle Andrej Karpathy a comparé les LLM à des fantômes humains : ils ne sont pas des créatures, leur parole est sans conséquence, tout en étant capable de nous hanter. Pour Deb Roy, spécialiste de l’apprentissage du langage, les mots acquièrent du sens en relation avec le monde. Reste que le sens ne découle pas seulement de la fluidité ou de l’incarnation, mais aussi des enjeux sociaux et moraux que nous prenons lorsque nous parlons. Le langage a une dimension morale et sociale. Il nous engage. Il nous rend digne ou indigne, responsable. « Parler, c’est simultanément s’exposer à un jugement moral, encourir des conséquences sociales et parfois juridiques, assumer la responsabilité de la vérité et contracter des obligations qui perdurent au sein des relations. » Avec les chatbots, la parole n’est plus que procédurale. « Les chaînes causales s’obscurcissent. La responsabilité se dilue. L’autorité épistémique s’exerce sans obligation. Les engagements relationnels sont simulés sans persistance. » Cela produit non seulement un obscurcissement des responsabilités, mais plus encore un affaiblissement progressif des attentes. Le risque est de ne plus rien attendre des textes, quels qu’ils soient.

Norbert Wiener l’avait bien compris, dans ses mises en garde à l’encontre de l’automatisation : l’accroissement des capacités des machines entraînerait une perte de responsabilité humaine. Et l’efficacité elle-même éroderait la dignité humaine, nous poussant à devenir des intrants, des opérateurs ou des superviseurs de processus dont les humains ne contrôleraient plus la logique. « Ce qui rend ces systèmes moralement déstabilisants, ce n’est pas leur dysfonctionnement, mais leur capacité à fonctionner exactement comme prévu tout en se soustrayant à toute responsabilité », explique Roy.

L’histoire moderne regorge de technologies médiatiques qui ont transformé la circulation de la parole : l’imprimerie, la radio, la télévision, les réseaux sociaux. Mais aucune de ces technologies ne possédait les propriétés que les systèmes d’IA actuels réunissent simultanément. Aucune ne permettait de dialoguer et donc d’activer une vulnérabilité psychologique inédite. Avec Eliza, Joseph Weizenbaum a compris que les humains projetaient sur la machine du sens, des intentions et une responsabilité qu’elle n’avait pas. Le philosophe J.L Austin affirmait qu’utiliser le langage, c’est agir. « Tout énoncé significatif accomplit une action : il affirme une croyance, formule une revendication, formule une demande, fait une promesse, etc. Dire « oui » lors d’une cérémonie de mariage donne naissance à l’acte de mariage. Dans ce cas, l’acte n’est pas accompli par des mots puis décrit ; il est réalisé dans l’acte même de prononcer ces mots, dans les conditions appropriées. » Pour Roy, pour combattre l’effet Eliza, il ne suffit pas de savoir que ces systèmes sont des machines, car leur efficacité est amplifiée par leur fluidité. Et c’est leur fluidité qui nous conduit à déléguer nos responsabilités, à la faire glisser de l’utilisateur vers l’outil. Nous demandons désormais aux autres de prêter attention à des mots que nous n’avons pas écrits, pas pensés. Ce que nous perdons, c’est notre dignité même. « Dans le cadre d’un usage privé (comme le proposent les chatbots compagnons), l’érosion est plus subtile, mais non moins lourde de conséquences. Les jeunes décrivent leur utilisation de chatbots pour rédiger des messages qu’ils hésitent à envoyer, pour déléguer des réflexions qu’ils estiment devoir mener eux-mêmes, pour obtenir des assurances sans s’exposer, pour répéter des excuses sans rien débourser. Un chatbot dit « Je suis désolé » sans faute, mais est incapable de regret, de réparation ou de changement. Il admet ses erreurs sans conséquence. Il exprime de l’attention sans rien perdre. Il utilise le langage de la bienveillance sans rien risquer. Ces affirmations sont fluides. Et elles habituent les utilisateurs à accepter un langage moral déconnecté des conséquences. Il en résulte un réajustement discret des normes. Les excuses deviennent gratuites. La responsabilité devient théâtrale. La bienveillance devient simulée. » 

Les mots eux-mêmes n’ont plus de portée. Ceux des chatbots, bien sûr, mais derrière, les mots de tous ceux qui en portent, et d’abord ceux que les autres humains nous adressent.

« Certains affirment que la responsabilité des propos de ces machines peut être externalisée : vers les entreprises, les réglementations, les marchés. Mais la responsabilité se dilue entre développeurs, déployeurs et utilisateurs, et les boucles d’interaction restent privées et inobservables. L’utilisateur en subit les conséquences ; la machine, non. »

Ceci n’est pas sans rappeler le problème éthique posé par les armes autonomes, estime Roy. En 2007, le philosophe Robert Sparrow soutenait que de telles armes violent le principe de la guerre juste, selon lequel lorsqu’un dommage est infligé, quelqu’un doit répondre de la décision de l’infliger. Le programmeur est protégé par conception, ayant délibérément construit un système dont le comportement est censé se dérouler sans contrôle direct. Le commandant qui déploie l’arme est lui aussi protégé, incapable de contrôler les actions spécifiques de l’arme une fois en mouvement, et cantonné aux rôles prévus pour son utilisation. Quant à l’arme elle-même, elle ne peut être tenue responsable, car elle est dépourvue de toute qualité morale d’agent. Les armes autonomes modernes produisent ainsi des résultats mortels pour lesquels aucun responsable ne peut être identifié de manière pertinente. Les chatbots compagnons, ces « systèmes de gestion de la vie humaine » fonctionnent différemment, mais la logique morale est la même : ils agissent là où les humains ne peuvent pas pleinement superviser, et la responsabilité se dissout dans ce vide.

« La parole sans conséquence contraignante sape le contrat social. La confiance, la coopération et la délibération démocratique reposent toutes sur le principe que les locuteurs sont tenus par leurs propos. » Notre immersion dans un monde de contenus génératifs, de propos sans conséquences, risque de nous habituer à prendre toute parole comme étant sans conséquence, même celle de nos contemporains.

« Nous avons besoin de structures qui réancrent la responsabilité : des contraintes limitant l’utilisation de l’IA dans divers contextes, tels que les écoles et les lieux de travail, et préservant la paternité des travaux, la traçabilité et une responsabilité clairement définie. L’efficacité doit être encadrée lorsqu’elle porte atteinte à la dignité », défend Roy.

Avant de pointer un autre enjeu encore : « Alors que l’idée d’« avatars » IA s’impose dans l’imaginaire collectif, elle est souvent présentée comme un progrès démocratique : elle repose sur des systèmes qui nous connaissent suffisamment bien pour parler en notre nom, délibérer à notre place et nous épargner le fardeau d’une participation constante. Il est facile d’imaginer que cela puisse se transformer en ce que l’on pourrait appeler un « État-avatar » – un système politique où des représentants artificiels débattent, négocient et décident pour nous, efficacement et à grande échelle. Mais cette vision oublie que la démocratie non plus n’est pas simplement l’agrégation de préférences. C’est la pratique de la parole ouverte. S’exprimer politiquement, c’est prendre le risque de se tromper, d’être responsable, d’assumer les conséquences de ses paroles. Un État avatar – fluide, infatigable et parfaitement malléable – simulerait la délibération, mais sans conséquence. De loin, il ressemblerait à un gouvernement autonome. De près, ce serait tout autre chose : la responsabilité rendue facultative, et avec elle, la dignité de devoir assumer ses paroles devenues obsolètes. Wiener avait compris que le tourbillon ne viendrait pas de machines malveillantes, mais de l’abdication humaine. » C’est au bord de ce précipice que nous conduit l’IA.

Ce que traduit AI;DR, c’est qu’à mesure que nous sommes cernés par ces contenus génératifs, la résistance se fait jour, estime Fast Company. Qui souligne que le terme rencontre du succès à un moment où le sentiment anti-IA se développe. Les inquiétudes concernant l’IA chez les adultes américains se sont accrues depuis 2021, selon le Pew Research Center. Plus de la moitié (51 %) se disent plus inquiets qu’enthousiastes face à l’essor de cette technologie. « C’est de l’IA, je ne l’ai pas lu ! », ne traduit-il pas d’abord que tout cela n’est pas de notre responsabilité. Que cet avenir n’est peut-être pas celui que nous avons voulu. « C’est de l’IA, je ne l’ai pas lu ! » est peut-être notre dernier semblant de résistance face à un nouveau web qui va nous submerger. 

Même constat pour la journaliste Eve Fairbanks dans The Atlantic. « Travailler sur un texte généré par l’IA, en tant que correcteur, revient à opérer un corps dont la peau, les muscles, les veines, les os et les organes sont tous endommagés. Il n’y a rien à préserver, aucun point de départ », explique-t-elle confrontée à la prose des machines. « L’infltration du non sens est partout, inéluctable. Même ceux qui n’utilisent pas l’IA finiront par lui ressembler. »

Hubert Guillaud

La version originelle de ce texte est paru pour la lettre Café IA le 3 avril 2026.

À DLA, on connaît bien l’acronyme TL;DR (too long, didn’t read, « trop long ; pas lu ») que de bien peu aimables personnes nous envoient parfois après avoir pris connaissance de notre lettre d’information. Il est peu probable pourtant que l’on passe à l’étape suivante : TL;DW (too long, didn’t write : « c’est trop long à écrire, alors je ne l’ai pas écrit moi-même »), qui consiste à faire écrire ses contenus par une IA générative… Quoique, les articles seraient peut-être plus clairs, les circonvolutions moins alambiquées ? Allez savoir !

Mais c’est d’un autre mème dont je voulais parler. Un mème qui devrait lui aussi beaucoup moins nous être adressé, mais qu’on utilise souvent : AI;DR (AI, didn’t read) : « c’est de l’IA, je ne l’ai pas lu » ! Un jugement qu’on énonce couramment et qui décrit la transformation de notre rapport aux textes, à l’heure où tout doit aller si vite, qu’on n’a plus le temps d’écrire ni de lire. Un refus face au déferlement : « c’est de l’IA, je ne veux même pas le lire » !

A qui profite le verbiage ? 

AI;DR donc. L’acronyme exprime quelque chose entre la lassitude et l’hostilité à voir des textes génératifs envahir le web. Qu’ils soient très formatés, énergiques ou lénifiants, l’expression nous dit que nous serions capables de repérer la prose des LLM à leur tiédeur, à leur style, à leurs effets (qu’importe si en vérité, nous nous trompons souvent, comme c’est le cas des enseignants qui peinent à identifier les productions génératives de leurs étudiants). Un peu comme si nous étions dotés d’un système de repérage, une boussole infaillible, alors que les textes génératifs sont souvent corrigés, amendés, modifiés par leurs auteurs, et qu’ils tiennent bien plus d’une forme de coproduction qu’autre chose. Non seulement l’acronyme nous dit que ces productions n’ont finalement pas grande importance, mais il nous dit aussi que nos erreurs d’attribution peuvent être aussi péremptoires que les réponses des chatbots à la confiance survitaminée. Il nous dit que ces productions n’ont finalement pas grande importance au risque de renvoyer avec elles des propos bien humains, un peu comme ceux qui étaient trop longs finalement, trop humains. AI;DR nous dit que ce qui est écrit n’a pas grand intérêt, qu’il soit le fait de robots ou d’humains. Ce que ça fait est bien plus important : même si ce que ça fait (écrire) devient en même temps qu’on l’énonce bien peu important puisqu’on ne lui prête plus aucune attention.

Rapidement, on est saisi d’un vertige : à quoi peuvent bien servir des outils pour produire du texte que les gens ne souhaitent pas lire ? AI;DR semble mettre en abîme le grand vide des machines à verbiage, comme pour rendre béant le vortex qui s’ouvre sous nos mots. Un peu comme vient de le proposer le moteur de traduction Kagi en permettant de traduire (après le Dothraki, le Haut Valyrien ou le Klingon quand même !) n’importe quel texte en « Linked-in speak », c’est-à-dire dans le jargon de Linked-in. En permettant de transformer n’importe quel texte en post de motivation entrepreneuriale, truffé d’emojis, de hashtags et de déconvenues transformées en leçons de vie. « Le traducteur de Kagi ne fabrique pas cette langue, il la révèle. Il en expose la mécanique, la pauvreté, le vide soigneusement emballé dans du vocabulaire managérial », s’amusait la chroniqueuse de Radio France, Constance Vilanova. Elle pointait d’ailleurs vers une étude d’un chercheur en linguistique qui a mis au point une échelle pour mesurer la réceptivité au jargon d’entreprise. Une étude qui montrait que plus on est sensible aux formules creuses, moins on performe soi-même aux tests de pensée analytique et aux tests de prise de décision. « Les grands amateurs de Linked-in speak seraient donc aussi les moins capables de repérer le vide. Ce qui crée un cercle vicieux parfait : les patrons sont récompensés pour leur langue de bois, et les équipes se peuplent progressivement de gens qui n’y voient que du feu. » Mais surtout, les personnes les plus réceptives au jargonnage ont aussi plus tendance à percevoir leurs leaders comme visionnaires, à être plus inspirées par les homélies d’entreprises et à faire plus confiance à leurs managers. « Pour certaines personnes, un discours abstrait et vaporeux peut donner l’impression de profondeur, de vision et de compétence et parfois suffit à produire de la crédibilité. Il peut aussi fonctionner comme un signal de leadership », s’amuse David Gateau… Pire, « plus la réceptivité au bullshit corporate est élevée, plus la qualité des décisions diminue ». « Les personnes les plus sensibles aux discours creux en entreprise ont tendance à choisir systématiquement les pires solutions aux problèmes », explique l’auteur de l’étude, Shane Littrell. Pourtant, l’étude montre aussi finalement que le jargon persuade et impressionne certains publics, explique The Guardian, tout comme le verbiage des LLM finalement. « N’importe qui peut se laisser berner, et nous sommes tous, selon les circonstances, susceptibles d’être influencés par des discours creux présentés de manière à flatter nos préjugés. »

Les contenus produits par l’IA sont-ils faits pour être lus ?

Le hashtag #AI;DR entérine la dépréciation des contenus génératifs, dénigrés depuis leur apparition. Comme le disait John Hermann dans le New York Mag dès 2024 : alors que l’IA est associée au summum des réalisations humaines, pour tout à chacun, elle désigne d’abord des choses assez pauvres, assez communes. Dans le langage courant, dire d’un texte qu’il a été réalisé par ChatGPT qualifie toujours un document sans grand intérêt. Aujourd’hui encore. « Pourquoi devrais-je me donner la peine de lire quelque chose que personne d’autre n’a daigné écrire ? », remarque pertinemment un développeur, relayé par Futurism. Quand on lit le propos de quelqu’un, c’est pour comprendre ce qu’il pense, perçoit et appréhende du monde. Ecrire, c’est penser. Et penser, c’est exister. Mais que signifie lire la prose d’un LLM ? QUI sommes-nous censés comprendre ? Et donc QUE sommes-nous censés comprendre ? Quelque part, les gens qui dénoncent ces contenus, disent que ce qui est écrit par l’IA ne nous est pas adressé. Que ces contenus ne sont pas vraiment pour les humains puisqu’ils ne sont pas humains.

Dans le New York Mag, John Hermann (encore lui), dénonçait récemment le cauchemar de l’e-mail piloté à l’IA : « Êtes-vous impatient de voir vos collègues devenir beaucoup plus bavards, transformant chaque simple « Ça me va » en une lettre de trois paragraphes ? Êtes-vous ravi que le genre d’e-mails de masse semi-personnalisés que vous avez l’habitude de recevoir des grandes marques dotées de services marketing (ou des spammeurs et des auteurs de phishing) soit désormais accessible à toute personne possédant un compte Google ? Avez-vous hâte de vous demander si cette charmante lettre de condoléances d’un ami perdu de vue depuis longtemps a été entièrement générée par un logiciel ou s’il a simplement cliqué sur le bouton pour rendre le contenu « plus sincère » avant de l’envoyer ? » Ce dernier exemple n’est même pas une blague, le mois dernier, l’administration de l’université Vanderbilt a dû présenter ses excuses après avoir envoyé un e-mail de condoléances aux étudiants suite à la fusillade de l’université d’État du Michigan. En bas du message il était indiqué qu’il avait été rédigé par ChatGPT !

Le Financial Times rapporte que le volume des plaintes aux services juridiques et RH des entreprises est en augmentation et que celles-ci sont plus documentées et complexes qu’avant. Ce ne sont plus de simple e-mail à traiter, mais des pièces jointes volumineuses, qui évoquent parfois des législations qui n’existent pas. La raison ? Le recours à l’IA. De plus en plus de plaintes leur arrivent « incompétentes mais sûres d’elles », « superficiellement persuasives », « excessivement juridiques sans être pertinentes »… de gens pouvant avoir des attentes irréalistes, désorientés par les réponses des IA à leurs problèmes. Le volume de récriminations augmente et le temps pour les vérifier également, au risque de ralentir les réponses des employeurs.

Reste que le besoin de formalisation que traduit le passage à un argumentaire structuré par l’IA dit peut-être autre chose du rapport employés-employeurs, où les discussions ne suffisent pas pour être écoutés…

Le New York Times, récemment, expliquait que la romance générative était en pleine explosion et que l’IA était l’avenir du genre. Pas si sûr, contestait Gita Jackson pour Aftermath, les défenseur(e)s de l’IA dans la littérature n’ont pas d’autre but que de gagner de l’argent, en produisant beaucoup de contenus et en vendant des formations pour apprendre à d’autres comment faire. L’une des autrices interviewées par le NYT prétend que ses 200 livres publiés par IA ont totalisé 50 000 ventes… soit en moyenne 250 exemplaires par livre. Ce modèle économique n’est viable que si l’on se fiche de la qualité des livres et de leur popularité, assassine Jackson. Bref, il n’est pas sûr que les romances dopées à l’IA soient l’avenir du genre, comme le défendent les autrices qui le proposent parce qu’elles y ont doublement intérêt. Pas sûr que les contenus dopés à l’IA soient finalement meilleurs que les romances incarnées par leurs autrices.

Deux exemples qui montrent que les contenus génératifs viennent s’intercaler dans les situations de blocages et viennent toujours avec les intérêts de ceux qui les portent, même s’ils ne sont pas toujours faciles à percevoir.

Pour qui écrivons-nous ?

Le mot-clé AI;DR rejoint également celui de sloppers, désignant les producteurs de slop, les producteurs de contenus qui ne produisent plus qu’avec les robots conversationnels (à l’image de la proposition parodique de sloppers.ai, qui se présente comme un service d’IA pour produire… des contenus parfaitement inutiles). Entre résistance et lassitude, le point-virgule, qui à l’origine séparait la cause de l’effet – plus vous écrivez, moins je lis – sépare désormais la production de la machine du refus de lui accorder la moindre attention.

Comme le souligne Alberto Romero, nous passons d’un monde où la longueur d’un texte constitue un obstacle à la lecture, à un monde où le manque d’implication humaine devient un obstacle supplémentaire. Nous sommes passés de « je ne finirai pas ça » à « personne n’a commencé ça ». « La première attitude suppose que l’on est responsable de ses propres limites, tandis que la seconde incite à externaliser sa responsabilité », comme si ce n’était pas à nous de lire, de vérifier, d’agréer aux productions générées. La perspective de notre submersion par les contenus génératifs, par l’intensification des productions, risque de nous laisser plus épuisé que jamais, disions-nous la semaine dernière. Non seulement nous sommes cernés par plus de contenus que jamais, mais nous sommes en même temps confrontés à une forme de post-alphabétisation où l’écrit lui-même semble de plus en plus décrédibilisé par son automatisation.

Pour Romero, l’IA;DR fait écho à son exact inverse : WF;AI (What the fuck; AI, « bordel, écrire pour l’IA ») où nous sommes confrontés au vide de sens qu’exige d’écrire pour l’IA plutôt que pour d’autres humains. Nous sommes en train de passer du pourquoi écrivons-nous à pourquoi lisons-nous, comme si le cœur même de la connaissance n’avait plus de sens, ni pour les autres ni pour nous. « Doit-on consacrer vingt minutes de son attention déjà si sollicitée à un texte qui n’a coûté à son auteur fantôme que quarante-cinq secondes et une consigne maladroite ? »

Perdus au milieu de contenus de plus en plus fantomatiques, comment s’orienter ? « La lecture, comme tout ce que nous faisons, repose sur un contrat social implicite : je vous offre ma réflexion, vous me donnez votre temps. Or, lorsque l’une des parties automatise sa part du marché, l’autre se sent légitimement flouée. Et comme déléguer la lecture n’a aucun sens pour la plupart des gens, ils ne le font tout simplement pas », constate pertinemment Romero. Le contrat de lecture exige une intention et une relation que l’IA ne peut pas produire. Le contrat de lecture est donc profondément rompu, quelles que soient ses conséquences. D’autant que dans la roue du hamster de la lecture/écriture, l’IA a tendance à exclure de plus en plus l’humain. Dans le biais anti-humain de l’IA, l’IA se nourrit de l’IA et récompense plus facilement les contenus IA faisant gonfler plus encore les contenus génératifs qu’on ne veut pas lire. Et pourtant, se moque Romero en conclusion, son texte a été écrit avec une IA. Nous même avons été pris au piège. Le contrat de lecture n’est donc pas totalement rompu, il est flouté au risque de nous abuser en continue. 

C’est toute l’aporie où nous sommes réduits, comme l’illustre le dessinateur Tom Fishburne avec un de ses délicieux dessins : l’IA permet de transformer une liste à puce en un long mail qu’on peut prétendre avoir écrit et où son récepteur peut le transformer en liste à puce qu’il peut prétendre avoir lu. Tom Fishburne rappelle qu’il va falloir du temps pour apprendre quand et comment bien utiliser ces outils et surtout quand ne pas les utiliser. L’acronyme AI;DR nous rappelle que nous sommes face à des contenus dont le statut n’est pas clair, des contenus que nous ne savons pas vraiment utiliser. Peut-on vraiment en vouloir à des gens de refuser de lire des contenus qui sont produits par personne et destinés à personne, de refuser de lire des propos d’une machine, aussi séduisants ou creux puissent-ils être ?

Le risque d’une parole sans conséquence

IA;DR nous dit autre chose pourtant. Que ces mots produits sont produits. Que ce qui devait être fait est fait et que la réception est finalement un autre enjeu, comme s’il dépendait d’autres métriques.

« Pour la première fois, la parole est dissociée de ses conséquences. Nous vivons désormais aux côtés de systèmes d’IA qui conversent avec assurance et persuasion – débitant des affirmations sur le monde, des explications, des conseils, des encouragements, des excuses et des promesses – sans jamais assumer la responsabilité de leurs propos. Des millions de personnes utilisent déjà des chatbots, alimentés par de vastes modèles de langage, et ont intégré ces interlocuteurs synthétiques à leur vie personnelle et professionnelle. Les mots d’un chatbot façonnent nos croyances, nos décisions et nos actions, sans qu’aucun locuteur ne les cautionne », explique Deb Roy dans The Atlantic.

Deb Roy est professeur d’arts et de sciences des médias au MIT, où il dirige le Centre pour la communication constructive au Media Lab. Il est également cofondateur et président de Cortico, une organisation à but non lucratif qui se consacre à la construction de réseaux civiques plus forts, notamment en analysant les échanges vocaux de groupes de discussions pour en dégager liens et tendances.

Dans nos échanges avec les chatbots, ceux-ci s’excusent, corrigent, mais débitent une chose puis son contraire, vide de sens, rappelle le professeur. Pour Roy, « il ne s’agit pas d’une simple nouveauté technique, mais d’un bouleversement de la structure morale du langage ». Lorsque nous parlons, nos mots nous engagent dans un contrat social implicite. Ils nous exposent au jugement, aux représailles, à la honte et à la responsabilité. Dire ce que l’on pense, c’est prendre un risque. Le chercheur en intelligence artificielle Andrej Karpathy a comparé les LLM à des fantômes humains : ils ne sont pas des créatures, leur parole est sans conséquence, tout en étant capable de nous hanter. Pour Deb Roy, spécialiste de l’apprentissage du langage, les mots acquièrent du sens en relation avec le monde. Reste que le sens ne découle pas seulement de la fluidité ou de l’incarnation, mais aussi des enjeux sociaux et moraux que nous prenons lorsque nous parlons. Le langage a une dimension morale et sociale. Il nous engage. Il nous rend digne ou indigne, responsable. « Parler, c’est simultanément s’exposer à un jugement moral, encourir des conséquences sociales et parfois juridiques, assumer la responsabilité de la vérité et contracter des obligations qui perdurent au sein des relations. » Avec les chatbots, la parole n’est plus que procédurale. « Les chaînes causales s’obscurcissent. La responsabilité se dilue. L’autorité épistémique s’exerce sans obligation. Les engagements relationnels sont simulés sans persistance. » Cela produit non seulement un obscurcissement des responsabilités, mais plus encore un affaiblissement progressif des attentes. Le risque est de ne plus rien attendre des textes, quels qu’ils soient.

Norbert Wiener l’avait bien compris, dans ses mises en garde à l’encontre de l’automatisation : l’accroissement des capacités des machines entraînerait une perte de responsabilité humaine. Et l’efficacité elle-même éroderait la dignité humaine, nous poussant à devenir des intrants, des opérateurs ou des superviseurs de processus dont les humains ne contrôleraient plus la logique. « Ce qui rend ces systèmes moralement déstabilisants, ce n’est pas leur dysfonctionnement, mais leur capacité à fonctionner exactement comme prévu tout en se soustrayant à toute responsabilité », explique Roy.

L’histoire moderne regorge de technologies médiatiques qui ont transformé la circulation de la parole : l’imprimerie, la radio, la télévision, les réseaux sociaux. Mais aucune de ces technologies ne possédait les propriétés que les systèmes d’IA actuels réunissent simultanément. Aucune ne permettait de dialoguer et donc d’activer une vulnérabilité psychologique inédite. Avec Eliza, Joseph Weizenbaum a compris que les humains projetaient sur la machine du sens, des intentions et une responsabilité qu’elle n’avait pas. Le philosophe J.L Austin affirmait qu’utiliser le langage, c’est agir. « Tout énoncé significatif accomplit une action : il affirme une croyance, formule une revendication, formule une demande, fait une promesse, etc. Dire « oui » lors d’une cérémonie de mariage donne naissance à l’acte de mariage. Dans ce cas, l’acte n’est pas accompli par des mots puis décrit ; il est réalisé dans l’acte même de prononcer ces mots, dans les conditions appropriées. » Pour Roy, pour combattre l’effet Eliza, il ne suffit pas de savoir que ces systèmes sont des machines, car leur efficacité est amplifiée par leur fluidité. Et c’est leur fluidité qui nous conduit à déléguer nos responsabilités, à la faire glisser de l’utilisateur vers l’outil. Nous demandons désormais aux autres de prêter attention à des mots que nous n’avons pas écrits, pas pensés. Ce que nous perdons, c’est notre dignité même. « Dans le cadre d’un usage privé (comme le proposent les chatbots compagnons), l’érosion est plus subtile, mais non moins lourde de conséquences. Les jeunes décrivent leur utilisation de chatbots pour rédiger des messages qu’ils hésitent à envoyer, pour déléguer des réflexions qu’ils estiment devoir mener eux-mêmes, pour obtenir des assurances sans s’exposer, pour répéter des excuses sans rien débourser. Un chatbot dit « Je suis désolé » sans faute, mais est incapable de regret, de réparation ou de changement. Il admet ses erreurs sans conséquence. Il exprime de l’attention sans rien perdre. Il utilise le langage de la bienveillance sans rien risquer. Ces affirmations sont fluides. Et elles habituent les utilisateurs à accepter un langage moral déconnecté des conséquences. Il en résulte un réajustement discret des normes. Les excuses deviennent gratuites. La responsabilité devient théâtrale. La bienveillance devient simulée. » 

Les mots eux-mêmes n’ont plus de portée. Ceux des chatbots, bien sûr, mais derrière, les mots de tous ceux qui en portent, et d’abord ceux que les autres humains nous adressent.

« Certains affirment que la responsabilité des propos de ces machines peut être externalisée : vers les entreprises, les réglementations, les marchés. Mais la responsabilité se dilue entre développeurs, déployeurs et utilisateurs, et les boucles d’interaction restent privées et inobservables. L’utilisateur en subit les conséquences ; la machine, non. »

Ceci n’est pas sans rappeler le problème éthique posé par les armes autonomes, estime Roy. En 2007, le philosophe Robert Sparrow soutenait que de telles armes violent le principe de la guerre juste, selon lequel lorsqu’un dommage est infligé, quelqu’un doit répondre de la décision de l’infliger. Le programmeur est protégé par conception, ayant délibérément construit un système dont le comportement est censé se dérouler sans contrôle direct. Le commandant qui déploie l’arme est lui aussi protégé, incapable de contrôler les actions spécifiques de l’arme une fois en mouvement, et cantonné aux rôles prévus pour son utilisation. Quant à l’arme elle-même, elle ne peut être tenue responsable, car elle est dépourvue de toute qualité morale d’agent. Les armes autonomes modernes produisent ainsi des résultats mortels pour lesquels aucun responsable ne peut être identifié de manière pertinente. Les chatbots compagnons, ces « systèmes de gestion de la vie humaine » fonctionnent différemment, mais la logique morale est la même : ils agissent là où les humains ne peuvent pas pleinement superviser, et la responsabilité se dissout dans ce vide.

« La parole sans conséquence contraignante sape le contrat social. La confiance, la coopération et la délibération démocratique reposent toutes sur le principe que les locuteurs sont tenus par leurs propos. » Notre immersion dans un monde de contenus génératifs, de propos sans conséquences, risque de nous habituer à prendre toute parole comme étant sans conséquence, même celle de nos contemporains.

« Nous avons besoin de structures qui réancrent la responsabilité : des contraintes limitant l’utilisation de l’IA dans divers contextes, tels que les écoles et les lieux de travail, et préservant la paternité des travaux, la traçabilité et une responsabilité clairement définie. L’efficacité doit être encadrée lorsqu’elle porte atteinte à la dignité », défend Roy.

Avant de pointer un autre enjeu encore : « Alors que l’idée d’« avatars » IA s’impose dans l’imaginaire collectif, elle est souvent présentée comme un progrès démocratique : elle repose sur des systèmes qui nous connaissent suffisamment bien pour parler en notre nom, délibérer à notre place et nous épargner le fardeau d’une participation constante. Il est facile d’imaginer que cela puisse se transformer en ce que l’on pourrait appeler un « État-avatar » – un système politique où des représentants artificiels débattent, négocient et décident pour nous, efficacement et à grande échelle. Mais cette vision oublie que la démocratie non plus n’est pas simplement l’agrégation de préférences. C’est la pratique de la parole ouverte. S’exprimer politiquement, c’est prendre le risque de se tromper, d’être responsable, d’assumer les conséquences de ses paroles. Un État avatar – fluide, infatigable et parfaitement malléable – simulerait la délibération, mais sans conséquence. De loin, il ressemblerait à un gouvernement autonome. De près, ce serait tout autre chose : la responsabilité rendue facultative, et avec elle, la dignité de devoir assumer ses paroles devenues obsolètes. Wiener avait compris que le tourbillon ne viendrait pas de machines malveillantes, mais de l’abdication humaine. » C’est au bord de ce précipice que nous conduit l’IA.

Ce que traduit AI;DR, c’est qu’à mesure que nous sommes cernés par ces contenus génératifs, la résistance se fait jour, estime Fast Company. Qui souligne que le terme rencontre du succès à un moment où le sentiment anti-IA se développe. Les inquiétudes concernant l’IA chez les adultes américains se sont accrues depuis 2021, selon le Pew Research Center. Plus de la moitié (51 %) se disent plus inquiets qu’enthousiastes face à l’essor de cette technologie. « C’est de l’IA, je ne l’ai pas lu ! », ne traduit-il pas d’abord que tout cela n’est pas de notre responsabilité. Que cet avenir n’est peut-être pas celui que nous avons voulu. « C’est de l’IA, je ne l’ai pas lu ! » est peut-être notre dernier semblant de résistance face à un nouveau web qui va nous submerger. 

Même constat pour la journaliste Eve Fairbanks dans The Atlantic. « Travailler sur un texte généré par l’IA, en tant que correcteur, revient à opérer un corps dont la peau, les muscles, les veines, les os et les organes sont tous endommagés. Il n’y a rien à préserver, aucun point de départ », explique-t-elle confrontée à la prose des machines. « L’infltration du non sens est partout, inéluctable. Même ceux qui n’utilisent pas l’IA finiront par lui ressembler. »

Hubert Guillaud

La version originelle de ce texte est paru pour la lettre Café IA le 3 avril 2026.