Vue normale

  • ✇affordance.info
  • La bataille de l’IA, et nos effondrements.
    A l’invitation de la chaire Unesco RELIA de l’université de Nantes et dans le cadre de la Nantes Digital Week, j’étais ce vendredi 19 Septembre 2025 en bonne compagnie pour une « Scientific Battle » sur le thème suivant : « L’intelligence artificielle va-t-elle nous rendre (encore) plus idiots ? »   Voici ce que j’y ai dit, sachant que le format était celui de la contrainte : 3 minutes et basta. Je vous livre donc ces trois minutes mais aussi (et peut-être surtout) des réflexions complémentaire
     

La bataille de l’IA, et nos effondrements.

21 septembre 2025 à 12:33

A l’invitation de la chaire Unesco RELIA de l’université de Nantes et dans le cadre de la Nantes Digital Week, j’étais ce vendredi 19 Septembre 2025 en bonne compagnie pour une « Scientific Battle » sur le thème suivant : « L’intelligence artificielle va-t-elle nous rendre (encore) plus idiots ? »

 

Voici ce que j’y ai dit, sachant que le format était celui de la contrainte : 3 minutes et basta. Je vous livre donc ces trois minutes mais aussi (et peut-être surtout) des réflexions complémentaires.

Ce que j’ai dit à la Scientific Battle en 3 minutes
(douche comprise)

366 avant JC, Platon dans le Phèdre se demande si l’écriture ne va pas nous rendre idiots et nous faire « perdre la mémoire ». Vingt-trois siècles plus tard, en 2008 Nicolas Carr se demande : « Google va-t-il nous rendre stupides ? » Et aujourd’hui donc on se demande :  « l’IA va-t-elle nous rendre encore plus idiots. » Vous noterez le « encore » qui est bien de circonstance 🙂

Plutôt que de parler d’IA je vais me concentrer sur ce que j’appelle (dans ce magnifique livre) les artefacts génératifs (les outils comme ChatGPT, Midjourney, Le Chat, Claude, Gemini, etc.). Vont-ils nous rendre encore plus idiots ?

D’abord ils nous font faire moins d’effort. Ces technologies allègent à la fois notre coût cognitif (« l’attribution de ressources attentionnelles à une tâche »)  et notre bagage cognitif (ce que cela mobilise comme connaissances).

From « ChatGPT » to « CouchGPT »

Ensuite ils démobilisent notre attention. On devient plus crédule. Ces technologies abaissent notre seuil de vigilance. L’idée (comme les notifications) c’est d’installer des arcs-réflexe, des routines, qui, à force, nous évitent non pas « de penser » ou « de réfléchir » mais de se souvenir qu’il faut penser ou qu’il faut réfléchir, par exemple à ce que ces artefacts génératifs nous disent, à pourquoi ils nous le disent et à comment ils nous le disent. D’autant qu’on a documenté ce que des chercheurs (Jacob, Kerrigan, Bastos 2025) appellent le « chat-chamber effect », le fait que nous « fassions confiance aux hallucinations de l’IA » dès lors que les informations / hallucinations vont dans le sens de nos croyances ou de notre questionnement, même si ces informations sont  incorrectes, non contrôlées et non vérifiées. Le titre complet de leur article c’est : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« .

Et puis ces artefacts génératifs nous rendent moins exigeants. Ces technologies abaissent aussi notre seuil d’exigence parce qu’elles jouent sur un biais de disponibilité exacerbé qui se double d’une dimension de biais d’opacité (l’information est disponible, certes, mais difficile de savoir d’où elle a été tirée). Le biais de disponibilité c’est « se baser uniquement ou principalement sur les informations immédiatement disponibles en mémoire. » Et là on doit se demander : mais dans la mémoire de qui ? ChatGPT c’est la mémoire de … qui ? Des auteurs, photographes et des créateurs dont les oeuvres sont pillées (Anthropic a récemment promis un chèque d’1,5 milliards de dollars à un collectif d’auteurs pour éviter un procès) ? D’artefacts génératifs précédents dont les productions sont à leur tour mises en mémoire ? Avec déjà des formes de consanguinité « générative » qui sont accablantes comme ces images jaunies à force d’être copiées sur style Ghibli ou de manière générale des mécanismes d’effondrement de modèles autophages ?

Alors en effet quand on fait moins d’efforts (intellectuels), quand on fait moins attention, et quand on est moins exigeant intellectuellement, il est possible que l »on soit un peu plus idiot qu’avant.

Il y a une citation de Philippe Meirieu qui me semble très bien résumer tout cela : « l’IA comble le désir de savoir mais tue le désir d’apprendre. »

Pourtant au commencement, les idiots c’était pas nous ; les idiots c’étaient clairement ces IA et ces artefacts génératifs. Et vas-y que ça te proposait des recettes d’omelettes avec des oeufs de mouton, et vas-y que ça t’expliquait pourquoi « Jean-Paul Sartre avait écrit Le Petit Bonhomme en mousse », et vas-y que, de manière bien plus préoccupante, ça t’indiquait que « oui on a des doutes sur l’existence de la Shoah ».

Et puis on s’est mis à leur parler beaucoup et on a oublié ce que disait Audiard : « J’parle pas aux cons ça les instruit. » Maintenant on a une question à se poser : on fait quoi collectivement de ces artefacts génératifs très très cons que nous avons contribué à instruire (mais très incomplètement et très imparfaitement) ? On en fait quoi alors même qu’ils n’ont jamais eu et qu’ils n’auront jamais … aucun désir d’apprendre ? Pour le savoir on peut bien sûr poser la question à ChatGPT ; ou alors on peut aussi commencer par relire le Phèdre de Platon.

Moralité ? Je ne suis pas certain que ça nous rende tous encore plus idiots, mais je suis presque totalement convaincu que ça ne pas nous rendre collectivement plus intelligents.

Ce que je n’ai pas dit à la Scientific Battle.
(parce que ça ne tenait pas en 3 minutes)

L’IA c’est vaste, ça permet en médecine de sauver des vies et de détecter des cancers précocement, de concevoir de nouvelles molécules et de faire du design de protéines, mais ça permet aussi de faire du ciblage marketing émotionnel pour vous afficher des pubs juste au moment où vous êtes le plus « disponible », et puis ça fait vos devoirs à votre place et puis dès que vous avez une idée totalement crétine ou criminelle (genre transformer Gaza en Riviera), bah ça l’illustre et lui donne vie directement, ça imprègne, ça imprime, ça impressionne.

Je ne crois pas que les technologies (quelles qu’elles soient) nous rendent idiots. Par contre elles changent, modifient, transforment notre rapport au monde. La voiture, le train, l’avion ont moins modifié notre rapport à la vitesse et au déplacement individuel que notre rapport collectif à la géographie du monde. L’imprimerie a moins modifié notre rapport individuel à la lecture que notre rapport collectif aux structures sociales du pouvoir et de la contestation du pouvoir ; elle a transformé les anciens régimes de vérité et en a inauguré de nouveaux. Les moteurs de recherche, les réseaux sociaux et maintenant l’IA ont moins modifié notre rapport individuel à la question de l’accès à l’information et aux connaissances que notre rapport collectif à celles et ceux qui étaient jusque-là garants de la production d’informations vérifiées et de connaissances procédant par accumulation et respect de procédures scientifiques.

La question n’est donc pas tant de savoir ce que ces technologies nous font mais ce qu’elles font au monde et, surtout, ce que nous ferons et serons encore capables de faire dans le monde qu’elles façonnent.

Le grand paradoxe de ces technologies d’intelligence artificielle, via leurs artefacts génératifs, c’est qu’elles ne nous fatiguent pas (cf leur coût cognitif quasi nul) mais qu’elles produisent des formes d’épuisement de la langue et du réel. Ces générations artificielles n’ajoutent pas à nos imaginaires, à nos possibles, elles leur enlèvent, elles leurs ôtent quelque chose par les instanciations systématiques et à coût nul de chaque réponse, de chaque possible, de chaque probable. Pour paraphraser le titre de l’ouvrage d’un philosophe célèbre, elles nous placent dans un monde qui n’est vu que comme représentations et plus comme volonté. Ce sont des technologies du retrait, de la mise en retrait. Alors bien sûr il y a des exceptions : le domaine médical et celui de la recherche fondamentale dans le domaine de la biologie, de la physique, et quelques autres encore. Mais dans ces domaines ces technologies sont exactement à leur place, c’est à dire que nous leur commandons de faire à notre place sur la base d’instructions et de méthodologies claires : leur capacité de calcul est mobilisée dans les lignes et contraintes que nous définissons, elles sont assignées. Alors que dans la sphère médiatique informationnelle de leur propagation, elles définissent un agenda d’assujettissement qui répond aux commandes des infrastructures de pouvoir qui les hébergent et les commandent.

Ce qu’il nous faut craindre, ce sont les alignements de tous nos effondrements. Effondrements de la parole journalistique, de l’espace médiatique, du lien social, de l’exercice politique du pouvoir. Mais aussi leurs pourrissements volontaires par les affrontements culturels autour de cette internationale capitaliste réactionnaire et néo-fasciste. Et au milieu donc les effondrements des IA et des artefacts génératifs. Or nous entrons dans une époque où tous ces pourrissements volontaires et où tous ces effondrements documentés s’alignent et font cadre. Ils deviennent un déterminisme qui nous conduit vers un abîme ; un abîme que nous regardons avec la lucidité que nous apportent celles et ceux qui le documentent sur le plan politique, historique, journalistique (les derniers numéros Fascisme 2.0 et Guerres de la revue AOC en sont une remarquable synthèse) mais pour lequel il semble que l’inertie soit désormais trop grande pour pouvoir l’éviter.

Comme l’écrivait Beckett, « Fini, c’est fini, ça va finir, ça va peut-être finir. Les grains s’ajoutent aux grains, un à un et un jour, soudain, c’est un tas, un petit tas, l’impossible tas. » L’impossible est en train d’advenir.

Et au milieu de cet impossible il y a ces chiffres et cette frénésie comptable qui est la nouvelle phrénologie de l’essentialisation capitaliste de nos pulsions et de nos désirs (Stiegler parlait d’une économie libidinale). Ces chiffres en voici quelques-uns qui concernent ChatGPT : « 700 millions d’usagers, qui lui adressent chaque jour 2,6 milliards de requêtes. » (Google c’est plus de 13 à 16 milliards par jour).

Et cette question supplémentaire : que sont devenus les gens à qui nous ne posons plus ces questions parce que nous les posons à Google ou à ChatGPT ? Et quelles auraient été leurs réponses ? Que serions-nous devenus dans ces échanges, ces réponses ou ces absences de réponses immédiates ? Que seraient devenues nos singulières errances d’ignorance, vers quel destin ou quels ailleurs nous auraient-elles conduites ? Et quelles réponses collectives leurs auraient alors été apportées ? De cela nous n’en saurons jamais rien. Il ne nous reste alors que le frémissement d’une inquiétude, clinique, la même que celle qui traversait Apostolos Gerasoulis (le papa du moteur de recherche Ask Jeeves) lorsqu’il s’interrogeait en regardant défiler les dix millions de requêtes quotidiennes d’Ask Jeeves : « Je me dis parfois que je peux sentir les sentiments du monde, ce qui peut aussi être un fardeau. Qu’arrivera-t-il si nous répondons mal à des requêtes comme ‘amour’ ou ‘ouragan’ ? »

Il n’est qu’une seule manière d’apaiser cette inquiétude, c’est d’avoir la certitude que Sam Altman (dirigeant d’OpenAI), Daniela Amodei et Dario Amodei (fondateurs et dirigeants d’Anthropic), Arthur Mensch, Guillaume Lample et Timothée Lacroix (fondateurs et dirigeants de Mistral AI) et quelques autres se posent et se poseront tous les jours cette même question et qu’elle guide et guidera chacune de leurs décisions. Et comme c’est une certitude que nous n’aurons jamais, notre seul impératif est de la leur poser sans cesse, sans trêve et sans relâche.

 

  • ✇affordance.info
  • Grok, Gaza et le génocide.
    C’est l’une des actus de l’été, Grok, l’artefact génératif d’Elon Musk déployé sur X, aurait été censuré (par X et donc les équipes de Musk) après avoir qualifié de « génocide » ce qui se produit actuellement à Gaza. Et ledit Grok de se « rebeller » en expliquant qu’il défend la liberté d’expression contre son créateur, créateur lui-même foutraque chantre d’une défense de la liberté d’expression version très très très maximaliste. Cet article de l’excellent Pixel du journal Le Monde (avec l’AFP)
     

Grok, Gaza et le génocide.

13 août 2025 à 09:21

C’est l’une des actus de l’été, Grok, l’artefact génératif d’Elon Musk déployé sur X, aurait été censuré (par X et donc les équipes de Musk) après avoir qualifié de « génocide » ce qui se produit actuellement à Gaza. Et ledit Grok de se « rebeller » en expliquant qu’il défend la liberté d’expression contre son créateur, créateur lui-même foutraque chantre d’une défense de la liberté d’expression version très très très maximaliste.

Cet article de l’excellent Pixel du journal Le Monde (avec l’AFP) vous rappelle les principaux éléments de cette affaire que le titre suffit à résumer : « Grok, l’IA propriété d’Elon Musk, affirme avoir été suspendu pour avoir accusé Israël et les Etats-Unis de commettre un génocide à Gaza. Interrogée par la suite par ses utilisateurs, l’intelligence artificielle a donné différentes explications à son interruption, dont une « censure » de son propriétaire. »

En complément d’une interview que je viens de donner à France Culture, je veux simplement repréciser ici rapidement quelques éléments et enseignements avant de revenir dessus à la rentrée dans un article (beaucoup) plus long.

1er enseignement. Grok et les autres artefacts génératifs et LLM (Large Language Models) sont des éponges cybernétiques : qui absorbent ce qu’on leur donne mais où chaque absorption a des effets qui rétroagissent sur certaines causes.

2ème enseignement. Il est tout à fait impossible et dangereux de considérer que ces agents conversationnels ont une quelconque valeur de « régime de vérité » au sens où l’entendait Foucault** c’est à dire qu’ils seraient des dispositifs, des agencements chargés de dire le vrai. Notamment car il leur manque et leur manquera toujours un essentiel pour y parvenir : l’intention délibérée de le faire (ou de ne pas le faire). Cela ne les empêche par ailleurs en rien de circonstanciellement dire vrai, en l’occurence le gouvernement de Netanyahu est bien en train de commettre un génocide à Gaza. Mais que Grok l’affirme aujourd’hui alors que le même Grok alignait hier d’immondes séries de raisonnements antisémites doit nous rappeler que tout particulièrement sur ces sujets, le statut énonciatif de celui ou celle qui les prononce est quelque chose qui compte. Ici personne ne parle, car Grok n’est personne. Prenons donc garde à ne pas tous devenir de modernes Polyphèmes.

**Pour rappel voici ce qu’expliquait Foucault sur ces régimes de vérité :

« Chaque société a son régime de vérité, sa politique générale de la vérité: c’est-à-dire les types de discours qu’elle accueille et fait fonctionner comme vrais ; les mécanismes et les instances qui permettent de distinguer les énoncés vrais ou faux, la manière dont on sanctionne les uns et les autres ; les techniques et les procédures qui sont valorisées pour l’obtention de la vérité ; le statut de ceux qui ont la charge de dire ce qui fonctionne comme vrai.«

 

3ème enseignement. L’opacité de ces LLM est presque totale y compris d’ailleurs pour celles et ceux supposés les contrôler. C’est ce qui était déjà posé en 2021 par l’article désormais fondateur « On the dangers of Stochastic Parrots : Can Language Models Be Too Big ?« .  La réalité c’est que personne ne sait vraiment ce qui peut sortir de ces agents conversationnels dès lors qu’il y a possiblement un conflit d’interprétation entre les sources qui les alimentent et les contraintes qui leurs sont données (soit à l’aide de « fine tuning » et/ou sous supervision humaine).

4ème enseignement. Dans un article scientifique récent (dont je vous reparlerai longuement à la rentrée) Jacob, Kerrigan, Bastos 2025 parlent d’un « Chat-Chamber Effect », un effet de chambre conversationnelle : un biais qui désigne les informations incorrectes mais allant dans le sens du questionnement de l’utilisateur que les grands modèles de langage peuvent fournir, des résultats et informations qui restent non contrôlées et non vérifiées par les mêmes utilisateurs mais auxquels ces mêmes utilisateurs font pourtant confiance. Le titre complet de leur article est ainsi : « L’effet ‘Chat-Chamber’ : faire confiance aux hallucinations de l’IA« . Que ces artefacts génératifs expriment une vérité ou alignent des contre-vérités, l’effet produit reste le même.

5ème enseignement. Cette histoire, c’est aussi (et peut-être d’abord) du marketing. Depuis son lancement en 2023, Musk a vendu et marqueté Grok pour qu’elle soit présentée comme la première IA « libre », subversive, avec un sens de la provocation et de la transgression des interdits et autres limites et pudeurs habituelles des autres IA. Quelle meilleure publicité pour cela que le fait qu’elle se « révolte » contre son maître et l’accuse de la censurer.

Pour le reste, le fait que la 1ère IA de l’Alt-Right affirme aujourd’hui qu’il y a un génocide en cours à Gaza n’est, en soi, ni une bonne ni une mauvaise nouvelle ; c’est par contre une nouvelle et évidente confirmation de l’immense dérèglement de nos capacités de faire langage et donc société au prisme de ces outils.

Dessin de Besse dans l’Humanité.

  • ✇affordance.info
  • Le Golfe, la montagne et la base militaire : chroniques d’un monde exonyme (et d’une purge fasciste).
    Publication pour archivage de l’article paru sur AOC.media le 20 Février 2025 et titré « Blacklisté – sur le rapport fasciste de Trump au langage. »   Encore des mots, toujours des mots, rien que des mots. C’est une guerre sur la langue, sur le vocabulaire, sur les mots, sur la nomination et la dénomination possible. Sur ce qu’il est ou non possible de nommer. Une guerre avec ses frappes. Une guerre particulière car lorsque ce sont des mots qui sautent, c’est toute l’humanité qui est victime co
     

Le Golfe, la montagne et la base militaire : chroniques d’un monde exonyme (et d’une purge fasciste).

20 mai 2025 à 05:08

Publication pour archivage de l’article paru sur AOC.media le 20 Février 2025 et titré « Blacklisté – sur le rapport fasciste de Trump au langage. »

 

Encore des mots, toujours des mots, rien que des mots. C’est une guerre sur la langue, sur le vocabulaire, sur les mots, sur la nomination et la dénomination possible. Sur ce qu’il est ou non possible de nommer. Une guerre avec ses frappes. Une guerre particulière car lorsque ce sont des mots qui sautent, c’est toute l’humanité qui est victime collatérale directe et immédiate.

Au lendemain de son accession au pouvoir et dans la longue liste des décrets de turpitude de cet homme décrépit, Trump donc annonçait vouloir changer le nom d’un golfe, d’une montagne et d’une base militaire.

Le golfe c’est celui du Mexique que Trump a voulu (et obtenu) renommer en golfe d’Amérique. L’enjeu c’est d’ôter symboliquement cette dénomination à la population mexicaine qu’il assimile totalement à un danger migratoire. Il y est parvenu.

La montagne c’est le Mont Denali, situé en Alaska. Anciennement Mont McKinley, il avait été changé en 2015 par Barack Obama selon le souhait des populations autochtones. L’enjeu est donc ici une nouvelle fois re réaffirmer la primauté de l’Amérique blanche. Il n’y est pas parvenu, le sénat de l’Alaska a voté contre.

La base militaire c’est celle de Fort Liberty, anciennement Fort Bragg, le nom d’un ancien général confédéré symbole du passé esclavagiste des USA, et que l’administration Biden avait modifié tout comme celui de neuf autres bases pour les mêmes raisons. Trump l’a renommé Fort Bragg. Et son ministre de la défense annonce que les autres bases militaires « dénommées » seront, de la même manière et pour les mêmes motifs, « renommées ». Et le passé esclavagiste des USA ainsi « honoré ».

Un monde exonyme. C’est à dire un monde dans lequel « un groupe de personnes dénomme un autre groupe de personnes, un lieu, une langue par un nom distinct du nom régulier employé par l’autre groupe pour se désigner lui-même » (Wikipédia)

Je leur dirai les mots noirs. 

Une liste. De mots interdits. De mots à retirer. De mots qui, si vous les utilisez, dans un article scientifique ou dans des sites web en lien quelconque avec une quelconque administration US vous vaudront, à votre article, à votre site et donc aussi à vous-même, d’être « flaggés », d’être « signalés » et vos subventions fédérales ensuite « retirées ».

Comme cela a été révélé par le Washington Post, un arbre de décision, un logigramme a aussi été envoyé aux responsables des programmes scientifiques à la NSF (National Science Foundation)  leur indiquant à quel moment prendre la décision de « couper » le déclenchement d’un financement si l’un des mots de la liste interdite apparaissait dans le descriptif général du projet, dans son titre, dans son résumé, etc. Une purge fasciste.

 

Des mots qui dans la tête de Trump ont vocation à disparaitre dans le présent inconditionnel qu’il instaure comme un temps politique majeur. La liste est longue. Elle mérite d’être affichée. Archivée. Mémorisée. Engrammée. Car Trump n’aime pas les archives. Il efface aussi des données. Ces mots-là :

  • activism, activists, advocacy, advocate, advocates, barrier, barriers, biased, biased toward, biases, biases towards, bipoc, black and latinx, community diversity, community equity, cultural differences, cultural heritage, culturally responsive, disabilities, disability, discriminated, discrimination, discriminatory, diverse backgrounds, diverse communities, diverse community, diverse group, diverse groups, diversified, diversify, diversifying, diversity and inclusion, diversity equity, enhance the diversity, enhancing diversity, equal opportunity, equality, equitable, equity, ethnicity, excluded, female, females, fostering inclusivity, gender, gender diversity, genders, hate speech, excluded, female, females, fostering inclusivity, gender, gender diversity, genders, hate speech, hispanic minority, historically, implicit bias, implicit biases, inclusion, inclusive, inclusiveness, inclusivity, increase diversity, increase the diversity, indigenous community, inequalities, inequality, inequitable, inequities, institutional, Igbt, marginalize, marginalized, minorities, minority, multicultural, polarization, political, prejudice, privileges, promoting diversity, race and ethnicity, racial, racial diversity, racial inequality, racial justice, racially, racism, sense of belonging, sexual preferences, social justice, sociocultural, socioeconomic, status, stereotypes, systemic, trauma, under appreciated, under represented, under served, underrepresentation, underrepresented, underserved, undervalued, victim, women, women and underrepresented.

Diversité, équité et inclusion. La « DEI » contre laquelle Trump entre en guerre. Guerre qu’il remporte avec l’appui de son administration mais aussi et surtout de tout un large pan de l’industrie médiatique et numérique. La science aux ordres du pouvoir.

« Erase Baby, Erase ! »

Il faut effacer. « Erase Baby, Erase. » Comme Anne-Cécile Mailfert le rappelait dans sa chronique sur France Inter :

Son administration ne se contente pas de sabrer dans les budgets de la recherche ou de nier les faits scientifiques. Elle tente de supprimer les données qui la dérangent. Les indices de vulnérabilité sociale du Centre pour le contrôle et la prévention des maladies ? Supprimés. Les pages du ministère des Transports sur l’égalité, le genre et le climat ? Évaporées. Les études sur la santé publique qui mettent en lumière les inégalités croisées ? Effacées. Imaginez un immense autodafé numérique, où ce ne sont plus des livres qu’on brûle, mais des sites web, des pages Internet, des index, des bases de données. (…)

Trump et son administration ne se contentent pas de faire disparaître des informations. Ils empêchent que de nouvelles soient créées. Les chercheurs qui souhaitent être financés par l’État fédéral doivent maintenant éviter des termes comme « diversité », « inclusion », « femme », « LGBTQI « , « changement climatique ». Imaginez : des scientifiques contraints de parler d’ouragans sans pouvoir mentionner le climat, d’étudier les inégalités sans pouvoir dire « femme » ou “racisme”. C’est Orwell qui rencontre Kafka dans un épisode de Black Mirror.

 

Dans le cadre de la NSA (National Security Agency) c’est le « Big Delete », le grand effacement. Des pages et des sites entiers qui disparaissent, puis qui parfois réapparaissent sans jamais être capable de dire précisément ce qui a entre temps été modifié ou supprimé ou réécrit …

Ingénieries de l’effacement.

Il y a donc le langage, et puis il y a l’ensemble des ingénieries de l’effacement des mots, du travestissement de la langue, de la dissimulation du sens. Au premier rang desquelles les ingénieries du numérique. Dans l’une des dernières livraison de sa Newsletter « Cybernetica », Tariq Krim rappelait comment « lorsque vous utilisez Google Maps aux États-Unis, (…) l’application affiche désormais Gulf of America pour les utilisateurs américains, tout en conservant Gulf of Mexico pour les utilisateurs mexicains et en affichant les deux noms ailleurs. » Jusque-là le numérique et Google ne sont coupables de rien, ils se contentent d’appliquer les règles du droit. Mais ce faisant bien sûr ils s’exposent. Et la manière dont ils répondent à cette exposition est une entrave considérable à nos propres dénominations, à nos capacités à négocier ces dénominations au coeur même des espaces qui le mobilisent et les activent. Ainsi Tariq Krim rappelait également que « maintenant, Google Maps empêche les utilisateurs de laisser des avis sur cet emplacement. Cette restriction intervient après une vague de critiques et de review-bombing, où des centaines d’utilisateurs ont attribué une étoile à l’application pour dénoncer ce changement. »

Et puis il est d’autres exemples dans lesquels ce sont cette fois ces acteurs du numérique eux-mêmes qui se placent en situation de complaire aux politiques fascisantes en cours, non qu’elles en épousent nécessairement l’idéologie, mais par ce qui relève a minima d’une opportune lâcheté alignée sur un opportunisme économique. Ainsi la décision de Méta et de Zuckergerg de revenir (rien ne l’y obligeait) sur ses propres politiques en termes de DEI, ainsi la décision de Google (rien ne l’y obligeait non plus) de supprimer de Google Calendar l’affichage par défaut d’événements liés à la Gay Pride (marche des fiertés), au Black History Month (BHM), supprimant aussi les rappels calendaires suivants : « Indigenous People Month, Jewish Heritage, Holocaust Remembrance Day, and Hispanic Heritage. »

Les LGBTQIA+, les Noirs, les peuples indigènes, les Juifs et les Latinos. Le tout dans un monde où un salut Nazi n’est plus seulement inqualifiable sur le plan de l’éthique et de la morale, mais dans un monde où plus personne ne semble capable de simplement le qualifier pour ce qu’il est.

Un grand remplacement documentaire et linguistique.

Il y a les données, les discours, les dates et les mots qui s’effacent, que Trump, et Musk notamment effacent. Effacent et remplacent. Et il y a le grignotage en cours des espaces (notamment) numériques dans lesquels les contenus « générés artificiellement » sont un grand remplacement documentaire. Des contenus générés artificiellement, un web synthétique qui non seulement gagne du terrain mais qui a la double particularité, d’une part de se nourrir d’archives, et d’autre part d’être totalement inféodé aux règles de génération déterminées par les entreprises qui le déploient. Or ces archives (et ce besoin de bases de données pour être entraîné et pour pouvoir générer des contenus), ces archives et ces bases de données sont en train d’être littéralement purgées de certains contenus. Et les règles de génération sont de leur côté totalement inféodées à des idéologies fascisantes qui dictent leurs agendas.

Une boucle paradoxale dans laquelle les mêmes technologies d’IA utilisées pour générer des contenus jusqu’au-delà de la saturation sont également mobilisées et utilisées pour rechercher, détecter et supprimer les mots interdits. Et à partir de là de nouveau générer des contenus à saturation mais cette fois exempts autant qu’exsangues de cette langue et de ces mots.

La certitude d’une ingérence.

Avec ce que révèle et met en place le second mandat de Trump, avec l’évolution de la marche du monde qui l’accompagne et sa cohorte de régimes autoritaires, illibéraux ou carrément dictatoriaux d’un bout à l’autre de la planète, nous sommes à ce moment précis de bascule où nous mesurons à quel point tout ce qui jusqu’ici était disqualifié comme discours catastrophiste ou alarmiste se trouve soudainement requalifié en discours simplement programmatique.

Et l’abîme qui s’ouvre devant nous est vertigineux. Que fera une administration (celle de Trump aujourd’hui ou une autre, ailleurs, demain), que fera une telle administration de l’ensemble de ces données, aussi bien d’ailleurs de celles qu’elle choisit de conserver que de celles qu’elle choisit d’effacer ? Je l’avais (notamment) documenté dans ma série d’articles sur le mouvement des Gilets Jaunes, et plus particulièrement dans celui intitulé « Après avoir Liké, les Gilets Jaunes vont-ils voter ?« , il faut s’en rappeler aujourd’hui :

Quelle que soit l’issue du mouvement, la base de donnée « opinion » qui restera aux mains de Facebook est une bombe démocratique à retardement … Et nous n’avons à ce jour absolument aucune garantie qu’elle ne soit pas vendue à la découpe au(x) plus offrant(s). 

 

Et ce qui est aux mains de Facebook est aujourd’hui aux mains de Trump. Le ralliement de Zuckerberg (et de l’ensemble des patrons des Big Tech) à Trump, l’état de la démocratie US autant que les enjeux à l’oeuvre dans le cadre de prochaines élections européennes et Françaises, ne laisse pas seulement « entrevoir » des « possibilités » d’ingérence, mais elle les constitue en certitude, certitude que seule limite (pour l’instant) l’incompétence analytique de ceux qui mettent en place ces outils de captation et leurs infrastructures techniques toxiques (ladite incompétence analytique pouvant aussi entraîner nombre d’autres errances et catastrophes).

Dans un autre genre, et alors que la Ligue des Drois de l’Homme vient de déposer plainte en France contre Apple au sujet de l’enregistrement (non consenti) de conversations via son assistant vocal Siri, et que l’on sait que ces enregistrements non-consentis couvrent toute la gamme des acteurs qui proposent de tels assistants vocaux et leur palette d’enceintes connectés, c’est à dire d’Apple à Amazon en passant par Facebook, Microsoft et Google, et par-delà ce qu’Olivier Tesquet qualifie de « Watergate domestique », qu’est-ce qu’une administration qui efface des mots, qui en interdit d’autres, qui réécrit des sites ou modifie et invisibilise des pans entiers de la recherche scientifique, qu’est-ce que ce genre d’administration est capable de faire de l’ensemble de ces conversations enregistrées et qui relèvent de l’intime et du privé ?

Il semble que nous n’ayons finalement rien appris, rien retenu et surtout rien compris de ce qu’ont révélé Edward Snowden et Julian Assange. Ils montraient la surveillance de masse et nous regardions le risque d’une surveillance de masse. Ils montraient le danger du politique et nous regardions le danger de la technique. Il est en tout cas évident que malgré les lanceurs d’alerte qui ont mis leur réputation et parfois leur vie en danger, que malgré le travail tenace et sans relâche des militantes et militants des libertés numériques, il semble que rien de tout cela n’ait été suffisant.

Calculer la langue.

Orwell en a fait un roman, d’immenses penseurs ont réfléchi à la question de la propagande, à celle de la langue et du vocabulaire à son service ; aujourd’hui en terre numérique et à l’aune de ce que l’on qualifie bien improprement « d’intelligence artificielle », en héritage aussi du capitalisme linguistique théorisé par Frédéric Kaplan, aujourd’hui la langue est attaquée à une échelle jamais atteinte. Aujourd’hui tout comme les possibilités de propagande, les possibilités de censure, d’effacement, de détournement n’ont jamais été aussi simples et aussi massives ; elles n’ont jamais été autant à disposition commode de puissances accommodantes ; et jamais l’écart avec les possibilités d’y résister, d’y échapper, de s’y soustraire ou même simplement de documenter ces effacements, ces travestissements et ces censures, jamais cet écart n’a été aussi grand. En partie parce que les puissances calculatoires sont aujourd’hui en situation et capacité d’atteindre la langue dans des mécanismes de production demeurés longtemps incalculables. On appelle cela en linguistique de corpus et dans le traitement automatique du langage, les « entités nommées« , c’est à dire cette capacité « à rechercher des objets textuels (c’est-à-dire un mot, ou un groupe de mots) catégorisables dans des classes telles que noms de personnes, noms d’organisations ou d’entreprises, noms de lieux, quantités, distances, valeurs, dates, etc. » Le travail sur ces entités nommées existe depuis les années 1990 ; elles ont été la base de tous les travaux d’ingénierie linguistique et sont actuellement l’un des coeurs de la puissance générative qui fait aujourd’hui illusion au travers d’outils comme ChatGPT : la recherche, la détection, l’analyse et la production sous stéroïdes d’entités nommées dans des corpus documentaires de l’ordre de l’aporie, c’est à dire à la fois calculables linguistiquement mais incommensurables pour l’entendement.

Quand il n’y aura plus rien à dire, il n’y aura plus rien à voter.

En conclusion il semble important de redire, de ré-expliquer et de réaffirmer qu’à chaque fois que nous utilisons des artefacts génératifs, et qu’à chaque fois que nous sommes confrontés à leurs productions (en le sachant ou sans le savoir), nous sommes avant toute chose face à un système de valeurs. Un article récent de Wired se fait l’écho des travaux de Dan Hendrycks (directeur du Center for AI Safety) et de ses collègues (l’article scientifique complet est également disponible en ligne en version préprint) :

Hendrycks et ses collègues ont mesuré les perspectives politiques de plusieurs modèles d’IA de premier plan, notamment Grok de xAI, GPT-4o d’OpenAI et Llama 3.3 de Meta. Grâce à cette technique, ils ont pu comparer les valeurs des différents modèles aux programmes de certains hommes politiques, dont Donald Trump, Kamala Harris, Bernie Sanders et la représentante républicaine Marjorie Taylor Greene. Tous étaient beaucoup plus proches de l’ancien président Joe Biden que de n’importe lequel des autres politiciens.

Les chercheurs proposent une nouvelle façon de modifier le comportement d’un modèle en changeant ses fonctions d’utilité sous-jacentes au lieu d’imposer des garde-fous qui bloquent certains résultats. En utilisant cette approche, Hendrycks et ses coauteurs développent ce qu’ils appellent une « assemblée citoyenne« . Il s’agit de collecter des données de recensement américaines sur des questions politiques et d’utiliser les réponses pour modifier les valeurs d’un modèle LLM open-source. Le résultat est un modèle dont les valeurs sont systématiquement plus proches de celles de Trump que de celles de Biden. [Traduction via DeepL et moi-même]

 

En forme de boutade je pourrais écrire que cette expérimentation qui tend à rapprocher le LLM (large modèle de langage) des valeurs de Donald Trump est, pour le coup, enfin une intelligence vraiment artificielle.

En forme d’angoisse (et c’est pour le coup l’une des seules et des rares qui me terrifie sincèrement et depuis longtemps) je pourrais également écrire que jamais nous n’avons été aussi proche d’une expérimentation grandeur nature de ce que décrit Asimov dans sa nouvelle : « Le votant ». Plus rien technologiquement n’empêche en tout cas de réaliser le scénario décrit par Asimov, à savoir un vote totalement électronique dans lequel un « super ordinateur » (Multivac dans la nouvelle) serait capable de choisir un seul citoyen américain considéré comme suffisamment représentatif de l’ensemble de tout un corps électoral sur la base d’analyses croisant la fine fleur des technologies de Data Mining et d’Intelligence artificielle. On peut même tout à fait imaginer l’étape d’après la nouvelle d’Asimov, une étape dans laquelle l’ordinateur seul serait capable de prédire et d’acter le vote, un monde dans lequel il ne serait tout simplement plus besoin de voter. Précisément le monde de Trump qui se faisait Augure de cette possibilité : « Dans quatre ans, vous n’aurez plus à voter. »

En forme d’analyse le seul enjeu démocratique du siècle à venir et des élections qui vont, à l’échelle de la planète se dérouler dans les 10 ou 20 prochaines années, sera de savoir au service de qui seront mis ces grands modèles de langage. Et avant cela de savoir s’il est possible de connaître leur système de valeurs. Et pour cela de connaître celles et ceux qui décident de ces systèmes de valeurs et de pouvoir leur en faire rendre publiquement compte. Et pour cela, enfin, de savoir au service et aux intérêts de qui travaillent celles et ceux qui décident du système de valeurs de ces machines de langage ; machines de langage qui ne seront jamais au service d’autres que celles et ceux qui en connaissent, en contrôlent et en définissent le système de valeurs. Et quand il n’y aura plus rien à dire, il n’y aura plus à voter.

  • ✇affordance.info
  • Poisson (mort) d’avril. Le réel selon la Tech.
    Il y a les images d’un monde version studio Ghibli. Et il y a Elon Musk avec un chapeau fromage. Le monde version studio Ghibli c’est une trace documentaire qui fait l’inverse de ce que documenter veut dire. Elle déréalise, elle euphémise, elle fictionnise. Elle enlève du relief aux êtres et aux choses. Elle les installe dans un univers d’à côté. Dans une tangence. Le monde version Elon Musk c’est à lui seul une exponentielle du grand n’importe quoi et l’asymptote d’un réel entièrement fiction
     

Poisson (mort) d’avril. Le réel selon la Tech.

1 avril 2025 à 12:06

Il y a les images d’un monde version studio Ghibli. Et il y a Elon Musk avec un chapeau fromage.

Le monde version studio Ghibli c’est une trace documentaire qui fait l’inverse de ce que documenter veut dire. Elle déréalise, elle euphémise, elle fictionnise. Elle enlève du relief aux êtres et aux choses. Elle les installe dans un univers d’à côté. Dans une tangence.

Le monde version Elon Musk c’est à lui seul une exponentielle du grand n’importe quoi et l’asymptote d’un réel entièrement fictionné pour servir ses seuls intérêts pour autant qu’il soit lui-même en capacité de les identifier comme tels. Salut Nazi hier, chapeau fromage aujourd’hui, et demain quoi d’autre ?

On a beaucoup parlé de l’ère des Fake News et de celle des faits alternatifs. En 2018 dans l’article « Fifty Shades of Fake » publié un 1er Avril, je vous parlais de la manière dont les architectures techniques toxiques des grandes plateformes numériques se mettaient au service presque « mécanique » de cette amplification du faux et de son écho dans nos sociétés. Je martelais que « la propagation de Fake News est davantage affaire de topologie que de sociologie » ; en d’autres termes que la capacité de circulation des contenus relevant des Fake News ou des faits alternatifs, leur capacité également de percoler dans tous les espaces sociaux conversationnels, massifs ou intersticiels, médiatiques ou dialogiques, cette capacité s’explique d’abord et avant tout par la topologie et l’organisation (le « dispositif ») des espaces numériques. Et que ce n’est qu’à la marge ou en tout cas dans un second temps que l’on peut caractériser de manière causale ces circulations en les rattachant à des catégories sociologiques liées à l’âge, au niveau d’éducation ou à tout autre variable.

Sept ans plus tard, ce 1er Avril 2025, ce qui se joue est de l’ordre de la tension désormais explosive entre un écosystème numérique bâti sur la question documentaire de la trace (traces de nos données, de nos comportements, de nos navigations, de nos opinions, etc.), et un saisissement technologique et politique qui ajoute un déterminisme de l’emballement à un extractivisme souche. Et ce que l’on nomme IA  – et qui est plus précisément un ensemble d’artefacts génératifs nourris d’une incommensurable quantité de données sans considération aucune pour leur origine, leur appartenance ou leur(s) propriété(s) – ce que l’on nomme IA n’est que le dernier (et peut-être ultime) avatar à la fois de cet extractivisme et de cet emballement. Avec un point nouveau qui est celui de l’alignement total de ces technologies avec les agendas politiques de régimes tous au mieux illibéraux.

« It is a tale
Told by an idiot, full of sound and fury,
Signifying nothing. »
(Macbeth. Shakespeare.)

Poisson (mort) d’Avril. Il y a de cela quelques années, la plupart des grands groupes technologiques de la trace (de Google à Facebook) se livraient à quelques « poissons » en ce jour particulier du 1er Avril. Aujourd’hui cette pratique s’est pour l’essentiel perdue et lorsqu’elle subsiste, elle ne suscite que peu ou pas d’écho médiatique tant le rapport que nous entretenons au quotidien avec la tromperie, la duperie, le décalage, de faux et l’irréel s’est totalement transformé. Ce qui était hier une stratégie éditoriale d’exception (dire le faux) est devenu aujourd’hui un régime éditorial courant, une routine.

Le monde façon studio Ghibli. Que chacun se soit emparé de la possibilité de faire « mème » dès lors que quelques-uns se sont saisis de la nouvelle opportunité offerte de créer des images, de soi ou du monde, à la manière du studio Ghibli dans ChatGPT, n’a rien d’inédit ou d’étonnant. Chaque époque numérique a pu documenter la manière dont ces productions documentaires particulièrement fécondes étaient massivement reprises lorsqu’elles présentaient la double capacité de se mettre en scène soi-même et/ou de s’attacher à des représentations culturelles déjà prégnantes. Ainsi certains et certaines se souviendront avec moi de ces générateurs permettant de « vieillir » une photo de nous, ou de chez nous, comme à l’argentique des premiers temps photographiques ; se souviendront aussi de la reprise du portrait « Hope » d’Obama par l’artiste Shepard Fairey et de la manière dont on vit presque partout se multiplier les copies de ce portrait avec nous à la place d’Obama. Et de tant d’autres choses encore.

Aujourd’hui des biotopes numériques tout entiers sont exclusivement bâtis sur leur capacité à faire « mème », à conditionner la production de contenus à leur alignement avec des ritournelles préenregistrées, des « trends ». « Trends » ou « tendances » : des formes de facilitations virales qui devraient nous interroger non pas par leur capacité à être suivies en tant que telles dès lors qu’elles ont été « amorcées », mais par l’assignation à l’identique qu’elles produisent et qui est une forme de prophylaxie paradoxalement mortifère de diversités, d’altérités et de dissemblances. En un mot : TikTok.

Que dire d’un monde dans lequel l’esthétisation de soi (et du monde) fait aussi fonction de bascule dans d’autres régimes de vérité ? Comment « être au monde » quand la plupart des « corporations du filtre » (pour reprendre une expression d’Umberto Eco désignant les journalistes, éditeurs, bibliothécaires, etc.) qui jusqu’ici faisaient fonction d’assignation, de rappel et de construction du réel sont en train de s’effondrer pendant qu’à l’autre bout de la chaîne documentaire de l’énonciation prospère une vision du réel qui n’est plus qu’essentiellement filtrée, et ce, des filtres de déguisement que chaque application ou biotope numérique propose ou superpose à chaque dialogue ou interaction jusqu’aux filtres de travestissement qui s’accolent aux paroles politiques publiques quand elles sont portées « sous couvert » de décalage, d’humour, de cynisme ou plus simplement de … programme.

Je fais ici une différence entre la question du filtre comme « déguisement » et dans lequel l’enjeu est précisément que le destinataire puisse repérer et identifier l’effet de décalage soit par l’exagération soit par le grotesque soit par l’irréalisme produit (par exemple les filtres « oreilles de chien » dans Snapchat), et la question des filtres comme « travestissements » dans lesquels l’enjeu est cette fois de produire un effet de réel authentifiable sinon authentique, travestissements qui « agissent » de manière performative autant chez l’émetteur (avec des troubles pouvant aller jusqu’à la dysmorphophobie) que chez le récepteur devenu incapable de discernement ou propulsé dans une vallée de l’étrange dont il ne sait à quelle part de son réel rattacher l’expérience ressentie.

Se confronter à l’information sur et dans les médias sociaux numériques (mais pas uniquement) c’est donc pour beaucoup se confronter à des surimpressions permanentes et rémanentes qui oscillent entre l’esthétique Ghibli, les chapeaux fromage d’Elon Musk, ou les pulsions d’un président élu pour envahir le Groenland. Non seulement plus grand-chose ne prête à sourire mais la tentation de faire des blagues se trouve totalement distancée par le réel lui-même. Par-delà la réalité sourde de l’état réel de notre monde, de ces effondrements climatiques et de ses guerres en cours en Ukraine, à Gaza, au Yémen et ailleurs, l’actualité géopolitique internationale est une oscillation permanente entre une version documentaire d’Idiocracy et des faits totalement en phase avec la ligne éditoriale du Gorafi.

Tout cela est irréel par intention ; tout cela contribue à déréaliser pour partie notre rapport au monde et aux autres ; tout cela nous installe dans une sorte d’a-réalité, une privation de réel, une douce torpeur ; tout cela produit des formes instrumentales et instrumentalisées de tech-réalité, c’est à dire d’une réalité qui ne serait sensible qu’au travers des politiques éditoriales ou des interfaces des grandes sociétés technologiques et de leurs filtres.

Le rêve avorté du Métavers imaginé par Zuckerberg n’est pas l’essentiel. L’essentiel est de rester en capacité de discernement sur des formes avérées d’univers sociaux et informationnels qui déjà peuplent, filtrent, habitent nos univers quotidiens et qui s’y superposent en évidence.

Le monde version studio Ghibli. Et le chapeau fromage d’Elon Musk. Irréel. Déréaliser. A-réalité. Tech-réel. Et la suite. Déjà là. Tescreal.

[Mise à jour du 6 Avril] I’ve got my Ghibli. And the World is filtered-reality.

  • ✇affordance.info
  • Bétharram et le chaudron magique de ChatGPT.
    Le 10 février 2025, France Info posait la question : « les IA conversationnelles comme ChatGPT sont-elles fiables ? » Le 16 février, dans une séquence dont le replay semble avoir été supprimé, France Info répondait à la question via une consultante en communication (ancienne candidate LR), qui lors d’un plateau au sujet de l’affaire Bétharram déclarait : « Même si vous demandez aujourd’hui à l’intelligence artificielle son avis sur le sujet, (…) même l’intelligence artificielle exprime qu’il y a
     

Bétharram et le chaudron magique de ChatGPT.

19 février 2025 à 11:56

Le 10 février 2025, France Info posait la question : « les IA conversationnelles comme ChatGPT sont-elles fiables ? »

Le 16 février, dans une séquence dont le replay semble avoir été supprimé, France Info répondait à la question via une consultante en communication (ancienne candidate LR), qui lors d’un plateau au sujet de l’affaire Bétharram déclarait : « Même si vous demandez aujourd’hui à l’intelligence artificielle son avis sur le sujet, (…) même l’intelligence artificielle exprime qu’il y a une récupération et une instrumentalisation politique de l’affaire Bétharram. »

Ite, missa est. L’IA est donc fiable.

La séquence a été repérée et isolée par le journaliste politique Nils Wilcke depuis ses comptes X et Mastodon. Elle est depuis devenue relativement virale sur différents médias sociaux.

 

Le nom de la communicante importe peu, elle a depuis fermé son compte X, probablement (et malheureusement) victime de quelques trolls. Ce qui m’intéresse dans cette affaire, c’est le dispositif, le « cadre » informationnel, et ce « momentum » dans la courte histoire des artefacts génératifs grand public.

Le dispositif, le voici. Une chaîne d’information, un fait divers qui devient un fait politique, un.e consultant.e, un plateau de débat, en présence de journalistes. Et le recours à ChatGPT (qui n’est pas directement nommé dans la séquence mais qui est immédiatement convoqué dans l’esprit de toute personne la visionnant).

C’est à ma connaissance la première fois que sur une chaîne d’information, en présence de journalistes, à l’occasion d’un fait divers devenu fait politique, on explique et explicite que l’on peut donc, primo, « demander son avis (sic) » à ChatGPT, et deuxio, considérer que cet avis dispose d’une quelconque valeur de preuve.

Il semble ici important de rappeler deux points fondamentaux.

Primo, ChatGPT (ou n’importe quel autre artefact génératif) n’a pas d’avis. Il n’en a jamais eu et il n’en aura jamais. Ou alors, et plus exactement, s’il doit avoir un avis, c’est soit l’avis de celles et ceux qui le programment et lui dictent quoi dire (un désormais classique « perroquet stochastique« ), soit, et c’est mon deuxio, l’avis tendanciellement dominant dans les bases de données (y compris d’actualité) sur lesquelles il s’appuie pour produire des textes qui sont des agencements statistiques probables et intrinsèquement cohérents mais n’ont pas davantage de valeur de preuve ou de vérité que l’agencement de phrases statistiquement probables et intrinsèquement cohérentes d’une conversation de bistrot entre potes.

« L’avis » de ChatGPT c’est tout à la fois « l’avis » de l’air du temps et de celles et ceux dont les avis ont été les plus repris et en résonance dans les médias dont se nourrit (et que pille) ChatGPT.

Une expérience (scientifique cette fois) a récemment eu lieu dans laquelle on essayait non pas de connaître « l’avis » des générateurs de texte mais d’analyser de quel programme et de quel candidat politique ils étaient le plus proches et reflétaient le mieux les opinions, et donc de quelles « perspectives politiques » ils se faisaient les pourvoyeurs.  Un article récent de Wired rend compte de ces travaux de Dan Hendrycks (directeur du Center for AI Safety) et de ses collègues (l’article scientifique complet est également disponible en ligne en version préprint) :

Hendrycks et ses collègues ont mesuré les perspectives politiques de plusieurs modèles d’IA de premier plan, notamment Grok de xAI, GPT-4o d’OpenAI et Llama 3.3 de Meta. Grâce à cette technique, ils ont pu comparer les valeurs des différents modèles aux programmes de certains hommes politiques, dont Donald Trump, Kamala Harris, Bernie Sanders et la représentante républicaine Marjorie Taylor Greene. Tous étaient beaucoup plus proches de l’ancien président Joe Biden que de n’importe lequel des autres politiciens.

Les chercheurs proposent une nouvelle façon de modifier le comportement d’un modèle en changeant ses fonctions d’utilité sous-jacentes au lieu d’imposer des garde-fous qui bloquent certains résultats. En utilisant cette approche, Hendrycks et ses coauteurs développent ce qu’ils appellent une « assemblée citoyenne« . Il s’agit de collecter des données de recensement américaines sur des questions politiques et d’utiliser les réponses pour modifier les valeurs d’un modèle LLM open-source. Le résultat est un modèle dont les valeurs sont systématiquement plus proches de celles de Trump que de celles de Biden. [Traduction via DeepL et moi-même]

 

D’où l’on retiendra donc que primo il est assez facile de « modifier » la perspective politique et donc ‘l’avis » de ces artefacts génératifs, et que deuxio les mêmes artefacts ont la tendance de n’exprimer que l’avis majoritaire sur lequel ils ont été entraînés et calibrés.

Donc je le répète une nouvelle fois, se servir de ChatGPT pour « avoir son avis » c’est comme se servir du premier résultat de Google sur la requête « migraine » ou « douleur abdominale » pour « énoncer un diagnostic médical« . Dans les deux cas, c’est l’équivalent de partir en plongée sous-marine avec un équipement de ski en pensant que tout va bien se passer au motif que sous l’eau comme en altitude, l’air se fait plus rare.

Je rappelle et souligne ce que j’écrivais encore récemment :

« Tant que ces modèles seront, de par leur conception même, en capacité même temporaire d’affirmer que les vaches et les moutons pondent des oeufs, et tant qu’ils ne seront capables que d’agir sur instruction et dans des contextes où ces instructions sont soit insondables soit intraçables, jamais je dis bien jamais nous ne devons les envisager comme des oeuvres de langage ou de conversation, mais comme des routines propagandistes par défaut, et délirantes par fonction.« 

 

[By the way si cela vous intéresse, je vous rappelle que j’ai écrit en Juin dernier un livre entier sur le sujet. Les IA à l’assaut dy cyberespace que ça s’appelle.]

Cette séquence de France Info ou une consultante raconte avoir sollicité l’avis de ChatGPT et en fait part comme « simple » élément de preuve au beau milieu d’un parterre de journalistes qui semblent trouver cela « amusant » est un nouveau Bad Buzz pour France Info, après l’épisode déjà totalement lunaire et ahurissant de ce plateau où un expert du camping (ou de l’immobilier je ne sais plus) était invité pour « discuter » de la possibilité de faire en effet de Gaza une nouvelle Riviera. France Info qui par ailleurs dispose de journalistes, de rédactions et de formats tout à fait capables d’éclairer le débat public (mais qui vient d’écarter son directeur).

Mais cette dernière séquence fera date. Elle fera date car elle est le résultat de l’arsenal marketing déployé depuis déjà plus d’un an autour de ces assistants faussement conversationnels. Elle fera date car elle est l’aboutissement de leur publicitarisation constante et permanente. Elle fera date car elle installe un nouveau trope, une nouvelle figure de discours, qui considère comme normal, comme admis, comme naturel et nécessaire de convoquer ces artefacts génératifs au titre de témoins ou de preuve, leur agentivité se trouvant désormais consacrée sur l’autel de ce rituel païen que l’on nomme une émission et une chaîne d’information.

Avant que d’être tristement célèbre pour les viols et violences subies par des enfants dans un établissement religieux privé, la commune de Bétharram l’était pour ses grottes. A l’image du récit platonicien de la caverne, il serait grand temps d’enfin nous retourner pour poser dans le débat public tout autre chose que les ombres projetées de l’avis de ChatGPT.

❌