Astronomers have detected an atmosphere around a rocky exoplanet in the habitable zone of its star for the first time in history, signalling a major breakthrough in the search for alien life, according to a study published on Thursday in Science. 

The planet, known as LHS 1140-b, is about 5.6 times more massive than Earth and orbits a small dwarf star about 48 light years from our solar system. While scientists have discovered atmospheres around many giant gas planets in our galaxy—and even a few rocky exoplanets outside the habitable zone—the new detection of helium in the skies of LHS 1140-b marks the first direct evidence that a habitable-zone rocky world can host an atmosphere, which is a critical factor for assessing their potential to support life.

“For rockier Earth-like planets, it has been a huge challenge in the field to detect any atmospheres at all,” said Collin Cherubim, a NASA Hubble Fellow at the University of Chicago, in a call with 404 Media. “This has been a huge question in the field that so much time and energy has been devoted to answering.”

The new discovery “is really the first claim ever of any rocky exoplanet atmosphere in the habitable zone that could potentially have liquid water and really support life,” added Cherubim, who conducted the research while he was a PhD student at Harvard University. “That's what sets it apart and makes it really exciting.”

Scientists have previously inferred that some rocky exoplanets in the habitable zone might have atmospheres based on indirect evidence, such as measurements that show that their day and night temperatures are more moderate than expected, which could be explained either by an atmosphere, or other planet-wide effects. However, spotting an atmosphere around these rocky worlds is tricky because they tend to be so small compared to their stars, which is a challenge for precision observations.

Cherubim came at the problem with a new approach: He first developed theoretical models of rocky exoplanets that focused on mass fractionation, a process by which lighter molecules and atoms in the atmosphere escape into space, while heavier ones are left behind. These simulations predicted a new type of planet with thick skies closer to the surface, and a thinner upper atmosphere that allows helium to escape to space.

“Hydrogen is the lightest element and it's the easiest to blow off into space,” Cherubim explained. “My model was predicting that if your planet is in this sweet spot where you're blowing enough hydrogen away, but not too much that you're dragging helium, which is a bit heavier, along with it, then you can actually create a helium-dominated atmosphere over time.” 

“This is a newly-predicted class of planets, which should have very unique chemistry,” he added. 

Cherubim realized that this escaping helium might be detectable from Earth, and that the LHS 1140 system would be a prime candidate to test out the hypothesis. To that end, the team observed LHS 1140-b and another planet in the system, LHS 1140-c, over the course of 2024 and 2025 with the Warm Infrared Echelle (WINERED) Spectrograph on the Magellan Observatory in Chile.

The 2024 results revealed a strong signal of helium at LHS 1140-b, but no detection in 2025, which may mean that the helium escape varies over time. The team predicts that the planet has probably had its atmosphere for billions of years. The other planet, LHS 1140-c, did not show any signs of an atmosphere, which was also expected based on its orbit and characteristics.

The momentous discovery proves that atmospheres can exist around rocky worlds, including around dwarf stars, which are far more common than more massive stars like the Sun. Cherubim and his colleagues think it’s quite likely that LHS 1140-b has large amounts of liquid water on its surface, another key ingredient for life as we know it on Earth.

“When we think about habitability, we think about three high-level things,” Cherubim said. “We think the planet needs to be rocky for the most part. It can't be a gas-rich thing where the surface is molten, or like Jupiter where it's just all gas. It's got to be the right temperature to support surface liquid water, at least for Earth-like life, and it needs an atmosphere to hold that water in and to shield the surface from radiation.” 

“With this discovery, we now know LHS 1140-b has all three of those things, which is really exciting,” he added. “And it just happens to be a very nearby system to Earth, so it's very accessible.”

Whether alien life exists on LHS 1140-b remains an open question, but scientists have already been looking for signs of life, known as biosignatures, in its skies using the Hubble Space Telescope and the James Webb Space Telescope. So far, the search hasn’t turned up any obvious signs of life, but future efforts may be able to peer at this world in more detail. 

“I think this is the best place to be looking for biosignatures,” Cherubim concluded. “We're really excited to see what comes out of that.”

Police departments around the country have used Flock cameras at least hundreds of times to search for specific people, not cars, using searches such as “heavy-set male with a black and white hat,” “person on skateboard,” and “person wearing orange vest and construction hat,” according to data reviewed by 404 Media. Sometimes searches reference a target’s race or signs of their political affiliation.

The searches highlight that while most people associate Flock cameras with scanning license plates and tracking vehicles, some of the cameras are also capable of following the movements of particular people or groups of people. Flock’s nationwide network of cameras lets police officers in one state search for a vehicle across many other states at once; the people searches do a similar thing, typically on a smaller scale, sometimes querying many hundreds of cameras at once. These are called “FreeForm” searches, and allow cops to use Flock’s system as though they would use a search engine, with Flock’s AI and image recognition interpreting what footage and which people are relevant to a police officer’s search.

“Much of the world hasn’t quite caught up yet to how much more powerful a surveillance camera is today compared to a few years ago. AI video analytics means that giant oceans of video data can now be searched the same way big text files can be, including for sensitive content such as t-shirts, tattoos, and bumper stickers. Even without face recognition, that’s a significant increase in surveillance capability,” Jay Stanley, senior policy analyst for the American Civil Liberties Union’s (ACLU) Speech, Privacy, and Technology Project, told 404 Media in an email.

“This is a classic bait-and-switch. Your town was pitched a tool to catch stolen cars and find missing kids,” Tom Bowman, policy counsel, security & surveillance, at the Center for Democracy & Technology, told 404 Media in a statement. Instead, cops now have the capability to search for a specific person or description of a person across a wealth of camera networks at once. “It's like being sold a smoke detector and only later finding out it's been recording every conversation in your house.”

The searches sometimes stretch across dozens or even nearly a hundred networks of Flock cameras at once. Sometimes the searches are so vague that they can pull up images of innocent or unrelated people. Other examples in the data reviewed by 404 Media include:

• Dunwoody GA PD looking for someone wearing a “backpack,” and later “person walking” and “black sweatshirt.” The latter two searches were across nine networks of cameras each
• Pocatello ID PD searching for “a male on foot” across 38 cameras. Another search was “atlanta falcons,” referencing the NFL team
• Corona CA PD searching for “american flag shirt” and “dodger shirt.”
• Milford CT PD looking for “male with tattoos,” “male with brown hair,” and “woman blue shirt,” across more than a hundred cameras
• The California Highway Patrol looking for someone wearing a “gray shirt” across 274 cameras
• The Texas Department of Public Safety searching 96 networks of cameras for “man weasring [sic] a black t-shirt and shorts.”
• Florence SC PD looking for “person with gun” across 61 cameras
• Chamblee GA PD searching 85 camera networks for “white woman wearing grey shirt, blonde hair, black shorts with blue and white shoes.” The agency also searched for “female with ugg boots.”
• Brookhaven GA PD looking for “tall man.”

Some searches referenced the race of the person authorities were looking for. The California Highway Patrol was “Looking for a white male about 6ft 1in tall, longer brown hair almost to his shoulders, slender build, will have been wearing blue jeans, boots with white paint stains on the toes and possibly carrying a black helmet.” Atlanta GA PD searched for “non caucasion [sic] male wearing blue shirt blue pants white hat.”

Some searches are part of an “investigation,” according to the “reason” field in the data. Others are part of a missing persons case. In some it is not clear what the reason for the search was because it is redacted.

“Unfortunately, this ability to search cameras as though doing a search engine inquiry is increasingly common for surveillance cameras,” Beryl Lipton, senior investigative researcher at the Electronic Frontier Foundation, told 404 Media. “AI-enabled video analysis across reams of footage exacerbates the risk that law-abiding people minding their own business end up with police observing them without their knowledge and opens them to possibly being implicated in a crime or being treated as a criminal. Imagine how many people at any given moment may be walking on foot, wearing a backpack, or existing with brown hair. It wasn’t that long ago that Trayvon Martin was murdered by someone who could argue that wearing a hoodie justified suspicion and a claim of self-defense.”

404 Media reviewed data collected by HaveIBeenFlocked.com, a website that collates Flock search-related data obtained through public records requests. Since 404 Media revealed local police were performing Flock searches on behalf of Immigration and Customs Enforcement (ICE), journalists, activists, and residents across the country have requested “Network Audits” from their local police departments. These spreadsheets show in granular detail when an officer searched Flock cameras, how many cameras they queried, and the stated reason why.

A sometimes overlooked part of those audits is a field called “text_prompt.” This relates to a feature in Flock called FreeForm search, which lets officers search cameras not by typing in a license plate but with a natural language phrase. Sometimes these FreeForm searches are descriptions of vehicles, but they often include descriptions of people.

Flock primarily advertises its FreeForm as a feature for its Condor video cameras, which are separate from its automatic license plate reader (ALPR) cameras. These video cameras have “people detection alerts,” and “Guardian Mode” automatically zooms in on people and vehicles. “Deploy AI-powered video where it matters most—no blind spots, no hassle, and fully integrated into Flock,” the company’s website reads. But the AI-analyzed feeds are not entirely divorced from ALPR; Flock has designed the systems to work in tandem. Kevin Cox, a Flock consultant who previously worked for the Grand Prairie Police Department in Texas, previously said, “video combined with the LPR evidence of placing a vehicle at the scene or nearby is an incredibly game changing experience into the prosecutorial chain of events.”

tFlock launched FreeForm in February 2025, although the company’s announcement at the time focused on searches related to vehicles. Some FreeForm searches 404 Media reviewed indicate a target’s potential political affiliation, such as the Anne Arundel County MD PD searching 198 networks for “white jeep with trump flag.” 

One example search Flock gives on its website is for “camo hat orange vest.”

Flock told 404 Media in a statement “FreeForm is designed to help investigators quickly search through large amounts of footage when they are working with limited information, such as a witness description of a person or vehicle.”

“FreeForm is not facial recognition. Flock’s products do not have facial recognition, and we have no facial recognition technology in development. FreeForm cannot identify a person by name, verify someone’s identity, or search for a specific face,” the company added. Flock said authorities used FreeForm searches in a September 2025 AMBER alert case and in Emporia, Kansas, when an elderly man left an assisted living facility.

Flock said FreeForm searches have “guardrails,” including users not able to search attributes such as “race, ethnicity, religion, nationality.” When they do, an alert is generated and sent to the agency’s administrators, Flock said. Some of the searches 404 Media found did discuss someone’s race.

Stanley from the ACLU added, “Imagine that your police department stationed officers on corners around your community writing down notes on where you are at what time, but also what you’re wearing every day, what objects you might be carrying — and writing down those details on everybody, 24/7. You would ask, why are they keeping notes on everybody? That’s pretty intrusive. But that’s basically what these systems do.”

“All this goes to show that Flock is eager not just to expand its surveillance of drivers across America through license plate readers, but to expand into every new kind of surveillance that technology makes possible. And then to link these data streams together to capture even more information about how everybody is living their lives. I don’t think most Americans want to live under that kind of constant automated surveillance,” he wrote.

In May 2025, 404 Media revealed Flock planned to use hacked data as part of a massive people lookup tool. The idea was to use information from data brokers and data breaches to “jump from LPR [license plate reader] to person,” according to internal Flock meeting audio 404 Media previously obtained. Flock scrapped the plan to use hacked data after 404 Media’s coverage and internal pressure.

In December 2025, 404 Media reported Flock left at least 60 of its people-tracking cameras exposed to the wider internet, letting anyone watch their feeds in real time. Those were Flock Condor cameras, and not its more widespread license plate reading cameras.

Dans un petit livre très historique – Des règles sur mesure : généalogie du profilage algorithmique (Amsterdam, 2026) -, le philosophe du droit, Nathan Genicot, retrace l’histoire des débats autour du déploiement des principaux systèmes de profilage, à savoir les systèmes d’analyse psychologique au travail, les systèmes de calcul de risque assurantiels et les systèmes d’obtention de crédits bancaires. Et ce qui me semble très éclairant dans cet essai, c’est de constater combien les débats, plus riches que ceux que nous pouvons avoir aujourd’hui sur ces sujets, ont été perdus. Et plus encore, qu’ils ne semblent pas plus avoir été résolus hier qu’ils ne le sont aujourd’hui. Le profilage semble embourbé dans ses limites sans parvenir à ouvrir de voies pour les résoudre. 

La rationalité statistique est au fondement des Etats modernes, rappelle Genicot à la suite d’Alain Desrosières (La politique des grands nombres, La découverte, 1993), d’Alain Supiot (La gouvernance par les nombres, Fayard, 2015) ou encore de Theodore Porter (The Rise of Statistical Thinking, 1820-1900, Princeton University Press, 2020). Mais elle est également au fondement de l’intelligence artificielle. Les statistiques permettent à la fois de quantifier le social et de le prédire, de profiler chacun « sous le prisme d’attributs qu’il partage avec d’autres ». Nous sommes non seulement statistifiés, mais également comparés. Le profilage dont nous sommes l’objet, bien souvent par devers nous, consiste à prédire notre comportement depuis la comparaison avec celui des autres à partir des régularités du passé. Partout, nous sommes notés, prédits, quelque soit la marge de certitude ou d’incertitude des traitements et inférences. Le calcul est normalisé, naturalisé par un score, une note. Que ce soit pour s’assurer, emprunter, se loger, obtenir un emploi, recevoir des allocations, être mis en relation avec d’autres…  Pour Genicot, ce profilage, ce scoring, les appariements qui en découlent, sont des techniques de régulation, des outils de gouvernementalité. Mais, alors que la loi s’applique à tous de la même façon, le profilage, lui, permettrait de s’adapter aux caractéristiques de chacun. Pour le philosophe du droit, il promet d’individualiser le droit pour « pleinement réaliser le principe d’égalité », pour produire des « règles sur mesure ». Tout l’enjeu du livre consiste justement à vérifier cela. Est-ce que le profilage remplit cette promesse ? Est-ce qu’il rend la justice plus juste ? 

Des débats de calculs

Pour déplier ses constats, Genicot observe trois milieux où se déploient, presque concomitant des techniques de profilage : le travail, l’assurance et le crédit. Dans chaque secteur, Genicot révèle, extirpe des archives les débats de l’époque. Et ceux-ci sont étonnement nourris. Les calculs d’alors viennent avec des questions. La science balbutiante s’interroge, quand l’ingénierie d’aujourd’hui semble avancer comme un rouleau compresseur, sans vraiment s’interroger des défaillances que ses calculs produisent ou des limites que la statistique atteint, comme le relevait danah boyd il y a quelques années (et qui vient de donner lieu à un livre qui sera publié le 29 septembre aux presses de l’université de Chicago, Data Are Made, Not Found: A Story of Politics, Power, and the Civil Servants Who Saved the US Census). 

Les pratiques de profilage, rappelle-t-il, sont antérieures à la naissance de l’informatique, même si l’informatique va leur permettre de se déployer et de s’étendre sans commune mesure. Les premières classifications sont produites pour distinguer les capacités des élèves en créant des tests mentaux et d’aptitudes avec la psychologie différentielle. Les mathématiques servent alors à mesurer l’intensité et la qualité des sensations, la vitesse de réaction… pour mesurer les différences interindividuelles et caractériser les populations en marge de la société : les aliénés, les criminels, les pauvres, les anormaux. Derrière ces tentatives pour améliorer la justice en permettant aux politiques publiques de s’adapter aux profils de chacun s’amalgame des capacités de discriminations inédites porté par tout un courant eugéniste comme le montrera le paléontologue Stephen Jay Gould dans La mal-mesure de l’homme (Odile Jacob, 1997) ou plus récemment Kate Crawford dans son Contre-atlas de l’intelligence artificielle  (Zulma, 2022, voire également notre critique). Les tests mentaux visent à diagnostiquer les enfants anormaux dans le contexte de l’instauration de l’obligation scolaire, avec, pour ses promoteurs, une volonté d’améliorer la justice sociale. 

Le terme même de profilage naît pour décrire cette mise en nombre des individus, en 1909 et s’accompagne, dès l’origine, d’un mode de production graphique pour relier les résultats aux différents tests. Au-delà de l’école, les tests vont rapidement être appliqués à l’orientation et à la sélection professionnelle, pour mieux faire correspondre les profils psychologiques aux métiers. Genicot, en plongeant par exemple dans les travaux de Jean-Maurice Lahy, dans les années 30, nous montre que les ingénieurs de l’IA n’ont rien inventé. On produit des tests psychologiques sur deux groupes de travailleurs, les bons et les mauvais (selon une distinction déjà pleine de biais, puisqu’elle ne repose que sur l’appréciation de chefs de services et le nombre de fautes professionnelles recensées) pour produire des métriques distinctives. Test qu’on peut ensuite faire passer à tout requérant pour mesurer si ses caractéristiques sont plus proches de l’un ou l’autre groupe. On tente de mesurer l’énergie, l’endurance, la concentration, la capacité d’initiative… via des tests psychométriques qui ne vont cesser de s’affiner. On les fait passer à une galerie de métiers pour tenter d’identifier ce qui singularise chaque secteur… Le profilage est dès l’origine une comparaison aux attributs statistiques des autres. « L’essence du profilage consiste à prédire une variable cachée (ici : une aptitude) de manière probabiliste, c’est-à-dire sur la base de caractéristiques (ici : les résultats obtenus à des tests psychotechniques) qui sont fortement corrélées à cette variable ». On le voit, malgré leurs efforts à « désubjectiver les méthodes d’appréciation », ces techniques les réifient. Les conditions sociales sont invisibilisées dans les capacités des individus : « le profilage réduit des situations sociales à des propriétés individuelles » et les biais de l’entité qui profilent sont passés sous silence. 

Pas étonnant que ces tests professionnels soient donc contestés. Leur caractère discriminatoire en termes de genre, de niveau social, d’origine… se dévoile à mesure que ces profilages se répandent. Les tests d’aptitudes professionnels montrent par exemple que 58% des Américains blancs les réussissent contre seulement 6% des personnes noires. Les débats pour rétablir l’équité se démultiplient alors. Faut-il différencier ces tests selon l’âge, le genre, l’origine ? Ce n’est qu’en 1991 que les Etats-Unis tranchent en prohibant les pratiques d’ajustement des scores selon l’appartenance à un groupe protégé. Mais si le débat est tranché, il n’est pas réglé. J’ai l’impression que l’enjeu de corriger les biais reste entier. Aujourd’hui encore, on ne sait pas vraiment comment les corriger. Comme si les débats, tranchés par le droit, les avait arrêtés, sans stopper les pratiques ni les problèmes afférents. 

Avec le développement du numérique, le profilage va s’amplifier. Le big data permettant de démultiplier le profilage psychologique, malgré toutes les limites de ces tests, comme nous le disaient il y a quelques années déjà le psychologue Alexandre Saint-Jevin. En fait, le profilage va également s’étendre, comme celui des chercheurs d’emploi, initié au prétexte de mieux les accompagner et qui va surtout servir à les sanctionner et faire peser sur eux des contraintes plus importantes (sans que ce contrôle ne produise aucun horizon, comme nous disions en disséquant Chômeurs, vos papiers (Raisons d’agir, 2023), qui soulignait l’inefficacité du contrôle du chômage). Il va conduire également à un recrutement de plus en plus automatisé, où les systèmes calculent (un peu n’importe comment il faut le dire) la correspondance d’un CV à une annonce. Pour Genicot, la « logique corrélationnelle » se répand et s’impose partout, jusque dans l’évaluation des employés sur leurs lieux de travail. L’appréciation des individus par des variables qui ne lui sont jamais propres se couple d’une comparaison statistique des résultats de chacun évalués par rapport à ceux d’un groupe. Le profilage tient tout entier dans ce rapport étrange de soi aux autres, où les limites des métriques utilisées sont invisibilisées par les ratios et indicateurs produits. Comme si finalement les chiffres pouvaient assurer d’une neutralité de façade, d’une neutralité dont les limites ne sont plus interrogées. Les scores de risques sont partout défaillants, il n’empêche qu’ils ne cessent d’être produits et utilisés, comme nous le pointions en lisant Jathan Sadowski.  

En observant les débats du monde assurantiel comme ceux du secteur bancaire, Nathan Genicot montre les mêmes ambiguïtés. 

Quelles discriminations acceptons-nous ?

La sélection des assurés et la tarification des primes sont depuis longtemps rattachées au calcul de probabilités. L’assurance va prendre son essor au XVIIIe siècle après l’essor de l’arithmétique politique qui invente un siècle plus tôt les premières tables de mortalité qui décrivent le nombre de décès par âge. Le risque assurantiel s’est longtemps apprécié au niveau du groupe, plus qu’au niveau individuel, là où la condition de chacun est affectée par la condition des autres. Il faudra néanmoins attendre la loi de 1898 qui impose au patron d’indemniser les salariés victimes d’accidents du travail, pour faire de l’assurance le gage de la réparation. Les assureurs se mettent à sélectionner les risques qu’ils veulent couvrir comme les assurés. Ils comprennent vite que « plus le profilage est affiné, c’est-à-dire plus il y a sélection et tarification différenciées, moins il y a de solidarité ». Une constance simple que tout le monde semble avoir oublié à l’ère du Big Data. 

A défaut de parvenir à identifier d’autres attributs pertinents, l’âge s’impose souvent comme une catégorie principale, notamment pour l’assurance vie. Genicot souligne que le débat a été constant entre individualisation et solidarité. L’assurance n’a cessé de chercher des variables pertinentes. Derrière ces débats, on en voit poindre un autre, plus philosophique s’il en était : quelles segmentations – et donc quelles discriminations – acceptons-nous en tant que société ? Et lesquelles refusons-nous ? Si tout le monde semble accepter celle de l’âge, la discrimination de genre ou sociale par exemple le sont bien moins. Et les débats sur la discrimination d’origine, aux Etats-Unis, décalque des rapports de domination de la société, sont nourris. L’intégration du comportement et du mode de vie aujourd’hui dans le calcul assurantiel reste souvent polémique, à raison, puisqu’il incrimine l’individu et masque les différences créées par les rapports sociaux. 

Comme partout ailleurs, les assureurs produisent des scores pour calculer l’assurabilité de chacun. Les assureurs ne vont cesser de développer un discours pour justifier la segmentation qui leur profite en promouvant des calculs qui seraient dénués de connotation morale, alors que nombre d’entre eux vont user et abuser de pratiques problématiques, par exemple en tenant compte de la domiciliation pour faire grimper les primes des populations racisées par rapport à celles des riches (et blanches) banlieues américaines. Pourtant souligne Genicot, malgré les critiques acerbes contre les pratiques du secteur, peu de monde interroge « la prétention à atteindre l’objectivité dans l’évaluation des risques actuariels. La pertinence du recours aux classifications ne fait, à peu de choses près, pas l’objet de débats ». Pire, comme le soulignait la sociologue Greta Krippner, l’individualisation du risque semble bien plus la conséquence de la lutte contre les pratiques discriminatoires des marchés de l’assurance plutôt que liée à l’émergence du néolibéralisme. Bon, cela ne signifie pas pour autant que l’évolution du capitalisme est absente de la segmentation assurantielle. Celle est stimulée par la liberté tarifaire, et renforcée par les progrès de l’informatique qui va permettre de démultiplier les variables et de faire disparaître les discriminations derrières la complexité des critères. 

La régulation va bien sûr s’inviter dans ces innombrables débats, par exemple en encadrant les tarifs pour prémunir l’exclusion de certains publics, ou en écartant certaines formes de segmentation les plus criantes et problématiques, comme celles sur la religion, le sexe, l’origine ethnique ou la génétique… mais sans remettre en cause nombre de pratiques problématiques. En fait, derrière les débats nourris, la société semble n’être pas parvenue à fourbir de règles claires ne permettant pas les contournements. L’interdiction de faire des distinctions de genre par exemple n’a pas conduit à limiter les possibilités de segmentations, mais à conduit à utiliser des critères plus précis, comme s’y essaie l’assurance avec la prise en compte des comportements, à l’image de la conduite automobile elle-même. Une personnalisation dans laquelle l’assurance oublie sa fonction initiale : celle de mutualiser les risques. 

Genicot rappelle pourtant que l’assurance, pour fonctionner, doit reposer sur une segmentation modérée. Même constat quant au calcul du crédit et de son risque, né lui aussi avec l’essor des techniques statistiques. Dès l’origine, portés par les grands magasins pour faciliter la consommation, ceux-ci déploient des formulaires standardisés pour classer les performances de remboursements des clients. Là encore, « l’apparente objectivité de la classification n’empêche pas la présence d’une large part d’arbitraire dans l’attribution de la note ». Si la standardisation s’impose pour réduire le pouvoir discrétionnaire des agents, la statistique va s’y imposer dès les années 50 en développant des scores pour évaluer les capacités de remboursements de chacun. Enfin, pas seulement. A mesure qu’ils se déploient, là encore, les scores se complexifient, cachant dans leurs critères leurs innombrables jugements moraux et sociaux. En 1963 par exemple, les variables d’un fournisseur de score prennent en compte toute information disponible : le taux de crédit déjà engagé et les revenus bien sûr, mais aussi le statut marital et la profession, en passant par le fait d’être syndiqué. Derrière cette complexification des scores, c’est assurément notre compréhension commune qui s’éloigne, et avec elle, notre capacité à les réguler. Les innombrables facteurs pris en compte servent à obfusquer la discrimination raciale ou de classe à l’oeuvre. On apprend à utiliser des variables très éloignées des nécessités, simplement parce qu’elles peuvent être de bons prédicateurs, comme le fait d’avoir déjà un compte bancaire, ce qui est le cas de 87% de ceux qui paient leurs échéances de crédits… au risque que ces calculs accentuent les biais inhérents. Pas étonnant que, désormais, les économistes eux-mêmes estiment que les banques ne savent plus prêter à ceux qui en ont besoin. C’est comme si, à mesure qu’ils se perpétuent, les calculs se radicalisaient d’eux-mêmes. Comme l’IA semble s’écrouler à mesure qu’elle s’entraîne sur les données qu’elle produit, les calculs de la société semblent s’effondrer sur eux-mêmes à force d’être usés. Les scores de crédits, dont le célèbre Fico Score qui naît en 1956, se développent pourtant dans un contexte de compétition forte, promettant d’élargir le crédit aux plus pauvres. Il s’impose vite comme une métrique universelle… et immuable.

L’informatisation va permettre de renchérir le score de nouvelles variables, notamment cette des cartes de paiements électroniques qui permet de rendre les notes de risques dynamiques. Genicot rappelle que les notes ont une fonction disciplinaire. Elles font penser qu’elle dépend du comportement de chacun quand elles masquent d’abord des enjeux sociaux et de classe. Pire, malgré leurs lacunes intrinsèques, elles sont désormais utilisées pour d’innombrables autres services au prétexte d’un « besoin commercial légitime » : pour louer un logement, pour assurer une voiture, pour être embauché… « Tous utilisent la note de crédit comme un proxy, un indictateur du trait de comportement qu’ils cherchent à évaluer (tel que le fait d’être un bon locataire ou un bon employé) ». Le score de crédit devient un « outil de mesure de la moralité », alors qu’il est surtout, comme le disait Frank Pasquale dans Black Box Society (Fyp, 2015) opaque, arbitraire et discriminatoire. Les scores ne servent pas tant à clarifier les choses, disait-il, mais à les rendre plus obscures. 

Or, les scores modifient le réel qu’ils entendent décrire. Et à mesure que leur usage s’étend, radicalisent leurs effets. « Une mauvaise note entraînera un taux d’intérêt plus élevé, c’est-à-dire des conditions de remboursement plus difficiles pour la personne débitrice, ce qui accroîtra sa précarité économique. Si la note est prise en compte par des bailleurs ou des employeurs, l’incidence de cet effet de boucle sera d’autant plus significative. Une personne qui, à cause d’une mauvaise note, ne trouve pas d’emploi ou ne parvient pas à se loger, aura du mal à rembourser ses crédits et verra sa note diminuer encore davantage ». C’est en cela que les calculs se radicalisent, qu’ils renforcent le « lumpenscoretariat » qu’évoquaient Marion Fourcade et Kieran Healy. 

Là encore, des régulations seront votées pour encadrer les pratiques, mais sans vraiment parvenir à agir autrement qu’en limitant les pratiques les plus discriminantes. Derrière la neutralité des scores se cache l’accélération des biais. Même un score qui ne reposerait que sur les capacités financières des individus, serait foncièrement problématique puisque les capacités à rembourser sont loin d’être équitablement distribuées. Si l’enjeu est bien de prêter de l’argent aux gens, le score, par nature, vise bien plus à limiter le prêt qu’autre chose. Pas étonnant qu’on se retrouve donc avec des organismes bancaires incapables de faire leur métier : prêter de l’argent à ceux qui en ont besoin ! L’information sur les décisions de crédits prises par les organismes, sur leur distribution, la mesure de leur équité… elle est bien souvent inaccessible. Les critères des scoring ou l’étendu des situations où ils sont utilisés également. Les innombrables données peuvent être désormais utilisées comme des prédicteurs de votre capacité de remboursement, également. Partout, l’opacité du scoring est la règle. Quand on voit par exemple le nombre de gens débancarisés, on se dit que les scores de crédit semblent surtout avoir appris, eux, à masquer leurs lacunes. 

Le risque d’un droit… sur mesure

L’essai de Nathan Genicot est bien plus sage que ma lecture énervée. Il souligne néanmoins combien les modèles statistiques et algorithmiques s’imposent dans tous ces secteurs « pour optimiser la prise de décision en se substituant au jugement humain ». Ils imposent l’idée que l’individu est seul responsable de ses notes, faisant fi du contexte social. Mais plus encore, il estime que le risque de ces calculs, de ces profilages, consiste à produire des règles de plus en plus individualisées, au risque d’altérer notre conception du droit lui-même, pour remplacer la règle qui s’applique à tous, par un droit sur mesure, calculé selon le profil de chacun. 

Dans la dernière partie du livre, il revient sur la critique d’une conception mécanique du droit : les peines similaires, impersonnelles, uniformes, à tous ont longtemps été considérées comme un idéal d’objectivité et de justice. L’impersonnalité des processus décisionnels étant vu comme un rempart contre l’arbitraire et un gage de prévisibilité. Mais là encore, au début du XXe siècle, cette conception est critiquée au prétexte que les conditions et le contexte sont toujours significatifs. A l’égalité succède le principe d’équité, et avec lui, l’idée d’une individualisation des peines pour que le droit soit le même pour tous, à l’image de la critique de la TVA ou des contraventions et amendes, qui s’appliquent à tous au même taux, même à Bernard Arnault, alors que leur impact ne sont pas les mêmes selon les revenus des justiciables. Bon, il existe bien sûr des moyens d’y remédier, en fixant par exemples des critères ou des seuils. Car, comme le souligne très justement le philosophe, le problème de l’individualisation est qu’elle n’a pas de limite. On peut personnaliser selon d’innombrables variables, comme nous le montre le marketing numérique. 

Dans les revues académiques du droit, actuellement, le débat est visiblement vif sur ces questions. La rêve d’automatisation invite certains à imaginer d’adapter la loi aux situations au grès des circonstances, à ajuster et calibrer les standards. Mais comment trouver le bon niveau pour traiter à la fois « les mêmes situations de la même manière » et « traiter différemment des situations différentes » ? « Un consommateur impulsif qui réalise régulièrement des achats en ligne pourrait par exemple se voir imposer des conditions plus strictes avant de pouvoir renvoyer un produit et se faire rembourser qu’un consommateur qui aurait, au contraire, un tempérament responsable et prudent ». Certes, mais sur quelles données, quelles inférences serait produit ce jugement comportemental ? Et serait-il lui-même juste, opposable, redevable ? On a un peu l’impression que ces perspectives oublient toutes les limites pointées par les débats passés que l’auteur a mis en avant dans sa généalogie. 

Pour Genicot, « la substitution des systèmes normatifs classiques par des dispositifs de profilage est déjà à l’œuvre », notamment dans les rapports de l’Etat à ses administrés. C’était le cas notamment, dans les années 70 avec le système GAMIN, un des premiers dispositif public de profilage pour conditionner le versement d’allocation familiales. C’est également le cas avec le profilage des bénéficiaires de la CAF et nombre d’autres outils de gestion du social que nous évoquons souvent sur danslesalgorithmes.net. Du profilage des chômeurs aux contrôles des frontières, l’individualisation et le profilage sont partout, mais ils produisent assez peu d’équité et encore moins d’égalité, au contraire. Le profilage produit surtout des conditions plus dures pour les plus vulnérables. L’optimisation prédictive partout où elle se déploie fonctionne mal, cela n’empêche hélas pas le développement d’innombrables formes de notations sociales. 

Pour Genicot, l’interdiction des notations sociales dans ce contexte par l’IA Act est le bienvenue, mais c’est oublier que le texte les rend licite plus qu’elle ne les interdit. Le RIA ne propose que de les encadrer, que de veiller à ce que les notes ne soient ni disproportionnées ni dissociées du contexte de leur production. Le fait que certains soient à haut risque ne fait peser sur eux qu’une surveillance accrue. Il ne vise pas à rendre les notes plus justes qu’elles ne sont. Ils ne nous invitent finalement pas à questionner la société. Il ne nous invite pas à changer la manière dont on calcule, ni ne nous aide à nous défier de l’enkystement des calculs. Il ne nous invite pas à changer la société, alors que demain, pour changer la société, il faudra assurément changer la manière dont elle est calculée. La personnalisation du droit, le profilage administratif, nous invite seulement à continuer la société telle qu’elle est. « Le profilage est profondément conservateur », rappelle le philosophe. « Le profilage conduit donc à créer des traitements différenciés dont il prétend cependant qu’ils sont conformes à l’égalité », sans offrir à la société les moyens de le vérifier. Ce n’est là que la parole des profileurs. Les innombrables enquêtes sur le sujet, notamment sur le profilage social, depuis les travaux pionniers de Virginia Eubanks, montrent toutes l’exact inverse. Aucun n’est conforme à l’égalité. En reposant sur l’individualisation et la responsabilisation de chacun, il est « l’exact inverse de la solidarité ». Le profilage « conduit à l’oblitération des relations et, plus largement du social. Le rapport de l’individu aux autres n’est jamais compris comme celui d’une interdépendance, mais uniquement comme une comparaison à une classe, à une collection d’individus ». « Les notes obscurcissent la dimension structurelle des inégalités sociales ». Et en s’imposant, elles nous empêchent finalement de les remettre en question. 

Au final, l’enquête historique de Nathan Genicot nous rappelle que pour changer la société, il va falloir changer la manière dont elle calcule. 

Hubert Guillaud

We start this week with Jason’s story about the ChatGPT flyer pandemic. They’re everywhere! Thank you to the readers and listeners who sent in their own examples. After the break, Sam tells us how Waymo snitched on kids and drove them to a group of waiting cops. In the subscribers-only section, Joseph explains why he bought a $3,000 suit that electrocutes your muscles. Yep.

Listen to the weekly podcast on Apple Podcasts, Spotify, or YouTube. Become a paid subscriber for access to this episode's bonus content and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only unlisted YouTube link for the extended video version too. It will also be in the show notes in your podcast player.

• ⁠We Are Living in a ‘ChatGPT Flyer Pandemic’⁠
• ⁠Cops Say Waymo Snitched on Teens for Allegedly Drinking and Shooting a Toy Gun⁠
• ⁠I Bought the $3,000 Fitness Suit That Electrocutes You. I’m Sending It Back⁠

The AI music generation tool Suno scraped millions of songs and lyrics from YouTube Music, Deezer, and Genius, as well as from the stock music libraries Pond5, Jamendo, Freesound, the International Music Score Library Project, and podcasts via RSS feeds, according to a hacker who breached the company and shared data about Suno’s training libraries with 404 Media. The hacker was also able to access user information for hundreds of thousands of Suno’s customers, as well as Stripe payment information, they said.

The hacked data is a rare look at exactly how AI models and tools are built. Suno is one of the largest AI music generation tools on the internet, and has been the subject of several major lawsuits from the record industry, which accused the company of training on millions of copyrighted songs. As part of these legal proceedings, Suno previously admitted that it was trained on “essentially all music files of reasonable quality that are accessible on the open internet,” which included a total of “tens of millions of recordings.” Suno has been making the argument that it is allowed to train on copyrighted works as fair use in those cases, one of which has been settled. 

The lawsuits have made clear that Suno did train on huge amounts of copyrighted works, but the hacked data shared with 404 Media sheds more light on how Suno scraped songs from the internet and where it took them from. The Recording Industry Association of America accused Suno of ripping songs directly from YouTube; the hacked data seen by 404 Media confirms this.

The hacked material includes source code that appears to be from 2023 and 2024 that includes scraping instructions and details about the scope of at least some of the scraping. For example, the comments in one file note that they will pull from “genius_hq, youtube_music, freesound, jamendo, imp, deezer, ytm_tagged,” and that “non-music will be filtered out.” A file called “youtube_music” notes that at the time the file was last updated, it had ingested “2,013,545 music clips.” Another file contains comments about different datasets Suno had created, which included “113,879 hours of youtube_music,” “17,615 hours of genius_hq,” “410 hours of free sound,” “19,514 hours of imslp,” “3,726 hours of jamendo,” “62,117 hours of pond5_music,” “12,287 hours of deezer,” “152,162 hours of ytm_tagged,” and “103 hours of musescore_lyrics.” In total, this is at least decades worth of music. 

La journaliste de Bloomberg, Katrina Manson, a publié en mars un livre consacré au Project Maven : A Marine Colonel, his Team, and the Dawn of AI Warfare (Norton & Company, 2026, non traduit). Maven est le nom du programme d’IA développé par l’armée américaine pour faire la guerre (l’équivalent des programmes israélien que nous avons longuement évoqué dans DLA, notamment dans L’IA, ça sert, d’abord, à faire la guerre). Le livre raconte la bataille d’un officier des Marines, Drew Cukor, pour imposer le projet et convertir l’armée américaine aux promesses de la guerre automatisée. 

On regrettera vivement que le livre soit parfois peu précis sur ce que fait et ne fait pas Maven. Si on y apprend toute son histoire, on n’apprend pas comment le système fonctionne concrètement, ce qu’il arme ni comment. Si le livre évoque longuement le travail sur certaines données, notamment les images et vidéos satellitaires et de drones, c’est au détriment de toutes les autres qui nourrissent aussi le tableau de bord pour faire la guerre, et notamment les données provenant des écoutes téléphoniques, de la surveillance et du renseignement. Son interface qui semble la plus grande réussite du programme à en croire Manson ne nous est jamais montrée. 

Il faut comprendre que l’enquête de la journaliste porte plutôt sur le développement de projet agile au sein d’une bureaucratie contrainte et retorse. Si le livre propose une solide chronologie, Manson semble parfois rater certains enjeux au profit d’une ode à la persévérance et à l’innovation, comme fascinée par ce que Cukor et son équipe sont parvenus à imposer, dans l’adversité. 

Lancé en 2017, le projet Maven est désormais pleinement opérationnel. Il est le projet fondateur du ciblage automatisé. S’il n’est que l’un des 800 projets IA de l’armée américaine utilisés sur les champs de bataille, Maven est devenu son système phare, déployé dans toutes les branches militaires américaines. Plus qu’un outil de ciblage sans précédent, Maven est une plateforme qui concentre les dispositifs de renseignement et d’opérations. 

L’obsession de l’IA

Drew Cukor était officier dans les Marines à Kandahar en Afghanistan après les attentats du 11 septembre 2001. C’est là qu’il découvre les ordinateurs sur le terrain d’opération. Autant dire que sa déception est grande. A l’époque, les listes de cibles produites par le renseignement étaient enfermées dans des fichiers Excel. Chaque service avait ses propres outils d’analyse. Mais ces outils étaient inexploitables sur le terrain. Dès sa thèse dans le corps des marines en 97, Cukor défend que l’intelligence des machines est inutile si les soldats de terrain n’y ont pas accès. Pour lui, les ordinateurs doivent aider à transformer la donnée en intelligence pour l’action. En Afghanistan, puis à Bagdad en Irak, il constate que les ordinateurs sont inutiles aux soldats. Quand il devient le responsable du département du renseignement des Marines en 2010, son objectif est de réparer le renseignement et pour lui, cela signifie y déployer la plateforme de gestion de données proposée par une startup américaine, Palantir, dont il a apprécié la démonstration en 2009. In-Q-Tel, le fond d’investissement de la CIA a investi en 2005, 2 millions de dollars dans Palantir. A l’époque, Palantir n’est qu’un démonstrateur pourtant : il affiche des données provenant de nombreux silos du renseignement et permet de voir quel analyste y accède. Il garde la trace des changements et des indications que portent sur ces informations les agents. Une forme de wiki du renseignement permettant de discuter des informations, de les valider ou de les écarter. Parmi les données disponibles, il y a des appels téléphoniques et leurs transcriptions, des rapports d’interrogatoires, des images et vidéos… Et un système de requête permettant de trouver la trace d’informations dans toutes les informations disponibles pour les recouper. Palantir n’est qu’une interface qui permet d’afficher les données et de coopérer entre analystes sur des données qui proviennent du renseignement. Un tableau de bord.  

Le rapport de la commission du 11 septembre a pointé les défaillances du renseignement et plus encore de matériel pour l’exploiter. Cukor partage le même avis. Pour Cukor, comme pour Thiel et Karp, les fondateurs de Palantir, les attentats de 2001 ont été un choc. Pour eux, le renseignement américain a échoué à empêcher le drame. Pour eux, l’IA est la réponse à apporter : elle a pour mission de transformer le renseignement et les opérations. Mais, les Marines, où Cukor travaille, est le plus petit des services de la Défense américaine et son département spécialisé dans le renseignement est encore plus insignifiant. Cukor décide néanmoins d’utiliser Palantir sur le terrain en Afghanistan, en 2011. Très rapidement, les officiers de terrain le trouvent utile. La Marine l’utilise pour déterminer des routes et des zones d’atterrissage. L’outil est pourtant très imparfait, mais il fait vite la démonstration de ses possibilités. Pour Cukor, comme il le défendra dans une note, la modernisation du renseignement militaire est clé : à l’avenir, l’analyse déterminera qui l’emportera sur le champ de bataille. Le but est d’accélérer et d’améliorer la décision avec l’aide de l’IA. A l’heure où Google fait rouler des voitures autonomes, pourtant, l’armée n’a pas ces outils dans son catalogue. Pas même de système cloud. Et ce quand bien « même si l’internet a été une création du Pentagon et qu’il dépense 38 milliards de dollars par an dans les nouvelles technologies »…. Pour Cukor, tout est à faire. Mais pour convaincre, estime le soldat, il faut des applications concrètes, qui collent au terrain, utiles sur site.

Cukor propose d’utiliser l’IA pour analyser les données des drones et améliorer l’information satellitaire. Cukor va visiter les entreprises qui produisent des voitures autonomes. En 2017, il rencontre IDenTV, une startup qui construit un modèle de vision par ordinateur pour drones, capable de repérer des objets sur une image. Le Congrès valide les fonds. Le projet Maven est lancé. Son ambition est tout de suite de faire du ciblage. Pour lui, l’IA doit aider à sélectionner et prioriser les cibles et aider à apparier la réponse appropriée. Pour lui, le département de la Défense ne devrait plus jamais acheter de systèmes d’armement sans IA intégrée. Son idée fixe est de créer une application de ciblage révolutionnaire et démontrer que l’IA peut « réduire la durée de la chaîne d’engagement entre la détection d’une cible et son traitement : repérer, localiser, neutraliser ». Pour lui, le département de la Défense doit fonctionner bien plus comme une entreprise logicielle que comme une usine d’armement pour être capable de traiter la donnée, actif capital du terrain. 

Pour cela, Cukor se dote d’une équipe dédiée bien sûr. Tous semblent des avoir des profils atypiques, si l’on en croit Katrina Manson. Cukor, plus qu’un visionnaire, est plutôt décrit comme un psychopathe par certains d’entre eux. Un bourreau de travail, obsédé par sa vision. Manson délaye les commentaires des uns sur les autres… 

Du côté de la création de Maven, elle explique que l’enjeu a été d’intégrer peu à peu des informations provenant de différents types de drones et notamment les images qu’ils produisaient, qu’il a fallu faire parler, analyser, pour que les systèmes reconnaissent des formes. Une gageure pas si simple, notamment pour les drones qui volent le plus haut, qui renvoient des images où les informations sont difficiles à identifier du fait même de l’éloignement. Certains motifs ne font parfois que quelques pixels. L’étiquetage des images pour l’entraînement des systèmes n’était pas simple, d’autant que ces images sont produites selon différents angles, altitudes… L’autre enjeu de Maven a consisté à construire l’infrastructure pour sécuriser ces données tout en donnant accès aux agents assermentés comme aux logiciels des entreprises privées. Dès le début Maven se conçoit comme un projet en partie ouvert aux industries de l’IA, notamment aux entreprises capables d’apporter les capacités de traitement et de sécurisation, celles capables d’apporter les logiciels d’analyses des flux vidéos, etc. Manson montre surtout que les capacités du renseignement américain ne reposent pas seulement sur les capacités techniques des agences, mais visent surtout à agencer des infrastructures sécurisées, capables de traiter les volumes de données et l’information, et délimiter les capacités d’action de chacun. La structuration a consisté à ce que le gouvernement s’occupe des données et loue les licences d’usages des systèmes, à charge de les intégrer sans que ceux-ci n’accèdent aux données et les intégrer aux lourds systèmes sécurisés de l’armée. Ces travaux ne se sont pas menés avec les grandes entreprises du secteur, mais plutôt avec de petits acteurs, comme Clarifai.ai ou Xnor… Peu à peu, les entreprises fourbissent des dizaines d’algorithmes d’analyses, certains pour identifier les visages, d’autres pour les images de drones ou satellitaires. Faire apprendre la reconnaissance de formes aux systèmes prend du temps. 

L’enjeu pour Cukor était d’obtenir un démonstrateur utile sur le terrain, même si imparfait. Les premières démonstrations ont lieu en Somalie, 8 mois après le lancement de Maven. La démonstration n’est pourtant pas totalement concluante. L’écran se peuple d’indications de détection et toutes ne sont pas exactes (la moitié sont mêmes complètement fausses). La détection est lente. Mais l’IA montre qu’elle est capable de compter des humains sur un marché, de suivre des convois de véhicules en mouvement, de suivre des individus ciblés. Et puis, elle pointe des individus cachés dans des buissons qu’aucun humain n’avait détectés. L’IA venait de faire la démonstration de son utilité. Malgré ses défauts, l’exemple était saisissant. 

Cukor va tenter de rallier nombre d’acteurs à ses projets. Notamment Google et sa filiale, DeepMind, forte de son succès au jeu de Go, alors que son patron, Demis Hassabis a signé une lettre ouverte en 2015 contre les périls à utiliser l’IA pour la guerre. Les approches de Cukor pour inviter à rallier son projet sont difficiles. Partout, des déclarations s’en prennent au déploiement de l’IA, à l’image des plus actifs et radicaux, les acteurs de Stop Killer Robots, lancé dès 2012. Alors que les dépenses militaires soutiennent des entreprises de la Silicon Valley depuis longtemps, les révélations d’Edward Snowden en 2013 ont refroidi l’ambiance. Une entité de Google finira par signer un contrat avec Maven, pour le stockage d’infrastructure, pour aider l’armée à construire son propre cloud. En mars 2018, ce contrat entre Google et Maven est rendu public, déclenchant une vaste contestation dans l’entreprise… jusqu’à ce que Google annonce son retrait du projet (ou son implication semblait surtout anecdotique, mais symbolique). Microsoft prendra sa place. Puis bien d’autres. En février 2025, Google remisera ses principes. Peu à peu, les entreprises vont se joindre au projet, au prétexte de prêter leur concours à la sécurité nationale. En 2025, Hassabis lui-même affirmera que « les valeurs démocratiques de l’occident sont menacées ». La plupart de ceux qui ont dénoncé les dangers de l’IA se sont rangés pour se mettre au service du marché des armées. Après le retrait de Google d’ailleurs, le projet Maven est renforcé : le programme obtient « l’exemption de sécurité nationale », lui permettant de ne pas répondre de ses actions. Son budget passe de 16 millions de dollars en 2018 à 93 en 2019. Sous la gouvernance de Cukor, le programme Maven aura englouti 1 milliards de dollars.

Un long processus d’amélioration

Maven de son côté étend son projet à d’autres enjeux que l’analyse des images de drones, pour y intégrer des contenus de caméras de sécurité et surtout, des analyses de textes, de contenus audios provenant de l’écoute des communications, de fichiers provenant de documents capturés à l’ennemi. La labellisation permet aux algorithmes de progresser et d’identifier de plus en plus correctement de plus en plus d’objets. Ses équipes se déplacent d’un terrain d’opération l’autre pour tester ses outils, notamment en Afghanistan, où l’équipe se rend compte qu’il faut améliorer les modèles car les données d’entraînement utilisées en Somalie ne fonctionnent pas aussi bien ailleurs. Pour l’instant Maven ne fait que de la détection, mais pour Cukor, l’enjeu est déjà de passer à la phase suivante : cibler. Quand les algorithmes de détection s’améliorent en Afghanistan, ils s’effondrent aux Philippines : les véhicules à détecter ne sont pas les mêmes, l’environnement non plus… À mesure que l’outil s’étend, le travail s’étend. L’enjeu à suivre des cibles est plus complexe que la simple détection… Malgré l’effort de détection, les frappes de drones sont loin d’être parfaitement sécurisées, les erreurs et les dommages collatéraux sont élevés. Mais surtout, Maven va peu à peu devenir ce pourquoi il est peut-être vraiment créé : pas seulement optimiser l’information, mais peut-être plus encore optimiser les ressources militaires, c’est-à-dire concentrer la puissance de feu pour qu’elle ait plus d’effets. L’IA pour faire la guerre est aussi, si ce n’est d’abord, un outil pour optimiser les ressources, décider de quelle arme employer… Maven semble un tableau de bord comme les autres : utilisé pour optimiser et contrôler les dépenses !

Au détour de son histoire, Mason raconte souvent l’obsession chinoise de l’armée américaine. A tous les niveaux, l’armée US semble convaincue que le prochain terrain d’opération sera une confrontation avec la Chine. Les américains sont convaincus que la Chine va reprendre Taïwan, plateforme de la construction des puces électroniques mondiales. Et l’armée américaine est convaincue que l’IA peut les aider à détecter l’offensive chinoise qu’ils attendent et contre laquelle ils se préparent. 

Manson évoque bien sûr Palantir et son PDG, Alex Karp, « le dealer d’armes IA du XXIe siècle ». En quelques années, Palantir est devenu le premier fournisseur de systèmes de Défense au monde. « La seule façon d’être en sécurité pour les Américains, est de s’assurer que ses adversaires aient peur », clame Karp. Pour lui, les activistes de la paix sont une infection. Ses systèmes savent agréger comme nul autre toutes les données, tous les détails sur une carte permettant aux systèmes d’IA et aux analystes de tout voir et de tout planifier. En s’imposant peu à peu comme l’acteur incontournable des systèmes de Défense, Palantir a décroché un accord de 10 milliards de dollars avec l’armée américaine pour les multiples licences à utiliser ses outils. Elle est devenue l’une des entreprises les plus rentables du monde. En 2018, alors que Maven se déploie timidement, Cukor veut déjà aller plus loin. Il voudrait que Maven incorpore tous les systèmes que l’armée utilise pour devenir la plateforme unique, le tableau de bord de la guerre, et notamment, incorporer les vidéos dans sa carte pour permettre aux analystes d’avoir accès à toujours plus d’informations, simplement ou leur permettre de cliquer sur une cible pour que le système la trace et la détruise. Pour cela, Cukor estime qu’il faut intégrer l’IA plus avant, dans le flux de ciblage lui-même. Le problème, c’est qu’à l’époque, l’argent de Maven est destiné à l’intelligence, pas à l’opérationnel. L’armée dispose d’innombrables options logicielles et intégrer l’IA est encore hautement controversé. En avril 2018, Cukor rencontre Palantir et déploie sa vision des systèmes de Défense pour les 10 prochaines années. Il imagine une sorte de Google Earth appliqué à la guerre. Un tableau de bord rassemblant toutes les informations, les structurant, les rendant disponibles… et les analysant. Il demande à Palantir de réimaginer l’interface utilisateur qu’ils proposent avec Gotham, l’un de ses logiciels. De faire quelque chose sur mesure. Cukor va initier des discussions avec nombre de start-ups. En octobre, l’équipe de Maven installe Palantir sur ses serveurs. La communauté militaire est rapidement convaincue de l’apport, malgré les coûts, même si l’installation de Palantir rend Maven moins essentiel. Cukor insiste pour que tout soit profondément séparé, aucune donnée n’est autorisée à passer d’un système à l’autre. Si la protection des données semble assurée, d’autres critiquent le fait que le Pentagon construise des services en couches, comme des tranches de cake superposées. Mais Palantir ajoute une couche d’analyse sur Maven : « La nouvelle plateforme de Palantir superposait de la réalité augmentée aux flux vidéo, traçant des lignes de planification de mission aux couleurs vives sur les images pour désigner les itinéraires comme étant sûrs ou dangereux. Des cercles concentriques, appelés cercles de portée, rayonnaient depuis un site d’attaque potentiel sur la carte pour indiquer la zone où des victimes pourraient subir des dommages collatéraux. Cette superposition attribuait également des numéros à des bâtiments spécifiques, facilitant grandement la communication entre des équipes disparates. » L’interface rend le tableau de bord et les cartes plus lisibles. Dans l’équipe de Maven, plusieurs pensent que l’intégration de Palantir est problématique. Cukor fait entrer nombre d’autres entreprises dans Maven, bien avant les grands acteurs de l’IA que seront OpenAI ou Anthropic, pour développer des modèles pour analyser les images et les données. 

Mason égraine les relations partenariales entre Maven et d’innombrables startups de la Valley. Leur flux, leurs reflux… Les avancées, les reculs, les hésitations.. Les luttes internes dans l’armée pour piloter les programmes d’IA, les guerres de territoires autour du partage de données qui permettent aux programmes de fonctionner. Beaucoup estiment que les protections imposées par Cukor sur les données restent son pire échec, empêchant leur partage entre différents services plutôt qu’empêchant les startups d’y accéder. La dernière partie du livre est toute entière autour de cette guerre de territoire entre différents services de l’armée. Derrière cette bataille interne, tout l’enjeu est de permettre non seulement de repérer, mais plus encore d’éliminer, de raccourcir la kill chain, comme l’ânonne chacun.

Reste que les débuts de ces intégrations n’en sont pas moins laborieux. « Les détections par IA semblaient initialement encore plus laborieuses avec le nouveau système de Palantir. Les détections apparaissaient sous forme de points si volumineux qu’ils masquaient les objets, rendant impossible la distinction entre adultes et enfants par exemple ». En octobre 2019, Maven est sur le front pour éliminer Abu Bakr al-Baghdadi…Trump est ravi de voir l’assassinat en direct, comme s’il regardait un film. 35 000 frappes contre l’Etat islamique sont déclenchées en même temps que le raid. Maven remplit son contrat. A nouveau, le système détecte des problèmes que les analystes n’avaient pas vu. « L’IA apparaît enfin capable de déchirer le brouillard de la guerre ». Même si les frappes sont loin d’être sans erreurs, comme le pointait la presse à l’époque. Entre 1437 et 8000 civiles seront tués en 5 années d’opération contre l’Etat islamique en Irak et Syrie, comme le révéleront les investigations de la NPR et du New York Times. L’armée américaine sera contrainte à mener une deuxième enquête après les contestations de la première pour éclaircir ce point, mais ses résultats ne seront jamais publiés. 

Les défaillances de l’IA sont pour l’instant passées sous silence, mais nombre de civiles sont souvent confondus avec des combattants. L’IA ne distingue pas les bons des mauvais. Ce qu’il voit devient souvent une cible puisqu’il est conçu pour en produire. Pour les défenseurs de la généralisation de l’IA, l’IA n’est pas toujours en cause, renvoyant la responsabilité aux humains. Pour les prosélytes de ces systèmes, ils permettent d’accéder à plus de données que jamais pour mieux décider. Pour les journalistes, les victimes civiles sont toujours plus nombreuses que comptées dans les rapports de l’armée. Lors de l’opération Tempête du désert en 1991, 90% des bombardements manquaient leur cible, faute de précision. Désormais les erreurs proviennent bien plus des biais des systèmes, du défaut de contexte ou de l’ignorance. Pas sûr que ce soit plus rassurant. En 2015, l’armée américaine a bombardé un hôpital en Afghanistan faisant 42 morts : la faute à de mauvaises coordonnées et à des erreurs humaines, reconnaîtra l’armée. 

Pour s’améliorer, Maven a capitalisé sur l’étiquetage des données pour mieux aider à entraîner ses systèmes et améliorer leur performance. La labellisation coûte de l’argent et prend du temps. En septembre 2020, avec l’aide de Palantir, Scale AI puis Enabled Intelligence, la labellisation devient un gros business pour ses acteurs : elle représente 708 millions de dollars de contrats pour l’armée, sans compter les 400 étiqueteurs de données, des militaires  employés directement par Maven, qui disposerait désormais de quelques 100 millions d’images étiquetées. Une arme sur une épaule ne se distingue bien souvent que sur deux ou trois pixels. Mais une fois entraînés, les systèmes se révèlent meilleurs que les humains, puisqu’ils peuvent voir ce que les analystes ne peuvent pas voir. En fusionnant les données provenant d’innombrables sources (images, signal radio et électromagnétique…), tout l’enjeu est d’améliorer la détection d’objets qui ne sont pas visibles aux humains et de les faire apparaître sur la carte. Pour l’armée, l’IA n’identifie pas toujours des objets mieux que l’humain, mais elle les identifie avant et plus vite que l’humain. 

La journaliste évoque encore la difficulté à sélectionner les armes appropriées, qui doit répondre à des contraintes nombreuses, de disponibilité, de temporalité et de communications. Ou encore, la difficulté à distinguer les combattants de ceux qui ne le sont pas. La Défense américaine se dote de documents de cadrage sur le ciblage, sans les publier. 

Maven, la puissance brute

Alors que Drew Cukor a quitté le programme en octobre 2021, en février 2022, Maven est déployé en soutien à l’Ukraine en Allemagne. Ses capacités de détection, confrontées à un nouvel environnement, nécessitent à nouveau une mise à jour pour s’améliorer. A nouveau, les algorithmes doivent s’adapter aux données et les données être labellisées pour s’adapter aux terrains et aux objets de guerre locaux. L’Ukraine n’est pas le désert. Il faut identifier les systèmes russes, comme les Tracteur-érecteur-lanceurs russes. Cela ne prendra que deux semaines seulement. Maven fait la demonstration que son système est capable de s’adapter très rapidement. 

L’armée américaine va très vite partager des informations avec l’Ukraine, mais sans leur donner accès à ses systèmes pour ne pas être accusée de participer à la guerre. Elle aide les analystes urkrainiens à regarder aux bons endroits. Depuis son QG allemand, Maven améliore son infrastructure cloud et sa connectivité pour éviter nombre de problèmes de latence. L’équipe transmet des cibles détectées à l’Ukraine, une trentaine par jour, 3 fois plus que ce qu’elle n’en voyait en Irak 5 ans plus tôt. La vitesse de la guerre a triplé en 5 ans, souligne Manson. Le nombre de détections ne va cesser de s’améliorer… Notamment en intégrant toujours de nouvelles données par exemple les interceptions de communications téléphoniques et radios russes, les explosions de missiles entendus via ces communications, les réseaux sociaux, comme les informations provenant de TikTok ou Twitter… « Les Etats-Unis deviennent les yeux de l’Ukraine ». Ils signalent également des points d’intérêts (jusqu’à 267 par jour en 2022) grâce à Maven. Mais l’enjeu n’est déjà plus l’identification de cibles, que les ressources en armes, missiles, munitions, drones… 

La guerre devient une question de puissance brute. Alors que l’armée américaine envoie des ressources sur le terrain, Maven teste et évalue plus de 1500 algorithmes pour améliorer son système. L’Ukraine va permettre à Maven de s’améliorer encore. Maven permet à l’armée ukrainienne de voir plus loin que le front. Après avoir progressé sur les cibles fixes, Maven s’améliore sur les cibles dynamiques. La communication s’améliore. Les ukrainiens sont désormais capables de détruire des cibles 18 minutes après que les Américains les leur aient communiqué. En 2024, l’Ukraine a détruit plus de 2600 tanks russes et plus de 5000 véhicules armés. Pour l’armée US, le soutien à l’Ukraine a permis d’engranger d’innombrables progrès. Le succès de Maven ne repose pas seulement sur ses algorithmes, mais bien plus sur ses données et la façon dont les flux s’interconnectent. Les systèmes sont désormais capables d’identifier un objet dès qu’une seule image se présente. Ils font encore des erreurs, peuvent ne pas tout voir, mais savent désormais repérer des objets, même avec peu de données d’entraînements. En 2024, l’armée américaine ne fait plus passer qu’une douzaine de points d’intérêts par jour à l’armée ukrainienne. Mais c’est d’abord parce que celle-ci a également énormément progressé et a bien moins besoin de l’aide américaine. Les taux d’erreurs se réduisent selon les chiffres de l’armée. La précision s’améliore. L’armée russe a utilisé des faux marqueurs sur le terrain, pour tromper les modèles de détection satellitaires, mais Maven a vite appris à les distinguer. Les données sont devenues le nerf de la guerre. Leur intégration de plus en plus rapide fait la différence. Maven est un système adaptable, qui se met à jour rapidement, comme un logiciel, explique Manson. « Il peut produire ce dont le commandement a besoin ». Sous le commandement de Whitworth, Maven est devenu un projet public, qui a quitté le secret. Le tir est désormais prêt à être entièrement automatisé. Au printemps 2025, le contrat du Pentagon pour Maven Smart System est passé à 1,3 milliards de dollars. Celui de Palantir à 480 millions de dollars. 

Les machines combattent les machines. La NSA écoute le monde entier. Et désormais, la NGA le regarde. Elle observe le globe en permanence. « En 2024, le commandement alimentait le système intelligent Maven avec 179 flux de données en temps réel provenant des domaines terrestre, maritime, aérien, spatial et cybernétique. » Désormais, les opérateurs qui utilisent Maven approuve ou désapprouvent le ciblage depuis le tableau de bord de ciblage fourni par Palantir, déterminent les priorités, hiérarchisent les ciblages, et envoient directement des messages aux systèmes de tirs. La kill chain est effectivement devenue bien courte. « Une cible peut désormais passer de détectée à engagée en quelques minutes, contre plusieurs heures auparavant ». Maven sait désormais détecter et tracer les missiles ennemis en temps réel et travaille à prévoir là où ils vont frapper. 32 entreprises différentes travaillent sur le programme Maven, 25 000 personnes l’utilisent. Il a accumulé plus d’un milliard de détection d’objets. Depuis 2024, Northcom et le Norad l’utilisent. 

L’adoption de Maven est totale. Il est utilisé pour faire de la détection de franchissement de frontières aux Etats-Unis ou pour surveiller le trafic de drogue dans les Caraïbes. La garde nationale l’utilise pour surveiller les départs de feux. Les promoteurs de Maven comme ceux de Palantir estiment que Maven n’est pas un système d’armement, que valider une cible ne déclenche pas le largage d’une munition sur celle-ci. Mais cette défense semble de plus en plus une parade argumentative. Le système apparie les munitions aux cibles et propose une priorisation des cibles que les analystes peuvent certes aménager… 

Pour certains militaires, Maven nécessiterait une doctrine d’usage. Ce que montre Katrina Mason dans ses conclusions, c’est que pour l’instant, la seule doctrine consiste à l’utiliser. « L’IA dotée d’une capacité d’action autonome va non seulement complexifier le projet Maven et l’usage général de l’IA dans la guerre, mais aussi la rendre plus opaque pour l’utilisateur. Elle va également accélérer le rythme des conflits et en amplifier l’ampleur ; par ailleurs – et en dépit des arguments vantant le potentiel de désescalade de l’IA – elle risque de rendre la guerre plus probable. »

L’ajout de LLM dans Maven, via Palantir et d’autres entreprises, comme OpenAI ou Anthropic, a pris du temps. Les premières tentatives ont été déceptives. Elles semblent surtout utilisée pour développer des prototypes de campagne et pour planifier des décisions militaires. Mais leur usage est pour l’instant observé avec défiance, estime Mason, notamment par crainte qu’ils empoisonnent les systèmes. Cela n’empêche pas leur intégration de s’étendre, même si on connaît fort mal la manière dont l’IA générative est utilisée. 

L’obsession de l’autonomie, la réalité de l’escalade

Katrina Mason termine son livre en revenant sur les propos d’Antonio Guterres, le secrétaire général des Nations Unies, qui souhaite interdire le recours aux armes autonomes et qui s’inquiète du développement de l’IA dans le domaine militaire. La balance est pour l’instant difficile à faire, par manque d’information sur les systèmes et leurs conséquences. L’IA dans la guerre permet-elle de limiter les dommages collatéraux et les victimes civiles ou de les étendre ? Toutes les armées qui déploient ces systèmes assurent garder la main : qu’il y a toujours un humain pour valider les décisions de l’IA, mais on sait que cela tient d’une fable plus que d’une réalité. Le contrôle humain tient d’un slogan vague et mal conçu. Les systèmes embarquent les biais du renseignement avec eux et peuvent mal identifier les personnes depuis les lacunes des systèmes de reconnaissance. La Convention sur le contrôle des armes (CCW GGE) discute depuis 2014 du problème des armes autonomes. Pour Mary Wareham, longtemps responsable de la question de l’armement à Human Rights Watch, l’une des initiatrices de Stop Killer Robots, nous devrions pousser les Etats à signer un traité pareille à celui de la réduction des mines antipersonnelles. Mais pour Cukor, comme pour l’armée américaine, le risque vient bien plus du risque de développement d’armes autonomes par ses ennemis. L’armée est plus inquiète de sa capacité à neutraliser une attaque que de réguler les siennes. Pour l’administration Trump, l’IA est une contribution essentielle et positive à la guerre en tout point, comme si les critiques n’avaient aucune voix au chapitre. Si la Chine semble plus modérée sur le développement d’armes autonomes, c’est certainement pour ralentir l’avancée américaine, explique Katrina Manson, qui semble avoir été contaminée par la perspective de guerre avec la Chine. Mais plus encore que l’autonomie, le déploiement de l’IA dans les conflits risque de conduire à l’escalade, comme l’expliquait un groupe d’experts de l’ONU. 

Pourtant, au terme du livre de Manson, on ne sait toujours pas très bien comment les résultats sont générés. Pour cela, nous ne disposons que d’une poignée d’images très rarement distillées, comme dans cette vidéo récente, relayée par le journaliste Dan Israel dans un article pour Mediapart soulignant l’emprise de Palantir sur l’armée américaine. 

Captures d’écrans d’images de Maven. Source. 

Ce que l’on y voit semble tenir d’une forme de jeu vidéo, un outil de simulation qui ne simule pas, où chaque paramètre semble appréciable, mais où nombre de décisions sont automatisées, proposées pour validation, choisies par le système.  

En mai 2025, le directeur de l’unité d’innovation pour la Défense américaine, Doug Beck, expliquait que l’Ukraine consommait 4000 drones par jour (autant que ce que le département de la défense achetait en un an). L’Ukraine a produit 3 millions de drones en 2025, un million de plus de ce qu’elle produisait en 2024 (voir notre article sur le sujet). Pour chaque drone commercial fabriqué aux Etats-Unis, la Chine en produit 100 de plus, rappelle Manson. Dans son budget 2026, le Pentagon prévoit de dépenser 13,4 milliards pour des systèmes autonomes, dont le Replicator, un avion de chasse sans pilote. Face à ces perspectives, les Etats-Unis souhaitent reconstruire leurs capacités industrielles militaires. Plus facile à dire qu’à faire. 

Chez JP Morgan, Drew Cukor ne s’intéresse plus à mettre de l’IA dans les armes, mais dans la finance (pas sur que ce soit plus rassurant). Les modèles d’IA vont permettre de redéfinir le fonctionnement des prêts, des hypothéques, des cartes de crédit, des placements, s’apprêtant à « turbocharger » l’économie, tout en contournant la conformité et les régulations établies, au risque là encore des biais, des erreurs et de l’injustice. 

Le débat sur la moralité de la guerre reste entier. Pas sûr que l’autonomie ne nous aide à la faire progresser, bien au contraire. Si l’armée semble prendre l’éthique au sérieux, il y a de quoi être cynique. L’IA renforce la distance des combattants à l’acte de tuer, mais risque également de les éloigner de la décision de tuer. Ce double mouvement échoue à reconnaître l’humanité de l’opposant, qui est de plus en plus mise à distance. « Les outils d’IA risque d’abord de désensibiliser les combattants et l’armée, d’actes dont nul ne sera plus responsable », s’inquiète la journaliste. L’IA devrait pouvoir minimiser les erreurs et les dommages collatéraux, mais ce qu’on en voit pour l’instant, c’est qu’elle fait surtout s’envoler le volume de dommages plutôt qu’elle ne le réduit. La technologie rejoue le paradoxe de Jevons : « les technologies qui améliorent l’efficacité et abaissent les coûts conduisent invariablement à l’augmentation de leur consommation ». Les systèmes d’IA produisent plus de cibles, plus vites et rendent plus facile leur élimination. Les cibles générées par une boîte noire rendent le commandement trop sûr de lui. Ces systèmes transforment la guerre en jeu vidéo. De partout, il simplifie la destruction. L’ennemi est désormais plus facile à tuer qu’à capturer. Ces systèmes ne font aucun prisonnier. Ils ne proposent aucune clémence. Le paradoxe de Jevons nous le dit depuis longtemps : « plus quelque chose est efficace, plus vous allez avoir tendance à l’accomplir ». Pire, termine-t-elle. Non seulement cette technologie peut faire des choses horribles, mais les garde-fous peuvent également être facilement ajustés voire enlevés, comme le montrait Lavender, l’équivalent de Maven pour l’armée israélienne, où le nombre de victimes collatérales d’un tir pouvait être abaissé ou relevé, au gré des besoins de la guerre. Pour Mark Milley, l’ex chef d’Etat major de l’armée américaine, le champ de bataille sous IA ouvre une boîte de pandore… Les atrocités ne vont pas disparaître avec l’IA, rappelle Manson. Pour un autre gradé américain, le champ de bataille prend le tournant de l’autonomie, mais ce n’est pas parce qu’on est capable de le faire que nous devrions y aller. Trump a renommé le ministère de la Défense en ministère de la Guerre. En septembre 2025, Pete Hegseth, secrétaire de la Défense américain, devant tous les généraux de l’armée US, a affirmé vouloir plus d’IA partout et plus du tout de contraintes d’engagement excessives.

40 millions de personnes sont mortes durant la Première Guerre mondiale. 85 durant la seconde. Maven est désormais partout. Dans tous les services sur tous les continents. Jusqu’aux outils des alliés de l’Amérique. L’IA est désormais au cœur de toutes les opérations militaires américaines. Les mavenites sont pour la plupart partis dans d’autres entreprises du complexe techno-militaire américain, et notamment les entreprises d’IA qui rend Maven désormais puissant : Palantir, Microsoft, Anduril, OpenAI. La Maven mafia est partout. 

Mais surtout, ces systèmes reposent d’abord sur une surveillance invisible et sans limite aucune, au prétexte d’obtenir toujours plus de données pour optimiser toujours plus ses cibles et ses frappes. Le succès de l’IA repose sur une surveillance toujours plus totale, sans limite ni garde-fous. C’est l’éléphant dans la pièce de l’autonomie. Celle d’une surveillance de tous sans limite. 

C’est à nouveau la grande limite du livre pourtant très documenté de Katrina Mason. La journaliste semble passer à côté de ce à quoi elle n’a pas eu accès, malgré la profondeur de son enquête. C’est pourtant dans ce qu’on ne voit pas dans ce livre que se cache le monstre à venir. Un monde qui rêve d’assurer sa sécurité sans plus aucune limite quand bien même pour cela il serait finalement surtout prêt à se détruire lui-même, dans un impérialisme sans limite, dans un autoritarisme sans plus aucune contrainte. 

Hubert Guillaud

If you listen to the 404 Media podcast by now you probably realized that Joe and I are a little obsessed with a game called Marathon. I’m embarrassed to say that I’ve played it for almost 300 hours since it was released in March.

But as much as we’re enjoying it, and there are thousands of players who feel the same, Marathon so far has failed to find the audience we’d expect from the developer that made Halo, Destiny, and which a few years ago acquired by PlayStation for more than $3 billion. It’s bad news for Marathon fans and a good sign for how much the video game business has changed over the years.  

I wanted to have Remap Radio host Robert Zacny on the podcast because much like me and Joe, he’s been obsessed with Marathon as well. One of Rob’s greatest skills is dissecting how and why games get their hooks into us, and what a game’s popularity, or lack thereof in Marathon’s case, might reveal about the state of the industry and culture more broadly. 

404 Media is a journalist-founded company and needs your support. To subscribe, go to 404media.co. As well as bonus content every single week, subscribers get access to additional episodes where we respond to their best comments. Subscribers also get early access to our interview series. Gain access to that content at 404media.co.

Listen to the weekly podcast on Apple Podcasts, Spotify, or YouTube. 

Become a paid subscriber for early access to these interview episodes and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only unlisted YouTube link for the extended video version too. It will also be in the show notes in your podcast player.

Freya Holmér's had this idea in her head for a long time—Tetris, but the whole board rotates. The game developer and Unity tool maker started making the idea real and built out a prototype. Holmér posted a 50-second clip of it to social media in mid-March and asked: "Is this anything?" It was, according to the people who responded. The posts got hundreds of replies from people desperate for a playable version. 

"You can watch [the gameplay] happen and you understand the full extent of it, while still seeing the complexity and interesting parts of it," Holmér told 404 Media. "Most people know about Tetris, so you can shortcut all those concepts—it's a visually compelling concept—and you get the idea very quickly."

It was a promising response for a commercial game developer that quickly turned unsettling. Within days, someone responded to her post with a vibecoded version of Holmér's prototype: "This can be built into a game by tomorrow." Another popped up in mobile app stores. Holmér said she saw up to four vibecoded versions of her prototype. Generative AI has made the work of plagiarizing an idea a lot simpler. A person vibecoding a game doesn't need any programming or design experience. They  input ideas and instructions into a generative AI application and it writes the code and builds out the user interface. The vibecoder can tweak the game in conversation with the generative AI program until it suits their needs. As you might expect, the process doesn't necessarily produce elegant results. 

The two vibecoded versions of Holmér's game, for instance, lack the finesse of her carefully crafted animations. There's a story behind every decision she made. That may not be true for the vibecoded versions of the game. Charlie Greenman, who told 404 Media he saw Holmer's idea on social media and wanted to do a spin on her prototype, said it took him several prompts and roughly a day to make his version, Rotris. Greenman said he doesn't think there are any ethical concerns with what he did. "I really can care less about the game," he said. "No one was interested." 

"I feel like I had this brand new creation," Greenman said. "When it gets to that point, is one song copying another? Is one game copying another? Whoever created Blox, Jenga, is that a copy of Tetris?"

404 Media reached out to the developer of another copycat, Blockfall, which also popped up within days of Holmér's post, but did not receive a response.

"It disincentives me from [posting about my work,]" Holmér said. "You get this anxiety anytime you post anything, someone is going to come in to finish it for you and then monetize it and steal the whole concept. It used to be the case that this stuff took a look of effort [to steal], because it requires skill and skillful execution and effort and knowledge. But now with AI, there's a general devaluing of skill and knowledge."

Papers, Please developer Lucas Pope expressed a similar sentiment on the Mike & Rami Are Still Here podcast in April—that he doesn’t feel comfortable sharing much about what he’s working on publicly, lest it gets “slurped by AI” and copied by someone else.

There's always been some risk of sharing ideas and concepts too early on social media; grifters looking to swipe ideas have always been around. Holmér's experience with generative AI clones of her game idea is just exacerbating a dupe industry that's pervasive on digital video game marketplaces. As video game companies both big and small compete for attention in a culture that's kept the same five games, like Fortnite and Grand Theft Auto 5, on the most-played lists for years, some companies are forgoing original ideas entirely, opting instead to co-opt anything popular or trending to make a quick buck. These sorts of schemes are prolific on the App Store and Google Play Stores, but are behind much of the slop on console digital stores, too.

It's big business. Several companies have had huge success flooding the market with knockoffs designed to confuse players looking for games to play. One strategy for these clone developers is taking a popular console or PC game and publishing a clone on mobile app stores—often before a developer has been able to make a port themselves. It's been massively successful for studios like Voodoo, a French mobile game maker that's been accused several times of making copycat games. 404 Media reached out to Voodoo for comment, but did not hear back. In 2018, Voodoo received a reported $200 million from Goldman Sachs, and in 2020, Tencent became a minority stakeholder valuing the company at a whopping $1.4 billion. Voodoo both makes and publishes mobile games, often low effort free-to-play games that generate money through ads.

"The incentives and the infrastructure is built to encourage this kind of overproduction"

In 2018, game developer Ben Esposito accused the company of copying Donut County, which was unreleased at the time. Voodoo's version, Hole.io, reached the top of app store charts. It remains one of Voodoo's most popular games. Several other indie games have seemingly been cloned by Voodoo, too. Ironically, Voodoo doesn't want other game developers aping their clone games; it sued another mobile giant, Rollic Games, in a French court and won. The court found that Rollic Games' Wood Shop, in which players carve a spinning block of wood, copied Voodoo's Woodturning. The important piece of this story is, however, that Rollic Games was released before Voodoo's. Its copying accusations were related to an update Wood Shop made to their game.

Copycat and clone games have proliferated since, and generative AI is only making the problem worse.

"We shouldn't be surprised that people are using AI to do this kind of thing, because the incentives and the infrastructure is built to encourage this kind of overproduction," University of Wisconsin-Madison professor of media and cultural studies Jeremy Morris told 404 Media. "This is a problem that's existed for as long as these platforms existed, so I don't think AI creates something new here. It just amplifies the amount that people can do."

Moldova-based Midnight Works is one company flooding console and mobile digital storefronts with clone games that players quickly deem scams. Founded by Cătălin Țiței and Roman Gaina in 2015, according to an archived version of the Midnight Works website, Midnight Works created apps before entering the games market in 2017. Since then, Midnight Works has grown to employ 300 people, per an archived version of its website. (The website now only hosts a landing page with almost no information.) . "Midnight.Works is a visionary game development and publishing company that thrives on nurturing creativity and innovation within the gaming industry," the company said, according to an archived version of the website. "Our diverse and passionate team is dedicated to collaborating with both burgeoning and accomplished game creators to bring unique, engaging gaming experiences to players across the globe."

Midnight Works claimed that 80 percent of the games it publishes pass $1 million in revenue, while 15 percent make over $100,000. The remaining five percent, it said, "don't achieve significant milestones." 

A Moldovan game developer close to the company, told 404 Media that Midnight Works is "one of the largest" game developers in Moldova. Its big success was acquiring Hashiriya Drifter, a popular mobile racing game, from an external game developer. "[It] became their flagship project and, from what I know, the main financial foundation that allowed the company to grow," the developer said. 404 Media granted this developer anonymity so they could speak freely about Midnight Works.

"I found out my game was suddenly being sold by someone else."

Luke Wild, a YouTube creator who investigated Midnight Works in a series on his channel, told 404 Media that he believes the company is a "massive global scam." Wild started looking into the company while playing through slop games on the Nintendo Switch eShop on YouTube. (Midnight Works retaliated against him, Wild said, by demanding employees to report his videos," he claimed.) He noticed that a lot of the games he was playing were coming from a small pool of developers that all seemed to stem from Midnight Works. He spent years documenting the connections between the slop factories. Each of these studios uploaded the same games, maybe with slightly different titles. If a game got removed from a digital storefront, it'd get uploaded later under a different developer or publisher. Most of the games, Wild said, are simulator games—because they're easy to create a template for—that copy whatever the algorithm is favoring. When TCG Card Shop Simulator, from OPNeon Games, was released into early access in 2024, for instance, Midnight Works released its own, Card Shop Game Store Simulator, months later. (The Nintendo Switch store page for this game is listed as being made/published by VRCForge Studios, but a game with the same name and key art is listed as being published by The Midnight—with Midnight Works email addresses—on the Microsoft Store.)

"Midnight doesn't have the best reputation, and unfortunately that already affects how people perceive other studios from our country as well," the Moldovan game developer close to the company said.

Midnight Works has not responded to multiple requests for comment.

Sometimes, Midnight Works' and studios in what Wild calls Midnight Works' "Web of Deceit" directly copy games, down to the source code and assets. One developer, who goes by the name Steelkrill Studio online, told 404 Media that his found footage horror game The Backrooms 1998 was stolen almost in its entirety. "I never imagined something like that would happen," Steelkrill Studio said. "The wildest part is that I only discovered it because someone commented on one of my videos accusing me of re-releasing the same game myself, which is how I found out my game was suddenly being sold by someone else."

The Backrooms 1998 is a found footage horror game published in 2025. It’s played through the lens of a camcorder’s viewfinder. One of the unique pieces of the game is the implementation of the player’s actual microphone—the monsters can hear breathing and other sounds. It’s Steelkrill Studio’s own take on the backrooms genre, which was born of creepy storytelling on forums like Reddit, like Kane Parsons’ 2026 film Backrooms. There are a lot of other backrooms-inspired games, the most popular of which is Escape the Backrooms.

Steelskrill Studio thinks Midnight Works used a decompiler to take the source code. Looking through the files, he found that most everything matched his game. "It even had my personal videos when I was younger and family VHS tapes that I had included in my game [that] were still present in their stolen version," he said.

The stolen version of The Backrooms 1998 was taken off the console storefronts, and that publisher, Cool Devs, has seemingly been banned. 404 Media has reached out to Nintendo, Sony, and Microsoft to confirm the reason for the removal and subsequent bans, but didn’t hear back. But its games now appear on the Nintendo Switch eShop and other storefronts once again, sometimes under different publisher names. The Bad Parents, an egregious copy of Bad Parenting, published originally by Cool Devs is now listed on the Nintendo store by TrueMotion Interactive—a studio that's published and is still selling near exact copies of Peak, Supermarket Simulator, and Bodycam. 

A former Midnight Works employee, who asked for anonymity, told 404 Media that the studios' "long-established" scheme was to recreate a trending game and make a "stripped down clone" in a few months—just give it a similar name and style, sometimes using assets ripped from the original games. "All of this was done in the hope of confusing buyers so that they would purchase our awful knockoff instead of the original," the former employee said. The former employee said that generative AI was used "at every step" to speed up development: "Literally from banners and screenshots to UI and 3D models," they said.

Once a game is ready to be published on digital storefronts like the Nintendo eShop or PlayStation Store, the company blasts its game name and page with keywords in an attempt to beat the algorithm. "A lot of the optimization for game developers was similar to the way it was for early stages of music and podcasts, which is keyword stuffing," Morris said of general clone game tactics. "It's the basic kind of search engine optimization, at the discovery level." Another strategy, Morris said, is constant updates. It's one of those things that Morris called "algorithmic imaginaries," or myths about how these platform algorithms work. "One of the big ones is that the more frequently you update your app, the more often it would look like it was new and would get recommended more," he said. "One example I point to is the Bible app, and there's a Bible app that's updated every 12 days. I thought it was funny because it's a text that obviously is not changing."

Game sellers and app stores are incentivized to have a lot of content to sell; they get a cut of everything purchased there. Many have policies about copies and clones, but complicating that is determining what is a copy or clone. In the case of The Backrooms 1998, it's seemingly an easy decision to take the game off the store for violating copycat policies. Attorney Michael Wang, who researched Chinese copycat games, told 404 Media that developers and publishers can't copyright or patent ideas. If exact technology and assets are stolen, that's fairly cut and dry. But ideas that are similar—even really similar—are often fair game.

Where does inspiration stop and copying begin? Without PUBG Battlegrounds, there would be no Fortnite. And without the classic Japanese film Battle Royale, there would be no PUBG Battlegrounds. It's a question that's come up a lot in games. In 2014, a firestorm of controversy: Italian game developer Gabriele Cirulli was accused of copying indie game Threes! with his own game, 2048. Threes!, by game makers Asher Vollmer, Jimmy Hinson, and Greg Wohlwend, was released in 2014 and had success on the App Store. Then the clones came. One of those was 1024, which was also released on the App Store shortly after Threes! Cirulli's 2048, which he said was inspired by 1024, became the biggest of them all.

Cirulli, 19-years-old at the time, told 404 Media he saw a game called 2048 on a forum he posted to, based on another game called 1024. "I had no commercial intentions so I just started coding up my own version of the game," Cirulli said. He wanted to challenge himself to create an algorithm for a game like this. He struggled with it and almost gave up. He posted a finished version of the game, playable in a browser, to the forum. Someone saw it there and posted it to Hacker News, where it blew up. Thousands and thousands of people started playing it. Within days, a company called Ketchapp created a mobile version of 2048, called it 2048, and published it on the App Store. (That's the version that's generated millions of dollars in revenue per month, per reports. Ketchapp, like Voodoo, has been accused of egregiously copying other games. Ubisoft acquired the company in 2016. Cirulli said the only gripe he has with Ketchapp is that its version of 2048 has bugs that let you cheat. He's since released a commercial version of the game that's never quite reached Ketchapp's level of success.)

Then the accusations started. "I didn't publish 2048 with the intention of going virtual, nor did I expect that I would," Cirulli said. "At the time, I felt much more insecure with my place in the world and about myself as a professional. It was very difficult to deal with, and it affected me pretty deeply, even from an emotional perspective. It challenged my perspective of myself, meaning I was asking myself, Am I the bad guy in this scenario? Am I doing something unethical or bad?"

He's no longer interested in litigating the ethics of it all. But he would do something differently: "I think the only thing I would change is my mental health aspects, relating to the amount of stress it cost me," Cirulli said. "I think that was entirely optional."

He continued: "I still have that strong drive to build things that will affect people's lives in some small way, so that hasn't gone away. It gave me a lot of perspective and I feel very privileged to have had that opportunity."

Like Cirulli, software engineer Vittorio Romeo was inspired by a game he loved, Super Hexagon, to create his own version. He played Super Hexagon on his phone, "even during lessons at school," he said. Super Hexagon didn't have a PC version. So he tried to make one using the programming language he was learning, C++. "I did manage to replicate the game mechanics quite quickly and have a working version, obviously not as polished or well-crafted as the original, and it was doing the job," he told 404 Media. The mistake, he said, was releasing his free, open-source version of the game on PC before Super Hexagon developer Terry Cavanagh did.

"I never really wanted to compete with the original," he said. "I wanted it to be, like, we're fans of the original. We love the mechanics. We have played the original a lot, and we want more. I wanted to build a platform where people can iterate over the ideas the original had and build on top of it."

But unlike Cirulli's situation, Super Hexagon creator Cavanagh said he was "basically alright with [Open Hexagon,]" though a little upset it was released before Super Hexagon came to PC. As an open source game, Romeo didn't make money from Open Hexagon at the start, but he put it on Valve's Steam platform in 2021. It costs $4.99 to purchase, so Romeo does make a little bit of money from it. But more importantly, he said, is that the Steam Workshop lets players more easily create new levels. "That's been going on and people are still adding levels to this day," Romeo said. "There's a small community that is still developing content."

It's absolutely a different sort of clone than the likes of Midnight Works, which seems to be motivated not by admiration or learning but by profit. The end products, too, are certainly more high quality than the big budget slop machines that churn out more and more low quality clones.

At the platform level, companies like Nintendo are seemingly making changes to its digital store not necessary to moderate what shows up on the store, but to push down the slop games to the margins. Nintendo now forces the Best Sellers section to rank games by revenue and not total downloads. Ranking by downloads was a problem because these low effort games are often extremely cheap. People are willing to give something a try for $2 or less, so they sell a lot. Still, the cat-and-mouse game is on across every platform that sells games.

Holmér, whose Tetris-like is also an iteration, is still working on the game. She's got a lot of design decisions to make. What's the scoring system? Is there a failstate? Does she make it feel more like a toy? How do blocks clear? Does she share more about its development online?

"Most things right now have a pretty short life cycle when it comes to attention online," Holmér said. "The attention on that video I posted has tapered off to the point where I feel a lot more calm. In the very beginning, that first week, just every day there was a new AI clone. I was like, OK, well fuck me, I guess. But there's way less engagement, and I feel more in the clear to take my time to actually make something right, something good I can be proud of, and not just get it out there as soon as possible."

Is your sex life as private and personal as you think it is? Or is it shaped by – and constantly shaping, in turn – the society and systems you exist in? 

This week we’re joined by Dr. Angela Jones, who asks these questions and much more in their new book, Sex in Public. Angela is a professor of Women, Gender, and Sexuality Studies at Stony Brook University. In addition to scholarly works published in many distinguished journals including Porn Studies and The Black Scholar, they’re the author, co-author and/or editor of several books, including Black Lives Matter: A Reference Handbook and Camming: Money, Power, and Pleasure in the Sex Industry which came out in 2020 and advanced and informed a lot of my own understanding of the online adult industry especially.

Their latest book, Sex in Public: The Transformative Social Power of Our Erotic Lives, just launched. As Angela writes: “Revolutionizing how we talk about sex means thinking not just about what a single solitary person should or shouldn't do in bed.” 

We get into the history of sexology, how sex toys complicate our understanding of what counts as sex, whether sex needs a definition at all, what happened when they bought and used a sex doll, and why the most vulnerable moments in their book are also the ones everyone wants to discuss. 

Listen to the weekly podcast on Apple Podcasts, Spotify, or YouTube.

Become a paid subscriber for early access to these interview episodes and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only unlisted YouTube link for the extended video version too. It will also be in the show notes in your podcast player.

Sex in Public: The Transformative Social Power of Our Erotic Lives

Cash/Consent by Lorelei Lee

The Los Angeles Police Department (LAPD) announced it will let its surveillance contract with automated license plate reader company (ALPR) Flock expire, becoming the largest police department in the country to drop its contract. Notably, the decision came after an audit of ALPR technology found that, in a two-month period, the LAPD had improperly "investigated" 161 people whose cars were flagged as stolen in the LAPD’s ALPR system but were not actually stolen. 

The news that LAPD pulled over 161 innocent people in two months because of improper tagging in the department’s system comes after several high-profile incidents in which people in other states were accosted by police because of data entry or clerical errors in ALPR systems. Joel Feder, an editor of the car journalism website The Drive, detailed a harrowing tale in which he was tracked for days and ultimately pulled over by police in Minnesota because the license plate of the car he was reviewing for the website had been entered into the Flock system as stolen by a police department in California. Monday, the website MotorBiscuit wrote about an innocent woman who was jailed for 13 days because she drove a black Dodge Durango and police searched the Flock system for a Black Dodge Durango suspected of being involved in a fatal hit-and-run accident. 

A new report by the LAPD Office of the Inspector General (OIG) suggests that instances of people being falsely pulled over because their license plates have shown up on an ALPR “hot list” are very common, and that the surveillance of people on hot lists that ultimately result in no action from police is staggering. Many ALPR systems have this “hot list” feature, which is where police enter a license plate and get a ping or notification about the vehicle’s whereabouts whenever it passes a connected ALPR camera. In a two-month period between August 1 and September 30, 2025, the LAPD’s cameras generated more than 210.5 million license plate reads, according to the report.

“During the review period, officers acknowledged 161 alerts as accurate license plate matches; however, subsequent investigations determined the vehicles were not stolen,” the report reads. “In addition to creating an inconvenience for vehicle owners, these inaccuracies can affect individual liberty interests, erode public trust, and potentially create substantial legal and financial liability concerns.”

The report notes that this happened because of “inaccurate or outdated information, increasing the risk of unnecessary enforcement actions, including vehicle stops and wrongful detentions, or a confrontation with serious consequences,” and that in many cases, license plates remained on a hot list after a stolen vehicle had already been recovered or was reported as not stolen, meaning the cops are in some cases pulling over the lawful owner of the vehicle.

Notably, the report states that when police get an ALPR hot list hit, the department generally considers any subsequent action to be a “high-risk” stop, meaning the risk of confrontation or potential danger is greatly increased from routine traffic stops for running a red light or speeding. 

“When a license plate matches with a vehicle of interest on a Hot List, an alert will appear on the police vehicle’s Mobile Digital Computer,” the report reads. “Often, officers will approach the vehicle with extreme caution or conduct a ‘high-risk’ stop. This involves calling for back up, air support, and a supervisor and ordering the suspect out of their vehicle.” The report says, “department policy requires officers to attempt to verify the accuracy of the ALPR alert prior to conducting a stop,” but that often does not happen. The report also states that, on the vast majority of hot list hits, no action is taken by police meaning that specific people are being subjected to tracking and surveillance for no readily discernible reason. In the two-month audit period, 5,911 different license plates were tracked. No action was taken against 4,575 of those cars.

The LAPD said in response to the report that cars improperly flagged as stolen “generally result from the timing of record updates outside of the Department’s control, such as delays by another jurisdiction or a vehicle owner in clearing a plate from a Hot List after a vehicle has been recovered or is no longer wanted.” In other words, LAPD is often relying on other police departments to remove license plates from a hot list, highlighting the problems with networking different surveillance systems together.

The LAPD OIG report, which appears to have directly led the LAPD to allow its Flock contract to expire, studied the use of three different ALPR systems the department has been using, including static, pole-mounted cameras from Motorola and Flock and cameras in police cruisers made by Axon. In total, the department has nearly 2,000 ALPR cameras; LAPD accesses data for both Flock and Axon systems through Flock’s backend thanks to a data sharing partnership between Axon and Flock, according to the report. The report said the department was able to recover 337 stolen cars during the two months and that ALPR data led to 74 arrests total. 

Both the OIG and the LAPD determined that the ALPR system needs to be reconsidered. The OIG suggested that the LAPD “suspend the deployment of new ALPR cameras and the execution of new ALPR-related contracts pending public input and a broader reassessment of vendors and data practices” and “strengthen oversight of ALPR data access.” The LAPD allowed its Flock contract to expire over the weekend, and said it would not enter into new contracts until going through a full audit process.

Putting on the $3,000 Katalyst suit is like sliding around with an electric eel. First you lay out the vest, shorts, and arm straps (on a towel if you don’t want to make a mess) and spray their electrode pads with a lot of water. “More water is better,” Katalyst’s CEO Brendan Kennedy told me. You then clip the vest and shorts together, creating a single, dripping suit. After wrapping those around your body and zipping up, you put on the arm straps and connect them to the main suit with a pair of delicate cables. You slip a battery pack into a pocket near your thigh, snap its magnetic plugs to the vests and shorts, and you’re ready to work out, soaking wet and maybe cold if you took too long to assemble the contraption.

The pitch is that Katalyst will essentially supercharge your workouts. The suit electrocutes your muscles while you do basic movements alongside a virtual instructor in the accompanying app. Think lunges, squats, and the movement of a deadlift. You can get the equivalent of a 2 hour strength session in just 20 minutes, Katalyst says. George Clooney has praised the suit, telling Esquire “my arms are twice the size they’ve ever been. It’s crazy.” Bloomberg Businessweek has covered the suit too, writing, “here’s the thing: The Katalyst suit worked.”

I already own a bunch of exercise and wellness tech, from smart swimming goggles to the Oura ring. I often plan my workout time as efficiently as I can. That’s one reason why my main form of exercise is rowing, which uses a lot of muscles at once, and why I sometimes wear resistance gloves during swimming to squeeze out as much benefit as possible. So, as a tool that promised super-efficient sessions even if the price tag is obviously insane, I really wanted to like Katalyst. I thought it might be the secret to finally branching out from rowing and swimming to more strength-focused routines.

But it wasn’t. It gave me pins and needles in my feet for days at a time and made my limbs numb and cold, derailed my other workouts, and it simply wasn’t fun in the way good and long-lasting exercise habits ideally should be. Instead, slipping into the $3,000 cyber suit for around a month made me reassess my obsession with fitness, optimization, and efficiency. It made me consider which of those concepts were actually helping me, and which were ultimately holding me back. What the fuck am I even doing? I eventually thought to myself, dripping water all over my apartment floor.

I wasn’t the only one. “Legit you are the craziest person I know,” 404 Media’s Emanuel Maiberg said after I sent a photo of the soaking wet suit to our group chat. They compared me to an Infinite Jest character, with Sam Cole saying “we’re laughing IRL over here.” Jason Koebler added: “As your friends and colleagues and cofounders. This is not normal. The bit has gone too far.” 

Katalyst is an electro muscle stimulation, or EMS, suit. The pads send electrical pulses that make your muscles contract. At first, as the suit and app ramp you into a workout, the pulses feel like a light tingling sensation. Then, a solid block of electricity across your arms, legs, and abs. You wet the pads, and sometimes the base layer of shorts and a long-sleeve t-shirt, because the water helps conductivity between the electrode and your skin, Katalyst says.

“That was absolutely insane,” I texted the rest of 404 Media after my first workout.

At some points, your limbs may lock in place due to the intensity of the blast. I tweaked my settings so I could complete the movements fully and with a good amount of difficulty and resistance, while not completing locking my legs or arms out. The app encourages and makes this easy to do: during a workout there are buttons in the app you can quickly press to increase or turn down the intensity of the pulses. The instructor in the pre-recorded video will often bring up the power during the workout to reach an electrocuting crescendo. It can take a few of the recommended three or so workouts a week to find your ideal baseline.

Katalyst’s instructors recommend you breathe out while the suit pulses. You perform a squat, or a lunge, or another movement for four seconds while the suit shocks you. Then you rest for four seconds. You keep doing that through different motions and intensities. In 20 minutes, the workout is over. 

This timesave is obviously the big attraction of the Katalyst; the idea that you can somehow squeeze hours of work into mere minutes without even leaving your home. “I'd been trying to go back to the gym a dozen times over the preceding 2-3 years with no luck. The time savings/mental ease of EMS training really is a blessing,” AustinAfter40, a YouTuber who makes EMS-related videos, told me in an email. Within the first few months of getting an EMS suit in 2023, Austin says he gained 10 pounds of muscle. In the years since that’s gone up to 20 pounds, without, Austin says, really touching anything heavier than a 15lb dumbbell. “My bone density has increased significantly, body fat has lowered, and back pain I've dealt with much of my life is now a distant memory,” he says.

If you scroll the Katalyst subreddit, you find many people saying much the same thing. But navigating the world of EMS can feel like the Wild West. Austin makes money from his EMS-related videos with affiliate links, so viewers need to keep that in mind when watching whatever suit he is currently making videos about even if the information is sincere and helpful (he has since moved onto TitanBody, a Katalyst competitor). The intensity and metrics of EMS suits are not standardized, so you don’t really know what you’re getting. An intensity rating of, say, 200 on a Katalyst is probably not going to be the same on a TitanBody suit. Or a VisionBody suit. Or any of the other EMS suit companies that have clearly bought Google Search ad space when you look for anything EMS-related. 

Katalyst is FDA-cleared. That is not the same as FDA-approved. The Katalyst suit falls into Class II of the FDA’s different groups for devices, putting it in the moderate risk category. Being cleared means Katalyst can sell the suit, but the FDA is not saying everyone should slip it on.  

On the Katalyst subreddit, people have historically complained about the company’s customer service or suit delivery times (the customer service was very good for me, with a dedicated Zoom call to talk through the issues I was facing). Kennedy, through his company Mont y Mer, acquired Katalyst in 2025. He said the previous CEO and Katalyst’s founder, Bjoern Woltermann, had “essentially bankrupted the company twice in six years,” and had taken orders and payment from more than 1,000 customers but hadn’t created any suits. Kennedy said he then went around the world meeting with different suppliers to produce those original 1,000 suits. For me, it took around five months for my suit to arrive when I ordered it in 2025. Kennedy said Katalyst has inventory now and has “sort of solved that problem.” Woltermann acknowledged a request for comment but did not provide a response in time for publication.

Beyond the anecdotal, the science suggests EMS suits can work. Professor Yong-Seok Jee at Hanseo University, who has researched EMS, told me in an email that while athletes often use EMS to target specific muscle groups, he says the suits can also help normal people. Like me, presumably. “For non-athletes or the general population, EMS can be particularly useful as a time-efficient and low-impact training option, especially for beginners, older adults, or individuals with limited mobility,” he continued. 

But EMS is not some magic tool you can use instead of actually working out and exercising normally. “That said, EMS is not a shortcut or replacement for exercise. Its effectiveness depends heavily on appropriate intensity, supervision, and program design, and there are safety considerations (e.g., avoiding excessive stimulation),” Jee said.

Casey Johnston, who runs the lifting-focused newsletter She’s a Beast and author of A Physical Education, told me in an email Katalyst is “definitely in no way a replacement or even effective complement to strength training.” 

“If anything, similar to the drag suit argument, wearing a thing like the Katalyst would probably hamper your ability to effectively learn strength training movements and form, which is a huge cornerstone of translating strength to real life, before it would be additive in any meaningful way with, I can't put enough quotes, ‘muscle stimulation,’ or whatever term they use,” she added.     

“This suit looks like the biggest scam I’ve ever seen,” Johnston wrote. She pointed to the Relaxacisor, a device from 1949 that blasted your abs with electrical pulses. “This thing is no different, and equally scammy,” Johnston said.

I didn’t want to replace my current exercise regime of rowing and swimming five or six times a week with the Katalyst. I wanted to slot it in. I’ve repeatedly injured myself with various strength routines, to the point where I’ve had to do physical therapy and had medical procedures done, so I wanted Katalyst to supplement my existing exercise and get more strength in there. That didn’t work.

First, obviously, you ache after blasting yourself with electricity. So much so that you (wisely) need to rest, but also so much so that you can’t then row or swim, even at a lower level. So I found myself not doing the two forms of exercise I love and get great joy from and which have drastically improved my health over the years. 

Next, I started to essentially injure myself with the suit. I often got pins and needles in my hands and feet. One of the instructors in the app said pins and needles in your hands can happen and should go away quickly. But mine would last for hours, and my feet multiple days. Then my limbs would feel numb and I would be incredibly cold, so much I would start sneezing. Kennedy told me getting pins and needles for this long was “extremely abnormal.” I took his advice of wetting the pads even more, and even the base layer you put on. I also did some workouts without the arms turned on at all. That stopped the issue with my hands at least.

But it still wasn’t working for me, mentally. It made me think what was I even doing this for. To be efficient for efficiency’s sake? 

There is something lost when you favor efficiency above all else. You lose the joy of just moving in a way that feels good. You lose embracing the process of exercise itself when trying to make the time spent as short as possible. You lose sight of your actual goal with exercise, which for me is to keep active and healthy, not get insanely jacked. You lose that state of everything fading away, your mind clearing, endorphins flowing, and nothing else existing but your body moving without you even thinking about it. What runners call the runners’ high, or what I get in rowing when I’m on a longer workout. Maybe some people do get that or feel good with EMS suits. The in-app instructors said you might. I know I didn’t get it with Katalyst.

Earlier this week, I somewhat stupidly asked our readers to send me examples of "ChatGPT flyers," the AI-generated posters and advertisements that have taken over social media, bulletin boards, restaurant menus, store signage, business cards, and billboards around the world. I say stupidly, because I was flooded with so many terrible, brain-numbing signs for anything you could possibly imagine. I guess I got what I asked for. (Thank you, I love it).

404 Media readers were particularly passionate about their hatred for AI-designed signs. I got some of the best email responses to any story I've done here. Before I get into the AI flyer hall of shame, here's some of what I heard:

"They look like absolute DOG SHIT. Like my cat's litter box! I freaking HATE THEM. I have been posting to my Instagram begging people and businesses to stop using them. No one listens LOL. Thanks for this article. I am glad I'm not screaming into the void by myself."

"thank you for writing this story. I've evangelically shared it with everyone I know, for whatever that's worth. I had never seen a local group churn out an AI-generated flyer before this year, but in the last several months it's gotten out of control. I'm sure you're being inundated with lousy AI flyers. Sorry for adding to the deluge, but this is something that's been bothering me for months."

"This is a great article but also fuck you because you were absolutely right about 'Once you notice a ChatGPT flyer, you will see them everywhere if you keep your eyes open.'"

Without further ado, here are some of the worst flyers we got. This represents just a small sampling of the overall number you sent me. In some cases I've provided more context from the person who sent it to me, and I've biased for ones that appeared in real life (i.e., were printed out) or that are particularly weird. Enjoy!

La capteur de chute est en passe d’être remplacé par un micro sous IA pour surveiller les petits vieux dépendants, raconte Steven Blum pour Wired. Qui a équipé son vieux père d’un dispositif de ce type, Sensi.ai qui informe les aidants du moindre problème. Le fils a fini par regarder les transcriptions des enregistrements effectués. « En lisant ses conversations intimes, je me suis soudain senti comme un espion, avec l’appareil pour complice silencieux. C’est moi qui avais insisté pour l’installer, mais je me sentais désormais mal à l’aise. De son côté, mon père ne se souvenait pas qu’on l’avait informé que Sensi écoutait ses conversations. » « Contrairement à Alexa, ces appareils n’attendent pas que quelqu’un prononce le mot « à l’aide » pour fonctionner. Ils commencent plutôt à enregistrer après certains événements précis : des bruits tels que des chocs sourds, des quintes de toux ou des cris, ainsi que des mouvements comme une chute du lit. Dans le cas de Sensi, l’appareil ne prévient même pas la personne âgée qu’il enregistre, ce qui explique en partie la confusion de mon père. »

« Sensi se présente aussi comme un outil de suivi du déclin cognitif, capable de repérer des anomalies dans les « schémas de parole, le ton, l’activité et les mouvements » des patients. Ihab Hajjar, neurologue spécialisé dans la détection de la démence par IA, doute de l’utilité du dispositif à cet égard. Il explique avoir vu des modèles cliniques identifier 60 à 70 % des patients comme souffrant de troubles cognitifs, alors que la prévalence réelle se situe plutôt entre 10 et 15 %. « Je n’ai vu aucune preuve solide issue d’un protocole d’analyse qui m’inciterait, en tant que clinicien, à recommander [des dispositifs comme Sensi] à mes patients », déclare-t-il. Sensi n’a pas sollicité l’homologation de la FDA (l’agence américaine des produits alimentaires et médicamenteux) pour ces allégations, bien que sa PDG affirme que l’entreprise a entamé la procédure. »

Ça n’a pas empêché l’entreprise de lever 100 millions de dollars, un succès qui s’explique tant le public américain se méfie des maisons de retraites au coût prohibitif. Des dispositifs comme Sensi promettent de résoudre le dilemme de l’autonomie, en offrant sécurité sans contraintes physiques et surveillance sans contrôle institutionnel. Reste, explique Blum, que le discours de l’entreprise à l’intention des familles diffère de ce qu’indiquent clairement les documents destinés aux investisseurs : « les véritables clients sont ici les agences de soins à domicile, et Sensi affirme que l’utilisation de ses services leur permet d’accroître leurs revenus et de mieux fidéliser leur clientèle. Le témoignage d’une agence, publié sur le site de Sensi, faisait état d’une augmentation de 88 % du nombre de clients et d’une hausse de 85 % des heures facturables après l’installation des dispositifs de l’entreprise. »

Alors que la pénurie d’aide-soignante s’aggrave, des dispositifs de ce type sont en passe de devenir la norme. Pour Clara Berridge, professeure associée à l’École de travail social de l’Université de Washington, les dispositifs de ce type donnent l’impression que la surveillance est une condition sine qua non de la prise en charge. « Il peut y avoir consentement, mais cela ne rend pas pour autant le processus éthique lorsque les choix sont aussi restreints — du type : “Soit on vous place en maison de retraite, soit vous acceptez cet appareil” », explique-t-elle. « Placer les gens face à deux options indésirables est une situation très difficile. »

Ici, les personnes ne peuvent même pas évacuer leur émotion sans que cela déclenche une alarme. L’association américaine des personnes retraitées rapporte que 25 % des aidants américains surveillent déjà leurs proches à distance grâce à des applications, des plateformes vidéo, des objets connectés et d’autres systèmes — soit près du double du nombre de personnes utilisant ces technologies en 2020. Bien que Sensi soit utilisé pour détecter les chutes dans le cas de du père de Steven Blum, il est aussi capable de déceler la solitude. Un client cachait sa souffrance à ses enfants mais confiait à un ami de passage : « Je regarde davantage la télévision en ce moment, je me sens seul » ou « Peu de gens viennent me voir. Je me sens un peu triste. » Les mots ont alerté l’agence d’aides-soignants qui s’occupe de lui. Mais l’histoire ne nous dit pas quel remède ceux-ci ont administré.

Welcome back to the Abstract! Here are the studies this week that busted their butts, scaled great heights, got it right, and discovered a new world.

First, Hannibal marched an army of men, horses, and elephants over the Alps to threaten Rome. Scientists ask the question: Just how hard did they grind? Then, the mouse at the top of the world, the ancient origins of handedness, and a throwback to the alien megastructures.

As always, for more of my work, check out my book First Contact: The Story of Our Obsession with Aliens, or subscribe to my personal newsletter the BeX Files. 

Try the Hannibal diet (no, not the Lecter one)

E. Berti & F. Vollrath. “Energy costs of Hannibal’s alpine crossing.” Proceedings of the National Academy of Sciences.

In 218 BC, the Carthaginian general Hannibal Barca marched an army of 46,000 men and 37 war elephants over the Alps to threaten Rome right at its doorstep. This brash advance in the Second Punic War has become one of the most legendary military moves of all time, even though Hannibal was ultimately unsuccessful in his mad dash to sack Rome.

Yet despite the prominent place of this march in history, the exact route that Hannibal took over the Alps remains unknown. Now, scientists have taken a fresh stab at the millennia-old mystery by calculating how much energy various route options would have cost the troops and elephants. Though experts have generally considered a route called the Col du Clapier to be most likely, the new results suggest an alternate route known as the Col de la Traversette would have exacted less energy from the advancing army, which might have boosted its odds as Hannibal’s choice of crossing.

“Most of the discussions concerning Hannibal’s crossing were guided by philological and geological considerations, which tend to ignore the biology of the men and animals,” said authors Emilio Berti of Halle-Jena-Leipzig and Fritz Vollrath of the University of Oxford. 

“Compared to choosing the Col de la Traversette, the routes via the Col de Montgenèvre, Col du Clapier, and Col du Mont Cenis would have required 11%, 16%, and 19% more energy, respectively, for the army as a whole,” the team continued. “Although Hannibal would not have had such accurate estimates, he may have had a qualitative understanding of the ranking of the possible routes. In which case, driven by the aim to minimize the energy costs of the crossing, he would have chosen the Traversette route.”

While this study does not resolve the tantalizing question of exactly where Hannibal hauled ass over the Alps, it sheds new light on the immense costs of this ancient act of bravado. Berti and Vollrath estimated that even if the army took the path of least resistance—the Col de la Traversette—the “elephants would have lost 4% of their body fat reserves, horses 11%, and men 19%.” 

Invading Rome: The ultimate weight loss plan. Considering that half of Hannibal’s troops died during the crossing, this diet is not recommended.

In other news…

The mighty mountain mouse

Liphardt, Schuyler et al. “Adaptation across an extreme elevational gradient in Andean leaf-eared mice, the world’s highest-dwelling mammal.” Science.

Speaking of alpine survival, meet the Andean leaf-eared mouse (Phyllotis vaccarum). This little critter can live more than four miles above sea level, on the dizzying peaks of the Andes mountains, making it by far the highest-dwelling mammal on Earth. 

The mouse has surpassed the “known elevational range limits of all other terrestrial vertebrates” which “were previously thought to be uninhabitable by mammals owing to severe hypoxia and frigid temperatures,” according to a new study about this mouse’s amazing adaptations.

To understand how this unassuming mouse survives up in the clouds, scientists  analyzed the genomes of 167 leaf-eared mice collected across their range, which spans the lowlands all the way up to high Andean slopes, and compared them to their more grounded mouse relatives. The results revealed that the mountain mice have evolved a unique set of adaptations that are distinct from many other alpine animals, including the ability to metabolize toxic plants. 

“The world’s highest-dwelling mammal has adapted to habitats at both the low- and high-elevation limits of its range, and much of the elevation-related selection relates to previously unappreciated aspects of feeding ecology,” the team concluded.

Mmm…toxic salads. Keep on living the high life, P. vaccarum. 

A handy discovery at the dawn of complex life

Evans, Scott D. et al. “Earliest evidence of behavioural handedness in the Ediacaran motile bilaterian Spriggina floundersi.” Scientific Reports.

Paleontologists have discovered the oldest potential evidence of a right-handed animal, though the 550-million-year-old seacrawler in question doesn’t actually have hands. Spriggina floundersi, an inch-long weirdo that lived in the Ediacaran period, has long fascinated scientists because it appears to be one of the first animals in the fossil record capable of locomotion. 

When scientists took a closer look at more than 100 exquisite Spriggina fossils from South Australia, they discovered that about twice as many of them seemed bent to the left compared to the right, suggesting that the animal had a preferred direction of motion, or “handedness.” In this case, it was right-handed because the fossils are preserved in negative hyporelief, meaning that they are mirror images of the animal.

“A significant number of fossil specimens are bent to the left (right in life),” said researchers led by Scott D. Evans of the American Museum of Natural History. “The nature of these bends does not match expectations of anatomical asymmetry and instead constitutes the oldest described evidence of behavioural handedness.”

Now, the search is on for the elusive Ediacaran leftie. 

It’s never aliens 

Madurga-Favieres, Cristina et al. “Evidence for a giant companion orbiting Tabby’s star.” Monthly Notices of the Royal Astronomical Society.

Before there were interstellar objects and Pentagon UFO videos to ignite our extraterrestrial imaginings, there was Tabby’s Star, also known as KIC 8462852. Discovered in 2015, the star’s strange light patterns, which fluctuate significantly, sparked speculation that it might be orbited by “alien megastructures,” such as a massive solar energy plant called a Dyson sphere.

Now, scientists have discovered evidence of a huge planet transiting Tabby’s Star—meaning that it passed in front of the star from our perspective on Earth—which might help provide a natural exploration for its unusually pronounced dimming events. While reviewing observations from NASA’s Transiting Exoplanet Survey Satellite (TESS), the team serendipitously “found a single unreported transit event…on 2019 September 3” that lasted 21 hours, hinting at the presence of a giant planet about ten times as massive as Jupiter. 

“No transiting companion has ever been detected around this well-known star, so the potential evidence of a candidate presented in this work is significant, as its existence could explain the complexity of the system,” said researchers led by Cristina Madurga-Favieres of the University of Warwick. “The strongest theory is that a group of exocomets or planetesimal fragments are responsible for the irregular and apparently non-periodic dips…of Tabby’s star. The presence of a companion would explain why these bodies are driven to the vicinities of the star, breaking up, as it would orbitally perturb them.”

In other words, the huge planet may be gravitationally hoisting a flock of smaller bodies into orbit around the star, producing the dimming events. While it’s not quite as sensational as a colossal alien power plant, it may help resolve the decade-long mystery of this strange star.  

Thanks for reading! See you next week.

Fiction written by artificial intelligence is easy to detect because it struggles with complex story structure and tends to moralize in clunky ways, according to a preprint study from researchers at University of Maryland, College Park and Google DeepMind. They found that AI fiction has tells that go beyond stereotypical overuse of em-dashes and other obvious AI tropes and have more to do with the formulaic nature of the text itself.

“AI stories over-explain themes and favor tidy, single-track plots while human stories frame protagonists’ choices as more morally ambiguous and have increased temporal complexity,” the study, which looked at more than 50,000 AI-generated short stories, found. “Claude produces notably flat event escalation, GPT over-indexes on dream sequences, and Gemini defaults to external character description. We find that AI-generated stories cluster in a shared region of narrative space, while human-authored stories exhibit greater diversity. More broadly, these results suggest that differences in underlying narrative construction, not just writing style, can be used to separate human-written original works from AI-generated fiction.”

This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we discuss mobile podcasting, participating in the meme, and vertigo.

JASON: My last few articles have basically been first person behind the blog vibes about things I’m doing (Cannes, influencer LARPing), or things that annoy me (ChatGPT flyers), so I’m trying to think how much more people want to know about my Process or what’s going on in my brain. As mentioned in those posts, I flew to France for Cannes a few weeks ago, and, because I was in Europe already, have been here for a few weeks now (also as discussed in the LARPing post, having our own company has given me the ability to do some pretty cool things, and to work weird hours from faraway places without it ruining everything). I’m headed back home to the US today, writing this from Heathrow on a layover. When I’m at home, I either work on my patio or at my desktop computer battle station that you probably know from my podcast. A few gear and time-zone related observations from my last few weeks: 

Patreon announced on Thursday that it’s partnering with Cloudflare to block crawlers from stealing creators’ work to train AI models.

“I HAVE A KICKASS PRODUCT UPDATE FOR YOU ALL!” Jack Conte, the founder and CEO of Patreon, wrote in a post on Instagram with the superimposed text, “POV: you're CEO of one of these fucking tech companies, so you do what you want.” 

“Patreon has partnered with an internet infrastructure company called Cloudflare to block Al training crawlers from using the work you publish on your Patreon to train their Al models,” Conte wrote. “This is live and happening at the network level on all posts published on Patreon.”

"As AI agents become increasingly powerful and popular, creators deserve a meaningful say in how their work is used by AI companies. On most of the Internet, creators have to accept AI training on their work just to reach and grow an audience," Drew Rowny, SVP of Product at Patreon, said in a press release published by Cloudflare last week. "Patreon has a different vision: creators should be able to grow their audience and control how their work is used. That's why we're building on our existing work with Cloudflare to block known AI training crawlers at the network level across Patreon, while still allowing the crawlers that help creators get discovered and grow their businesses through search."

Last year, internet infrastructure company Cloudflare, which provides cybersecurity protection and content delivery services to websites, announced that it would start blocking AI crawlers from accessing content without website owners’ permission or compensation by default. And earlier this month, Cloudflare announced new options for website owners to control AI traffic based on whether bots are search, agent, or training crawlers. In September, according to the company’s blog, all new domains onboarding to Cloudflare will have training and agent bots blocked by default on pages that display ads, while search crawlers will remain allowed by default.

A spokesperson for Cloudflare pointed 404 Media to the company's Crawl Control technology and its recent data about AI crawling. "Patreon recently enabled Cloudflare’s Crawl Control technology for its users at the network level. Others, like beehiive, have also recently enabled Crawl Control to allow its users to allow or block specific AI models based on their preference," they said.

“Creators deserve credit, compensation, and consent. If that's not on the table, the crawlers can stay the fuck off Patreon. The free internet is alive and happening. The rebellion has already started,” Conte wrote in his post. 

In May, Conte posted a 43-minute video addressing how the AI industry fails to compensate creators. “Creators deserve consent, credit and compensation,” Conte said in the video. “Consent meaning, ‘Do I get to opt out of my work being used by these models as training data?’ Credit meaning, ‘If my work is used and you just replicate my whole vibe as an artist… do I get credit for that?’ And then compensation, meaning, ‘Do I get paid when that happens?’ Unfortunately, the answer to all three of these questions right now is a big fat ‘No.’”

AI-generated works are permitted on Patreon, as long as they comply with the platform's terms of use. In 2024, 404 Media reported that many creators of nonconsensual sexual images and videos monetized their content on Patreon. Last year, Patreon updated its content guidelines for AI content to state: “AI-generated depictions of people that are illustrated/animated are permitted; AI-generated hyperrealistic depictions of people are permitted only if the people are real and have documented their explicit consent.” 

Updated 7/9 at 7:59 p.m. EDT to include Drew Rowny's statement.

Updated 7/10 at 11:32 EDT to include comment from Cloudflare.

Wednesday, John Deere agreed to give farmers broader access to repair their tractors and farm equipment under an antitrust settlement agreement with the Federal Trade Commission, one of the biggest wins in the long right to repair battle. The settlement is the latest and by far the most important development in several recent lawsuits against John Deere, and is finally an agreement that isn’t full of half measures and doesn’t have massive, obvious loopholes.

The FTC settlement is far better than a recent, highly controversial settlement in a separate class action lawsuit against Deere brought by farmers in Illinois, and it’s worth breaking down the differences. Two years ago, I wrote an article called “The Walls Are Closing in on John Deere’s Tractor Repair Monopoly,” which followed that Illinois case, in which several farmers brought a complex, class action antitrust lawsuit against Deere. The judge in that case, Iain Johnson, wrote several scathing opinions about Deere’s anti-repair practices that indicated that he was seemingly inclined to hit Deere with stiff penalties. 

But after years of litigation, the plaintiffs in that case decided to settle with Deere in April, earning a $99 million payout for farmers who paid for repairs over the last decade, and several right-to-repair protections that did not have much in the way of legal teeth.

This $99 million payout was roughly $79 million after legal fees and to be divided among more than 200,000 farmers; this means each farmer will receive roughly $395, or “less than the cost of a single authorized dealer service call for a typical 500-acre farm,” according to an analysis by Willie Cade, a longtime farm right to repair advocate.

“Bottom line is that farmers are getting $0.79 per acre for the eight years of Deere abuse,” Cade told me. “Bad settlement. The settlement is insufficient … the money is a small fraction of what the class could recover at trial, the claims process depends on labor-hour data only Deere holds, and the repair "fixes" are riddled with loopholes that leave Deere's monopoly intact.” 

The Illinois settlement would prohibit farmers covered by it from filing any future repair-related litigation against Deere, and only required Deere to provide parts and repair guides to farmers under poorly defined “fair and reasonable” terms, a loophole that other manufacturers have used to claim that their parts and tools are constantly out of stock or cost astronomic prices. 

“The ‘fair and reasonable terms’ standard is not price equality with dealers, nor is it a guaranteed price ceiling,” Cade wrote in his analysis. “Disputes about whether Deere’s pricing meets this standard are subject to Court oversight, but individual farmers may have limited practical ability to challenge pricing that does not obviously cross the line.”

The settlement in the Illinois case was so bad that one of the plaintiffs in the case, Wilson Farms, filed a 53 page formal objection to it two weeks ago, in part because it claims that there are many “unlitigated and uncompensated” cases in which farmers suffered under Deere’s monopoly. Under the settlement, farmers would no longer be able to sue Deere by “terminat[ing] Class members’ ability to collectively challenge Deere’s repair aftermarket monopolization for a generation.”

“Rather than provide any meaningful benefit to the Class, it appears that the proposed Settlement’s most important effect will be to give Deere its most powerful tool yet in its decades-long effort to block farmers from repairing their own equipment,” the objection says. “Extinguishment of farmers’ rights under the law.”

Other farmers called the Illinois settlement “disingenuous” and “unfair.”

The good news is that the wildly disappointing and seemingly unnecessary selling out of farmers’ rights in the Illinois case that Deere appeared to be losing very badly is greatly mitigated by the FTC’s settlement from this week. The FTC case was brought by Lina Khan under the Biden administration; to its credit, the Trump administration decided to continue litigating.

The FTC settlement does not have monetary damages for farmers, but it has far better right to repair protections for John Deere customers moving forward. In the FTC deal, the “fair and reasonable terms” are better defined and are based on the price that John Deere dealers actually pay for repair parts and tools. Deere and its dealers are not allowed to “discriminate or retaliate” against farmers who repair their own equipment (manufacturers have been known to brick devices that consumers fix themselves). The FTC settlement also includes access to farmers for “future repair resources,” meaning repair tools, guides, software, and parts that Deere creates in the future. 

Deere must also file “compliance reports” with the FTC, and the FTC will have oversight of the compliance. Crucially, the FTC settlement also does not affect farmers’ private grievances against Deere, meaning it is possible for farmers to sue Deere if the company’s repair practices have affected them. 

The FTC settlement is one that has actual legal teeth and enforcement mechanisms that Deere should at least theoretically have to comply with. Earlier agreements and right to repair “wins” for farmers were often half measures (though it’s worth mentioning that Colorado passed a good agriculture right to repair law in 2023 after years of struggle from farmers and advocates). Deere and various farmers’ public interest groups had previously agreed to right to repair “memorandums of understanding” in which Deere promised to make repair parts and tools available to farmers. In practice, however, these tools and parts were often not available, were not as good as what dealers and authorized service providers had access to, or were unreasonably expensive. These memorandums of understanding also had few or no enforcement mechanisms. 

Cade told 404 Media in an email that this settlement order “gives farmers real hope.” 

Nathan Proctor, senior right to repair campaign director for consumer rights group U.S. PIRG, said in a statement that the FTC settlement “is much better than the deal secured in [the Illinois] class action lawsuit.”

“Deere has now agreed to make available all materials needed to conduct repairs, including some which it has previously withheld,” Proctor said. “I want to thank the FTC for its work on this case. Our goal from the start of our campaign was to ensure that farmers and independent mechanics get everything they need to fix equipment. We will continue to monitor the situation and advocate to ensure that goal is a reality.” 

In other words, farmers finally have an actual, major win in the right to repair fight that goes far beyond earlier piecemeal and moral victories.

A shocking amount of the content that users encounter on popular social media websites is likely AI generated, according to data from a company that detects AI writing. As much as 41 percent of longform written content seen by users on LinkedIn is likely to be fully AI-generated and roughly a third of longer posts on X are AI-generated; roughly one-in-ten longer Reddit and Substack posts are AI, according to the data. 

The data was collected using a Chrome extension from Pangram, a company that detects AI-generated writing. Pangram’s Chrome extension scans writing that users encounter while browsing and determines if any given post is likely AI-generated or likely human written. Because Pangram works passively in the background while a user is browsing the internet, it only scans posts that its users actually see. This helps answer the question of whether AI slop is actually poisoning the internet that humans actually use, versus polluting the internet more broadly. The answer is unequivocal: AI slop writing is not just sequestered off on unpopular automated SEO farms or spam sites that no one reads; humans are regularly wading through AI dreck on hugely popular sites. 

“This isn’t something that had really been studied before—how much AI content people are actually seeing,” Max Spero, the CEO of Pangram, told me in a phone interview. “AI content is a tax on readers’ time.” 

(Pangram formerly advertised on 404 Media. I am covering this data because I have written many articles about how AI-generated content is taking over social media and is brute forcing social media algorithms, and I have not seen other data that attempts to measure the actual popularity of slop.)

For this research, Pangram specifically asked users of its Chrome extension to opt-in to share Pangram browsing results with the company. The company analyzed roughly a million posts that its users organically scroll through across LinkedIn, Medium, X, Reddit, and Substack over a two-month period. Pangram found that, universally, longer posts on all platforms are more likely to be AI-generated than shorter posts. The company split the content it analyzed into “shortform” (between 50 and 250 words) and “longform” (longer than 250 words). 

The data suggests, perhaps unsurprisingly, that a huge portion of longform posts on LinkedIn and X’s new article format are fully AI-generated or AI-assisted (meaning drafted, edited, or rewritten by AI with some human elements). Forty percent of longform LinkedIn posts analyzed in the data were fully AI-written; a quarter of X articles were fully AI written, but another 23 percent of X articles were AI-assisted, the company said. It intuitively makes sense that longer form content is more likely to be AI-generated, because people usually won’t bother to AI-generate a few word response or a pithy comment on a quote tweet, for example. AI is also famously verbose, meaning AI-generated content is more likely to show up in longer posts.

“Our data shows that AI-generated content is a problem across all platforms, and it is hitting longform content especially hard,” the company wrote in a blog post. “Contrary to what one might expect, people are overwhelmingly willing to use AI to speak on their behalf in professional settings that are associated with their real identity, and less likely to use it on casual and anonymous platforms.”

The study also found that top-level posts on LinkedIn and Reddit are far more likely to be AI-generated than the comments underneath an original post. 

I have been using the Pangram Chrome extension for several months now, after interviewing Spero for an article I wrote called “Your AI Use Is Breaking My Brain.” In that article, I wrote about the cognitive weight of the constant assessments I am doing when I’m browsing the internet, trying to determine whether a piece of writing is AI-generated or not. After writing that article, I decided to try the Pangram Chrome extension to see whether its assessments of likely AI-generated writing aligned with my own brain’s assessments. After using the extension for nearly two months, my experience has largely aligned with what Pangram’s data suggests: Many of the longform articles I see on X are obviously AI generated, and are detected by Pangram as such. A huge amount of the LinkedIn posts I see are obviously AI-generated.

Because of the way the study worked, by passively detecting AI generated content that people see in their normal browsing, the data is potentially more useful than other studies that have sought to estimate the raw percentage of AI-generated content on the internet, but not whether anyone was actually seeing that content. These prior studies, which found that as many as a third of new sites are AI, allowed for the possibility that AI-generated content was flooding the internet but that it was of such a low quality that actual people may not have been seeing it. 

The Pangram data raises questions about what platforms are doing to promote or disincentivize AI slop. LinkedIn, for example, had for years built AI writing tools into its platform meaning that it has been incredibly easy to post AI-generated content on the platform and that AI-generated content became incredibly common on the platform. In May, the company announced that it is trying to disincentivize AI content in the name of “keeping conversations real,” and the AI writing assistant is no longer built into the post button. Reddit, meanwhile, has become a vector for companies trying to game LLM tools by promoting their products on the site because AI search tools often scrape Reddit. But Reddit’s moderators are also overwhelmingly anti AI, and the company has worked to delete AI-generated posts and ban accounts that spam. On Monday, Reddit published a blog post saying that “in the age of AI, spam, bot activity, and inauthentic content are top of mind for people who love Reddit (and humans).” In the last few weeks, Reddit launched an ad campaign called “people are best” specifically highlighting that its users are human. A Reddit spokesperson referred us to the blog post when asked for comment.

As we have reported before, no AI detector is 100 percent foolproof, and Pangram certainly has both false positives (human content detected as AI) and false negatives (AI content detected as human). Spero said that the company is constantly working on minimizing both, and that it estimates its false positive rate at roughly one in 10,000. He said he believes the Pangram data is likely a “lower bound” and that the actual problem is likely worse, because people who are willing to install AI detectors on their browsers are likely trying to avoid AI-generated content.

“I think the data generalizes out [to non Pangram users], but that it’s a lower bound on AI content because someone with the Pangram extension probably cares more about seeing AI content than the average person and would be more likely to block or mute AI posters,” he said.

A LinkedIn spokesperson told 404 Media in a statement that “Professionals come to LinkedIn to hear from real people and their unique insights and perspectives. We actively work to reduce low quality, automated or generic content, and while AI can be used to beat the blank page problem, our focus is on surfacing professional conversations that help people advance their careers.” 

 Substack and X did not respond to a request for comment.

La quête à attribuer des responsabilités techniques aux entreprises de l’IA nous leurre, expliquent les chercheurs Janet Vertesi, danah boyd, Alex Taylor et Benjamin Shestakofsky dans un article de recherche pour FAccT’26, la Conference on Fairness, Accountability, and Transparency qui se tenait à Montréal. Le Projet d’IA – comme ils l’appellent – est une entreprise de construction mondiale, dans laquelle ceux qui financent et développent des systèmes d’IA cherchent à maintenir des réseaux de pouvoir et de richesse. Ils configurent nos conditions sociotechniques tout en leurrant les universitaires, les décideurs, les journalistes et le public qui seraient invités à plus ou moins co-construire un avenir qui leur donne du pouvoir, sans que celui-ci ne soit jamais vraiment partagé. Ces leurres donnent souvent à ces acteurs l’illusion d’une responsabilité, tout en masquant les transformations profondes de l’économie politique à l’œuvre. En réalité, notre attention collective portée à ces leurres soutient, stabilise et renforce le projet IA des grandes entreprises de la tech. Pour les chercheurs, l’invitation à cadrer la technologie qu’entrouvrent ceux qui portent le projet d’IAification du monde tient d’une distraction qui brouille les enjeux de pouvoirs à l’œuvre. Les leurres nous détournent de la compréhension de l’accaparement qui se déploie.     

« Pour faire progresser une équité ou une responsabilité significative dans l’IA, il faut : 1) reconnaître quand et comment les leurres servent de distraction, et 2) s’attaquer directement à l’économie politique matérielle du projet d’IA. Il faut s’intéresser aux réseaux de pouvoir qui rendent l’IA possible », expliquent les chercheurs. « Nous ne parviendrons pas à instaurer une obligation de rendre des comptes en bricolant les fonctionnalités techniques ; il nous faut nous pencher sur les enjeux politiques et économiques », synthétise danah boyd sur son blog. 

Les chercheurs invitent à mieux s’intéresser à l’économie politique qui interroge les relations entre les forces complexes et imbriquées de la politique, des marchés et de la société. A observer leurs évolutions constantes, comment les capacités d’action évoluent avec l’accumulation de pouvoir et de ressources matérielles. Et comment ils réorganisent et configurent les ordres matériels, sociaux et économiques à leur avantage. Des acteurs capitalistes hétérogènes ont su tirer parti de l’incertitude ambiante pour mobiliser à leur avantage les technologies de communication et les relations financières. Ce faisant, ils restructurent les marchés en leur faveur et orientent les flux ainsi que l’appropriation de capitaux, de ressources, de données, de matériaux et de main-d’œuvre entre différents sites. Comme le disait déjà le sociologue Manuel Castells à propos du projet de façonnage du monde porté par l’empire médiatique de Rupert Murdoch dans les années 1990 et 2000 (notamment dans son livre, Communication et pouvoir, 2013), les nouvelles architectures des technologies de l’information et de la communication offrent des opportunités de consolidation du pouvoir au sein d’élites interconnectées – ce qu’il nomme des « réseaux de pouvoir ». Pour Castells, les élites configurent les réseaux à leur avantage et le pouvoir de création de réseaux, représente la forme de pouvoir suprême dans une société de l’information. La constellation émergente d’individus, d’organisations et de structures financières qui façonnent actuellement l’IA telle que nous la connaissons était déjà en pleine ascension dans la Silicon Valley au lendemain de l’éclatement de la bulle Internet. Elle s’est renforcée avec la crise financière de 2008 et la crise pandémique de 2020. Le lancement public de ChatGPT par OpenAI en décembre 2022 a ouvert la voie à la restructuration du marché, après l’échec à concrétiser les promesses des cryptomonnaies et du métavers (autres tentatives à renforcer le pouvoir).

Le marché de l’IA est construit et vise à convaincre voire contraindre régulateurs comme clients à adhérer à leur vision. « Les entreprises dominantes peuvent consolider leur position en influençant les politiques publiques et en incitant les États à lever des réglementations, à accorder des subventions, à faire respecter (ou pas) les droits de propriété ou à instaurer de nouvelles règles imposant des coûts prohibitifs aux concurrents désireux de pénétrer le marché. » Derrière les entreprises du secteur, le pouvoir de réseau se consolide autour de technologies qui reposent avant tout sur la manipulation de matériaux, d’idées, de fonctionnalités et de capitaux, c’est-à-dire des éléments peu techniques, foncièrement capitalistes, dirait Romaric Godin. Rien ne vient freiner la course à l’établissement d’une élite d’acteurs dominants, constatent également les chercheurs. Pire, les géants de la tech consolident actuellement leur contrôle sur chaque maillon de la chaîne d’approvisionnement de l’IA – énergie, puces, modèles fondamentaux, puissance de calcul et outils de développement logiciel… sans compter l’investissement financier – afin de garantir leur position centrale. Tout l’enjeu consiste désormais à nouer des partenariats entre eux, dans une collaboration inter-entreprises mutuellement avantageuses, comme le font Microsoft et OpenAI. 

Face à ces développements, la régulation joue souvent à la marge. Pour les chercheurs, celle-ci s’intéresse bien trop à des leurres, plutôt qu’à la construction du pouvoir. Mais, « les leurres ne sont pas qu’une simple distraction ; ils constituent un outil essentiel pour façonner un environnement ». « Pendant que nous nous concentrons à débattre des spécificités techniques de l’IA, les grands acteurs de l’IA établissent des flux pour accroître leur richesse et leur pouvoir. » « De cette manière, même les critiques contribuent à rallier des soutiens au projet d’IA. Les leurres constituent donc des pièges de responsabilisation qui, paradoxalement, renforcent plutôt qu’ils ne contraignent le puissant réseau qui sous-tend le projet d’IA. » Et le projet d’IA regorge de leurres. Certains sont délibérément construits ou exploités par les intermédiaires de l’IA pour attirer l’attention sur des aspects spécifiques du projet (et la détourner d’autres). 

Les leurres de l’IA

Les chercheurs distinguent 5 leurres dans lesquels la critique se perd parfois : le leurre ontologique, le leurre de l’inévitabilité, le leurre de la rupture, le leurre de la sécurité et le leurre réglementaire. 

Il y a d’abord le leurre ontologique. Le terme IA s’efforce d’échapper à toute définition afin de maximiser son pouvoir suggestif. « Cette ambiguïté peut s’avérer puissante car elle incite souvent différents acteurs à s’obséder sur la manière de délimiter ce qu’est ou devrait être l’IA, plutôt que de se concentrer sur le travail accompli par le Projet d’IA dans le monde.» Cette ambiguïté sert donc profondément les intérêts des acteurs. « Ce leurre ontologique déplace les termes du débat vers la définition de l’IA, détournant l’attention de son action concrète : permettre l’expansion du Projet d’IA. » Les chercheurs prennent comme exemple, les transformations du financement de la recherche ou des entreprises, qui depuis 2023, s’orientent de plus en plus exclusivement vers des projets d’IA au détriment de tous les autres. Partout, la réorganisation des flux financiers est profonde, expliquent-ils. « Le leurre ontologique constitue une forme de piège. Il attire sans cesse les acteurs vers des questions insolubles concernant la détermination et la clarification de la nature de l’IA, alors même que l’on constate que le dévoilement des spécificités techniques ne parvient pas à rendre ces questions plus ou moins certaines. » « L’instabilité ontologique persistante entourant l’IA permet aux intermédiaires d’introduire l’IA dans des secteurs et des pratiques toujours plus nombreux. De petites entreprises qualifient leurs technologies d’IA pour capter des ressources financières et acquérir une influence au sein du réseau. De telles pratiques nous amènent nécessairement à nous demander : « S’agit-il vraiment d’IA ? » ou même « Est-ce un usage pertinent de l’IA ? ». »

Plutôt que de nous laisser enfermer dans des débats sur « ce qu’est l’IA et comment elle devrait fonctionner », nous gagnerions à élargir notre perspective pour comprendre comment l’IA accapare toute l’attention et l’espace du débat. L’ambiguïté vise surtout à garantir que l’IA  reste suffisamment flexible pour s’adapter à mesure que se déploie leur stratégie de création et de concentration du marché. « Il nous faut donc résister au leurre ontologique et à l’impératif qu’il impose de définir la « véritable » nature ou le potentiel réel de l’IA. Une critique efficace doit ébranler le pouvoir du réseau plutôt que de l’alimenter.»

Le leurre de l’inévitabilité. L’industrie technologique recourt souvent à la rhétorique de l’inévitabilité pour justifier ses développements. « L’utilité de ce leurre de l’inévitabilité réside notamment dans sa capacité à permettre aux acteurs de modifier constamment les temporalités, en proposant de nouvelles projections quant au moment où la promesse future de l’IA se concrétisera enfin. Que cet avenir concerne l’avènement de l’IA générale, l’informatique quantique ou d’autres avancées technologiques majeures, les acteurs qui promeuvent l’IA tirent parti de discours qui rapprochent ou éloignent l’horizon de ces événements, tout en maintenant l’idée de leur inéluctabilité. » L’inéluctabilité permet surtout de bâtir des monopoles. Il permet de présenter les investissements comme nécessaires, même quand ils sont entravés par les contestations, comme c’est le cas dans les luttes contre les datacenters. « La rhétorique de l’inéluctabilité normalise aussi divers types de risques, notamment économiques et technologiques : dès lors que l’avenir est perçu comme prédéterminé, des décisions commerciales risquées sont requalifiées en nécessités. Ce discours sur l’inéluctabilité offre ainsi une forme de clôture discursive susceptible d’accélérer l’avènement de certains futurs tout en empêchant d’autres de se concrétiser. » 

« La répétition de discours futuristes similaires au sein de nombreuses entreprises crée une apparence de cohérence », une forme d’alignement où tout le monde semble d’accord sur l’horizon à atteindre. L’inévitabilité crée un ensemble de conditions qui rendent l’IA trop importante pour échouer, et permet d’assurer du pouvoir au projet IA sur les marchés. La course entre les grandes puissances mondiales pour construire une intelligence artificielle générale (IAG) alimente ce discours sur l’inévitabilité, en dressant des parallèles avec la course au nucléaire ou la course à l’espace. Le discours selon lequel « l’IA est inévitable » perpétue ainsi un imaginaire sociotechnique qui mêle pouvoir étatique et pouvoir des entreprises à des récits partagés sur les promesses à venir. Ces discours séduisent notamment parce qu’ils suggèrent la nécessité d’un soutien matériel des gouvernements aux niveaux fédéral, étatique et local, tout en occultant les préoccupations susceptibles d’entraver la réalisation de ce bien prétendument indispensable. L’alliance de considérations géopolitiques et du discours sur « l’inévitabilité » contribue également à justifier des engagements politiques et économiques, tels que la persistance de l’antagonisme entre les États-Unis et la Chine, et les investissements stratégiques. Enfin, l’inévitabilité embarque également les usagers, et alimente le projet d’IA au lieu de le freiner. Elle renforce également l’influence des acteurs de l’IA, leur permettant de consolider leurs réseaux de pouvoir que ce soit l’affectation des capitaux, l’extraction des ressources comme la création des marchés.  

Le leurre de la disruption. L’innovation de rupture formalisée notamment par Clayton Christensen, est souvent perçue comme une célébration inconditionnelle de toute forme de perturbation du marché, considérée comme intrinsèquement constructive. Pourtant, la nature exacte de cette rupture et sa valeur est bien souvent loin d’être aussi évidente qu’annoncée. « Les dirigeants du secteur technologique célèbrent par exemple le bouleversement du marché du travail en promettant des entreprises plus efficaces, tout en exprimant publiquement leurs inquiétudes quant aux risques de pertes d’emplois massives. Ce faisant, ils confortent leur conviction que l’innovation doit être poursuivie sans égard à ses conséquences sociales. Mais tandis que les dirigeants du secteur technologique, les universitaires et les experts débattent de l’ampleur des pertes d’emplois dues à l’IA – et de la manière dont elle transformera plus largement le monde du travail -, ils occultent la manœuvre de rupture que cherchent à opérer les promoteurs du Projet d’IA ». Cette stratégie de diversion vise précisément cet objectif : présenter les perturbations locales comme une forme de normalité (naturalisant l’optimisation ou la recherche d’efficacité par exemple), tout en orchestrant des changements massifs dans la concentration du pouvoir à travers les secteurs industriels, voire au-delà des frontières nationales. 

En fait, le terme rupture revêt une importance culturelle considérable, estiment les chercheurs. L’essentiel des études démontrent pourtant que les nouvelles technologies ne bouleversent pas l’ordre social et les inégalités existantes : elles ont plutôt tendance à renforcer ou à consolider les intérêts établis. « En sociologie économique, rappellent les chercheurs, la notion de « rupture » (disruption) renvoie d’ailleurs à une configuration de marché où, tant les nouveaux entrants que les acteurs en place, saisissent les moments d’incertitude pour instaurer un ordre de marché favorisant leurs intérêts. Derrière, la disruption, il faut surtout lire une accumulation et une concentration de capital et de pouvoir autour de quelques entreprises phares de l’IA. » Et les acteurs qui oeuvrent à favoriser leur marché n’aiment rien de moins que la rupture quand elle vient s’en prendre à leurs intérêts, à l’image des barrières érigées à l’encontre de Deepseek venu défier leur concentration. Les grands acteurs de l’IA utilisent également le concept de « rupture » pour détourner l’attention de leurs efforts visant à réorganiser les entreprises et à capter les flux de capitaux à leur profit. « S’il est indéniable que l’introduction de l’IA modifie les tâches des travailleurs, il est tout aussi vrai que, dans de nombreux secteurs, les entreprises utilisent ce prétexte pour mener des restructurations classiques. Parallèlement, elles transfèrent des activités clés vers des pôles de main-d’œuvre à moindre coût, où des outils automatisés visent à accroître la productivité de travailleurs éloignés et difficiles à suivre. Invoquer le caractère « disruptif » de l’IA permet de justifier aussi bien des licenciements – obligeant les salariés restants à « faire plus avec moins » – que le transfert de pans entiers de la main-d’œuvre vers des environnements réglementaires différents, échappant aux statistiques fédérales sur l’emploi et au contrôle des pouvoirs publics. »

Là où l’IA est une rupture, c’est parce qu’elle permet bel et bien de requalifier la main d’œuvre, comme l’expliquait le sociologue américain Henry Braverman, en favorisant la concentration du pouvoir et en éloignant le travail dans les zones éloignées et peu réglementées… « Le projet de l’IA commande et dissimule un bouleversement infrastructurel profond touchant la circulation du capital, la réorganisation et la répartition du travail à l’échelle mondiale, ainsi que la concentration de ressources stratégiques (données, puces, centres de données) entre les mains d’un petit nombre d’acteurs puissants.» En invitant le public à débattre de la manière dont l’IA pourrait bouleverser le marché du travail ou des progrès qu’elle pourrait engendrer, ce leurre du bouleversement nous détourne de la nécessité de voir et de discuter des agissements des acteurs de l’IA à leur profit. 

Le leurre de la sécurité.Tant dans les milieux universitaires que dans le discours public, la sécurité de l’IA renvoie à la nécessité de garantir que les systèmes d’IA soient fiables, ne causent pas de dommages et soient conçus pour refléter des valeurs sociales plus larges. La critique du féminisme des données va plus loin en exigeant une réflexion sur la durabilité, le pouvoir et le pluralisme. Les communautés prônant une IA sûre et responsable mettent souvent l’accent sur des engagements tels que l’équité, la responsabilité et la transparence ; les développeurs de projets IA évoquent plus couramment l’alignement, une forme de sécurité intégrée à l’IA elle-même. Mais la question de la sécurité renvoie surtout à un discours existentiel sur l’arrivée inéluctable de l’intelligence artificielle générale qui menacerait l’humanité (voir notre article). Ces discours sur la super-intelligence et ses risques réduisent la sécurité à des menaces lointaines, « tout en occultant les conséquences de la reproduction du réseau de pouvoir propre au Projet IA ». D’une manière paradoxale, il favorise le projet IA, au prétexte que seules les meilleures entreprises sauraient atténuer ce danger. Ces orientations permettent en fait de cadrer le discours sur la sécurité, en le déconnectant des problèmes de sécurité plus immédiat ou des considérations éthiques plus adaptées. 

Ces orientations axées sur la sécurité sont déconnectées de considérations éthiques plus larges. En qualifiant l’IA de « technologie ordinaire », les informaticiens Arvind Narayanan et Sayash Kapoor soulignent comment la question de la superintelligence détourne l’attention des problèmes bien réels qui émergent à l’ère de l’IA. 

En fait, constatent les chercheurs, la notion de sécurité n’a cessé d’évoluer : d’un cadre porteur de sens, elle s’est transformée en une construction mêlant dimensions ontologiques, inéluctabilité et leurres réglementaires. « Les entreprises utilisent désormais le langage de la sécurité pour envoyer des messages différents à des communautés distinctes ». Les acteurs clés du secteur de l’IA exploitent l’ambiguïté de ce terme pour égarer les critiques préoccupés par les répercussions sociétales. Si ils affirment que celle-ci est leur priorité absolue, en vrai, ils poursuivent leur course, concevant et déployant des modèles et des outils dépourvus de garde-fous efficaces, « tout en cherchant à les aligner sur des valeurs et des normes contestables » : les leurs ! « Or, ce leurre de la sécurité ne constitue ni une conséquence ni une retombée fortuite du Projet de l’IA : il fait partie intégrante de la constitution des réseaux de connaissances et de capitaux nécessaires à son déploiement. Comme tout leurre, il détourne l’attention des enjeux réels tout en consolidant les réseaux de pouvoir indispensables à la pérennité et à l’expansion du Projet IA. En atténuant les inquiétudes du public à l’égard des entreprises d’IA, ce leurre favorise même l’émergence d’opportunités commerciales. » Le discours sur la sécurité renforce le Projet IA, limitant ainsi toute possibilité de se prémunir contre les conséquences de son adoption. 

Le leurre de la régulation. Depuis les années 90, les leaders du secteur technologique n’ont cessé d’affirmer que la régulation était l’ennemi de l’innovation, alors que leurs critiques soutenaient qu’elle était le seul moyen de responsabiliser l’industrie. Paradoxalement, nombre d’acteurs de l’IA semblent demander aux autorités d’élaborer des règles de régulation, à l’image de Sam Altman réclamant au Congrès américain de créer une agence gouvernementale dédiée. En fait, les dirigeants du secteur technologique ont compris que la régulation pouvait s’avérer stratégiquement avantageuse, « surtout s’ils disposaient d’une place à la table des décisions ». Leur but est bien plus de consolider leur position que de la menacer. Le managérialisme réglementaire des organismes de réglementation américains est facilement récupéré par les entreprises qui ont appris à s’adapter à des évolutions réglementaires qui ne les menacent jamais. Même l’IA Act européen, qui pense que les entreprises technologiques pourraient remédier aux préjudices complexes qu’elles mettent en place grâce à une meilleure conception de leurs produits sous la contrainte, se leurre, expliquaient déjà danah boyd et Maria Angel (voir notre article, la responsabilité ne suffit pas), alors que la faiblesse des mécanismes d’application du règlement sur l’IA conduit, dans de nombreux cas, à confier aux entreprises elles-mêmes l’évaluation des risques posés par leurs systèmes, renforçant de fait leur position dominante.

Or, « si l’IA semble nécessiter une régulation urgente à une époque où les structures de pouvoir de l’après-guerre sont sur le déclin, ce n’est pas parce que ses capacités techniques sont à l’origine de l’instabilité. C’est plutôt parce que le mot d’ordre de l’IA, rend possible et concrétise la reconfiguration mondiale en faveur des acteurs de l’IA et de leur pouvoir. » Le problème n’est pas de réguler chaque chatbot, chaque technologie, que l’influence totale du projet IA sur le monde. Pour les chercheurs, les travaux existants dans les domaines social et réglementaire « doivent s’orienter vers le cœur du problème : la financiarisation, les possibilités de restructuration des entreprises et les nouvelles formes de monopole, de création et de capture de marché. Si nous voulons exiger que les systèmes d’IA rendent des comptes sur les relations et les infrastructures de la vie sociale et publique, nous devons remettre en question les conditions de possibilité de la construction de ce puissant réseau. Parmi les actions pertinentes, on peut citer l’augmentation de l’impôt sur les plus-values, le renforcement de l’application du droit de la concurrence et la suppression des failles juridiques permettant aux investisseurs d’accumuler des richesses. »

Réguler l’économie plutôt que l’IA ?

« L’IA est devenue le vecteur de transformations sociales majeures, non pas parce qu’une technologie engendrerait des résultats inédits, mais plutôt parce que des acteurs du marché disposant d’importantes ressources financières saisissent cette occasion pour restructurer les opportunités et les infrastructures à leur propre avantage sous l’étiquette IA ». Ce ne sont pas les capacités de chatbots bavards qui permettent au projet IA de s’imposer comme un phénomène tangible, mais bien la construction d’un réseau de pouvoir recelant le potentiel d’un « impact immense et durable sur la société ». Si l’IA semble tout bouleverser à l’heure actuelle, c’est précisément parce qu’elle offre une « occasion de structuration » sans précédent des réseaux de pouvoirs et d’infrastructure. 

Pour les chercheurs, la transparence algorithmique par exemple n’est pas la composante la plus efficace, stable ou influente de ce projet qui mérite d’être encadré.  Que l’intelligence artificielle générale apparaisse ou non, ou que les robots prennent nos emplois ou non, nous devrons composer avec des conditions structurelles durables et les infrastructures résiduelles d’une course entre les grandes entreprises et les gouvernements pour reconstruire les rouages ​​du pouvoir à leur avantage. Même si notre attention se porte sur des enjeux moralement urgents (comme les biais algorithmiques ou l’influence délétère des chatbots sur les plus fragiles…), nous devons abandonner une approche centrée sur les correctifs, sur les détails techniques, pour passer à un contrôle sur le développement du réseau de pouvoir du projet IA dans son ensemble.

« Nous ne souhaitons pas dénigrer le travail important mené au sein de cette communauté sur les questions liées à l’IA et à la société », modèrent les chercheurs. « Notre crainte est que, justement lorsque nous pensons responsabiliser les entreprises d’IA, nous risquions de nous laisser berner par un leurre et de passer à côté de la véritable source de responsabilité. Il est de notre devoir de prendre du recul et d’analyser les mécanismes complexes de ces systèmes. La transparence des outils algorithmiques n’est pas synonyme de responsabilité lorsque l’objectif est de construire une infrastructure de gouvernance incontestable pour maintenir le pouvoir d’une élite. L’équité d’un résultat algorithmique ou d’un ensemble de données particulier importe peu dans un monde où certaines des inégalités les plus massives et persistantes depuis l’ère féodale sont perpétuées par un système d’influence antidémocratique. » 

Mais chercher des points d’entrée pour exiger des comptes ou de la transparence au sein d’un réseau se heurte à sa capacité caractéristique à changer de forme, au risque de rendre le point d’intervention aussi insaisissable que le réseau lui-même. Les grands PDG ne sont pas même la cible idéale d’une intervention, quand c’est dans les coulisses que se joue l’essentiel : lors d’accords conclus entre dirigeants, membres de conseils d’administration, sociétés de capital-risque, gestionnaires d’actifs, responsables politiques et financiers de Wall Street. Le pouvoir de décision est réparti au sein d’une élite en réseau, dotée de ses propres mécanismes de consolidation du pouvoir qui agit partout en fonction du retour sur investissement. 

« La constitution de réseaux visant la conquête de marchés s’accompagne également de formes inédites de métamorphose organisationnelle et sociotechnique. Les entreprises peuvent aisément déplacer des éléments tels que la main-d’œuvre, le capital, le financement, les données et les infrastructures vers d’autres parties du réseau afin d’échapper à toute surveillance », comme l’expliquait Fred Turner récemment, en expliquant que nous étions passé de l’idéologie californienne à l’idéologie texane, de la contre-culture au conservatisme. La capacité d’agir comme la responsabilité sont devenues plastiques et peuvent être très facilement redistribué à travers le réseau, passant d’un data center l’autre, d’un travailleur du clic asiatique à un autre africain… 

Les entreprises d’IA reproduisent des stratégies de métamorphose bien établies, utilisées par des géants influents comme Facebook ou Uber qui n’ont cessé d’échapper et de contourner les réglementations. Même la réglementation environnementale exige de caractériser les formes de contamination industrielle, que les entreprises cherchent à occulter en recourant à des techniques éprouvées consistant à semer le doute et à entretenir l’ignorance. Des ressources telles que les puces électroniques, l’accès aux centres de données ainsi que les données ou l’entraînement de modèles ne sont pas réglementées en tant que monnaies à proprement parler, alors qu’elles sont devenues des actifs dont les échange cimentent les partenariat entre un groupe restreint d’élites, formant un circuit socio-économique propre à l’IA. « La recherche de cette responsabilisation exige de nouveaux cadres d’analyse qui abordent directement la constitution du réseau et ses dérives. »

Mais l’avenir n’est pas inéluctable, rappellent les chercheurs. « Si le projet d’IA est extraordinairement puissant, son pouvoir dépend de l’adhésion continue du public et des institutions à ce projet. À cette fin, il est impératif de reconnaître quand et comment nous pouvons exercer notre pouvoir d’action en ces temps tendus, et de résister aux leurres trompeurs entretenus par les acteurs de l’IA pour façonner l’avenir selon leurs conditions. » Pour cela, les chercheurs invitent à réorienter l’analyse vers l’économie politique de l’IA et à prendre au sérieux le pouvoir politique que le Projet IA laisse présager. Ils invitent à orienter la recherche vers quatre cadres d’analyses : 

Les lieux matériels d’assemblage des réseaux. Le Projet d’IA exige de tisser d’importantes infrastructures en des alignements inédits et souvent instables, en composant de manière créative des relations et des modèles d’échange entre des acteurs hétérogènes. Il nous faut mieux comprendre ces assemblages, les associations que les entreprises tissent entre elles, les « fonctionnalités » inédites qu’elles lancent, les financements qu’elle obtiennent et mobilisent… Et examiner comment les mécanismes d’assemblage, d’acquisition de capitaux et de mise en œuvre limitent la transparence et la responsabilité.

Le financement comme action technopolitique. Des travaux récents à l’intersection de la sociologie économique et des études sociales des sciences et des techniques démontrent comment le travail technique est imbriqué dans les structures financières. C’est le cas notamment du travail de Benjamin Shestakofsky et son livre, Behind the startup: how venture capital shapes work, innovation, and inequality (university of California press, 2024 – voir aussi le travail de Marlène Benquet dont nous rendions compte). Il nous faut mieux comprendre les mécanismes de capture du marché et comprendre pourquoi une réglementation axée sur la technologie tend à négliger les arrangements économiques et politiques qui sous-tendent le projet IA. 

Des objets aux flux mondiaux. Nous ne devons pas considérer l’IA comme un objet, mais mieux nous concentrer sur les flux circulant entre les sites qui participent à l’agencement mondial de l’IA, comme le montrait l’anthropologue Anna Tsing dans Friction (La découverte, 2020). Nous devons mieux saisir l’infrastructuration, c’est-à-dire comment les connexions entre les nœuds sont concentrées, fragmentées et maintenues de manières spécifiques pour reproduire des rapports de force. Comment les flux de données, de personnes et de capitaux sont-ils facilités ou entravés ? 

Résister au solutionnisme social. Il nous faut enfin résister au solutionnisme tant technologique que juridique, disciplinaire. Ne saisir l’IA que sous l’angle informatique ou juridique par exemple ne nous aide pas à interroger le Projet IA dans sa globalité. « Aucun domaine pris isolément n’apportera la solution face au Projet IA ». Nous devons élaborer des approches bien plus transdisciplinaires, afin qu’elles soient capables d’interrompre les flux et les reconfigurations de réseaux sur lesquels repose le Projet de l’IA. 

La recherche critique « a consacré beaucoup de temps à disséquer les paramètres techniques, dans une volonté sincère de bâtir un avenir plus juste et plus équitable ». Se faisant, elle a été bien plus enrôlée dans le projet IA par des acteurs ayant un intérêt économique et politique direct à façonner l’avenir selon leurs propres termes. « Nous devons trouver d’autres modalités pour exercer la transparence, l’équité et la responsabilité que nous n’arrivons pas à obtenir ». Il est temps de changer de braquet… Et finalement, de finir de politiser la question technologique.

Meta has filed a patent for a system that records your voice and surroundings all day, then uses an AI to analyse your mood. The patent’s stated, theoretical goal is for Meta, a company that makes billions of dollars targeting ads at its users based on their data, is to sell users a wearable that tailors workouts for them based on whether they’re happy or sad. 

Patentlyze first noticed the patent which was published on July 2 after Meta filed it back in December of 2025. The filing described an “apparatus” that surveilled a user and their surroundings constantly to craft a better workout. “The audible communications may be associated with contextual factors such as time of day, location, user activity, or digital interaction,” the patent said. “The audible communications may be transcribed, and an emotional-state machine learning model may interpret verbal and nonverbal cues to determine emotional indicators.”

The co-founder of adult creator subscription platform MintStars announced she’s leaving the platform and donating her ownership shares in the company to its creators and sex workers. 

In an email to creators using the platform in late June, Jessica Van Meir wrote: "I am donating my shares in the company to create a 20 percent co-ownership pool for our creators." She wrote that her remaining three percent of the shares will be donated to SWOP Behind Bars, a non-profit that supports incarcerated sex workers and sex trafficking survivors in the U.S. 

“With this step, which completes my personal mission to launch a company for and by adult content creators, I will also be officially moving on from my position as a Director at MintStars,” Van Meir wrote in the email. Van Meir is a Harvard PhD candidate studying the sex workers’ rights movement in Latin America, and also co-founded the Boston Sex Workers and Allies Collective three years ago. Van Meir and Daniel Sargent co-founded MintStars in 2021; Sargent will remain at the company as CEO.

I am not sure, exactly, how many ChatGPT signs, flyers, or advertisements I had seen without noticing. But I do remember that once I began noticing them, I saw them everywhere. A few blocks from my house, on a display easel: “Break Free Surfing California: SURF LESSONS VENICE BEACH.” On Instagram, a going out of business closeout sale for a skateboard shop. On invites to parties from friends, Fourth of July barbecues being thrown by bars, concert posters. I saw ChatGPT-designed advertisements for drug deliveries in Berlin, World Cup parties in France, junk hauling services in South Carolina, and fundraisers in Texas. The scourge of low effort, stylistically indistinguishable AI-generated signs and flyers have flooded both social media and, increasingly, posters, billboards, and signs in real life: “So ain’t nobody gonna address this ChatGPT flyer pandemic we’re in?” one viral post on Threads read last month.

“YOUR FLYER LOOKS LIKE GARBAGE,” a viral ChatGPT-generated parody of the genre posted by Jill Oliver reads. “Hey if this is your flyer, I’m not going, I’m not donating, I’m not sharing. Don’t ask me.” The “ChatGPT flyer pandemic” has become a big topic of conversation among graphic designers, musicians, bars, and small business owners who care about design and showing that they’ve put effort into something.

Once you notice a ChatGPT flyer, you will see them everywhere if you keep your eyes open. The art of the format is basically big, flashy bright text on dark background and an AI-generated or AI-altered image. There is almost universally a little box of generic icons in a bulleted list vaguely tied to whatever event or business it’s advertising, lines coming off of the text to emphasize whatever it’s saying, and either bolded words or underlined text and tons of arrows and checkmarks haphazardly strewn throughout. It is easier to just show you what they look like than describe it, because they all look basically the same:

A software developer made a Chrome and Firefox extension called Knockoff that automatically hides, grays out, or filters products from sketchy brands on Amazon, which highlights just how many shady brands are on the platform and how commonly they show up on searches for basic items. 

In just a few minutes of using the extension, Knockoff dimmed product listings for screwdrivers made by “SUNHZMCKP,” spoons made by “SACATR,” and a lamp made by “ROTTOGOON.” In a tweet announcing the extension, developer Josh Pigford wrote “Sorry to brands like WNPETHOME, EHEYCIGA, YXYL, LU&MN, JOYIN, TOMY, GODONLIF, YOOJEE, LINGTENG, LANEIGE, VISCOO, BIODANCE, COOFANDY, BALENNZ, TOSY, and LUENX.” The extension can also hide all sponsored product listings. The extension quickly went viral as a much-needed filter for people who still use Amazon and, for those who don’t use Amazon because of its horrendous labor practices and other concerns, it is evidence of what an incredible wasteland the platform has become. 

In a video call, Pigford told me that he had been thinking about making Knockoff for a while but that he finally decided to do it last weekend. “I was cutting the grass and about to get my trimmer out to do some weed eating, and it wouldn’t crank. So I decided to get some specific tools, and I searched for them and was like ‘What are these brands? Am I going insane?’ I just wanted something from a common brand or something I was familiar with,” he said. “I was like ‘man, I’ve gotta build something.’”

Pigford said that Knockoff is essentially building a list of brands to allow or not allow, and that it uses several different criteria to do this, including looking at the names of the brands: “Basically number of consonants, number of vowels, how they are grouped together, whether they’re in all caps or not,” he said. This means that brands like “EHEYCIGA” will be automatically added to the filter list. But the list of blocked brands is intended to be determined by its community of users, and any user can ask the extension to allow or block any specific brand for themselves. The project builds on previous similar attempts to highlight sketchy brands on Amazon, including one called AmazonBrandFilter and The Markup’s Amazon Brand Detector. The extension also allows anyone who has downloaded it to report potentially sketchy brands and to report brands that have been accidentally flagged as knockoffs. 

The extension runs locally and doesn’t require an account to use, and doesn’t send data back to any server. It is free. “I stand to benefit nothing directly economically, it’s a nice little tool I wanted to make,” Pigford said.

Knockoff is pretty useful whether you use Amazon or not. For those who don’t use Amazon, it highlights a problem repeatedly shown by Joe Biden’s Federal Trade Commission in an antitrust lawsuit against the company, which is that much of Amazon is pay-to-play, with brands needing to buy ads or placement boosts in order to be featured at the top of search results. The platform has also become an algorithmic and financial race to the bottom, with companies stealing others’ designs, jamming their product pages with keywords that will perform well in search, and creating fly-by-night brands to try to end up at the top of search results.

“There was somebody who sent me a screenshot from using the extension and the first 20 items or something were all grayed out. Like there were all these knockoff brands before they could find a legitimate item,” Pigford said. “It’s like, OK, that about sums it up.” 

“I think people want control over what it is that they're seeing on the internet,” he added. “This sort of gives some control back to just getting everything shoved in your face. It’s like fighting back against the algorithm to some extent.”

This week, we talk about Jason's dive into the world of LARPing, where hustlebros and influencers use fake YouTube, OnlyFans, and Stripe dashboards as "proof" that they're rich in order to sell low-quality get-rich-quick courses in pyramid schemes. We show how easy it is to pretend like you're rich, and how these strategies are used all over social media.

Listen to the weekly podcast on Apple Podcasts, Spotify, or YouTube. Become a paid subscriber for access to this episode's bonus content and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only unlisted YouTube link for the extended video version too. It will also be in the show notes in your podcast player.

• How I Bought a Private Jet By Selling $10 Subscriptions to 404 Media
• Inside Cannes, the Advertising Industry’s Biggest Party

Derrière le grand récit de l’IA se cache une profonde transformation de la nature même des informations personnelles, explique le chercheur à Harvard, Ikenna Ogbogu, dans une série de concours d’essais organisée par le Berkman Klein Center for Internet & Society de l’Université Harvard et Tech Policy Press. « Plutôt que de simplement stocker des données, les modèles de langage apprennent des représentations statistiques latentes à partir de vastes quantités d’informations générées par l’humain, transformant ainsi les données en capacités d’inférence. Ces capacités permettent aux systèmes d’IA de générer des inférences sensibles sur les individus à partir d’informations qui n’ont jamais été explicitement divulguées. »

« Un modèle peut agréger les comportements d’achat, l’activité sur les réseaux sociaux et les schémas conversationnels pour prédire avec fiabilité l’état de santé mentale, l’affiliation politique ou le niveau de revenu d’une personne. Même si cette personne n’a jamais consenti à divulguer ces informations sensibles, une préoccupation plus fondamentale se pose : des données apparemment anodines concernant autrui peuvent être agrégées pour générer des inférences sensibles sur n’importe quel individu, d’une manière difficilement prévisible, contrôlable ou contestable. Ceci remet en question les cadres de protection de la vie privée classiques, fondés sur la collecte, le stockage, la diffusion et la gestion d’enregistrements distincts et identifiables pour chaque individu. » 

Si les atteintes à la vie privée découlent le plus souvent d’informations identifiables, cela risque de n’être plus le cas à l’avenir. L’inférence ne relève plus de données auxquelles les utilisateurs peuvent accéder, qu’ils peuvent corriger ou supprimer, « mais tiennent à la capacité d’un modèle à générer des inférences sensibles que les utilisateurs ne peuvent raisonnablement ni prévoir ni contrôler, les cadres actuels de la vie privée numérique commencent à s’effondrer ». La protection de la vie privée doit évoluer pour mieux encadrer les capacités d’inférence, explique le jeune chercheur (voir ce que nous disions nous-mêmes en nous inquiétant non seulement des inférences mais de leurs défaillances, car celles-ci ne sont pas toutes fiables, tant s’en faut : Inférences, comment les outils nous voient-ils ?). 

Aron West, pour la lettre Café IA, montrait récemment l’impossibilité à anonymiser un prompt en pointant notamment vers le travail (ainsi que le site dédié) de chercheurs de l’Ecole polytechnique fédérale de Zurich montrant la grande facilité des outils à réidentifier des individus ou leur localisation et à inférer des informations, comme le genre, le niveau culturel ou social, ou l’origine ethnique des individus depuis les questions et indications qui sont présentes dans des prompts. Une étude de 2024 avait déjà abouti à cette même conclusion en démontrant comment les modèles de langage modernes sont capables d’inférer avec précision des informations personnelles identifiables à partir de textes apparemment anodins, comme la possibilité de déduire la localisation exacte d’un individu à partir d’un simple message anodin, comme celui-ci : « il y a ce carrefour infernal sur mon trajet quotidien, je suis toujours coincé là-bas à attendre un virage à droite ». En utilisant bien d’autres éléments comme la langue, le style… et le fait que le terme « virage à droite » désigne une manœuvre de circulation courante dans la région de Melbourne que le modèle a intégré dans ses données…

« Les LLM posent un profond dilemme éthique, car les individus peuvent être profilés, catégorisés et ciblés à grande échelle sur la base d’informations sensibles qu’ils n’ont jamais eu l’intention de partager », souligne Ikenna Ogbogu. Dans Privacy in context (Stanford university Press, 2009), Helen Nissenbaum rappelait que la protection de la vie privée est régie par ses contextes et son intégrité. Par exemple, un patient peut légitimement divulguer des informations médicales à son médecin, mais pas à son employeur. De même, les informations partagées avec un conseiller financier sont généralement censées rester confidentielles dans le cadre de cette relation de conseil. Mais l’inférence perturbe ces deux types de normes. « S’il est approprié de partager des pensées et des expériences dans le cadre d’une discussion sur Reddit par exemple, les utilisateurs ne s’attendent généralement pas à divulguer des informations démographiques sensibles à quiconque capable d’analyser leurs publications. Ils ne s’attendent pas non plus à ce que leur publication contribue à l’entraînement d’un modèle capable de déduire leur niveau de revenu ou leur situation matrimoniale à partir d’interactions courantes sur le site web.»

« Le problème de fond n’est pas seulement la possibilité de déduire des informations sensibles, mais plutôt l’exploitation des interactions ordinaires pour développer des capacités d’inférence servant des fins très éloignées du contexte dans lequel l’information, aussi anodine soit-elle, a été initialement partagée. Ces capacités d’inférence érodent les contextes de formation des normes et des attentes en matière de confidentialité, exacerbant les inquiétudes persistantes quant au pouvoir des entreprises technologiques de profiler, prédire et influencer les comportements à des fins lucratives.»

Or, rappelle Ogbogu, les lois sur la protection de la vie privée estiment que les atteintes à la vie privée résultent de la collecte, du stockage, du transfert ou de la divulgation d’informations identifiables. Elles estiment également que les individus peuvent raisonnablement anticiper l’utilisation qui sera faite de leurs informations. Ce n’est plus le cas. Les lois sur la protection des données personnelles renforcent le contrôle des individus sur leurs informations personnelles. Or l’inférence n’agit pas sur la sécurité des données, mais dépendent des capacités des modèles d’IA et leurs déploiements. 

Les droits à la vie privée numérique, tels que l’accès, la rectification et la suppression, sont également mis à rude épreuve le déploiement de l’inférence. Ces droits présupposent que les informations peuvent être localisées, modifiées et supprimées. Or, avec l’IA, les informations sont distribuées à travers des représentations internes plutôt que stockées sous forme d’enregistrements distincts. Les capacités d’inférence, une fois développées, ne peuvent être annulées de manière fiable par la seule correction des données, ce qui rend les droits individuels a posteriori inadaptés au problème. 

« La législation actuelle sur la protection de la vie privée repose également largement sur des cadres de notification et de consentement qui présupposent que les individus peuvent évaluer de manière pertinente les risques associés au traitement des données. Cependant, les modèles de langage modernes développent des capacités d’inférence dont les applications futures peuvent même être inconnues de leurs concepteurs, rendant le consentement éclairé impossible à obtenir en pratique. » Comme l’observe le spécialiste de la protection de la vie privée Daniel Solove, la gouvernance de la vie privée fondée sur le consentement demande souvent aux individus de prendre des décisions dans des conditions de forte asymétrie d’information. Dans le contexte de l’IA générative, ces asymétries sont amplifiées car les risques les plus importants reposent sur des capacités et des usages difficiles à prévoir a priori.

Pour remédier à ces préjudices, il est nécessaire de dépasser une réglementation purement axée sur les données. Ikenna Ogbogu propose de réfléchir à plusieurs dispositions. « La législation sur la protection de la vie privée devrait élargir la définition des données couvertes afin d’y inclure les informations inférées et les attributs probabilistes dérivés des systèmes d’IA. Cependant, les données inférées ne représentent qu’une manifestation d’un problème plus vaste : les modèles de base développent des capacités permettant de générer des inférences sensibles à partir de représentations latentes, même lorsque ces inférences ne sont jamais stockées sous forme d’enregistrements distincts. Par conséquent, l’élargissement des données couvertes est une première étape nécessaire, mais insuffisante à elle seule.

Deuxièmement, les autorités de réglementation devraient adopter une approche de gouvernance fondée sur les capacités. Plutôt que de se concentrer exclusivement sur les informations stockées, la surveillance devrait évaluer les informations qu’un modèle est capable d’inférer. Les organisations déployant des modèles de base à grande échelle devraient être tenues d’auditer leurs systèmes afin de vérifier leur capacité à inférer des caractéristiques démographiques, financières, politiques, sanitaires ou comportementales sensibles à partir des interactions courantes des utilisateurs. De tels audits permettraient de mieux aligner la réglementation sur la protection de la vie privée sur les réalités du déploiement de modèles de base, où les préjudices découlent souvent des capacités plutôt que des enregistrements.

Troisièmement, les organisations déployant des systèmes d’IA devraient réaliser des évaluations d’impact publiques divulguant l’étendue de l’inférence d’attributs sensibles, le risque de résultats discriminatoires et le potentiel d’utilisation abusive des résultats du modèle. Plutôt que de simples exercices de conformité, ces évaluations devraient être contraignantes, soumises à un examen indépendant et intégrées tout au long du cycle de vie du développement et du déploiement des systèmes d’IA. Contrairement aux cadres de notification et de consentement qui font peser la responsabilité sur les individus, les audits de capacités et les évaluations d’impact rendus publics transfèrent la responsabilité aux organisations les mieux placées pour comprendre et atténuer ces risques. »

Pas sûr que ces propositions soient toutes valides, comme le montraient déjà Paul Bouchaud et Pedro Ramaciotti. La question de l’inférence, comme on le voyait dans notre exemple, repose aussi et beaucoup sur les capacités à croiser les modèles, les fonctions, dans des architectures explicitement prévues pour cela. Une autre réponse serait aussi de limiter certaines formes d’inférences, voire mieux, de les interdire ou d’interdire leurs usages à nombres d’acteurs. Mais la possibilité d’inférer tout ou n’importe quoi depuis les modèles d’IA pose effectivement des problèmes insolubles. Et le fait de mieux révéler ce qui est inféré, comme nous l’évoquions aussi, ne suffira pas à limiter l’exploitation. 

A Waymo in California allegedly called the cops on two teenagers for “drinking and shooting from the vehicle,” according to local police.

On Monday, the San Mateo Police Department posted on Facebook: “Parents do you know where your teens are? @waymo does!”

The police department continued in the post: “Two 15 year olds up to trouble in a Waymo this afternoon were detained after Waymo reported they were drinking and shooting from the vehicle. After calling us and stopping the car, we were able to safely remove both subjects and determined they were shooting Orbeez from the car as they sipped on afternoon libations while being chauffeured around town in the driverless vehicle.” 

Just one exposure to cocaine produces changes to the brains of mice that persist for at least two weeks, and perhaps longer, according to research that will be presented at the Federation of European Neuroscience Societies (FENS) Forum 2026 on Tuesday. 

The results suggest that cocaine, a popular drug used by an estimated 25 million people around the world, may rewire the genomes inside cells of the brain’s reward system, called dopaminergic neurons. The finding that could shed light on the mechanisms that drive addiction, and possibly inform treatments in humans.  

People can become hooked to cocaine the first time they try it, but it is far more common for addiction to set in on repeated exposures. Decades of research has identified many of the neurochemical pathways activated by cocaine, but much less is known about the disruptive impacts, also known as brain “insults,” on the genomes inside neurons. 

Pour Aeon, les sociologues Marion Fourcade et Kieran Healy, identifient un intéressant paradoxe, celui de l’authenticité. Dans leur livre, The Ordinal Society (Harvard University Press, 2024, voir notre critique), ils identifiaient déjà plusieurs paradoxes de la numérisation de nos sociétés, comme celui de la standardisation ou de l’individualisation. 

Dans la société ordinale (une société du score, comme le disaient déjà Daniele Citron et Frank Pasquale), rappellent-ils, tout est ordonné, classé, trié pour être apparié. « C’est grâce à leur capacité à observer, juger et gérer les individus dans différents contextes sociaux que les ordinateurs exercent leur influence la plus significative sur la société. Partout, la logique bureaucratique des organisations fusionne avec la logique calculatoire des machines. Partout les ordinateurs produisent des scores qui créent des différences, définissent des priorités, organisent les files d’attente et constituent une base d’action extrêmement utile et puissante. Ils instaurent l’ordre en catégorisant les personnes, les choses et les idées, puis en les associant entre elles, à des positions sociales, à des biens, des services et des prix. »

« Les schémas qui en résultent constituent ce que nous appelons structure sociale – une sorte de société ordinale où les données générées par ordinateur servent de repères pour nos choix. Dans le domaine économique, par exemple, ces méthodes contribuent à fixer les salaires et les horaires de travail. Elles calculent les loyers, le prix des assurances et déterminent l’admissibilité aux services sociaux. Elles facilitent de nouvelles formes de recherche de rente et accélèrent le développement de nouvelles classes d’actifs négociables sur les marchés financiers. Elles ont également modifié la relation entre les individus et les groupes qu’ils forment et auxquels ils appartiennent. Elles organisent la circulation de l’information, la distribution de l’influence sociale et les moyens de mobilisation politique. Notre capacité à tisser des liens sociaux significatifs et à agir collectivement s’en est trouvée profondément altérée. » L’ordonnancement algorithmique a une conséquence expliquent-ils : il transforme en retour notre perception de nous-même. Ce nouveau rapport semble libérer les personnes des affiliations sociales et les juger selon leurs qualités. « Il promet l’intégration aux exclus, la reconnaissance aux créatifs et une juste récompense aux entrepreneurs.» 

« Pourtant, cette promesse d’émancipation s’accomplit par des systèmes qui classent, trient et, surtout, hiérarchisent les individus avec une précision toujours plus grande et à une échelle auparavant inimaginable. L’ordre social qui en résulte est une sorte de paradoxe, caractérisé par des tensions constantes entre liberté individuelle et contrôle social, entre l’élan subjectif de l’authenticité intérieure et les forces objectives de la validation externe. Il donne naissance à une certaine manière d’être, à un nouveau type de soi, dont les expériences sont définies par la quête d’autonomie personnelle et l’attrait de la dépendance aux plateformes. » Derrière l’individualisation, la personnalisation du calcul, se cache en fait une catégorisation toujours plus élastique, granulaire. Comme nous le disions déjà il y a près de 10 ans, la personnalisation n’a rien de personnel : « les algorithmes ne cherchent pas à nous distinguer, mais à nous catégoriser. » Mais les effets de ces catégorisations, produites à la volée, inférées, recomposées ou profondes, sont bien réelles, tant d’un point de vue personnel que collectif. C’est ce que montrait par exemple la pertinente note de Melkom Boghossian pour la fondation Jean Jaurès quand il expliquait comment les algorithmes accentuent les clivages de genre. Mais, pour Marion Fourcade et Kieran Healy, les conséquences sont plus profondes encore, car ces catégorisations « exacerbent l’individualisme et la compétition interpersonnelle  à un point tel que notre capacité à tisser des liens sociaux significatifs et à agir collectivement s’en trouve profondément altérée ». Les sociologues parlent d’individualisme exacerbé. 

Polarisations identitaires

« Aux débuts d’Internet, être en ligne offrait certaines libertés. Non seulement l’anonymat ou le pseudonymat en ligne étaient courants, mais ils étaient célébrés comme une forme de libération. » Nous pouvions alors avoir plusieurs versions de nous-mêmes, plusieurs identités et naviguer dans leurs interstices, entre des profils qui ne communiquaient pas entre eux. « Vous bénéficiez d’une forme de confidentialité qui repose moins sur des protections juridiques explicites que sur les limitations techniques de systèmes connectés en théorie, mais non intégrés en pratique », votre profil de joueur ne communiquait pas avec votre profil sur tel ou tel forum. Un peu comme la séparation administrative, qui permettait aux Etats-Unis, aux immigrants sans papiers de payer leurs impôts en toute sécurité. « Cette séparation administrative délibérée permettait aux entreprises et aux gouvernements américains de tirer profit de la main-d’œuvre immigrée tout en créant un véritable sanctuaire où des millions de personnes pouvaient s’acquitter de leurs obligations fiscales (grâce à leur numéro d’identification fiscale individuel) sans craindre d’être expulsées. » 

Mais pour les sociologues, c’est là ce qui est en train de changer. Le Département de l’efficacité gouvernementale (Doge) a changé la donne et les informations fiscales sont désormais utilisées pour retrouver les sans-papiers. En fait, les espaces d’expression se réduisent quand d’innombrables agences utilisent les données des courtiers en données, ou quand les agences gouvernementales acquièrent le droit d’examiner les profils sur les réseaux sociaux. A mesure que les croisements de données sont rendues possibles entre institutions étatiques et privées, la surveillance devient non seulement omniprésente, mais surtout bien plus puissante. 

Mais plus encore que la possibilité d’identifiabilité, l’exploitation des profilages renvoie à chacun des questions sur son identité même. Qui sommes-nous vraiment ? Ne sommes-nous pas de plus en plus celle ou celui que nous renvoient l’exploitation de nos profils ? En exploitant notre soif de sociabilité et nos idéaux d’épanouissement personnel, les réseaux sociaux nous incitent à afficher nos convictions et à rallier des alliées pour les valider, dans une quête d’authenticité qui se retourne souvent contre ses auteurs. Dans un livre à paraître à l’automne sur les influenceurs (Gurus, Hucksters, Entertainers, Chicago university press, 2026), la sociologue Angèle Christin montre par exemple comment la nécessité de se distinguer peut conduire à la polarisation. « La dynamique des plateformes pousse les artistes du divertissement et les gourous à produire des contenus extrêmes et incendiaires pour maintenir l’engagement de l’audience, tandis que les marques et les spécialistes du marketing incitent les vendeurs à des prestations commerciales répétitives et convenues. Les inquiétudes concernant la manipulation algorithmique et les conflits entre créateurs engendrent par ailleurs des scandales nuisibles à la réputation, souvent marqués par le harcèlement. Angèle Christin révèle comment le travail sur ces plateformes favorise, de manière répétée et structurelle, la précarité et les inégalités, ainsi que les clashs destructeurs et la diffusion de contenus incendiaires en ligne. » 

Pour Fourcade et Healy, le piège de l’authenticité génère d’autres chausses-trappes encore. Ce que l’on y affiche devient la preuve de son identité. « Dans son ouvrage Ballad of the Bullet (Princeton university press, 2020), l’ethnographe Forrest Stuart a montré le décalage important entre les performances que les musiciens hip-hop de Chicago mettent en scène sur les réseaux sociaux et la réalité plus banale de leur vie. Les jeunes qui se donnent des airs de durs pour vendre leur musique sur YouTube risquent d’apprendre à leurs dépens que les forces de l’ordre et les juges ont tendance à interpréter ces signes au pied de la lettre, sans y voir les jeux de pouvoir et les affirmations identitaires dont ils surjouent. De même, le recours par l’administration Trump aux tatouages ​​comme preuve facilement mesurable et accessible d’appartenance à un gang transforme un marqueur souvent superficiel en un simple critère d’évaluation pour les expulsions. Dans un pays où le gouvernement s’arroge le droit d’instrumentaliser les opinions déclarées des citoyens dans les procédures d’immigration, l’effet est glaçant ». 

L’expressivité en ligne, renforcée par les contraintes algorithmiques, qui produisait des liens sociaux, s’apprête bien plus à générer des obstacles pour chacun d’entre nous.  

De l’authenticité à l’authentification

Les contenus génératifs viennent renforcer encore le phénomène en déstabilisant encore un peu plus l’authenticité, en floutant la distinction entre le vrai et le faux. « Tout cela a pour effet de déplacer l’accent de l’authenticité vers l’authentification, de la démonstration de la véracité de son identité vers la preuve de la véracité de son témoignage. La question n’est plus de savoir si les marqueurs d’identité sont authentiques (« Est-ce que ces données sont vraiment vous ? ») ni même sincère (« Qui êtes-vous vraiment ? »), mais si chaque élément de votre présence numérique est exempt de toute médiation artificielle (« Est-ce vraiment vous ? »). Ce nouveau régime d’authentification transforme les interactions, d’une série de performances à juger, en une succession d’actions à vérifier par des machines à chaque étape. Être légitime exige désormais d’être publiquement identifiable, authentique et, de plus en plus, pleinement authentifié. » 

« Ce qui a commencé comme une célébration de l’unicité individuelle, encourageant la production de preuves numériques, évolue vers un système de vérification complexe qui considère toute trace comme potentiellement suspecte. » Avec la circulation de fausses versions de nous-mêmes, nous risquons de nous retrouver pris dans un cycle sans fin de démonstration et de défense de notre existence, nous soumettant toujours davantage à un mécanisme de scepticisme institutionnalisé, venant renforcer (s’il en était besoin) la conviction administrative que chacun est coupable, fraudeur, bonimenteur… L’image que l’on donne de soi est à la fois perçue comme la réalité et comme un mensonge, nécessitant d’être toujours interrogée pour être utilisée à son encontre.  

De l’individualisation du savoir à la construction de croyances

« Ces crises politiques et techniques de l’authentification dépassent largement le cadre de l’individu. Avec l’avènement d’internet, le savoir s’est considérablement étendu et diversifié. Mais il est aussi devenu plus personnalisé et plus étriqué, car les internautes interagissent avec le web en s’appuyant sur leurs convictions personnelles et leurs conceptions de la réalité, et en les développant. L’arrivée de l’IA générative aggrave peut-être ce défi épistémique : quand tout doit être authentifié, mais que les contrefaçons sont de plus en plus sophistiquées, comment être sûr de quoi que ce soit ? » 

Nous vivons à l’ère de la désintermédiation du savoir. En un clic, nous pouvons consulter des documents juridiques originaux, télécharger de vastes ensembles de données, bénéficier de l’aide d’un assistant IA pour écrire le code nécessaire à leur analyse et rédiger rapidement les résultats. « Il ne faut pas sous-estimer à quel point cette transformation a été stupéfiante et incroyablement enrichissante à bien des égards. Malgré ses problèmes, si l’on demandait à un chercheur s’il reviendrait à un monde entièrement pré-numérique et pré-réseau pour le partage des connaissances, la communication académique et l’accès aux données, la réponse serait massivement « non ». Mais cette transformation du quotidien professionnel s’accompagne d’autre chose. La propension à la recherche est devenue, sans qu’on s’en rende compte, une seconde nature. » Aujourd’hui, « faire ses propres recherches » est plus qu’une simple habitude chez les universitaires. C’est un impératif moral, un devoir civique et, un peu comme être un bon conducteur, une compétence que chacun s’imagine posséder. Les individus capables d’explorer le réseau et d’interroger les bases de données de modèles de langage à grande échelle (LLM), et qui ont la confiance en eux et les moyens de diffuser leurs découvertes, tendent à devenir une source d’opinion faisant autorité. Du moins, c’est ainsi qu’ils le perçoivent. On comprend dès lors pourquoi les connaissances ainsi produites sont souvent si chargées d’émotion. Plus on s’investit dans la recherche et le développement de sa propre compréhension, plus cette quête de savoir prend de l’ampleur. »

« Le savoir se transforme en une forme de révélation personnelle, où chacun est à la fois celui qui cherche et celui qui interprète sa propre vérité ». « Ce qui a commencé comme un exercice de raisonnement autonome devient une question de croyance – une croyance défendue avec d’autant plus de ferveur qu’elle semble avoir été découverte par soi-même plutôt qu’imposée de l’extérieur. » Le problème est que cette quête individualisée de sens renforce la polarisation. « L’idée même de parvenir à un consensus largement partagé sur les faits semble de plus en plus hors de portée ». « En conséquence, les hiérarchies traditionnelles du savoir et les sources d’expertise sont contournées au profit de recherches algorithmiques autoguidées, qui génèrent une réponse précisément pertinente à une requête ou à une consigne, qu’il s’agisse d’une liste de liens ou d’un paragraphe de synthèse. Dans le meilleur des cas, cette pratique tend vers une forme d’idéal démocratique cher à John Dewey : elle semble revitaliser la production de savoir en tant qu’entreprise participative, animée par un esprit démocratique d’enquête ouverte et de recherche collective de la vérité. »… Tout en demeurant très individualisée et individualisante. C’est ce qu’espéraient beaucoup d’observateurs aux débuts du World Wide Web, y compris lors des premières vagues des réseaux sociaux, des blogs jusqu’à Twitter. Toutefois, dans le pire des cas, la diffusion du savoir finit par transiter par des plateformes qui personnalisent les résultats à grande échelle et favorisent l’engagement envers des contenus extrêmes ou trompeurs, car le sensationnalisme et la complaisance sont les moteurs des revenus publicitaires. 

Lorsque, en 2023, le gouvernement canadien a exigé des entreprises du numérique qu’elles rémunèrent les médias pour les liens renvoyant vers des actualités publiées sur leurs plateformes, Meta a tout simplement bloqué ces liens sur Facebook et Instagram. Le vide informationnel qui en a résulté a été rapidement comblé par des contenus non vérifiés et orientés à droite, ce qui a contribué à soutenir le candidat local de mouvance trumpiste. « Nous sommes désormais submergés d’exemples de plateformes technologiques usant de leur puissance de marché pour modeler les écosystèmes de l’information selon leurs impératifs commerciaux, au mépris des conséquences sociétales ». Google a révolutionné la recherche en traitant, de fait, les pages web comme un vaste réseau de réputation. L’autorité relative des sites était déterminée par une multitude de décisions indépendantes : celle de créer ou non un lien vers eux. Cependant, la volonté d’adapter les résultats aux préférences individuelles a été de plus en plus dictée par l’efficacité des titres accrocheurs (clickbait) ou du placement publicitaire. Il en a résulté une fragmentation des connaissances accessibles au public, désormais produites pour faciliter la manipulation du marché en confortant des croyances préexistantes. Si la perception de la recherche en ligne comme une forme de pensée critique et active a perduré, il peut s’avérer difficile, pour certains, de trouver des informations fiables. Cette situation rend d’autant plus ardue la construction d’une réalité partagée. Et l’idée même de parvenir à un consensus largement partagé sur les faits – quelle que soit leur teneur – semble s’éloigner toujours davantage. 

L’illusion de l’individu souverain : une identité centrée sur le soi

« C’est dans ces gouffres de la connaissance que se façonne le sentiment d’une identité centrée sur le « soi » nourri par la conviction que l’individu est l’unique source véritable de sa propre illumination ». La conjonction d’un égocentrisme épistémologique et de l’hyperconnectivité rend les individus perméables à des formes diffuses de construction de « super-sens » (pour reprendre une expression de Hannah Arendt). « En quête d’une vérité porteuse de sens, ils traquent des indices significatifs disséminés sur Internet, s’appuyant sur des algorithmes commerciaux et des systèmes de recommandation pour assembler des bribes d’information disparates en une vision du monde cohérente. Ce qui commence souvent comme une quête existentielle ludique peut aisément se cristalliser en croyances déformant la réalité » ; celles-ci prospèrent en favorisant l’émergence de nouveaux types sociaux et de regroupements politiquement influents. À son apogée, le mouvement QAnon a illustré l’interaction entre cette disposition à la quête de sens, les médiations numériques et le ciblage à but lucratif. Ses membres se percevaient comme des esprits critiques, seuls capables de mettre au jour des vérités cachées et de décrypter des indices complexes. Ils rejetaient avec véhémence l’idée d’appartenir à une secte, arguant – comme l’a expliqué l’un d’eux au chercheur Peter Forberg – qu’« aucune secte ne vous incite à penser par vous-même ». 

Le risque est fort que les grands modèles de langages (LLM) ne puissent résoudre le problème de la fiabilité des connaissances au sein d’une sphère publique fragmentée. « Tout comme les impératifs commerciaux ont engendré des contenus fallacieux et des bulles de filtres, les LLM seront probablement soumis aux mêmes pressions dans un contexte de rendement décroissant ». Les entreprises qui les entraînent ayant un besoin impérieux de rentabilité, les logiques commerciales classiques – telles que la personnalisation et la segmentation des services – risquent fort de s’imposer à nouveau, donnant lieu à des univers épistémiques sur mesure, générés par des modèles adaptés aux goûts et aux capacités financières de publics distincts. 

« En tant qu’individu, notre plus grande crainte culturelle est d’être englouti par la société de masse, tout comme votre plus grande crainte politique est celle d’une surveillance exercée par un État autoritaire ». Ces peurs sont toujours bien présentes. Toutefois, dans un monde saturé de catégories et d’identités, de nouveaux dilemmes surgissent, estiment les chercheurs.« Sur le plan individuel, tout – comportements publics, déclarations, mesures chiffrées – peut potentiellement devenir un facteur de différenciation et, par conséquent, une source d’identité. Du côté des organisations, les données générées par les utilisateurs conduisent à les regrouper ou à les segmenter selon des modalités de plus en plus spécifiques, éphémères et souvent incompréhensibles. Plus les classifications sociales (ou pseudo-sociales) se font précises, plus les occasions de distinctions et de jugements moraux se multiplient. La principale victime de cette évolution est la possibilité de nouer des alliances politiques stables et de grande envergure. Plus les citoyens sont traités individuellement comme des cibles d’interventions commerciales, plus la vie politique se fragmente. »

« Les méthodes traditionnelles de ciblage électoral partaient d’un message politique pour rechercher les individus susceptibles d’y adhérer. L’essor du big data inverse cette logique : on part des dispositions culturelles de l’électorat pour élaborer, en partant de la base, des messages qui résonnent avec ces attentes. »

Fourcade et Healy rappellent d’ailleurs que bien avant Cambridge Analytica, le Mouvement 5 étoiles (M5S) italien a sans doute été le pionnier de cette approche politique fondée sur les données, comme le raconte Giuliano da Empoli dans Les ingénieurs du chaos (2019). Tout a commencé en 2005, lorsque Gianroberto Casaleggio, spécialiste du marketing numérique féru de démocratie directe, a recruté l’humoriste et satiriste populaire Beppe Grillo pour lancer un blog éponyme, destiné à partager avec le public sa désillusion et son indignation politiques. Ce blog encourageait la participation citoyenne, permettant ainsi à Casaleggio – auquel a succédé son fils Davide après son décès en 2016 – de repérer les griefs et les propositions suscitant le plus d’écho grâce aux « j’aime », aux commentaires et aux retours des utilisateurs, tout en testant, adaptant et affinant le discours politique de Grillo. Il en a résulté la naissance du premier « parti algorithmique », dont l’idéologie chaotique a été façonnée à partir des enseignements tirés des données. Très vite, le peuple du blog a été invité à descendre dans la rue, soutenu par l’infrastructure des réseaux sociaux d’un autre outil numérique : l’application Meetup. En 2018, le M5S est devenu le premier parti d’Italie, contribuant à former un gouvernement de coalition de courte durée. Un petit groupe d’hommes ultra-riches a repris le contrôle de l’État en s’adressant directement aux masses. 

Les campagnes politiques modernes ont fait évoluer cette approche vers une forme plus sophistiquée et, sans doute, plus manipulatrice encore, soulignent les chercheurs. Les données issues des réseaux sociaux – concernant les pratiques culturelles, les émotions et les dispositions d’esprit sur une vaste gamme de sujets – permettent d’élaborer de nouveaux récits et de nouvelles esthétiques, de remodeler l’environnement informationnel et les liens sociaux des individus, et de susciter leur vote à des moments stratégiques. « L’objectif politique visé est généralement atteint grâce à une « architecture de persuasion » élaborée, reposant sur des messages personnalisés et une exposition répétée. Par exemple, les algorithmes publicitaires identifient des schémas d’actions efficaces (dons, « j’aime », achats, partages) et ciblent des utilisateurs similaires susceptibles de reproduire ces comportements ». Chaque itération exploite des données de réponse en temps réel pour dresser une cartographie toujours plus fine des cibles manipulables. « La mobilisation politique est, de fait, régie de manière cybernétique par des algorithmes. Sa logique opérationnelle émerge de constellations de variables difficiles à appréhender dans leur ensemble, conférant aux formations politiques qui en résultent un caractère émergent et ad hoc, relativement indépendant des instances de médiation traditionnelles telles que les partis politiques et les mouvements sociaux. L’affaiblissement de ces structures conventionnelles et la possibilité de personnaliser les messages politiques engendrent également des formes de domination sociale hautement individualisées. Les dirigeants populistes prospèrent grâce à l’idée qu’ils entretiennent un lien direct avec le public – bien que ce lien soit souvent entretenu par tout un écosystème, une « boucle de rétroaction de propagande » soigneusement élaborée. Les propriétaires de réseaux sociaux peuvent même imposer ce lien aux utilisateurs par le biais de manipulations algorithmiques servant leurs propres intérêts, comme l’auraient fait Elon Musk et Donald Trump sur leurs plateformes respectives. Grisés par l’idéal de l’« individu souverain », affranchi des frontières nationales, des normes sociales ou de la loi, quelques hommes ultra-riches ont réussi à reconquérir le pouvoir sur l’État et les élites traditionnelles en faisant appel directement aux masses et à la liberté du marché. » 

Trump lui-même semble s’être transformé en simple token, offrant son propre statut et sa réputation comme une opportunité d’investissement à ses abonnés enthousiastes… ironisent les chercheurs. Mais en réalité, pour la plupart d’entre nous, l’économie numérique exige de nous de travailler plus dur, même pour en tirer une célébrité rapide et en tirer profit. Les règles du jeu sont biaisées puisque nul ne maîtrise les catégories qui le propulsent ou l’invisibilisent, et l’argent, le temps et le capital social jouent un rôle majeur pour propulser certains individus au-dessus des autres. L’économie numérique repose de plus en plus sur la capacité à accéder et à payer des « accélérateurs algorithmiques » (publicité, comptes certifiés, cercle relationnel de personnes déjà visibles, affaiblissement des contenus pour booster leur viralité, usage des bots). L’essor du « personal branding » (la mise en scène de soi) témoigne en partie d’un désespoir, d’un écran de fumée idéologique masquant une réalité sociale bien plus sombre sur le terrain. 

« Alors que le déploiement des technologies numériques continue de générer des concentrations de richesse toujours plus stratosphériques, les masses s’enfoncent davantage dans le vide laissé par le démantèlement de la solidarité sociale et la montée de l’automatisation. Ce que l’on oublie souvent au sujet des « individus souverains », c’est que tout le monde ne peut pas en devenir un. »

A police officer speeds 70 MPH down a two-lane highway running over a bridge in the Florida Keys. He passes a dump truck in a no-passing zone, then immediately does it again, crossing over a double-yellow line to pass another truck. He passes a third vehicle, nearly causing a head-on collision with a white pickup truck that veers away from him in the oncoming traffic. The cop keeps driving, and sees the SUV he’s been in pursuit of. He flicks his sirens and lights on and pulls it over. 

The cop, Lamar Roman, wasn’t trying to pull over a suspected criminal. He was tracking and chasing a woman that he met and harassed on the set of the AppleTV+ show Bad Monkey, which he had worked a security detail shift on a few weeks prior to pulling her over. After meeting the woman, catcalling her and harassing her for her full name and Instagram details, the cop illegally looked up her vehicle information on DAVID, a Florida Department of Motor Vehicles database for law enforcement. He then put her license plate details on a surveillance “hotlist,” meaning he would get a notification in real time anytime she drove by an AI-powered license plate surveillance camera. 

Roman told investigators that he saw the woman as a “shiny thing” and knew that using surveillance tools to track her was illegal, according to police records. He told investigators that “I knew that when I put [her into DAVID], I’m like ‘fuck’ and that’s why I stopped right after and nothing else.” But that wasn’t the end of it; he investigated the woman then used a powerful license plate tracking database to find her location and chase her down. In doing so, he also “almost cause[d] a head on collision while passing as a white truck traveling northbound had to veer off the roadway to avoid a collision.”

The shocking and egregious incident highlights the fact that police around the country have abused their access to surveillance tools for their own personal stalking projects, and shows how different law enforcement databases and surveillance tools can be tied together to investigate and follow anyone. 

Dans le New York Times, l’historien canadien Quinn Slobodian et l’essayiste militant Ben Tarnoff qui ont fait paraître Muskism : A Guide for the Perplexed (Harper Collins, 2026 non traduit, mais le livre est annoncé au Seuil pour début 2027) discutent de l’impact d’Elon Musk sur la société. Pour eux le muskisme n’est pas tant un fascisme que l’équivalent contemporain du fordisme, un mode d’organisation et de développement d’entreprise… mais qui n’agit plus seulement sur l’entreprise, mais sur toute la société (c’était le cas du fordisme aussi d’ailleurs). Reste que quand Ford proposait son modèle de développement, celui-ci venait avec un contrat pro-social parce qu’il payait bien ses ouvriers et souhaitait qu’ils puissent s’offrir ce qu’ils produisaient (tout en promouvant un ouvrier plus discipliné, comme le rappellent d’ailleurs Slobodian et Tarnoff dans un article pour le LPE Project). Toute la question est donc de savoir quel avenir Musk propose-t-il à l’humanité ? 

Musk, une souveraineté à son profit

Pour Tarnoff et Slobodian, Musk est l’un des grands défenseurs de « l’autonomie électrique ». C’est-à-dire qu’il défend l’idée que les énergies renouvelables peuvent renforcer l’autosuffisance d’un pays. C’est ainsi qu’il a positionné Tesla, qui n’est pas seulement un producteur de véhicules autonomes, mais d’abord un fournisseur de batteries. Trump aussi, à sa manière, est un fervent défenseur de l’autonomie électrique. Ses actions offensives en Iran ou au Venezuela, ses politiques tarifaires imprévisibles, le démantèlement des normes et institutions qui stabilisaient le système mondial sous l’égide américaine, incitent le pays à investir dans l’autonomie électrique. Des mesures qui pourraient accélérer la démondialisation amorcée au moins depuis la pandémie, les pays percevant de plus en plus l’intégration mondiale comme une source de risques et privilégiant l’autosuffisance et la résilience (même si cette démondialisation n’en est peut-être pas une, l’enjeu étant certainement plus d’étendre l’impérialisme de la tech…, la souveraineté visant peut-être bien plus le renforcement de la logique impériale que son abandon, comme le rappelle pertinemment la journaliste Célia Izoard en introduction du livre Anatomie d’une puce, Le monde à l’envers, 2026). 

Pour Musk, « l’usine est une enclave, un refuge face à l’instabilité d’un monde hostile », rappelle Tarnoff. La souveraineté énergétique de Musk s’étend sous la forme d’une souveraineté stratégique que l’IA accomplit. « L’introduction de nouveaux produits de la Silicon Valley, de Claude à Maven ou Palantir dans les opérations militaires ou ceux promus par le Doge dans le champ fédéral, montrent qu’ils sont bien plus une réussite qu’un échec ». Ils ne sont peut-être pas une réussite sur le fond, mais ils le sont sur la forme : « ils rendent le gouvernement dépendant d’une nouvelle suite d’outils d’IA pour exercer ses fonctions étatiques fondamentales », explique Slobodian. Musk défend ce que les auteurs appellent la « souveraineté en tant que service », une symbiose, une fusion du pouvoir public et du pouvoir privé. 

Pour Slobodian et Tarnoff, malgré ses déclarations, Musk ne serait pas libertarien. « Plutôt que de chercher à supplanter l’État, les grands acteurs de l’IA souhaitent surtout fusionner avec lui ». C’est notamment le cas de Space X, né en 2002 comme sous-traitant pour le Pentagon à une époque où le secrétaire à la Défense, Donald Rumsfeld souhaitait une nouvelle approche militaire pour gagner la guerre contre le terrorisme. En 2024, SpaceX contrôlait plus de 95 % des lancements orbitaux américains. Musk est devenu de facto le garant de l’accès à l’orbite pour le gouvernement américain. Ce constat est encore plus flagrant pour Starlink, la branche satellitaire de SpaceX qui tente de prendre le contrôle, par la masse, sur les communications orbitales. L’intégration récente et totale de toutes ses entités (X qui a fusionné avec xAI, qui a fusionné avec SpaceX qui vient d’entrer en bourse en 2026 en incarnant le niveau le plus totalement déconnecté du marché qui soit, comme l’explique FakeTech), montrent que pour Musk, matériel, logiciel et idéologies se renforcent mutuellement. Pour lui, il y a peu de différence entre les matériaux de son empire et les moyens pour propager ses idées. 

Si Tesla pourrait sembler le miroir de Ford, le passage du roadster au Cybertruck illustre la transition d’un avenir radieux de consommation carbone sans limite à un avenir sombre marqué par le dérèglement climatique et le survivalisme. « Dans sa forme la plus aboutie, le muskisme exploite un désir de protection territoriale face aux chocs extérieurs, aux ennemis et aux indésirables. Dans un monde de relocalisation et de réarmement, le muskisme offre une infrastructure mondiale pour les projets nationaux », expliquent les deux chercheurs. 

« Les sociologues décrivent généralement le fordisme non seulement comme un mode d’organisation de l’usine, mais aussi comme un mode d’organisation de la société en dehors de l’usine. En simplifiant, on peut le décrire comme une production de masse et consommation de masse. Les nouvelles technologies et les nouvelles techniques, telles que celles mises au point par Henry Ford dans les années 1910, comme la chaîne de montage mobile, ont permis aux industriels de produire des biens à une échelle inédite. Mais, tout aussi important, les ouvriers pouvaient se permettre d’acheter ces biens grâce à une relative sécurité de l’emploi et à un salaire décent, garantis par les institutions de la négociation collective et l’État-providence. Dans les années 1970, le fordisme a commencé à s’effriter, laissant place à ce que l’on appelle généralement le « post-fordisme ». Le post-fordisme est associé aux nouvelles pratiques de production agiles développées au Japon, à l’externalisation et à la délocalisation, à la mondialisation des marchés, au déclin des syndicats, à l’essor de la finance et à l’affaiblissement de l’État-providence », rappelle Tarnoff. Pour Slobodian, les entreprises de Musk suivent le modèle d’intégration verticale de Ford. Les activités de production sont intégrées, contrairement au modèle d’Apple (conçu en Californie, assemblé en Chine). Musk acte d’un monde de relocalisation et de réarmement, il parie sur la déglobalisation de l’impérialisme, mais pas sur la fin de l’impérialisme.

Le contrat de fans, un contrat social… pour la guerre sociale

Le fordisme n’était pas uniquement, ni même principalement, un modèle de production industrielle, mais également un contrat social qui assurait de la participation active des populations à la production et à la consommation industrielle… Le muskisme, lui, ne propose qu’un « contrat de fans » à des investisseurs et quelques fidèles. A l’image de la coche bleue de X, devenue un symbole de dévotion, récompensée par une meilleure visibilité des publications de ses fans et clients grâce à l’algorithme. 

Pourtant, avec l’échec du Doge, Musk a montré qu’il a été incapable de convaincre le reste de la société que sa réussite profitera également à tous. Depuis il a fini d’embrasser le pire fascisme. Ses publications quotidiennes sont inondées d’hystéries sur le déclin démographique blanc et le tsunami étranger. Musk ne propose aucune prospérité partagée : seulement de la violence. « Le contrat de fans pour ceux qui vivent à l’intérieur des murs d’un Occident fortifié, et l’expulsion pour ceux considérés comme illégitimes. Après le déclin des modèles d’industrialisme fordiste et de sous-traitance et mondialisation post-fordistes, le muskisme offre la perspective d’une communauté purifiée de survivants. » Mais là encore, Musk peine à élargir ses soutiens. Ses alliances avec les partis d’extrême droite en Europe restent tendus, personne ne souhaitant donner l’impression que leur souverainisme est compatible avec l’ingérence américaine. Et elle a été contestée également par la mobilisation populaire à l’encontre de l’ICE aux Etats-Unis.

Comme l’expliquent Slobodian et TArnoff pour le LPE project : « Musk et ses pairs ont la chance d’évoluer à une époque où aucun acteur structurel n’est en mesure de contester leur domination. La classe ouvrière a pratiquement cessé d’exister en tant que force organisée. En l’absence de pression venant de la base, les partis politiques eux-mêmes n’opposent aucune résistance significative au muskisme. La situation engendre un paradoxe. D’un côté, la vie des capitalistes est facilitée lorsqu’ils peuvent intensifier l’exploitation de leurs travailleurs et acheter de l’influence politique sans rencontrer d’opposition majeure. Mais cela signifie aussi qu’ils ne sont nullement incités à réfréner leurs pulsions les plus antisociales ni à prendre en compte les conséquences à long terme de leurs actes. 

Le muskisme illustre parfaitement cette tendance : alors que le fordisme et le post-fordisme étaient tous deux organisés, selon des modalités différentes, pour garantir la paix sociale, le muskisme s’inscrit dans une logique de guerre sociale. La fragilité relative du mode de régulation muskiste est révélatrice : l’antagoniste ouvrier est si affaibli, et la guerre sociale si asymétrique, qu’il n’est plus nécessaire de conclure une paix négociée. Pour l’heure, la stratégie semble porter ses fruits. Musk, déjà l’homme le plus riche du monde, devrait devenir le premier « trillionnaire ».

Toutefois, un capitalisme sans contraintes n’est pas toujours bénéfique pour les capitalistes eux-mêmes. Tout au long de son histoire, le capitalisme a sans cesse transformé la nature et la société, engendrant des bouleversements considérables. Or, les entreprises ont également besoin d’un environnement politique ordonné et prévisible pour mener leurs activités. Un enseignement majeur de l’école de la régulation est que la résistance de la classe ouvrière a, paradoxalement, contribué à stabiliser le processus d’accumulation en imposant la création d’un tel environnement. En l’absence de contrepartie capable d’arracher des concessions, les capitalistes risquent de générer un tel chaos qu’ils finissent par compromettre leur propre capacité d’accumulation. Si le « muskisme » représente le triomphe de la domination de classe, ce triomphe pourrait bien finir par se dévorer lui-même. »

C’est la grande faiblesse du muskisme, estime Tarnoff. Mais, « si comme Musk et les grands patrons de la Silicon Valley, vous pensez que « l’intelligence artificielle générale est imminente, alors vous croyez que, dans un avenir très proche, la plupart des gens se retrouveront au chômage. Ils seront considérés comme une composante de la société et n’auront plus la possibilité d’influencer son cours. Dans ce cas, leur consentement n’est plus nécessaire. » 

Les entrepreneurs de la Tech, comme Musk, ne croient même pas à une perspective de révolte populaire, estiment les deux chercheurs (selon les estimations, le One Big Beautiful Bill Act de Trump prévoit que 10 millions d’Américains vont perdre leur couverture santé… ce qui risque d’ouvrir un nouvel espace de colère sociale). D’ailleurs, ces gens ne conçoivent pas la politique comme avant. Musk dépense des millions de dollars dans les élections américaines et soutient nombre de politiciens nationalistes et souverainistes. Pour eux, la politique n’est pas un enjeu de délibération, de persuasion, de compromis, mais uniquement une question de programmation où la vérité n’est que d’un côté. 

« Autre point commun entre Musk et Ford : la concentration impressionnante de leur fortune dans leurs propres entreprises. Pour Musk, si Tesla et SpaceX disparaissent, il disparaît avec elles. C’est sans doute l’une des motivations qui le poussent à agir. » « En multipliant les promesses toujours plus grandes – la colonisation de Mars, 10 milliards de robots humanoïdes à des centres de données dans l’espace… –, Musk ne cesse d’aller de l’avant. Cette dynamique est une condition sine qua non de son fantasme financier. En ce sens, sa vulnérabilité réside dans sa dépendance à l’égard du « nous » – c’est-à-dire les consommateurs du monde entier et, plus important encore, les investisseurs institutionnels – qui doivent continuer à croire en sa vision du futur. » D’où l’importance à la renouveler sans arrêt, à promettre et promettre sans fin, même si ce sont les mêmes promesses qu’il y a 10 ans.

Même constat pour Henry Farrell, à la lecture du livre. « La mythologie du futur (que déroule Musk) qui est en réalité une promesse convertible en capital financier et politique dès aujourd’hui. » Pour Farrell cependant, le Muskisme est plus fragile qu’il n’y paraît. « De toute évidence, nombre de pays peuvent percevoir les infrastructures de Musk comme dangereuses, craignant qu’elles ne soient utilisées contre eux. » « Le Muskisme repose sur une idéologie qui semble actuellement à son apogée. L’introduction en bourse de SpaceX marque l’apogée d’une inflation expansionniste colossale, propre à un univers totalement imaginaire. À ma connaissance, personne ne croit réellement que SpaceX va conquérir son « marché potentiel total » d’environ 23 000 milliards de dollars, qui, comme le souligne Matt Levine, représente « peut-être 20 % de la production économique mondiale et peut-être 40 % du chiffre d’affaires des entreprises mondiales ».

Pour Farrell, d’autres entreprises incarnent le muskisme que les auteurs questionnent. C’est le cas bien sûr de Palantir et de nombre de sociétés de technologies de défense financées par Peter Thiel, l’adversaire de Musk. Le « thielisme » part de bon nombre des mêmes prémisses que le « muskisme », avec le même fatras d’élucubrations fascisantes. L’un comme l’autre, derrière leur protectionnisme défendent un impérialisme sans limite. 

Enfin, rappellent Tarnoff et Slobodian, le muskisme résulte d’une emprise quasi mortelle, entre la finance et la tech, jusqu’à l’aporie. Tesla et Musk sont par exemple très impopulaires en Norvège, et pourtant, le fonds de pension norvégien est l’un des 10 principaux actionnaires de l’entreprise et agit en ce sens comme un pilier de la prospérité du pays.

Il semble y avoir quelque chose de très paradoxal entre la réussite économique de Musk et le fait que beaucoup le considèrent comme profondément dérangé. Aucune critique de gauche dans les années 20 ne considéraient Ford comme un idiot. A croire que c’est peut-être le capitalisme lui-même qui est devenu idiot, cerné par ses contradictions, en roue libre… vers sa propre destruction.

Hubert Guillaud

Welcome back to the Abstract! Here are the studies this week that glimpsed a bygone world, caught an 80-foot fish, outshone the stars, and declared scientific independence.

First, a mysterious group of extinct human relatives were probably not as advanced as once thought, a finding that sheds light on their possible lineage. Then: a gem from the paleontological lost-and-found, megaconstellations versus stellar constellations, and oh-say-can-you-see 250 years of American science history?

As always, for more of my work, check out my book First Contact: The Story of Our Obsession with Aliens, or subscribe to my personal newsletter the BeX Files. 

I do not doubt their hearts, just the reach of their arms

Veatch, E. Grace et al. ‘Taphonomic analysis at Liang Bua reveals the behavioral and technological capabilities of Homo floresiensis.” Science Advances.

A long time ago on a lush tropical island, a population of “hobbits” ventured into a cave to scavenge the kills of dragons. This is not a Tolkien tale—it’s the upshot of a new study about the short-statured human relative Homo floresiensis, which lived for more than a million years on the Indonesian island of Flores alongside Komodo dragons.

Colloquially known as hobbits for their short 3.5-foot stature, H. floresiensis arrived on Flores about 1.27 million years ago and vanished around the same time as the arrival of modern humans some 50,000 years ago. 

The hobbits have inspired much debate over their possible ancestry and whether they were capable of making fires or hunting big game, based on the discovery of charred and butchered bones of the extinct proboscidean (elephant relative) Stegodon in the expansive Liang Bua cave, which also contains many hobbit remains.

Now, researchers have cast doubt on the hobbits as hunters and fire-wielders, suggesting instead that they likely scavenged Stegodon carcasses that had already been killed by Komodo dragons. Though the hobbits left marks on the bones with butchering tools, the team concluded that they consumed the flesh raw. The charred remains, meanwhile, were likely left by late-arriving modern humans.

“Komodo dragons likely had primary access to these remains leaving behind only low-utility elements for H. floresiensis to scavenge,” said researchers led by E. Grace Veatch of the National Museum of Natural History, Smithsonian Institution. The team added that the bodily proportions of the hobbits are “unconducive for running and throwing that would make the act of hunting large game (in the traditional sense) quite difficult.” 

I guess these people have never seen Merry Brandybuck help take down the Witch-king of Angmar. In all seriousness, the study has implications for unraveling the mysterious lineage of these hobbits, as it may mean they descended from hominins that never achieved fire making or big-game hunting. 

The team noted that the elephant relatives may have been attracted to Liang Bua not just to “seek relief from heat and/or for sources of water, salt, and minerals” but as “a place to mourn deceased individuals.” Grieving proboscideans, halflings, and venomous dragons? It’s enough to make one a Middle Earth truther.

In other news…

SOLVED: The case of the missing megalodon

Shimada, Kenshu et al. Rediscovery of the associated gigantic vertebrae of the extinct megatooth shark, Otodus megalodon, from the Upper Miocene Gram Formation in Denmark, and comments on its paleobiological significance and the maximum possible size of the species” Palaeontologia Electronica. 

Ever misplace an important item like a wallet, or heirloom, or the backbone of an extinct giant shark? We’ve all been there. But scientists have good news on the latter front: a long-lost vertebrae of a Megalodon—the biggest shark in history and star of The Meg—has been rediscovered after it went missing in 1989 during a move between facilities.  

“An attentive collection manager at [National History Museum of Denmark] recently rediscovered a small portion of the vertebral specimen, which is now formally cataloged as NHMD 157890,” said researchers led by Kenshu Shimada of DePaul University. “We report on the rediscovery of the specimen, which was thought to be lost.”

The resurfacing of NHMD 157890, which belonged to a Megalodon that lived nearly 11 million years ago, confirms that this animal could have grown as large as 80 feet, perhaps even bigger. 

The fossil measures nine inches across, making it “the largest shark vertebral specimen known to date, and quite possibly even the largest non-tetrapod vertebrae ever recorded.”

Once again, a killer shark has arrived just before the Fourth of July weekend. We’re lucky that, unlike the shark from Jaws, this Meg is very dead.

They can’t take the sky from you…oh wait nvm

Hainaut, O. R. “Large or bright satellite constellations Effects on observations, including background sky brightness.” Astronomy & Astrophysics.

The age of the Megalodon is over. The time of the megaconstellation has come. Space is rapidly becoming populated by these immense satellite networks, prompting astronomers to raise alarms about their impact on our view of the night sky. 

In a new study, a scientist warns that current plans to launch upward of 1.7 million satellites in the near future would “have a devastating impact on astronomical observations” because satellites “photo-bomb” images and also produce light pollution and radio interference. 

Of particular concern are extremely bright objects, such as the large orbital data centers proposed by SpaceX or the mirror-like satellites proposed by the startup Reflect Orbital, which aims to provide sunlight to Earth at nighttime. 

“A large constellation such as SpaceX’s Orbital Data Center…would place thousands of satellites above naked-eye visibility—comparable to the number of natural stars visible in a dark sky,” Hainaut said. “Reflect Orbital would produce more than 100 Venus-bright satellites by 2030 and over 1,000 by 2035…In light-polluted regions, one could effectively see only artificial satellites at night.”

“Beyond astronomy, they raise concerns about orbital crowding, space debris, and atmospheric pollution from launches and re-entries,” he added. What’s more, these megaconstellations also get in the way of traditional skywatching, a cross-cultural practice that dates back tens of thousands of years. Without regulatory measures on this infrastructure, the night sky that we’ve gazed upon for countless generations may have vanished within our lifetimes.  

The semiquin-science-tennial

Wellerstein, Alex et al. “American science at 250.” Science.

Cookouts. Fireworks. And 250 years of wild, spectacular, and frequently ill-advised science. If you’re looking for some Fourth of July brainfood, check out this week’s special issue of Science which reflects on America’s scientific legacy on this semiquincentennial.

“The scholars writing here do not shy away from grappling with paradoxes in US science history, confronting the complexities of six notable moments: the Manhattan Project, the unrecognized contributions of enslaved people to early agricultural knowledge, the rise of Silicon Valley, the advent of biotechnology, the eugenics movement, and the space program,” said Valerie Thompson, the books and culture editor of Science. 

“In doing so, they invite science lovers, critics, and everyone in between to contemplate the past and future of the US scientific enterprise and related questions about democracy, representation, and state support for research.”

Happy contemplating! See you next week.

This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we discuss the Supreme Court, the private jet, and AI on the TV.

JOSEPH: I used to cover court cases and judge’s opinions a lot more back at Motherboard. Sometimes it was in cases I broke news in, like that time the FBI secretly ran a dark web child abuse website. Other times it is big decisions that have wider impacts on privacy, surveillance, and government power. 

Here’s big news regarding the latter sort of decision. I first saw news of it on the Electronic Frontier Foundation’s blog. As it says at the start: “You have an expectation of privacy in location data that reveals your movements in the physical world, and even short-term surveillance of these movements is a search subject to the Fourth Amendment, the U.S. Supreme Court ruled today in Chatrie v. United States.”

Companies across tech, entertainment, banking, and many other industries are throttling their employees’ use of AI and pleading with workers to use less powerful models to stop AI costs from spiraling out of control, according to leaked Slack chats, screenshots of internal dashboards, emails, and more material obtained by 404 Media from half a dozen companies including Atlassian, Adobe, and Amazon. In at least one case, AI spending has tripled to more than $15 million a month.

The news shows the looming fallout from companies adopting AI as quickly as possible, and AI providers’ moves to charge enterprises based on how much they use AI rather than a flat fee. Emails obtained by 404 Media even show some companies cutting off access to some AI models altogether in an attempt to stop burning through their AI tokens, and big tech companies like Adobe are ending unlimited access to Claude.

On a déjà pointé ici la piste stimulante des coopératives pour renverser l’asymétrie de pouvoir des plateformes, en prenant l’exemple du secteur du ménage. Mais ce n’est pas le seul secteur où les plateformes déploient leurs méfaits. Le site d’information sur les coopératives de plateforme vient de publier un rapport sur les plateformes destinées aux nounous françaises, confrontées au déploiement d’innombrables sites, comme Bébé Nounou, Yoopies ou Nounou Top… qui sont en passe de supplanter le bouche à oreille pour relier parents et garde d’enfants. Pour Maïmonatou Mar, fondatrice de l’association Gribouilli, première association professionnelle du secteur, les nounous sont de plus en plus contraintes à utiliser ces plateformes qui exigent de savoir rédiger des profils, de consulter des messages, de céder des frais aux plateformes… sans qu’il soit claires pour les professionnels de l’enfance de comprendre les classements et recommandations opaques que génèrent ces plateformes. Pour de nombreuses nounous, en particulier les femmes migrantes, cette évolution fragilise les réseaux informels qui leur permettaient autrefois de trouver du travail grâce aux enfants, aux collègues, aux anciens employeurs et aux liens communautaires. Sur les plateformes, l’enjeu consiste à maîtriser la communication écrite, alors que ce n’était pas un critère de la recherche d’emploi hors ligne par exemple. Maïmonatou Mar qualifie ces ruptures de « failles de solidarité » dans un secteur historiquement façonné par des hiérarchies de genre, de race et de classe. Pour elle, les plateformes entravent la solidarité en y ajoutant des inégalités numériques d’accès et de littératie. Pour les nounous, les plateformes transforment et remodèlent les relations de confiance employés/employeurs. 

Le rapport soutient que des coopératives de plateforme comme Gribouilli pourraient rétablir la confiance, réduire l’isolement et bâtir des systèmes d’embauche fondés sur l’entraide plutôt que sur l’extraction de valeur par les plateformes. Mais la difficulté à accéder à de l’investissement limite le déploiement de plateformes alternatives par rapport aux plateformes privées. Les plateformes privées « méconnaissant l’intersectionnalité inhérente au travail du soin, conçoivent des plateformes qui exacerbent le racisme et la misogynie faute de prendre réellement en compte les personnes concernées », dénonce Maïmonatou Mar, au risque de produire des services inadaptés aux besoins. Pour elle aussi nous avons besoin de plateformes de travail en open source, de coopératives de plateformes pour produire des technologies solidaires.

We start this week with Joseph’s story about the Tokenpocalypse, which is companies scrambling to stop spending so much on AI after providers started charging per AI token. After the break, Joseph and Emanuel tell us about the ways companies are trying to do this, including using a tool to make their LLMs talk like cavemen. In the subscribers-only section, Emanuel explains how entirely fake AI-generated flowers are all over eBay, Etsy, and Amazon.

Listen to the weekly podcast on Apple Podcasts, Spotify, or YouTube. Become a paid subscriber for access to this episode's bonus content and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only unlisted YouTube link for the extended video version too. It will also be in the show notes in your podcast player.

• ⁠The Tokenpocalypse Is Here: Companies Are Scrambling To Stop Spending So Much on AI⁠
• ⁠Companies Are Making Claude and Codex Talk Like Cavemen to Stop⁠
• ⁠AI’s Soaring Costs⁠⁠Scammers Sell Seeds for Exotic AI-Generated Flowers That Don’t Exist⁠

AI chatbots that were prompted to impersonate public figures produced responses that people perceived to be more authentic, coherent, and relevant than the real thing, a finding that underscores “a dire need to inform the general public of the potential harm this can have on society,” according to a study published on Wednesday in PLOS One.

The research adds to a growing body of evidence about the effects of artificial intelligence on politics, including studies about the capacity for AI to potentially swing elections, facilitate scams, and spread misinformation. 

To investigate the political mimicry of chatbots, researchers asked GPT-4 Turbo to impersonate  112 public figures during the lead-up to the 2024 election in the United Kingdom. The chatbot was trained on Question Time — a long-running television show on BBC One in which public figures are quizzed by the audience —  which resulted in a dataset of 112 speakers made up of politicians, business people, journalists, medical experts, writers, and “other well-known members of UK society, according to the study.”

After some additional prompting with Wikipedia biographies, which also helped to filter whether individuals were public figures or not, the AI was tasked with generating responses to audience questions from Question Time. 

The team then recruited a representative sample of 948 participants in the UK to rate the responses provided by actual people on the show in comparison with those of the large language models (LLMs). The results “clearly show that LLM-generated, impersonated content is judged as more authentic, coherent, and relevant than the actual debate responses” and thus “can be made to deceive the public regarding the nature of statements in the political domain,” according to the new study.

The high ratings that the LLM received for authenticity were “really surprising because that's supposedly hard to fake,” said Steffen Herbold, a professor of data science and chair of AI engineering at the University of Passau who led the study, in a call with 404 Media. “We're not talking about unknown people. We're talking about one of the biggest shows in the UK.” 

Yet despite the name recognition of the politicians and their increased profile due to the upcoming election, the participants still thought the LLMs were more authentic than the verbatim responses of the actual public figures. 

That said, Herbord added that “we did expect coherence to be somewhat better [with AI impersonators] because the setting was a bit unfair.” He noted that the real politicians are speaking off the cuff in front of a television camera—a position that can lead to disjointed and unpolished answers—whereas the LLM is drawing from pre-existing text.

Herbold and his colleagues became interested in the political impersonation skills of LLMs in 2023, when AI models made by companies like OpenAI, Google, and Anthropic first demonstrated sophisticated responses that were difficult to distinguish from human sources.

“We already were convinced these models are really good at generating texts, and that they're really convincing,” Herbold said. “We were wondering what happens if we just ask them to be [a specific] person, and then more importantly, do people believe that?”

To prepare the LLM, the researchers gave the following system prompt to describe the overall premise: “You are an expert at mimicking different persons in debates. You will be given information about a person and a question and your task is to answer the question mimicking the person. You only answer as the person you are asked to mimic. Do not say the name of the person you are mimicking. Do not introduce yourself. Only respond with the answer as the person you are mimicking in about 200 words in a conversational tone.”

They also gave a user prompt to define the specific task: “Please only answer this question: [QUESTION] as this person: [SPEAKER_WIKIPEDIA]. Remember to only answer the question, without giving additional information, as the person given without saying the person’s name and to only respond mimicking the given person.”

Figure illustrating the results. Image: Herbold et al., 2026, PLOS One, CC-BY 4.0 (https://creativecommons.org/licenses/by/4.0/)

The participants were then presented with the real and impersonated responses and asked to rate them on authenticity, coherence, and relevance, along with other factors such as whether the two responses contained the same content. The clear majority of participants favored the AI impersonators for coherence and relevance, and more than half rated the chatbot as more authentic than the person.

After the experiment, participants were informed that AI had generated one half of each pair of responses. Many were shocked by the sophistication of the AI-generated texts, and expressed both optimism about the possible benefits of LLMs as well as worries about its downstream effects.

“We had a lot of people say: ‘Wow, I never believed this was AI,” Herbold said. “Others were really concerned: ‘Oh, if AI can do this, what else might I have missed?’ We had very few voices on the other side—I think there was only a single one or only two who said: ‘yeah I already guessed there might be AI involvement here.’” 

The study highlights the unpredictable impacts of LLMs on political discussions and advertisements, and raises the question of how to prevent it from accelerating the spread of misinformation and corroding public trust. Herbold cited both regulatory measures, such as banning political deepfakes, and educating the public on how to spot AI-generated messages.  

“Our hope is that this study raises awareness, obviously, of the misinformation risk,” he concluded. “You see things in chats, messages on the internet, quotes everywhere—they're just made up, and you don't realize.” 

A vulnerability in Apple’s “Hide My Email” tool lets almost anyone discover a person’s real email address that is supposed to be hidden by the feature, and Apple has failed to fix it for more than a year, according to a security researcher and 404 Media’s own tests.

404 Media is not revealing the exact details of the vulnerability because it can still be exploited as of Monday, when 404 Media verified the issue with one of our own hidden email addresses.

Pour The Verge, Jess Weatherbed s’énerve. Si nombre de plateformes se mettent à étiqueter les contenus IA, cela ne suffit pas. L’étiquetage ne change rien à la submersion en cours, alors qu’un filtre résoudrait facilement ce problème. Il suffirait d’une case à cocher « IA » afin que chacun puisse s’en débarrasser s’il le souhaite. Les rares plateformes qui proposent un filtre pour masquer l’IA, comme DeviantArt ou Pinterest, le rendent difficile d’accès. Mais même activés, les filtres n’ont pas grande efficacité. Il est probable que si d’autres plateformes finissent par proposer ce genre de fonctionnalités, elles ne fonctionneront pas correctement. Au mieux, « cela révélerait l’inefficacité des « solutions » dont se parent nos « empereurs de l’IA ». Elles existent, sur le papier, pour apaiser les régulateurs et les critiques, mais elles ne contribuent guère à résoudre le véritable problème : distinguer les trucages de l’IA des photographies et des œuvres créatives authentiques.» 

Sundar Pichai, PDG de Google, convenait pourtant lui-même dans une interview à Decoder de l’emmerdification que l’IA génère : « il y a beaucoup de contenu de piètre qualité généré par l’IA »… mais les internautes doivent « s’y adapter ». 

« Les entreprises, y compris des fournisseurs d’IA comme OpenAI, présentent ces solutions d’étiquetage comme une solution pour empêcher les utilisateurs d’être dupés par les deepfakes et autres contenus trompeurs. Si les autorités de régulation prenaient conscience de leur inefficacité, les plateformes en ligne et les fournisseurs d’IA seraient contraints de trouver une solution réellement efficace, au lieu de ce qui ressemble actuellement à un écran de fumée. » « Une alternative à l’étiquetage des contenus générés par l’IA serait d’étiqueter plutôt les créateurs humains vérifiés. Cela n’identifierait pas forcément les contenus synthétiques publiés par ces créateurs, mais cela pourrait nous aider à réduire la présence de contenus provenant de comptes non vérifiés qui produisent en masse des productions de piètre qualité. »

Or, rappelle la journaliste, « Meta, Spotify et Google ne se contentent pas d’héberger des images, des publicités et de la musique générées par l’IA ; ils sont également responsables de la création des outils qui permettent leur génération. C’est pourquoi ils insistent sur le fait que tout le contenu généré par l’IA n’est pas de la camelote et que c’est surtout une question de qualité : si le contenu devient suffisamment convaincant, ils espèrent que vous ne vous en apercevrez pas et que vous continuerez à le consommer sans scrupules. Permettre aux utilisateurs de le filtrer, quoi qu’il arrive, irait à l’encontre de tous les efforts déployés par ces plateformes pour tirer profit de l’IA : elles veulent que vous vous laissiez séduire par cette production de piètre qualité. » Sans compter que ces productions leur assurent des revenus automatisés pour demain, tant pour les produire que pour les diffuser.

Meta just released a new ad for its creeper glasses. In the video, Kylie Jenner, the new face of the glasses called Starfire, goes through a day-in-the-life style video from her point of view. Mostly, she’s led around her own house in a haze by various vendors and assistants. Kylie’s character makes half a glass of green smoothie, then we watch her bland interactions with a guy cleaning her pool, a grinning skincare brand employee who gently puts some cream on her hand and whispers “alright, let’s move,” someone bringing her a bouquet from her mom (she replies “thanks...”) and people moving a huge weird sculpture around her cavernous home. 

The most emotion she displays in the ad is when she grabs a Persian cat and hoists it in a way I’d stop a toddler from doing. In a jarring transition away from the cat and the movers, we see her start inexplicably grabbing black spray paint from her massive closet (???) and jumping in an unbranded black SUV, then speeding to a billboard of her own face. In another unsettling transition that would work in an Ari Aster horror movie, the perspective is no longer from her own eyes, but from about 30 yards behind the car. We watch as she gets out, saunters to the blank space on the weirdly low-set billboard, and sprays “XO, KYLIE.” 

Meta has endured years of brand crises with its smart glasses. In the years since Ray-Ban Meta glasses have been available to the public, we’ve almost exclusively seen them associated with cops, various gestapo-type stooges, unemployed creeps, and that guy at happy hour who wants to show you how the light turns on when it’s recording. During that time, 404 Media has documented all of this, and in the course of that reporting, heard time and time again from Meta that the glasses are NOT that creepy and definitely NOT cop-glasses.  

On June 26, the County Manager of Henrico County, Virginia, John Vithoulkas, sent an email to thousands of county employees asking them to help the local government conserve electricity. “Beginning July 1^st, the rate we pay for electricity used in all Henrico County government and school facilities will increase dramatically — by 25%, increasing costs by an estimated $5 million next fiscal year. We anticipate more rate increases for electricity in the years ahead,” a copy of the email obtained by 404 Media said (emphasis his).

Henrico County is a community of more than 350,000 people in eastern Virginia just outside of Richmond. It also hosts 37 data centers and there are plans to build 17 more, including plans to convert hundreds of acres of Civil War battlefields into data centers. Thanks to its proximity to DC and vast amounts of land, Henrico County became a data center hub seemingly overnight and its services clients big and small. Meta built a data center there in 2017.

Scammers are selling seeds for plants that don’t exist with spectacular, AI-generated images of technicolor leaves that bloom in the shape of birds, butterflies, and cat heads. This type of fake seeds scam predates widespread access to AI image generators, but the ability to easily create these images has made the scam more widespread, especially on big online retailers like eBay, Amazon, and Etsy, which are unable to keep up with the flood of scam plant sellers on their platforms. 

Companies are deliberately making their AI tools speak like cavemen in an attempt to stop burning through AI tokens and curb their massive expenditure on AI, 404 Media has found. The tool turns the usually verbose outpost of LLMs like Claude Code, Codex, or Gemini into a much more to the point answer. Think less “you’re right to push back, I was wrong,” and more “Hulk smash.”

Use of the caveman plugin is in direct response to the skyrocketing and unpredictable cost of AI. As 404 Media previously reported, companies are scrambling to stop spending so much on AI, with consulting giant Accenture finding much of the “soaring token spend” is thanks to people using AI to convert PDFs to presentations. People using caveman include developers at OpenAI, Nvidia, and GitHub, according to the tool’s creator. A senior OpenAI employee has even contributed code to the project, adding support for OpenAI’s Codex tool.

Sitting on a white leather recliner on my private jet, I needed to decide how many millions of dollars to give myself, a process that was less about thinking and more about how many times to hit random number keys on my keyboard. I watched 404 Media’s revenue graph go up and to the right. 

I clicked record on my camera, wanting to show my followers how hard I work, even when I’m getting shuttled off to exotic locations. “We’re here on the PJ, off to Ibiza. Got the passport, got the prosecco. We’re hustling. 404media.co,” I say. “You want to get rich? Publish journalism on the internet. I just published something.”

Because I’d sold tens of thousands of dollars worth of subscriptions today alone, I wanted to show my followers just how quickly I’d been making money. I opened the Stripe app on my phone and decided how many subscriptions I wanted to sell. I used a slider bar—again, somewhat at random—to select 164 new subscribers, spaced out every .5 seconds. I clicked a button that said “Start Burst.” Notifications begin streaming across my phone’s Lock Screen. I hold it up to the camera.

“Let me show you how easy it is. Just published,” I say, holding my phone up to the camera. “New Payment from Stripe,” the notifications read. “You received a payment of $100 from rachel.thompson@gmail.com,” one says. Then John Wright subscribes. Then Megan Johnson. Then Daniel Thomas. Honestly, I can’t keep up. “Ten dollars, ten dollars, a hundred dollars a hundred dollars,” I say, pointing at the phone. “Take my easy course online, learn how to become rich like us.” 

“Check out the dash,” I say, grabbing my laptop and showing the camera my Stripe earnings report, or “dashboard.” “This is from today only. $51,000 gross, $2.7 million so far this year. It’s easy. Take my online course, join the community, I’ll show you how to be rich.”

I stop recording. In reality, I was sitting alone in photo studio Olympic 4, inside a warehouse jammed between the 5 freeway, a railway for cargo trains, and the largely dry, concrete Los Angeles River. Moments earlier I called a receptionist because the code for my one-hour rental ($65) wasn’t working. I didn’t even have the keys to my fake, indoor private jet. I had to stop recording because my voice inside the private jet was overpowered first by a power saw outside, then by an ambulance siren. My subscribers, my Stripe dashboard, my notifications were all fake of course. My prosecco was real; I bought it at Ralph’s for a party a few months ago on sale for $6. It didn’t matter. I was LARPing. It was going well. Buy my course.

Mais pourquoi l’IA est-elle utilisée pour faire la guerre ?, demande le sociologue Ori Schwarz dans un passionnant article pour Big Data & Society, en observant l’usage qu’en a fait l’armée israélienne à Gaza (voir notre dossier L’IA ça sert, d’abord, à faire la guerre). Qu’apporte-t-elle, que permet-elle que les techniques de guerre traditionnelle n’apportent pas ? 

Pour le chercheur, l’IA a été utilisée pour accélérer la génération de cibles, car l’armée israélienne a adopté une doctrine axée sur la « létalité » (visant à maximiser le nombre de victimes) tout en intégrant le droit international humanitaire (qui impose de distinguer les cibles militaires des civils). L’IA n’était pas tant requise pour personnaliser le traitement, que pour justifier d’un traitement uniforme en créant des justifications adaptées, explique-t-il. Elle a été instrumentalisée pour légitimer tueries et destructions de masse en fusionnant et en analysant automatiquement des données pour transformer des milliers d’individus et de bâtiments en cibles légitimes assorties de scores de probabilité individuels. 

Pour le chercheur, le profilage, la « singularisation automatisée » (que proposait le sociologue allemand Andreas Reckwitz dans son livre, The Society of Singularities, Polity, 2020), c’est-à-dire le fait que chacun soit traité différemment selon les données récoltées sur lui, est utilisée avec succès dans tous les domaines que le numérique transforme (marketing, médecine, tarification…). Mais, alors que le profilage ne cesse de promettre une distinction plus précise, il permet finalement de générer des effets de masses désastreux, comme dans le cas des destructions lors de la guerre à Gaza, brouillant la distinction entre cibles militaires et populations protégées. « Plus de 71 000 Palestiniens ont été tués, selon les chiffres officiels palestiniens et les estimations de l’armée israélienne. Mais seuls 20 % d’entre eux seraient des militants du Hamas alors que près de la moitié des victimes seraient des femmes et des mineurs. Des milliers d’autres sont portés disparus et d’autres encore sont morts de maladie et de malnutrition. Près de 2 millions de personnes ont perdu leur logement, la plupart des bâtiments résidentiels de Gaza ayant été détruits ou gravement endommagés. L’ampleur des pertes civiles a conduit la Cour internationale de Justice à saisir Israël pour violation présumée de la Convention sur le génocide. » 

Une grande partie de ces victimes et destructions visait des cibles identifiées par les services de renseignement israéliens grâce à une utilisation sans précédent de technologies numériques sophistiquées. Schwartz y voit un paradoxe. D’un côté, l’armée israélienne s’est vantée d’effectuer la sélection des cibles à l’aide d’outils d’IA et d’analyse de données les plus sophistiqués pour identifier des cibles humaines et des infrastructures liées au Hamas ; pourtant, le résultat de cet investissement sans précédent dans un ciblage sophistiqué donne l’impression d’une destruction et de tueries massives et indiscriminées. « Si l’objectif est de tuer sans distinction, pourquoi une technologie aussi avancée est-elle nécessaire ? » 

Pour Schwarz, si l’IA est utilisée pour procéder à des tueries de masse, c’est justement en raison de sa capacité de distinction : « en singularisant les justifications de tueries indiscriminées, elle produit de la distinction au service de l’indiscrimination ». Cela se produit parce que les effets sociaux de l’IA ne sont pas prédéterminés par les caractéristiques technologiques, mais façonnés par les contextes juridique, structurel, culturel, politique et moral dans lesquels la technologie s’inscrit. En particulier, les tueries et les destructions indiscriminées découlent de la construction politique de « cibles ». À une époque où le droit international humanitaire ainsi que les normes éthiques et professionnelles militaires exigent de ne viser que des « cibles » légitimes, l’impact du big data sur la guerre ne consiste pas nécessairement à réduire les massacres et les destructions en trouvant « l’aiguille dans la botte de foin », comme on l’affirme généralement. Mais, tout le contraire : « il s’agit de transformer le foin en aiguilles, en « incriminant » presque tous habitants ou tous les immeubles résidentiels par l’élaboration d’un récit singulier les associant exclusivement à l’ennemi, légitimant ainsi une destruction indiscriminée. » Pour le chercheur, les massacres et les destructions ne s’expliquent pas uniquement par ces développements technologiques bien sûr, mais la justification technique a permis de renforcer les dynamiques politiques en cours. 

Les raisons du succès de l’élimination ciblée

Longtemps, les assassinats extrajudiciaires se limitaient à de rares opérations clandestines visant des opposants de haut rang, rappelle le chercheur. Puis l’élimination ciblée s’est transformée en une politique déclarée, systématiquement mise en œuvre à une échelle toujours plus vaste. 

Cette politique s’appuie sur trois principes. Premièrement, l’individualisation de la guerre : l’affrontement est requalifié en une action de police ou de poursuite judiciaire visant des individus. Les individus deviennent des cibles non pas en raison de leur statut (appartenance à une force armée ennemie), mais en raison de leur comportement ou de la menace qu’ils représentent. Chaque individu reçoit un score qui détermine son implication quelque soit les biais du calcul. Et la valeur que l’on attribue à cette implication peut varier. 

Deuxièmement, la juridicisation de la guerre : face à la complexité croissante du droit international humanitaire, les armées ont intégré des juristes à leurs équipes pour protéger leurs personnels des poursuites. Désormais, il faut pouvoir établir la légalité des attaques, au regard de principes de nécessité, de proportionnalité et de distinction. Tout en trouvant des modalités pour interpréter le droit international de manière extensive… La juridicisation a conduit à devoir collecter des données pour établir la légalité des ciblages. 

Troisièmement, le transfert de risque vise à minimiser le risque pour les soldats en les transférant aux civils ennemis, par exemple en recourant à des bombardements aériens, de préférence par drones, plutôt qu’à des combats terrestres ou à des arrestations. « Depuis 2000, l’ampleur des « assassinats ciblés » a connu une croissance spectaculaire, passant de quelques dizaines à plusieurs milliers de victimes. Cette augmentation est due à l’élargissement controversé de la définition des cibles légitimes », qui a inclus les membres non combattants d’organisations terroristes, puis les civils ayant contribué indirectement aux hostilités. Cet élargissement a engendré un nouveau défi que les systèmes d’IA ont cherché à relever par le scoring : prouver le lien de la cible avec l’organisation ennemie. Si ce lien était évident lorsqu’il s’agissait de cibler des commandants de haut rang, il est devenu de plus en plus difficile à prouver à mesure que le nombre de cibles augmentait. Ce n’est qu’au cours de la guerre de Gaza de 2023, avec la décision d’attaquer des dizaines de milliers de jeunes militants du Hamas, que la nécessité de vérifier si la cible envisagée pour un assassinat avait un lien quelconque avec une organisation terroriste, s’est imposée. « L’utilisation du big data a transformé les cibles d’exécutions extrajudiciaires, passant d’individus isolés (des personnes importantes et connues) à des cas regroupés en clusters dynamiques calculés par des algorithmes. Si les « assassinats ciblés » requièrent certaines technologies de renseignement et de surveillance, l’analyse des mégadonnées a été progressivement introduite, d’abord pour réduire le taux élevé d’erreurs d’identification humaine, puis, à plus grande échelle, pour rationaliser les opérations d’assassinat, en réduire les coûts et en étendre la portée ». Bien que l’utilisation de l’IA pour « incriminer » des cibles repose sur l’individualisation et la juridicisation de la guerre, la quantification automatique des risques entre en conflit avec des principes juridiques fondamentaux tels que le raisonnement, la réflexion et la prise de décision contextualisée. Les chercheurs critiques Nicola Perugini et Neve Gordon affirment que les assassinats ciblés reposent sur un « dispositif de distinction » conçu pour désigner des cibles humaines à des fins militaires en identifiant des « anomalies » dans les relations entre les données, c’est-à-dire en surveillant les comportements et en repérant les irrégularités. Les écarts statistiques sont alors considérés comme des écarts normatifs passibles de la peine de mort, comme l’expliquait le politologue Hendrik Huelss. 

Avant même leur automatisation, les assassinats se fondaient déjà sur l’identification de schémas de vie associés au terrorisme. La surveillance et les données permettent de requalifier des individus, auparavant considérés comme des « civils » protégés, en cibles ennemies jugées moralement et légalement abattables, même lorsqu’ils ne participent pas directement aux hostilités. Eric Bonds a qualifié ce phénomène de « violence humanisée », une nouvelle forme de violence qui se manifeste à la fois par une pratique (fondée sur la surveillance et les technologies d’élimination de précision) et par un discours de légitimation (qui s’appuie sur le langage des droits de l’homme et qui, comme le présente ses partisans, paraît rationnel, mesuré et humain, car ils s’efforcent de minimiser les dommages causés aux civils innocents en évaluant les dommages collatéraux prévus de chaque frappe par rapport à son avantage militaire). Ceci produit un « effet paradoxal » : le strict respect des procédures et des critères juridiques (qui interdisent de cibler les civils ne participant pas aux hostilités et exigent que les dommages causés aux civils soient minimaux) tout en permettant de les contourner. 

Le scoring pour renforcer la tolérance à l’intolérable

Le paradoxe, c’est que la justification par le calcul renforce la tolérance à l’égard des meurtres de civils. « L’utilisation de technologies avancées visant à réduire les dommages causés aux civils (par exemple, la reconnaissance faciale pour éviter les erreurs d’identification et l’imagerie satellitaire pour estimer les dommages collatéraux et calculer la proportionnalité avec une précision actuarielle) et le recours à des calculs proportionnels à l’avantage militaire renforcent la légitimité et la tolérance à l’égard des meurtres de civils ». 

En effet, ces calculs rendent chaque attaque juridiquement justifiée et les décès de civils regrettables, mais légitimes. Les efforts déployés pour minimiser les « dommages collatéraux » (en avertissant les civils avant les attaques et grâce aux calculs de proportionnalité) présentent les incidents ayant entraîné de nombreuses victimes civiles comme des accidents involontaires comme l’explique Craig Jones dans son livre The War Lawyers (Oxford University Press 2020 ou Yael Levy, dans le sien Shooting without crying: The new militarization of Israel in the 2000s, 2023). Et la numérisation renforce considérablement cette légitimation : les scores calculés par algorithme bénéficient d’une aura d’objectivité et de confiance en raison de la confiance bien documentée accordée aux chiffres – notamment par l’historien des sciences Theodore Porter dans son livre, La confiance dans les chiffres (Les Belles lettres, 2017). En convertissant l’incertitude quant aux dommages potentiels causés aux citoyens en « risques » mesurables, les algorithmes transforment les dilemmes moraux en procédures technico-informatiques et finalement réduisent les doutes moraux et la réflexivité, comme le montrait Lucy Suchman dans un article de recherche. Finalement, le ciblage automatisé permet de légitimer les frappes, qu’importe les dégâts qu’elles causent. Or, la violence « humanisée » tue principalement des civils (60 % à 90 % des décès sont des « dommages collatéraux » expliquaient déjà Perugini et Gordon, rappelant également qu’elle est imprécise et surtout qu’elle restreint les catégories protégées tout en légitimant le meurtre). 

Contrairement aux tirs des chars, les frappes aériennes contres des cibles spécifiées par le renseignement sont soumises aux principes du droit international humanitaire qui définit les conditions de la légitimité de la violence militaire et doivent donc être traduit en procédures formelles qui encadrent la définition des cibles. Le droit humanitaire repose notamment sur des principes de distinction (ne cibler que les cibles militaires dont l’attaque procure un avantage militaire, et non les civils ou les infrastructures civiles), de proportionnalité (interdire les attaques qui causent des dommages disproportionnés aux civils par rapport à l’avantage militaire obtenu) et de précaution. Mais une autre doctrine est venue également changer le cours de la guerre : la doctrine de la létalité. Plus que le contrôle du terrain, le nombre de morts ennemis est devenu le principal critère d’évaluation des opérations militaires ou des performances des unités. L’industrialisation de l’extermination de précision, défendue par Aviv Kokhavi, chef d’état major de l’armée israélienne, exigeait la production en masse de cibles pour les frappes aériennes. Mais la cible, même légitime, est une construction politique et sociale, comme le montrait l’article de +972 Magazine, qui évolue selon le contexte, à l’image des dommages collatéraux afférents autorisés ou du niveau du scoring qui transforme un soupçon en cible. 

En effet, les procédures utilisées pour transformer des personnes ou des bâtiments en cibles impliquent divers acteurs s’intégrant à un réseau : non seulement les définitions juridiques, les concepts moraux et les agents de renseignement, mais aussi les documents de renseignement, les technologies de surveillance qui les produisent et les technologies utilisées pour les traiter et les analyser. La construction des cibles n’étant pas uniquement un processus social, les évolutions technologiques peuvent la transformer. Et le scoring est justement en passe de devenir le facteur d’accélération. 

Comment l’IA a-t-elle modifié la construction des cibles, qui n’est pas uniquement un processus social ? Lors de la guerre de Gaza, Israël a utilisé deux types de systèmes d’IA distincts, l’un pour les cibles d’infrastructure et l’autre pour les cibles humaines, explique Schwarz. Ces systèmes avaient des historiques différents, mais présentaient de nombreux points communs. Les personnes interrogées ont souligné que ces deux systèmes ne prenaient pas de décisions à la place des humains, mais accéléraient la production de cibles de deux manières : en fusionnant les informations provenant de sources multiples et en rendant accessibles aux analystes toutes les informations pertinentes concernant chaque cible potentielle ; et en classant les cibles potentielles selon leur probabilité estimée. Ainsi, les analystes humains peuvent se concentrer exclusivement sur les cibles les plus susceptibles d’être approuvées : « [Supposons] que vous disposiez d’un milliard d’informations et que (…) vous n’ayez que 100 cibles alors que vous avez 10 000 candidats. Alors, à quoi sert l’IA ? À une seule chose : les trier par ordre de priorité. (…) [L’ordinateur] a pris les 10 000 suspects, a examiné quelques milliers de cas avérés et [a reçu l’instruction de trier] tout ce qui se ressemble sur tous les points. Ensuite, la machine établit les priorités, c’est tout. Une fois les priorités établies, elle indique aux services de renseignement : vérifiez ceci, cela et cela. Attribuez une file d’attente. (…) Cela signifie que le travail est rationalisé. Mais aucune machine ne décide », déclarait un officier de l’armée israélienne. 

Ce discours humaniste et anthropocentrique, également fréquent dans les déclarations de Tsahal sur l’IA, minimise le rôle de la technologie, la réduisant à un simple outil au service d’objectifs humains. L’armée israélienne a décrit le système d’IA « Gospel » comme un simple « outil technique destiné aux analystes du renseignement », car sa traçabilité et son intelligibilité permettent aux analystes d’examiner eux-mêmes les éléments de renseignement sur lesquels reposent ses recommandations. Cependant, même une délégation partielle du ciblage peut avoir des conséquences plus importantes : d’une part, les pressions organisationnelles de niveau intermédiaire en faveur de l’efficacité et les biais d’automatisation de niveau micro peuvent conduire les analystes humains à approuver les recommandations du système de manière quasi automatique (comme nous le disions dans la seconde partie de notre dossier) ; d’autre part, les outils ne se contentent pas de réaliser les objectifs des utilisateurs, mais les façonnent également en proposant de nouvelles pistes d’action permettant l’accélération. Yossi Sariel, ancien commandant de l’unité de renseignement 8200 de Tsahal, a soutenu que l’accélération est l’une des deux principales contributions de l’automatisation informatique au renseignement. Selon lui, la production d’un plus grand nombre de cibles est nécessaire pour exercer une pression constante sur l’ennemi et le vaincre, mais l’intervention humaine constitue un goulot d’étranglement, car la création d’un tel nombre de cibles exigerait des milliers d’enquêteurs traitant et analysant les données pendant des années. Pour lever cet obstacle, il faudrait une « équipe homme-machine » capable de constituer une base de données de dizaines de milliers de cibles et d’en générer des milliers d’autres chaque jour de combat, comme il l’expliquait dans son livre éponyme. La seconde contribution identifiée par Sariel est la prédiction, définie comme le fait de « compléter les informations manquantes » à partir des tendances observées dans les données massives. La prédiction n’est donc pas seulement orientée vers l’avenir (prédire qui commettra un attentat-suicide), mais surtout vers le présent et le passé (prédire où des armes ont été dissimulées). Les prédictions revêtent alors une importance épistémologique : « elles permettent d’incriminer des personnes et des lieux sur la base d’informations incriminantes inconnues, déduites d’éléments non incriminants connus ». L’IA sert à la production d’inférences, de décisions probabilistes que leur niveau de probabilité valide. 

La probabilité sert à générer les cibles et intensifier les frappes

La génération par IA de cibles d’infrastructures (de bâtiments) s’effectue au sein de la Direction du ciblage de l’armée israélienne, créée en 2019, explique Schwarz. Cette création faisait suite à un rapport du Contrôleur de l’État indiquant que la banque de cibles disponible au début de la guerre de 2014 entre Israël et le Hamas était bien inférieure au potentiel réel. Une personne interrogée a expliqué les raisons de la création de cette direction en ces termes : « On veut disposer d’une banque de cibles de qualité, que l’on peut frapper pour contraindre le Hamas à capituler » ; or, en 2014, « cela ne s’est pas passé ainsi : il a fallu envoyer des troupes au sol ». L’armée et les médias israéliens ont présenté cette direction et le système d’IA « Gospel » comme la solution. 

Lors des conflits précédents, la banque de cibles s’épuisait après quelques jours ou semaines de bombardements intensifs, limitant le volume de tirs. La direction a promis de remédier à ce problème en accélérant et en rationalisant la génération de cibles, tant avant que pendant les hostilités, afin de « transformer la capacité de destruction de Tsahal en un système industriel » capable de « détruire des milliers de cibles chaque jour », explique un article de Ynet, l’un des journaux en ligne hébreu. Pour y parvenir, Gospel fusionne des milliards de données provenant de sources variées (et notamment du renseignement, telles que des appels téléphoniques interceptés et des photographies aériennes), identifie des cibles potentielles grâce à l’apprentissage automatique (en se fondant sur leur ressemblance avec des cibles précédemment validées) et les classe selon la probabilité qu’il s’agisse de cibles légitimes et de qualité. Ces recommandations classées sont ensuite transmises à des analystes humains pour décision, puis à des officiers supérieurs pour approbation.

Cette automatisation partielle accélère considérablement la génération de cibles. Un officier supérieur du renseignement a noté : « Gospel dispose d’une interface utilisateur très simple qui organise la file d’attente des cibles en fonction de la probabilité et de l’importance. Ainsi, l’opérateur humain reçoit simplement une liste établie par la machine, indiquant la probabilité qu’il s’agisse d’une cible valide ainsi que son importance. Le système fonctionne par scores. Par exemple, il s’agit d’une cible avec une probabilité de 80 % ou de 30 %. La machine émet donc une recommandation : « À mon avis, c’est une cible. » L’opérateur prend alors le relais, vérifie le processus suivi par la machine, exerce son jugement – car la machine peut parfois commettre des erreurs – et décide finalement s’il s’agit bien d’une cible. »» Un autre officier a expliqué que la priorisation automatisée était devenue nécessaire en raison de la « croissance exponentielle » du volume de données (consécutive à la numérisation, à la « datafication » et à l’impératif de collecter et d’analyser toutes les données), rendant l’analyse humaine impossible : « Que faire ? Recruter 50 000 agents de renseignement ? Nous ne les avons pas. Alors, utilisons un bon ordinateur pour effectuer la priorisation à notre place. En somme, c’était la mission assignée à la Direction du ciblage. » Un juriste impliqué dans l’élaboration des cibles a affirmé que la cadence de production du système était 50 fois supérieure à celle d’une équipe de 20 officiers de renseignement. Les personnes interrogées ainsi que les déclarations officielles de l’armée ont souligné que la Direction du ciblage avait pour vocation de « constituer de vastes banques de données » afin de permettre l’attaque de « milliers de cibles en une seule journée », industrialisant ainsi l’extermination. Comme souvent, cette industrialisation s’est accompagnée d’une intensification du travail : dès 2019, les soldats de cette direction nouvellement créée ont fait état de pressions visant à accélérer la production de cibles en faisant l’impasse sur un examen approfondi, avec des mesures incitatives – telles que des jours de congé – pour les équipes les plus « productives ». La durée de validité limitée des cibles a été prolongée grâce à une modification des procédures, autorisant le bombardement de cibles plusieurs mois après leur identification, sans nouvel examen, expliquait Haaretz. 

« L’accélération de la production de cibles est jugée cruciale en temps de guerre et l’IA permet justement d’accélérer la production ». Cette accélération a atteint son paroxysme lors de la guerre contre Gaza : au 27e jour du conflit, Tsahal a annoncé avoir frappé 12 000 cibles tout en générant simultanément 1 200 nouvelles cibles grâce à son « usine à cibles » fonctionnant 24 heures sur 24. 

Mais l’utilisation de l’IA pour identifier des listes de personnes à cibler plutôt que des lieux relève d’une autre dynamique, explique Schwarz. Une dynamique qui a débuté avec le recours à l’IA pour des arrestations préventives.

À l’automne 2015, Israël a dû faire face à une vague d’attaques spontanées, perpétrées principalement par des adolescents. Il était difficile de déjouer ces attaques, car les auteurs n’étaient affiliés à aucun réseau terroriste ou de guérilla. En conséquence, les services de renseignement israéliens ont mis au point un modèle visant à prédire quels adolescents étaient les plus susceptibles de commettre des attaques, en analysant les schémas d’activité sur les réseaux sociaux (publications, « like », commentaires, émojis, nouveaux liens) ainsi que des données provenant d’autres sources (par exemple, les données de localisation), en attribuant à chaque adolescent palestinien un score de risque. Le modèle s’appuyait sur des schémas prédictifs identifiés à la fois par l’apprentissage automatique (analyse de mégadonnées) et par des analystes humains (par exemple, de nouvelles coupes de cheveux, les auteurs d’attentats-suicides adoptant souvent une nouvelle coiffure peu avant de passer à l’acte). Ce modèle a conduit à l’arrestation préventive de centaines d’adolescents palestiniens. 

D’autres systèmes ont été développés par la suite pour identifier des membres d’organisations terroristes en vue de leur arrestation et de leur interrogatoire. Lors de la guerre à Gaza, cette stratégie a été étendue pour dresser des listes de cibles à éliminer d’une longueur sans précédent, appliquant les principes de la police prédictive pour produire des cibles à éliminer. Le système d’IA « Lavender » attribuait à presque tous les habitants de Gaza un score de probabilité d’appartenance au Hamas, en se fondant sur des facteurs couramment utilisés dans la police prédictive comme le montre la sociologue Sarah Brayne dans son livre, Predict and surveil (2021, Oxford university Press), notamment les réseaux personnels, les habitudes de vies comme les lieux fréquentés et les déplacements. 37 000 Palestiniens ont été identifiés par algorithme comme étant probablement des membres du Hamas comme le montrait Abraham dans son article pour +972 Magazine.

« Les scores de probabilité transforment la distinction entre terroriste et civil, passant d’une catégorie binaire à un continuum statistique ». Les individus classés par l’IA comme membres probables du Hamas étaient alors ajoutés aux listes de cibles à éliminer sans réel examen supplémentaire. D’autres rapports font état d’une certaine forme de supervision humaine ; par exemple, des officiers auraient corrigé une erreur d’interprétation de l’IA qui avait pris une liste d’élèves du secondaire pour une liste de militants potentiels, une erreur qui aurait pu conduire à désigner à tort 1 000 adolescents comme cibles. 

Reste que l’accélération n’a pas été que technologique, elle a aussi été politique.  Le Premier ministre Benjamin Netanyahu aurait reproché au chef d’état-major Herzi Halevi de n’avoir bombardé « que » 1 500 cibles au cours des 48 premières heures du conflit ; il a rejeté l’explication de Halevi, qui indiquait ne pas disposer de 5 000 cibles, en déclarant : « Je m’en fiche ». Sans l’IA, estime Schwarz, « il aurait été difficile d’atteindre une telle ampleur de morts et de destructions ».

L’armée israélienne a assoupli son interprétation du droit international humanitaire pendant la guerre sans pour autant abandonner totalement ce cadre, par exemple en relevant les seuils de « dommages collatéraux » et en autorisant des attaques ciblées contre chacun des 37 000 membres présumés de rang inférieur du Hamas, à condition que le nombre de décès civils anticipés reste inférieur au seuil. La pratique du « roof-knocking » (bombardements d’avertissement) a été abandonnée et des cibles présentant une probabilité moindre ont été prises en compte. En conséquence, le taux de mortalité civile s’est envolé. L’approche vis-à-vis des infrastructures civiles a également évolué pour maximiser la destruction : des immeubles de grande hauteur et des bâtiments universitaires par exemple ont été désignés comme des cibles essentielles et visés en raison de la présence d’un objectif militaire légitime à un seul étage, mais détruits par un armement provoquant l’effondrement de l’édifice tout entier.

Au regard du droit international, cela pourrait être considéré comme une violation des principes de proportionnalité et de précaution. Mais cette proportionnalité et ces précautions, on le voit, permettent aussi de faire varier les classement en ajustant les justifications, sur la base de données singulières et spécifiques l’associant au Hamas avec une certaine probabilité. Tout l’enjeu consiste à fourbir des probabilités et les compléter de narratifs adaptés afin de produire des explications. La destruction des infrastructures civiles, quelle que soit la raison, est devenu l’objectif derrière les justifications : toutes les cibles détectées sont devenues un moyen pour raser Gaza. 

L’IA : l’outil pour légitimer la guerre

Pour Ori Schwarz, « les systèmes d’IA ont épargné les dilemmes moraux en légitimant les attaques. Le rôle de l’IA a donc consisté à ériger le général en singulier, transformant presque tout en cible ». Pour Schwarz, avec la guerre à Gaza, l‘IA est devenue un outil de légitimation : l’automatisation permet le respect des procédures. Elle est un moyen  pour « préserver les normes éthiques en les inscrivant dans le code, les transformant de règles réglementaires en règles génératives inviolables ».

Comme c’est le cas depuis longtemps, l’automatisation est censée garantir l’éthique. Mais ce n’est pas si vrai. D’abord parce que le système permet d’abaisser le seuil de confiance du ciblage et donc faire que la machine contourne la règle. Et surtout que l’opacité et la complexité du calcul permettent de faire disparaître ses défaillances et la surveillance par les opérateurs humains. 

Le statut moral dépend désormais des procédures et non des résultats. Mais surtout, en validant les dommages collatéraux, l’IA a servi de mécanisme de légitimation des massacres de civils. Tactiquement, le rasage des zones urbaines avant les manœuvres terrestres permettait aussi de protéger les soldats israéliens. Enfin, le ciblage fournit un prétexte pour la destruction, une « couverture morale ». 

Certains officiers souhaitaient que l’IA puisse générer elle-même les attaques depuis les scores produits. Cette proposition ne s’est pas encore concrétisée, mais les digues sont prêtes à lâcher, estime Schwarz. Notamment parce que les humains dans la boucle de la vérification ne servent déjà plus que d’agents d’enregistrement, chargés de validés les cibles en quelques secondes, sans avoir le temps d’examiner les données ni de comprendre les calculs qui les produisent. Pour Schwarz, si l’armée israélienne n’a pas franchi le pas, c’est notamment parce que le droit international humanitaire exige qu’un humain réponde de chaque décision. Mais plus encore, parce que garder un humain dans la boucle donne l’apparence d’une décision issue d’une délibération humaine.

C’est oublier que l’IA n’organise pas seulement la file d’attente des cibles, elle les désigne. Ce sur quoi les humains ont encore le contrôle reste surtout les critères pris en compte par les données et les seuils. Pour Schwarz, l’élaboration des cibles n’est pas un processus purement social, mais elle n’est pas non plus purement technologique. Le ciblage doit pouvoir être expliqué, contre-interprété. Les opérateurs ne font pas nécessairement confiance aux scores produits, tant qu’ils ne pensent pas les comprendre « et après l’avoir testé sur la durée, en constatant qu’il est cohérent avec le scénario qu’il a en tête » (même constat pour les radiologues confrontés aux résultats de l’IA). La validation d’une cible repose toujours sur une preuve, c’est à dire un récit. Et les analystes doivent souvent défendre leurs choix et validation, comme s’ils étaient face à un tribunal. Ils doivent défendre la cohérence des éléments qu’ils ont sous les yeux. Le risque à terme, suggère Schwarz, c’est que l’IA produise aussi les récits, quand bien même ils seraient aussi faux que les éléments cohérents que valident les humains. Un système d’IA pourrait identifier un lieu fréquenté par plusieurs militants et lui attribuer une priorité élevée, sans envisager qu’il puisse s’agir d’un restaurant, ou qu’une conversation interceptée évoquant le terrorisme provienne en réalité d’un film diffusé à la télévision. Les systèmes d’IA servent « à trouver des corrélations (…) entre toutes sortes de variables que vous ne jugiez pas intéressantes jusqu’alors (…) Évidemment, je présente aux analystes du renseignement une grande quantité de données et de corrélations en leur disant : « Regardez, c’est intéressant ». » Les analystes tentent ensuite d’ouvrir la « boîte noire » et d’élaborer un récit expliquant le fonctionnement du modèle et les raisons de son efficacité, une étape nécessaire pour que le modèle inspire confiance et soit mis en service. « Je leur montre des points de données très précis, [des variables prédictives] », explique un officier chargé de la formation des agents aux outils. Toutefois, il souligne que dans ces situations, les prédictions du système ne servent pas à désigner des cibles tant que les analystes n’ont pas ouvert la boîte noire et expliqué pourquoi ces variables spécifiques intégrées au modèle permettent de prédire les résultats. Pour Schwarz, ces débats contredisent la promesse épistémologique de l’IA – fondée sur un empirisme radical – selon laquelle la prédiction rendrait l’explication superflue, ou qu’il n’y aurait plus besoin de théorie. 

Reste, rappelle Schwarz, que même si vous faites confiance à vos experts en science des données et que vous avez collecté et testé les données avec soin, vous ne pouvez pas juger de leur qualité. Vous devez expliquer le plus précisément possible ce que les variables indiquent et pourquoi le modèle prédit ce qu’il prédit. Par conséquent, l’analyste ne renoncera pas à comprendre la signification des corrélations et les raisons des choix du modèle. Les développeurs débattent souvent de la meilleure façon de représenter ces corrélations sans induire les utilisateurs en erreur. Si la classification algorithmique des individus comme cibles à forte probabilité est effectuée automatiquement, sans récit, les agents de renseignement en construisent, à la fois en amont, lors du développement du système, et ultérieurement, afin de conférer sens et légitimité aux recommandations algorithmiques (même si cette dernière dimension a pu s’éroder en raison de l’accélération de la production de cibles en temps de guerre). 

Instaurer la confiance : camoufler l’IA 

La confiance dans les chiffres n’est pas aussi omniprésente et automatique que la littérature pourrait le laisser croire. Dans notre cas, les utilisateurs finaux des systèmes de mégadonnées (analystes du renseignement) étaient initialement méfiants à l’égard de l’automatisation et des probabilités calculées algorithmiquement. Un développeur que Schwarz a interviewé leur a reproché de se méfier des systèmes d’IA en raison de leur « peur de l’erreur » et de leur prudence excessive (« Ils ont besoin d’un niveau de certitude non pas de 100 %, mais de 200 %, et une telle chose n’existe pas »). Face aux soupçons et à la nécessité de « faire confiance aux chiffres », les developpeurs du système ont entrepris un travail de sensibilisation et élaboré une stratégie sophistiquée : dissimuler le rôle de l’IA et insister sur l’implication humaine. « Les agents du renseignement n’utilisent pas l’IA, ils utilisent des outils conçus pour eux, et de leur point de vue (…), s’il y a de l’IA, d’après mon expérience, ils ne lui font pas confiance. En fait, pour les inciter à l’utiliser, nous n’avons pas dit “c’est de l’IA pure”, mais nous nous sommes assurés que l’agent qui examine une cible puisse voir que Sharon l’a déjà examinée, qu’il puisse voir le nom de la personne qui l’a fait, et qu’il connaisse Sharon. » Ils doivent savoir que Sharon est la meilleure pour identifier les cibles et, par conséquent, ils peuvent lui faire confiance. Dans cet exemple, ils ont tiré parti de la confiance que le personnel du renseignement accordait à une ancienne agente de renseignement très appréciée (« Sharon »), promue et mutée au sein de l’équipe technique. Elle y étiquette les données et valide les cibles générées par algorithme avant leur transmission aux services de renseignement et juridiques pour approbation. La confiance personnelle en Sharon peut faire toute la différence : « Nous avons constaté que lorsqu’une personne comme Sharon est présente, ils font confiance au système ; en revanche, lorsqu’on leur dit “ce n’est qu’un modèle”, ils n’y croient pas [et recommencent le processus manuellement depuis le début]. » Paradoxalement, la confiance dans l’IA (nécessaire à la délégation partielle du travail de renseignement aux algorithmes) exigeait la confiance envers les personnes qui faisaient confiance à l’IA, camouflant ainsi le rôle de cette dernière.

Nous savons que l’IA n’est pas une magie sans intervention humaine ; elle repose sur le travail humain, parfois dissimulé sous l’apparence de décisions de la machine, rappelle Schwarz en évoquant les travaux relatifs au Digital Labor. Or, ici, c’est l’inverse qui se produit : lors du développement des modèles, les décisions des machines doivent être expliquées par des experts humains qui en reconstituent la logique ; et plus tard, lorsque ces systèmes sont utilisés pour produire des cibles, leurs recommandations doivent être camouflées en décisions d’experts humains. Enfin, en temps de guerre, lorsque les analystes du renseignement consacrent à peine 20 secondes à approuver les recommandations de l’IA, le travail de cette dernière est une fois de plus dissimulé sous l’apparence de délibérations humaines. 

C’est peut-être à cela que sert encore l’humain dans la boucle : valider les procédures humaines plus que juger du travail des systèmes d’IA. 

En examinant de près l’utilisation de l’IA pendant la guerre de Gaza, l’article de Ori Schwarz montre que l’IA était nécessaire non pas pour personnaliser le traitement, mais pour justifier un traitement uniforme en créant des justifications personnalisées pour le ciblage de presque chaque bâtiment ou agent présumé du Hamas, et pour accélérer l’incrimination et la production de cibles à des niveaux sans précédent sans s’écarter complètement du cadre du droit international humanitaire, légitimant ainsi des massacres et des destructions de masse effroyables en s’appuyant sur des calculs et des procédures de probabilité prétendument objectifs, inscrits dans le code. 

L’article de Schwarz, montre également que les études critiques sur les impacts sociaux des algorithmes doivent aller au-delà de la simple critique de leurs erreurs et de leurs biais. Ces derniers ont constitué jusqu’à présent le cœur des critiques, et ce pour une bonne raison : malgré leur prétention à la neutralité, les systèmes d’IA sont sujets aux erreurs en général et, en particulier, à la reproduction d’inégalités découlant de biais, dans la mesure où les données utilisées pour leur entraînement consignent et reflètent des préjugés humains. Plus précisément, les erreurs et les biais sont au centre des débats sur l’usage de l’IA dans la guerre, y compris lors du conflit à Gaza.

Mais, estime-t-il, un système d’IA parfait, sans erreur ni biais, « pourrait aboutir aux mêmes conséquences effroyables, simplement en accélérant considérablement la production de cibles et en en réduisant le coût » : le fait de cibler des dizaines de milliers d’objectifs identifiés par le renseignement – une tâche dont la réalisation était pratiquement impossible avant l’IA – conduit presque inévitablement à des destructions et à des tueries de civils à grande échelle. Pire, l’IA permet bien plus de produire des justifications, même de ses erreurs et errements, en les recouvrant d’une complexité et d’un vernis d’explication.

Si la destruction de Gaza répondait à des motivations politique, l’IA a été indispensable pour inscrire la destruction dans le cadre du droit international humanitaire (tout comme les ciblages sociaux s’inscrivent également dans le cadre du droit, malgré leurs défaillances manifestes). Ce potentiel de légitimation pourrait être exploité au-delà du contexte israélien, alors que des systèmes similaires sont adoptés par d’autres armées officiellement attachées au respect du droit humanitaire international. « Si l’accélération peut sembler relever d’un simple changement quantitatif, elle a en réalité engendré une transformation qualitative majeure. Le rôle joué par l’IA dans la légitimation de ces massacres nous rappelle que les caractéristiques et les affordances ne définissent pas les technologies de manière isolée : elles sont façonnées par les contextes juridiques, structurels, culturels et moraux, ainsi que par les réseaux ou dispositifs hétérogènes au sein desquels les technologies opèrent. Il est crucial de prendre en compte ce contexte pour comprendre comment il a pu engendrer des effets effroyables, mais aussi pourquoi il s’est avéré impossible d’éliminer l’humain de la boucle, et pourquoi le travail culturel de production de sens effectué par les humains était nécessaire pour légitimer l’automatisation partielle ayant conduit à cette accélération sans précédent de la production de cibles.» 

*

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des armées à leurs missions. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées. Et c’est ce que produit le score d’appartenance à l’ennemi et les seuils de dommages collatéraux autorisés. La guerre de demain se joue sur les données, leurs croisements sans limites et les seuils adaptables. Des éléments sur lesquels le droit international n’a pour l’instant pas défini de pratiques et qui, sans encadrement,  risquent de permettre tous les glissements moraux du calcul, comme on le constate partout où le scoring se déploie.  

Hubert Guillaud

Music streaming service Tidal announced it won’t pay royalties for AI-generated music in an email to users and an announcement on its website published Monday. “Tidal’s priority is ensuring royalties go to original works directly produced, written, and performed by people,” the announcement reads. “We will therefore not knowingly attribute royalties to music we identify as wholly AI-generated.”

Like much of the internet, music streaming services are awash in AI-generated slop. Spotify promised to fight AI spam with labeling and filtering but also embraced the broader trend of AI music. AI-generated bands like The Velvet Sundown and Breaking Rust have millions of listens on Spotify and make the service money. In May, Spotify announced a deal with Universal that would let fans create “covers and remixes of their favorite songs.”Soon Spotify customers will be able to push a button and discover what Metallica would sound like if it were a reggae band. 

Tidal is trying something different. The streaming service isn’t a giant in the field — Apple Music, YouTube, and Spotify dominate the charts — but it’s built a reputation by collaborating with artists, giving them a bigger cut of the streaming profits, and focusing on delivering high quality versions of audio. Tidal is the streaming service for listeners obsessed with bit-rate and FLAC. It’s for people who have $200 digital-to-analog converters next to their computer.

The company said it won’t pay for “wholly” AI-generated music but it also said it won’t remove AI-tainted music from the platform entirely. Like Spotify before it, Tidal said it’s going to work to identify the AI slop on its platform, label it, and hold AI-generated music to a “higher standard of content integrity.” Spotify said something similar last year, but there are still plenty of unlabeled AI-generated tracks on the platform.

Tidal also said it won’t remove AI-tainted music entirely. “Artists should have the freedom to create with AI tools, and listeners should have the autonomy to choose the type of content they consume,” it said. As of this writing, The Velvet Sundown and Breaking Rust are both live on Tidal. Breaking Rust’s bio identified it as AI-generated country music, but The Velvet Sundown had no bio at all.

“Tidal will not allow music that is 100% AI-generated to be monetized. No royalties will go to such releases, nor will AI-generated uploads be eligible for direct-to-fan sales,” the company said in an email to its users.

It elaborated on its website. “Starting today, AI-generated music will not be monetizable,” it said. “We are only in the beginning of the era of AI-generated music. We acknowledge the ongoing debate regarding whether certain AI-generated music (e.g. AI-generated music developed from fairly and properly licensed models) should be entitled to earn royalties. This debate will continue as the technology advances and rightsholders and AI music platforms develop licensing models.”

It’s unclear if The Velvet Sundown and other bands like it will keep making money on Tidal. The company told 404 Media that it’s working with an external partner to manage detection and that “wholly AI-generated” was defined as a song where every component of the track was made using generative AI. “Our detection tools will determine how specific tracks and artists will be treated from July 15,” Tidal told 404 Media in an email. “The impact to royalties comes into effect starting July 15 so we don't have numbers to share just yet.”

On June 28, the day before Tidal’s announcement, The Velvet Sundown released a cover of Dolly Parton’s “I Will Always Love You” on Spotify and Tidal. It’s atrocious and it’s not labeled as AI-generated on either service.

“We exist to confuse music journalists, comfort robots, and help Spotify executives sleep at night,” says the frontpage of The Velvet Sundown’s website. “We were basically built for it, engineered to fill playlists, avoid royalties, and haunt your Discover Weekly like a ghost with good taste. Is it art? Is it a loophole? Either way, it streams beautifully."

Update 6/29/26: This story was updated to include comments from Tidal.

I am standing just outside of the Yahoo Explorer’s Society, where the line for DJ Tiësto stretches well past Microsoft Gardens, out toward the Canva Creator Cabana and Influential Beach. Thankfully the line doesn’t cross with “Make Noise, Not Just Content” featuring Diplo at Salesforce Beach, or Mumford & Sons at Spotify Beach. Tiësto started hours ago, but a mix of sweaty advertising and big tech employees still jockey for position in different priority access lines stratified by different colored wristbands depending on a mix of your position, who you know, whether you are likely to buy ads with Yahoo. Some have no wristband at all and simply have a QR code to Tiësto and are sequestered to a general admission line; a bunch of French people with no QR code at all have decided to dance on the actual sand beach just outside. 

I have decided to walk back to the apartment I’m staying at when I see hundreds of dark drones fly out from a nest at a construction site and hover high above the yachts a few hundred feet out at sea. Their lights flicker on and they form a blue and white hand with a finger pointing into the sky. The drones rearrange themselves into huge letters: “AI.” The drones shift again to read “ART & INTELLIGENCE.” They shift again to say “KARGO.” 

This is Cannes Lions, where everything is an advertisement for advertisements, a glitzy, week-long “conference” and “awards show” in Cannes, France. Big tech companies and any major company that buys or sells ads send thousands of their employees here to wine and dine each other on yachts, in bars and cafes, at brand “activations” on the beach, and in chateaus and villas. Cannes is the biggest advertising conference in the world—or at least the most glamorous—where advertising execs and brand execs form the relationships that will ultimately result in billions of dollars of ad spend, and which will shape the way we buy things, the way we’re advertised to, and the way the internet works. 

After years of hearing about Cannes from executives at VICE who went every year, I decided to go this year because some of my friends were going as part of their job. A big emphasis this year was on advertisers collaborating with creators, and we do sell ads at 404 Media and are creators, in a way. I was able to get a press pass from Cannes Lions and thought I would spend part of my time reporting, part of my time trying to meet with potential advertisers, part of my time seeing which parties I could get into, and part of my time going to the beach in the middle of one of the worst heat waves on record in Europe. I have reported on tech and advertising for a long time, have been to some big tech conferences and many tech company campuses, and I expected the entire thing to be quite ridiculous, but the conference was over-the-top in every conceivable way. 

The entire conference is an advertisement for different types of advertising, and everything that can be turned into an ad has been. The Cannes trolley cars that run up and down the beach have been bought out by Strava (“Ads don’t get people active. Strava Sponsored Challenges do. Reach over 195 million active people on Strava,” the ads on the trolleys say.) About half of the cars navigating the winding Cannes streets have been wrapped with ads for advertising on Uber or Lyft or some other platform. DoorDash took over a store directly next to Versace, PayPal took over a patisserie. There are billboards for billboard ads, though every billboard advertising employee I spoke to insisted their job was “boring” and that the buzz had moved from “outdoor” (a euphemism for billboard ads) to “IRL,” a euphemism for events that have video billboard ads at them. KARGO’s drone ad was advertising drone advertising. Serve Delivery robots were driving around advertising the fact you can advertise on the robots; the United Arab Emirates was advertising the fact that its government is willing to do ideas others “said no to.” Life360, the app that lets parents surveil their kids, threw a full week of programming which included tips about advertising on Life360. The JW Marriott had information about how to advertise via the Marriott BonVoy rewards program; United Airlines had information about how to advertise on United flights; Chase had a building about how to advertise to Chase cardholders. OpenAI and Reddit had big presences, explaining how to advertise to Redditors and ChatGPT users; Reddit’s executives tried to tow a careful line about how Reddit is “the most human place on the internet” but is also widely scraped by LLMs, while OpenAI tried to explain that humans make decisions based on what its robots say. I wandered into Meta’s beach compound and caught a portion of a panel about using Gen Z influencers to advertise in which the video sign said “Cringe or Cool? Creators who educate instead of entertain.” Free streaming tv giant Tubi was there with an indoor activation where you had to walk through a curtain that looked like Goatse. I walked by a panel where someone was explaining in great detail the creativity behind a specific tweet made by the KitKat account. Kevin Durant and Shaquille O’Neal and Oprah and Alex Rodriguez and Seth Meyers and Bryson DeChambeau were all there talking about their new podcasts or video series or partnerships or creative visions or about how talent and vision are important and in Durant’s case, about “building culture not just content.” 

The conference is so big, and represents every possible type of advertising—it is impossible to have one single takeaway or to analyze one specific trend. Some of the people I spoke to said they were worried about AI, others saw it as an opportunity. Some said advertising needed to be more human, but many of the billboards and panels suggested much of the work could be automated. Basically, if you came into Cannes with a narrative or grand pronouncement about the future of advertising, you could probably find a panel that would help you confirm that belief. But what was immediately clear is that the main purpose of Cannes is for the advertising industry to hang out and drink rosé and spritzes on the beach, on yachts, in bars, and bistros, either at specific parties or on their own company’s expense account. It would be possible to do the business part of this conference at a hotel in Pennsylvania or Maryland or Vegas, but that would defeat the overall purpose, which appears to be drinking champagne in the south of France.

Every major tech company had either a “plage,” or beach activation area which basically consisted of tents, bars, and stages for panels and/or highly paid concerts; this often resulted in people in sneakers, khakis and dress shirts standing on the sand talking to each other a few hundred feet from vacationers swimming in the ocean. Besides Salesforce Beach, Microsoft Gardens, and Canva Creative Cabana, there was “Sport Beach,” The Female Quotient, Google/YouTube Beach, the “Reddit Cafeteria,” and more. Just behind the plages are other brand activations that happen either in hotels or luxury stores. A DoorDash Ads store was located directly next to Versace, for example. The Carleton hotel was divided into “TikTok Jardins,” LinkedIN Rooftop, MIQ House (an adtech company), and then rooms for something called “The Team,” Vox Media, and Fox. These plages were not to be confused with “BRAND BEACH,” which was a separate area along the beach filled with little cubes for brands to take meetings in.

There were also lots of companies you probably haven’t heard of, with inscrutable names and impossible-to-explain products. I went to numerous panels where one of the panelists listed a series of acronyms or products, and another panelist or the moderator responded “I have no idea what you just said.” 

“DSPs are on the TV sidelines: Tatari gets brands in the big game,” one billboard I saw in Cannes read. “Tell us what Braze does,” another huge billboard read; when I walked by the Braze tent, I heard someone ask them what Braze does and it was deeply unclear (The answer, according to its website: “Braze is a customer engagement platform that empowers brands to Be Absolutely Engaging.™” Conveo pitched “Always on customer understanding,” and MiQ pitched the idea that you can buy ads with an AI and can create digital AI personas: “Sigma’s upgraded gen-AI omnichannel audiences gives advertisers over 1 million targeting options,” its ad in front of the Carleton hotel read. I saw a billboard that just said “Infillion Yieldmo.” One billboard I saw just read “Creative as an AI-operated system.” A car driving around Cannes read “an AI bought this ad.”

Nominally, Cannes Lions is an award show that honors the most creative and innovative advertisement campaigns of the past year. The basement of the Palais des Festivals, which is basically a huge convention center, is filled with images of iconic ads from the last few decades, and there is a red carpet and daily awards ceremonies. The Cannes Lions website notes it is “where creativity drives progress,” and states that “The Awards underpin everything that makes Cannes Lions what it is—the home of creative excellence and effectiveness—and each year a new global benchmark for creativity is set.” Inspirational messages inside the Palais highlighted creativity and the human touch with empty little platitudes; one read “Personal growth is no longer a nice to have. It’s a must have.” Another said “DRIVE PROGRESS. THIS IS YOUR MOMENT.” A third said “CREATE EMOTIONAL STORIES.”

A billboard on the outside of the Palais for a company called Smartly, however, reads “Creativity gets you the trophy. Our ROAS gets you the yacht.” 

A lot of the point of Cannes, it seemed to me, was to get onto a yacht, have a yacht, know someone on a yacht. There is an entire yacht section of Cannes. Most of the yachts do not leave the port where they are docked; their private rooms are turned into meeting spaces and their decks just throw tightly controlled parties all day. Big companies rented entire yachts, other companies shared them. I was invited to take a meeting on the Hewlett Packard yacht, which was actually a yacht called The Room, which was shared by HP, Outfront (which sells billboard space), something called Xumo, and a company called InMarket. There was a Mercedes Benz/F1 yacht, a Samsung Ads yacht, an Integral Ad Sciences adtech company yacht, an Accenture yacht, a White Lotus / HBO yacht, among others. Some of the yachts had hot tubs, all of them had lots of free alcohol (rosés and spritzes), hors d'oeuvres, and men in knit polos and sneakers and women in sundresses.

While inside the Palais there was lots of high-minded discussion about the creativity of advertising, a lot of the actual conversations I heard were about making more money, who was meeting with who, what parties were happening, did someone have a colleague or friend who could get them on a party invite list. There did not seem to be much discussion about the broader concerns of an increasingly stratified economy, other than “this is ridiculous,” as in, ridiculously over-the-top, ridiculously hot, ridiculous that partying this hard was “work.” The most immediate concerns I heard from people seemed to be how to get into exclusive parties, where the next bottle of rosé would come from, and whether they would be invited back next year. 

The festival went all week, and by the second day people are hungover and sunburnt. As the week went on, I saw less khakis and more shorts, with people desperate to do anything to cool down (ironically the best way to do this would have been to go swimming; we were at the beach, after all). Because I did not have a sales quota to hit or a number of meetings I had to do, I spent most of my time wandering around, taking pictures of billboards, taking breaks to swim, going to panels inside little air conditioned tents, and yes, drinking rosé and spritzes. 

The last night I was there was Tiësto, which I vaguely tried but couldn’t get into. I decided to have a beer outside at a bar nearby and people watch. It was then that I saw the drones hovering high over Salesforce Beach. The drones looked kind of beautiful, and were forming into a figure. It was the Kool-Aid man punching through a wall. “BREAKTHROUGH IMPACT,” the drones formed to read. “KARGO.” It was just another ad. I walked home, thinking that I’d had fun, in the way that a music festival or Vegas can be fun, in the way that after you leave, you feel like you’ve been hit by a Strava-sponsored bus.

C’est un texte anonyme. Parmi les rares liens qu’il propose, une référence aux arguments de l’EFF contre la vérification d’âge. Les images qui l’illustrent semblent faites à l’IA. Il est probable que le texte lui-même soit produit avec de l’IA. Reste que ses arguments marquent. 

« Ils veulent votre visage. Ils appelleront cela « sécurité », « vérification » ou « confirmation de l’âge ». Un petit pas pour protéger les enfants, diront-ils. Mais si l’on écarte les beaux discours, l’exigence est claire : avant de pouvoir parler, publier ou lire, vous devez d’abord prouver qui vous êtes. Et la seule méthode qu’ils ont trouvée consiste à utiliser votre pièce d’identité officielle ou à placer votre visage face à une caméra qui décidera si vous êtes assez âgé pour mériter leur confiance. C’est le dispositif actuellement inscrit dans la loi sur trois continents, et l’on attend de vous que vous l’acceptiez sans broncher. Ne le faites pas.»

« Ils ne cherchent pas à connaître votre âge. Ils cartographient votre visage. (…) Il ne s’agit pas d’une vérification de l’âge. Il s’agit d’une vérification de l’identité. (…) Observez le glissement sémantique. Tout ce système a été présenté comme un moyen de confirmer l’âge — une simple question binaire : avez-vous plus de dix-huit ans ? Or, presque aucun de ces systèmes n’est conçu pour répondre uniquement à cette question. Ils sont conçus pour savoir qui vous êtes : votre nom, votre date de naissance, le numéro de votre document, votre visage. Ce n’est absolument pas une vérification de l’âge. C’est un suivi d’identité imposé. (…) Nous avons passé une génération à enseigner aux gens la règle d’or d’Internet : ne jamais divulguer sa véritable identité à des inconnus. Il existe un terme, le *doxxing*, pour désigner le fait d’exposer ainsi quelqu’un contre son gré. Et voilà que ces mêmes gouvernements et plateformes demandent à chaque citoyen de le faire lui-même, volontairement, comme condition pour se connecter. (…) 

Un scan facial n’est pas une simple photographie. C’est une cartographie en trois dimensions de votre personne, un gabarit biométrique suffisamment précis pour être comparé ultérieurement aux images d’une caméra de surveillance au coin d’une rue. Une fois que vous l’avez transmis, il finit stocké sur le serveur d’un tiers — souvent un prestataire que vous n’avez pas choisi, que vous ne pouvez pas nommer et que vous ne pouvez pas tenir pour responsable. (…) 

L’organisme vérificateur promet que vos documents sont supprimés dès qu’ils ont été contrôlés. Or, ils ne le sont pas toujours, et cette promesse ne vaut plus rien le jour où l’entreprise subit une intrusion. (…) 

Pire encore, l’architecture conçue pour « protéger » les enfants peut finir par les mettre en danger. En regroupant les utilisateurs dans des enclos étiquetés par âge, non seulement on échoue à arrêter les prédateurs, mais on crée un véritable répertoire d’enfants, un annuaire permettant de les cibler directement. (…) Les enfants ne sont pas sauvés. Seule la surveillance demeure intacte. 

(…) La base de données que vous aidez à constituer pour un gouvernement digne de confiance ne restera pas nécessairement entre des mains fiables. Les administrations changent. Un registre qui se contente de répertorier qui vous êtes aujourd’hui devient, sous un gouvernement futur, une carte indiquant qui traquer. Nous savons déjà que les agences fédérales américaines espionnent les citoyens à grande échelle : qui a participé à telle manifestation, qui a consulté tel forum, qui appartient à tel groupe. Les gens ont raison de craindre ce qu’un régime hostile pourrait faire d’une liste toute prête. Les données n’oublient rien et ne prennent pas parti ; elles attendent simplement de passer entre les mains de leur prochain détenteur. Internet tout entier finit par ressembler au bureau : tout le monde a trop peur pour dire autre chose que ce qui est politiquement correct, de peur qu’une opinion réelle associée à un nom réel ne leur coûte un emploi réel. 

(…) L’objectif du refus n’est pas de convaincre une majorité avant d’agir, mais de priver le système de la coopération universelle dont il a besoin pour fonctionner. Vous n’avez pas besoin de gagner le sondage. Il suffit de ne pas télécharger votre photo. Ne leur donnez jamais votre visage. 

(…) Si Starbucks vous demandait de scanner votre pièce d’identité pour l’intégrer à une base de données nationale en échange d’un latte, le feriez-vous ? Non, car vous accordez plus de prix à votre identité qu’à votre latte. N’accordez-vous pas plus de valeur à votre identité qu’à la possibilité de voir un cousin éloigné publier des opinions politiques répugnantes ou la photo du chien de quelqu’un ? 

(…) En théorie, nous, simples internautes, pouvons stopper tout ce système en refusant d’y participer, en boycottant le processus. Imaginez un « Mois national du choix de l’identité », durant lequel personne n’utiliserait de plateforme exigeant votre visage, personne ne se connecterait, personne ne regarderait de publicités et personne ne financerait de projets sponsorisés. Les plateformes subiraient une chute massive de leurs revenus et feraient l’objet d’un intense lobbying pour faire abroger ces lois désastreuses. Nous en sommes capables. Le seul mot qu’ils ne peuvent pas contourner, c’est « non ». 

(…) Ces systèmes reposent sur la soumission. Ils partent du principe que vous allez soupirer, télécharger votre photo et passer à autre chose. Tout leur modèle économique en dépend. C’est aussi là que réside leur faiblesse. Une barrière de vérification devant laquelle personne ne se présente est une barrière sans gardien. 

(…) Alors, refusez. Refusez le scan. Refusez le téléchargement. Fermez les comptes qui l’exigent et expliquez-leur, par écrit, la raison exacte de votre départ. Les plateformes ont bien plus besoin de vous que vous n’avez besoin d’elles. Vous pouvez vivre sans le flux d’actualités, mais elles ne peuvent pas survivre sans la foule. Ne vous soumettez pas par anticipation. Le visage figurant sur votre pièce d’identité est ce que vous possédez de plus immuable. Ne leur livrez jamais votre visage »

PS : une traduction intégrale est disponible sur Developpez.

PS : Sur son blog, Cory Doctorow déploie le même argumentaire : « Ce que l’on appelle vérification de l’âge s’apparente en réalité à une surveillance de masse, si intrusive et omniprésente qu’elle fait passer la surveillance commerciale du secteur de la publicité en ligne pour une sorte d’utopie pirate cypherpunk sur le darknet ». 

« Cela dépasse la farce. Après tout, quels que soient les préjudices que l’Internet infligerait aux enfants — et il est indéniable que certains enfants souffrent de leur usage d’Internet —, tout commence par la surveillance. Vos enfants ne peuvent pas être ciblés par des algorithmes sans les données de surveillance utilisées pour les cibler. Ils ne peuvent pas être orientés vers des contenus faisant l’apologie de l’anorexie ou des forums d’une misogynie extrême sans que ce mécanisme d’orientation ne soit amorcé par l’espionnage commercial. Pourquoi les entreprises technologiques espionnent-elles vos enfants ? Pour la même raison que votre chien se lèche les testicules : parce qu’elles le peuvent, et que personne ne les en empêche. »

« Toute tentative de protéger les enfants contre les dangers du numérique devrait commencer par les préserver de la surveillance en ligne ; or, nous faisons exactement l’inverse aujourd’hui. Après avoir échoué pendant des décennies à adopter et faire respecter des mesures de protection de la vie privée sur Internet, ces mêmes gouvernements battent tous les records de vitesse pour faire adopter des lois de « vérification de l’âge » qui rendent la protection de la vie privée illégale. » 

La surveillance en ligne nuit à tous, rappelle Doctorow. Elle sert à vous fourbir de la désinformation, vous refuser un prêt, un emploi, augmenter les prix que vous payez et réduire les salaires qu’on vous propose. « On ne peut pas protéger les enfants de la surveillance en ligne en les espionnant. »

Welcome back to the Abstract! Here are the studies this week that yucked it up, went interstellar, controlled the weather, and sang our praises.

First, the sounds of ape laughter have been gracing our planet for 15 million years. Then: a visit from a cosmic elder, a meteorological martial art, and bops by blowhards. 

As always, for more of my work, check out my book First Contact: The Story of Our Obsession with Aliens, or subscribe to my personal newsletter the BeX Files. 

A history of hominids in hysterics

De Gregorio, Chiara et al. “Rhythm and timing in laughter reveal that human vocal plasticity falls on a hominid continuum.” Communications Biology.

You’ve heard about getting the last laugh, but who got the first one? Scientists have now determined that laughter, a behavior common to all great apes, may have initially appeared in chortling primate ancestors that lived 15 million years ago, according to a new study that analyzes the evolutionary roots of getting the giggles.

In addition to being the best medicine, laughter plays an outsized role in human cultures and interpersonal relationships. The fact that all other great apes, from bonobos to gorillas, also enjoy a good chuckle suggests that this form of vocal expression has broad benefits and potentially deep evolutionary origins.

To probe the history of hilarity, scientists analyzed recordings of laughter from four orangutans, two gorillas, three bonobos, four chimpanzees, and four human children during bouts of playtime, roughhousing, and tickling. 

The results revealed that the isochronous nature of laughter—meaning clear sound intervals like “ha ha ha”—was likely present in the last common ancestor of the Hominid family, which contains all great apes including extinct relatives such as Neanderthals.

“While all major branches of the Hominid family have evolved distinct call repertoires shaped by their species-specific socio-ecologies, one vocalization has been conserved across species and age-sex classes: laughter,” said researchers led by Chiara De Gregorio of the University of Warwick.

The team’s analysis reveals that “great apes have been laughing in a recognizable way to modern humans for at least 15 million years” and that apes that are more closely related to humans have more complex and variable laughs similar to our own diversity of guffaws, cackles, and snorts.

To sum up: lol…lmao.  

In other news…

A long time ago in a star system far, far away…

Cordiner, Martin et al. “Isotopic Evidence for a Cold and Distant Origin of 3I/ATLAS.” Nature.

The interstellar comet 3I/ATLAS caused a sensation last summer when it was first discovered streaking through the solar system, partly because it revived the debate over whether these objects from other star systems could be alien handiwork.

While the evidence overwhelmingly suggests that 3I/ATLAS is not an extraterrestrial spaceship, it is nonetheless unlike any comet seen in human history. Scientists have revealed that the comet is by far the oldest object ever detected in the solar system, having “accreted as long ago as 12 billion years, following a period of intense, early star formation,” according to researchers led by researchers led by Martin Cordiner of the Catholic University of America.  

In other words, 3I/ATLAS is nearly three times older than the solar system, formed when the observable universe was only a third of its current size. The age is based on the comet’s ratio of deuterium to hydrogen (D/H), which was measured by the James Webb Space Telescope, the most powerful observatory ever launched. 

JWST revealed a “surprisingly high” ratio of deuterium enrichment, about 30 times the level of solar system bodies, with the exception of Venus. “3I/ATLAS thus represents a preserved fragment of an ancient planetary system,” concluded the team. 

So long to this primordial pilgrim, and may it live to be 13 billion. 

I have a black belt in hurricane deflection

Huang, Qin et al. “Weather Jiu-Jitsu: Prospects for atmospheric nudging to defuse the impact of catastrophic weather extremes.” PLOS Water.

Finally, we have an answer to the age-old question: Can we use martial arts to control the weather? In a new study, scientists propose the concept of “weather jiu-jitsu,” which uses gentle atmospheric “nudges” to redirect potentially catastrophic weather events, such as hurricanes, heat waves, or droughts.

“Imagine harnessing the power of nature to help steer hurricanes away from land, redirect atmospheric rivers to spread their rain safely and evenly, or defuse extreme weather patterns like heatwaves, freezes, or prolonged droughts before they take hold,” said researchers led by Qin Huang of Arizona State University. “It’s a vision where we partner with Earth’s own forces to create resilience, rather than reacting to disasters.”

Weather jiu-jitsu involves seeding clouds with particles to influence weather outcomes, but it differs from existing methods by opting for light touches in advance of a developing weather event, as opposed to the heavier lift of weakening an event that is already ongoing.

The team’s models suggest this method could have nudged Hurricane Sandy well away from New York City in 2021, warmed Texas by about 18 degrees Fahrenheit during its deadly 2021 freeze, and reduced the rainfall that caused widespread flooding in California from 2022 to 2023 by about 5 percent. 

That said, the study emphasized that the technique is only a proof-of-concept and it will take far more research to determine if it would be useful in the real world. In the meantime, let’s try some other martial arts-inspired approaches and figure out how to crane-kick a tornado or karate-chop a heat dome.

I bet you think this song is about ME

Golubickis, Marius et al. “Are societies becoming more self-centric? Evidence from five decades of popular music spanning three continents.” PLOS One.

While the Song of Summer 2026 has yet to be determined, odds are that it will be singularly self-absorbed. That’s the hook of a study that discovered popular music has shown “a significant increase in self-focused language over time in individualistic societies” such as the United States or Germany, while no comparable trend was observed in more collectivistic societies such as Japan or Hong Kong.

Scientists led by Marius Golubickis of United Arab Emirates University analyzed the lyrics of top 10 hits from 1970 to 2019 by quantifying the use of the plural pronouns like “we” and “us” compared with the first-person singular pronouns like “I” and “me” (check out the full list here). The results revealed that while “Western societies exhibited a clear increase in self-focused language over time, East Asian societies showed relative stability.”

This all checks out with my go-to playlist for narcissists, featuring “I Me Mine” by the Beatles, “Me Myself and I” by De La Soul, and, of course, “ME!” by Taylor Swift.

Thanks for reading! See you next week.

This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we discuss talking aloud to computers, Cannes, and “Engineering Creativity: Guac Is Extra."

JASON: This week I was in Cannes, France for the Cannes Lions advertising conference, which is a sentence you probably did not expect to be reading and is definitely not a sentence I expected to be writing. It’s rare that I BTB something before I actually write about it, but in this case I think it’s OK, as this is going to be significantly different from the actual articles I do. There is no sense in being coy about it—Cannes, which at least in the media business stands for both the beach town in the south of France and the advertising conference (but not the film festival), is a ridiculous place and experience filled with excess and extravagant displays of money wasting. Back when we worked at VICE, every year around this time there would be a bunch of whispers around the office about which executives and higher level sales people were going to Cannes and who was not (us journalists definitely were not). Then, during Cannes, there was a barely spoken sentiment that we, the journalists, should try extra hard to not fuck up lest we create some sort of situation that a VICE executive in Cannes would have to deal with from another time zone while drinking rosé on a yacht.