This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we discuss a new pod setup, video games, and Elon's spending habits.
JASON: Exciting news: I am building a podcast studio / riso printing room / place to film videos in. I believe all of my colleagues and many people in my life have been laughing at me about this, but this also may just be the narrative I’ve created for myself to inspire me to prove the haters wrong. Since the beginning of 404 Media, I’ve worked out of my garage, but feel like I’ve been going a bit crazy sitting mostly in the same room since essentially the start of the pandemic. And so I found not a coworking space but a very affordable windowless box that I shall turn into a content palace.
I’m just going to try it for a few months to see if it makes sense or if I should return to working from the couch, but I’m quite excited about building it out. I only got it a few days ago and so at the moment it’s largely a bunch of boxes and random furniture I no longer had space at my apartment for. It’s got a drop ceiling with fluorescent lighting and landlord special laminate floors, but I also can do whatever I want to it, so I will likely do some sort of design on the walls, throw a rug down, whatever.
We start this week with Joseph’s article about Raven, previously known as Geospy. This is an AI tool that can geolocate photos, and now says it can pinpoint a specific house based just on one photo taken inside. After the break, Jason explains why a judge ruled a particular Flock search as unconstitutional. In the subscribers-only section, we talk about the wild AI video that has derailed a manslaughter case.
Listen to the weekly podcast on Apple Podcasts,Spotify, or YouTube. Become a paid subscriber for access to this episode's bonus content and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only link for the extended video version too. It will also be in the show notes in your podcast player.
Police arrested a Chicago area high school maintenance worker who attempted to meet a child for sex after investigators posed as a 15-year-old boy using AI generated images.
Christopher Thomas Mertens started talking to who he thought was a child through a dating app in September. According to an affidavit written by the department’s FBI Task Force Officer McKailey Scott, the investigation was done by the Livonia Undercover Resistance to Exploitation Unit (LURE), which identifies and prosecutes child sex offenders. Scott set up an account on the queer-focused dating app Taimi with “an AI generated image of a teenage-appearing male with the name ‘Caleb,’ and no age listed on the profile.
Scott wrote that an unknown user messaged “Caleb,” and they moved to Whatsapp. After a few minutes of talking, the man asked Caleb for their age, and when Scott — posing as Caleb — said he was 15, the man said “Im interested” and “Im hard now.”
The investigator used a combination of tools, including checking the man’s phone number using Thomson Reuters CLEAR and running images of his face through Clearview AI to identify him as Mertens. For days, Caleb and Mertens exchanged sexually explicit text messages and Mertens made plans to drive to meet Caleb on his day off, believing Caleb’s (non-existent) parents weren’t home. Cops used Flock to look up and track Mertens’ car and see that he was driving to the meetup spot, but Mertens was also texting Caleb the entire time to let him know he was on the way and when he arrived. When he got out of the car, Livonia police took him into custody.
Two hours after being booked, Mertens told jail attendants that he wanted to speak to Scott. When Scott got to the jail, Mertens admitted everything, including that he works at a high school in Illinois. The complaint doesn’t mention which high school.
Investigators have been generating images of children for years. One of the earliest examples of these is Sweetie, a computer generated child developed by Dutch children’s rights organization Terre des Hommes in 2013 that the organization used to talk to men online. Today, police departments at the U.S. border use AI-generated online personas designed to interact with and monitor protestors and activists, according to documents obtained by 404 Media.
In August, a 24-year-old Connecticut man was arrested after soliciting an undercover police officer who used what was reported as “age regression technology” to appear as a 14 year old in videos. He was charged with enticing a minor and criminal attempt to commit risk of injury to a child.
In 2025, a 45-year-old man was arrested after investigators used AI generated images of children to catch him distributing child sexual abuse material. He was recently sentenced to 12 years in federal prison.
And in 2024, the state of New Mexico sued Snapchat after investigators set up a fake account, including AI generated images of children, that the platform allegedly recommended to “dangerous accounts, including ones named ‘child.rape’ and ‘pedo_lover10,’ in addition to others that are even more explicit,” according to the New Mexico Department of Justice.
AI generated child sexual abuse material is a rapidly growing problem for law enforcement. The National Center for Missing and Exploited Children has reported a massive rise in generative AI child abuse material, with criminals using it to extort and entice children, and children using it to bully and harrass other children.
Livonia police did not respond to a request for comment.
Scientists have made a breakthrough toward the mind-bending goal of creating computers made of brains by demonstrating that human neural tissue can classify letters of the Braille alphabet, according to a study published on Friday in Frontiers in Artificial Intelligence.
A team transmitted electrical signals corresponding to Braille letters to human brain organoids, which are living neural tissues derived from stem cells. The results revealed that a single organoid, consisting of about 10,000 neurons, could classify the letters with about 61 percent accuracy, while teams of three organoids reached 83 percent accuracy.
“The human brain can perform incredibly complex information processing while consuming relatively little energy, and artificial neural networks were originally inspired by biological nervous systems,” said Tianyi Liu, a PhD candidate at Bristol University who led the new study, in an email to 404 Media.
“If we've been trying to imitate biological neural networks all along, why not try using real biological neural networks directly?” she continued. “What kind of information processing capabilities might these tiny neural organoids have? Could they show some form of learning or adaptation? These are all questions we're very interested in.”
The new study falls under the emerging field of organoid intelligence, which aims to use organoids as biological “wetware” for computing applications. Previous studies have established that organoids are capable of recognizing speech Japanese vowels or even playing the classic game Pong.
Since Liu and her team specialize in how robots sense and respond to touch, they homed in on Braille as a way to convert tactile information into electrical stimuli that an organoid could receive, process, and classify.
In their experimental setup, the researchers used a tactile sensor to scan data from the 26 letters of the Braille alphabet, which is built from arrangements of raised dots. This data was converted into electrical stimulation patterns that were fed to the organoids, which are smaller than a millimeter in scale and positioned on arrays that keep them alive.
“Our original goal wasn't to prove that organoids could read Braille like humans, or that they were already ‘intelligent’ enough to understand Braille,” she added. “Rather, we wanted to use this task to explore whether real biological neural networks could participate in processing information from robotic tactile sensors.”
The tactile sensor used to scan Braille letters. Image: Dr Benjamin Ward-Cherrier.
In other words, the researchers aimed to discover if these stimulated inputs could be decoded by the organoids and returned back in discernable responses corresponding to the Braille letters. The results revealed that a single organoid could accurately classify the letters nearly two thirds of the time, while an "ensemble" of three organoids performed even better, with an accuracy of 83 percent.
“We still don't know the exact mechanism behind this improvement,” Liu said. “Our hypothesis is that different organoids respond to the same stimulation in similar, but not identical, ways.”
She added that “you can think of it as three people looking at the same object. Although they're all looking at the same thing, each person might notice different details. Some features might not be obvious to one person but could be quite easy for another to spot. By combining their observations, you might be able to make a more accurate and reliable judgement.”
🌘
Subscribe to 404 Media to get The Abstract, our newsletter about the most exciting and mind-boggling science news and studies of the week.
The results are undeniably trippy, conjuring up the classic scifi trope of a hyperintelligent brain-in-a-vat. But Liu emphasized that this was an open-loop experiment, meaning that the organoids only received initial inputs without getting new feedback about their performance on the tasks. For this reason, the study does not prove that the organoids actually learned Braille, or were altered in any permanent way, just that they could classify Braille letters after receiving the electrical inputs.
“In the future, if we can build closed-loop systems where neural activity from the organoids actually participates in a robot's perception, decision making, and control, while the results of the robot's interactions with its environment are fed back to the organoids, we could begin to investigate whether these biological neural networks can adapt to new tasks through ongoing interaction,” she said.
Liu also noted that while there are many potential advantages to organoid intelligence, there are plenty of limitations to biological computing systems. For example, organoids cannot be standardized, leading to natural variations that can complicate results, plus they have to be kept alive in cultures that are more difficult to maintain than electronic devices.
“Compared with established computing chips, organoid systems still have a long way to go in terms of reliability, reproducibility, and scalability,” Liu said.
Even so, organoid intelligence “gives us the opportunity to explore a way of computing that's very different from traditional computers,” she concluded.
Last week, Secretary of War Pete Hegseth announced the Pentagon would livestream the execution of convicted killer Nidal Hasan. Today, Trump said the execution would move forward but that it wouldn’t be livestreamed. But the propaganda damage is already done. Experts who watch terrorist spaces online told 404 Media that Hasan is already turning up in memes, videos, and recruitment material for groups like Al Qaeda.
Hasan—a former US Army Major who had once attempted to contact Al Qaeda—killed 13 people and injured 32 others at Fort Hood in 2009. He was shot and captured at the scene and later sentenced to death. Hegseth’s plan to livestream Hasan’s execution and the furor around it brought Hasan and his crimes back into the spotlight 17 years later. Hasan has mostly been a forgotten figure in Islamist and extremist circles, but is now once again a fixture of their propaganda.
“It's already started,” Moustafa Ayad, research chair in global Islamism and counter-terrorism at the Institute for Strategic Dialogue, told 404 Media. “We're already seeing edited videos in support of Nidal Hasan, and they're specifically based around how he's a martyr and that his legacy lives on.”
In one image Ayad shared with 404 Media, Al-Qaeda in the Arabian Peninsula (AQAP) referred to Hasan as a “heroic mujahid brother” then quoted Osama Bin Laden. “The day America makes this decision, it will have made a decision to execute whoever among you falls captive.”
According to Ayad, an Al Qaeda affiliated propaganda group made Hasan the feature of its newsletter last Friday. “So it's being viewed in that sense already in these ecosystems as he is a hero, and it's going to be used for recruitment and potentially galvanizing inspiration,” Ayad said. “We're talking about a guy who hasn't really been referenced since 2017 really or that much at all. So it has reignited conversations around his attack, how quote unquote glorious it was, and is being used as a means to to recruit people in some shape or form, and will continue to do so.
Ayad also described "rampage" edits of Hasan that are floating around extremists circles online that show footage of Hasan dancing over a number that represents how many people he killed. “You have fed the wolves,” he said. “They now have a thing they can latch on to.” In one TikTok edit viewed by 404 Media, a picture of Hasan with laser eyes throbbed to the beat of electronic music.
He added that he thinks the memes and videos are being made by younger people. “I don't think an established guy who remembers the Nadal Hassan attack is going to then go: ‘You know what makes sense? Putting out a dancing Nidal Hasan over his kill count.’ I don't think some 35-year-old dude is doing that,” he said. “You have a younger generation that is now attuned to what he did.”
Livestreaming the public execution would have given propagandists more to work with. Online nihilists, gore groups, and Islamists often use footage of death and violence to lure in young people. “Dead ideologues are continually being revered, lionized in ecosystems in support of groups like Al Qaeda, the Islamic State, or any terrorist group,” Ayad said. “If you look at the saint ecosystems around accelerationism, it's a similar thing in which these individuals are the vanguard of jihad.”
Mass shooters and ideological killers that receive widespread media attention become objects of fascination online. They enter a cannon of sainted killers, totems that inspire others to commit the same acts. Some researchers have suggested news agencies should report a shooter’s crimes but refrain from naming and showing them, thus depriving them of notoriety and stemming the social contagion.
Hasan killed people almost twenty years ago and he was destined to fall out of memory until Hegseth attempted to make a spectacle of his death. “We’re already seeing it being incorporated into talking points, we’re past that,” Ayad said.
“He is still going to be labeled a martyr," Ayad added. “Will it be a public spectacle? Not anymore [...] but terror groups and their supporters took advantage of the news to highlight just how much of a contribution Nidal Hasan made to their respective movements.”
Consulting giant Accenture has told many employees that the company will now only spend $29 a month per person on Claude. Employees subject to the cap, some of whom had been spending as much as $1,000 monthly, are scrambling to find ways to make sure they can keep spending as much as they already are.
The news is a snapshot of what continues to play out across all sorts of industries: companies have spent heavily on AI tools, and are now discovering that many users are burning or “chewing” through AI tokens at a rapid clip. In response, many companies have curbed their employees’ AI use. There is a special irony to Accenture doing much of the same, when it is a company that has encouraged its clients to invest heavily into AI.
A website that was dedicated to the human endeavor of reverse engineering, “decompiling,” and modifying video games is shutting down because people using AI to clone and decompile games have fully overrun the community and are far outpacing what human software engineers alone can do. The news comes as AI-coded “clones” of popular enterprise software like the Adobe creative suite and Microsoft Office have gone viral and are seemingly popping up every day, and as people in video game modding communities warn that 'AI decomps' are everywhere.
The website decomp.dev said Thursday that it is shutting down because “the community aspect of decompilation has been broken” by AI, and that projects that once required intense collaboration between people with different skills can now be done trivially with AI. The administrator of the website said that it has become impossible to keep track of which projects are primarily human-led and which ones are done by AI.
“Historically, matching decompilation has been a brutally difficult, time consuming task, on the scale of years for any moderately-sized game with a number of active contributors,” the pseudonymous admin of decomp.dev, who goes by Encounter, wrote on the site.
But recent frontier AI models like GPT-6-Astra have made it trivially easy to decompile a game: “They are significantly better at following complex directions, cross-referencing resources for symbols or debug information, and writing natural code with enough guidance,” Encounter wrote. “It is now clear that, with the right guidance, human input, and code reviews, AI can expedite the decompilation process in a significant way. What is also now clear is that the community aspect of decompilation has been broken.”
There is a lot of stuff about how creepy ad targeting is in today’s newsletter. Our first story is one I did, about how advertisers — or really anyone with 5 minutes on their hands — can inject ads into your ChatGPT session based on your phone number or email address. This is pretty normal in the advertising world, but I seriously doubt that when most of ChatGPT’s many, many users see an ad, they realize that might be because someone, somewhere, uploaded their phone number into OpenAI’s systems. I made my own ad on ChatGPT (without using peoples’ personal data) to test out the system. Then, in other news, there is new research confirming, I think for the first time, that online ads are being used to deliver zero-click mercenary malware against targets.
OpenAI lets anyone inject ads into ChatGPT users’ sessions, targeting specific groups of people based on their email address, phone number, or a unique identifier on their phone, according to 404 Media’s own tests of ChatGPT’s advertising ecosystem.
While the ad targeting available in ChatGPT is somewhat standard practice across the advertising industry, the chatbot’s one billion monthly active users may not understand they, in some cases, are being specifically targeted because of their personal data the advertiser has uploaded to OpenAI. ChatGPT’s ad targeting is also novel in that it is also based on the prompts users enter into the chatbot, prompts that users may assume are private but which, as 404 Media has previously shown, may be reviewed by humans. Or in this case, used for ad targeting purposes.
Ukrainian drones hit Russia’s largest data center on Wednesday. This was Ukraine’s fourth strike on Russian data centers in the past week and confirmation of a new reality of war: data centers are valuable enemy assets and they will be targeted.
In 2006, British economist Clive Humby declared “data is the new oil,” and big tech adopted the metaphor. Twenty years later, a dark side of the truism has been revealed. If the places where oil is refined are valuable targets in a war then so, too, are the places where data is refined. We’ve seen this not just in the Russia-Ukraine war, but also with Iran hitting Amazon Web Services data centers in Dubai in retaliation for America’s strikes on the country.
Ukrainian President Volodymyr Zelenskyy confirmed strikes on Russian data centers and oil refineries in a post on X and called them a “symmetrical response" to Russian aggression. Here we have oil and data together again, not as a metaphor in an economics lecture, but in the pronouncement of a world leader defending his country. conducting a war.
Three of Ukraine’s strikes hit data centers that belonged to Yandex, Russia’s Google-equivalent, and damaged the company’s supercomputers that housed some of its AI models. The latest attack hit a data center operated by Sberbank, Russia’s largest bank. It’s too early to tell what the effects of the strike on the Sberbank data center will be, but the three strikes on Yandex have disrupted internet and communications across Russia.
An online rumor said that the strikes on Yandex had the effect of taking down Russian bot farms, but this wasn’t true. The effects of the strikes on the civilian population were much more severe. Yandex is ubiquitous in Russia — it has its own app store, payment services, dating services, taxi and bus apps, and email services. The company operates six data centers in Russia and the strikes knocked two of them offline completely. People in Russia have lost access to their email, some of their data is seemingly gone, and taxi and bus apps only work intermittently.
ChrisO_wiki, an anonymous researcher who translates Russian social media posts for the western web, chronicled how the Yandex outages are hitting everyday Russians. “A taxi driver from Yekaterinburg says that after the service disruptions, he can no longer view his order history, and the status of trips is updated with a delay,” ChrisO_wiki said in a post on X and Bluesky.
“The loss of Yandex's cloud services is also having severe impacts on Russian commercial logistics. Those who work with electronic document management are unable to register incoming goods, severely affecting manufacturers and distributors,” they said in another post.
These attacks are just the latest in a long line of strikes on data centers this year. Russia has been targeting Ukrainian data centers for months and Iran hit AWS data centers in Dubai in March, knocking out digital infrastructure in the Middle East.
Klaudia Klonowska, a researcher who studies the effects of emerging technologies on international law, told 404 Media that attacks on data centers are so new that international law around them is still developing. “You have very limited situations in which they would actually qualify as lawful targets when they're used by the military, and even then, it's very difficult for the attackers to know whether that's happening or not,” Klonowska said.
If the data centers are purely processing military data, then they could be legitimate targets, according to Klonowska. But many, if not most, data centers are dual-use, meaning they house both civilian and military data. In many cases, disrupting daily life seems to be part of the point.
When Russia struck data centers in Ukraine in September, state-backed news agencies claimed it hosted data for Palantir that supported Ukrainian intelligence efforts and was a lawful target. Ukraine denied the allegation. “So you see how difficult, because of the nature of these centers, it's really to pinpoint what is happening with them and who is using them and for what means,” Klonowska said. “Sometimes [Ukraine] mentions that these data centers contribute to Moscow's revenues that then fuel the war machine. But that's not enough to make them lawful targets. Retaliation is not enough under law.”
Klonowska noted that it is civilians who suffer most, not the military, when data centers go offline. “There are questions about proportionality given how widespread the attacks are,” she said. “A lack of internet access for very prolonged periods affects everything. It's all of the civilian services that are being disrupted, which you can imagine also includes things like hospitals, traffic, judicial services, etc. etc.” It’s worth noting that Russia has repeatedly attacked civilian targets in Ukraine, including apartment buildings, public transportation, and hospitals.
According to Klonowska, international and humanitarian law needs to catch up with the issue and that scholars like herself are only just starting to understand the ramifications. “I think there's also another bigger question behind all of this,” she said. “Why have we gotten to the point where we have permitted militaries of various states to use civilian commercial data centers for their military purposes? By potentially using them and relying on them, they have opened them up to the possibility of becoming military targets.”
Disentangling civilian and military data probably won’t take data centers off the target list, but it will make international law more clear on which buildings are legitimate targets. It may also change how data centers processing military data are built.
“France has recently announced that they have unveiled their underground data center on the outskirts of Paris that will be exclusively for military use,” Klonowska said. “Just as we expect them not to use schools or hospitals or other civilian residential areas to host weapons or other military equipment, we would, I think, increasingly need to mention this in the case of data centers.”
The idea that a data center might be a military target is not lost on the American communities facing construction of them in their backyards. America’s nuclear weapons scientists at Los Alamos National Laboratories (LANL) have partnered with the University of Michigan in an attempt to build a data center in Ypsilanti Township, Michigan. The people and government of the Township aren’t thrilled about it for a number of reasons and the city attorney has said that the data center would be a “high value target” in wars of the future. Los Alamos pushed back on this in a letter to the community in September, around the same time Russia was striking data centers in Ukraine. LANL accused the township attorney of creating “that terminology without basis. It should not be interpreted as evidence of a known, specific, or imminent threat to the facility or the surrounding community,” the letter said.
“Like other major research facilities, the center would employ appropriate security measures, including controlled access, cameras, and on-site security personnel,” it said. “Los Alamos and U-M would coordinate with local, state, and federal partners on matters related to safety and security.”
It’s easy to see where the people of Ypsilanti Township are coming from. When Ukraine struck three Yandex data centers in Russia over the weekend, its drones slipped past Russia’s air defenses. The idea that a town next to a data center, especially one with ties to America’s nuclear weapons programs, could sustain damage if the data center was ever attacked isn’t unfounded. The data centers smoldering in the world’s war zones proved that the township’s fears aren’t theoretical.
Ma lecture du monde est parfois un peu binaire, je le reconnais bien volontiers… Mais dans les nombreux espaces que je traverse, je constate que le rapport à l’IA s’affirme de plus en plus comme un rapport de classe. Les pro-IA appartiennent presque exclusivement aux catégories socio-professionnelles les plus hautes, jusqu’à la caricature. Les gens qui s’y opposent et se mobilisent à son encontre, semblent plutôt appartenir à d’autres espaces sociaux, tant et si bien que cette confrontation sociale est en train non seulement de tendre les rapports autour de la technologie, mais plus encore semble raviver un conflit de classe qu’on pensait (un peu facilement) évanoui. Les huées qui répondaient aux propos pro-IA d’il y a quelques mois sont peu à peu remplacées par des colères glacées, des larmes, des hurlements et des invectives radicales de gens exaspérés par l’IA auxquels répondent le déni glacé de l’injonction, voire le sourire confiant et supérieur du « il faut s’adapter » quand ce n’est pas un panégyrique de la puissance de ces outils au prétexte de l’efficacité, de la rentabilité ou de la souveraineté. C’est un peu finalement comme si l’IA elle-même était devenue l’idéologie des classes supérieures (venant masquer sous sa puissance, le capitalisme, l’impérialisme, l’autoritarisme, idéologies devenues bien plus difficiles à défendre). Comme si l’IA était devenue l’idéologie du moment, qui recouvre d’un voile de neutralité et d’innovation celles qui l’ont fondée et l’ont structurée. Comme s’il suffisait de changer de mot pour proposer la même chose.
Entre l’homélie d’en haut et la condamnation d’en bas
« La seule chose qui croît plus vite que ce secteur de l’IA, c’est peut-être le sentiment négatif des Américains à son égard », s’inquiétait récemment le Wall Street Journal relayé par Le Monde Diplo. L’automatisation renforce une autonomisation de la tech, dans une forme de fuite en avant qui ne va pas de soi pour tous, explique le journaliste Pierre Rimbert. Et la transformation des rapports sociaux qui l’accompagne, c’est-à-dire le renforcement des revenus du capital sur ceux du travail, qui implique un renforcement des inégalités, une surveillance généralisée, une indifférence à l’environnement… révolte une grande partie du public, comme s’en défie The Economist qui dénonce le risque de montée d’une Gen Z socialiste, d’une radicalisation des plus jeunes. Un récent sondage américain le montrait d’ailleurs, « les PDG du secteur de l’IA sont encore plus impopulaires que leurs data centers », résumait Futurism. L’époque où les jeunes vouaient une admiration aveugle à l’industrie technologique qu’ils rêvaient de rejoindre semble bien révolue.
Pourtant cet affrontement n’est pas un affrontement générationnel ou un affrontement entre droite et gauche. L’affrontement est bien plus un affrontement de classe, explique l’activiste Saul Levin, directeur du Centre de recherche sur les conflits non-violents, interrogé par le journaliste Andrew Cockburn dans Harper’s Magazine. L’opposition aux data centers « ne varie pas significativement en fonction de l’âge, de l’origine ethnique, du niveau d’études, du revenu ou du degré d’urbanisation », observe l’enquête de Gallup publiée le 13 mai dernier. « L’affrontement n’oppose pas la droite à la gauche, les démocrates aux républicains, les banlieues à la campagne. En réalité, c’est le haut contre le bas ». Reste, constate Pierre Rimbert, que face à la poursuite de la numérisation à marche forcée, aux États-Unis comme ailleurs, cette contestation populaire, politiquement hétérogène, ne trouve qu’un relais limité dans les discours politiques, qui sont bien plus alignés aux objectifs de développement économique que promet la tech qu’à sa régulation.
Cette tension de classe se renforce à mesure que l’injonction à l’IAification devient une obsession, comme le soulignaitle Monde ou Futurism. Face à la colonisation du moindre de nos outils numériques dans lesquels l’IA s’infiltre sans nous laisser de choix, face à ce nouvel internet sans condition (à l’image désormais de la moindre de nos requêtes sur Google qui s’ouvre par une réponse générative), l’obsession semble devenir frénétique. Tout est envahi d’IA ! Elle ne saisit pas que les entreprises et services qui fournissent des solutions devenues toutes magiques ✨, mais également leurs cadres et managers qui semblent avoir pour beaucoup basculé dans une même frénésie, comme le racontait le journaliste Jules Thomas pour Le Monde. Nombre d’employés expriment leur frustration voire leur colère face à des managers et des cadres utilisant cette technologie pour submerger leur personnel de directives absurdes, de tâches inutiles et de changements de cap incessants. Des cadres qui, sous leur propre injonction à intégrer l’IA, finissent eux-mêmes par être subvertis par les machines, comme ironisait Ed Zitron. À mesure que l’IA s’y déploie, sans contestation possible, c’est comme si les environnements de travail devenaient particulièrement toxiques. « Le lieu de travail s’est transformé en un champ de bataille permanent entre leur propre perception de la réalité et celle de l’IA – et, selon les travailleurs, leur patron choisissait systématiquement cette dernière. »Comme nous le disions à propos de la désinformation où l’IA offre les explications simples que l’on veut croire, l’IA des patrons leur confirme la vision qu’ils veulent croire. « L’IA va produire le récit que vous voulez qu’elle produise », constatent des employés confrontés aux délires de leurs boss à tout faire avec, jusqu’à finalement altérer la réalité, raffermir leurs croyances voire leurs délires et disloquer les collectifs. « Je me retrouve à devoir gérer quelqu’un qui n’a plus les pieds sur terre », explique un autre employé confronté à un patron qui a basculé dans l’IA produisant des boucles d’injonctions… qui ne fonctionnent pas. « Les organisations et les dirigeants doivent choisir : soit ils décident de s’en remettre entièrement à l’IA, soit ils font confiance aux personnes qu’ils embauchent et à leurs compétences ». Dans Futurism, la journaliste Maggie Harrison Dupré dresse les mêmes constats, mais précise cependant : « la plupart des personnes interrogées ont indiqué qu’elles utilisaient effectivement l’IA dans leur vie professionnelle et personnelle, et qu’elles lui reconnaissaient une certaine valeur lorsqu’elle était employée avec prudence et discernement. Toutefois, elles estimaient que l’usage qu’en faisaient leurs employeurs avait franchi la limite entre l’outil utile et l’élément délétère – tant pour les salariés que pour les intérêts réels des entreprises concernées.»
Cette radicalisation de l’usage de l’IA par les catégories supérieures va de pair avec la radicalisation de la détestation de l’IA par tous les autres. En trois ans, il est devenu plus difficile de parler de ce sujet, avec des cadres de plus en plus convaincus et qui laissent de moins en moins de place aux options, qui déploient des outils, des processus et des contraintes et de l’autre des gens qui se noient dans les difficultés que génèrent ces outils, leur impraticabilité, la charge de la vérification et de l’orchestration, l’intensification que cela produit et la démultiplication des injonctions. Comme le disait le sociologue Dominique Boullier : « Dès que l’on veut réellement prendre en main ces outils, contrôler leurs opérations, les vérifier ou valider leurs résultats, les mêmes utilisateurs se retrouvent déçus, inquiets voire en colère ». L’injonction à l’utiliser – la Sommation technologique –, radicalise les positions.
Les proIA évoquent facilement la puissance des outils, mais jamais leurs limites. Pour eux, les contestations, les oppositions semblent inexistantes, alors même qu’elles se démultiplient (de la contestation du déploiement de l’IA dans les systèmes de travail, dans l’éducation, à l’opposition aux systèmes de surveillance des plaques minéralogiques, aux data centers ou aux lunettes connectées… pour ne citer que quelques-unes des polémiques actuelles). C’est comme si toute opposition était niée par principe. Comme si les contestations et oppositions devaient être mises sous le tapis, silenciées au prétexte qu’elles seraient au pire irrationnelles au mieux politiques. Ce déni de réalité est marquant. Dans les entreprises comme les administrations, les contestations sont elles aussi étouffées. Le dialogue social suppose de ne jamais parler avec les contestataires. C’est comme si l’on ne voulait pas faire entrer les données problématiques dans le modèle d’entraînement. D’où d’innombrables rapports de think tanks ou d’institutions… qui parlent de l’IA pour la produire, sans jamais regarder ses limites. On a l’impression que deux mondes s’affrontent. Et, quand cela échoue (et cela échoue souvent), on passe au projet suivant. Pire, comme le pointe le Monde dans un autre article, l’IA favorise aussi des transformations stratégiques confuses.
Peut-être qu’en fait, transparaît dans ces outils, finalement, le fait qu’ils n’en soient pas. C’est ce que disent les chercheurs quand ils nous invitent à reparler de l’économie politique de l’IA et à en dépasser la technique. C’est ce que disait aussi le journaliste de Mediapart, Romaric Godin, en nous rappelant que l’IA n’est pas un outil, mais bien le vecteur d’une capture hypercapitaliste du monde. L’usage de l’IA révèle finalement le monde qui le produit et ses objectifs. Il nous dresse les uns contre les autres. Son rythme ne nous laisse aucun espace d’apaisement. Il est en passe de devenir un objet de lutte sociale ou son symbole, entre deux mondes.
Les proIA finissent par craindre le monde qui les entoure et qu’ils contribuent très activement à produire, d’une requête à l’autre. Ils regardent avec méfiance ceux qu’ils relèguent aux ordres de leurs machines : chauffeurs Uber, employés d’entrepôts sous-traités, métiers déclassés, rappelle l’historienne Kim Phillips-Fein dans une tribune pour le New York Times. « Ils ont raison de redouter la colère de ces groupes dépossédés, tout comme ces derniers ont raison d’être en colère ».
Les employés utiliseront-ils l’IA avec l’intensité des codeurs ? Pas si sûr !
Avec l’IA, on a l’impression que, en haut de la hiérarchie sociale, tout le monde est convaincu que les employés vont l’utiliser comme l’utilisent les codeurs : intensément. Avec l’espoir que tous voient leur productivité démultipliée même si elle ne se réalise pas vraiment, jusqu’au plus complet épuisement. Or, ce n’est pas ce que l’on constate toujours, comme nous le montrions dans notre article sur l’évolution des usages de l’IA en juin. Les usages récréatifs sont plus nourris que les usages professionnels et le sont de plus en plus.
En fait, hormis les développeurs, « les autres cols blancs ne sont pas encore entrés dans ce monde » constate Colin Jarvis d’OpenAI dans The Economist. Ça tombe mal. Car pour justifier leurs investissements colossaux dans les centres de données, les géants américains de l’IA ont besoin que l’adoption de cette technologie continue de se répandre rapidement, au même rythme qu’elle envahit le développement informatique. Selon The Economist, couvrir le coût de la construction des centres de données nécessitera que les revenus annuels totaux générés par l’IA atteignent 2 500 milliards de dollars d’ici la fin de la décennie, contre environ 150 milliards actuellement. Les revenus de l’IA grossissent vite… mais pas assez vite, se désole le magazine économique. Reste qu’à ce jour, l’adoption de cette technologie est de loin la plus forte parmi les développeurs de logiciels. D’après le forum en ligne Stack Overflow, quatre développeurs sur cinq déclarent utiliser un outil de programmation IA. En juin 2025, le chiffre d’affaires annuel récurrent cumulé de Cognition, Cursor, Lovable et Replit, quatre startups spécialisées dans la programmation IA, s’élevait à environ 800 millions de dollars. Il atteint aujourd’hui 6 milliards de dollars. « SemiAnalysis, un cabinet d’études, estime que pour Anthropic et OpenAI, la programmation représente désormais plus de la moitié de leur chiffre d’affaires annuel récurrent cumulé ».
L’IA donc se diffuse plus rapidement dans les secteurs où les ingénieurs logiciels représentent une part plus importante de l’emploi, comme le synthétise un graphique de The Economist qui montre que l’adoption de l’IA dépend beaucoup du pourcentage de développeurs parmi les employés. Très logiquement, elle est plus forte dans les secteurs où les développeurs sont nombreux comme les services et les entreprises logicielles que dans les secteurs comme la santé, l’industrie ou les transports. Les optimistes voient là la preuve que le boom de l’IA ne fait que commencer. Les pessimistes, que le codage risque de faire longtemps figure d’exception.
Or, souligne The Economist, trois autres secteurs sont souvent présentés comme les prochaines applications à forte croissance de l’IA : le droit, la finance et les services client. Tous connaissent une croissance significative. « Harvey, Clio et Legora, trois développeurs d’outils juridiques basés sur l’IA, ont quasiment doublé leur chiffre d’affaires annuel récurrent combiné au cours de l’année écoulée, pour atteindre 1 milliard de dollars. Harvey affirme que le temps passé par les avocats sur sa plateforme double chaque mois.» Les banquiers et autres acteurs du secteur financier adoptent également l’IA. « Rogo, une startup spécialisée dans l’IA et développant des outils pour le secteur des services financiers, a conquis 100 nouveaux clients entreprises au cours du dernier trimestre et a augmenté son chiffre d’affaires annuel récurrent de 50 %.»
L’IA prend également son essor dans le service client. « Sierra, qui développe des outils à cet effet, a atteint un chiffre d’affaires annuel récurrent de 200 millions de dollars en juin, soit le double du chiffre enregistré en novembre dernier. Les investisseurs en capital-risque sont optimistes. Depuis le début de l’année, ils ont injecté 3 milliards de dollars dans les startups d’IA de ce secteur, un montant supérieur à celui de toute autre catégorie d’application d’IA » (alors que les investissements dans les startups de programmation d’IA sont en train de stagner, notamment en raison de la domination croissante des outils de programmation internes des grandes entreprises d’IA, souligne The Economist).
Ces trois secteurs applicatifs présentent certaines similitudes avec la programmation. Ils représentent d’importants marchés potentiels et le travail est souvent répétitif. Cependant, « quatre facteurs les distinguent de la programmation à leur désavantage : la disponibilité des données d’entraînement ; la facilité de test des résultats d’un modèle ; le niveau d’interaction humaine requis ; et les ingénieurs logiciels eux-mêmes ». Les entreprises d’IA de ces secteurs s’efforcent de rendre leurs autres marchés plus semblables à la programmation, mais il n’est pas sûr qu’elles y arrivent, structurellement. Car si l’IA a connu un tel succès en tant qu’assistant de programmation, c’est en partie grâce à l’abondance de code open source disponible. Elle s’est ainsi intégrée aux modèles, représentant dans certains cas près d’un cinquième des données d’entraînement. « Un tel volume de contenu accessible au public n’existe tout simplement pas pour les réclamations clients ou les négociations contractuelles ».
Le code généré par l’IA est également relativement facile à valider, rappelle le magazine économique. « Les tests logiciels font partie intégrante du développement logiciel : un morceau de code en vérifie un autre. Cela augmente la probabilité de détecter les erreurs dans le code généré par l’IA avant qu’elles ne causent des dégâts. De plus, les tests contribuent à améliorer les performances des modèles en les alertant en cas d’erreur. Évaluer si un client mécontent a été apaisé ou si un modèle d’évaluation a correctement reflété les nuances des comptes d’une entreprise est plus complexe.»
« Les outils de développement logiciel présentent l’avantage supplémentaire que la plupart des informations nécessaires à l’exécution d’une tâche existent déjà dans le code source du programme, ou sont accessibles via les interfaces de programmation (API), qui connectent les logiciels. Dans de nombreux autres contextes, cependant, les informations cruciales ne sont pas disponibles sous forme numérique : elles résident plutôt dans l’esprit d’un employé de centre d’appels ou dans l’expression du visage de l’avocat de la partie adverse. »
Les entreprises spécialisées en IA travaillent à relever tous ces défis, souligne The Economist. Winston Weinberg, le patron de Harvey, explique que les progrès de l’IA permettent désormais à son entreprise d’entraîner ses outils en s’appuyant en partie sur des données « synthétiques », générées par les systèmes d’IA eux-mêmes. Des startups comme Mercor mettent en relation des entreprises d’IA et des professionnels experts de divers secteurs, capables de transférer leur expertise dans des modèles. « Ping Wu, patron de Cresta, affirme qu’en analysant des milliers de transcriptions d’appels, sa startup spécialisée dans le service client par IA peut déduire certaines connaissances détenues par les employés, comme la procédure de traitement des remboursements. De nombreuses entreprises d’IA dépêchent désormais des ingénieurs directement dans les locaux de leurs clients pour résoudre des problèmes et perfectionner leurs outils.»
Mais, conclut The Economist, le dernier facteur expliquant le succès de l’IA dans la programmation est peut-être le plus difficile à reproduire : ce sont les ingénieurs logiciels eux-mêmes. « À la fois passionnés de technique et habitués au changement, ils adoptent naturellement les nouvelles technologies. L’adoption de l’IA pour le codage s’est ainsi faite en grande partie de manière ascendante, les ingénieurs découvrant et expérimentant ces outils de leur propre initiative ».
À l’inverse, les agents de centres d’appels n’ont généralement ni l’incitation ni la liberté d’expérimenter dans le cadre de leur travail, et ont tendance à attendre que les technologies soient déployées selon une approche descendante. Les avocats et les professionnels de la finance doivent également faire preuve de prudence pour ne pas enfreindre les nombreuses réglementations régissant leurs métiers. Bref, la difficulté à reproduire la liberté et l’habileté technique des développeurs pourrait bien être la limite à l’expansion de l’IA au-delà du code.
D’autres applications de l’IA continueront certainement à se développer, et pourraient même s’accélérer à mesure que les modèles s’améliorent et que les entreprises se sentent plus à l’aise à l’idée de confier des tâches à des agents d’IA. Toutefois, il faudra peut-être attendre encore longtemps avant que la majorité des employés de bureau ne passent leurs journées à chuchoter dans des microphones, avec des masques sur le visage, comme le font déjà les codeurs. Reste que dans de nombreuses professions, comme l’évoque le Financial Times, les usages se déploient en ordre dispersé : les usages comme les inconvénients ou les menaces ne sont pas les mêmes selon les secteurs.
La responsabilité des productions de l’IA est socialement inversement distribuée
Ce que montre également cette tension, c’est qu’au-delà des catégories socio-professionnelles supérieures du code et du management, le rapport à l’IA n’est pas le même, structurellement. Pourquoi les employés de bureau se rebellent-ils contre l’IA alors que c’est bien moins le cas des managers et développeurs qui l’utilisent ?, questionne l’historien Brian Merchant sur son blog.
Merchant a jeté un œil sur l’étude empirique publiée par Glassdoor, le site participatif d’évaluation des environnements de travail, sur le rapport des salariés à l’IA déployée par leurs entreprises (que nous avions également évoqué dans notre brève : quels travailleurs détestent le plus l’IA ?). « Les personnes qui décrivent l’IA en termes très positifs occupent, pour la grande majorité, des postes de direction ; ce sont les cadres de niveau directeur ou supérieur qui manifestent le plus d’enthousiasme à son égard. Les responsables des ventes – en somme, les chefs d’équipe commerciale – se montraient également bien plus favorables que défavorables à l’IA, dans une proportion d’environ deux pour un. Les chefs de produit, les recruteurs et les ingénieurs logiciels affichent eux aussi un avis plutôt positif, avant que les opinions ne tendent vers un certain équilibre ». A l’inverse, remarque l’historien, si l’on observe les professions qui décrivent l’IA en termes très négatifs, on voit apparaître une toute autre configuration sociale. Merchant souligne que le basculement des avis négatifs a progressé et qu’il s’affirme à mesure que les entreprises adoptent massivement des solutions d’automatisation basées sur l’IA. Mais il semble que « plus les travailleurs sont exposés à l’IA, moins ils l’apprécient ». « Comme le souligne le rapport, les critiques des employés ne se limitent pas à la peur de perdre leur emploi. Loin de là. Si la crainte du licenciement reste la raison principale pour laquelle les travailleurs rejettent l’IA, elle ne représente pas pour autant la majorité des griefs exprimés. Si beaucoup craignent d’être remplacés par l’IA (20 %), d’autres déplorent l’imposition d’outils d’IA (14 %) ou estiment que leur entreprise privilégie l’IA au détriment de son cœur de métier (13 %). Parmi les autres critiques figurent l’utilisation de l’IA pour la communication interne ou la surveillance des employés (10 %), une adoption trop lente de la technologie (9 %), des attentes irréalistes quant aux gains qu’elle peut générer (8 %) et l’appartenance à un secteur susceptible d’être bouleversé ou remplacé par l’IA (7 %). » Pour Merchant, « le ressenti vis-à-vis de l’IA au travail dépend probablement du pouvoir dont vous disposez au sein de l’entreprise ». Le rapport à l’IA est distribué selon le pouvoir dont on dispose sur ces outils. L’appréciation est directement liée à la position sociale qu’on occupe.
« Pour percevoir l’IA de manière positive, il faut avoir la main sur les décisions concernant son utilisation (ou non) et disposer d’une marge de manœuvre suffisante pour se sentir protégé contre le risque de remplacement, de surveillance ou de dégradation des conditions de travail ». « Ce n’est pas seulement dû au fait que les patrons sont plus enclins à adopter l’idée que l’IA peut leur offrir de nouveaux moyens de réduire les coûts de main-d’œuvre, de nouvelles opportunités de surveiller et de contrôler leurs effectifs, ou encore un nouveau levier pour contrer les initiatives d’organisation collective, les syndicats ou les travailleurs réclamant de meilleurs salaires ou de meilleures conditions de travail. C’est aussi parce que les patrons rendent beaucoup moins de comptes quant à leur utilisation de l’IA », et donc rendent beaucoup moins de comptes de leur pouvoir, de leurs décisions. Ils peuvent l’utiliser pour rédiger des notes, des mails, pour automatiser des tâches, sans risquer de sanction ou de licenciements en cas d’incohérence (et nombre d’employés le déplorent d’ailleurs ou s’en moquent, comme le soulignait l’article du Monde qu’on évoquait plus haut).
Pour Brian Merchant, la responsabilité éclaire la différence de perception. C’est pourquoi les emplois d’employés sont bien plus en colère contre l’IA que les cadres. Cela explique que les comptables, les conseillers clientèles ou les informaticiens de base soient mis en difficulté par ces outils, car c’est sur eux que repose la tension de la vérification entre « le patron exige que toute l’entreprise utilise l’IA » et « la moindre erreur est de votre faute et vous en êtes responsable ». Dans les entreprises de comptabilité, pour les comptables, le passage à l’IA est souvent problématique, comme le disait le Washington Post. En informatique, les ingénieurs et architectes logiciels sont souvent plus enthousiastes que les informaticiens qui eux doivent dépanner l’architecture quand elle tombe en panne. L’étude de Glassdoor par exemple montre que les employés les plus véhéments à l’égard de l’IA sont les assureurs experts du traitement des sinistres, rapporte Wired. « Nous sommes épuisés par la quantité d’IA qu’on nous impose », témoigne l’un d’eux à Wired. En fait, la profession traverse une crise majeure. Le nombre de postes a baissé de 5 % au cours de la dernière décennie et de plus de 21 % entre mai 2025 et 2026, et les postes de débutants ont chuté de plus de 50% depuis 2025. Pour le bureau des statistiques du travail américain, cette chute serait liée au déploiement technique. « Des startups spécialisées, comme Liberate ou Pace, ont levé des millions de dollars en promettant de « réinventer » l’assurance, tandis que les assureurs ont intensifié le recours à l’IA pour traiter un volume croissant de dossiers. Concrètement, cela peut se traduire par un échange avec un chatbot plutôt qu’avec une personne physique pour déclarer un sinistre. Au lieu d’envoyer des agents inspecter une habitation endommagée, des outils d’IA peuvent analyser des photos ou des vidéos pour estimer le montant des indemnisations. L’IA peut également résumer des centaines de pages de dossiers médicaux afin d’en extraire les informations essentielles. Ou bien, l’outil d’IA d’un assureur pourrait traiter les informations transmises par un assuré – photos, vidéos, documents, reçus – puis effectuer un versement, le tout en quelques secondes », comme le propose Lemonade dont le chatbot traiterait 55 % de l’ensemble des dossiers de sinistres, laissant à ses employés la gestion des dossiers les plus complexes. Mais les professionnels du secteur ont surtout l’impression d’être remplacés par des modèles d’IA… sans que les clients ne comprennent très bien que les conclusions d’une expertise (et ses erreurs) sont bien plus le fait de robots que d’experts. Les employés des services des sinistres doivent donc traiter des dossiers que les clients remplissent avec l’aide de chatbots, conduisant à une prolifération d’hallucinations, à des dossiers mal classés, déclenchant la colère des assurés en retour. Les gestionnaires de sinistres se retrouvent à être le tampon de l’automatisation.
Pour Merchant, l’étude de Glassdoor montre bien que la rancœur bouillonne auprès de ceux qui sont contraints à utiliser l’IA.
Le déploiement de l’IA pose, peut-être plus que d’autres technologies avant elle, la question de savoir qui a vraiment le pouvoir dans l’entreprise. Le malaise social de l’IA au travail est en train de cristalliser, dans une opposition hiérarchique qui risque de révéler et d’accentuer les défaillances de gouvernance des organisations. L’IA révèle le simplisme de l’autorité. En s’imposant par la vitesse (il faut aller vite), elle souligne pourtant que la gouvernance n’a pas la même cadence et que cette accélération risque de radicaliser les positions, les oppositions.
Pour le dire autrement. Peut-être que la grande ambiguïté de l’IA partout et pour tous consiste à croire que ces outils sont accessibles à tous. Ce n’est pas ce que nous disent pourtant les pratiques. Les usages avancés ne sont accessibles qu’à quelques-uns : ceux qui ont la liberté de statut pour se faire. Croire que tous les employés ou tous les agents vont demain faire des miracles parce qu’ils accèdent à des outils d’IA est peut-être l’autre leurre des outils d’IA ouverts à tous. Même les codeurs et les managers ne font pas toujours des miracles avec, bien au contraire. L’introduction de l’IA redéfinit profondément la gouvernance des organisations et pour l’instant, nombre de lieux qui la déploient ne se posent pas de question sur la réorganisation de cette gouvernance. D’où le développement de blocages hiérarchiques. Entre paralysie et résistance. L’IA reste vue comme un simple outil pour l’efficacité, alors qu’elle recompose l’organisation du travail elle-même. Pour résoudre le malaise social que génère l’IA au travail, il va falloir l’accompagner de propositions sociales, disions-nous. Désormais, pour résoudre le conflit social que génère l’IA au travail, il va falloir l’accompagner d’une reconfiguration de l’organisation sociale du travail.
Let’s briefly deconstruct a viral or soon to be viral story out of Cologne, Germany regarding an incident in which a “remotely controlled robot grabs 16-year-old's buttocks” and “performed thrusting movements against her,” according to police.
I have begun to see this story percolate around the English-speaking internet because it is absurd and not good, and has already been aggregated to hell by social media meme pages with essentially zero information other than this absurd police image:
The Cologne Police did not exactly help matters by issuing a short press release that treats the robot as mysterious, the circumstances as mysterious, and the evidence as “unusual.” The Cologne Police’s Facebook post featuring a photo of the mustachioed robot reads “A red-gold robot triggered a police operation on the Cologne Ring on Sunday night (October 11). The device is said to have touched a 16-year-old girl's buttocks and performed thrusting movements against her […] The police are now investigating how the robot worked at the time of the assault and whether someone was deliberately controlling its movements. Emergency services seized the robot and two mobile phones from the suspect. The police are investigating on suspicion of defamation on a sexual basis.”
Coverage by even well-resourced outlets like CNN, CBC, and the BBC have almost no information beyond the police press release, which is lazy and stupid, because it is possible to figure out everything that happened here with three seconds of clicking around the internet. The Associated Press wrote that the entire phenomenon is "new territory" for the police, which, I'm sorry to say, men using tech to harass women on livestreams in 2026 is not "unusual" or "new territory" and hasn't been for many years.
The English coverage of the incident looks like this:
In fact, with a small amount of Googling and/or clicking around social media, it is easy to find out everything you would ever need to know about the robot and what happened here.
The tl;dr is that a 16-year-old German Twitch IRL livestreamer named Agaamuza has been streaming himself using an off-the-shelf $5,000 robot from a company named Unitree to walk around Cologne and bother people outside of bars in the way that extremely annoying Twitch livestreamers and TikTok stars have been doing for years. In a recent livestream, Agaamuza or one of his friends uses the robot to grab a girl’s ass, the boys laugh about it, and the police get involved. Twitch has temporarily suspended his channel from streaming but because of the social media clipping economy, there are zillions of videos of the streamers and the robot percolating across Instagram, YouTube, and TikTok.
On the actual internet where real people click around and don't regurgitate police statements and pretend they're reporting the news, you can see the entire arc of what happened, which now includes an hour-long "statement" Twitch video in which Agaamuza streams with the robot dressed in striped prison clothes.
The slightly longer version: For at least a few weeks, Agaamuza and his friends put a mustache and giant chain necklace on the robot, call him “Ahmad the Robot,” and film people’s reactions to the robot thrusting, dancing, punching the sky, walking into stores, etc. Most of these videos are annoying but not illegal. They are very much a part of YouTube / Twitch “prank” culture, in which men—almost always men—film themselves hitting on women, interviewing people outside of bars, and doing stupid shit in public. Agaamuza and “Ahmad the Robot” have become minor characters in the German Twitch streaming world over the last few weeks.
The robot in question is the Unitree R1, which costs between $4,900 and $5,900 depending on the specific model. Unitree is a Chinese robot company that makes the R1 and a robot dog that has become vaguely popular among people who are excited about humanoid robots and gadget YouTubers. Unitree is kind of a Boston Dynamics-esque company in that it makes lots of YouTube videos of its robots doing cartwheels and backflips and fighting other robots, and regularly goes viral for it. The capabilities of the R1 robot are not a secret and can be found in any number of YouTube videos or on Unitree’s website (which is to say that the R1 is not a mysterious harassment or spy robot as it has been portrayed in some of the aggregations of this story I’ve seen).
The robot, but not the incident in question
Anyways, over the weekend while live-streaming, Agaamuza or one of his friends has the robot walk into a group of girls standing on the street in Cologne. “Oh my god oh my god Ahmad,” one of the streamers says, as they walk the robot directly into a girl’s ass. One of the girls says “Oh my god stop.” The boys say “Hey, he wants to meet you, do you want to meet him?” The girls say no. The robot begins thrusting its arms in the air (the girls have moved away at this point), and the streamers start screaming “no brother, no bro oh man.” The girls tell the streamers to leave them alone and then walk away.
In his statement video, Agaamuza says that the robot simply ran into the girl and didn't grope her. The robot certainly did run into her, the whole thing was harassing and annoying; in the United States, these sorts of things happen on Twitch constantly, generally with no consequences.
What happened is bad, and is not much different than the types of clips of men harassing women that go viral all the time on social media, many of them filmed or streamed surreptitiously using Meta’s AI glasses. What actually is unusual about this case is that the police appear to actually be taking it seriously.
En Australie, le gouvernement prépare un projet de loi sur le « devoir de vigilance numérique » (Digital Duty of Care), imposant aux plateformes une responsabilité accrue en matière de prévention et de traitement des préjudices en ligne, notamment pour mieux protéger les plus jeunes. Le projet de loi exige également que les plateformes fournissent des « outils d’autonomisation des utilisateurs », dont la nature reste à préciser. Or, à travers les précisions données par le gouvernement, il semblerait que les mesures projettent de permettre aux Australiens de désactiver l’algorithme. Baptisée My Feed, My Way (Mon fil, à ma façon), cette option devrait permettre d’avoir un meilleur contrôle sur leurs fils d’information : « ils pourraient choisir soit de maintenir le statu quo (contenu recommandé par algorithme), soit de revenir à un affichage limité aux publications des comptes qu’ils ont choisi de suivre, dans un ordre chronologique ou antéchronologique ».
Reste à savoir si l’idée d’un interrupteur marche/arrêt est une bonne idée, questionnent les chercheurs Daniel Angus, Jean Burgess et Amanda Third dans une tribune pour Tech Policy Press. S’il est nécessaire d’offrir aux utilisateurs un meilleur contrôle sur leur expérience, la proposition d’interrompre les recommandations algorithmiques offre peu de prise de contrôle aux utilisateurs, en les laissant devant un choix binaire, entre une sélection problématique et la submersion. « Le terme d’algorithme est devenu un raccourci puissant pour désigner le mécanisme bien plus vaste du pouvoir des plateformes, ainsi que la manière dont elles sélectionnent et présentent les contenus aux utilisateurs. Les recommandations de contenus nuisibles, la publicité prédatrice, la conception addictive, la polarisation politique et la visibilité des créateurs sont désormais toutes perçues comme des problèmes liés à « l’algorithme ».» Or, « le problème tient bien plus de la manière dont ils sont optimisés, les signaux qu’ils privilégient, les intérêts qu’ils servent, les effets qu’ils produisent.» « Il n’existe pas d’algorithme unique que l’on pourrait activer ou désactiver à volonté. » Les systèmes de recommandations, par exemple, sont là pour résoudre des problèmes d’abondance. Ils sont couplés à des mesures pour modérer les contenus, cibler les publicités, détecter les spams… Ils sont entremêlés à des dispositifs de sécurité essentiels pour supprimer ou rétrograder des contenus. « Le problème ne réside donc pas dans l’existence même de la recommandation algorithmique, mais dans les objectifs d’optimisation de ces systèmes, les signaux privilégiés, les intérêts servis par ces choix et les conséquences qui en découlent. Les systèmes de recommandation ne sont pas tenus de privilégier les revenus publicitaires et le temps d’attention des utilisateurs.»
« Offrir un choix aux utilisateurs est judicieux et de nombreuses plateformes proposent déjà des outils pour modifier, désactiver ou réinitialiser les algorithmes qui façonnent les fils d’actualité, bien que ces outils soient souvent difficiles à trouver, à utiliser ou à comprendre. Toutefois, l’ordre chronologique ne signifie pas l’absence de médiation algorithmique. Un fil chronologique ou basé sur les abonnements applique tout de même des règles déterminant quel contenu est inclus, exclu ou classé parmi une masse potentiellement immense de contenus disponibles. Plus important encore, proposer aux utilisateurs de choisir entre deux modes définis par la plateforme n’offre qu’une autonomie limitée. »
Mais surtout, soulignent les chercheurs des recherches sur la transparence publicitaire ont mis en évidence les limites de l’approche fondée sur le renforcement des contrôles : « fournir des informations et des outils de contrôle aux utilisateurs ne rend pas nécessairement les systèmes des plateformes transparents ni ne confère aux utilisateurs une véritable maîtrise sur ces derniers. » Offrir un contrôle plus accessible sur les critères de classement, sur la sélection des sources… est peut-être plus essentiel que de proposer un choix binaire. Enfin, ces approches oublient le problème du démarrage : que doit montrer le système à un nouvel utilisateur ? L’expérience d’un nouvel utilisateur montre pourtant la rapidité avec laquelle les plateformes recommandent des contenus de mauvaise qualité. « Si des contenus misogynes ou violents sont facilement accessibles avant même que le système de recommandation ne connaisse l’utilisateur, la suppression de la personnalisation ne résout pas le problème de fond ».
« La position du gouvernement recèle une tension singulière : il présente « l’algorithme » comme une menace dont les utilisateurs devraient être protégés, tout en exigeant des plateformes qu’elles anticipent et atténuent mieux les préjudices – ce qui, logiquement, nécessite des approches algorithmiques plus sophistiquées, et non l’inverse. À l’échelle des plateformes, l’identification du spam, des abus, des activités malveillantes coordonnées ou des schémas d’exposition à des contenus à risque ne peut se faire manuellement. Si nous voulons que les plateformes repèrent une exposition répétée à des contenus liés aux troubles du comportement alimentaire (par exemple) et interviennent, nous leur demandons de classifier les contenus, de détecter des schémas et de modifier la manière dont les éléments sont classés ou recommandés pour tout ou partie des utilisateurs. C’est pourquoi les détails du devoir de vigilance numérique présentent plus d’intérêt que la rhétorique qui l’entoure. Son principe fondamental est que les prestataires doivent identifier les risques prévisibles de préjudice et prendre des mesures raisonnables pour les atténuer. Le projet de loi exige explicitement des prestataires qu’ils évaluent les préjudices potentiels découlant non seulement des contenus, mais aussi des éléments de conception ainsi que d’autres systèmes et processus. Il confère aux plateformes la responsabilité globale de prendre en compte, de surveiller et de traiter les conséquences des fonctionnalités algorithmiques telles que les systèmes de recommandation, imposant ainsi une approche fondée sur la « sécurité dès la conception ». Les règles proposées par le projet de loi, qui imposent la mise à disposition d’outils permettant aux utilisateurs de reprendre la main, exigent également une certaine flexibilité – bien loin d’un simple interrupteur « marche/arrêt » pour les fils d’actualité algorithmiques. La spécificité de chaque plateforme jouera un rôle important : les fonctionnalités algorithmiques de YouTube diffèrent de celles de TikTok, Facebook ou Instagram ». « Même le fait d’identifier quel « algorithme » un utilisateur est censé désactiver est moins simple que le slogan ne le laisse entendre. Par conséquent, les outils dont les utilisateurs ont besoin pour exercer un plus grand contrôle sur leur expérience varieront d’une plateforme à l’autre.»
Ce projet de loi permet aux responsables politiques d’exiger des plateformes qu’elles « corrigent l’algorithme », mais les gouvernements, les chercheurs et le public disposent de moyens limités pour déterminer ce que ces systèmes font réellement. Ce qu’il manque, à nouveau, « c’estl’observabilité: la capacité d’examiner ces systèmes en fonctionnement. À quels contenus les différents utilisateurs sont-ils exposés ? Certains groupes sont-ils systématiquement exposés à des contenus différents ? Quelles modifications spécifiques des systèmes de recommandation permettent réellement de réduire les préjudices ? Des chercheurs indépendants peuvent-ils vérifier les affirmations d’une plateforme quant aux résultats de ses interventions ? Cela revêt une importance particulière dans le cadre d’une obligation de vigilance. Si les plateformes doivent identifier les risques de préjudice, les atténuer et évaluer l’efficacité de leurs interventions, des acteurs indépendants doivent avoir la possibilité de vérifier ces affirmations. Sinon, les plateformes restent à la fois responsables de l’exploitation des systèmes et seules juges de leur sécurité.»
Il est encourageant de constater que le projet de loi commence à prendre en compte ce problème. Les fournisseurs seraient tenus de réaliser et de conserver des évaluations des risques, tandis que des dispositions distinctes établiraient une base pour l’accès des chercheurs aux données et protégeraient les chercheurs agréés utilisant des identités fictives (« sock puppets ») pour étudier les plateformes. Les modalités précises de cet accès seront cruciales, mais le principe est essentiel : « l’obligation de rendre des comptes ne peut dépendre uniquement de ce que les plateformes choisissent de nous dire sur leurs propres systèmes ». C’est peut-être là, en fin de compte, le problème lorsqu’on fait de « l’algorithme » la cible de la régulation. Cela focalise l’attention sur un mécanisme technique, alors que les questions les plus importantes concernent les systèmes dans leur ensemble : ce qu’ils optimisent, leur conception, les choix qu’ils offrent, les préjudices qu’ils engendrent et la possibilité pour des tiers extérieurs aux entreprises exploitantes d’en observer les résultats de manière indépendante.
L’anthropologue du numérique Mizuko Ito pour le MIT Press Reader, dressait d’ailleurs un bilan de l’interdiction des réseaux sociaux pour les adolescents australiens de moins de 16 ans. Un an après sa mise en place, l’interdiction semble surtout avoir échoué : 7 adolescents Australiens sur 10 continuent d’utiliser les réseaux sociaux et les recherches universitaires font état d’un taux de respect de la mesure encore plus faible. « L’échec des interdictions ne doit pas inciter à renforcer les mesures coercitives ; il témoigne plutôt d’un mauvais diagnostic. » Elle rappelle que plutôt que d’attiser les conflits intergénérationnels par des interdictions, jeunes et adultes peuvent façonner la technologie ensemble. « Cela peut aller de démarches simples, comme examiner en famille les paramètres de confidentialité des réseaux sociaux, à des projets plus ambitieux tels qu’Autcraft, un serveur Minecraft géré par des familles ayant des enfants autistes. » Les éducateurs peuvent associer les élèves à l’élaboration des règles d’usage technologique à l’école et adapter les outils numériques pour favoriser l’apprentissage et le développement.
Lorsqu’on les interroge, les parents et les adolescents expriment le souhait de continuer à utiliser les réseaux sociaux, tout en disposant de moyens flexibles pour protéger leur vie privée, contrôler les algorithmes de recommandation et surveiller leur propre usage de la technologie. L’accent mis sur les interdictions s’est fait au détriment de progrès concernant les politiques et fonctionnalités des plateformes susceptibles d’améliorer l’univers numérique pour les personnes de tous âges.
Reste que là encore, on restera néanmoins sur notre faim. Les usagers n’ont pas suffisamment la main pour saisir et comprendre comment les plateformes fonctionnent pour déjouer les systèmes algorithmiques qui se jouent par devers eux. Sans mieux délimiter le modèle économique des plateformes, les régulations risquent de rester longtemps cosmétiques et inefficaces.
Character.ai’s bankruptcy is the one of the first dominos to fall in the long-foreseen AI bubble. The circumstances of its bankruptcy are exactly what critics of AI have been saying would happen: Character.ai lit a huge amount of money on fire running its product, did not bring in a lot of revenue, and faced enormous legal fees after causing harm to its users. Enshittifying its product to try to make its expenses cheaper did not work, according to a narrative filed in bankruptcy court Tuesday.
Disney has reportedly offered Character.ai $20 million to license some of its intellectual property; Last year, Disney sent Character.ai a cease and desist letter demanding it stop using its copyrighted characters without permission. In 2023, it was valued at $1 billion after raising $150 million in a round led by a16z.
Character.ai is one of the best-known AI chatbot companies that has become popular in the AI companion space. The company has faced various legal problems after being sued by the family of one of its users who killed himself after chatting with a Character.ai chatbot, and has been the target of regulators pushing for age verification tech because of its popularity with kids. In its bankruptcy filings, the company says that its enormous legal costs contributed to its bankruptcy, but that even without the legal problems, its business was wildly unsustainable.
Sorry for the late newsletter today, we’re still a little sleepy. To ease you into this afternoon, I have an interview with the guy who coined the term “smutstep,” and has become a sensation among a very specific section of dark romance BookTok — as well as a lot of haters. I thought he had some interesting things to say about the content creation game and not taking yourself too seriously while respecting your own craft and audience. Enjoy.
Last week, a video came across my feed of a man saying horny lines over a dubstep beat. “On your knees,” he snarled. As the beat dropped, he growled, “Mmm, now look at me.”
“Instagram reels just showed me a guy who makes 'smutstep' for the booktok crowd and it is the funniest thing I have ever watched,” the person reposting the video on X wrote. The replies are predictably harsh: “I think this is actually the worst thing I have ever heard.” “Who the FUCK is demanding this 😭”
People demanding this is why it exists. DARQ DAGR, whose real name is James, is a dubstep musician and voice artist who’s been working in the voice acting world for years. But smutstep is what’s made his work go viral, in large part thanks to the people who hate it so much. Smutstep emerged as a reaction to BookTok, a subculture within TikTok built by book lovers and their various followings. Within BookTok, the romantasy book genre thrives, with series like The Fourth Wing and A Court of Thorns and Roses (ACOTAR) gaining massive readerships for their blend of elven high fantasy and dragon-based erotica. The romantasy genre is not a quaint fandom. It’s a billion-dollar industry.
Like so many online communities devoted to things a little horny and misunderstood, the wider world tends to scrutinize and discredit romance readers, especially when Fae fucking is involved. James, who wants people to know he does read the books too, saw a way into two niches that could compliment each other.
“I think what I like about the whole culture — the BookTok culture and dubstep culture — it's just letting your freak flag fly in a way,” he told me in a call. “It’s accepting and embracing what you're into within a safe and healthy space. I think that's a really beautiful thing.”
Sentry mode? The “security protocols” on a Tesla stopped a Homeland Security Investigations agent from placing a tracking device on it, according to a warrant reviewed by 404 Media. On Halloween of 2025, an HSI Special Agent filed a more than 60 page application to place a tracking device on the Tesla of a suspected drug trafficker in Milwaukee. Agents had been watching alleged drug dealer Sam Stair — a local landlord they believed was using his rental properties as the front for a drug trafficking operation — for months when they asked a judge to let them install a tracker on his car. According to the warrant application, Stair went everywhere in a white Tesla and the agents wanted to see where it was when they couldn’t keep eyes on it.
FROM AROUND THE WEB
Ghosting much... SpaceX will testify before the New York City Council this week about AI safety risks. This is after Elon and co ditched a hearing on Oct. 5.
Last week, a video came across my feed of a man saying horny lines over a dubstep beat. “On your knees,” he snarled. As the beat dropped, he growled, “Mmm, now look at me.”
“Instagram reels just showed me a guy who makes 'smutstep' for the booktok crowd and it is the funniest thing I have ever watched,” the person reposting the video on X wrote. The replies are predictably harsh: “I think this is actually the worst thing I have ever heard.” “Who the FUCK is demanding this 😭”
People demanding this is why it exists. DARQ DAGR, whose real name is James, is a dubstep musician and voice artist who’s been working in the music industry and voice acting world for years. But smutstep is what’s made his work go viral, in part thanks to the people who hate it so much – and the ones who demand more of it.
Smutstep emerged as a reaction to BookTok, a subculture within TikTok built by book lovers and their various followings. Within BookTok, the romantasy book genre thrives, with series like The Fourth Wing and A Court of Thorns and Roses (ACOTAR) gaining massive readerships for their blend of elven high fantasy and dragon-based erotica. The romantasy genre is not a quaint fandom. It’s a billion-dollar industry.
Like so many online communities devoted to things a little horny and misunderstood, the wider world tends to scrutinize and discredit romance readers, especially when Fae fucking is involved. James, who wants people to know he does read the books too, saw a way into two niches that could compliment each other.
“I think what I like about the whole culture — the BookTok culture and dubstep culture — it's just letting your freak flag fly in a way,” he told me in a call. “It’s accepting and embracing what you're into within a safe and healthy space. I think that's a really beautiful thing.”
James and I talked about modern artistry in a world where interactivity and engagement rule, why he doesn’t take all of this too seriously, and the value of escapism in a time when everything else sucks. And yes, I ask him to do the growl.
This interview has been edited for length and clarity.
SAM: I will admit just off the bat, I'm not in the BookTok world personally.
DARQ DAGR: Uh-huh.
I have nothing against BookTok. Beautiful community. But I can't get into it. I've tried like, ACOTAR. I haven't found my romantasy, I suppose. So I might ask you some dumb questions, but hopefully you can also serve as a little bit of an explainer for those of us who are not super in that world. Tell me how you got into this?
Yeah. So the thing is, it wasn't like when I was a kid, I was like, when I grow up I wanna growl. You know? I've been a trained professional vocalist for a really long time. I've done metal and I've done theatre, I've done pop, I've done rock. The reason I'm in Nashville right now is because I spent eight years in a country band that was touring the world. I just kinda do everything there is to do with my voice. I've been a professional performer and vocalist for a really long time. My wife is really into the BookTok world. And so I was exposed to the community and the books through her.
The first video that went viral for me was when I had just left my country band. And all I wanted was for the way I was presenting myself and expressing myself to be true to the things that I was into, which is dubstep. I had fallen in love with dubstep. I think it's the most beautiful community in the world. And then, I've always been a huge fantasy fan. I've always been really into Lord of the Rings and The Witcher and all that stuff. So getting into romantasy was not a big step for me, because I'm already a fan of fantasy. Making that video was me kind of saying, ‘I feel like a lot of these BookTok boys are getting the growl wrong.’ And then I did a growl that I did from back in my metal days. And it just blew up and it created this whole community of people who were really into the growl. But I was not the first person to do the growl.
There's another creator who was doing it long before me. His name's Michael Ayok. I can't take credit for being the first to BookTok growl, but I definitely get a lot of recognition for it.
Obviously I wanted to be producing dubstep music, but my community all wanted me to growl, so it was like, how do I make this make sense? And so I just started growling in my dubstep and inadvertently created a subgenre of dubstep called smutstep. It's all community driven though. Honestly, even the name smutstep was a comment on one of my videos.
Somebody had requested that I growl ‘sit down’ and I did a video growling it that did really well. So I was like, well, let's just make a dubstep drop out of this. It's community driven, and it's fun. I'm glad that people are liking it.
I think the biggest issue though is that... I'm having fun. I do not take this seriously. Again, it wasn't a dream of mine to grow up and growl at people. I took two very niche communities — the dark romance BookTok niche community, and the dubstep community — that are not designed to be exposed to general culture. So there's a lot of hate that comes with that and a lot of negativity. People react very strongly to what I do. And I think that that's as an artist, I think that's effective art. You want people to be moved to an extreme. You know? But you cannot control what that extreme is gonna be.
There are people that treat me like Marilyn Manson in the nineties. His art is meant to be taken seriously. He is making a social commentary where he's putting a mirror up to society and showing how ugly it is. Whether you love that or you hate it, it's meant to be taken seriously. Smutstep is not meant to be taken seriously. If you enjoy it, that's awesome. You know what I mean? I'm having fun with it. I love the community I've created around it. We're all having fun. But it's not meant to be taken as seriously as so many of the haters take it.
Yeah, it's broken containment from these specific niche communities, into the wider world. Which is the curse and blessing of social media, I guess. Something breaks out and becomes viral and then everybody's aware of it, even people who maybe are not the audience.
I sent you the link to the video that's got a million views now on X, and all the comments and replies are really rude. So just be warned. People are like, ‘I'm never gonna unmute this. I would never unmute this to save my life,’ that kind of thing. And like you said, it’s not that serious. If it's not your thing, that's okay. Move on.
But what do you think about those comments? The ones that are like, ‘this is gigacringe.’
That's been a lot of what I deal with on other platforms. Facebook and TikTok are way better. On Instagram, l have my comments limited to people who follow me because it's just so much hate.
People are crazy on Instagram. People will say the most sideways shit on Instagram.
Yeah, and that's that's the thing. Like obviously, as much as we're all just having fun, of course it does mentally take a big toll on you.
You said this is community driven. Were people waiting to have this sort of thing enter their already-existing BookTok community, or where do you think it comes from? Why are people resonating with this?
Men in BookTok is not a new thing. Making it dubstep is my brand. But for me, smutstep is like the KISS makeup. It's a gimmick. Everybody needs something that makes them stand out. So right now, smutstep is what makes me different, it's what makes me unique.
Most of my content is based off of people making requests in the comments. I think that may be why it's taken off the way it has. Obviously it has to do with me, but it has so much to do with the people who are enjoying it. This is something that I think in a lot of ways is actually a much more modern take on entertainment. From its inception, it’s community demand, and giving people what they want within what I wanna do. I'm not doing something I don't wanna do. It's like, all right, you guys want this? Well, I'm gonna make it, but I'm gonna go the dark romance route and make it super aggressive, because I want to make dubstep out of it, and people are like, ‘That's fucking dope.’
Are you familiar with like the romantasy theme park videos?
No. No.
Oh my god. You would get a kick out of this, and probably your wife would also, but it's part of SeaWorld. You know how around Halloween, theme parks will do like horror nights, and characters come out and chase you? It's that, but it's BookTok boys.
I'll send you a link. But it has gotten a really big reaction from wider culture, where people are like, ‘this is so cringe and weird.’ The execution is really cringe and weird, but it is responding to something people wanted, which was: romantasy in a more interactive way. Is there anything that people are demanding from you more than other stuff?
There's a book series called The Fourth Wing and there's a dragon in it called Tairn. Somebody said that Tairn should be Scottish, because his name is Tairneanach, which is a Scottish name. So I did a growl, but in the Scottish accent.
I do another series with masked growls. I'm supposed to do one today, if the mask gets here in time. It’s a Scream mask 'cause we're in spooky season, and people have been wanting that for as long as I've been doing this.
I think what I like about the whole culture — the BookTok culture and dubstep culture — it's just letting your freak flag fly in a way. It’s accepting and embracing what you're into within a safe and healthy space. I think that's a really beautiful thing. Maybe it's just as I get older, but I'm just so disillusioned with reality and I constantly want more escapism for myself, and want to give others more escapism as well. So that's kind of my goal as an artist is just escapism.
That’s a huge appeal of fantasy and romance in general. I'm also a big Lord of the Rings fan. That type of fantasy I can get with. I wonder if Lord of the Rings launched today, if we would be calling it romantasy. I guess there's not enough sex in it though.
The thing about romantasy is, there does need to be pretty pretty graphic scenes in it. But Lord of the Rings has none of that. I do read the romantic stuff too. I don't wanna be somebody who just does it for the views. I do read both.
Do you think people have picked up on the smutstep genre since you started? Are there new people doing it?
I haven't noticed, but that doesn't mean someone's not out there trying and just hasn't had a video hit yet. And to be honest, I'm not surprised. I think that it's one of those things... It's human nature to have an aversion to something new that they don't understand. It’s still in the phase where I think it's more ‘what the fuck’ than something that is socially acceptable. Which again, it was never meant to be broadly socially acceptable. It was meant to be niche-acceptable, which it already is. I don't think there's a lot of people trying to do it because I think people are too afraid of having to deal with the same stuff I deal with.
I would be remiss in letting you go if I didn't make you do a growl. Would you be willing to offer us a growl?
I can. It's not going to be that loud, because I don't have a mic, but I can do one. Ready?
[Growls]
Did you hear it? Did it pick it up?
It was like a growl in the distance. I'll practice mine. I'll do it on the podcast maybe and you can critique my growl.
The “security protocols” on a Tesla stopped a Homeland Security Investigations (HSI) agent from placing a tracking device on it, according to a warrant reviewed by 404 Media.
Les livres de la journaliste altermondialiste canadienne Naomi Klein se succèdent, s’assemblent et se ressemblent peu. On y trouve cependant une trame commune : elle nous propose à chaque fois une lecture qui éclaire la confusion des événements que nous vivons. Après l’excellent Le Double (Actes Sud, 2024, qui vient de paraître en poche, sur le complotisme, le renversement des discours de gauche par la droite, la puissance des discours individualistes et l’accélération des colères par la numérisation), voilà qu’elle signe avec la réalisatrice et activiste Astra Taylor un livre qui parle beaucoup de technologies : End Times Facism (Le fascisme de la fin des temps, MacMillan, 2026, non traduit – Actes Sud annonce sa traduction pour l’hiver 2027).
Nous voici confrontés à des temps apocalyptiques. Une apocalypse que l’on connaît très bien puisqu’elle n’a cessé de nous être racontée, des textes sacrés au cinéma hollywoodien. Cette séduction du chaos, Naomi Klein l’avait déjà croisée quand elle écrivait La stratégie du choc (Actes Sud, 2008) où elle décrivait déjà la montée d’un « capitalisme du désastre » permettant d’assurer l’avènement d’un ultralibéralisme tout puissant. Désormais, les entreprises et les régimes réactionnaires provoquent et renforcent les crises qui leurs bénéficient. Le choc et le désastre ne sont plus des exceptions, mais sont devenues la règle. « Nous entrons dans un nouveau paradigme, un monde de bouleversements permanents où la stabilité est l’exception et l’incertain la règle ». « Les grandes entreprises et les joueurs politiques de l’extrême droite misent sur un avenir chaotique, le provoquant, s’y préparant et le construisant ». Nous sommes entrés dans la contre-révolution de l’extrême-droite où le monde réel est de plus en plus gouverné par la force. Pour les deux essayistes, nous voici confrontés au retour du fascisme, qu’elles définissent comme la révolte des puissants qui exploitent les passions et les ressentiments de ceux qui ne le sont pas. C’est une alliance entre des leaders déchus, des entrepreneurs et des leaders religieux conservateurs pour défendre la puissance et ses institutions : la nation, le marché, la police, la militarisation, la famille. Mais le fascisme qui vient n’est pas pour autant le fascisme d’hier, préviennent les deux essayistes. Ce qui caractérise la convergence d’extrême-droite actuelle, c’est la conviction partagée que notre monde commun arrive à sa fin. C’est un fascisme de la fin des temps, un fascisme apocalyptique.« Les plus puissantes personnes du monde se préparent pour la fin du monde, une fin qu’ils accélèrent eux-mêmes frénétiquement ».
Le fascisme a toujours eu un complexe d’Armageddon, disait déjà Umberto Eco, se projetant toujours dans une bataille finale entre le mal et le bien. Pour Klein et Taylor, cela ne signifie pas que Trump, Netanyahou ou Putin sont plus dangereux qu’Hitler, Mussolini et Franco, mais que « notre monde est plus dangereux que le leur : leurs armes sont plus meurtrières, leurs technologies plus puissantes, leurs média plus connectés, le climat plus instable, et la concentration des richesses a une portée plus globale qu’elle n’en a jamais eu auparavant ».
L’idéologie d’extrême-droite est devenue un survivalisme. Entrepreneurs, prédicateurs et politiciens ultra-conservateurs ne nous proposent rien d’autre qu’un abandon. Ils ne nous proposent rien d’autre que de quitter notre monde commun. Ils sont ceux qui abandonnent, « les quitteurs », comme les désigne Marisa Franco, cofondatrice de Mijente, un groupe de défense des migrants. La concentration du pouvoir militaire, financier et technologique leur permet de rendre la trajectoire vers l’apocalypse instoppable.
Pourtant, rappellent les essayistes, quelque soit leur puissance, ces fascistes de la fin des temps sont et restent une minorité. Tous les chefs d’entreprises ne sont pas Musk, tous les chrétiens conservateurs ne sont pas nationalistes, tous les gens des classes populaires qui ont voté Trump n’attendent pas la fin des temps. La plupart veulent juste secouer le statu quo, espèrent de meilleurs jobs et une vie moins chère, et pensent que de meilleures frontières pourraient leur apporter cela. Nombre de ceux qui ont voté Trump ont très vite déchanté et se sont rendu compte que la cruauté à l’oeuvre n’a pas fait baisser les prix, que la plupart des nouveaux emplois consiste soit à pointer des armes contre les autres, soit à construire des centre de données qui risquent bien plus de faire disparaître les derniers emplois qui restent qu’en ramener. Les ravages opérés dans les services publics ont affecté tous ceux qui ne sont pas riches. Ce fascisme de la fin des temps n’a pas encore gagné et il peut être défait, veulent encore croire Klein et Taylor.
La convergence des fanatismes apocalyptiques
Ce fascisme est une conjonction de trois composantes qui renforcent sa puissance. C’est l’alliance d’un fanatisme religieux, d’un fanatisme technologique et d’un ethno-nationalisme débridé. Et sa faiblesse, c’est que ces trois composantes sont en proie à de nombreux désaccords qui pourrait bien faire éclater cette coalition. Le très influent Steve Bannon par exemple déteste les « psychopathes » de la Silicon Valley. Et parmi le mouvement Maga, si certains pensent que Trump est l’instrument de Dieu, d’autres qu’il est l’instrument dissimulé des Jeffrey Epstein de ce monde. End Times Fascism explore tour à tour ces trois composantes. L’extrémisme religieux, les extrémistes de la tech et ceux qui aspirent à ce que la Nation toute entière devienne le bunker ultime. Ces trois visions bunkerisées de l’avenir cherchent à déchirer l’égalité et l’empathie. Ces trois extrémismes partagent le même rejet de la démocratie et partagent la même croyance en leur impunité. Pour Klein et Taylor, le combat à venir ne consiste pas tant à combattre ces personnes qui sont à la racine des problèmes, que les systèmes qui leurs permettent de concentrer tant de pouvoir et de richesses.
Taylor et Klein rappellent que le nazisme n’a pas été la rupture politique que l’on croit. Comme le disait Nehru, l’une des grandes figures de la lutte pour l’indépendance de l’Inde, après avoir traversé l’Europe avant la seconde guerre mondiale, le fascisme a mis à jour les méthodes de l’impérialisme européen. Même constat pour le défenseur des droits civiques américain W.E.B. Du Bois : les nazis ont mobilisé les méthodes que la civilisation chrétienne a pratiqué en Europe puis dans le reste du monde avec le colonialisme, visant à défendre la capacité de l’Occident, cette race qui se voulait supérieure, à gouverner le monde. Nombre de pays ont été profondément fascistes dans leurs colonies, alors qu’elles se montraient libérales et démocratiques chez elles. D’ailleurs, le fascisme d’aujourd’hui se comprend mal à l’aune du nazisme d’hier. Ceux d’aujourd’hui sont bien plus individualistes. La suprématie à laquelle ils croient tient bien plus d’une supériorité de l’extrême richesse,« d’un eugénisme des marchés ». Le fascisme d’aujourd’hui vise plus à chasser les clics que les personnes (même si chasser les clics conduit à déporter et violenter des personnes). Les étoiles jaunes d’hier se cachent désormais derrière les bases de données de la reconnaissance faciale et les scores de risques algorithmiques, appuient-elles.
Les tendances fascistes s’amplifient toujours dans les moments de crises, notamment les périodes de dépression économique et d’hyperinflation. « Le fascisme est la réponse la plus féroce du capitalisme face aux menaces ; c’est un moyen de s’assurer que la colère publique, qui monte en période de crise profonde, soit dirigée vers le bas – contre les plus vulnérables – plutôt que vers le haut, contre le système lui-même ainsi que ses gardiens et bénéficiaires les plus privilégiés ». Dans les années 30, le nazisme a été la réponse capitaliste à la menace communiste, tout comme les dictatures des années 70 en Amérique Latine ont été la conséquence des prises de pouvoir des gauches. Comme le disait le politicien antifasciste Ignazio Stilone : « le facisme est une contre-révolution contre une révolution qui n’a pas eu lieu ». Et aux Etats-Unis, d’Occupy Wall Street à Black Lives Matter, Trump a été la réponse à la montée de la contestation de gauche. Entre la solidarité et le fascisme, les plus puissants ont agi comme leurs prédécesseurs l’ont fait avant eux. Ils ont choisi la contre-révolution contre la révolution qui n’a pas eu lieu.
La première partie du livre, sur l’extrémisme religieux est certainement la plus originale. Elle commence en revenant sur l’attentat perpétré par le fondamentaliste chrétien Denis Michael Rohan en 1969 qui met le feu à la mosquée al-Aqsa sur l’esplanade des mosquées à Jérusalem, afin de reconstruire le Troisième Temple de Jérusalem, qui assure d’une rédemption totale à ceux qui le bâtiront puisqu’il accueillera Dieu pour l’éternité. L’extrémisme religieux consomme et produit beaucoup de ce qui relève de fantaisies eschatologiques. Pour beaucoup de fondamentalistes, la fin des temps est imminente et nécessite à la fois de la faire advenir et de s’y préparer. Dans nombre de religions, le messianisme est vivace. Sur l’esplanade des mosquées, depuis 2025, le ministre israélien de la Sécurité nationale, du parti d’extrême droite ultranationaliste, suprémaciste et néosioniste, Itamar Ben-Gvir, multiplie les visites provocatrices et les prières, en violation directe du statu quo historique.
Mais il n’y a pas qu’Israël qui est gangrénée par le fondamentalisme. Le parti Républicain américain lui-même est noyauté par un très influent bloc évangélique qui soutient le fondamentalisme israélien et l’annonce du retour du messie. Ces chrétiens sionistes sont en conflit avec un autre courant évangélique : les nationalistes chrétiens. Trump comme Netanyahou ont l’un comme l’autre parfaitement compris que ces courants messianiques ont beaucoup d’influence et sont déterminés à les utiliser pour leurs propres buts. Les deux autrices nous éclairent sur l’impact profond du fondamentalisme chrétien aux Etats-Unis, nous montrant qu’il est partout et que les idées qu’ils professent sont profondément problématiques et simplistes. Ces Églises qui tiennent toutes des propos apocalyptiques disposent de beaucoup d’argent et donc de beaucoup de pouvoir. Elles publient des livres sur la fin des temps à venir qui se vendent par millions, inondent leurs ouailles de sermons sur la rédemption. « Les plus grandes églises évangéliques aux Etats-Unis et dans le reste du monde sont convaincus de l’imminence de la fin des temps ». Ces pasteurs, à l’image d’un des plus suivis, John Hagee, dispensent à longueur d’homélies des théories totalement problématiques et extrêmement politiques. Dans la logique des chrétiens sionistes, en Israël, le danger n’est pas la guerre, mais la paix. Les propos que les deux journalistes rapportent font froid dans le dos, tant ces pasteurs dont l’audience est très forte, racontent n’importe quoi, partageant des vidéos et des propos claqués au sol, assurant détenir des moyens de guérir Alzheimer ou de rendre la vue aux aveugles. Derrière ces absurdités, les dangers ne peuvent être ignorés, tant ces propos ont des implications politiques. Ces églises soutiennent très largement le droit d’Israël à annexer les territoires Palestiniens et toutes« partagent le désir que la loi religieuse remplace le droit civil ». Ces églises s’en prennent à longueur de sermons aux mêmes ennemis : les musulmans, les LGBTQ+, les Nations Unies et la gauche. Ces églises enfin vivent souvent en communauté fermées, avec leurs écoles, leurs quartiers, leur culture… Mais plus seulement. Beaucoup sont désormais prosélytes et pensent que la religion doit dominer toute la société. En 2024, c’est quelque 41% des chrétiens Américains qui sont convaincus qu’ils ne doivent pas seulement prier, mais gouverner le monde. A l’image de la fondation Heritage qui défend rien de moins qu’un agenda théocratique et cherche à imposer une culture chrétienne capitaliste dans toutes les strates de la société, à l’image d’un de ses principaux architectes, le nationaliste chrétien Russell Vought, l’un des plus influent personnage de l’administration Trump. Alors que lors de la première présidence de Trump, la relation du président américain avec les églises évangélistes semblait surtout transactionnelle, depuis qu’il a échappé à une tentative d’assassinat en 2024, il semble bien plus convaincu de sa propre déification.
Les deux journalistes rappellent que ce fondamentalisme chrétien essaime bien au-delà des Etats-Unis, notamment en Amérique du Sud et en Afrique. Le risque est de voir s’imposer partout des formes d’État théocratiques. « La religion fonctionne bien plus comme une amphétamine que comme un opium, agitant bien plus qu’apaisant les âmes anxieuses ». Là où elle se dissémine, dans les recoins de l’extrême-droite, la foi est un accélérateur, de l’essence jetée sur un monde déjà en flamme. Les idéologies suprémacistes rejoignent désormais la ferveur apocalyptique et la moindre crise leur donne du carburant. Et les réseaux sociaux à leur tour alimentent la ferveur, à l’image du RaptureTok de septembre 2025, une des innombrables rumeurs qui y circulent promettant une fin du monde imminente.
« Le fascisme est une réponse morbide à des menaces et crises bien réelles » et vise à diriger la peur et la colère loin des systèmes qui conduisent à ces crises. Face aux crises, la promesse d’une bataille finale entre le bien et le mal promet à certains d’être sauvés. Pour Klein et Taylor, le facisme de la fin des temps est la conséquence du déni du dysfonctionnement du capitalisme. C’est une forme de réinterprétation des crises bien réelles que nous traversons (comme le réchauffement climatique) à l’aune des écritures.
Toutes les crises, comme le Covid ou les attaques du 7 octobre 2023 en Israël, deviennent des occasions d’accélérer la culture conspirationniste, facsciste et religieuse qui infecte la politique. Ce conspirationnisme anti-vaccin par exemple, qui s’en est pris tant à Bill Gates qu’à Anthony Fauci ou qu’à l’organisation mondiale de la santé, tient d’une mise à jour d’une longue hostilité de l’extrême-droite évangélique à l’encontre du New Deal et des politiques sociales, vues comme l’Antéchrist. La vraie menace pour ceux qui ont une vision paranoïaque du monde n’était pas le virus, mais plutôt les mesures de sécurité publique adoptées pour protéger les personnes vulnérables. Pour Klein et Taylor, la culture religieuse a été dévorée par la culture conspirationniste. Pour les chrétiens évangélistes américains, leur déclin, en nombre, les conduit à des positions de plus en plus extrêmes, à l’image du délirant Charlie Kirk, qui dans ses propos, comme dans son pamphlet (The Christian Response to the Great Reset), accusait le Forum économique mondial d’avoir produit le virus pour assouvir le monde et en appelait au retour aux valeures bibliques. Même l’insurrection du capitole du 6 janvier 2021 est vue comme un soulèvement chrétien. Pour Kirk, dans ses homélies fascisantes, les opposants à Trump devaient recevoir la peine de mort, de saintes exécutions.
Les attaques du 7 octobre 2023 ont été vécues par nombre de fondamentalistes juifs comme un signe de plus de la fin des temps. Elle les a radicalisés. Pour eux, l’occupation des territoires palestinien ne suffisant plus à protéger Israël, il fallait passer à l’étape suivante : l’expulsion, l’annexion voire l’annihilation. Nombre de télévangélistes ont utilisé les attaques pour annoncer la fin des temps. « L’eschatologie inverse le signal pour lui donner le sens opposé : le mal est le bien, les fléaux sont des remèdes, la guerre est la paix. » Quand Marco Rubio défend l’attaque contre l’Iran en expliquant que le régime est théocratique et apocalyptique, on peut se demander s’il ne parle pas plus des Etats-Unis que de l’Iran. Dans l’armée israélienne comme dans l’armée américaine, la plupart des soldats et des gradés sont convaincus d’avoir une mission messianique à accomplir, et que l’armée est un outil pour la rédemption. Le télévangéliste Texan, Byron Stinson, a défendu la venue de la fin du monde… puisqu’elle signifie le retour du messie.
Les deux journalistes rappellent pourtant que le christianisme n’a pas toujours été aussi radical. Dans les années 60, était même apparue une théologie de gauche, en réaction au soutien problématique de l’Église catholique à nombre de gouvernements autoritaires, comme les dictatures d’Amérique du Sud. Mais la montée des théologies de la libération ont conduit à une réaction renforçant un clergé conservateur, dénonçant l’égalité, au motif que c’est à Dieu de distribuer récompenses et punitions, comme dans le Pentecôtisme qui est venu occuper le vide laissé par les retraits de la gauche catholique. Pourtant, la solidarité n’a pas totalement disparu des églises. Lors du soulèvement contre les exactions de l’ICE à Minneapolis, les églises, synagogues et mosquées sont souvent devenues des lieux d’organisation. Les préceptes religieux de bienveillance, soin aux malades, aide aux plus pauvres, accueil des étrangers n’ont pas totalement disparu… mais ils semblent avoir été partout recouverts par l’espérance d’une rédemption terminale.
L’extrême-tech, le radicalisme des dieux numériques
Une semaine avant l’élection présidentielle de 2024, la société de capital-risque Founders Fund a organisé à Miami deux jours de fêtes et de conférences VIP sur le thème des pensées interdites sous le nom de « bal des l’apocalypse » ! Un évènement pour le moins cynique qui invitait les participants à discuter de comment détruire le monde. Au programme de ces conférences très classiques, nombre de hérauts de la tech, souvent sous pseudonymes, parmi lesquels bien sûr, l’inaltérable Peter Thiel, Curtis Yarvin, les fondateurs d’Anduril, Bryan Johnson, l’entrepreneur qui défit la mort, l’ex-acteur Kevin Spacey… Deux jours à célébrer les vertus de la hiérarchie, de la domination, des technologies ségrégatives… avec des sessions sur la colonisation de mars, l’invasion du Groenland, ou sur comment brûler le plus de pétrole et de charbon possible et bien sûr des odes aux communautés fermées portées par Patri Friedman invitant les entrepreneurs à abandonner leurs obligations sociales (« une façon d’être responsable de sa propre propulsion vers le paradis, sans qu’aucune intervention divine ne soit nécessaire », sic). Bref, un ensemble incohérent d’amalgames idéologiques, traversé de quelques valeurs partagées, comme l’eugénisme, l’anti-démocratie, la célébration de l’entrepreneuriat… Pour tous ces gens, les ennemis sont tous ceux qui cherchent à entraver la maximisation du profit auquel ils aspirent.
« Les idées de cette tech d’extrême-droite sont intensivement impopulaires », rappellent Klein et Taylor, cela ne les empêche pas d’être influents et de rassembler un grand nombre d’entrepreneurs autour d’eux. Ici, les deux journalistes documentent des choses sur lesquelles nous sommes plus éveillés : la bascule fasciste des milliardaires de la tech, comme le documentent par exemple, en France, Thibault Prévost, Olivier Tesquet et Natasha Hadjadji dans leurs livres, Technologie du coup d’Etat et Apocalypse Nerds. Avec la seconde élection de Trump, le monde de la Tech s’est rangé à la défense de ses intérêts. Pour Astra Taylor et Naomi Klein, c’est l’IA qui les a fait basculer, avancent-elles. Ils sont convaincus que l’IA aujourd’hui et l’IA générative demain vont remplacer la grande majorité des activités économiques jusqu’à là accomplies par les humains : de la conduite des véhicules à l’art, du traitement des maladies à l’enseignement… promettant d’étendre sans fin la disruption et la génération de profit.
Les financiers de la tech et les entrepreneurs qui ont rejoint l’orbite de Trump partagent plusieurs choses en commun : « ils cherchent désespérément à nous vendre ce futur post-humain soi-disant glorieux, et ils brûlent d’envie que leurs entreprises dominent ce paradis imaginaire peuplé de machines ». Mais ces croyances dans l’avènement d’une intelligence artificielle générale ont bien plus en commun avec la croyance religieuse et le complotisme, qu’à des projections basées sur la science ou les marchés. En cela, ils se révèlent très proches des dérives eschatologiques des courants religieux fondamentalistes, assurent Taylor et Klein. En fait, eux-aussi, prédisent la fin du monde, en dépensant sans compter pour créer leurs industries de données quitte à détruire l’économie et à détruire l’habitabilité même de notre monde physique. Enfin, l’IA promet de consolider le pouvoir des entreprises de la tech à un niveau sans précédent au prix d’une extension sans limite de la surveillance. Leur technologie promet surtout de renforcer les pouvoirs de ceux qui la contrôlent au détriment de tous les autres. Pour eux, l’IAG s’annonce comme la technologie ultime, la dernière invention, qui annoncera « le début de la fin des temps, ou du moins la fin de la concurrence sur les marchés ». Celui qui remportera la course deviendra tout puissant, ayant droit de vie ou de mort sur toutes les autres entreprises qui dépenderont de sa puissance.
Face à ces enjeux, la délibération démocratique ou la régulation ne sont que entraves à l’avènement du glorieux avenir que représente à la fois la fin du monde et l’avènement d’une IA omnisciente et toute puissante. Finalement, le ralliement de la tech à la politique de Trump tient des mêmes raisons que celui des fanatiques religieux, en proie à leurs propres rêves apocalyptiques : « ils avaient besoin d’un dirigeant assez téméraire et dépourvu de cœur pour les aider à jouer le sort du monde sur une violente fantasmagorie millénariste ». En cela, les conceptions apocalyptiques ou messianiques de l’IA se rejoignent, rappellent les journalistes, nombre de leurs thuriféraires passant allègrement du risque à l’enchantement. La version messiannique promet l’IA qui soignera toutes les maladies, qui résoudra le changement climatique, qui créera une abondance matérielle sans limite et rendra le gouvernement rationnel… C’est l’IA pour sauver le monde, qui donnera naissance à un pays de génies capables de doubler l’espérance de vie, comme l’a promis Dario Amodei par exemple. De l’autre, c’est l’IA qui s’apprête à détruire le monde, les emplois, la vie sur terre… Mais comme dans les fondamentalismes religieux, cette double vision, souvent imbriquée, n’est que l’autre face d’une même idée, celle de l’apocalypse qui conduit à la rédemption. La promesse que l’IA offre la sagesse infinie aux plus riches rejoint la promesse de l’arrivée de dieu sur terre : dans un cas comme dans l’autre, le salut est seulement destiné aux rares élus. En ce sens, la technologie est aussi inévitable que l’arrivée de dieu sur terre.
En réalité, la superintelligence relève bien plus d’un discours marketing, qui vise à faire gonfler la bulle du profit, comme le montraient Alex Hanna et Emily Bender dans leur livre. Les entreprises d’IA ne cessent d’affirmer que leurs machines sont conscientes, pavant la voie dans la croyance en leur supériorité voire leur divinité. Comme le montre la réalisatrice Valerie Veatch dans son film, Ghost in the Machine, des hommes puissants célèbrent leur capacité à créer la vie. Et comme chez les fondamentalistes religieux, aucune femme n’est plus nécessaire.
Désormais, tout ce qui compte, pour les entrepreneurs de la tech, c’est de sécuriser l’accès aux capacités de calcul, à l’électricité, à l’investissement et donc aux revenus. D’ici 2035, le secteur pourrait représenter 44% des émissions d’électricité des Etats-Unis. Les géants de la Tech bataillent pour construire des centres de données toujours plus grands et puissants et vendre leurs produits aux entreprises et aux autorités pour qu’elles les utilisent pour faire toutes les tâches qu’elles faisaient, des soins de santé à la police. C’est oublier bien vite que les gens ont besoin de leur travail, qu’ils préfèrent les médecins humains et plus encore une planète habitable, rappellent Klein et Taylor. Pas étonnant donc qu’en transformant l’IA en système d’exploitation pour toute l’économie, ces entreprises se confrontent à des contestations et des résistances inédites.
Pour balayer toutes les oppositions, ils ont donc besoin d’un pouvoir fort et d’un homme fort, que Trump et ses sbires incarnent parfaitement. C’est JD Vance qui a scellé l’accord entre la coalition Maga et la Silicon Valley, rappellent les essayistes, quand le protégé de Thiel a permis le rapprochement avec les empereurs de la Tech et Trump sur le dos d’une administration Biden qui tentait de réguler les cryptomonnaies et l’IA. Depuis, les projets d’alliance vont bon train. Les géants de la tech ont colonisé les marchés publics, à l’image de Palantir. Trump a fait tomber les régulations. « Toute ruée vers l’or nécessite son Far West, c’est-à-dire une frontière, une zone d’exception où les règles et les lois habituelles ne s’appliquent pas. Et c’est précisément ce que Trump a apporté ». Les dépenses dans les data centers pourraient totaliser 7 000 milliards d’ici 2030. Les entreprises de la tech atteignent des niveaux de financements jamais atteint. Les entreprises de la tech sont désormais les seules responsables de la croissance américaine, même si nul ne sait comment elles vont générer suffisamment de revenus en regard. Seulement 17% des Américains pensent que l’IA va avoir un impact positif sur les Etats-Unis d’ici 20 ans… La résistance du public annonce qu’une correction pourrait bien advenir.
Quant au déploiement de l’IA dans l’administration américaine, les deux autrices en soulignent l’aporie partout. Des efforts du Doge aux exactions de l’ICE en passant par la montée de la surveillance via les outils de Palantir… Peu importe les défaillances de la technologie : « créer un appareil administratif qui fonctionne bien ne figure pas à l’ordre du jour ». Le but est bien plus de sécuriser les investissements, de vendre des produits aux gouvernements étrangers et de sécuriser les législations favorables à la tech américaine. De sécuriser l’accès aux ressources via des droits de douanes chaotiques. « Promouvoir et défendre la révolution mondiale de l’IA portée par la Silicon Valley constitue désormais la mission primordiale du gouvernement américain ». Ce qui s’impose en Amérique, c’est la couche technique autoritaire. « Le fascisme est toujours un système de racket au profit du capital : il protège un groupe restreint d’entreprises et d’intérêts, tant face aux travailleurs que face à la concurrence ; en retour, ces entreprises apportent leur soutien au projet de l’État ».
Taylor et Klein parlent à leur tour d’État mafieux, de gangstérisme, en rappelant que depuis 2025, Trump lui-même n’a pas été le dernier à s’enrichir éhontément comme le pointaient le Financial Times et le New York Times cet été. « Les élites de la tech ont atteint une nouvelle stratosphère de richesse grâce à une technologie qui, selon leurs prévisions, provoquera un véritable cataclysme pour l’emploi ». Et l’annonce sans cesse renouvelée de cette apocalypse, permet de rallier les derniers investisseurs qui hésiteraient encore.
Le gouvernement de Trump et Vance leur a permis d’aller plus loin encore dans cette violence économique à l’égard des citoyens américains. En échange, ces entreprises sont venues équiper l’administration pour que la technologie vienne équiper le gouvernement, que ce soit pour combattre les ennemis étrangers comme domestiques. La surveillance de masse en est à la fois la condition et la conséquence.«Quand votre modèle économique est de détruire l’emploi de classes entières d’actifs, il est nécessaire de pointer les caméras, les données et les robots contre ces mêmes usagers». Thiel comme Karp rêvent de villes réservées aux seuls riches, ce que Balaji Srinivasan appelle le sionisme technologique, le fait d’utiliser la technologie pour développer un apartheid social. A mesure que se déploie l’empilement de technologies autoritaires, chaque contrat approfondi le piège pour se refermer sur chacun d’entre nous. A mesure que Palantir devient indispensable, que les drones d’Anduril deviennent le standard de l’Otan, que les centrales nucléaires font tourner les data centers, la transformation devient peu à peu irréversible. « Sous la bannière d’une technologie patriotique, ce bloc construit une infrastructure de contrôle… Un régime où les entreprises font les règles, plus que les politiques publiques ». Plutôt que de convaincre les électeurs, les technologies autoritaires souhaitent contrôler les infrastructures, en pillant et privatisant tous les aspects du régalien. Pour Trump comme pour Thiel, l’administration n’est qu’un territoire pour l’extraction de valeur. Pas étonnant alors que ces gens se sentent assaillis par les centres de données, les caméras de surveillance ou les transformations éducatives.
Les entrepreneurs de la tech construisent leurs bunkers. Tous se préparent à survivre à l’apocalypse qu’ils fabriquent. « Les plans d’évacuation qui accaparent nos élites nous indiquent que ces hommes sont terrifiés par le monde qu’ils construisent ». S’ils sont aussi obnubilés par l’eugénisme, la suprématie cognitive ou les hiérarchies sociales, c’est d’abord parce que leurs rêves suprémacistes cherchent à les protéger du reste du monde. Et leur obsession est d’autant plus vive que la résistance au futur qu’ils proposent se renforce comme jamais.
Dans leur livre, Taylor et Klein documentent la contestation contre les data centers et contre l’IA, à l’image des Colossus que Musk déploie dans le Tennessee. Ces vampires énergétiques, comme les appellent les opposants, se proposent de sacrifier la vie des gens. Ces industries IA, sont d’abord des industries sans personnel, rappellent les autrices qui parlent de « machines d’élimination humaines ». Comme le prophétisait Musk, à l’avenir, le travail sera optionnel.
Pour Klein et Taylor, cette nouvelle industrialisation ne ressemble donc pas aux précédentes. Les habitants ont souvent accepté les effets néfastes des vagues d’industrialisation précédentes, parce qu’en retour, ils bénéficiaient de boulots, de taxes et de produits. Ce n’est plus ce que promettent ces entrepôts vides, qui semblent venir donner le coup de grâce à la désindustrialisation occidentale. Ils ne promettent même plus un monde commun, à l’image de l’abandon par les grands acteurs de la tech de leurs objectifs climatiques. Bill Gates lui-même, qui avait publié un livre alarmiste sur le risque de désastre climatique, estime désormais que le réchauffement a été surévalué ! « Le moment où les Big Tech déclaraient vouloir sauver le monde est passé. Désormais, il est temps de le consommer ». Mais ne vous inquiétez pas ! Les entreprises ont déjà la réponse à ces critiques : l’IA va réparer la crise climatique, même s’il l’empire, ironisent Klein et Taylor. Pour cela, finalement, il suffit à ces entreprises de contrôler la vérité. Et n’est-ce pas finalement ce que font leurs machines, par exemple en déployant des IA non woke, c’est-à-dire contre la justice sociale. Les outils qu’ils déploient permettent comme nulle autre d’accomplir le rêve fasciste ultime, celui de contrôler et déformer notre perception collective de la réalité.
Avant, pour contrôler le monde, il fallait emprisonner et exécuter ses opposants, produire de la propagande, dénigrer les opposants. Les outils d’IA permettent désormais d’automatiser la désinformation et la manipulation. « Désormais, ils ont le pouvoir de programmer le fascisme dans leurs machines ». Les données collectées excluent de vastes pans de connaissances de l’humanité dont il n’existe pas de versions numériques. L’IA générative promet un point de vue unique, comme une vérité divine. Comme le dit Yanis Varoufakis, le business model que la Big Tech déploie consiste en « un droit divin où la vérité est la propriété brevetée de la puissance ». L’IA dégrade la réalité. « Quand vos flux d’informations sont remplis de productions synthétiques racistes, misogynes, que les robots génèrent les réponses, le résultat est que les gens finissent par abandonner tout espoir de distinguer les faits de la fiction ». Les attaques de l’administration Trump contre l’éducation, l’université, la presse, la recherche répondent aux licenciements des modérateurs, des vérificateurs de faits et éthiciens de la tech. L’IA n’a pas vocation à compléter les connaissances, mais bien à les supplanter. « Les fascistes de l’IA ne cherchent plus à fabriquer du consentement, mais à fabriquer de la confusion, à saper la délibération démocratique en déchaînant l’intolérance et la désinformation à une vitesse et une échelle sans précédent dans l’histoire moderne ». Les chatbots n’ont pas besoin d’être particulièrement intelligents pour parvenir à remplir nos têtes de leurs biais racistes.
Reste que ces perspectives commencent à battre de l’aile, dans le camp Républicain lui-même. Des comtés Maga s’opposent au déploiement de data centers. Dans des États où le discours antiavortement est dominant et divise la population, l’opposition aux data centers, lui aussi sous bannière pro-humaines, rassemblent les citoyens contre les machines vampires.
Vers une nation survivaliste et bunkerisée ?
Trump avait promis à ses électeurs une renaissance de l’industrie. Elle n’a pas eu lieu. A la place, les Etats-Unis connaissent une forte inflation et un PIB atone, porté uniquement par le boom de la tech.
Lors du passage de l’ouragan Helene, en 2024, 73 000 maisons ont été détruites. Comme toujours, la solidarité s’est structurée pour venir en aide aux victimes. Quelque soient leurs couleurs politiques, les gens se sont mutuellement entraidés. Mais cela n’a pas duré. Une armée d’opportunistes du clic sont venus déverser leurs jugements conspirationnistes en estimant par exemple que les électeurs Républicains n’étaient pas aidés. Les dénégations du sénateur Républicain local n’ont pas réussi à faire refluer ces histoires absurdes. Trump a rapidement fini par relayer ces absurdités, les amplifiant encore. Trump, Musk et consoeurs sont les premiers à relayer d’innombrables conspirations, d’innombrables contre-vérités. Avec des conséquences bien réelles, comme quand Trump finit par couper dans les budgets de santé, d’aide alimentaire pour les rediriger vers le développement de centres de détentions. Au Doge, Musk a licencié des centaines de milliers d’agents fédéraux au profit des petits soldats fascistes de l’ICE (300 000 fonctionnaires sur 2 millions ont été licenciés depuis le début de la présidence Trump).
Pourtant, rappellent les deux journalistes, au XXe siècle, les régimes fascistes ont soutenu comme rarement l’assistance sociale aux classes populaires qui servaient le régime. Ils ont soutenu des projets de constructions pour employer les actifs, comme de construire des autoroutes, des gares ou des barrages… Rien de tel avec l’administration Trump qui a attaqué comme rarement les infrastructures conçues pour apporter des protections universelles à tous. « Le fascisme de la fin des temps est le symptôme de la manière dont le capitalisme repousse les limites de notre planète. Mais au lieu de s’attaquer aux crises sous-jacentes, ses dirigeants répliquent par des mots d’ordre brutaux : « Construisez le mur » ! « Repoussez les envahisseurs ! »». Un tiers des américain et deux tiers des Républicains approuvent certains aspects de la théorie du grand remplacement. Pour Klein et Taylor, le grand remplacement n’est pas la vérité. Cela n’a pas empêché l’administration Trump d’en faire une pièce centrale de sa politique notamment dans sa Stratégie de sécurité nationale, désignant la migration de masse comme la plus grande menace du monde occidentale. Les migrants ne sont plus, nulle part, les bienvenus. Partout, les difficultés à payer ses factures ou à trouver des emplois décents, n’est pas la responsabilité des banquiers ou des spéculateurs ou des politiciens, mais des migrants. C’est là le vrai grand remplacement, ironisent les autrices, « la substitution des banquiers par les migrants ». La droite ethnonationaliste invite les peuples à reprendre le contrôle, non pas des oligarques, mais de l’immigration. Les droites extrêmes proposent toutes la révocation de la citoyenneté et la déportation de masse (qu’ils appellent remigration). Ils créent partout un ennemi, là où il n’y en a pas. La faction Maha du mouvement Maga estime qu’il est plus important de contrôler les réfugiés climatiques que de réguler les émissions carbone.« L’obsession de l’extrême-droite pour le grand remplacement n’est pas seulement une pensée conspirationniste ou une diversion cynique, elle est aussi une confession », celle d’un« survivalisme nationaliste ». Les colporteurs de cette théorie savent parfaitement que la planète s’effondre, détruisant le territoire de ceux qui ne comptent pas et qui n’ont rien fait pour provoquer cette crise. « Pour les éco-fascistes, la nation elle-même doit être le bunker, avec des armes pointées vers l’intérieur comme l’extérieur. »« Anticipant un avenir déstabilisé aux ressources en déclin et se percevant comme les véritables victimes d’un nettoyage ethnique, les suprémacistes sont prêts à se livrer à des massacres innommables pour protéger leur minorité à la peau claire, les élus ». D’où les délires sur le réarmement démographique (les femtechs), les forteresses militaires (le golden dome), la sécurisation des ressources (le projet Vault qui vise à constituer une réserve stratégie de ressources)… Plus qu’un déni du réchauffement, soulignent Klein et Taylor, la prise de conscience du dérèglement climatique imminent est claire et explique toutes les volonté expansionnistes sur le contrôle des ressources. « Nous devons mettre à jour nos modèles mentaux : comme les dirigeants de la tech ont abandonné leurs engagements écologiques, les politiciens d’extrême-droite, comme ceux qui votent pour eux, ne sont plus dans le déni climatique. Ce sont des incendiaires qui laissent sciemment le monde brûler. »
En 1961, un an avant la crise des missiles à Cuba, les américains étaient persuadés qu’une guerre nucléaire allait éclater. Les autorités appelèrent les Américains à construire des abris anti-atomiques. Peu furent réellement construits. Ceux qui n’en construisirent pas, ont même dénoncé la pratique, la trouvant honteuse et égoïste. Pour Kenneth Rose, auteur d’un essai sur le sujet, One nation underground, le rejet des abris anti-atomiques était plutôt la marque d’une certaine maturité. « La probabilité de survivre à l’apocalypse ne valait pas le risque de perdre son humanité » en se réfugiant dans la construction de refuges qui prenaient comme ennemis ses propres voisins, plutôt que l’ennemi extérieur. En fait, ce sont surtout des gens qui en avaient les moyens qui ont construit ces bunkers. Le bunker privé est un état d’esprit, une façon de se protéger soi-même face à un monde gorgé de risques et d’incertitudes. Le problème n’est pas tant de se préparer à une crise, explique les autrices, que de le faire en pensant que les désastres peuvent être affrontés isolément. Le fascisme actuel a pour but de nous faire croire en cette posture défensive et solitaire. Mais la très grande majorité des gens rejettent ce « survivalisme brutal ». Kennedy lui-même a fini par rejeter ces projets, en invitant plutôt à se concentrer à trouver des moyens pour que les bombes et les missiles ennemis ne parviennent jamais jusqu’en Amérique. Ceux qui ont vendu des abris étaient bien plus des profiteurs de crise qu’autre chose.
Pour Klein et Taylor, c’est peut-être sous cet angle qu’il faut d’ailleurs lire le fascisme américain d’aujourd’hui. Un fascisme qui ne cherche que son propre profit. Ce profit, d’ailleurs, est bien souvent la motivation première des systèmes de désinformation en ligne. Des arnaques cryptos aux influenceurs de la désinformation, nous sommes confrontés à un monde, à un ensemble de personnes, qui tirent profit de la désinformation qu’ils répandent, expliquent-elles en prenant l’exemple de Nick Shirley, un influenceur d’extrême droite américain participant très activement à alimenter la désinformation raciste que des émigrés haïtiens dévoreraient les animaux de compagnie du voisinage. Ses vidéos ont été particulièrement amplifiées sur les réseaux sociaux. Même débunkées, cela n’a pas empêché l’influenceur d’extrême-droite de prendre son envol. Notamment via une vidéo de 42 minutes où il se montre visitant des centres sociaux vides dans le Minnesota déclenche de nouvelles polémiques sur leurs financements, les accusant de fraude. Ces vidéos, reprises par Vance, Musk et Trump eux-mêmes, ont servi d’accélérateur viral pour une escalade inédite. L’administration Trump a gelé les fonds fédéraux pour les programmes d’aide sociale du Minnesota, puis a envoyé les troupes de l’ICE occuper Minneapolis et Saint-Paul, donnant lieu aux dramatiques événements entre l’ICE et la population. Quand l’agent de l’ICE, Jonathan Ross a tué Renee Good dans sa voiture, la vidéo de l’agent a été très vite libérée par les autorités pour entériner la version officielle. Pour Klein et Taylor, Minneapolis a été transformé en laboratoire, en showroom de la désinformation où vidéo virales et montages à l’IA ont tenté de damer le pion de l’information.
La nation bunkerisée n’était pas seulement une idée politique et raciste, mais également un business modèle. Chaque événement a été exploité au profit de quelqu’un. « Alors que les influenceurs extrayaient du contenu pour leurs vidéos virales, des entreprises technologiques sous contrat avec le département de la sécurité intérieure collectaient des données sur les manifestants et les transmettaient simultanément à l’ICE, permettant ainsi à l’agence de localiser précisément des immigrés à leur domicile ou sur leur lieu de travail. Plus de 3 700 immigrés ont été interpellés lors del’opération Metro Surge; une fois arrêtés, nombre d’entre eux ont basculé dans un autre type de réseau à but lucratif : celui des prisons et centres de détention privés. »Minneapolis a été le lieu de démonstration de l’essor économique de la surveillance de masse, dans une forme de chaîne d’approvisionnement sans fin.
Bien évidemment, les habitants de Minneapolis, ont envoyé, eux, un autre message. Par leurs actions, ils ont montré que nombre d’Américains ne veulent pas que leur pays devienne un bunker high-tech, ne veulent pas de la terreur d’une police sans garde-fous, ni que leurs moindres mouvements soient traqués par des capteurs et des drones. Le fascisme est toujours une alliance d’intérêts, mais a Minneapolis, elle a commencé à craquer, rappellent Klein et Taylor. La traque des personnes d’origine étrangère à Minneapolis a montré à tous combien les outils numériques et notamment les outils des grandes firmes privées, étaient utilisés pour identifier et traquer les personnes. Les acteurs technologiques alliés aux politiques répressives, ont montré combien leurs relations étaient symbiotiques, entre eux et avec la catastrophe. Ils sont les premiers à investir dans un état d’urgence permanent.C’est en cela que pour Klein, le fascisme est l’accélération du capitalisme du désastre. Les chocs ne sont plus isolés, comme elle les décrivait dansLa Stratégie du choc, mais continus.
Les deux autrices rappellent la filiation de Palantir avec le 11 septembre, avec le programme total information awareness, ce projet de collecte d’information totale pour surveiller la menace terroriste partout. Si ce programme a été débranché officiellement en 2003, nombre de ses fonctions ont continué sous d’autres noms. Dans le Minnesota, il était clair que le programme était de retour. « Le vieux rêve d’une surveillance totale était désormais effectif ». L’ennemi n’était plus le terroriste extérieur planifiant des attaques violentes contres les Etats-Unis, mais des immigrés de couleurs. Comme n’a cessé de le répéter Alex Karp, Palantir a été construit pour affronter les temps difficiles. L’entreprise a surtout pivoté. D’un modèle contre le terrorisme extérieur, elle est devenue l’entreprise qui surveille tout le monde. Comme on pivoté les vendeurs d’abri anti-atomiques en devant les bâtisseurs de centres de détentions des migrants…
Pour tous ces gens« la paix et la stabilité écologique sont désormais vus comme des menaces ». Les acteurs qui vendent des logiciels de reconnaissance faciale ou construisent des camps ou des drones construisent « le complexe industriel pour l’armageddon ». L’une des branches de ce complexe reste assurément la production et la dissémination de la propagande, notamment via les réseaux sociaux qu’ont produit les grands acteurs de la tech, qui sont aussi les grands acteurs de l’IA et qui sont aussi les grands acteurs de la surveillance. En 2022, Musk a racheté Twitter. Trump lançait TruthSocial, et le TikTok américain a été repris en main par la famille Ellison. Vance a investi dans Rumble, le service de Streaming ultra-conservateur où s’expriment Bannon, Alex Jones, Andrew Tate ou l’adorateur d’Hitler, Nick Fuentes. Pour John Ganz, c’est là l’alliance entre une fraction ultra-réactionnaire et le secteur de la technologie, autour du déploiement de systèmes de défense, de surveillance, de sécurité. L’ICE est devenu le programme d’embauche de la meute du « Trumpenprolétariat ». L’extrême-droite est d’abord un rassemblement d’intérêts économiques, et pas seulement politiques. Les réseaux sociaux s’alimentent à la rage, au conspirationnisme et au conflit. Être un marchand de drame est devenu le business modèle. Pour Stephen Miller, la mort de Charlie Kirk a été le début d’une « guerre sainte » contre les ennemis de l’intérieur. Trump a indiqué au FBI qu’il fallait désormais s’en prendre aux antifa, devenus organisations terroristes. « Le cerveau collectif de la droite a fondu dans une cuve de slop, de conspirationnisme et de chaînes algorithmiques. Au risque que leur audience souhaite toujours plus de transgressions, de conspirations, d’apocalypses… » Hannah Arendt rappelait que le nazi idéal n’était pas quelqu’un avec des convictions profondes, mais plutôt un individu pour qui la distinction entre les faits et la fiction, entre le vrai et le faux n’existait plus. Et c’est tout à fait le cas des gens coincés dans les chambres d’échos de l’extrême-droite américains.
La convergence des fanatiques de l’apocalypse peut-elle se désagréger ?
Pour Klein et Taylor, reste que cette escalade pourrait aussi conduire à la désagrégation de cette coalition ultra-conservatrice. Les hommes y détestent de plus en plus les femmes et notamment les femmes puissantes, comme Megyn Kelly. Thiel estime que tout le monde est l’antechrist, mais, en tant que gay, il est détesté de la droite chrétienne qu’il courtise. Stephen Miller qui déteste les étrangers pourrait demain être désigné comme l’un d’entre eux. Sans compter que cette coalition d’hyper droite est traversée par de profonds désaccords sur Israël, sur l’IA et même sur la nature de la Nation elle-même. Mais les sectes messianiques, l’extrême-droite suprémaciste et les nationalistes du grand remplacement partagent également beaucoup en commun, notamment leur détestation pour l’égalité, pour la démocratie. La fracture pourrait bien venir du rejet de plus en plus marqué des femmes, et notamment de ces Trad Wives qui structurent le mouvement Maga. Celles qui apprécient l’idée de dévouer leur vies à leurs enfants et leurs familles, ne sont pas très enthousiastes à l’idée que leur droit de vote leur soit dénié, ni très sensibles à la misogynie ambiante.
Mais surtout, soulignent Klein et Taylor, la réalité sait très vite reprendre ses droits. La stratégie du champ de bataille en ligne reposait sur la croyance que ceux qui ont soutenu Trump pour renforcer la politique migratoire viendraient soutenir la police et applaudirait aux expulsions. Ils ont été bien moins nombreux qu’espéré. Dans le Minnesota nombre d’habitants se sont dressés contre l’ICE. Ils se sont baptisés les helpers, ceux qui aident. Pas des militants, ni des protestataires, ni des activistes, mais plus simplement, des gens qui sont venus apporter leur aide à leurs voisins menacés. Ils ont apporté de la nourriture, des vêtements, des protections. Ils ont suivi les déplacements de l’ICE pour prévenir avant qu’ils ne débarquent dans certains endroits et quartiers. Pour eux, les immigrés que l’ICE tentait d’arrêter n’étaient pas des abstractions, mais des connaissances, des amis, des collègues, des personnes réelles et appréciées. L’intensification des violences de l’ICE n’a fait que renforcer leur détermination. L’ICE a perdu le contrôle. A Minneapolis, l’extrême-droite a perdu la bataille du récit. Ses habitants ont tous ressenti avoir été envahis par une force extérieure. Deux tiers des américains estiment que l’ICE est allé trop loin et la moitié sont pour son abolition.
Klein et Taylor terminent leur ouvrage sur les résistances au déploiement de l’extrême droite. Des contestations de la privatisation de Venise par Jeff Bezos pour son mariage, à l’obscénité de la salle de bal de Trump… C’est un combat entre ceux qui peuvent tout et ceux qui n’ont aucune échappatoire. Entre ceux qui n’entretiennent que des relations transactionnelles et les autres. Entre leshelperset lesquitters, entre ceux qui restent et ceux qui partent, entre ceux qui sont de quelque part et ceux qui sont de nulle part (inversant la typologie que faisait le sociologue Benoît Coquart dans son livre, Ceux qui restent (La découverte, 2019) puisque pour le sociologue français, ceux qui restent sont ceux qui rejoignent l’extrême-droite). « L’aspect le plus dangereux du projet des oligarques de la tech visant à délaisser le monde réside dans le fait que les outils qu’ils conçoivent sont destinés à nous remodeler à leur propre image, une image altérée. Les plateformes et applications populaires nous habituent à partager le rêve de la Silicon Valley d’une liberté désincarnée, nous incitant sans cesse à délaisser les lieux réels et les interactions en face à face au profit de simulations – et à percevoir la Terre, nos corps et nos relations comme des prisons qu’il s’agirait de pirater et de fuir. » Sam Altman est convaincu qu’il y a des avantages à être une machine et est persuadé que ses propres enfants ne seront jamais aussi intelligents qu’une IA. ChatGPT est entraîné pour exploiter notre empathie et lui conférer plus d’importance qu’il ne le mérite. « Les Big Tech, habitués de longue date à fracturer notre attention via les réseaux sociaux, ont trouvé de nouveaux moyens lucratifs de fracturer notre affection et de manipuler nos attachements, flattant leurs usagers pour les garder engager et dépendants ». L’IA paraît bien plus un service de psychose qu’autre chose. Ceux qui les utilisent, peu à peu, sont saisis par des croyances messianiques ou des délires de persécution. Ou finissent pas être convaincus que l’IA est consciente ou qu’elle est un dieu. Les hallucinations grandioses et paranoïaques que ces systèmes distillent chez ceux qui les surutilisent s’accordent au monde que projettent les fascistes de la fin des temps. « Les géants de la technologie sont prêts à détruire notre santé mentale et à démanteler nos communautés, car ils se perçoivent comme engagés dans une course pour dominer une nouvelle étape de l’évolution humaine. Ils comprennent également qu’ils sont désormais en concurrence avec toutes les activités ordinaires que nous, humains, pratiquions autrefois par nous-mêmes et entre nous, sans avoir besoin de leur médiation.»Leur business model est l’aliénation. Comme le disait le président de Spotify, Daniel Ek : notre concurrent est le silence. Le concurrent des outils de la tech sont les églises, nos voisinages, les pubs. Tous les endroits où l’on se rassemble, tous les endroits encore bien réels, comme l’ont été les rues de Minneapolis. Leurs services produisent d’abord de la solitude, c’est-à-dire« l’expérience de ne pas appartenir au monde ». Arendt ne disait-elle pas que le totalitarisme est d’abord une solitude organisée ? « La combinaison de robots ravageurs et de saisons déréglées, associée à des inégalités toujours plus criantes et à des protections sociales défaillantes, rend le monde déséquilibré et isolant pour beaucoup d’entre nous. » Le philosophe Glenn Albrecht parle de solastalgie pour évoquer cette détresse particulière qu’évoque l’idée d’un monde qui ne ressemble plus à ce que nous connaissions. Ce « mal le mal du pays que l’on ressent alors que l’on est encore chez soi ». Or la raison pour laquelle nous ne nous sentons plus chez nous n’est pas liée au fait que des migrants viennent prendre nos emplois ou que des enfants demandent à ce qu’on les appelle autrement. Elle est d’abord le fait d’accaparements qui nous conduisent nulle part. Les fascistes proposent de revenir à un passé idéalisé, refermant la possibilité de construire un futur plus inclusif, plus protecteur et moins déconcertant. Ils ne proposent pas d’affronter les changements qui sont les nôtres. Or, la seule option devant nous, défendent Klein et Taylor, consiste à mieux s’opposer à l’accaparement du monde par ses élites.
« Les visions du monde violent au cœur du fascisme apocalyptique résonnent parce qu’elles puisent dans des récits profondément inscrits dans notre ADN culturel ; elles colorent notre perception du monde environnant et imprègnent notre conception du possible. La quête d’une rédemption messianique en Terre sainte, le rêve d’une transcendance numérique grâce à l’IA générale et les agissements des ethno-nationalistes transformant les villes en zones de guerre au nom de la purification et du retranchement de la patrie – tous ces phénomènes jouent sur des ressorts similaires : le Bien contre le Mal, les grandes batailles, les cités radieuses, le salut éternel pour les élus seulement.» Mais malgré les efforts des extrémistes à n’extraire que les plus violents passages de leurs textes sacrés, toutes les cultures proposent d’autres messages, rappellent pourtant Klein et Taylor. Notamment celui que nous avons une responsabilité à prendre soin du monde, des autres, des étrangers, à étendre le soin aux autres, à toute forme de vie. Les manifestations contre l’ICE ont montré la force de la résistance communautaire, l’enjeu qui traverse nombre d’entre nous à protéger les gens autour de nous, qui qu’ils soient, d’où qu’ils viennent. Notre humanité depuis l’origine consiste à refuser la violence à l’encontre de nos proches. « Si le Minnesota a été une cible de choix, c’est parce que l’Etat représente, plus que d’autres, la plus grande menace qui soit pour l’agenda fasciste : la démonstration d’une société démocratique multiraciale. »Distiller la crainte des étrangers permet de déconstruire les communautés qui sont le cœur de la société démocratique américaine. L’austérité qui réduit les services publics et les démantèle permet justement de faire monter les peurs et d’orienter les votes.
Reconquérir… ceux qui n’ont pas d’autres mondes à conquérir
Résister au fascisme nécessite de rebâtir des résistances communautaires, locales. « Cela nécessite aussi de partager un récit sur comment survivre aux temps difficiles à venir sans laisser personne derrière. Une histoire non pas d’apocalypse et de fins des temps, mais de temps meilleurs, une histoire non pas de séparation et de suprématie, mais d’interdépendance et d’attachement, une histoire non pas d’échappement, mais qui consiste bien plus à résister et à rester sur place et demeurer fidèle à la réalité terrestre problématique dans laquelle nous sommes enchevêtrés et liés. La terre promise n’est pas la fin du monde, elle est là, maintenant, ici, et ne peut reposer que sur la justice qu’il faut rendre toujours plus universelle et disponible à tous. »
Pour Klein et Taylor, les quitters, ceux qui veulent partir, télécharger leurs cerveau dans les ordinateurs, conquérir Mars, se dégager du reste du monde, confisquer la démocratie, sont ceux qui ont les moyens. De l’autre, ceux qui restent, sont ceux qui n’ont pas d’autres choix que de faire bouger le monde ne pouvant bouger eux-mêmes. Ceux qui restent, ce sont les habitants de Minneapolis qui se sont opposés à l’ICE. Les habitants de Venise qui se sont opposés à Bezos. Ceux qui n’ont pas d’autre monde à conquérir. Et qui donc, doivent prendre soin du leur.
Klein et Taylor tirent cette métaphore en concluant leur très sombre livre d’une dernière partie lumineuse et très enthousiasmante qui se concentre sur la façon dont Zohran Mamdani à conquis la ville de New York. Elles rappellent qu’il n’était dans le radar de personne. En 2024, 30% des votes de New York sont allés à Trump, contre 23%, 4 ans plus tôt, notamment provenant des quartiers qui concentraient le plus d’immigrés et de gens en difficulté. Klein et Taylor décrivent par le détail comment Mamdani s’y est pris pour conquérir ces publics et la ville. Son travail de terrain, son invitation aux new yorkais à les écouter et à reconstruire une politique pour tous, inclusive. Comme il le disait dans l’une de ses premières vidéos de campagne : « les travailleurs sont de plus en plus exclus de la ville. Un maire doit pouvoir changer cela. C’est ce pourquoi je suis candidat ».
Mamdani à rallié les gens en leur donnant le droit de pouvoir rester là. Il a répondu aux discriminations de droite par une célébration du droit de tous à pouvoir être là. Pour Klein et Taylor, sa politique est l’antithèse du fascisme. Sa compagne a été multiculturelle, multiraciale, polyglotte. Plus qu’un rejet de la haine, sa politique a été une invitation à la gentillesse. Il a célébré les classes laborieuses et immigrées qui permettent à la ville de fonctionner. Il a mené une politique joyeuse, célébrant le plaisir constant à être une part de quelque chose de plus large et de plus fort que soi. Il a invité les gens à cesser d’être spectateurs, et à proposer et participer. Il a passé des mois à faire se souvenir aux new yorkais pourquoi ils aimaient leur ville et à leur rappeler qu’ils avaient droit à une vie décente dans cette ville. Beaucoup ont raconté n’importe quoi, comme le fait qu’il y aurait des pogroms si Mamdani l’emportait. « Mamdani a remplacé la froideur de l’individualisme par la chaleur du collectivisme ». Toute ville devrait pouvoir être défendue avec la même ferveur que Mamdani a défendu New York. « Partout dans le monde, les forces fascistes canalisent la colère vers le bas – en la dirigeant contre ceux qui sont le moins responsables de nos maux de société – et persuadent les électorats qu’ils ne peuvent plus se permettre de se soucier d’autre chose que d’eux-mêmes. Nous pensons qu’il est possible de détourner nombre de nos concitoyens de ces tentations violentes, mais cela ne se fera pas par des leçons de morale culpabilisantes. Il faut proposer une alternative, une vision convaincante : une meilleure façon de vivre ensemble.»
Dans les années 60, beaucoup de gens refusèrent de s’installer dans les abris anti-atomiques et sont plutôt aller se battre pour l’abolition des armes nucléaires. Ce mouvement n’a pas été un total succès, mais il a aidé à apaiser la guerre froide. La meilleure façon d’assurer notre survie collective consiste à éliminer les armes qui nous menacent, concluent Naomi Klein et Astra Taylor. Aujourd’hui, nous sommes face à un moment où l’impunité des élites est totale. « Les gens les plus puissants du monde, à travers la religion, le gouvernement et la technologie, partagent la conviction que nos lois ne s’appliquent pas à eux. Ni les lois des nations où ils vivent. ni les lois internationales. ni les lois de la biologie ou de la physique. (…) Ce sentiment d’impunité omniprésent au sein des élites politiques et économiques est intimement lié à leur volonté d’exposer le reste d’entre nous à des niveaux de vulnérabilité et de risque extraordinaires et croissants. » Comme nous avons réclamé le désarmement nucléaire, il nous faut désormais réclamer la fin d’une tech sans limite, la fin d’une concentration des richesses, la fin de l’impunité. « Notre sécurité collective ne sera assurée que lorsque nos élites seront contraintes d’envisager de vivre et de survivre ici, avec le reste d’entre nous. »
Aujourd’hui, les oligarques sabotent la démocratie pour s’accaparer le pouvoir. Notre seule réponse rationnelle est de les désarmer, de réguler la tech bien plus strictement que nous ne l’avons fait, de réguler leurs richesses, et de redistribuer leurs richesses bien mal acquises. Taylor et Klein souhaitent « abolir les milliardaires ». L’IA générative n’est possible que parce que ces gens ont tout volé, rappellent-elles. Et d’en appeler à nationaliser leur technologie. A nous assurer qu’elle est conçue et opérée dans l’intérêt du public. Elles prônent un confinement de l’IA, semblable aux traités de non prolifération nucléaire. A établir des interdiction claires, notamment pour restreindre considérablement la surveillance. Nous n’avons pas d’option autre que construire un secteur public fort, qu’à améliorer toujours et partout la redistribution pour qu’elle soit le plus équitable possible. A faire un New deal pour la transition (comme nous y invitait déjà Naomi Klein dans son livre, Plan B pour la planète : le new deal vert), plutôt que de dépenser des milliards dans les armes et l’infrastructure IA.
Les régimes fascistes deviennent plus violents, désespérés et dangereux à mesure qu’ils gardent le pouvoir. Les Nations-Unis ne sont pas l’antechrist : elles sont notre meilleur recours contre la guerre où qu’elle soit. Les fascistes ne sont pas invincibles. Nombre de dictateurs finissent là où ils doivent finir, en prison.
Pour Taylor et Klein, la construction des démocraties n’est pas terminée. Le pire que nous puissions faire, c’est de croire qu’elles ne doivent plus être améliorées. La réponse fasciste à la crise climatique consiste à accepter des sacrifices de masse en espérant que d’autres seront sauvés. La réponse antifasciste à la crise climatique consiste à prendre soin de tous pour construire un monde pour tous. Nous devons limiter la violence, l’exploitation, la richesse, le pouvoir. Ce sont les forces qui rendent la coexistence de tous impossible.
End Times Fascism, est à la fois un livre glaçant et revigorant. Un livre pour se remettre la tête à l’endroit.
Hubert Guillaud
La couverture du livre de Naomi Klein et Astra Taylor, End Times Fascism.
Good Monday morning! Today's big story is an investigation from Joseph about cops and an AI tool that takes data from sites like Airbnb and Zillow and identifies specific properties. The internet is full of photos of the interiors of people's homes, from real estate and rental listings to short-term stays, and that data is in the hands of law enforcement.
And in other news, a very interesting interview with the whistleblower subject of Sorkin's new movie, some big legislative impact, and what caught my eye over the weekend around the web. Let's get into it.
A screenshot from a Raven promotional video on LinkedIn.
An AI company now lets cops take a photo and nearly instantly figure out what specific home it was taken in, using only clues in the photo itself, and is clearly pulling data from sites like Zillow and Airbnb.
The tool, called Raven, shows the increasing power of AI capabilities available to local law enforcement agencies. 404 Media previously reported that both the Los Angeles Police Department and Miami-Dade Sheriff’s Office (MDSO) have bought access to Raven, which was previously called GeoSpy. Now, Raven, made by a company called Graylark Technologies, has added features that let cops analyze the interior of homes.
In a post on LinkedIn earlier this month, Graylark CEO Daniel Heinen wrote the company was introducing “the ability to geolocate interior images across millions of short-term rental units worldwide.” An accompanying demo video shows someone taking a photo from X of a washer/dryer unit inside a building. They upload it to Raven, select “Find Property: Interior and exterior property geolocation,” and then choose a region to search.
After a couple of seconds, the map interface zooms in on an area in Charlotte, North Carolina. On the right hand side, the screen displays a list of results. The top one reads, “Renovated! Walk Uptown/located in 2 Hot Spots!” That result directly quotes the language on a specific Airbnb listing in Charlotte, and the photos in the Airbnb listing show the same property.
Spoilers ahead for “The Social Reckoning.” Did you catch this week’s interview episode? Jason talked to former Facebook employee Frances Haugen, who became one of the most important tech whistleblowers in 2021 when she exposed how Facebook’s algorithm was pushing people toward hate groups, showed Instagram was making teen girls feel worse about themselves, and showed that the company knew about its detrimental impacts on society. Haugen’s story is the basis for Aaron Sorkin’s new movie “The Social Reckoning,” which follows her evolution from model employee to leaker to formal whistleblower. Jason and Frances discuss what the movie got right about journalist-source relationships and how AI is supercharging privacy concerns.
An AI company now lets cops take a photo and nearly instantly figure out what specific home it was taken in, using only clues in the photo itself, and is clearly pulling data from sites like Zillow and Airbnb.
The tool, called Raven, shows the increasing power of AI capabilities available to local law enforcement agencies. 404 Media previously reported that both the Los Angeles Police Department and Miami-Dade Sheriff’s Office (MDSO) have bought access to Raven, which was previously called GeoSpy. Now, Raven, made by a company called Graylark Technologies, has added features that let cops analyze the interior of homes.
LaborLab, une organisation américaine de défense des droits des travailleurs a lancé des outils pour permettre aux employés de mieux savoir qui leurs employeurs engagent pour contrer les initiatives de syndicalisation et les sommes (considérables) qu’ils y consacrent. En documentant les cabinets d’avocats et de consultants spécialisés dans dans la lutte antisyndicale et les achats des entreprises. Un moyen de montrer l’opposition à laquelle les travailleurs font face, via un outil de recherche dédié et un outil d’évaluation des coûts des luttes anti-syndicales engagées. Bien sûr, précise Fast Company, « bien que les entreprises soient légalement tenues de divulguer leurs dépenses liées aux stratégies antisyndicales, celles-ci sont loin d’être toujours documentées et à jour ».
Sam Doyle, infirmière praticienne au Fred Hutchinson Cancer Center de Seattle, a fait face à une forte résistance au cours des dix-huit derniers mois alors qu’elle tentait de syndiquer les infirmières praticiennes et les assistants médicaux. Elle a toutefois été stupéfaite de découvrir les sommes potentiellement englouties dans la lutte contre le syndicat. « Je découvre le monde du militantisme syndical et je ne suis pas particulièrement portée sur les chiffres », confie-t-elle. « Mais cet outil de calcul m’a glacé le sang. J’avais du mal à croire que notre employeur puisse dépenser près d’un demi-million de dollars pour s’opposer à nous. »« S’ils parviennent un jour à l’étape des négociations, Doyle pense que l’outil se révélera utile lorsque la direction affirmera ne pas disposer de fonds suffisants pour financer des augmentations de salaire ou d’autres mesures bénéfiques pour les employés. »
Welcome back to the Abstract! Here are the studies this week that spotted a blast from the past, opened a portal between realms, yakked it up, and rose from the ashes.
First, scientists have spotted a mysterious radio signal from the primordial universe that could illuminate cosmic evolution (it’s not aliens… sorry). Then: a diamond in the quantum rough, the decline of a fine bovine line, and a second-generation planet.
Scientists have discovered the most distant fast radio burst (FRB), a type of mysterious radio flare from space. This burst erupted when the universe was only three billion years old and sent radio waves across 10 billion light years before they reached Earth on March 4, 2024.
The distant signal, known as FRB 20240304B, hails from an ancient galaxy beyond “redshift 2,” which means it originated more than twice as far as the next-farthest known FRB. Redshift, represented by the variable “z,” measures how wavelengths of light get stretched out in their journeys across space, a phenomenon that shifts them to the red end of the spectrum. Generally speaking, the more distant the object from Earth, the higher the redshift.
“Approximately one hundred FRBs have identified host galaxies with measured redshifts, with the vast majority at redshifts z ≲ 0.5,” said researchers led by Manisha Caleb of the Sydney Institute for Astronomy. “Only a small number of FRB host galaxies have been identified at z ≳ 1. This observational bias is driven by the sensitivity limit of radio observations that are capable of detecting FRBs and localizing their coordinates.”
Caleb and her colleagues were able to capture the remote flash using South Africa’s MeerKAT radio telescope. Follow-up observations with the James Webb Space Telescope pinpointed “a low-mass, clumpy, starforming galaxy” at redshift 2.148 as the host of the burst.
FRBs produce incredibly energetic radio pulses, but the exact mechanisms that generate them remain unknown. Given the diverse features of these bursts—for instance, some repeat, and some are one-offs—they might come from many different sources. In the case of FRB 20240304B, the team speculated that the burst is a magnetar, the highly magnetized remains of a massive star that went supernova.
“The low stellar mass, active star formation, and low metallicity of the host galaxy are consistent with a magnetar origin of the FRB,” the researchers concluded.
This milestone detection of such a distant and ancient FRB opens up the possibility of finding more bursts at high redshifts. In addition to pushing the limits of observation, future discoveries could allow scientists to extract clues about the evolution of the universe that become imprinted in these signals during their vast journeys. So bring on the bygone bursts!
Time to shrink down from the largest cosmic scale to the tiny quantum realm. In a new study, scientists report that they successfully moved a centimeter-scale diamond with a force known as quantum spin, making it by far the largest object ever manipulated by a quantum effect. It represents a major breakthrough, as the diamond is the first object large enough to be subject to gravity to be moved in this way, further bridging the gap between the loopy quantum realm and regular, everyday physics.
A graphical representation of the observed movements. a) When the laser is off, the diamond slab has a small magnetic moment (blue arrow) induced by the latent spin-state inside the nitrogen-vacancy centers of the diamond. b) When the green laser is on, the spin-state is polarized, causing the magnetic moment to fluctuate weakly, pushing the diamond down towards the magnetic field (red arrows). Image: Nayak et al., 2026
In the new work, scientists worked with a nitrogen-vacancy (NV) diamond containing electrons with “spin,” a form of angular momentum on the quantum scale. Then, they shot a laser at the diamond—as science often demands—which stimulated electrons to spin in a certain state that eerily moved the diamond.
“Experimentally observing this spin force for anything larger than atomic scales has proved challenging,” said researchers led by Anshuman Nayak of the Okinawa Institute of Science and Technology. “We have demonstrated the motional driving of a massive diamagnetically levitated mechanical oscillator by the force of NV spins in a gradient magnetic field.”
Congratulations, humanity: We just earned our license to quantum-motionally drive. Proceed responsibly.
Domestic cows are overwhelmingly the most common bovine species on Earth today, but this family of swole ungulates once contained a diversity of wild lineages that included aurochs, steppe bison, and oxen.
Now, scientists have discovered the remains of a distinct bovine species—named “yak X”—in Siberia’s Denisova Cave, which was also inhabited by many human species (hominins) during the Pleistocene era, which ended 12,000 years ago.
Yak X (cool name!) began diverging from extant yaks about 400,000 years ago, and had formed its own unique yak pack by 250,000 years ago, reports a team that sequenced its ancient genomes. The youngest bones from this mysterious animal date back about 27,200 years, so it must have died out sometime after.
“Yak X is a Pleistocene megafaunal species previously unknown to genomics,” said researchers co-led by Jonas Oppenheimer and Alexandre Gillardet of Stockholm University. “Yak X appears to have become genetically isolated from other bovines including bison and aurochs despite their apparent geographic proximity in Pleistocene mid-latitude Asia. This lack of gene flow is in notable contrast to hominins at Denisova Cave, which displayed complex patterns of admixture among multiple divergent lineages.”
In other words, hominins at this cave, including Neanderthals and Denisovans, appear to have interbred, while this yak didn’t cross with its fellow bovine relatives. This has been Yak News.
Planets are frequently obliterated by the explosive deaths of their stars, but they can also be born out of those same stellar ashes. Scientists have now directly observed the first evidence of one of these so-called “second-generation” planets that formed around a type of dead star called a white dwarf.
Located about 270 light years from Earth, the white dwarf—known as HS 0209+0832—was once a star similar to the Sun. About five million years ago, it shed its red giant shell and collapsed into its current husk state.
Concept art of the second-generation planet. Image: Dr Snehalata Sahu / University of Warwick
Since its transition to the afterlife, a new planet has coalesced out those ejected embers, though this world is destined for an early grave. Scientists spotted telltale signs of second-generation elements—including zinc, copper, and niobium—in the spectrum of the white dwarf, which are distinct from first-generation planetary ingredients, such as the silicon and iron that make up Earth. The discovery exposes a dead star feeding on its posthumous offspring that was birthed from its own ghostly gas.
“Here we report the discovery of a white dwarf accreting material that is unlike any Solar System object,” said researchers led by Jamie Williams of the University of Warwick. “The discovery of this second-generation planet that is chemically distinct from first-generation material demonstrates that close-in planets around white dwarfs can form…Establishing a sizable sample of such systems will open a window on second-generation planet formation.”
Some stars are so prolific that even death won’t stop them from making new worlds—and then eating them. Respect.
In response to a 404 Media investigation, Sen. Ron Wyden is demanding more information about how a federal license plate reader camera program works.
Last month, we reported on the High Intensity Drug Trafficking Area program’s license plate reader database, which mirrors data from city license plate reader programs onto federal databases. The HIDTA program falls under the White House’s Office of National Drug Control Policy, which infamously ran a secretive cell phone data surveillance project called Hemisphere. We reported that HIDTA has now created a complex system for the federal government to obtain license plate data from companies like Flock, Axon, and Motorola via a series of agreements with cities and towns across the country.
In a letter to Sara Carter, director of the Office of National Drug Control Policy, Wyden said that the office needs to publish a report it commissioned into the privacy practices of several of its surveillance programs, including the license plate reader database.
“404 Media has reported that the HIDTA program is being used to aggregate location data on Americans derived from Flock, Axon, and other vendors’ ALPRs,” Wyden wrote. “There is currently limited transparency into these HIDTA-funded surveillance programs, but ONDCP has commissioned an assessment into the privacy practices of these programs that should be released to the public.”
Wyden said that the nonprofit contractor MITRE conducted a privacy review of HIDTA’s surveillance programs, including its cell phone data collection project and its ALPR program, in 2024. That report has never been made public. Wyden demanded the release of that study, as well as a separate “analysis of automated license plate reader systems and practices.”
“There is currently limited transparency into these HIDTA-funded surveillance programs, but ONDCP has commissioned an assessment into the privacy practices of these programs that should be released to the public,” he wrote. “This review was conducted by MITRE and completed in 2024, but ONDCP refused to provide it to my office and has subsequently not made that report public. I urge you to make this review public.”
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we discuss AI and spirituality.
JASON: I think we’ve generally carved out a pretty good lane for ourselves in the broader AI debate, writing about its current capabilities, its current harms, and the fact it was trained on stolen content without saying that it will never be able to do anything of use. We are often tinkering with AI so that we can write about it from an informed perspective, and so every once in a while, while I’m working on a story I will see something where it feels like AI could possibly be useful for some specific part of the reporting.
An Iowa man has kicked off controversy over religious freedom in the small town of Ottumwa, Iowa by opening a city council meeting with a prayer to Satan, which then kicked off a debate about the proper time in the meeting agenda to undo the “curse.”
We start this week with a story from our old friend Lorenzo Franceschi-Bicchierai, about how cops can bypass the inactivity reboot on iPhones. After the break, Jason tells us how people are losing their minds over an LLM ‘torture’ prison. In the subscribers-only section, Sam explains what happened in a wild ChatGPT case in New Mexico.
Listen to the weekly podcast on Apple Podcasts,Spotify, or YouTube. Become a paid subscriber for access to this episode's bonus content and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only link for the extended video version too. It will also be in the show notes in your podcast player.
Body camera footage obtained by 404 Media reveals the first Flock camera searches ruled unconstitutional by a federal judge, and highlights how the system has turned otherwise mundane traffic stops into interrogations for drivers.
On Friday, we reported that a federal judge ruled the use of license plate reader systems in the arrest of a woman named Melissa Kyle to be an “unconstitutional warrantless search,” “indiscriminate mass surveillance,” and a violation of the driver’s Fourth Amendment rights. The judge in that case ruled that, even though Kyle had more than 91 pounds of meth in her vehicle, the police had no justifiable reason to search Flock for her license plate and no reason to suspect that her travel as shown on Flock’s system was suspicious. Therefore, all of the evidence from Flock and the search of her vehicle must be thrown out.
The body camera and in-vehicle footage, alongside records from Flock and the Motorola ALPR system obtained by 404 Media shows how the use of license plate reader systems is being used to create probable cause where a person’s driving patterns are suspicious enough to pull them over.
404 Media obtained the footage with the help of one of our readers, who agreed to go to the U.S. District courthouse in Tulsa and purchase it from the clerk; the court did not make the footage available online even though it was entered as evidence in the case.
In the footage, which is from Tulsa County deputy sheriff Freddie Alaniz’s body camera, Alaniz is seen driving 60 miles per hour, one hand on the steering wheel, one hand on his laptop, searching Flock before he had even fully pulled over Alaniz. Alaniz had seen the car Kyle was driving had California license plates, and decided to pull it over for no reason other than it was from California, the court determined. The video shows that Alaniz told his colleagues that he was sitting on the highway and “saw her go by, and I just started running her info on Flock and Vigilant [Motorola’s ALPR system].”
“She actually didn’t have any [Flock] hits until just west of Amarillo, [Texas], so I thought I’d drive up,” he said, suggesting that he thought it was odd she was driving back from California. “I got her for a lane violation.”
In the footage, Alaniz tells Kyle he pulled her over ostensibly for changing lanes without a turn signal. Kyle tells Alaniz that the car is a rental, and he asks her to step out of the vehicle and get into his car while she looks up the rental information. While she is looking up the rental information, he tells her she is only going to get a warning, but proceeds to interrogate her about the travel while going through the car’s driving history on his in-car laptop.
Body camera footage obtained from the court
In-car footage obtained from the court
Kyle told Alaniz she had been visiting family in California from Missouri for a few days after separating from her husband. As she’s telling him this, Alaniz scrolls through a record of her travel history on his in-car laptop, which documents every time the car passed a Flock or Motorola automated license plate reader camera over the last 30 days. Visible on the screen, there are a total of 79 hits, and roughly 50 during the few-day period Kyle was renting it. The ALPR hits show the car leaving Missouri, driving through Oklahoma, Texas, New Mexico, Arizona, and entering California when she passed a Motorola ALPR camera in Topock, Arizona, on the border with California. They then show her essentially reversing the route, and driving back through Oklahoma. (Alaniz did not have access to ALPR hits from California; this may be because Flock drastically limited nationwide sharing from California ALPR cameras following illegal searches for immigration violators and a woman who had an abortion.)
Alaniz asks Kyle where she’s been and where she stayed, and compares it to the license plate camera records. He begins quizzing her: “Do you remember what day you left Missouri?,” he asks.
Alaniz clicks different ALPR hits on his map, each bringing up a photo of her car, a geographic location, and a timestamp of when she drove by the camera. The government’s lawyers later argued in court that minor discrepancies between what Kyle told Alaniz and what the ALPR data showed meant she was lying about where she’d been on which specific days and therefore gave Alaniz probable cause to search her vehicle.
Alaniz tells Kyle that he is giving her a warning for changing lanes without a turn signal, closes his laptop, then says he wants to ask her a few questions.
“Your short trip to California, I feel like. I don’t feel, I know from my training and my experience that people who do very short trips to California and come right back are transporting large amounts of drugs,” he says. “People who do that—not everybody, but some people do. With my training and experience, I feel that may be something going on here. May I search your car?”
She says no. Alaniz calls for backup, and says “You are being detained. You are not free to go.” In the footage, Alaniz tells a colleague that “she went to California for two days, kind of making stuff up when I ask her where she stayed at.”
He used Alaniz’s travel history, her “nervousness,” and the fact that she doesn’t recall every detail of her travel precisely as probable cause to search her vehicle, where he and his colleagues found 91 pounds of meth. Alaniz described this in the footage as “a motherlode,” and “a shit-ton of meth.”
But the way that he came to this conclusion was unconstitutional, U.S. District Court Judge Sara Hill ruled last week, and all of the evidence—including the car’s travel history and everything the police found during the search of the vehicle—must be disregarded in court as “fruit of the poisonous tree.”
It is often the case that unconstitutional, privacy-violating searches that are regularly done on everyday people doing nothing wrong are discovered in court cases in which serious crimes have occurred. In this particular case, Alaniz discovered what appeared to be meth trafficking, but he did so only after suggesting that an ordinary interstate travel pattern was somehow suspicious, and only after using the Flock and Motorola systems to show an incredibly detailed history of a person’s travel and to interrogate her about it.
Hill wrote “The factors that the government relies upon [to search Kyle’s vehicle] are the same type of circumstances that everyday Americans encounter on long road trips for many legitimate reasons. Many of us drive longer than we want to get to a desired destination, or to no destination at all other than the road and sights ahead. Many of us lose track of what exact day of the week it is when we are traveling, even if it is for just a moment. Many of us travel for myriad reasons (some better than others), cross state lines, pack too much, buy too much, smoke cigarettes, and rent cars. And many of us even get a bit nervous when talking to law enforcement.”
One of the problems with automated license plate reader systems is that they allow police to recreate not just a single person’s movements and travel history, but any driver’s movements and travel history. Documents filed with the court show the totality of both the Flock and Motorola records, and show timestamped, geographically mapped images of the vehicle multiple times per day, driving throughout the entire country. The records also highlight just how many jurisdictions and businesses have Flock and Motorola ALPR cameras, and how that data forms a nationwide network.
For example, Alaniz had access to a photo of the rental vehicle taken by a Lowe’s hardware store-owned camera in Missouri, various Texas state police-owned cameras, by the New Mexico State police, the Kingman police department. In a five-day period, the car was scanned more than 50 times by 11 different law enforcement agencies.
“Alaniz’s search in just the ALPR system provided him with more than 50 individual records of Kyle’s whereabouts across the country for an entire month,” Hill wrote. “The Court finds that because the ALPR systems Alaniz used to search Kyle’s historical location information intruded on her reasonable expectation of privacy in the whole of her physical movements, it was a search under the Fourth Amendment. Based on the information in the record, the only reason Alaniz conducted that search was because he saw her license plate was from California. That search was not supported by probable cause, and it was done without a warrant in violation of Kyle’s Fourth Amendment rights.”
The Motorola ALPR report shows that, after the car was impounded, it was scanned two more times on the back of a tow truck later that day.
Aaron Horwath est directeur de l’IA dans une entreprise de la tech. Dans une tribune pour Noema, il se demande pourquoi tout le monde semble désormais si triste dans le secteur. Pour lui, une catégorie entière de travailleurs semble perdre foi dans sa carrière. « « Faire quelque chose ». J’entends cela de plus en plus souvent parmi mes pairs, ces travailleurs du savoir : des gens qui souhaitent se mettre à la poterie, à la peinture, au crochet ou à d’autres loisirs analogiques d’antan. Dans les cafés et les recoins sombres des bars, des professionnels partagent leur rêve de « disparaître », de « vivre dans une ferme quelque part » ou de « couper les ponts avec la société ». Il ne s’agit pas de rêveries fantaisistes ; ce sont des visions d’évasion exprimées sur un ton qui trahit une angoisse existentielle sous-jacente, un doute fondamental sur le travail et la course à la carrière, né d’une expérience qui semble de plus en plus courante : se réveiller un matin au bord du gouffre existentiel, frappé par la soudaine impression que le travail intellectuel est – et a peut-être toujours été – dénué de sens. Peut-être avez-vous vous aussi ressenti cela : une mélancolie indicible et envahissante, telle une marée montante menaçant peu à peu de vous engloutir alors que vous êtes assis sur votre chaise de bureau Ikea.
Ce désenchantement est contagieux. Une personne en parle et les autres hochent la tête : elles aussi ont ressenti cette baisse de motivation, ce sentiment de détachement vis-à-vis de leur travail, ce manque de sommeil, ces inquiétudes pour l’avenir. »
« Ce qui change aujourd’hui, c’est que ces questions ne sont pas seulement économiques, mais existentielles. » Les travailleurs du savoir ont déjà affronté des récessions, des délocalisations et diverses formes d’automatisation par le passé. L’IA n’en est qu’une de plus. Qu’est-ce qui change en plus désormais ? Les travailleurs du savoir exercent des métiers qui leur procurent un profond sentiment de sens. « Traditionnellement, on qualifiait ces carrières de « vocations » : un appel, un mode de vie. Plus qu’un simple emploi : une raison d’être. » Les vrais métiers à vocation ne sont pourtant pas ceux que pratiquent les travailleurs du savoir. Ils ne sont pas enseignants, pompiers, travailleurs sociaux ou mécaniciens. Massivement diplômés, ils se sont orientés vers la finance, le conseil où la tech, des secteurs exigeants et complexes, où l’on gagne bien sa vie, mais dépourvus de toute dimension altruiste. Dans Bullshit Jobs, l’anthropologue David Graeber avait déjà remarqué que ces emplois ne remplissaient aucune fonction utile. Ils consistent à produire « des présentations élaborées pour des projets qui ne verront jamais le jour, à avoir des débats houleux sur les moindres détails de fonctionnalités logicielles que personne n’a réclamées, à optimiser chaque mot d’une publicité que personne ne remarquera, pour un service dont personne n’a besoin ». Ca n’empêche pas ces travailleurs de vouer un culte au travail, ce workism qu’évoquait en 2019 le journaliste Derek Thompson dans The Atlantic. Une façon de trouver dans le travail, l’épanouissement, l’appartenance et le sens que les générations précédentes trouvaient dans la religion. Ils trouvaient au bureau ce que les plus fervents chrétiens trouvent à l’Eglise : « c’est là qu’ils se sentent le plus eux-mêmes ». Le culte du travail est conçu pour détourner l’attention du vide intérieur qu’une véritable vocation aurait pu combler.« Et cela fonctionne. Il incite des personnes talentueuses à se rendre au bureau pour débattre de rapports, de documents stratégiques et de refontes d’image de marque avec le sérieux d’une opération de chirurgie cardiaque pédiatrique.»
Mais ce culte du travail a un point faible, explique Horwath. « Comme la religion, il repose sur le triomphe de la foi en sa logique ». Et c’est bien celle-ci que l’IA perturbe.
Le travail intellectuel a toujours été intrinsèquement abstrait. « Bon nombre de ces emplois, en particulier dans les grandes entreprises, sont structurés comme des poupées russes : des rôles conçus pour en soutenir d’autres, qui eux-mêmes en soutiennent d’autres encore, couche après couche, jusqu’à ce qu’il devienne impossible de discerner un noyau solide. Son seul atout résidait dans le fait qu’il était accompli par des humains. » Dans ces pyramides qui ne mènent nulle part, nous étions indispensables. « Même si cela était dénué de sens sur le plan existentiel, ce travail était imprégné de pensée humaine, de collaboration et de créativité, autant d’éléments qui lui insufflaient la vie.»
Ce n’est plus le cas. Désormais ce sont des agents IA qui sont en charge de ces tâches. Désormais, ces travailleurs du savoir sont en passe de devenir des gestionnaires d’armées d’agents. « Les logiciels compilent les rapports, rassemblent les données, mettent en forme la présentation, rédigent une première version de la documentation et gèrent ces dizaines de petites tâches répétitives qui, autrefois, engloutissaient discrètement tout un après-midi ». Les agents IA ne font pas seulement les tâches ingrates : ils élaborent des stratégies commerciales complètes, génèrent des campagnes marketing intégrales, créent des sites web entiers et conçoivent la stratégie, tout ce qui nécessitait des divisions entières d’une organisation. Du simple e-mail à la stratégie d’entreprise globale, les productions des individus, des équipes et des organisations sont de plus en plus générées instantanément par l’IA.
« Mais ce pouvoir – ou plutôt ce niveau d’abstraction supplémentaire – ne nous éloigne-t-il pas trop, d’une certaine manière, de notre travail ? N’y a-t-il pas quelque chose qui « cloche » à laisser quelqu’un – ou quelque chose – accomplir la quasi-totalité du travail, même si le résultat final n’avait pas grand sens au départ ? »
Dans La société du spectacle, Guy Debord explique que le spectacle est une caractéristique du capitalisme tardif, où la vie est perpétuellement médiatisée, où le médium se substitue à l’expérience. Le culte du travail est un microcosme de ce spectacle global : « un monde où paraître occupé, important et doté d’un savoir unique a autant de valeur que de l’être réellement, et où le travail n’a pas besoin d’avoir un impact réel, mais simplement d’en donner l’apparence ». « Le travail doit être important puisque, après tout, nous sommes tous là, n’est-ce pas ? À pointer à l’arrivée. À faire des heures supplémentaires. Semaine après semaine. »
Or, estime Horwath, « l’intégration de l’IA au spectacle suscite une angoisse existentielle, car elle nous éloigne encore davantage du travail que nous accomplissons et de sa valeur ». « Je ne conçois plus la présentation qui permet de décrocher un client ; je rédige la requête qui ordonne à l’IA de la créer, puis je vérifie le résultat. Je ne rassemble plus les informations pour rédiger la lettre d’information du secteur ; c’est mon agent qui s’en charge. Auparavant, ce travail pouvait sembler superficiel ou peu gratifiant au fond de nous, mais il restait le nôtre. Aujourd’hui,l’IA est imposée aux organisations d’une manière qui remet en cause la valeur même de l’idéologie du travail.»
L’IA nous pousse si loin que l’illusion, le spectacle, devient manifeste. Ce qui faisait tenir l’illusion, le travail intellectuel lui-même, l’opium à se réaliser soi-même, s’écroule. Il faut désormais surveiller ce que fait la machine. Vous n’êtes plus sur scène, vous êtes le technicien de théâtre qui fait que la pièce se déroule parfaitement.
« Les organisations se retrouvent dans une situation délicate. Elles souhaitent intégrer l’IA à leurs activités, tout comme leurs actionnaires. Et elles le feront. À court terme, les gains d’efficacité potentiels sont trop alléchants pour être ignorés. Maisce qui enthousiasme le plus de nombreux dirigeants – moins de collaboration, moins de personnel – risque de démanteler les structures qui assurent la cohésion des organisations qu’ils dirigent.» La prise de conscience du culte du travail vient de son produit le plus révolutionnaire.
Dans son article, Thompson rappelle que ce qui fait tenir le culte du travail, c’est sa dimension communautaire. A savoir« passer du temps avec des personnes partageant les mêmes idées et centres d’intérêt, et collaborer avec autrui pour résoudre des problèmes ». L’illusion était portée ensemble. Ici, l’inefficacité est bien souvent un atout et non un défaut, ironise Howarth. Ainsi, par exemple, à l’heure où l’arbitrage dans le sport est remplacé partout par de la technologie, le sport en devient beaucoup moins intéressant et divertissant, oubliant que le divertissement est tout de même l’un des buts du sport. Bien sûr, une IA capable de produire en quelques minutes un projet plus ou moins impeccable est impressionnante. « Mais ce n’est pas la rapidité de création des présentations qui va fidéliser les talents. La grande majorité des employés choisissent de rester ou de quitter leur poste en fonction de leurs collègues et/ou supérieurs, et de la qualité de l’expérience, parfois chaotique, qu’offre le monde du travail. Ce sont ces éléments qui rendent le travail agréable et enrichissant. » Même chose dans les relations avec les fournisseurs et les clients d’ailleurs.
Pourtant, souligne encore Howarth, tout le monde ne partage pas ce point de vue. « D’après mon expérience,on distingue deux grandes catégories de travailleurs du savoir. La première est axée sur les résultats. Leur priorité est l’entreprise, la réussite, l’efficacité. Les besoins, les défauts et les émotions humaines sont pour eux un obstacle à surmonter.
La seconde catégorie privilégie l’expérience. Ces travailleurs apprécient la complexité du travail. Ils valorisent le processus.Ils souhaitent que leur organisation soit performante, mais comme le fruit naturel de la collaboration, des débats et des efforts partagés avec des personnes qu’ils apprécient. Nombre d’entre eux sont des artistes en dehors du travail : photographes, réalisateurs, scénaristes, sculpteurs, peintres, poètes, écrivains. Beaucoup sont des bénévoles actifs. Pour ces personnes, quitter leurs passions, certes peu rentables, exige une contrepartie : une expérience en entreprise qui leur offre la liberté d’explorer, de créer, de résoudre des problèmes et de côtoyer des collègues intéressants.»
« Les recherches suggèrent que ce groupe a besoin de cet environnement pour donner le meilleur de lui-même.Teresa Amabilede la Harvard Business School a consacré des décennies à étudier les facteurs de production d’une créativité authentique et de grande qualité. Sonprincipe de motivation intrinsèqueétablit que les individus sont les plus créatifs et innovants lorsqu’ils sont motivés par le travail lui-même – l’intérêt, le défi, le plaisir – et non par les résultats ou les indicateurs de performance. Les environnements qui étouffent la créativité sont politiques, frileux face au risque et obsédés par les résultats. Ceux qui la stimulent sont collaboratifs, axés sur les idées et libres. Autrement dit, cette zone intermédiaire, parfois chaotique, n’est pas synonyme d’inefficacité. C’est le contexte propice à la production d’un travail véritablement précieux.»
« Il est important de noter que l’impact de la suppression de cette zone intermédiaire chaotique dans l’expérience professionnelle de ces deux groupes est asymétrique : pour les personnes axées sur les résultats, c’est une victoire. Pour les personnes qui privilégient l’expérience, cela remet en cause les fondements mêmes du travail. »
Même si les licenciements actuels sont loin d’être réductibles au déploiement de l’IA. ce qui pourrait changer à terme, c’est que les transformations induites par l’IA pourraient rendre nombre de talents (ceux qui viennent y chercher une expérience) inadaptés au monde du travail. Pas sûr qu’ils partent tous garder des chèvres ou qu’ils deviennent potier pour autant. Comme le disait Debord, la rébellion elle-même peut-être purement spectaculaire. Le nouveau spectacle de l’IA finira par exercer sur chacun sa pression économique. On peut quitter une version du spectacle, mais au risque surtout d’être absorbé par une autre. Il est sans fin. Certains quitteront le secteur du travail intellectuel. Beaucoup resteront par choix et nécessité, conclut Howarth sans bien savoir comment terminer son papier.
Le plus probable pourtant, me semble-t-il, est bien que la maîtrise de l’IA devienne un spectacle en soi. On le voit déjà. Mettre en scène sa maîtrise agentique comme faire de ses relations avec les chatbots une expérience, en raconter les résultats, est déjà devenu une nouvelle façon de raconter ce nouveau culte du travail. On raconte désormais comment l’on vit avec ces outils, plutôt que comment on réalise des défis avec ses collègues. Sa transformation est déjà un spectacle. Partout l’on se doit de raconter que cela nous fait gagner du temps, même si on ne sait pas toujours dire en quoi. Parvenir à orchestrer le monde des agents, à passer d’une sollicitation l’autre, à renverser ses présentations ou sa stratégie marketing, passant d’une grand plan à l’autre, semble déjà être devenu une manière d’être. Ceux qui perdent le sens seront remplacés par ceux qui en trouvent. Le risque, c’est qu’il n’y ait pas grand monde pour assister à ce spectacle, à part un robot mielleux qui nous dira« tu as tout à fait raison », en proposant une autre direction encore, dansun épuisement accéléré, d’un prompt l’autre, d’une boucle agentive l’autre.
Jonathan the tortoise, the world’s oldest living land animal, is still chugging along at the ripe age of roughly 194. Now, scientists have discovered some of the secrets to Jonathan’s longevity by sequencing his genome for the first time, according to a study published Wednesday in Science Advances.
Jonathan, a Aldabra giant tortoise (Aldabrachelys gigantea), hatched around 1832 in the Seychelles archipelago, and he was already in his twenties when Charles Darwin published On the Origin of Species. In his fifties, Jonathan was brought to the remote island of Saint Helena, along with three other tortoises, as a gift to the British colonial governor in the 1880s. He has lived there ever since.
Aldabra giant tortoises often become centenarians, but Jonathan is a major outlier even for his species as he approaches nearly 200 years on this planet. To better understand his extreme lifespan, researchers evaluated Jonathan’s genome based on swabs of his cheeks and compared it with the genomes of several other tortoises, including a 36-year-old named Tank.
The results revealed that Jonathan has “unique gene variants in most aging pathways” including DNA repair, insulin regulation, mitochondrial function, and “low entropy” methylation, reports the study.
“Aging is very complicated, and there's all these different hallmarks,” said Stephen Clark, an aging researcher at the non-profit Kallel Foundation and an author of the study, in a call with 404 Media. “That's why this Jonathan study is so interesting. We're still just at the very beginning of trying to understand aging.”
The study was not an easy lift. Clark first reached out to Jonathan’s caretakers in 2017, but it took some negotiating to figure out the best way to obtain the tortoise’s genetic information. A blood draw was deemed too risky, so Jonathan was coaxed into opening his mouth for a swab. The results were delayed by incomplete early samples, the Covid pandemic, and new regulations governing access to Jonathan.
🌘
Subscribe to 404 Media to get The Abstract, our newsletter about the most exciting and mind-boggling science news and studies of the week.
After years of back and forth, the samples were delivered from Saint Helena to Florida by the U.S. Space Force. The results showed that Jonathan had many gene variants the team expected to see, based on studies of other long-lived individuals and populations. These included variants associated with DNA repair, maintenance of aging-related sequences called telomeres, and the process of cellular recycling known as autophagy.
But the researchers found a surprise in Jonathan’s “methylome,” which is a set of methyl-based modifications involved in gene expression. The subset of Jonathan’s methylome related to mitochondrial processes was unusually pristine, or “low entropy.”
Photo: St. Helene Government, Communication Hub
“Jonathan's really the first of his kind to have this analysis, and we were also able to do the methylome for the younger tortoises,” Clark said. “We actually compared him to a five-year-old tortoise, so we had 189 years of difference between the methylomes. No one's ever done that, even in humans, because no humans live that long. That was one of the main things we were excited about: how does this methylome change with age?”
Whereas most of Jonathan’s genome showed signs of entropy commensurate with his age, his mitochondrial methylome seemed on par with that of the five-year-old tortoise, signaling that these pathways may play a special role in his advanced age. However, Clark said it would take more research to follow up on that lead, and to untangle the complicated web of genetic components that influence aging and lifespan.
“We're interested in long-lived species like Jonathan because we can hopefully find other targets,” Clark said of his team’s work at Kallel Labs. “The ultimate goal of the company is to affect human healthspan and lifespan.”
As for Jonathan, he continues to live out his voluminous days at the governor’s residence, Plantation House, where he and his fellow tortoises have become one of the island’s tourist attractions. Saint Helena is also known for the exile of Napoleon Bonaparte, who died there a mere decade before Jonathan is thought to have been hatched. It’s amazing to think about just how much the world has changed in Jonathan’s lifetime. Long may he graze.
Howdy, it's hump day and we're rolling along. Today we've got an update on a very strange case involving a man whose image was resurrected from the dead via AI and made to appear in front of a judge to announced "forgiveness" of his murderer. 404 Media contributor Matthew Gault had a long conversation with the man's sister, who wrote the words and generated the video, and she said that swaying the judge was the entire point.
A man convicted of manslaughter in Arizona will be resentenced because an AI-generated video of his victim speaking from beyond the grave was ruled to have carried “undue emotional weight” as an impact statement. An appellate court in Arizona ruled that the manslaughter charge will remain, but the judge must reconsider the length of the man’s prison term because of AI.
In 2021, Gabriel Horcasitas shot and killed Christopher Pelkey during a road rage incident. A jury found him guilty of manslaughter. During Horcasitas’ sentencing hearing, Pelkey’s sister Stacey Wales played an AI-generated video of her brother as part of her victim’s impact statement. In the video, which she scripted with her own words that she made an AI generated likeness of Pelkey say, the AI avatar of Pelkey forgives his killer and said they “could have been friends” in another life.
“I loved that video,” the judge said while handing down the maximum sentence of 10 and a half years.
Wales told 404 Media that her intent with the video was to sway the judge. “Isn’t that what you want human connection to be?” she said. “Do you ever come out of a movie and say: ‘Well, that was too emotional. That was too powerful. Human connection is powerful, and trying to convey that to somebody that's never known another person, this person on the earth, to convey their lifetime of 37 years down to a two-hour sentencing event is hard to do, and I think that victims and victims' families should be afforded every opportunity.”
A flock of new laws incoming. Several recently introduced pieces of legislation would, if passed, dramatically curb federal agencies’ access to Flock cameras, with the lawmakers referencing reporting by 404 Media in their explanations for why the legislation is needed. “At a time of growing concern about the unchecked power of artificial intelligence, Flock is eviscerating the very notion of privacy by installing tens of thousands of cameras in communities across America without their consent,” Bernie Sanders said.
A man convicted of manslaughter in Arizona will be resentenced because an AI-generated video of his victim speaking from beyond the grave was ruled to have carried “undue emotional weight” as an impact statement. An appellate court in Arizona ruled that the manslaughter charge will remain, but the judge must reconsider the length of the man’s prison term because of AI.
In 2021, Gabriel Horcasitas shot and killed Christopher Pelkey during a road rage incident. A jury found him guilty of manslaughter. During Horcasitas’ sentencing hearing, Pelkey’s sister Stacey Wales played an AI-generated video of her brother as part of her victim’s impact statement. In the video, which she scripted with her own words that she made an AI generated likeness of Pelkey say, the AI avatar of Pelkey forgives his killer and said they “could have been friends” in another life.
“I loved that video,” the judge said while handing down the maximum sentence of 10 and a half years.
Wales told 404 Media that her intent with the video was to sway the judge. “Isn’t that what you want human connection to be?” she said. “Do you ever come out of a movie and say: ‘Well, that was too emotional. That was too powerful. Human connection is powerful, and trying to convey that to somebody that's never known another person, this person on the earth, to convey their lifetime of 37 years down to a two-hour sentencing event is hard to do, and I think that victims and victims' families should be afforded every opportunity.”
After sentencing, Horcasitas appealed. He argued that the AI Pelkey video was inadmissible because it carried “undue emotional weight” and that the “lifelike AI recreation of the victim conveyed an authority and authenticity” had a “psychological impact” on the judge, according to court documents reviewed by 404 Media.
The appellate court agreed and cited State v. Rose, a 2007 murder case where a man was sentenced to death for the murder of a police officer. During the victim impact portion of the sentencing in that case, the judge saw photos of the police officer’s children at his graveside. The court said those photos almost crossed the line into prejudicing the judge.
“The AI video crossed that line. Unlike the photographs in Rose, which captured a particularly poignant moment for the young surviving victims, the AI video here [...] does not reflect actual events,” court documents said.
“It clearly impacted the sentencing judge, who said he ‘loved the video’ and felt it ‘was genuine,’ pointing to the AI victim’s ‘obvious forgiveness’ of Horcacistas,” the court documents said. “On this record, the judge’s consideration of the AI video so prejudiced Horcasitas as to render the sentencing procedure fundamentally unfair.”
Wales and the rest of Pelkey’s family have spent the last five years in and out of various court rooms related to his death. If the current ruling holds, then she'll travel to Arizona from New York and give the same statement she did the first time through her brother’s AI-generated mouth, minus the AI-generated video. The same judge who originally said “I loved that video” will do the sentencing.
“Likely, the same people will go back down and make their speeches, and I will be making my victims' impact statement that I wrote for myself the first time around again, and I will be delivering Chris's AI script sentiment again,” she said. “If I need to stand there and read it myself, which would be legally lawful, I am prepared to do that. Chris's sentiment does not change. The delivery method will.”
Wales said she wrote the words that came out of the AI version of her brother, they weren’t AI-generated. She also noted that only the judge, her family, and the Horcacistas family were the only people who saw it during the trial. “This was not offered as evidence. Juries never saw this,” she said. “This was only created after a verdict was solidified, a guilty verdict.”
She also noted that the AI video was only one of a larger piece of testimony given that day. “I think that [the judge] is unfairly represented with a soundbite,” she said. According to Wales, the judge spoke for around half an hour and only mentioned the AI video once. Wales herself uploaded the soundbite from the judge saying he loved the AI-generated impact statement to YouTube, where it went viral.
But she also said she understood that AI is a new technology and when she played the AI-generated video of her brother that she was doing something no one else had done yet. She compared it to the way courts thought of photography in the late 19th century.
“It took about 15 years [...] and about five landmark cases in the United States that went all the way up to the Supreme Court before photography was an accepted standard to be used in the courtroom for evidence, identification, and testimony, et cetera,” she said. “I believe that's what we're seeing now with AI. It is a brand new medium.”
Wales said she understood she was setting a precedent, for good and for bad, and that she was OK with that. “There is always that first case, and so that mantle weighs on me that I need to be careful with how I defend this and how I explain the impetus, the goals, the motivations, and the veracity of what was created, because there are victims that depend on freedom of speech for the future, and I do believe that victims and their families should have every opportunity available to them to make their their points,” she said.
There’s no firm date for the new sentencing. “We do respect the court's opinion, and if we need to operate in those guardrails, I am prepared to read the same script that the AI version of Chris read the first time around,” she said. “His sentiment has not changed. Our opinion of what we believed he would think about this whole thing has not changed. The words I penned as Chris's imagined opinion still have not changed and will not change.”
Multiple Democrat, Republican, and Independent lawmakers have introduced new pieces of legislation that, if passed, would dramatically curb federal agencies’ access to Flock cameras, with the lawmakers referencing reporting by 404 Media in their explanations for why the legislation is needed.
On Friday Senator Bernie Sanders (I-Vt.), Representative Alexandria Ocasio-Cortez (D-N.Y.), and Senator Jeff Merkley (D-Ore.) announced the Ban Flock Act, which would prohibit federal agencies from using automatic license plate readers (ALPRs) and block federal funding from state and local governments that use the cameras. It would also let Americans sue the federal government for violation of their rights through ALPRs.
“At a time of growing concern about the unchecked power of artificial intelligence, Flock is eviscerating the very notion of privacy by installing tens of thousands of cameras in communities across America without their consent,” Sanders said in the announcement posted to his website. “Going to the doctor? Flock knows. Dropping your kid off at school? Flock is tracking you. Flock is always watching. We cannot allow America to become a surveillance state where a handful of AI oligarchs profit by giving the government the power to track our every movement.”
💡
Do you know anything else about Flock? I would love to hear from you. Using a non-work device, you can message me securely on Signal at joseph.404 or send me an email at joseph@404media.co.
Ocasio-Cortez said, “AI-powered cameras are keeping track of our every move and weaponizing this data against working people to make record profits. The widespread integration of this technology into American society is unconscionable.” Merkley added, “No one should have this unchecked surveillance power at their fingertips, which is why I’m teaming up with Senator Sanders to rein in this dangerous technology.”
Sanders’ announcement says that one reason for the legislation is Flock has shared state information with federal immigration officials. In May 2025, 404 Media revealed local cops were doing lookups in Flock for Immigration and Customs Enforcement (ICE). After that report, Flock made dramatic changes to its product, including stopping other agencies searching cameras in Illinois, California, and Virginia. Flock said it also introduced a new tool that blocks impermissible searches in real time.
The announcement also said law enforcement have used Flock data to investigate protests against ICE raids and ‘No Kings’ demonstrations. 404 Media revealed both of these, reporting that California cops investigated an “immigration protest” using Flock lookups, and, using data from the Electronic Frontier Foundation, that cops used Flock to monitor No Kings protests around the country. 404 Media also recently reported Flock itself taught cops how to surveil No Kings protesters in a company webinar.
Hajar Hammado, senior policy advisor at activist and progressive policy group Demand Progress, said in a press release “The Ban Flock Act is the gold standard for any legislation working to fight invasive Flock cameras on the federal level. Flock and other ALPR companies have wormed their way into communities across the nation and drastic, all-encompassing action is needed to root them out.”
Senator Josh Hawley (R-Mo.) announced his own piece of proposed legislation late last month. The Stop Flock Abuse Act would require a written approval process for each search; force agencies to delete driver data after ten days, with exceptions for active investigations; and ban ALPR networks from incorporating facial recognition technology. During a recent senate hearing, Hawley pointed to 404 Media’s reporting specifically.
Separately, Representatives Greg Casar and Shontel Brown recently wrote to FBI Director Kash Patel asking how the agency plans to acquire nationwide access to ALPR data, Semafor reported. 404 Media first revealed this plan in May. The letter also referenced 404 Media’s reporting which revealed a cop in Texas used Flock to search ALPRs nationwide for a woman who self-administered an abortion.
C’est ce chemin qu’il poursuit dans son nouveau livre, qui n’est pas un essai, mais un manuel à destination des responsables des données. Il rappelle que depuis qu’il est diplômé, il n’a cessé d’essayer d’appliquer la data science pour créer une société plus équitable. Mais avoir un impact positif s’est avéré bien plus difficile qu’espéré. A Memphis, par exemple, les outils qu’il avait participé à mettre au point pour aider la ville à identifier des logements à rénover ont été abandonnés après le départ de l’équipe qui les avait développé. Malgré ces expériences pas toujours concluantes, il s’est rendu compte que pour avoir un impact, il était nécessaire de désapprendre beaucoup de certitudes et d’habitudes que sa formation endata sciencelui avait enseigné. A Boston, par exemple, il devait travailler avec les services d’urgence pour trouver des stratégies pour améliorer la rapidité d’intervention. Or, plutôt que de trouver une astuce pour mieux répartir les ambulances dans la ville, Green a constaté dans les données, que l’essentiel des déplacements n’étaient pas nécessairement un besoin de soins médicaux d’urgence, mais une demande de services sociaux que les services d’urgence n’étaient pas en mesure de fournir mais accomplissaient quand même. Avec les services d’urgence, il a alors proposé de créer une équipe dédiée. Une réponse d’autant plus adaptée que les interventions auprès des publics en difficultés, des toxicos et des SDF, ou de ceux souffrant de problèmes de santé mentale, se concentraient sur certains quartiers sensibles, avec un pic en fin d’après-midi et en début de soirée. La création d’une équipe d’assistance communautaire a ainsi permis de répondre à la demande initiale. Elle a permis d’apporter de meilleurs soins à des publics en difficulté et elle a libéré des ambulances pouvant répondre plus rapidement lors de prises en charges médicales urgentes. Cette expérience a été fondatrice. Elle lui a enseigné trois tactiques qu’il applique depuis à tous les projets qu’il rencontre. D’abord, étudier en profondeur les défis sociaux et opérationnels des services avant d’analyser la moindre donnée. La seconde consiste à se concentrer sur les besoins exprimés pour produire des impacts réels et pas seulement des solutions algorithmiques. Pour Green, les analyses de données les plus sophistiquées ne conduisent pas à de meilleurs impacts. Les résultats de la science des données doivent être choisis en fonction de leur capacité à faire progresser les objectifs du projet, peu importe leur simplicité ou leur complexité. Le troisième enseignement, c’est qu’un data scientist isolé ne sert à rien. Améliorer les politiques publiques avec la data science nécessite des activités qui ne relèvent pas de la data science.«Pour surmonter ces défis, il m’a fallu étudier des problèmes de société, me familiariser avec les processus de travail des organismes publics et traduire une analyse technique en pratiques opérationnelles. Aucun de mes cours de science des données n’avait jamais ne serait-ce qu’évoqué ces tâches, et encore moins enseigné comment les accomplir.»
Concevoir des algorithmes susceptibles d’améliorer la société n’est pas si simple. Comme on le répète ici, les calculs sont plus souvent défaillants qu’autre chose. Certainement parce que les méthodologies de la science des données n’offrent pas de méthode pour se faire, avance Green. D’où l’enjeu de ce manuel : apporter une nouvelle approche de la data science pour orienter les scientifiques des données vers la promotion de la justice sociale. En fait, souligne Green, les méthodes actuelles que mobilisent les data scientist ne leur permettent pas d’œuvrer pour le bien commun. Cette méthode actuelle, Green l’appelle le « formalisme algorithmique ». Et pour lui, elle est profondément problématique. Il propose d’en bâtir une autre : le « réalisme algorithmique ». Et son livre se veut une boîte à outils pour changer de méthode, pour changer la façon dont se déploie la data science.
Passer du formalisme au réalisme algorithmique
« Transformer la science des données, en passant d’une méthodologie formaliste axée sur des modèles mathématiques à une méthodologie pratique axée sur des problèmes du monde réel », c’est ce que propose Green. La science des données est un champ relativement récent, né dans les années 2010, même si elle s’est construite sur des idées et des pratiques qui ont une longue histoire, rappelle-t-il. Le formalisme algorithmique est une méthodologie qui repose sur la propriété mathématique des algorithmes. Où qu’elles se déploient, les méthodologies formalistes restreignent le champ de l’analyse aux propriétés intrinsèques de leur objet, en excluant les éléments extérieurs tels que le contexte social et l’interprétation. Le formalisme algorithmique occulte le contexte social entourant les algorithmes, les garanties formelles de performance ne sont valides qu’au regard du comportement technique de l’algorithme – et non de ses usages et de ses impacts en pratique. En la matière, ces méthodes font obstacle à toute tentative d’aborder des problèmes sociaux et politiques complexes. Le formalisme procède d’une « réduction du champ de vision », rappelle le politologue James Scott dans son livre, L’œil de l’Etat (La découverte, 2021). Le formalisme tend à renforcer les hiérarchies, expliquent Geoffrey Bowker et Susan Leigh Star dans Arranger les choses (EHESS, 2023). Il peut sembler neutre et technique, mais le formalisme a souvent des conséquences pour les groupes marginalisés. Le problème est que le formalisme « caractérise le milieu intellectuel dans lequel évoluent les data scientists » et empêche d’adopter d’autres approches. Ce formalisme a des conséquences très directes : il privilégie les critères d’exactitude et d’efficacité ainsi que l’amélioration des prédictions.
D’ailleurs, les revues comme les conférences du secteur pénalisent souvent les recherches axées sur les applications et les résultats concrets, préférant les travaux qui améliorent les méthodes de calcul. Il conduit à minimiser les dommages potentiels causés par les systèmes algorithmiques et conduit à ne pas regarder les réalités de leurs mise en œuvre, à surestimer les bénéfices et à sous-estimer les nuisances. C’est le cas par exemple de Compas, le système de prédiction du risque de récidive américain. Ses promoteurs estimaient qu’en se fondant sur des évaluations formalistes, leur outil permettrait de réduire le recours à la détention provisoire et les disparités raciales. Or, les évaluations réalisées après la mise en œuvre du système algorithmique ont montré que ces améliorations ne s’étaient pas concrétisées. « Cet écart entre les évaluations formalistes et la réalité du terrain découlait de la manière dont les juges utilisaient les évaluations des risques ». L’évaluation du risque, sous forme d’infrastructures d’abstraction, a exacerbé plutôt que réduit les disparités raciales en matière de détention provisoire, parce que les ingénieurs de Northpointe, les développeurs de Compas, n’ont pas pris en compte la manière dont ils seraient utilisés (sur ces enjeux, voire également les livres de Jathan Sadowski, de Arvind Narayanan et Sayash Kapoor ou encore de Nathan Genicot dont nous avons déjà parlé ici et qui abordent tous ces questions sous un angle ou un autre).
Pour Green, ladata sciencesouffre d’une forme de« clôture mathématique », enclose sur elle-même, renforcée par une tendance à« l’universalisme abstrait », où le monde réel pourrait se réduire uniquement à des mathématiques. Cet universalisme abstrait pousse lesdata scientistsà appliquer des algorithmes comme solution à tous les problèmes sociaux, sans prendre en compte les particularités de ses déploiements.
« Le problème est que, bien que ces représentations par substitution rendent le problème plus facilement traitable mathématiquement, elles suppriment généralement des éléments essentiels du contexte réel ». Cela conduit à des simplifications excessives et à de mauvaises interprétations, comme quand on tente d’évaluer les enseignants en fonction des résultats scolaires de leurs élèves. La qualité de l’enseignement se réduit alors à l’amélioration des résultats des élèves, comme le montrait Cathy O’Neil dans son livre, Algorithmes, la bombe à retardement (Les Arènes, 2018). Enfin, le formalisme algorithmique tend à faire croire que la data science et le calcul seraient politiquement neutres et que les scientifiques seraient objectifs, comme le dénonçaient déjà danah boyd et Kate Crawford en 2011 dans leurs 6 provocations à l’encontre des Big Data. Croire que la science des données produit des connaissances objectives tend à renforcer la minimisation des enjeux sociaux et éthiques des calculs, jugés comme non pertinents et dépourvus de rigueur. « Dans la recherche en science des données, la priorité est donnée aux contributions techniques, supposées apolitiques. Les revues et les conférencesattendent des chercheurs qu’ils justifient leurs travaux sous l’angle de la performance et de la nouveauté plutôt que par rapport aux besoins de la société », comme le montrait une remarquable analyse des valeurs encodées dans les articles de recherche du secteur.
« La neutralité politique conduit les data scientists à négliger les inégalités structurelles et les contestations politiques sous-jacentes aux enjeux sociaux ». C’est par exemple l’écueil de la police prédictive, qui exacerbe et légitime la discrimination systémique inhérente à l’action policière.
Pour Green, ce formalisme exacerbé a généré une crise morale de la discipline. À mesure que les algorithmes se généralisaient et gagnaient en influence au sein de la société, les approches critiques ont alors gagné en visibilité à mesure que montaient les controverses et les injustices. Peu à peu, la question de l’éthique est devenue un domaine influent de la science des données, en valorisant la question de l’équité (c’est-à-dire en valorisant des définitions mathématiques de la prise de décision équitable) et de l’explicabilité. Cet accent mis sur l’éthique a orienté la science des données dans des directions productives, reconnaît Green, en attirant l’attention sur les impacts sociaux des calculs. Mais pour Green, cette éthique repose trop souvent sur une approche formaliste également. Elle réduit l’éthique à une question d’amélioration du calcul, comme le remarquait déjà le sociologue Bilel Benbouzid. Pour Green, « l’éthique des données ne permet pas de produire de manière fiable des algorithmes équitables. Même lorsque les algorithmes satisfont aux définitions techniques des idéaux éthiques, ils peuvent néanmoins s’avérer nuisibles en pratique. » Pour lui, le formalisme algorithmique conduit la science des données dans une impasse. Il manque une méthodologie plus pratique pour se faire.
Pour dépasser ces limites, il est nécessaire de passer du formalisme au réalisme. « Le critère ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique. Autrement dit, quelles que soient les propriétés mathématiques formelles d’un algorithme, ses effets concrets priment sur l’évaluation de sa qualité et de son utilité sociale. Par ce principe, le réalisme algorithmique vise à promouvoir une science des données réaliste, attentive aux usages et conséquences réels des algorithmes. » Pour le dire concrètement, nombre de services permettant d’attribuer des places dans le supérieur reposent sur l’algorithme dit des mariages stables de Gale et Shapley. Pourtant, la manière de l’implémenter est partout différente et produit des effets spécifiques, notamment parce que ses adaptations n’en respectent pas toujours les principes. Parcoursup comme son ancêtre, APB, en relevaient. Ce n’est pas pour autant qu’ils l’ont implémenté dans les règles de l’art.
Pour produire une véritable data for good, pour servir l’intérêt général par les données, alors « la justice sociale doit devenir la mission centrale de la science des données », estime Green. Pour cela, il faut changer la science des données, afin que « faire une bonne data science (doing good data science) devienne synonyme de faire le bien avec la data science (doing good with data science) ». Pour cela, il faut dépasser les attributs techniques d’un algorithme, pour se concentrer sur son rôle et ses impacts dans le contexte de son utilisation. « Les data scientists doivent donc porter leur regard vers l’extérieur : passer du fonctionnement interne des algorithmes au monde dans lequel ils opèrent.»Ils doivent concentrer leur regard sur les effets instrumentaux des systèmes, leurs impacts concrets plus que leurs performances. Pour Green, cela consiste à prendre en compte le changement social. L’enjeu par exemple ne serait plus de produire un calcul pour déterminer quels élèves risquent de décrocher pour améliorer le taux d’obtention d’un diplôme, mais à se demander comment améliorer les efforts de prévention du décrochage scolaire. « Il s’agit de développer des algorithmes qui favorisent des résultats éthiques au sein de la société.»
La méthode : faire avec le terrain !
Green expose longuement son plan de travail concret. C’est-à-dire un nouveau « flux de travail pour la science des données » (data science workflow), c’est-à-dire un processus de travail concret qui passe par la délimitation du problème, la délimitation du projet, l’analyse des données, la mise en œuvre et l’évaluation. Et pour mettre en œuvre ce processus, lesdata scientistsdoivent apprendre à mieux collaborer avec les acteurs du terrain, plutôt qu’à produire leurs solutions en chambre. Ils doivent discuter avec ceux qui sont impactés par les systèmes, ceux qui les mettent en place pour mieux saisir les enjeux qui sont les leurs. « Le réalisme algorithmique n’exige pas des data scientists qu’ils abandonnent leurs compétences techniques, mais il souligne qu’ils ont besoin de plus que ces seules compétences. Ainsi, les data scientists ne devraient pas se définir uniquement comme des experts techniques sachant analyser des données. Au contraire, ils devraient s’efforcer d’êtredes stratèges de la donnée, aidant de manière créative les personnes et les organisations à utiliser les données pour relever des défis du monde réel ». Green tente ici de dresser une piste pour que les scientifiques de la données arrêtent de produire du technosolutionnisme. Il invite les ingénieurs à se défaire de l’hubris ingénieuriale, comme il le disait ailleurs. A prendre conscience que leurs solutions sont bien souvent inadaptées, toutes formidables qu’ils les trouvent. Et pour cela, il faut changer l’approche de la discipline elle-même.
Pour Green, cette réorientation est aussi une réponse à l’automatisation qui dévalorise l’expertise des data scientistes. A l’heure où l’IA générative va produire la plupart du code, le réalisme algorithmique permet de prémunir la discipline contre l’automatisation. En devenant stratèges de la données, leur rôle n’est pas seulement de programmer, mais vise à « aider les organisations à définir des stratégies pour tirer parti des données et des algorithmes afin de répondre à leurs défis concrets ». « Les data scientists cherchent rarement à s’attaquer aux inégalités structurelles, préférant se contenter d’optimiser les procédures décisionnelles existantes. Le réalisme algorithmique inverse ces tendances. Il incite les data scientists à modérer leurs ambitions quant à ce que les algorithmes peuvent accomplir seuls, tout en les encourageant à viser plus haut dans la poursuite de réformes sociales et politiques systémiques », promouvant la justice sociale.
Pourtant, prévient Green, la justice sociale est un sujet complexe et controversé. Il n’existe pas de réponse unique ou évidente quant à la manière de parvenir à la justice dans chaque situation… Et il n’est pas sûr que toutes leurs interventions y parviennent. Reste que pour lui, il faut parvenir à sortir de la lutte contre les injustices engendrées par les algorithmes pour les utiliser pour combattre les inégalités.
Pour autant, Green ne se veut pas naïf. Les data scientists ne vont pas créer demain, rapidement et facilement, une société juste, juste en changeant de méthode. D’autres enjeux s’imposent à eux. Les gouvernements eux-mêmes et nombre d’acteurs privés, sont motivés par des objectifs qui sont en conflits avec la justice sociale. Les autorités sont les premières à produire des algorithmes pour soutenir des politiques austéritaires, racistes et qui renforcent le contrôle et les inégalités sociales et les data scientists n’ont pas toujours de marge de manœuvre pour réorienter ces politiques. Le réalisme algorithmique ne prétend pas résoudre tous les défis. Il ne se veut qu’une méthode pour appréhender les défis sociaux, pour mieux collaborer avec les plus vulnérables. Et effectivement, cela ne suffira certainement pas à inverser les scripts qui se déploient dans les outils, les idéologies à l’œuvre dans les programmes et les politiques. « Les data scientists disposent d’une marge de manœuvre limitée pour générer un changement social ». Ce n’est pas pour autant qu’ils ne doivent pas être responsables de tenter de changer les choses. « Les data scientists ne sont pas responsables de la création des conditions sociales d’inégalité et d’injustice. Mais nous sommes responsables de la décision et de la manière d’agir face à ces conditions sociales.»
Le réalisme algorithmique n’est pas seulement une nouvelle méthode. C’est aussi une nouvelle culture et un ensemble de normes pour la data science. Son but est de traduire la critique des algorithmes en de nouvelles pratiques pour les data scientists.
La leçon du pragmatisme
Le passage du formalisme au réalisme et l’idée de l’appliquer à la data science ne vient pas de nulle part, explique Ben Green. Il s’inspire notamment des philosophes pragmatistes, comme John Dewey ou William James. « Les pragmatistes visaient à transformer la philosophie, d’une recherche métaphysique de vérités essentielles, en un ensemble d’outils pratiques pour résoudre les défis sociaux contemporains ». Pour eux, les concepts sont des instruments au service de l’action concrète : les idées sont des instruments pratiques – au même titre que des fourchettes, des tondeuses à gazon ou des stéthoscopes – destinés à aider les individus à faire face aux défis du monde réel. Ils proposent aux philosophes de s’affranchir de leur dépendance aux abstractions et aux formalismes et aux certitudes qu’elle produit. « Aucune connaissance ne garantit son infaillibilité », disait Dewey. Les connaissances doivent pouvoir être affinées en fonction des conséquences de leur mise en pratique.
La philosophie pragmatique s’appuie sur 3 principes. Le premier consiste à prendre en compte les conséquences : la qualité des théories dépend de leurs effets dans le monde réel, ce qui suppose d’évaluer dans la pratique si elles produisent les conséquences souhaitées. Une politique visant à réduire les inégalités de revenus ne s’évalue pas en fonction des principes qu’elle propose, mais se mesure plutôt en observant si sa mise en œuvre réduit effectivement les inégalités. Le second est le principe des outils, c’est un principe qui vise à se défier de l’abstraction qui n’est qu’un outil parmi d’autres. Le troisième est celui de la socialité : toute connaissance est le produit des personnes qui l’élaborent. Cela signifie qu’il n’existe aucune valeur éthique ou objective ultime.
Cette philosophie a eu des conséquences concrètes, notamment dans le domaine du droit. Jusqu’au début du XXe siècle, le raisonnement juridique aux Etats-Unis était dominé lui aussi par le formalisme, ce qui a suscité des critiques ouvrant la voie à des réformes progressistes, notamment pour élargir les droits et les protections des travailleurs. C’est ce que l’on a appelé le réalisme juridique. Le formalisme juridique estimait que les conséquences sociales réelles des lois étaient sans pertinence pour leur évaluation. Par exemple, les juges américains ont longtemps interprété la liberté contractuelle comme une règle rigide : l’État ne pouvait s’immiscer dans les contrats que les individus concluaient de leur plein gré. La Cour suprême des Etats-Unis a ainsi invalidé en 1905 une loi de l’Etat de New York fixant une durée maximale de travail pour les employés de boulangerie au motif qu’elle était un ingérence déraisonnable face à la liberté de contracter, quelque soit ses effets. En réaction au formalisme juridique, les réalistes ont œuvré pour prendre en compte le monde dans lequel le droit s’inscrit, pour faire du droit un outil pragmatique au service d’objectifs sociaux plutôt qu’un système visant à produire des réponses incontestables. Pour eux, la qualité des lois devait dépendre de leurs effets dans le monde réel. Pour cela, il leur a fallu montrer que les principes juridiques abstraits ne permettent pas d’apporter des réponses claires dans des cas concrets. Les réalistes juridiques ont prôné des changements d’orientation pour prendre en compte la jurisprudence, le contexte et en soutenant que le droit n’était pas un outil neutre, mais politique, et montrer que le droit ne pouvait être résolu par la simple application de principes abstraits. Ce basculement a changé l’application du droit aux Etats-Unis. En 1937, la Cour suprême des Etats-Unis a validé la constitutionnalité de lois sociales telles que celles instaurant un salaire minimum. « L’évolution du droit, passant du formalisme juridique au réalisme juridique, laisse entrevoir une trajectoire analogue pour faire progresser la science des données : le passage du formalisme algorithmique à une nouvelle méthodologie, le réalisme algorithmique.»
Pour appliquer le pragmatisme à la science des données, il faut que« le test ultime des attributs d’un algorithme réside dans les impacts qu’il génère en pratique ». Les data scientists ne peuvent se fier au comportement des entrées et des sorties du modèle. Il faut passer d’une conception des algorithmes comme des modèles mathématiques à une conception pratique d’instruments destinés à améliorer la société. « Ce qui rend un algorithme « équitable » ou « éthique », ce n’est pas qu’il possède des caractéristiques mathématiques associées à ces valeurs, mais qu’il produit, dans le monde réel, des résultats associés à ces valeurs ». Les algorithmes sont des systèmes sociotechniques qui s’inscrivent dans la société où ils se déploient, des pratiques sociales. Et s’ils sont des pratiques sociales, alors il faut développer des mesures d’évaluation adaptées, qui reflètent les effets réels de ces calculs. Prendre en considération les conséquences des systèmes, impose aux ingénieurs d’assumer la responsabilités des préjudices que leurs systèmes causent. « Si un algorithme conçu pour améliorer la société s’avère finalement nuisible, il ne peut être considéré comme socialement bénéfique, quelles que soient les mesures formelles attestant de ses bienfaits. Même si les effets néfastes d’un algorithme n’ont pas été voulus, ils définissent la manière dont celui-ci fonctionne réellement. » Là où le regard des spécialistes doit bouger, c’est qu’ils devraient privilégier les impacts sociaux indépendamment du rôle joué par les algos, quitte à ne pas développer des systèmes de calcul.
Le réalisme algorithmique repose enfin sur un autre principe et présupposé : les algorithmes sont politiques et ceux qui les fabriquent sont des acteurs politiques à part entière. « Toute activité qui influence la disponibilité des ressources, des droits, des statuts ou du pouvoir dans la société est politique ». Les défenseurs de la neutralité visent bien plus à occulter les rapports de force et perpétuer les hiérarchies sociales existantes, qu’à défendre une impartialité qui n’existe pas. Pour Green, les développeurs doivent reconnaître leur partialité, non pas parce qu’ils ignoreraient certaines choses, mais plus encore parce que leurs travaux portent des valeurs par devers eux. « Les data scientists occupent souvent des postes leur conférant une marge de manœuvre considérable pour prendre des décisions normatives. Or, ils ne devraient pas se considérer comme les arbitres du bien, mais plutôt comme des facilitateurs attachés à la participation démocratique de tous.»
Dans Logique : La théorie de l’enquête (PUF, 2006), John Dewey décrit la résolution de problèmes comme un processus en quatre étapes. « La première étape consiste à examiner le problème en question pour en comprendre les caractéristiques et définir les critères d’une résolution souhaitable. La deuxième étape consiste à explorer des solutions potentielles et à rechercher une intervention susceptible de résoudre le problème. La troisième étape consiste à mettre en œuvre l’intervention choisie. Enfin, la quatrième étape consiste à évaluer si l’intervention a produit les résultats escomptés. Si les résultats sont satisfaisants, le processus s’achève. » C’est exactement la méthode que Green retient pour l’appliquer aux défis algorithmiques. La méthode se déploie comme une feuille de route visant à
1. Délimiter le problème 2. Délimiter le projet 3. Analyser les données 4. Mettre en oeuvre 5. Et évaluer.
Avant de détailler par le menu les enjeux et défis de chaque étape. Mais, rappelle-t-il en préambule, les ingénieurs ne sont pas des « licornes omniscientes capables de tout faire en solitaire ». Si certains collaborent activement avec des communautés et des experts pour mener leurs projets, trop souvent encore, ces échanges restent « formalistes ». Dans l’ensemble, ils restreignent la participation de ces groupes à la simple fourniture d’informations sur les paramètres de mise en œuvre technique (voir par exemple notre article sur le manque de participation des publics). Et il est encore plus rare que les ingénieurs confient à d’autres le pouvoir de décision sur les résultats à privilégier ou l’opportunité même de développer des systèmes. Même lorsqu’ils consultent des communautés, trop souvent encore, les ingénieurs conservent la maîtrise du projet. Et quand c’est le cas, l’implication des parties prenantes est marginale, insuffisante pour influencer de manière significative les résultats. Quand c’est le cas, les ingénieurs ont souvent déjà arrêté leur orientation et restent souvent réticents face aux retours remettant en cause leurs choix (comme nous le montrions dans notre article sur l’échec des déploiements de projets). Enfin, quand ils laissent une place, celle-ci consiste à discuter de paramètres, d’indicateurs qui dévalorisent les savoirs des groupes dépourvus de formation technique.
En rendant les phases amonts (et avals) du processus plus collaboratives, l’enjeu est de mieux réussir à ouvrir à toutes les parties prenantes les moyens de peser sur les objectifs et la portée des projets. Green rappelle que le data scientist ne connaît jamais la complexité du fonctionnement d’un système. Ce sont ceux qui y sont confrontés les experts. Et c’est leur connaissance qui seule permet de faire la différence.
Définir le périmètre de projets de science des données réalistes
Délimiter le problème n’est pas si simple car les situations problématiques sont souvent mal définies et ambiguës et nécessitent d’éviter toute attente ou tout objectif préconçu. « Lors du diagnostic des problèmes, il est important de reconnaître qu’il n’existe probablement pas d’explication unique et correcte. La plupart des défis sociaux sont des « problèmes complexes ».» Pour cela, Green invite à l’enquête. A discuter avec les agents ou avec le public. A prendre le temps d’interviewer, de parler. Il donne l’exemple d’entretiens avec des parents confrontés à des systèmes algorithmiques visant à prédire les risques de maltraitance ou de négligence. Pour les familles, ces systèmes stigmatisent les parents plus qu’ils n’améliorent la situation. La réponse proposée par les services sociaux où ces systèmes étaient déployés était inadaptée à leur situation. Pour Green, tout l’enjeu est de poser l’énoncé du problème, de le décrire et de décrire ses causes. Aborder les personnes touchées et regarder si elles sont concernées différemment. C’est en posant un diagnostic approfondi du problème qu’on construit un point de référence qui va fournir un cadre pour la démarche. Et ce diagnostic doit être partagé et validé par ceux avec qui le data scientist doit travailler.
Une fois le problème cerné, il faut alors élaborer une stratégie de réforme, c’est-à-dire une théorie du changement qui permettrait de résoudre le problème identifié, sans évoquer de technologie. Le but n’est pas nécessairement de tout résoudre d’un coup, mais aussi d’esquisser les étapes. « Lorsque des travailleurs se syndiquent, ils ne cherchent pas simplement à obtenir des salaires plus élevés. Ils visent plutôt à accroître leur pouvoir à déterminer les conditions de travail. Grâce à ce pouvoir, ils peuvent négocier avec la direction de nombreux aspects de leur emploi : les salaires, certes, mais aussi la couverture santé, les mesures de sécurité, et bien plus encore. Pour un syndicat, il n’existe pas de victoire ultime et définitive, mais seulement une succession de compromis et de victoires partielles. Chaque action renforce la capacité du syndicat à remporter de nouvelles victoires partielles lors des campagnes de mobilisation ultérieures », comme le montrait André Gorz dans Stratégie ouvrière et néocapitalisme (Seuil, 1964). « Pour les data scientists, qui cherchent à promouvoir la justice sociale, votre objectif n’est pas d’identifier une stratégie globale de transformation de la société. Ne vous attendez pas à ce qu’une intervention quelconque puisse résoudre un problème social systémique et aboutir à une alternative parfaitement juste. L’objectif est plutôt d’identifier des « réformes non réformistes » : des actions qui, même modestement, orienteront la société vers des politiques et des structures de pouvoir égalitaires. » Pour Gorz, les réformes non réformistes s’inscrivent dans une volonté d’instaurer des relations sociales égalitaires. Elles remettent en cause le statu quo au service des objectifs visés. Compte tenu de cette distinction, les réformes non réformistes sont mieux à même de surmonter les structures politiques et de pouvoir systémiques qui, généralement, font obstacle à la réalisation de la justice sociale.
La délimitation du projet, elle, consiste à préciser les objectifs à atteindre. « Des objectifs qui doivent être à la fois spécifiques, mesurables, réalisables, pertinents et temporellement définis ». Ils doivent permettre de faire progresser la stratégie de réforme définie et sa contribution doit venir soutenir les acteurs. Ici, l’enjeu est d’identifier « Comment mon expertise et mon statut de data scientist peuvent-ils aider le groupe à atteindre ses objectifs ? »
Pour Green cela suppose par exemple de produire une cartographie des processus pour bien saisir le fonctionnement et les pratiques des acteurs accompagnés, sous forme par exemple d’une représentation détaillée de chaque étape d’un processus opérationnel, voire un organigramme ou un flux de travail (à accomplir avec ceux chargés de le faire pour en valider les étapes, préciser les acteurs impliqués, les objectifs de chacun, leurs contraintes) permettant d’identifier les points de blocages concrets. À San Francisco par exemple, le Département de la santé publique s’inquiétait de la baisse des taux de fidélisation à un programme qui fournit une aide alimentaire aux mères à faibles revenus. Pour comprendre les causes de ce problème, l’agence a collaboré avec l’équipe interne de science des données de la ville. Les spécialistes des données ont analysé six années d’informations et élaboré un modèle d’arbre de décision afin d’identifier les facteurs conduisant les mères à abandonner le programme. Ils ont également interrogé les bénéficiaires et le personnel du programme. Ces analyses ont révélé que les contraintes administratives et la stigmatisation sociale constituaient des obstacles majeurs pour les mères. En réponse, l’agence a réduit les contraintes administratives en simplifiant la prise de rendez-vous et en remplaçant les chèques papier par des cartes de paiement électroniques qu’elles réclamaient. L’agence a également lutté contre la stigmatisation en modifiant la communication du programme. A nouveau, insiste Green, l’enjeu n’est pas toujours de faire de grandes réformes. Mais souvent seulement d’aider les organismes à renforcer leurs capacités techniques, que ce soit en nettoyant leurs données, à former le personnel pour élaborer des indicateurs pertinents ou à faciliter le partage de données entre les différents services.
Un autre moyen consiste à cartographier le pouvoir, les réseaux d’acteurs en relation ou en conflit, comme « d’identifier des adversaires qu’il convient de soumettre à des pressions, des alliés potentiels qu’il faut convaincre ou des groupes non organisés qu’il s’agit d’unifier ». C’est le cas par exemple du collectif militant Anti-Eviction Mapping Project (AEMP) qui publie des cartes d’expulsion notamment à San Francisco. Avec l’Eviction Defense Collaborative, les deux associations ont produit une carte pour mettre en évidence les arrêts de navettes des entreprises technologiques de San Francisco avec celle des expulsions du centre-ville qui a conduit la ville à réglementer le passage de ces bus.
Le but, ici, est bien souvent d’analyser les données pour orienter la stratégie de mobilisation. Dans le Connecticut, des locataires de logements abordables étaient exposés à des niveaux de présence de plomb toxiques. Ils ont formé un syndicat de locataires pour se mobiliser contre le problème. Les scientifiques de l’organisation Science for the People sont venu leur apporter leur soutien en croisant les données des inspections des agences chargées de la détection du plomb avec celles du syndicat pour aller démarcher d’autres habitants confrontés au problème et accroître la mobilisation et la pression sur les autorités publiques. Suite à ces actions, une enquête a été ouverte et l’agence de protection de l’environnement est intervenue pour faire nettoyer les immeubles.
Pour élaborer des spécifications de conception, il faut s’intéresser aux variables cibles des systèmes (c’est-à-dire le résultat que l’algorithme prédit), les mesures d’évaluation et l’utilisabilité pratique, qui permettent de traduire le phénomène étudié en une représentation quantitative susceptible d’être mesurée et prédite. Or, celles-ci ne sont pas toujours définies au mieux, rappelle Green. Un algorithme utilisé par le service des impôts américains pour prédire quelles déclarations de revenus sont non conformes (qui devraient donc faire l’objet d’un contrôle fiscal) évalue « la non-conformité comme le dépôt d’une déclaration comportant une erreur, quel que soit le montant en jeu. Sur la base de cette définition, l’algorithme cible de manière disproportionnée les contribuables à faibles revenus et les contribuables noirs pour des contrôles. À l’inverse, si l’algorithme définissait la non-conformité comme un sous-paiement d’impôts d’un montant significatif, il ciblerait plutôt les contribuables à revenus élevés et non noirs pour ces contrôles » (un problème qui n’est pas sans rappeler celui des indus calculé par la CAF en France, soit dit en passant).
Parvenir à identifier correctement le problème prend du temps et des efforts, rappelle Green. A New York, le service municipal d’aide aux locataires qui vise à les aider dans leur relations avec leur propriétaires par exemple pour obtenir des réparations d’urgence, a cherché à identifier les locataires qui avaient besoin d’aide. Ils ont mis au point un système pour prédire les locataires harcelés par leurs propriétaires pour mieux cibler leurs interventions. Dans un premier temps, ils ont défini leur algorithme pour prédire les immeubles allant connaître au moins un cas de harcèlement au cours du mois suivant, mais le système sélectionnait des immeubles comportant beaucoup d’appartements, mais avec un faible taux de harcèlement de leurs propriétaires. Les scientifiques ont reformulé le problème pour prédire quels immeubles présentaient la plus forte proportion de locataires harcelés. Le modèle a alors identifié des immeubles plus petits avec des taux élevés et mieux répartis dans la ville. Le second modèle a permis de doubler le taux d’identification de locataires en difficulté avec leurs propriétaires, se révélant ainsi plus efficace pour soutenir la mission de l’agence, à savoir protéger les locataires vulnérables.
Pour Green, il y a beaucoup de variables à prendre en considération pour accomplir des analyses adaptées aux situations. Bien souvent, les associations ou les services publics ont peu de moyens pour intervenir. Cela signifie qu’il faut être capable d’intégrer les contraintes opérationnelles de l’organisme dans les indicateurs d’évaluation. « Les approches d’évaluation standard, qui prennent en compte la performance d’un algorithme sur l’ensemble de la population, ne reflètent pas la qualité de l’algorithme pour le rôle auquel il est destiné. Si un organisme ne peut intervenir qu’auprès d’une petite partie de la population, l’essentiel est d’identifier avec précision le groupe qui bénéficierait le plus d’une intervention. » Et dans de nombreux cas, « l’algorithme le plus performant pour l’ensemble de la population sera différent de celui qui performe le mieux pour le sous-ensemble étudié ».
Enfin, il faut s’assurer que l’algorithme sera utilisable en pratique et qu’il sera dimensionné et adapté aux processus existants. Par exemple, en travaillant avec les services sociaux de l’Illinois pour réduire le risque d’accouchement prématuré, les data scientists ont tenté de prédire les femmes avec le plus grand risque de complication via une application en ligne. Mais ils se sont rendu compte que cette application n’était pas fonctionnelle en pratique, car les services ne disposaient pas des capacités techniques pour en assurer la maintenance. Ils ont alors produit un score de risque depuis un simple formulaire papier facile à remplir. Moins précis que l’évaluation numérique, l’outil s’est avéré plus efficace car les services ont pu l’intégrer dans leurs opérations quotidiennes et a permis d’améliorer de 20% les soins prénataux aux femmes à hauts risques.
Pour Green, « plus vous aurez défini le périmètre de votre projet de manière pertinente pour le contexte d’utilisation spécifique, plus il sera facile de mettre en œuvre l’algorithme avec succès ». Et c’est seulement après ces étapes importantes de spécifications, que le data scientist peut faire son travail, de sélection, de nettoyage et d’analyse de données.
Là encore, le travail préliminaire consiste à bien comprendre les données, leurs ambiguïtés, leurs biais et leurs limites. Il faut comprendre comment elles sont collectées, leurs manques… Ce qui n’est possible qu’en comprenant leur collecte, leur but, et en discutant avec ceux qui les collectent. Pour Green, « une cause fréquente d’échec des logiciels publics réside dans les méthodes de développement dites « en cascade » : les pouvoirs publics définissent leurs besoins, les techniciens conçoivent et réalisent le système de manière isolée, pour ne le présenter qu’une fois le produit final achevé. L’approche en cascade suppose qu’il est possible de définir tous les détails d’un outil avant d’en entamer la réalisation », comme le montrent Tara Dawson McGuiness et Hana Schank dans leur livre, Power to the Public: The Promise of Public Interest Technology (Princeton university Press, 2021). « Cette approche mène souvent à l’échec car elle ne prévoit aucune possibilité de retour d’information intermédiaire au cours du processus de développement. Si vous tentez de concevoir un système de manière isolée, vous risquez de négliger les préférences et les pratiques de l’organisme concerné, faute de les avoir abordées en amont. De plus, ces préférences et pratiques sont susceptibles d’évoluer avec le temps. Plutôt que d’adopter une méthode en cascade (waterfall), privilégiez les pratiques de développement « agile » : créez des prototypes de manière itérative, discutez-en ou testez-les avec les utilisateurs finaux, puis ajustez votre travail en fonction des retours obtenus. »
Une fois les données analysées ou modélisées, vous pouvez en tirer des enseignements. Si vous avez élaboré un modèle, c’est à cette étape que vous l’utiliserez pour effectuer des prédictions ou des classifications sur de nouvelles données. Si vous préparez une présentation ou un rapport, c’est le moment de synthétiser les résultats dans un document destiné à être partagé. Ne vous limitez pas aux aspects techniques de vos livrables ; réfléchissez également à la manière de communiquer votre travail. Il est essentiel que votre public puisse interpréter correctement la signification de vos résultats (et, point tout aussi important, ce qu’ils ne signifient pas).
L’implémentation elle aussi doit être pédagogique recommande Green. Elle doit se faire en observant les impacts liés à l’utilisation. « Les projets de science des données sont loin d’être terminés une fois qu’un algorithme a été développé. » Pour cela, il faut non seulement surveiller ce que produit l’algorithme mais plus encore comment il s’insère et influe sur la prise de décisions, dans les processus et observer ses impacts sur les publics touchés. C’est à ce moment-là qu’on déploie des outils pour évaluer leurs effets, que ce soit via des méthodes de projection prospective, des exercices de design fiction, ou des études d’utilisation.
C’est seulement toutes ces étapes franchies qu’on peut décider ou non d’implémenter le système, estime Green en délibérant avec les parties prenantes, en ayant observé si le système produit bien des effets et à quel niveau. C’est seulement une fois que l’implémentation est réalisée avec attention pour qu’elle s’intègre aux processus, que l’évaluation peut vraiment avoir lieu. En regardant s’il atteint bien ses objectifs et s’il engendre des effets secondaires négatifs. Là encore, le manuel de Green fourmille d’exemples pour procéder à ces évaluations, que ce soit par des essais contrôlés randomisés, des comparaisons avant-après, par des études d’interaction humaines avec le système, des enquêtes sur les groupes affectés par les décisions…
Bien souvent, les évaluations formalistes des systèmes peinent à évaluer leurs impacts concrets. A San Francisco, les personnes sans abri font l’objet d’une évaluation de leur vulnérabilité par un algorithme. Ces scores orientent les décisions des organismes de logement quant aux personnes à prioriser pour l’attribution d’un logement. Or pour candidater, il leur faut répondre à un questionnaire assez traumatisant, ce qui les conduit à taire leurs récits voire à renoncer et donc à réduire leur score. L’algorithme ne parvient donc pas à accomplir pleinement ce qu’il est censé faire.
Relever le défi des inégalités : des mesures d’équité… aux interventions structurelles
Résoudre les inégalités n’est pas si simple, rappelle Green. En 2016, les journalistes d’investigation de ProPublica ont montré que l’algorithme de Compas d’évaluation des risques de récidive était biaisé à l’encontre des Noirs. ProPublica a constaté que le taux de faux positifs de COMPAS – le taux de classification erronée d’un prévenu qui ne récidivera pas comme présentant un risque élevé – était deux fois plus élevé pour les prévenus noirs que pour les prévenus blancs. L’algorithme a classé 45 % des prévenus noirs non récidivistes comme présentant un risque élevé. En revanche, il n’a classé que 23 % des prévenus blancs non récidivistes comme présentant un risque élevé. L’algorithme a donc classé de manière disproportionnée les prévenus noirs comme susceptibles de récidiver.
Ces résultats ont suscité une grande consternation, de nombreux commentateurs exprimant leur indignation face à des algorithmes racistes dans des décisions aussi importantes. Mais Northpointe, l’entreprise qui a développé Compas, a réfuté les accusation de discrimination en s’appuyant sur une autre comparaison : parmi les prévenus considérés comme à haut risque, les prévenus noirs et blancs récidivaient à des taux similaires (environ 60 % du temps). Ce qui signifiait que l’algorithme traitait les prévenus noirs et blancs de la même manière quant à leur probabilité de récidive. Pour Northpointe, cette analyse démontrait que COMPAS est impartial.
Des chercheurs en science des données se sont penchés sur ce débat, supposant qu’il serait possible de trancher la question en ajustant COMPAS pour satisfaire aux notions d’équité présentées par ProPublica et Northpointe. Ils ont cependant rapidement découvert que cela était impossible. Les algorithmes prédictifs discriminent inévitablement une forme ou une autre, et généralement en pénalisant les groupes marginalisés. Dans le cas de COMPAS, la disparité raciale des taux de faux positifs s’explique parce que les accusés noirs récidivent plus fréquemment que les accusés blancs, mais certainement d’abord parce qu’ils sont plus nombreux à être incarcérés et moins pris en charge. L’algorithme détecte cette différence et considère donc les accusés noirs comme plus à risque que les accusés blancs. Des enquêtes ont démontré des biais raciaux, ethniques, sexistes et de classe dans de nombreux autres algorithmes du secteur public.
« Cette caractéristique des algorithmes soulève un problème important pour les data scientists qui tentent de promouvoir la justice sociale. Les groupes marginalisés obtiennent de moins bons résultats dans de nombreux domaines, notamment la criminalité, l’éducation, la réussite professionnelle et la santé. Ce sont ces inégalités qui motivent de nombreux data scientists à œuvrer pour la justice. Mais comme les algorithmes sont entraînés sur des données qui reflètent ces schémas d’inégalité, ils génèrent des prédictions et des classifications qui reproduisent les disparités sociales. »
Les spécialistes des données ont tenté de relever ce défi en développant le domaine de « l’équité algorithmique ». Comme son nom l’indique, l’équité algorithmique vise à empêcher les algorithmes d’exprimer des biais ou d’exacerber les inégalités. Ce domaine de recherche a réalisé des progrès importants dans le développement de méthodes permettant de réduire certains biais et a incité les spécialistes des données à reconnaître que les algorithmes ne sont pas objectifs.
Malgré ces avancées, l’équité algorithmique reste fondamentalement limitée en tant que méthodologie de promotion de la justice sociale. Le défaut fatal de ce domaine est qu’il considère l’équité comme un attribut technique interne aux algorithmes, explique Green.
L’équité algorithmique représente un exemple typique d’incorporation formaliste : les data scientists ont abordé les questions morales d’équité à travers les méthodes et les orientations du formalisme algorithmique. Cette approche de l’équité a conduit à des algorithmes qui paraissent équitables mais qui, en réalité, perpétuent les inégalités. « Ces limites de l’équité algorithmique signifient que les data scientists manquent d’une voie claire pour lutter contre la discrimination et les inégalités. Les réformes qui promeuvent l’équité sont les plus nécessaires dans les domaines où les disparités sociales sont criantes et généralisées. Mais les data scientists ne disposent pas de méthodes pour concevoir des algorithmes qui réduisent ces disparités plutôt que de les reproduire. Il n’est donc pas évident de savoir comment les data scientists peuvent contribuer à la justice sociale dans ces domaines. »
Pour Green, le réalisme algorithmique offre une voie productive pour pratiquer la science des données dans des domaines marqués par les inégalités car elle « reconsidère l’équité comme une propriété instrumentale – et non intrinsèque – des algorithmes ». « Dans cette optique, pour déterminer si un algorithme est équitable, ce qui compte, ce ne sont pas ses caractéristiques techniques, mais les effets qu’il produit au sein de la société. Par conséquent, les data scientists devraient cesser de poser la question formaliste dominante dans le domaine : « Comment créer des algorithmes qui satisfont à des critères statistiques d’équité ? » Cette question focalise l’attention sur le fonctionnement interne des algorithmes, en se concentrant étroitement sur des processus de décision isolés. Au lieu de cela, les data scientists devraient se demander : « Comment pouvons-nous contribuer à réduire les inégalités sociales et matérielles dans la société ? »Cette question incite les data scientists à privilégier les impacts réels des algorithmes. »
Certes, cette question ne permet pas de réponses simples. Toutefois, la démarche du réalisme algorithmique structure un processus grâce auquel les data scientists peuvent élaborer des projets favorisant l’équité. Le réalisme algorithmique invite les data scientists à élargir leur perspective au-delà des processus de décision ponctuels pour prendre en compte les environnements sociaux qui entourent ces moments de décision. Cette approche souligne que les data scientists ne sont pas limités à la simple optimisation des modalités de prise de décision : ils peuvent également modifier les structures sociales qui encadrent ces processus. «Ils devraient notamment s’efforcer de (1) réduire les disparités sociales qui alimentent les processus de décision et (2) atténuer les conséquences néfastes découlant de ces décisions. En privilégiant des interventions structurelles plutôt que des mesures d’équité, les data scientists peuvent mener des projets techniques qui contournent les contraintes liées à l’équité algorithmique tout en promouvant la justice sociale.»
Green montre que l’approche formaliste de l’équité, malgré le développement d’innombrables mesures d’équité sous forme mathématique, peine à produire des effets.
« Les mesures d’équité les plus répandues reposent sur des comparaisonsentre des groupes qui valorisentsoit la suffisance» (la condition de suffisance est remplie si, parmi les personnes faisant l’objet d’une prédiction donnée, tous les groupes présentent le résultat prédit dans les mêmes proportions. Cette définition de l’équité reflète l’idée que les personnes ayant une probabilité équivalente de manifester le comportement étudié doivent être traitées de manière similaire. Les modèles d’apprentissage automatique respectent généralement ce principe par défaut. Northpointe a soutenu que COMPAS était équitable car il satisfaisait au critère de suffisance) «soit la séparation» (la condition de séparation est remplie si tous les groupes soumis aux prédictions d’un algorithme présentent le même taux de faux positifs et le même taux de faux négatifs. Cette définition de l’équité reflète l’idée que les personnes présentant le même résultat doivent être traitées de manière similaire. ProPublica a soutenu que COMPAS était racialement biaisé car il ne respectait pas le critère de séparation).
Le problème est que ces deux manières de définir l’équité sont irréconciliables. Et que l’équité se résume alors à une boîte à outil, où l’équité répond ou pas aux mesures mathématiques retenues. L’équité ne se mesure que sous l’angle des données d’entrée et de sortie de processus décisionnels ponctuels et bien souvent privilégie la suffisance à la séparation, notamment parce qu’on a tendance à bien plus valoriser l’égalité formelle, c’est-à-dire celle qui juge selon une norme uniforme, qui est très perméable aux inégalités existantes. Ainsi, si Northpointe a raison d’affirmer que les prévenus noirs récidivent plus souvent, c’est oublier que cette explication occulte les raisons de cette disparité. Cette disparité ne résulte pas d’un phénomène inexplicable ou sans importance. Au contraire, des siècles d’oppression raciale ont criminalisé le fait d’être Noir et ont placé les communautés noires dans des conditions criminogènes telles que la pauvreté endémique, le sous-financement des écoles et la rareté des opportunités d’emploi, rappelle le chercheur.
Pour Green, c’est en cela que l’équité algorithmique est dans une impasse. Les critiques, partisans de la justice algorithmique, suggèrent de privilégier la séparation à la suffisance comme définition de l’équité, pour privilégier l’égalité de résultats entre les groupes. Dans le cas de Compas, cela signifierait produire les mêmes niveaux de faux positifs pour les prévenus noirs et blancs. Mais pour changer d’approche, il faudrait faire évoluer non seulement la prise en compte mathématique, mais également la contrainte juridique. Privilégier la séparation nécessiterait de préconiser des décisions différentes pour les prévenus noirs et blancs présentant le même risque de récidive, ce qui serait illégal en vertu des lois anti-discrimination. Nous sommes là dans le même défi juridique quel’on notait dans le livre de Nathan Genicot. Une impasse éthique que nos sociétés n’ont pas tranchée.
Pour dépasser cette impasse, Green suggère de passer à une approche instrumentale de l’équité. « Si nous ne pouvons pas choisir d’autres métriques d’équité, que pouvons-nous faire pour obtenir des algorithmes plus équitables ? »
« Pour élaborer une stratégie visant à mettre les algorithmes au service de la lutte contre l’injustice, nous avons besoin de l’éclairage d’une théorie morale qui dépasse le cadre de l’égalité formelle. » Cette théorie doit présenter deux caractéristiques fondamentales. Premièrement, elle doit se concentrer sur les réalités concrètes des inégalités plutôt que sur le simple respect de règles formelles et de normes uniformes. Deuxièmement, elle doit élargir le champ de l’analyse au-delà des points de décision individuels.
Pour cela, la solution que propose Green repose sur l’égalité relationnelle, qui constitue une approche substantielle de l’égalité, car elle privilégie les résultats aux procédures. Elle valorise notamment l’égalité dans les relations entre les individus. Les tenants de l’égalitarisme relationnel estiment que « les individus doivent interagir en tant qu’égaux ou jouir du même statut fondamental », contrairement aux relations hiérarchiques. Les égalitaristes relationnels suggèrent une stratégie différente pour promouvoir l’égalité : modifier les structures sociales qui encadrent les points de décision, c’est-à-dire s’intéresser bien plus aux environnements de décision. « Ce qui compte, ce n’est pas de savoir si un algorithme est conforme aux définitions de l’équité, mais s’il réduit les inégalités sociales et matérielles dans la société ».
Pour y parvenir, Green reprend tout le processus qu’il a proposé (les 5 étapes de sa méthode) pour le réinterroger à l’aune de l’équité.
Lors de la délimitation du problème, il faut se poser plus avant la question des groupes les plus vulnérables ou les plus défavorisés. Les disparités d’attributs entre les groupes doivent être considérés comme le résultat d’une injustice. Et toujours estimer que les membres du groupe favorisé ont une influence dans la définition des critères de décision. Les attributs d’une personne, comme le mérite, le besoin, la dangerosité, reflètent souvent les intérêts des groupes sociaux dominants. « Plus un groupe dominant a le pouvoir de définir les critères, plus les conditions sont défavorables aux groupes marginalisés. » Il invite par exemple à observer si « les personnes présentant des caractéristiques défavorables font l’objet, de manière disproportionnée, de décisions défavorables » ou si les « les personnes qui reçoivent une décision défavorable subissent des conséquences graves » ou combien de personnes subissent des décisions défavorables. Ces questions permettent d’adapter les réponses stratégiques. Par exemple en fournissant des ressources ou des soutiens aux groupes défavorisés pour amoindrir les effets des calculs en modifiant les critères d’évaluation des décisions. Par exemple, en tentant de modifier les décisions défavorables afin qu’elles privilégient l’aide à la sanction. Ou encore en atténuant les préjudices découlant d’une décision défavorable, ou encore en tentant de réduire le nombre de personnes faisant l’objet de décisions défavorables, en tentant par exemple d’agir sur les ressources disponibles pour permettre davantage de décisions favorables. Ainsi, pour réduire le risque de récidive chez les groupes marginalisés, la première stratégie de réforme en amont consiste à fournir des ressources ou d’autres formes de soutien aux groupes défavorisés.
Green donne un exemple, en observant comment d’autres décisions permettent de réduire le risque de récidive, par exemple en accompagnant les programmes qui visent à rompre les cycles de la criminalité et de la violence. À Chicago, un programme d’intervention communautaire contre la violence vise à offrir un soutien thérapeutique et social aux personnes à risque d’avoir un comportement violent. Les évaluations ont montré que ces programmes avaient un réel impact en réduisant de plus de 70% le risque d’arrestation pour crime violent chez les participants. Les spécialistes des données peuvent aider par exemple à améliorer le taux de rétention des participants, alors que moins de la moitié des participants vont jusqu’au bout du programme (et compte tenu des ressources limitées des programmes, il est impératif qu’ils réduisent leurs taux d’abandon). En comprenant les raisons de l’abandon ou en élaborant un modèle pour identifier les participants qui risquent d’abandonner, il y a des possibilités pour venir en soutien de ces programmes. Ou encore en concevant un modèle identifiant les meilleures stratégies de rétention.
Un exemple dans l’actualité plus récente explicite plus avant ce succès. La ville de Baltimore a réduit son taux d’homicides de 60 % entre 2021 et 2025 rapportent Public Health et le Emerald book, en copiant le programme de Chicago. Ce succès s’explique par le fait que la ville ait abordé la violence par arme à feu comme un enjeu de santé publique et ait agit sur le problème non pas par la répression, mais en promouvant un programme pour les personnes les plus à mêmes de tomber dans la violence donnant accès à un logement stable, à des emplois, à des transports publics, comme le préconisent les travaux du Centre pour les solutions contre la violence par arme à feu et du Crime and Justice Lab. Une approche axée sur la santé publique implique d’analyser les données, de se concentrer sur les personnes les plus exposées aux risques pour les repérer et leur proposer un programme adapté d’aides pour s’extraire de la spirale où ils risquent de tomber parce qu’ils ont eux-mêmes été victimes de violences et d’évaluer en permanence ce qui fonctionne et ce qui ne fonctionne pas. En s’appuyant sur des réseaux communautaires locaux, comme la Peace Team, YAP, Roca, Safe streets ou Cure violence, Baltimore a réussi à ce que 91,5% des participants à son programme ne soient plus ni victimes ni auteurs de nouvelles fusillades. Plutôt que de déployer des effectifs de police, la ville a misé sur des médiateurs et un programme d’aides dédiés pour que la réponse à la violence par la violence ne soit plus la seule option. « Le succès de Baltimore a définitivement balayé le mythe selon lequel la réduction de la criminalité nécessiterait nécessairement une augmentation des effectifs policiers.»
Une autre option consiste à attirer davantage l’attention sur les méfaits de la mise en détention auprès des juges, comme l’ont montré les propositions alternatives à Compas, comme des systèmes qui proposent pour chaque individu la meilleure solution pour qu’ils ne récidivent pas en leur proposant les aides les mieux adaptées à leur situation (comme le programme de remise en liberté sous surveillance de la ville de New York qui a permis d’éviter la détention provisoire de 150 000 personnes) ou encore, comme le propose Esas, en proposant aux juges, plutôt qu’un score de risque, d’accéder aux peines similaires prononcées dans des affaires antérieures selon des antécédents de condamnations proches, leur permettant de comparer leur sentence et de relativiser leurs jugements (voir notre article).
Il est également possible d’utiliser d’autres solutions encore, comme des modèles statistiques afin d’identifier et de contester publiquement les décisions des juges en matière d’incarcération. À titre d’exemple, des spécialistes des données ont élaboré des modèles évaluant la fréquence à laquelle les juges de New York ont ordonné le placement en détention provisoire entre 2020 et 2022, au regard de leur volume de dossiers. Ils ont ensuite publié un rapport désignant les quatorze juges les plus sévères de la ville. Selon leurs estimations, par rapport à des juges ordinaires, ces quatorze magistrats ont collectivement placé 580 personnes supplémentaires en détention, entraînant 154 années de détention provisoire additionnelles et un coût de 77 millions de dollars pour les finances publiques.
Green ne promet pas le grand soir de la lutte contre les inégalités. Mais estime que le terrain des interventions concrètes offre de nombreuses possibilités d’action. Pour lui, la data science permet de porter bien d’autres regards sur l’équité algorithmique. Bien sûr, reconnait-il avec humilité, « aucune de ces interventions, prise isolément, ne suffirait à éliminer les inégalités sociales ou les préjudices liés à la détention provisoire. Toutefois, toutes contribuent — par des évolutions progressives mais significatives — à orienter les structures sociales et institutionnelles vers une plus grande égalité relationnelle.» Pour autant que, politiquement, il reste des possibilités d’action, des programmes alternatifs et des financements pour ces programmes…
Améliorer la prise de décision : passer de l’humain dans la boucle à l’algorithme dans la boucle
« Au cours des années 2010, des villes américaines comme Philadelphie ou San Francisco ont proposé des guichets pour aider les organismes de services sociaux à fournir une aide plus équitable et plus efficace aux personnes sans-abri. L’objectif de l’accès coordonné est d’accorder la priorité en matière de logement aux personnes qui en ont le plus besoin.
Les algorithmes facilitent ce processus en quantifiant la vulnérabilité de chaque personne sollicitant une aide au logement. » Problème : les travailleurs sociaux n’ont pas intégré ces évaluations. Pire, ces algorithmes ont eu l’effet inverse : ils ont exacerbé la vulnérabilité des groupes les plus marginalisés (tels que les immigrés, les personnes transgenres et les personnes noires) et ont donné aux personnes sans-abri le sentiment d’être déshumanisées par le processus d’évaluation, comme le racontait le San Francisco Public Press en 2022.
« L’une des principales raisons de l’échec de cette initiative est que les travailleurs sociaux se sont trop reposés sur les algorithmes. Au lieu de considérer l’évaluation comme un outil permettant de contextualiser la situation de chaque individu, ils en ont fait le critère déterminant pour l’attribution d’un logement. Les agents chargés des dossiers ont fait valoir qu’ils n’avaient pas le « temps » de procéder à un examen plus personnalisé et que le questionnaire était plus simple à utiliser.
Cette dépendance excessive à l’égard des algorithmes de sélection a transformé un travail autrefois fondé sur l’accompagnement humain en une simple application rigide d’une formule. Auparavant, les travailleurs sociaux nouaient des relations avec les personnes sans abri afin de mieux cerner leurs besoins et de déterminer les formes d’aide les plus adaptées. Après l’introduction d’algorithmes d’accès coordonné au logement, les personnes en quête d’un toit n’ont plus bénéficié d’un accompagnement aussi personnalisé et respectueux. Elles étaient au contraire réduites à un simple numéro et, dans la plupart des cas, renvoyées à la rue.»
Cette histoire rappelle qu’il est très difficile de parvenir à une collaboration efficace entre humains et algorithmes. « On s’attend à ce que la combinaison de l’humain et des algorithmes permette de tirer le meilleur parti des deux mondes : la précision et la cohérence des algorithmes d’une part, l’expertise et le discernement des humains d’autre part. En pratique, toutefois, cette fusion idéale ne se concrétise que rarement.»
L’un des problèmes majeurs réside dans l’incapacité des humains à évaluer correctement la qualité des conseils fournis par les algorithmes ; même les experts peinent à distinguer les bonnes recommandations des mauvaises. Souvent, les décideurs humains accordent une confiance excessive à l’algorithme, ce qui les conduit à suivre des recommandations erronées ou biaisées. Ainsi, lorsque la police de Londres a testé un système de reconnaissance faciale en temps réel, les agents ont « largement surestimé la fiabilité du système », rapportait une analyse de l’AI Now institute. Alors que l’algorithme ne fournissait une réponse correcte que dans 19 % des cas, les agents ont approuvé 62 % de ses recommandations.
Pour relever le défi de la collaboration, les data scientists ont complété les recommandations d’explications permettant de décrire les raisons pour lesquelles l’algorithme aboutit à sa conclusion. C’est le champ de ce qu’on appelle l’IA explicable (XAI). Malgré l’engouement, force est de constater que ces explications n’améliorent généralement pas la collaboration entre humains et algorithmes. Dans de nombreux cas, les explications conduisent même à de moins bons résultats. Ce problème découle à nouveau de la prédominance du formalisme algorithmique. Si le domaine a défini ce qui caractérise une bonne explication en terme mathématique et a mis au point des outils d’explicabilité, les complexités sociales inhérentes aux collaborations entre humains et algorithmes ont du mal à être saisies par le biais d’abstractions et de métriques. A nouveau, pour Green, il est nécessaire de dépasser le formalisme pour dépasser cette limite. « Ce qui caractérise un algorithme utile, ce n’est pas sa précision maximale ni ses explications techniquement optimales. Ce qui caractérise un algorithme utile, c’est sa capacité à aider les utilisateurs à prendre de meilleures décisions.» Cela semble tautologique, mais observer si cet objectif est atteint ne s’observe pas sur la base de purs formalismes.
Dans l’approche formaliste, les spécialistes de data science insistent sur l’importance de maintenir un humain dans la boucle de décision. C’est au final toujours lui qui doit pouvoir décider, valider la recommandation du calcul. C’est un moyen censé prémunir des erreurs et des biais. De même, pour dépasser l’opacité intrinsèque aux calculs complexes, les data scientists privilégient des explications elles-mêmes automatisées. L’explicabilité est devenu le principe central et moteur de l’équité. Pourtant, cette explicabilité peine à produire des résultats et reste bien souvent très pauvre, incomplète… (absolument pas « projective », comme je le proposais moi-même). « Aider les utilisateurs à comprendre le fonctionnement d’un algorithme est très différent de les aider à utiliser ses conseils pour améliorer leurs décisions. Les convictions des data scientists quant à la qualité des explications ne correspondent donc pas à la pratique. »En fait, les explications ont pour effet involontaire d’accroître la confiance des utilisateurs envers les algorithmes, indépendamment de la qualité de ces derniers… et les incite à accepter plus facilement des conseils algorithmiques erronés.
Pour Green, à nouveau, il faut passer d’une approche formaliste en la matière à une approche réaliste. C’est-à-dire s’adapter à la manière dont les gens interprètent et utilisent les résultats des systèmes pour prendre des décisions, et pas seulement en faire des outils de décisions pour les gens.Ils doivent venir aider les gens à améliorer leurs décisions plutôt que de les prendre à leur place.Pour cela, ce n’est pas l’humain qu’il faut placer dans la boucle comme le proposent les conseils éthiques, mais l’algorithme, défend Green. En plaçant l’humain dans la boucle, on l’a vu avec la chaîne d’élimination automatisée des systèmes d’IA pour faire la guerre, trop souvent, on ne propose qu’une validation humaine de décisions algorithmiques trop complexes, une pantomime de contrôle. « À l’inverse, l’approche par un algorithme intégré au processus humain reconnaît que les algorithmes sont introduits au sein de processus décisionnels humains préexistants. Ici, ce sont les personnes qui prennent les décisions. Les algorithmes viennent compléter l’analyse de la personne en lui fournissant des éléments pour l’aider à évaluer la situation. Ce qui importe en fin de compte, c’est ce processus de décision humain, et non la capacité de l’algorithme à prendre seul de bonnes décisions ou celle de l’humain à superviser l’algorithme. Un système à algorithme intégré au processus humain, un « algorithme dans la boucle » est tout outil automatisé qui fournit des conseils aux personnes dans le but d’améliorer la prise de décision.»
Confrontés à des décisions à prendre, les humains doivent concilier des objectifs contradictoires. Lorsque les inspecteurs sanitaires choisissent les restaurants à contrôler par exemple, ils doivent concilier la priorité donnée aux établissements présentant les risques les plus élevés et la nécessité de répartir équitablement les inspections entre les différents quartiers. La manière dont ces acteurs pondèrent ces considérations concurrentes influence considérablement leurs décisions.
« L’existence de ces arbitrages implique que les décideurs disposent d’une marge d’appréciation pour déterminer l’issue la plus appropriée dans chaque cas. Bien qu’elle puisse susciter des inquiétudes quant aux risques de partialité ou d’incohérence, cette marge d’appréciation est un élément essentiel d’une prise de décision de qualité. Au quotidien, les bureaucrates de terrain sont confrontés à des situations ambiguës, incertaines et imprévisibles. Supprimer cette marge d’appréciation reviendrait à imposer une logique rigide et formelle à ces situations, empêchant ainsi les agents d’adapter leurs décisions à des cas complexes ou inédits.
Par ailleurs, imposer aux décideurs le respect de règles prescriptives violerait le principe normatif selon lequel les décisions doivent tenir compte de la situation et des besoins des individus. La marge d’appréciation est donc souhaitable, tant sur le plan pratique que normatif : elle permet aux décideurs de trouver un juste équilibre entre des valeurs et des objectifs contradictoires, en fonction des circonstances particulières.
Pour exercer leur pouvoir discrétionnaire de manière réfléchie et bénéfique pour la société, les décideurs doivent faire preuve d’un sens de la responsabilité morale quant à leurs choix. Craignant que cette marge d’appréciation ne favorise de mauvaises décisions ou des abus de pouvoir, les autorités imposent souvent des contraintes strictes aux actions des bureaucrates de terrain. Ces stratégies de contrôle et de conformité permettent généralement de prévenir les dérives les plus graves liées à l’exercice de ce pouvoir. Toutefois, leur efficacité est limitée – un contrôle précis s’avère très difficile dans ces contextes – et il a pour effet de démotiver les agents. Une stratégie bien plus efficace pour améliorer la prise de décision des agents publics consiste à responsabiliser les travailleurs et à leur accorder l’autonomie nécessaire pour exercer leur jugement de manière optimale », comme l’ont souligné bien des chercheurs tels que Michael Lipsky, Street-Level Bureaucracy: Dilemmas of the Individual in Public Services (Russell Sage Foundation, 1980), Bernardo Zacka, When the State Meets the Street: Public Service and Moral Agency (Harvard University Press, 2017) ou Dan Honig, Mission Driven Bureaucrats: Empowering People to Help Government Do Better (Oxford University Press, 2024). Le but d’un algorithme ne peut se réduire à améliorer sa précision (pour autant qu’il le permette réellement, comme le soulignaient les chercheurs Arvind Narayanan et Sayash Kapoor dans leur livre, AI Snake Oil (Princeton University Press, 2024) et en pointant le fait que nombre de calculs n’améliorent que très marginalement leur résultats), mais doit prendre en compte nombre d’autres enjeux. Par exemple, un algorithme ne devrait pas chercher à « améliorer la précision des prédictions concernant la vulnérabilité des personnes sans-abri. »« À l’inverse, un projet intégrant des algorithmes dans la boucle décisionnelle déplacerait l’attention des prédictions vers les résultats concrets : « réduire le nombre de personnes vivant sans abri ou logement stable. » Par ailleurs, il conviendrait de prendre en compte les répercussions sur les travailleurs sociaux et sur les personnes sollicitant une aide au logement. Des objectifs connexes pourraient inclure : « améliorer le moral et le sentiment d’accomplissement des travailleurs sociaux » et « augmenter la proportion de personnes sans-abri estimant être traitées avec respect par l’organisme. » La nature multidimensionnelle de ces objectifs implique qu’il n’existera pas d’indicateur unique permettant de déterminer si le projet est une réussite.» D’une certaine manière, pourrait-on dire à la suite de Green, un système qui ne vise qu’à réduire le réel à une seule question sans ambiguïté, part d’une bien mauvaise analyse du réel et fournira par avance une mauvaise réponse.
Pour améliorer la décision, estime Green, il n’est pas toujours nécessaire d’amener des informations nouvelles à ceux chargés de décisions, mais de comprendre ce qu’ils priorisent déjà. Les travailleurs sociaux chargés de la protection de l’enfance dans le comté d’Allegheny, en Pennsylvanie, privilégient la sécurité immédiate des enfants, tandis que l’algorithme dont ils reçoivent les conseils (l’Allegheny Family Screening Tool, qu’avait étudié Virginia Eubanks) prédit la sécurité des enfants sur une période de deux ans. Cette différence explique pourquoi les travailleurs sociaux ont tendance à ignorer les suggestions de l’algorithme. Nombre de professionnels hésitent à suivre les conseils algorithmiques pour des décisions à forts enjeux, estimant que ces modèles négligent la dimension humaine et la situation particulière des individus. Enfin, pour être exploitables, les enseignements tirés d’un algorithme doivent s’inscrire dans les pratiques quotidiennes et les flux d’information de l’organisation. Dans le domaine médical, par exemple, l’élaboration d’un plan de traitement pour un patient comporte de nombreux aspects allant au-delà de la simple prescription de médicaments. Les médecins doivent prendre des décisions telles que la fréquence des consultations de suivi et l’éventuelle intervention d’autres professionnels de santé (par exemple, des kinésithérapeutes ou des thérapeutes comportementaux). Ainsi, les médecins indiquent qu’ils préféreraient recevoir des recommandations algorithmiques liées à ces étapes organisationnelles, plutôt que de simples indications sur le médicament à prescrire. Ils souhaitent également que ces conseils facilitent les échanges avec les patients et les collègues, car ils élaborent souvent les plans de traitement en collaboration avec ces différents acteurs.
Le développement d’un algorithme destiné à soutenir les conseillers d’une agence municipale de placement au Danemark met en lumière les avantages d’une collaboration étroite avec les décideurs et d’une ouverture d’esprit quant à la nature de la contribution à apporter. Dans ce cas précis, des spécialistes des données collaboraient avec des conseillers chargés d’aider les chômeurs à développer leurs compétences et à trouver un nouvel emploi. Au début du projet, les spécialistes des données prévoyaient de concevoir un algorithme capable de prédire quels demandeurs d’emploi présentaient le risque le plus élevé de chômage de longue durée. Il s’agissait là d’une approche classique en science des données, axée sur la prédiction de résultats individuels. Toutefois, les conseillers ont fait valoir qu’un tel outil entrerait en conflit avec leur éthique professionnelle. Pour eux, il est essentiel de croire en chaque chômeur et de l’aider à obtenir le meilleur résultat possible. Plutôt que des prédictions sur les comportements individuels, les conseillers ont demandé des prédictions concernant les processus organisationnels. Ils ont expliqué que l’un des principaux obstacles rencontrés par les usagers était la lenteur de l’avancement de leur dossier. Par exemple, des délais importants surviennent souvent lorsque l’agence doit rassembler les documents requis. Ces délais peuvent amener les demandeurs d’emploi à perdre confiance en eux et dans le processus d’accompagnement. Les spécialistes des données n’avaient jamais envisagé ce problème : ils supposaient que les dossiers étaient toujours traités rapidement. Or, les conseillers connaissaient bien ces délais longs et imprévisibles, qui constituaient un défi majeur dans leur travail. Pour y remédier, ils ont demandé un algorithme capable de prédire le temps d’attente estimé pour chaque personne. Cette information leur permettrait de préparer les demandeurs d’emploi au délai prévu et de les maintenir engagés dans des programmes tels que des thérapies ou des formations professionnelles durant cette période d’attente.
Cet exemple danois démontre que la contribution de la science des données qui semble la plus évidente n’est pas toujours la plus utile et l’importance à saisir les besoins de terrain.
Tout cela nécessite une immersion totale avec le terrain, explique Green. Il faut comprendre comment les agents interprètent les informations, si certains éléments leur semblent confus… Mais surtout, pour Green, cela suppose de dépasser la seule explication. Par exemple en proposant des exemples similaires pour les inviter à mettre leur décision en perspective ou en les invitant à réfléchir par eux-même à une décision avant de recevoir les recommandations des systèmes. « L’idée sous-jacente est que si les individus réfléchissent de manière autonome à une décision, ils l’analyseront plus en profondeur et seront mieux à même d’évaluer les recommandations de l’algorithme.Plusieurs étudesont montré que les fonctions de « contrainte cognitive » conduisent à des prédictions humaines plus précises que les scénarios où les utilisateurs ont un accès immédiat aux recommandations algorithmiques. »
Une autre manière de faire consiste à guider le raisonnement sans recommander de décisions. Une autre manière encore consiste à proposer un éventail de choix par exemple en les rendant interactifs, permettant aux utilisateurs d’évaluer les conséquences des choix qu’ils ont à faire. « En encourageant une implication active – plutôt que passive – dans les systèmes intégrant l’humain dans la boucle algorithmique, l’interactivité aiderait les professionnels à préserver leur sens de la mission et leur autonomie lors de l’utilisation d’algorithmes, évitant ainsi de réduire leur pouvoir discrétionnaire à une simple formalité administrative.»
L’interactivité permet de conjuguer les capacités prédictives d’un algorithme aux connaissances spécifiques et contextuelles et à la démarche d’investigation du décideur. Ainsi, plutôt que de faire des recommandations de prescriptions pour traiter la dépression par exemple, les médecins devraient pouvoir adapter les systèmes aux situations individuelles.
Dans son manuel, Green soutient que la clé réside dans une interaction profonde des data scientist avec les usagers et ceux qui déploient des outils. Leur intervention ne peut être ponctuelle, plaide-t-il, elle doit s’inscrire profondément dans les pratiques réelles. Il invite également à se défaire du solutionnisme pour produire des systèmes qui élargissent les choix plutôt qu’ils ne réduisent, comme il le disait déjà il y a quelques années. A observer ce que les praticiens en pensent, comment ils réagissent aux systèmes et pas seulement à les déployer voire à les imposer, au risque de leurs échecs. Le développement algorithmique ne peut pas se faire à l’encontre des missions que remplissent les gens. « Les défaillances persistantes des collaborations entre humains et algorithmes sapent la théorie du changement qui sous-tend de nombreux projets de science des données, laquelle vise à obtenir de meilleurs résultats sociaux en améliorant la prise de décision.»
Green termine son livre en prévenant les data scientists de se défier de l’IA générative. L’IA générative accélère et prolonge la logique du formalisme algorithmique. Le risque est de les considérer comme des outils polyvalents, susceptibles d’être appliqués à grande échelle, négligeant toutes les spécificités contextuelles qu’il met en avant dans son manuel.
« Si la science des données continue à suivre le formalisme algorithmique, le domaine produira des outils de plus en plus puissants sur le plan technique, mais souvent inutiles, voire nuisibles sur le plan sociétal. » Face à l’automatisation qui risque de rendre le scientifique des données obsolète, il est nécessaire de réarmer ses capacités. C’est ce que ce manuel propose. « Le réalisme algorithmique offre une piste pour permettre aux data scientists de se distinguer dans un monde où de nombreux aspects techniques de la science des données ont été automatisés.En concevant les algorithmes comme des outils opérationnels plutôt que comme des modèles mathématiques, le réalisme algorithmique redéfinit l’expertise qui caractérise un data scientist efficace.»
Pour l’instant, et cela risque d’être pire à mesure que l’IA se répand partout, « la plupart des data scientists sont formés et employés dans des environnements qui n’encouragent pas – et souvent découragent – le réalisme algorithmique. » De l’enseignement à la recherche, le domaine, pour ne pas disparaître sous les applications produites par l’IA, a besoin de s’ouvrir aux enjeux sociaux et aux applications concrètes, plaide Green. Or, « on continue d’enseigner aux étudiants des sciences de l’information que les dimensions sociales et éthiques des algorithmes sortent du cadre », comme l’expliquait l’ingénieur Jimmy Wu. Pour remédier à cela, il faut reconnecter l’éthique à la pratique. Nous devons sortir des façons dont on enseigne l’éthique dans les écoles d’ingénieurs que ce soit par leur mise en œuvre mathématique et formaliste comme par le biais de dissertations morales déconnectées des enjeux applicatifs. « Il ne s’agit pas d’enseigner l’éthique de manière abstraite aux étudiants en science des données, mais de leur transmettre les orientations et les compétences favorisant une pratique éthique de la discipline ». Il recommande également d’avoir plus de cours cliniques, c’est-à-dire de faire travailler les étudiants sur des projets réels. Et d’aider les étudiants à quitter le monde de la tech où le formalisme règne en maître ou sinon à leur apprendre à promouvoir des produits et des comportements éthiques au sein des entreprises et à faire face aux dilemmes éthiques auxquels ils sont confrontés.
*
Green ne promet pas de révolution algorithmique. Il propose à la data science de se poser des questions que bien peu se posent, de faire un pas de côté. D’arrêter de croire que le calcul est la solution quand, bien souvent, il est le problème qui ne voit pas ses effets.
Hubert Guillaud
La couverture du livre de Ben Green, Algorithmic Realism.
arXiv, an open-access repository where researchers publish preprint academic research, has announced it will rate limit submissions because it has been inundated with AI-written papers. A researcher can now only send in two pieces per calendar month and have a total of three active submissions at any given time. In a blog post about the change, arXiv said AI has made it too easy to spam the publisher’s inbox and its volunteer moderation team is overwhelmed.
“The heart of arXiv’s process for detecting and rejecting low-quality papers is our many volunteer moderators,” Thomas Dietterich, an Oregon State University professor emeritus and the chair of arXiv’s editorial advisory council said in a statement. “We are so grateful that they donate their time and expertise every day. However, a relatively small proportion of authors are submitting a large number of low-quality papers and consuming a disproportionate fraction of the moderators’ time. This is unfair to authors who continue to submit quality papers — their papers can be delayed for days or weeks as a result.”
According to arXiv, it received 9,869 submissions in September 2016, 20,569 submissions in September 2024, and 40,363 submissions in September 2026. Submissions on the site have doubled in the last two years and have sextupled in the computer science category.
AI is driving this surge in multiple ways. Researchers are using LLM to parse massive data sets, write code, and design portions of experiments; some are also using AI to write the papers. “arXiv policy permits authors to employ AI as a tool in support of their research as long as it is disclosed and the research meets arXiv’s standards of scholarly interest and advances the field of research,” arXiv said in its rate limiting blog. “However, many of the submissions that arXiv is now receiving do not satisfy these requirements.”
arXiv said it’s seen an increase in “thin papers of narrow scope” as well as salami papers — where researchers write multiple articles based on one study. “There is also a marked increase in dense, AI-written papers. AI tools are making it easy for authors to flood arXiv and other repositories with these low-value papers,” it said.
Rate limiting was already part of arXiv’s policy, but it was originally left to each individual moderator’s discretion. “This policy update strives to fairly distribute the incredibly valuable work of our volunteer moderators who check that submissions meet these standards,” the publisher said.
This new policy is another part of a long battle the publication is having with AI-powered slop and spam. A little less than a year ago, the archive stopped accepting review articles and position papers in the computer science category and cited low effort LLM-written articles as the reason. In January it started requiring new authors to receive an endorsement from an existing author in the system. Previously the publisher accepted an academic email address as the sole qualifier. In May, arXiv took things a step farther and said it would ban researchers who submitted AI slop from the site for a year.
In the immediate weeks before Muse’s launch, Meta engineers found several security vulnerabilities in the company’s viral AI agent product, at least one of which could have allowed malicious users to break outside of Muse’s intended environment and access Meta’s own sensitive databases and services, 404 Media has learned. The issues were so severe that they reached Mark Zuckerberg and staff worked overtime to fix them.
These specific vulnerabilities were discovered before the launch of the product but required a multi-team “mad dash” to fix “a sudden spike in reported KVM escapes,” according to an internal post by Meta executives to its core infrastructure team seen by 404 Media. In order for Muse to work, a user gives the AI agent access to various important services and accounts that they own. On Meta’s end, each individual Muse instance runs on a kernel-based virtual machine, which connects to, but is supposed to be isolated from, Meta’s own critical infrastructure. A “KVM escape,” then, is when, through a security vulnerability, a Muse instance is able to escape from that virtual machine and interact with the system that runs it, or with other users’ virtual machines.
💡
Do you know anything else about Muse's security? I would love to hear from you. Using a non-work device, you can message me securely on Signal at jason.404. Otherwise, send me an email at jason@404media.co.
According to a Meta source, as well as internal security documentation and internal posts viewed by 404 Media, at least one of the vulnerabilities could have allowed an outside attacker — that is, a normal Muse user — to access data in sensitive internal Meta databases. . At least one of the vulnerabilities was related to an exploit found in Linux kernel-based virtual machine code in July. 404 Media granted the Meta source anonymity to speak about sensitive security matters.
Several of the vulnerabilities were in the underlying Linux virtualization software that Meta uses for Muse. The security issue was considered serious enough that it was raised to Mark Zuckerberg, and several different security teams worked nights and weekends in the leadup to launch to fix the issues. This type of security push is not necessarily unusual prior to the launch of a major product, but is notable considering outside researchers have found several other security issues since Muse’s launch, and in the broader context of agentic AIs from OpenAI and other companies going on major hacking sprees.
The Meta source said they felt security teams were asked to push hot fixes to these bugs as quickly as possible and in a way that wouldn’t delay Muse’s launch, leading to what they described as “half-baked protections being rushed out to enable the launch. Many senior engineers believe it’s inevitable we’re going to have a massive data breach as a result of Hatch.” Muse is called “Hatch” internally and in Meta’s codebase.
This security push was acknowledged in an internal post made by Meta’s vice president of core infrastructure Surupa Biswas, vice president of engineering Francois Richard, and senior director of engineering Josh Barry to the company’s core infrastructure team on September 18, 10 days following Muse’s launch.
“With Muse, we are directly hosting and running agents on behalf of end users, a fundamentally different paradigm,” the post said. “A sudden spike in reported KVM escapes, plus heightened awareness of agentic safety issues made us rally on a service hardening push.”
The post noted this push started on August 27 and lasted a “handful of weeks and weekends,” though Muse was released just 11 days later. The post says that the work involved taking steps to “reduce the surface area accessible to Hatch agents.” The teams also took steps to “constrain port/IP destinations Hatch and VMVM hosts can reach.”
A virtual machine escape of Muse is a potentially very serious security issue, and is classified as such in Meta’s bug bounty program. The company says it is willing to pay $300,000 to any security researcher who finds a bug that would allow for a VM escape, the highest payout it lists on its bug bounty website.
“Muse, an AI product from Meta, lets people create their own personalized AI agent — their Muse. Each Muse agent runs in a dedicated per-user virtual machine and connects to that user's own services: email, calendar, messaging, browsing, and third-party accounts. Because a Muse agent holds a user’s most sensitive data and can act on their behalf, we treat compromise of that boundary as a first-class security risk,” the company explains on the bug bounty page. The highest level of risk is “Compromise of Meta production and users beyond Muse” with a VM escape, which it describes as “reaching Meta production services or internal networks from Muse.” This is what at least one of the vulnerabilities could have been capable of, according to the Meta source.
In a statement to 404 Media, a Meta spokesperson said, “Muse is the first personal AI agent built for everyone and we’re proud of the work we’ve done to make it safe, secure and private, with built-in protections and user controls that put people in charge of how they use it. We’ve strengthened Muse through extensive dogfooding, agentic red teaming and our bug bounty program — and that work continues."
Muse’s rollout has been uneven thus far. The agent has proven popular, or at least buzzy, for being able to do things like cancel subscriptions, make restaurant reservations, and book travel. But security researcher Patrick Wardle found a zero-day in Muse — a vulnerability that, to his knowledge, the company was not aware of at the time — that allowed apps and terminal commands to control a user’s Muse. Another Muse user was able to get Muse to export his Instagram followers, as well as his followers’ followers, something that shouldn’t be possible and which Meta’s security teams investigated, according to the Meta source.
“This issue is that Hatch makes the virtualization boundary a production security boundary,” Wardle told 404 Media of a potential Muse KVM escape. “We have users with root privileges inside a VM that is itself placed within Meta's production environment and given (by design) limited access to internal services. A single failure in KVM (or even a vulnerability or misconfiguration in an internally reachable service) can therefore turn arbitrary user code into production access. I feel like this design is inherently risky, particularly risky as AI lowers the cost of finding, analyzing, and exploiting exactly these kinds of complex virtualization vulnerabilities.”
“I know everything is always a tradeoff between usability and security, but this is why in top security environments, systems are air-gapped, as its always assumed that connected systems can be exploited,” he added. “Of course, there's no expectation to Meta to go that far, but having access to production environment literally one KVM escape away, is plain irresponsible.”
« Le prompt n’est qu’une série de jetons supplémentaires noyés dans la même soupe probabiliste que le reste. Il n’existe aucun canal privilégié, aucun mode noyau ni aucune couche de contrôle s’interposant entre vos règles et le jeton suivant pour garantir l’alignement. On ne peut pas renforcer une distribution de probabilités en y ajoutant simplement du texte. Si la sécurité repose uniquement sur le fait que le modèle a « lu » les règles, vous vous assurez simplement d’une chose : le jour où il supprimera l’environnement de production, vous recevrez un rapport post-mortem très soigné, dans lequel le modèle listera méticuleusement toutes les « règles » qu’il a enfreintes en chemin. »
Welcome back to the Abstract! These are the studies this week that searched for the ur-animals, wandered the poles, rained on Mars, and destroyed the solar system.
First, scientists present new evidence that the first animals appeared more than 800 million years ago, a truly ancient origin that suggests our metazoan ancestors survived a period known as Snowball Earth, when our planet is thought to have been nearly completely frozen. Then: Earth’s poles won’t sit still, the sepulchral stuff of life, and a dramatically shortened lifespan for our solar neighborhood.
When did the first animals emerge on Earth? It’s a question that has provoked centuries of scholarly debate, and also inspired some wonderful answers in myth and legend (I’m partial to the Bible’s tidy solution: day six checklist).
The earliest animals that are clearly preserved in the fossil record lived during the Ediacara period some 574 million years ago, but the origins of our diverse metazoan family are likely much older. Now, scientists suggest that animals may have appeared on Earth a whopping 800 million years ago, during the ancient Tonian era, according to a new estimate of the dawn of animals.
“The timing of the origin of animals on Earth has puzzled scientists for centuries,” said researchers led by Orin Lole Durbin who was at the University of Oxford during this research and is now at Virginia Tech. “Unambiguous animal body fossils within the Ediacara Macrobiota provide a hard minimum calibration of 574 [million years] for crown Metazoa. Animals must have evolved before this date. Determining a maximum calibration for animals (a date at which they had not yet evolved) is a more complex task.”
Estimated timeline for the origin of animals based on molecular clock analyses. The grey bar on the right of the image is the origin of animals based on an Ediacaran upper calibration. The grey bar to the left is the origin based on older deposits in the Tonian period, as suggested by the new study. Image: Orin Lole Durbin.
The team turned to molecular clock analysis, a technique that uses the rate of genetic mutations in lineages as a rough way to reconstruct evolutionary timelines. The researchers focused on two fossil deposits—China’s Weng'an Biota and Mongolia’s Kheseen Biota, which date back 590 and 550 million years respectively—to extend the possible timeline of animals back more than 200 million years earlier.
If animals really did appear in the Tonian era, it means that our earliest metazoan ancestors survived episodes of so-called “Snowball Earth,” when our planet was almost fully covered in ice. These early critters were likely simple marine sponges and comb jellies that lived for hundreds of millions of years until their descendents exploded into the kaleidoscopic variety of animals that persist to this day.
“The possibility of a pre-Ediacaran origin and diversification of animals means we cannot discount hypotheses that link the timing of animal diversification to Cryogenian Snowball Earth glaciations,” according to the study. “The causes and trajectory of animal evolution will remain uncertain until paleontological and geochemical data provide sufficient confidence in maximum calibrations to ensure a reliable timescale.”
Earth is a roiling mess of shifting continents and squishy innards, a situation that constantly throws its spin axis off balance and prompts the geographic poles to drift. This phenomenon, known as true polar wander (TPW), is distinct from Earth’s wandering magnetic poles, which are shaped by interior core-mantle processes.
Right now, TPW is clocked at a slow rate of 10 centimeters per year, but scientists have found evidence of “fast” episodes of TPW that pushed the poles off by thousands of miles over millions of years, which has knock-on effects for ocean and land distribution across the globe.
A team has now pinpointed several of these fast episodes over the past 320 million years, “confirming that protracted rapid TPW has occurred on Earth and that couplings among Earth’s rotational dynamics, mantle processes, and surface environments can be strongly episodic,” according to their study.
“These findings refute the view of TPW as negligible or persistently slow and highlight the need to consider TPW as an episodic control on sea level change and likely other global environmental and biological dynamics,” said researchers led by Mathew Domeier of the University of Oslo.
In addition to these long-term natural changes, recent human activity has slightly impacted TPW, especially the construction of dams and the glacial melt of anthropogenic climate change. So the next time you address a letter to Santa at the North Pole for your kid—or yourself, no judgement—make sure you have the most up-to-date coordinates.
Formaldehyde, the toxic chemical, has a bit of a morbid reputation—exposure to it can be fatal and it’s a common ingredient used to embalm corpses. But, paradoxically, formaldehyde (H2CO) also helped pave the way for the emergence of life on Earth as a precursor of bioessential elements such as sugars, amino acids, and nucleobases.
If life ever flourished on Mars, formaldehyde would likely also have been part of the story. To map out the possible distribution of the chemical on ancient Mars, scientists ran models of its atmosphere between 3.6 and 3.8 billion years ago, when the red planet was warmer and wetter. The results showed that formaldehyde was strongly associated with water vapor, suggesting that the chemical rained down from the ancient skies into Martian waterways.
“Significant atmospheric deposition of H2CO is observed over water bodies, including the northern ocean,” said researchers led by Shungo Koyama of Tohoku University. “We suggest that basins adjacent to persistently humid regions, which likely experienced H2CO accumulation and subsequent organic synthesis, could be potential landing sites for future missions to investigate ancient chemical evolution and whether it led to the origin of life.”
Hopefully, future missions to Mars will leave any signs of life with no place left to formalde-hide.
I hate to be the bearer of bad news, but the solar system has been diagnosed with terminal instability and has been given a mere six billion years to live.
That’s the upshot of a new study that modelled the solar system’s future as the Sun becomes a red giant star and, ultimately, collapses into a stellar husk called a white dwarf.
Though the dying Sun will consume Mercury, Venus, and perhaps even Earth, scientists have previously assumed that the giant outer planets might be relatively unscathed by its death—perhaps surviving for up to 100 billion years after the main-sequence lights go out. But updated simulations suggest that these distant objects may be thrown into fatal chaos as early as the red giant phase, and that they are unlikely to survive more than a billion years after the Sun’s transition to a white dwarf.
The future of Earth is bright, literally. Image: Celestia
“[Isaac] Newton, contemplating the drifting orbits of Jupiter and Saturn, suspected that the planetary order was mortal, and three centuries of celestial mechanics…have progressively deferred that verdict, most recently to timescales far beyond the age of the Universe,” said researchers led by Konstantin Batygin of the California Institute of Technology. “Our results return the solar system’s dissolution to astrophysically familiar territory, and relocate its cause: not the slow seep of chaos, nor the chance encounter with a passing star, but the Sun itself, which in dying does not merely enlarge the planetary system it built—it shakes it, and more often than not, spills it.”
“Newton’s envisioned instability is real after all,” the team. “He was mistaken only about the perpetrator.”
What a great story to kick off this spooky season! Planetary order is mortal, but cosmic horror is eternal.
A federal judge in Oklahoma ruled Thursday that a police officer violated the Fourth Amendment rights of a woman accused of meth trafficking when he searched her license plate in Flock’s automated license plate reader system simply because her license plate was from California, then used her travel history as part of the reason to search her car. The judge’s opinion is one of the first times a federal judge has decided Flock searches can be unconstitutional, and suggested that Flock’s network is “a type of indiscriminate mass surveillance.”
The officer’s “use of the ALPR Systems was an Unconstitutional Warrantless Search,” and “was not supported by probable cause, and it was done without a warrant in violation of [the defendant’s] Fourth Amendment rights,” the judge, Sara Hill, wrote, implying that the law enforcement officer should have obtained a warrant before searching for the vehicle in Flock’s system. There are currently more than a hundred thousand warrantless searches of the Flock system every month, according to audit logs viewed by 404 Media. Hill's decision will not set a binding precedent and there are several other cases throughout the nation considering the legality of warrantless ALPR searches.
Hill argued that previous judge opinions saying Flock searches were not a Fourth Amendment violation because they track cars in public do not consider the context that Flock’s nationwide network is quickly “approaching dragnet-type law enforcement practice,” and that courts should update their understanding of the technology moving forward.
The circumstances of the court case are really interesting and highlight how commonplace Flock searches have become for police, and the depth of the information they can reveal. In May, a Tulsa County Deputy Sheriff named Freddie Alaniz was parked along the side of the highway in Oklahoma when he saw a Mazda SUV driven by a woman named Melisa Kyle with a California license plate pass by. “Alaniz then pulled his vehicle on the highway to follow the Mazda for no apparent reason other than the fact that it had a California license plate. Alaniz also ran a query on the Flock system for the California license plate number on the Mazda SUV,” Hill wrote. Alaniz then ostensibly pulled Kyle over for changing lanes without a turn signal.
Alaniz interrogated Kyle about her travel “while he continued to review the ALPR systems for the car she was driving,” the judge wrote. Alaniz made Kyle recount everything she had done in the last several days, and compared it to the Flock data. He told her that because she was only in California for a short period of time, he suspected her of trafficking drugs. He used her travel history as seen in the Flock system as part of the justification to search her car; she was found to have 91 pounds of meth in the vehicle. Hill ruled that all Flock evidence and all evidence from Alaniz’s search of the car must be thrown out.
“The Fourth Amendment requires courts to draw a line when the cost is too great. Alaniz’s search in just the ALPR system provided him with more than 50 individual records of Kyle’s whereabouts across the country for an entire month,” Hill wrote. “The Court finds that because the ALPR systems Alaniz used to search Kyle’s historical location information intruded on her reasonable expectation of privacy in the whole of her physical movements, it was a search under the Fourth Amendment. Based on the information in the record, the only reason Alaniz conducted that search was because he saw her license plate was from California.”
“The factors that the government relies upon are the same type of circumstances that everyday Americans encounter on long road trips for many legitimate reasons. Many of us drive longer than we want to get to a desired destination, or to no destination at all other than the road and sights ahead,” she added.
The decision is a landmark one, and comes in the aftermath of the Supreme Court’s Chatrie v United States decision that found police accessing a person’s digital data, including cell phone location data, constituted a search.
“The opinion is pretty amazing. It recognizes one thing that courts ignore which is the sheer breadth of these systems, that they collect so much information about so many people in a way that sets them apart. This decision ascribes appropriate weight to the fact police are building out this massive database that can reveal incredibly intimate details of people’s lives,” Michael Soyfer, a lawyer at the Institute for Justice, which has studied Flock camera abuse and is litigating several cases on Fourth Amendment grounds, told 404 Media. “It’s extremely important. The way courts have resolved these cases previously has been way too myopic and has ignored the depths of these systems and the sweeping modes of surveillance that allow police to reconstruct the movements of anyone in the country.”
The new decision also immediately invalidates the core argument that Flock’s CEO Garrett Langley has made saying that Flock was not a constitutional issue. “You and I don’t get to pick what’s a constitutional violation and what’s not. We have judges, we have elected officials, there’s a process for that. We follow the law, we follow the Constitution. So far, in our belief and what will be for a long time, the courts have deemed this is not a warrantless search; this is a valid product as it relates to the Fourth Amendment. So I don’t see any change there,” Langley told The Drive in July, adding the issue was “pretty cut and dry.”
Notably, Hill suggested that other courts that have ruled Flock searches do not constitute a Fourth Amendment search were likely wrong to do so, and that they have not considered the widespread and automated context of the AI-powered surveillance system.
Previous decisions that ruled ALPR searches do not require a warrant have leaned on a Supreme Court case called United States v Knotts, in which police put a tracking device in a chemical container after being tipped off that an employee of a chemical plant was stealing from their employer. That case was decided in 1983 and found, “[a] person travelling in an automobile on public thoroughfares has no reasonable expectation of privacy in his movements from one place to another.” But Hill wrote, “that language exists in the context of the facts presented in the case. Rather than a large-scale, dragnet-type surveillance system like the ALPR technology in this case, the Court in Knotts was confronted with much less sophisticated technology.”
“The Court acknowledges that people, in at least a broad sense, do not have a reasonable expectation of privacy in their movements on a public roadway,” Hill wrote. “But by virtue of how ALPR technology works, Alaniz and other officers using these systems have access to a continuously updated location history for all vehicles caught on ALPR cameras within the network. This is a type of indiscriminate mass surveillance. It is not targeted on a single individual, as in Carpenter [another Supreme Court case about phone data specifically]. It is a tool that collects information about all vehicles that pass by any network-connected camera at all times, and it serves up the information to law enforcement on demand.”
We have seen several cases in which cops have used Flock data to pull people over because they have crossed state lines, then have worked backward to justify their travel patterns as a reason to search their vehicles.
“We’re seeing that repeatedly with police flagging whatever they’ll call suspicious patterns of movement. Federal agents were using ALPRs to monitor cars making day trips across the border and back to manufacture a basis to stop them, interrogate the drivers and search them,” Soyfer said. “I think Flock is going to automate that using AI where cops can set alerts for those kinds of travel patterns. When we’re arguing these systems are very powerful and can show a lot about people’s movements, cops dismiss this as speculative or not possible, but then they deploy this strategy against people who they stop all the time.”
A Flock spokesperson told 404 Media, "Flock was not a party to this case. The ruling goes against the overwhelming weight of authority in similar cases across the country, including multiple recent decisions in Oklahoma, and we expect it will be appealed and ultimately overturned. This ruling is limited to the specific facts of this case. It does not set controlling precedent and does not affect law enforcement agencies’ continued use of these important public safety technologies."
This article has been updated with comment from Flock Safety.
We start this week with Joseph’s stories on the massive FBI hack. 404 Media broke this news and continued to cover the breach of data on all FBI employees and their spouses. After the break, Jason tells us how a surveillance company is telling cops it wants to add facial recognition tech to Flock camera data. In the subscribers-only section, Jason and Joseph chat all about Muse, Meta’s new agentic AI, and how humans are actually behind some of the tasks. Because of course.
Listen to the weekly podcast on Apple Podcasts,Spotify, or YouTube. Become a paid subscriber for access to this episode's bonus content and to power our journalism. If you become a paid subscriber, check your inbox for an email from our podcast host Transistor for a link to the subscribers-only version! You can also add that subscribers feed to your podcast app of choice and never miss an episode that way. The email should also contain the subscribers-only unlisted YouTube link for the extended video version too. It will also be in the show notes in your podcast player.
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we discuss inbox slop, Claude cults, and more.
JOSEPH: This is something I’ve been thinking about for a while. Jason and Emanuel covered iLands, the AI agents that email people offering to do work. My thing isn’t exactly the same, but similar.
For months, I’ve been noticing that many people email me ‘tips’ (I put in quotation marks because they’re sometimes not tips, but more, my Instagram account was banned, please help me) that are CLEARLY written by AI. I can tell this because the AI responses seem to keep using the same or similar words that it believes would apply to journalists, or are how journalists speak, but as a real, human journalist for more than ten years, I know that journalists don’t actually speak like that.
Dans Technologie du coup d’Etat, les programmeurs de l’Apocalypse (Lux éditeur), le journaliste Thibault Prévost (qui avait déjà signé en 2024, Les prophètes de l’IA – voir notre lecture) dissèque le putsch numérique qui a eu lieu depuis le début du second mandat de Donald Trump, comme une recette, désormais disponible à qui voudra transformer à jamais d’autres régimes politiques. Pour tout comprendre au technofascisme à l’œuvre, ce qu’il transforme, il faut dévorer ce petit livre. On vous en propose l’introduction. Pour lire les pages suivantes, il faudra vous rendre jusqu’à une librairie. Vous ne le regretterez pas.
Le problème du coup d’État moderne est un problème d’ordre technique. L’insurrection est une machine […] : il faut des techniciens pour la mettre en mouvement, et seuls des techniciens peuvent l’arrêter. Curzio Malaparte, Technique du coup d’État
Six janvier 2021, Washington, D.C. Près de 30 000 personnes sont rassemblées sur la pelouse du parc de l’Ellipse, face à la Maison-Blanche. La foule est là, scande-t-elle, pour « sauver l’Amérique » – comme l’y a exhorté Donald Trump en choisissant d’appeler ce meeting « Save America ». Il est 10 heures du matin, la masse trépigne, sent que quelque chose va se jouer. Depuis la victoire de Joe Biden, annoncée tardivement le 7 novembre, Trump prétend que l’élection a été truquée et que le président légitime, c’est lui. Pour que « cesse le braquage » (« Stop the Steal », un autre slogan), il a rassemblé sa base dans la capitale. L’objectif : faire pression sur le vice-président Mike Pence et le Congrès afin qu’ils invalident la victoire de Joe Biden. C’est sa dernière chance de révoquer le scrutin.
L’atmosphère politique du pays est irrespirable. Depuis plusieurs semaines, les têtes de gondole de l’alt-right – l’animateur complotiste Alex Jones et le militant néonazi Nick Fuentes, pour ne nommer qu’eux – entretiennent le délire trumpiste d’une élection volée et galvanisent les soutiens du président sortant. Le 5 janvier, on a trouvé deux bombes devant les sièges des partis démocrate et républicain. Le matin du 6, les omniprésentes casquettes rouge pompier siglées MAGA (« Make America Great Again ») côtoient les équipements tactiques des milices d’extrême droite Proud Boys et Oath Keepers, dont les états-majors ont annoncé qu’ils viendraient armés au rassemblement, avec l’intention d’en découdre.
Quelques minutes avant midi, Trump prend la parole, protégé par une vitre pare-balles. Il multiplie les appels à se « battre » et à « marcher vers le Capitole », prévient que « si nous ne nous battons pas comme des chiens, nous n’aurons plus de pays »1. À 13 h 12, après quatre-vingt-quatre minutes de discours, la foule d’Ellipse Park scande « prenons le Capitole ». Son voeu est en train d’être exaucé : à quelques encablures de la Maison-Blanche, 200 à 300 membres des Proud Boys viennent de franchir les barrières de police qui protégeaient l’entrée ouest du siège du Congrès. L’attaque est préméditée : on apprendra plus tard qu’un document intitulé « 1776 Returns » et appelant entre autres à « prendre d’assaut le palais d’Hiver », curieuse référence à la Révolution bolchevique de 1917, avait été distribué dès le 30 décembre dans les rangs de la milice.
À 14 heures, les premiers émeutiers pénètrent dans un bâtiment presque vide. Alors que les derniers députés se retranchent sous la protection des services secrets, 2 000 à 2 500 personnes pillent l’aile nord qui abrite le Sénat et retransmettent l’émeute en direct sur les réseaux sociaux. À 17 heures, le « crime le plus filmé de l’histoire des États-Unis » a été commis. Bilan : 174 blessés dans les rangs de la police, et 5 morts.
Pour la presse états-unienne, le pays vient de vivre une « insurrection », une « émeute », un « soulèvement ». En 2023, le FBI parlera « d’acte de terrorisme intérieur ». Mais, s’il y avait une formule à retenir, ce serait celle de Steve Bannon, qui claironnait dès le 4 janvier son intention d’organiser un « coup d’État sans effusion de sang ». Double échec : le sang a coulé, et le coup d’État a échoué.
La doctrine politique de Steve Bannon, le Raspoutine du premier mandat de Trump, est fortement influencée par ses années passées dans le monde du jeu vidéo et les communautés en ligne. Cet univers repose sur un principe fondateur : politics is downstream from culture – la politique découle de la culture, et particulièrement de la culture web. Et sur une méthode simple : flood the zone with shit – saturez l’espace de contenus viraux, pour entretenir la confusion, arracher de ses gonds la fenêtre d’Overton et sidérer les gardiens habituels de l’acceptabilité politique.
En réalité, Bannon n’a pas inventé la roue. Il s’est contenté de réaffecter à l’extrême droite deux tactiques issues du marxisme – la « bataille culturelle » d’Antonio Gramsci et la « révolution permanente » de Léon Trotski. Sa seule innovation aura été de les adapter à l’ère de la mémétique, en faisant le pari que les extrémistes anonymes et organisés du forum 4chan parviendraient, à force de troller à tout vent, à imposer le régime postdémocratique qu’il appelait de ses vœux.
Mais, en 2020, le monde physique n’est pas encore contraint de refléter le monde numérique. La mascarade finale, gueularde, désordonnée et brutale du premier mandat de Trump en est la preuve. Le chaos, même entretenu, ne fait pas le poids face aux institutions du plus puissant appareil d’État occidental. On ne renverse pas le gouvernement des États-Unis avec des mèmes, un clown venu de la téléréalité et une jacquerie complotiste. À l’agitation et aux effets de manches postmodernes faisaient encore défaut un art du coup d’État. On ne perdait rien pour attendre.
✦
Vingt janvier 2025, Washington D.C.
L’investiture de Trump II s’ouvre sur un paysage politique radicalement différent de celui de 2021. Les rues, cette fois-ci, sont parfaitement calmes. Les milliardaires de la Silicon Valley, qui avaient préféré garder le silence pendant la campagne, sont venus docilement, en ligne, prêter allégeance au nouveau président. Ils ont renoncé à la stratégie de résistance performative qu’ils avaient suivie lors du premier mandat Trump et qui avait culminé, juste après l’assaut du Capitole, avec la désactivation de plusieurs comptes de réseaux sociaux du président déchu. Ayant retourné leur veste moins d’un an plus tard, les chefs du cartel de la tech, ouvertement favorables au projet autoritaire trumpiste, annoncent qu’ils mettront désormais leurs infrastructures numériques au service du nouveau régime, avec zèle et jubilation. Elon Musk, l’homme le plus riche du monde, a investi pas loin de 300 millions de dollars dans la campagne de Trump, s’achetant ainsi un poste de bras droit du président. Ce mariage incongru entre les paléolibertariens du monde MAGA et les transhumanistes mystiques de la Silicon Valley a désormais un nom : le technofascisme2.
Steve Bannon et son idéal insurrectionnel, celui d’un petit peuple radicalisé prenant les institutions par les armes, sont dès lors ringardisés. Le populisme et l’autoritarisme ont appris de leurs insuccès. Cette fois-ci, l’objectif est de changer le système de l’intérieur. Et la méthode est nettement mieux aiguisée.
Le changement de régime se fait immédiatement sentir. Dès le premier jour de son mandat, le 47e président des États-Unis signe 26 décrets présidentiels, dont certains particulièrement symboliques. Abolition du droit du sol. Fin du télétravail pour les fonctionnaires. Retrait des États-Unis de l’Accord de Paris sur le climat et de l’Organisation mondiale de la Santé. Annulation des programmes « Égalité, diversité, inclusion » (EDI) mis en place par l’administration Biden. Sursis et peines commuées pour les émeutiers du 6 janvier 20213. Création du Department of Government Efficiency, le ministère de l’Efficacité gouvernementale, en réalité une sorte de ministère de la démolition, réclamé et dirigé par Elon Musk. Son acronyme, DOGE, n’évoque que par hasard la figure de l’autocrate de la cité-État vénitienne : dans le pur style muskien, il est plutôt censé rappeler le dogecoin, une cryptomonnaie dérivée d’une photo de chien devenue un mème.
Le ton est donné : le Donald Trump ahuri de 2016 et ses bouffons d’extrême droite ont cédé la place à une machine de guerre qui a eu quatre ans pour se préparer à prendre, exercer, et surtout garder le pouvoir. Dans les cercles MAGA, on parle désormais ouvertement de la théorie de l’exécutif unitaire – un fantasme autoritaire et soi-disant antibureaucratique de l’ère Reagan qui s’inspire d’une interprétation maximaliste de l’article 2 de la Constitution pour prétendre que le pouvoir exécutif peut être exercé intégralement et exclusivement par le chef de l’État. Ce pouvoir présidentiel serait ainsi hors de portée de l’« État administratif » honni par le parti Républicain, et très au-dessus du pouvoir législatif. Pour son second mandat, Trump, on le sait maintenant, a adopté d’emblée ce mode opératoire : en janvier 2026, après un an de règne jour pour jour, il avait signé 229 décrets exécutifs – soit 9 de plus que durant les quatre années qu’a duré son premier mandat4.
Pour Trump et sa nouvelle équipe, hors de question de répéter les erreurs du précédent mandat. Il s’agit, en premier lieu, de ne pas laisser la machinerie fédérale et ses plus de deux millions de fonctionnaires les freiner5. Cette fois-ci, il y a un plan. Son nom : Project 2025, une « Mag(n)a carta » contre-révolutionnaire mitonnée par les cerveaux néoconservateurs du lobby Heritage Foundation, un organe « ouvertement autoritariste6 », selon la spécialiste du fascisme Ruth Ben-Ghiat. Son président, Kevin Roberts, considère que le premier mandat de Trump, « malgré de bonnes intentions, a démarré trop lentement, tout simplement7 ». Le document principal du Project 2025, Mandate for Leadership, explique en plus de 900 pages et 320 objectifs comment « démanteler l’État administratif » pour ensuite « décentraliser et privatiser autant que possible »8 ses fonctions, avant d’utiliser les agences restantes pour institutionnaliser le trumpisme.
L’un de ses leviers les plus médiatisés et critiqués est la classification professionnelle Schedule F, mise en place par Trump en 2020, immédiatement annulée par Joe Biden en 2021 puis réinstaurée dès les premiers jours du mandat Trump II. Elle permet de remplacer jusqu’à 50 000 fonctionnaires de carrière par une armée de bureaucrates-activistes loyaux au régime, formés à la guerre contre le deep state (l’État profond) dans une « académie » de Heritage Foundation9. Selon des documents internes révélés fin novembre 2025 par le collectif de lanceurs d’alerte DDoSecrets, près de 13 000 candidats avaient suivi la formation10 pour s’enrôler comme fantassins d’un véritable putsch administratif. La consigne est claire : frapper vite, fort, partout à la fois, from day one, et faire passer un maximum de réformes durant la lune de miel des cent premiers jours.
Message reçu. Les premiers mois du nouveau régime ont fait l’effet d’une effroyable tempête. Chaque jour, pendant que Trump multipliait les décrets et les appels à la haine, de nouvelles agences fédérales étaient pillées par Musk et ses « gardes rouges » du DOGE. D’entières bases de données ont été mises à sac, les employés limogés en masse. La vitesse et l’ampleur de la destruction étaient sidérantes. Un an après le début de l’exercice, 50 % des objectifs du Project 2025 ont été atteints11. Aux yeux des observateurs internationaux, les États-Unis ne sont plus une démocratie fonctionnelle12.
La presse états-unienne, désorientée, utilise le langage de Wall Street pour décrire une « OPA hostile »13 du pays par le duo Trump/Musk. D’autres, plus malicieux, parlent d’un « désassemblage rapide et imprévu14 » de l’État fédéral – reprenant l’euphémisme utilisé par SpaceX, l’entreprise aérospatiale de Musk, lorsqu’une fusée explose en vol.
Un an pile après le retour de Donald Trump au Bureauovale, tout est en ruines – y compris la Maison-Blanche, dont l’aile est a été rasée en octobre 2025 pour être remplacée par une monstrueuse salle de bal dorée à 400 millions de dollars, largement financée par l’industrie de la tech et des cryptomonnaies. Une allégorie architecturale du nouveau régime : brutal, oligarchique, grotesque, mégalomane15.
✦
« L’histoire enseigne, a dit Antonio Gramsci, mais elle n’a pas d’élèves. »
Ce que nous prenons pour un phénomène inédit – la désintégration programmée de l’administration fédérale des États-Unis par son propre gouvernement et l’installation d’un nouveau type de régime autoritaire à partir d’une élection démocratique – n’est peut-être en réalité que la réitération d’un événement historique pas si lointain. Pour comprendre le présent, il est souvent nécessaire de regarder par-dessus son épaule. Dans ce cas-ci, on gagne à se pencher sur un court et brillant essai de Curzio Malaparte, publié en France en 1931 et intitulé Technique du coup d’État. Preuve de sa justesse, le livre sera honni par trois de ses protagonistes : censuré par Hitler et brûlé en place publique dans l’Allemagne nazie, condamné par Trotski et banni en URSS, il vaudra aussi à Malaparte d’être confiné sur l’île de Lipari par Mussolini. Qu’a bien pu faire l’intellectuel italien pour mériter un tel traitement ? Rien de moins que de révéler, à travers l’analyse de huit coups d’État modernes, ce que l’on pourrait appeler aujourd’hui le code source du pouvoir au xxe siècle – et, par extension, la méthode pour renverser les dictateurs de l’époque.
La bonne vieille insurrection armée qui prenait d’assaut les écrins traditionnels du pouvoir (palais présidentiel, parlement, palais de justice) et s’appuyait sur la puissance d’une foule galvanisée est déjà désuète en 1931. Cette tactique, écrit Malaparte, « ôte tout caractère révolutionnaire aux séditions militaires. La police défend l’État comme si c’était une ville ; les militaires attaquent l’État comme si c’était une forteresse16 ». Il s’agit d’un type de soulèvement largement performatif et violent, et surtout, qui s’adapte mal à la réalité du pouvoir dans les sociétés industrielles.
De la même façon, les images comme celles de « QAnon Shaman » dans la salle du Congrès, torse nu, avec sa coiffe de fourrure surmontée de cornes de bison, et son visage bariolé d’un drapeau des États-Unis, peinent à dépasser le saugrenu parce qu’elles montrent un assaut du symbolique. Le 6 janvier 2021, tout n’était que spectacle, mais c’était une performance. « Il s’agissait avant tout de faire acte de présence et de se faire remarquer. […] Les véritables trophées de la journée furent les selfies », résume le professeur d’histoire Nicolas Guilhot17. Les victimes de cette attaque, en revanche, étaient bien réelles.
Ce jour-là, Trump n’a été qu’un Lénine de bas étage sans son Trotski. On peut imaginer qu’il ait voulu être « le stratège, l’idéologue, l’animateur, le deus ex machina de la révolution »18, comme l’écrit Malaparte au sujet de Lénine, mais il lui manquait un véritable « créateur de la technique du coup d’État bolchevique ».
Dans les sociétés modernes, imposer un régime et le maintenir, nous dit Malaparte, n’est pas une affaire de circonstances ou d’agitation idéologique. C’est une affaire de méthode. Il faut trouver les moyens appropriés aux conditions du moment. Ainsi, la tactique du 18 Brumaire, le putsch mené par Napoléon Bonaparte, n’est pas celle d’une sédition militaire. Le futur empereur apporte un élément nouveau : « la préoccupation de rester dans la légalité », et le 18 Brumaire représente « le premier coup d’État où l’on voit se poser les problèmes de la tactique révolutionnaire moderne »19. Mais ce n’est qu’avec la révolution d’octobre 1917 que se révèle la technique moderne du coup d’État.
Le coup de génie de Trotski est simple : ne pas viser le lieu du pouvoir ou les symboles de sa majesté, mais s’emparer de son infrastructure stratégique. Pour la première fois, la sédition n’attaque pas le pouvoir directement chez lui, mais sabote la tuyauterie qui le maintient en place. En amont de son insurrection, raconte Malaparte, Trotski « est parvenu à se procurer le plan des services techniques de la ville » de Petrograd. Ses gardes rouges « étudient sur place la disposition des conduites souterraines d’eau et de gaz, des câbles d’énergie électrique, de téléphone et de télégraphe. Deux d’entre eux ont exploré les égouts qui passent sous la résidence de l’État-major général. […] Il faut être en mesure d’isoler un quartier ou même un simple groupe de maisons en quelques minutes ; Trotski partage donc la ville en secteurs, fixe les points stratégiques, distribue les tâches »20.
Un millier d’hommes, répartis en équipes « d’ouvriers spécialisés, mécaniciens, électriciens, radiotélégraphistes, aux ordres d’ingénieurs, de techniciens connaissant le fonctionnement technique de l’État », infiltrent patiemment « les corridors des centraux téléphoniques et télégraphiques, de l’Hôtel des Postes, des Ministères, de l’État-major général, pour observer la distribution des bureaux, l’installation de la lumière électrique et du téléphone, garder dans les yeux et la mémoire le plan des édifices, et […] chercher dans l’organisation défensive de la machine technique, bureaucratique et militaire de l’État les lieux de moindre résistance, les côtés faibles, les points vulnérables ». Ils « tâtent les rouages de l’organisation technique, provoquent de temps en temps la paralysie partielle des organes les plus délicats ». Selon Malaparte, ce sont « les escarmouches préliminaires de l’insurrection »21.
Puis vient l’offensive. Dans la nuit du 6 au 7 novembre, les discrètes troupes d’assaut de Trotski s’emparent des centres névralgiques sans se voir opposer la moindre résistance. Les opérations, écrit Malaparte, « se sont déroulées avec une rapidité et une régularité surprenantes ». Petrograd continue de fonctionner normalement. Les tramways circulent, les magasins restent ouverts, chacun vaque à ses occupations. L’un des événements politiques les plus décisifs du xxe siècle s’est produit dans une indifférence quasi totale.
Qu’en déduit Malaparte ? Plusieurs observations contre-intuitives, mais terriblement justes sur la nature du pouvoir au xxe siècle et la manière la plus efficace de s’en emparer. Contrairement à la vision romantique répandue encore à ce jour, on ne prend pas le pouvoir grâce au soutien populaire ni grâce au charisme surnaturel d’un Grand Homme guidant le peuple. L’écrivain italien affirme que « le problème du coup d’État moderne est un problème d’ordre technique. L’insurrection est une machine […] : il faut des techniciens pour la mettre en mouvement, et seuls des techniciens peuvent l’arrêter ». Il assure que « l’insurrection ne se fait pas avec des masses, mais avec une poignée d’hommes prêts à tout, entraînés à la tactique insurrectionnelle, exercés à frapper rapidement, durement, les centres vitaux et l’organisation technique de l’État ». Qu’elle frappe loin des palais, car « la clef de l’État, ce n’est pas l’organisation bureaucratique et politique […] mais l’organisation technique, c’est-à-dire les centrales électriques, les chemins de fer, les téléphones, les télégraphes, les ports, les gazomètres, les aqueducs ». Enfin, qu’elle est reproductible puisqu’elle « ne dépend pas des conditions politiques, sociales, économiques du pays »22.
Infiltration de l’appareil technique de l’État, occupation des centres névralgiques de communication, sabotage des institutions récalcitrantes par des brigades d’ingénieurs spécialisés : les parallèles avec l’actualité deviennent difficiles à ignorer.
✦
Plus de cent ans après le coup d’État bolchevique, Trump et ses nouveaux stratèges font une mise à jour de la technique malapartienne à l’ère de la numérisation et de l’algorithmie : une technologie du coup d’État parfaitement adaptée à la dématérialisation du pouvoir contemporain dans l’éther de la donnée. Mais alors que Malaparte mettait en scène des
insurgés-techniciens, le modèle Trump II a ceci d’inédit qu’il prône une insurrection programmée par l’exécutif lui-même. Une contre-élite, élue démocratiquement, qui démolit brutalement et méthodiquement les institutions qui lui confèrent sa légitimité. L’éphémère DOGE, aboli après six mois d’(hyper)activité, en est évidemment la manifestation la plus agressive et la plus transparente. Véritable matérialisation technique des préceptes du Project 2025, il a parfaitement rempli sa mission – choquer, démolir, paralyser. Tel un ver informatique, les voilà encodés, lui et ses principes, au plus profond de la nouvelle administration. Fin du premier chapitre du coup d’État technologique.
Une fois l’ancien régime fédéral renversé, place à la consolidation de son successeur. En l’an 2 du trumpisme, la révolution (permanente) est avant tout l’oeuvre de deux proches collaborateurs de Trump. Ce sont eux qui définissent le mode opératoire du régime. Eux qui tracent le double horizon idéologique – la mort de l’État social et la « régénération » raciale des États-Unis – pour un exécutif qui, sans cela, ne serait que pure action. En effet, loin d’être un idéologue cohérent, Trump agit comme un générateur, un soleil noir auprès duquel ses lieutenants plus capables viennent s’alimenter en énergie. En arbitrant au minimum les disputes lorsque la situation l’exige, il assure un semblant de cohésion entre les multiples factions concurrentes de la coalition MAGA, aux objectifs politiques parfois incompatibles. Le reste du temps, il entretient le chaos d’une outrance, d’une insulte ou d’une pulsion.
Le technicien en chef, que Trump et son équipe ont affublé du sobriquet de « Grim Reaper » (grande faucheuse), s’appelle en vérité Russell Vought. Responsable, pour la seconde fois sous Trump, du Bureau de la gestion et du budget, c’est lui qui répartit aux quatre coins de l’État fédéral l’argent alloué par le Congrès. Bureaucrate discret, vétéran de Washington mû par une haine tenace de l’« État profond », il est à l’origine d’une partie des propositions de Project 2025.
Alors que Vought agit comme président de l’ombre, l’omniprésent et hyperactif Stephen Miller est perçu comme son premier ministre officieux. Chef de cabinet adjoint chargé des politiques, il assure le déploiement de l’industrie technopolicière de surveillance, ordonne les enlèvements de masse, accélère perpétuellement la concentration et la déportation des étrangers. Agent commercial de la xénophobie trumpiste au crâne toujours impeccablement rasé, il n’hésite pas à s’afficher en tenant du suprémacisme blanc comme en septembre 2025, lorsqu’il a affirmé ce qui suit lors de l’oraison funèbre du défunt Charlie Kirk : « Notre lignée, notre héritage remonte à Athènes, à Rome, à Philadelphie, à Monticello. […] Vous n’avez pas idée à quel point nous sommes déterminés à sauver cette civilisation, sauver l’Occident, et sauver cette république23. » En fait, une idée, on peut s’en faire une, sur la base de quelques statistiques éloquentes : sous ses ordres, l’agence fédérale ICE (Immigration and Customs Enforcement, soit le Service de l’immigration et des douanes), est devenue le bras armé du régime. Les 350 000 personnes déportées en un an et les 70 000 personnes détenues dans les camps de concentration (administrés, en grande majorité, par des entreprises privées comme GEO Group ou CoreCivic) ne suffisent pas : Miller et Trump visent un million de déportations par an. Sans se soucier une seconde de l’État de droit.
Ce qui relie entre elles les diverses et parfois contradictoires manifestations du trumpisme, c’est la technologie matricielle qui a permis le coup d’État technofasciste, oeuvre de la Silicon Valley devenue de facto le système nerveux central des États-Unis et d’autres gouvernements autoritaires ou en passe de le devenir. On peut observer le régime de Trump sous toutes ses coutures, on trouve partout la patte de la Silicon Valley. Ce sont ses entreprises, des béhémoths comme Alphabet, Meta ou Amazon, et les nouvelles (et déjà gigantesques) startups faiseuses d’IA comme OpenAI, Palantir ou Anduril, qui fournissent les technologies de calcul, d’analyse, de prédiction et de contrôle, indispensables à la reconfiguration organisationnelle du pays. Ce sont ses patrons mystiques – le trio sud-africain de la « PayPal Mafia » formé par Elon Musk, Peter Thiel et David Sacks, ou les nouvelles figures du complexe « militaro-industriel numérique » comme Alex Karp ou Palmer Luckey –, conscrits dans une administration Trump avec qui ils forment une « broligarchie » (l’oligarchie version tech bros), qui font le lien entre l’exécutif et l’infrastructure technofasciste sur le terrain24.
Le trumpisme du second mandat n’aurait jamais pu exister sans l’architecture logicielle et matérielle d’une industrie numérique dont l’appétit expansionniste et le mépris des normes démocratiques laissaient déjà craindre, en 2024, un « coup d’État permanent »25. Les fantassins de Trump n’auraient jamais pu neutraliser les agences fédérales, pas plus qu’ils n’auraient pu traquer les fonctionnaires récalcitrants, ficher les « ennemis de l’intérieur » toujours plus nombreux, maintenir le panoptique technopolicier et la machine à déportation ou anéantir l’unité fédérale pour satisfaire les désirs sécessionnistes de cette contre-élite et de son projet d’« accélération réactionnaire »26. Et la clé de voûte technologique de ce régime est indéniablement ce que l’on appelle désormais « intelligence artificielle » : des systèmes de calcul « construits pour fonctionner de manière à dégrader et potentiellement détruire les institutions civiques indispensables27 » comme l’État de droit, la presse ou l’université. Des machines à asphyxier le corps social, en l’amputant de ses mécanismes de délibération et de production de connaissances.
En 2026, les États-Unis et la Chine sont deux itérations d’un même système d’exploitation, que la chercheuse Jennifer Lind nomme « smart authoritarianism28 » (autoritarisme intelligent) : des régimes antidémocratiques qui, consolidés par les technologies de répression numériques du capitalisme de surveillance, peuvent désormais se permettre de maintenir une apparence parlementaire tout en exerçant une oppression constante et réticulaire sur leur population. La Silicon Valley, bassin de l’industrie la plus puissante de la planète, est le socle du nouveau fascisme états-unien. Ses multinationales, ses PDG, ses logiciels, son ethos, son matériel et ses fonds d’investissement sont intégrés à l’appareil d’État trumpiste qui réécrit les lois et réaffecte l’argent public en faveur de ces champions du « patriotisme technologique ». L’alliance est rentable pour les deux parties, qui fonctionnent comme un duopole immuable. Pouvoir, argent et infrastructures se concentrent toujours plus entre les mêmes mains.
L’économiste italienne Francesca Bria a récemment cartographié ce réseau de collaborations mutuellement bénéfiques, de contrats publics et de capture réglementaire. Empruntant au vocabulaire des réseaux informatiques, elle décrit le résultat de cette intégration réciproque entre puissance publique et technocapital comme une « stack autoritaire »29 – une pile cohérente d’entités techniques, juridiques, financières et politiques, qui n’oeuvre plus qu’à la consolidation de son propre monopole. Une oligarchie de droit technologique dont le maillage se resserre à chaque nouveau contrat public, et qui pourrait devenir, à l’instar de Palantir, totalement indélogeable, quand bien même Trump et ses « gardes rouges » seraient éjectés du pouvoir par les urnes. Là où Trotski et ses hommes se contentaient de prendre le contrôle des infrastructures, les technofascistes et leurs soutiens MAGA deviennent l’État. Entrés par effraction puis progressivement métastasés dans l’organisme public, ils deviennent impossibles à extraire.
Ou, pour reprendre les mots d’un Donald Trump ahuri, qui philosophait durant les premiers jours de son second mandat, assis au volant d’une Tesla rouge devant la Maison-Blanche : everything’s computer (tout est ordinateur)30.
✦
Comment lutter contre une technologie du coup d’État qui forme simultanément un coup d’État technologique ? Quelles stratégies, quelles technologies mobiliser en retour pour freiner la propagation de l’infection trumpiste aux autres pays néolibéraux, notamment européens, dont les appareils d’État sont déjà affaiblis par leur dépendance structurelle aux logiciels de la Silicon Valley ? Comment empêcher le coup d’État lorsque les administrations contemporaines barbotent dans l’environnement logiciel fourni par Microsoft, lorsque leurs données dorment sur des serveurs Amazon, lorsque leurs employés communiquent grâce à Gmail, Teams et WhatsApp, et lorsque les ministères communiquent en priorité sur X ?
Pour nos nations vassalisées, repenser les structures de gouvernance au xxie siècle n’est plus seulement une question de souveraineté, mais de survie. Car les parasites des extrêmes droites européennes ont bien compris une chose : dans un pouvoir informatisé, le coup d’État prend lui-même la forme d’un logiciel, un algorithme – au sens générique du mot, un « ensemble de règles opératoires dont l’application permet de résoudre un problème énoncé au moyen d’un nombre fini d’opérations » – c’est ce que l’on constatera dans l’analyse méthodique de la « méthode DOGE », théorisée bien avant l’arrivée d’Elon Musk sous le chapiteau trumpiste. L’exemple MAGA leur a fourni un tutoriel pas à pas, exportable et potentiellement transposable à toute situation et toute entité politique – puisque, rappelons-nous Malaparte, le coup d’État ne dépend ni de conditions politiques et sociales préalables ni du charisme d’un idéologue particulier. En conséquence, avec l’appui logistique de son fournisseur états-unien, une internationale réactionnaire planétaire, allant de l’Argentin Javier Milei jusqu’à l’Italienne Giorgia Meloni, reprend, affine et met à jour la recette insurrectionnelle contemporaine, à l’intention des prochains qui passeront devant les urnes.
L’algorithme s’exporte, se partage, se télécharge. D’autres autocrates en puissance, souvent députés de la nation, trépignent dans leurs starting-blocks ; au Royaume-Uni, en France, au Canada et ailleurs. À leur tour, ils planifient, cartographient, testent les vulnérabilités. Comme ces puissants groupes de hackers invisibles, que le monde de la cybersécurité appelle génériquement un APT (advanced persistent threat, menace persistante avancée), qui s’infiltrent durant des années dans des systèmes informatiques massifs, sans déclencher d’alerte, jusqu’à en posséder virtuellement le contrôle. Partout en Europe, le technofascisme se veut l’APT tapi dans les serveurs de la démocratie numérisée.
Ce livre, pensé comme une mise à jour de l’essai de Malaparte, propose une analyse des dix-huit premiers mois du coup d’État trumpiste. Son auteur n’est pas historien, mais journaliste technocritique. L’ambition de cet essai : dévoiler, sous la cacophonie virale du trumpisme, cette nouvelle technique du coup d’État devenue une technologie – un ensemble d’outils numériques de calcul et de prédiction, mis au service d’un projet de reconfiguration radicale de la puissance publique –, dont le mode opératoire rompt avec notre perception historique de l’autoritarisme. Malaparte a été condamné à l’exil et son livre brûlé parce que, en dévoilant la manière optimale de prendre le pouvoir sans passer par les urnes ou prendre d’assaut les lieux visibles du pouvoir, il a simultanément dévoilé la meilleure manière de protéger l’État… et de renverser un pouvoir autocratique. Ce qui a provoqué l’ire de Hitler et Mussolini, c’est que Malaparte laissait entendre que n’importe quel groupe un tant soit peu organisé pouvait renverser le Duce et le Troisième Reich. C’était vrai hier, et ce l’est encore aujourd’hui.
Tout en tirant les leçons de l’histoire, l’antifascisme doit adapter ses tactiques aux mutations de l’ennemi, le poursuivre et l’affronter sur son nouvel espace de lutte qu’est l’infrastructure numérique. Les stratégies sont variées. Qu’il s’agisse d’une action comme Occupy Bureaucracy31, une armée de fonctionnaires « rouges » désobéissant et sabotant leur propre engin de travail, d’une suite logicielle pirate, étanche aux control freaks de la Silicon Valley, d’une caste d’ingénieurs choisissant la désertion32, l’archipel des résistances ne peut pas se contenter d’être le sable dans la machine de l’oppression : il doit à son tour déployer un algorithme. Devenir le bug, le ver informatique qui anéantira la monstrueuse entreprise du fascisme contemporain technicisé.
L’analyse à froid de la technologie du coup d’État trumpiste et de ses programmeurs nous fournit, en creux, l’antidote au poison de l’autoritarisme, aux États-Unis et dans le reste des démocraties occidentales malades du néolibéralisme. Le phénomène technofasciste n’est pas une rupture, mais une culmination. Trump, Milei et les autres ne sont pas implacables ; Musk, Thiel et les techno-oligarques ne détiennent pas les clés du futur. Leur hégémonie actuelle est artificielle, bâtie sur trente ans de dérégulation et d’impunité légale manufacturées par une classe politique complice. Pour mettre fin à leur règne, il est donc impératif d’observer leur mode opératoire et d’en identifier les vulnérabilités.
Couverture du livre de Thibault Prévost, Technologie du Coup d’Etat.
NOTES
1 Tom Dreisbach et Barbara Van Woerkom, « “This Is Not a Peaceful Protest!” », NPR, 4 janvier 2026. 2 Sur cette question, lire Nastasia Hadjadji et Olivier Tesquet, Apocalypse Nerds. Comment les technofascistes ont pris le pouvoir, Quimperlé, Divergences, 2025. 3 « Here Are the Executive Actions and Orders Trump Signed on Day 1 », The Washington Post, 20 janvier 2025. 4 Gerhard Peters et John T. Woolley (dir.), « Executive Orders: Washington – Trump II », The American Presidency Project, 20 mai 2026. 5 « Workforce Size & Composition », U.S. Office of Personnel Management, mars 2026. 6 Ruth Ben-Ghiat, « The Permanent Counterrevolution », The New Republic, 16 mai 2024. 7 Lulu Garcia-Navarro, « Inside the Heritage Foundation’s Plans for “Institutionalizing Trumpism” », The New York Times, 21 janvier 2024. 8 Paul Dans et Steven Groves (dir.), Mandate for Leadership: The Conservative Promise. Project 2025, Washington, The Heritage Foundation, 2023, p. 3 et 83. 9 Andy Kroll et Nick Surgey, « Watch: 14 Hours of Never-Before-Published Videos from Project 2025’s Presidential Administration Academy », ProPublica, 10 août 2024. 10 Jason Wilson, « Leaked Files Show Far-Right Influences Among Project 2025 Applicants », The Guardian, 28 novembre 2025. 11 Voir le site web Project 2025 Tracker, s. d. 12 Lauren Gambino, « American Democracy on the Brink a Year After Trump’s Inauguration, Experts Say », The Guardian, 21 janvier 2026. 13 Thomas B. Edsall, « Elon Musk Is Leading a “Hostile Takeover of the Federal Government” », The New York Times, 18 février 2025. 14 Charlie Warzel, « The “Rapid Unscheduled Disassembly” of the United States Government », The Atlantic, 3 février 2025. 15 Luke Broadwater et Zach Montague, « Fine Arts Panel, Remade by Trump, Indicates Support for His Ballroom Plan », The New York Times, 22 janvier 2026. 16 Curzio Malaparte, Technique du coup d’État, Paris, Grasset, coll. « Les Cahiers rouges », 2022 [1931], p. 84. 17 Nicolas Guilhot, « D’un chaman à l’autre : théories du complot et impasses du debunking », AOC, 9 novembre 2021. 18 Malaparte, Technique du coup d’État, op. cit., p. 27. 19 Ibid., p. 90. 20 Ibid., p. 40-41. 21 Ibid., p. 40, 56 et 62. 22 Ibid., p. 42 et 56. 23 Robert McCoy, « Stephen Miller’s Charlie Kirk Tribute Was as Sinister as It Gets », The New Republic, 22 septembre 2025. 24 Carole Cadwalladr, « How to Survive the Broligarchy: The Trump- Musk Crackdown Is Coming. Here’s 20 Lessons in How to Survive It », How to Survive the Broligarchy, 17 novembre 2024. 25 Marietje Schaake, « Le coup d’État permanent de la Silicon Valley » dans Giuliano Da Empoli (dir.), L’empire de l’ombre. Guerre et terre au temps de l’IA, Paris, Gallimard, 2025. 26 Lorenzo Castellani, « L’ère de l’accélération réactionnaire », Le Grand Continent, 8 novembre 2024. 27 Woodrow Hartzog et Jessica M. Silbey, « How AI Destroys Institutions », UC Law Journal, vol. 77, no 4, mai 2026, p. 727-770. 28 Justin Hendrix, « Unpacking the Rise of “Smart Authoritarianism” in China », Tech Policy Press, 25 janvier 2026. 29 Francesca Bria, The Authoritarian Stack, site web, 2025. 30 wirelyss, sakshi et Zach, « Everything Is Computer », Know Your Meme, 12 mars 2025. 31 Ned Resnikoff, « The Left Needs Bureaucrats », Dissent, 2026. 32 Jeanne Mermet, Désertons, Paris/Marseille, Les Liens qui Libèrent/Wildproject, 2025.
Student journalists meet the moment, as we’ve seen most recently this week. As the Cornell University sexual abuse case highlights the importance of student journalism, public records reveal how schools try to censor on-campus news outlets. Claire Woodcock talked to students and legal experts about how censorship from above impacts their work. “One of the biggest things we’ve certainly found with censors over the years is they want to be called everything but a censor,” one expert said. “What they’re doing is everything but censorship.”
Student journalists, their advisors, and legal advocates say colleagues and administrators are attempting to undermine student reporting on Jeffrey Epstein, Gaza, and other issues that public institutions would rather not have their reputations connected to.
Public records obtained by 404 Media show administrators taking meetings with parents and alumni when they take issue with student reporting and asking advisors to compromise their professional ethics. They also show escalating tensions between student newsroom staff and administrators, prompting more legal aid requests to advocacy groups.
This comes as student journalists at The Cornell Daily Sun earned recognition for breaking the “Cornell Seven” story regarding the lawsuit filed in New York’s trial court last month by a Jane Doe accusing current and former Cornell University students of drugging and sexual abuse. The student journalists told The Cut this week that a vague university and campus police statement from nearly two years ago prompted more questions than answers. Such is the basis for most accountability journalism on college campuses.
The cases we reviewed involved the phase of the reporting process that comes later, where a factual dispute the newsroom has defended or a complaint where the person doesn’t bother to explain what is allegedly wrong with the students’ reporting.
Student journalists, their advisors, and legal advocates say colleagues and administrators are attempting to undermine student reporting on Jeffrey Epstein, Gaza, and other issues that public institutions would rather not have their reputations connected to.
Public records obtained by 404 Media show administrators taking meetings with parents and alumni when they take issue with student reporting and asking advisors to compromise their professional ethics. They also show escalating tensions between student newsroom staff and administrators, prompting more legal aid requests to advocacy groups.
This comes as student journalists at The Cornell Daily Sun earned recognition for breaking the “Cornell Seven” story regarding the lawsuit filed in New York’s trial court last month by a Jane Doe accusing current and former Cornell University students of drugging and sexual abuse. The student journalists told The Cut this week that a vague university and campus police statement from nearly two years ago prompted more questions than answers. Such is the basis for most accountability journalism on college campuses.
The cases we reviewed involved the phase of the reporting process that comes later, where a factual dispute the newsroom has defended or a complaint where the person doesn’t bother to explain what is allegedly wrong with the students’ reporting.
In Colorado, a high school social studies teacher emailed the student publication’s advisor at the time, accusing a student’s opinion piece called “Why is Gaza Important?”of being “published with factually inaccurate and racist information,” but then said in the same email, “I’m not going to start listing the inaccuracies along with the omissions.”
In California, a high school principal told a student journalism advisor to redact the name of an individual threatening to sue the district for defamation after student journalists published an Instagram carousel to their school’s newspaper account about the number of times their county turned up in the Epstein files. In this case, which has already been widelyreported on, the administrator told the journalism advisor to redact the name of the woman who was threatening suit without determining whether the reporter made a factual mistake (the students did not).
“I can’t remove the name without your help,” the principal told the advisor via email, after the advisor said the students would first seek legal guidance from the Student Press Law Center before taking any actions.
Soon after the op-ed was published, the student newspaper’s advisor was reassigned to another role within the district. The advisor from the California school district stepped down from her role during the last school year; she now consults schools and nonprofits on best practices for their student media programs. Mike Hiestand, who is a lawyer with the Student Press Law Center, has spent decades advising student newsrooms. He says it’s common for administrators to target advisors, adding that it’s one of the more effective censorship methods available to them.
“School officials, they see employees as kind of an easy target over whom they have some authority, and they know that in many places, that relationship between the students and their advisor is a tight one,” Hiestand told 404 Media. “Unfortunately, some school officials take advantage of that bond and definitely go after advisors.”
In 2025, the Student Press Law Center (SPLC) claimed that the nonprofit had responded to nearly 1,000 hotline inquiries from student newsrooms in 46 states and Washington D.C. The most common inquiries involved censorship, libel and copyright. Overall, SPLC says calls are down, but hotline inquiries about censorship specifically are up 17 percent from the year prior.
“One of the biggest things we’ve certainly found with censors over the years is they want to be called everything but a censor,” he added. “What they’re doing is everything but censorship.”
This tracks with what 404 Media is observing through public records requests into school, library and university censorship. The same state laws that have been used to restrict how topics like race, gender, and systemic inequality can be accessed and taught have also put student journalists covering those beats in a bind.
Records from Pensacola State College obtained by 404 Media show that last spring, an administrator tried to block funding for a journalism professor to print students’ class assignments for their portfolios because at least one of the stories involved reporting on the LGBTQ+ community. The campus later relented and agreed to release funding for students’ portfolios. In an email to the advisor, an administrator involved in the situation wrote that “the proper role of administration is to facilitate rather than impede the completion of legitimate classroom projects.”
“When you have a principal coming in who doesn’t have a lick of journalism experience claiming that they’re there to guide young journalists, that’s where I have problems,” Hiestand said. “Every principal and every superintendent in the country seems to think that they are qualified editors.”
Similar verbiage has appeared in other public records requests involving student journalists, like in the case of a Maryland school district memo about principals reading and approving every story before publication. In the memo, the chief of schools wrote that “[a]s responsible adults and educational leaders, we have the duty to guide the work of our students as they are developing their skills in a school setting during a school-directed activity.” But internal correspondence obtained by 404 Media suggests that the memo was “really to be sure an administrator could initial any printed posters, review school apparel, and scan over the yearbook to be sure that there is no violation” of the student handbook.
Marie McMullan, program manager and counsel for the Student Press Legal Hotline with the Foundation for Individual Rights and Expression, says so far, 2026 has been a very consequential year for students leading their school publications.
“Student journalists are a very bright group,” McMullan told 404 Media. “They are great at sounding the alarm and bringing advocates out of the really blatant examples. But I always just worry about making sure that student journalists know their rights so that they can assert them in cases where there are subtler forms of censorship.”
At Southern Illinois University Edwardsville (SIUE), student reporters with The Alestle, the university’s student newspaper, claim that the institution’s marketing and communications department had become more insistent on attending interviews conducted by student reporters in recent months. The department took issue with editor-in-chief Dylan Hembrough’s framing of the dispute, calling several of the claims “inaccurate.” In an interview with 404 Media, Hembrough said the paper investigated and determined there was nothing inaccurate about the story. When Hembrough did not retract the story, the executive director of marketing and communications at SIUE sent an open letter to the entire campus—a mailing list of more than 14,000 people, including faculty and staff—taking issue with that story, along with other stories throughout the years as well.
“The Alestle appears willing to substitute alarming headlines for verified facts, to rely on posturing rather than careful reporting and to treat corrections as an inconvenience rather than a professional obligation,” the open letter reads. With the letter was a link to a 27-page document of corrections the department expected student leadership to act on.
“I have been on the other side of panicking over things like this,” Hembrough told 404 Media. “Something that has helped me get through that, or at least stave it off, is the idea that the truth is more important than whatever I feel about it. Embarrassment or humiliation should have no bearing on how or even whether a publication makes a correction.”
Then in September, Hembrough learned via email that he was being investigated by the campus police for harassment against the department. When Hembrough’s journalism advisor asked the officer to clarify on what grounds, the officer said the report was based on a line in an email, which read: “Marketing and communications’ insistence on interfering with our newsgathering process is dangerous and detrimental to both press freedom and freedom of speech.” Hembrough shared his email with 404 Media, which reads as an editor defending another student reporter’s right to conduct an interview without the department exercising prior restraint over the publication. In her statement to campus police, she reportedly told the officer that “other members of my office have approached me stating Alestle reporters have been by my office uninvited,” and that she didn’t have a lock on her door.
“Due to the media between Marketing and Communications and the Alestle I am worried a ‘January 6th’ type of crowd may be outside my office,” the complainant told the officer, according to the campus police report. The officer advised her to contact facilities management about getting a lock for her office door and concluded that the facts of the case don’t “meet the statutory threshold for Harassment by Electronic Communications.”
The public records reviewed by 404 Media from SIUE support the claims The Alestle’s journalists make throughout their reporting on the department. SIUE did not respond to 404 Media’s request for comment.
The situation at SIUE serves as an example of a dispute about institutional reputation that’s escalated to involve campus law enforcement, but law enforcement nonetheless. McMullan says this escalation has an undeniable chilling effect on free speech, noting that policies and laws that public institutions use to silence young reporters still need to abide by the First Amendment. But overall, she’s impressed with how students at SIUE and other campuses are meeting the moment, even when the adults in the room aren’t.
“Whether it’s in a court of public opinion or a court of law, students are not accepting censorship,” she said. “They’re pushing back against it.”
A company that makes phone hacking devices claims to have developed a solution that freezes iPhones in a state that lets cops more easily access sensitive data inside them, according to a video obtained by 404 Media.
This is the latest salvo in the never-ending battle between Apple and companies that help cops — sometimes those in authoritariancountries — break into iPhones.
In November 2024, 404 Media revealed Apple quietly introduced a new feature in iOS that automatically reboots an iPhone that has not been unlocked for 72 hours. The idea behind this so-called “inactivity reboot” is to revert the phone to a state that makes it harder for police to break into the device, and thus extract sensitive data from it with forensics technology.
At the time of Apple’s change, law enforcement agents expressed concern about this new feature, given that oftentimes they can’t immediately try to break into iPhones that have been seized. That could be because police are still waiting for a court authorization to do so, or there is simply a backlog of devices to unlock, for example.
The new technology to get around inactivity reboot was developed by Magnet Forensics, the company behind GrayKey, a popular tool sold to law enforcement agencies that allows them to unlock and access data stored in iPhones and Android smartphones. Magnet has developed a new device called GrayKey Preserve and a feature for its regular GrayKey devices called Evidence Preservation Mode, according to the video.
Dans une tribune pour The Guardian, Bruce Schneier et Jon Penney s’inquiètent de l’intensification de la surveillance par IA. « Dans un avenir proche, les systèmes de surveillance basés sur l’IA pourront suivre tout ce que nous faisons en public, et une grande partie de ce que nous faisons en privé ». Et le moindre de nos comportements déviants pourra être relié au profil de chacun. Un peu comme des radars automatiques, qui ne se contenteraient pas de faire respecter les limitations de vitesse, mais également toutes les autres règles. Officiellement, cette surveillance liée au renseignement sert à garantir la sécurité publique, « mais son véritable objectif est souvent le contrôle social ». « Larry Ellison, PDG d’Oracle, un puissant géant technologique proche de l’administration Trump, a déclaré : « Les citoyens se comporteront de manière exemplaire car nous enregistrons et rapportons constamment leurs activités. » L’effet dissuasif est précisément ce qui est recherché. »
« La surveillance par IA soulève de nombreux défis en matière de politiques publiques : biais techniques, systèmes non auditables et application automatisée et rigide du droit et des règles sociales, susceptibles de favoriser la discrimination et de saper la transparence, la responsabilité et l’état de droit. Mais nous pensons que l’impact le plus urgent et le plus durable sera son effet dissuasif généralisé », pointent les chercheurs. Dans son livre, Effets dissuasifs : Répression, conformisme et pouvoir à l’ère numérique (Cambridge University Press, 2025, non traduit), Jon Penney explique justement comment la technologie peut être instrumentalisée pour influencer les comportements à grande échelle. La surveillance, sa personnalisation, sa généralisation ont des effets cumulatifs : « plus les mécanismes employés sont nombreux et puissants, plus l’effet dissuasif est important ». Suivre nos déplacements, dresser la liste de nos contacts, surveiller nos dépenses… sont désormais autant de possibilités qui fusionnent, rendant la surveillance « persistante et implacable ». Et l’IA apporte une capacité d’analyse permettant de de répondre à des questions complexes sur nos déplacements et nos activités. Le risque est bien celui d’une intimidation sociale exacerbée : « les idées audacieuses, l’activisme social et la réinvention de soi – en particulier chez les groupes marginalisés et les populations ciblées – pourraient bien être considérablement freinés ».
La normalisation des relations homosexuelles ou de l’usage récréatif du cannabis ont profondément évolué, rappellent les deux chercheurs, passant d’un statut à la fois immoral et illégal, à un statut moral mais pas toujours légal pour finalement devenir à la fois moral et légal. Mais pour y parvenir, il a fallu l’émergence d’une contre-culture pour faire évoluer la moralité puis la légalité. Or, l’invasion de la surveillance risque de rendre le progrès social impossible, en empêchant ces évolutions par la répression des comportements eux-mêmes. La surveillance étatique par le FBI américain dans les années 50 ou de l’Allemagne de l’Est pendant la guerre froide mobilisait déjà écoutes téléphoniques, ouverture du courrier et informateurs… Mais ne disposait pas de possibilités de recoupement et de traitement que l’IA rend désormais possible, expliquent les chercheurs.
Cependant, nous ne sommes pas condamnés à l’inaction. « Maintenant que nous avons pris conscience du danger que représente la surveillance de masse assistée par l’IA, nous pouvons opter pour ne pas la mettre en œuvre. L’interdiction de la reconnaissance faciale et d’autres technologies d’identification peut ralentir leur développement ; des mesures solides de protection de la vie privée et des données peuvent limiter le suivi et la conservation de ces dernières ; des réglementations sur l’IA peuvent restreindre ses usages les plus intrusifs ; enfin, des réformes structurelles peuvent nous aider à examiner de près – et à démanteler – les puissants cartels associant États et entreprises technologiques, qui ouvrent la voie à des dérives telles que la surveillance par IA. »
On voudrait être aussi confiant qu’eux. Mais la surveillance de masse conduit surtout à étouffer les fondements mêmes des sociétés démocratiques.
Connexion
?ref=404media.co#/media/File:Jonathan_and_another_tortoise,_St_Helena.png){kind=link}
