Aux Etats-Unis, la fronde contre le développement des détecteurs automatiques des numéros de plaques d’immatriculations est forte. Si quelques caméras Flock ont été vandalisées, ce sont surtout nombre de conseils municipaux abonnés au système qui rejettent et résilient leurs contrats avec l’entreprise qui les installe, suite notamment aux révélations de l’utilisation du système par l’ICE, la police qui de l’immigration américaine, qui s’en sert pour traquer les étrangers sans lien avec des infractions de circulations. 

Pour faire face à la fronde, Flock a fini par réagir et a annoncé une série de changements dans les modalités de partage d’information avec les forces de l’ordre américaine. Des changements surtout cosmétiques, ironise Gizmodo. L’entreprise, en effet, propose désormais que par défaut, la durée de conservation des informations passe de 30 à 7 jours. Mais en fait, précise l’entreprise, « les forces de l’ordre peuvent prolonger ou réduire cette période. Chaque collectivité continuera de choisir la durée de conservation adaptée à sa stratégie de sécurité publique et conforme aux politiques locales ou étatiques. » Elle annonce également un dispositif supplémentaire (le mode « Preuve ») qui permettra à la police de conserver « des données LAPI (systèmes de Lecture automatisée de plaques d’immatriculation) spécifiques à titre de preuve pour une enquête en cours, dans un stockage à long terme ». L’ACLU (American Civil Liberties Union) a publié une réponse moqueuse (« Flock semble davantage viser à résoudre un problème d’image qu’à s’attaquer aux atteintes majeures à la vie privée et aux autres préjudices engendrés par ses produits ») et maintient sa campagne invitant les citoyens à agir pour « se débarrasser du Flock » (Get the Flock out). L’Institut pour la Justice a pour sa part publié une base de données pour recenser les abus d’utilisation des systèmes de lecture automatisée de plaques d’immatriculation. L’ACLU rappelle que si Flock souhaite évaluer l’efficacité de son outil et notamment mieux surveiller les usages abusifs qu’en fait la police, l’entreprise devrait le soumettre à l’analyse d’un évaluateur indépendant. Flock a déjà par le passé annoncé des mesures de sécurité liées au motif de recherche, mais elles n’ont produit aucune amélioration, bien au contraire. Comme, le rappelle Gizmodo, « il est difficile d’imaginer qu’une personne prête à détruire une caméra Flock changera d’avis simplement parce que la durée recommandée de conservation des données passe de 30 à 7 jours ». 

Dans un entretien à la BBC, le PDG de Flock, Garrett Langley, ajoute qu’il s’est rallié à l’idée d’organisations telles que l’ACLU et l’Electronic Frontier Foundation (EFF), selon lesquelles la police devrait disposer d’un numéro de dossier en cours pour pouvoir consulter les données de Flock. Pour Cooper Quentin, de l’EFF, « les requêtes dans les bases de données [de lecteurs automatiques de plaques d’immatriculation], devraient impérativement faire l’objet d’un mandat judiciaire ». Ce n’est pas le cas. 

Alors que le gouvernement américain surveille activement sur les réseaux sociaux les publications anti-Flock devenues virales, rapporte 404 media, et menace le site DeFlock, qui cartographie la présence des caméras, son initiateur, Will Freeman, rappelle qu’il n’a jamais appelé à neutraliser les caméras ni à masquer les plaques d’immatriculation, contrairement à ce qu’affirment les récents bulletins des forces de l’ordre. Le vandalisme montre surtout que les gens sont mécontents de voir ces systèmes installés à leur insu ou sans leur consentement. Mais le sabotage semble surtout assez anecdotique, bien moindre en tout cas que la contestation qui pousse les citoyens à demander des comptes aux autorités locales qui tissent des partenariats avec l’entreprise Flock. 

Comme l’explique une enquête de New Republic sur la montée de la contestation contre les systèmes de caméras LAPI, « Flock constitue un système de surveillance de masse d’une puissance – et d’une rentabilité – stupéfiante. Ses caméras LAPI sont utilisées par plus de 1 000 entreprises et environ un tiers des 18 000 services de police des États-Unis ». L’ACLU l’estime à le nombre de caméras de surveillance des plaques d’immatriculations déployées aux Etats-Unis à 90 000. Quant à l’entreprise, elle a généré un chiffre d’affaires de 285 millions de dollars en 2024. Le géant du capital-risque Andreessen Horowitz a récemment valorisé l’entreprise à 7,5 milliards de dollars. 

Alors qu’il valorise son entreprise en promettant rien de moins que l’élimination de la criminalité des Etats-Unis d’ici une décennie, l’année dernière, Garrett Langley a qualifié DeFlock d’« organisation terroriste ». A l’heure où les actions de résistance anti-tech sont devenues, aux Etats-Unis, une menace terroriste, Will Freeman répond que son site, DeFlock, est surtout un outil de transparence. 

Les études (2019 et 2024), jusqu’à présent, montrent surtout que l’efficacité des caméras à prévenir le crime est plus que douteuse. « En 2022, l’entreprise s’est vantée que ses caméras à San Marino, en Californie, avaient entraîné une baisse de 80 % des cambriolages en cinq mois ; Forbes a révélé par la suite que les cambriolages avaient en réalité augmenté dans les années suivant l’installation des caméras de Flock ». « Même si les caméras et le réseau de surveillance de Flock contribuent à élucider certains crimes, les critiques estiment que le prix à payer en matière de vie privée est trop élevé. La police a été prise en flagrant délit d’utilisation illégale des données de Flock pour localiser une femme cherchant à avorter, pour traquer et harceler des individus, surveiller des manifestations ou prêter main-forte aux services d’immigration de l’ICE pour arrêter des individus depuis de simples suspiscions. » 

« Au minimum, cette surveillance de masse implique le suivi, sans mandat, de toute personne circulant sur la voie publique », a averti l’ACLU. « Au pire, elle instaure un État policier numérique où les forces de l’ordre […] peuvent traquer manifestants, opposants politiques, immigrés, patients et autres personnes non soupçonnées de crime, et utiliser ces informations pour leur nuire. »

Une contestation de droite comme de gauche

Sous la pression populaire d’opposants à Flocks, locaux et actifs, « Austin, au Texas, a suspendu son programme Flock en juin dernier face à la contestation locale, tandis qu’Evanston, dans l’Illinois, y a mis fin en août. Selon la NPR, au moins 30 localités « ont soit désactivé leurs caméras Flock, soit annulé leurs contrats depuis le début de l’année 2025 ». » A Ithaca, les manifestations ont fait reculer la police. Par des pétitions, des interventions publiques et des tribunes dans la presse locale, le collectif local, Flock Off, a quelque peu freiné les activités de l’entreprise. En octobre, le bureau du shérif du comté a cessé de partager les données Flock avec les comtés collaborant avec l’ICE. En février, suite à une  manifestation devant l’hôtel de ville, la police locale a réduit le nombre de services avec lesquels elle partageait les données. « À bien des égards, cela prouve qu’au niveau local, la démocratie peut encore fonctionner », estime le responsable du groupe Flock Off local. Le prochain objectif de Flock Off est de faire résilier purement et simplement le contrat passé avec la ville.

« Si les groupes opposés à Flock émergent généralement de bastions progressistes, certains États dirigés par des républicains ont également pris des mesures pour restreindre la surveillance par ces systèmes. Les libertariens, en particulier, s’opposent à Flock : le magazine libertarien Reason a publié plusieurs articles critiquant l’entreprise, qu’il accuse de mener un programme de surveillance de masse orwellien », rapporte New Republic. 

Le New York Times s’est également intéressé à « ces caméras que la police adore et que les citoyens détestent ». Au Texas, rapportent les journalistes Fernando Alfonso III et Kashmir Hill, « il est un point sur lequel progressistes et conservateurs s’accordent : ils ne veulent pas de caméras braquées sur leurs voitures ». Pourtant, les Américains sont habitués à la vidéosurveillance. « Ils en installent sur leurs sonnettes et les acceptent au coin des rues, dans les bureaux et les restaurants ». Mais, ce qui distingue les caméras Flock, rappellent les journalistes, « c’est qu’elles sont connectées entre elles, formant un vaste réseau national interrogeable ; cette situation surprend souvent les habitants – qui ignoraient que leurs autorités locales avaient souscrit à ce service – et suscite des craintes d’une surveillance digne de « Big Brother ». De plus, il est difficile de ne plus les voir une fois qu’on a commencé à les remarquer. » Le Texas est devenu un baromètre, estiment les journalistes. « Flock a commencé à vendre ses services aux services de police début 2020, en installant quelques dizaines de caméras dans une banlieue de Houston. Six ans plus tard, 700 services de police texans ont passé contrat avec l’entreprise. L’opposition regroupe des progressistes inquiets de la surveillance gouvernementale, des conservateurs méfiants à l’égard de l’extension du pouvoir de l’État, ainsi que des citoyens et des élus soucieux de leur vie privée et préoccupés par les possibles dérives du réseau. » A l’image de Hannah Foust, qui vit à Carrollton (Texas), qui a commencé à publier des messages sur les lecteurs de plaques d’immatriculation dans des groupes Reddit et a lancé une pétition en ligne pour obtenir le retrait de ces caméras de sa commune. Devant le conseil municipal, elle explique : « Je ne commets aucun délit, mais je ne veux pas nécessairement que quiconque – et encore moins des agences gouvernementales ou une entreprise privée – puisse voir où je dépose mes enfants, quel itinéraire je privilégie pour me rendre au travail, si je préfère H-E-B ou Kroger, ou quel lieu de culte je fréquente. » À travers le Texas, l’opposition à ces caméras transcende les clivages partisans. Les contrats de Flock ont ​​été résiliés aussi bien à Austin, ville progressiste, qu’à Bandera, une localité conservatrice de la région de Hill Country comptant environ 900 habitants. « Au Congrès, Keith Self, un républicain dont la circonscription se situe au nord de Dallas, a déposé un projet de loi en juillet. Ce texte imposerait aux agences fédérales chargées de l’application de la loi d’obtenir un mandat avant d’accéder aux données collectées par les systèmes de surveillance étatiques et locaux – notamment les lecteurs de plaques d’immatriculation – ou de les interroger. » Pour un colonel de l’armée à la retraite et ancien juge de comté, « nous sommes en train de basculer vers un État de surveillance », estime-t-il, en flirtant avec des dénonciations que l’on retrouve dans les pire propos conspirationnistes d’extrême-droite, comme ceux que colporte, à longueur d’émission, la War Room de Steve Bannon.

Flock, la plateforme d’hypersurveillance des déplacements

« Flock facture environ 3 000 dollars par caméra et par an, a précisé M. Langley. En contrepartie, l’entreprise installe et entretient les caméras, fournit une base de données consultable répertoriant tous les véhicules qui passent devant elles et envoie des alertes si les caméras repèrent des voitures figurant sur une liste de surveillance prioritaire – comme la base de données du FBI recensant les véhicules volés et les plaques d’immatriculation associées à des personnes disparues ou recherchées. Ces dernières années, grâce aux progrès de l’intelligence artificielle, Flock a ajouté une fonctionnalité permettant de rechercher des voitures en fonction de leur marque, de leur type, de leur couleur ou de détails spécifiques, tels que des autocollants sur le pare-chocs ou des dommages visibles.» 

« Pour effectuer une recherche, les agents précisent le type de délit, allant de la cruauté envers les animaux à l’homicide. Ils saisissent ensuite un numéro de plaque d’immatriculation ou une description du véhicule ainsi qu’un lieu, ou optent simplement pour l’option par défaut : « Tous les réseaux sélectionnés ». La recherche affiche les images des voitures correspondantes, en indiquant précisément l’heure et le lieu où elles ont été repérées, ainsi que le service de police auquel appartenaient les caméras. Par défaut, les photos prises par les caméras sont supprimées au bout de 30 jours, bien que les services de police puissent modifier la durée de conservation.

Si un service de police souhaite accéder à d’autres caméras ailleurs dans l’État ou dans le pays, il doit partager l’accès aux siennes. La plupart des organismes effectuent des recherches et partagent des informations à l’échelle nationale. » 

L’éditorialiste et animateur de télévision de droite radicale américain Tucker Carlson, qui pourrait être candidat à la prochaine élection présidentielle américaine, s’est récemment moqué de l’assimilation faite par M. Langley entre un projet de cartographie participative et le terrorisme. Carlson a déclaré n’avoir pris conscience que récemment de l’ampleur du réseau Flock après avoir consulté le site de DeFlock ; il a confié au New York Times que cette découverte l’avait « horrifié ». Il s’est dit surpris qu’un système de surveillance aussi vaste ait pu se développer en suscitant si peu d’attention de la part du public… Tant et si bien que le PDG de Flock a depuis présenté ses excuses pour ses propos assimilant le site DeFlock au terrorisme. 

« Que l’on soit libertarien, conservateur, partisan du mouvement MAGA ou progressiste, tout le monde a des objections à l’encontre de Flock », a déclaré Chad Marlow de l’ACLU. Reste que si l’opposition au Texas attire peut-être l’attention, elle n’a pas freiné la croissance de Flock. À travers l’État, de nouvelles villes signent des contrats plus rapidement que d’autres ne les résilient, a indiqué Jennifer Szimanski, porte-parole de la Combined Law Enforcement Associations of Texas, un syndicat de police représentant plus de 28 000 agents. Selon elle, la raison repose sur les résultats impressionnants du réseau. Certains services de police texans ont retrouvé des centaines de véhicules volés après avoir installé ces caméras, a-t-elle précisé, et dans les petites municipalités, les vols dans les véhicules ont pratiquement cessé. Pour elle, le risque d’utilisation abusive du système par les policiers texans n’était pas plus élevé qu’avec les autres bases de données auxquelles ils ont accès, et que Flock fournissait un historique de chaque recherche, précisant qui l’avait effectuée et pour quel motif.

La possibilité de rechercher n’importe quel véhicule circulant sur les routes du pays est certes pratique pour les autorités, mais Barry Friedman, professeur de droit et directeur du Policing Project, soutient que la création d’une vaste base de données sur les déplacements des Américains est inconstitutionnelle : « il s’agit d’une collecte de données indiscriminée, et non d’une surveillance ciblant des infractions spécifiques ». « Si le quatrième amendement existe, c’est parce que l’on estimait que le gouvernement ne devrait pas pouvoir s’en prendre à n’importe qui, même en l’absence de tout acte répréhensible. » 

Jusqu’à présent, les tribunaux ont rejeté cette interprétation, tout en laissant entendre que la situation pourrait évoluer à mesure que la technologie se généralise. Dans une affaire où des habitants avaient poursuivi la ville de Norfolk (Virginie) pour l’installation de 172 caméras Flock, un juge fédéral a statué que les lecteurs de plaques pourraient un jour devenir si omniprésents que leur utilisation s’apparenterait à une surveillance de masse indiscriminée et inconstitutionnelle, mais que ce n’était pas encore le cas. « Je ne pense pas que les juges réalisent que le pays est désormais couvert par ces dispositifs et qu’ils sont tous interconnectés », a déclaré Sid Thaxter, de l’Association nationale des avocats de la défense pénale.

En attendant, la police américaine invite les agents à ne plus mentionner le fait qu’ils ont eu recours à une technologie de détection automatique des numéros de plaques d’immatriculations dans leur rapports ou auprès des personnes qu’ils appréhendent, rapporte 404media. « Lorsque les forces de l’ordre utilisent Flock pour procéder à une arrestation dans le comté de Wapello, en Iowa, elles ne souhaitent pas que la personne concernée le sache. Une politique d’utilisation des caméras de lecture automatique de plaques du comté ordonne explicitement à la police de garder ce dispositif secret. » Un moyen de rendre encore plus invisible les abus que Flock annonce vouloir limiter. 

Pour Tech Policy Press, Jake Laperruque responsable du projet « Sécurité et surveillance » au sein du Center for Democracy & Technology (CDT), « les systèmes de lecture automatisée de plaques d’immatriculation en général, et le fournisseur de premier plan Flock en particulier, sont confrontés à un moment de prise de conscience publique aux États-Unis. Cette technologie de surveillance provoque des réactions négatives majeures dans tout le pays et devient un sujet de campagne majeur ». Mais pour Laperruque, les risques actuels liés à la vie privée liés aux systèmes de détection des plaques d’immatriculation ne sont que la pointe de l’iceberg et vont s’étendre considérablement dans les années à venir. « À moins qu’ils ne soient sérieusement maîtrisés, ces systèmes deviendront un outil de surveillance de masse bien plus répandu qu’aujourd’hui ». La raison, notamment : de nouvelles fonctionnalités ajoutées à Flock à partir d’analyses automatisées par l’agence fédérale des douanes créant des alertes sur des comportements de conduite suspects et signalant des véhicules à arrêter, rapporte AP News. Un comportement innocent au volant, comme prendre une route secondaire, conduire à des heures indues ou se rendre dans un endroit inhabituel, pourrait devenir des motifs de contrôle. 404 media a révélé également que les vidéos captées par les caméras étaient utilisées pour identifier des formes ou des conducteurs. Une fonctionnalité de recherche en texte libre permet de trouver des personnes tatouées ou portant des maillots de sport spécifiques ; ces recherches incluent parfois l’origine ethnique de la personne visée. A terme, connectée à la reconnaissance faciale, elle pourrait permettre de rechercher des personnes partout sur les routes. « Ces systèmes risquent fort de se transformer en un « œil omniscient » permettant de rechercher n’importe quel type de véhicule, d’objet ou de personne, avec la même facilité que nous recherchons aujourd’hui des mots dans un fichier texte ». Reste à savoir s’il faut limiter ce pouvoir par une accréditation judiciaire pour chercher dans ces images, comme le propose Laperruque ou limiter le développement du réseau. 

Wired rappelle que Flock Safety, géant de la surveillance des véhicules, affirme depuis des années que sa technologie « ne peut ni reconnaître, ni identifier, ni suivre des individus ». Ses pages dédiées à la confiance du public assurent aux clients que la technologie est conçue pour des enquêtes spécifiques, au cas par cas, et « non pour surveiller les gens ». Ce n’est plus le cas, notamment via l’ajout d’innombrables outils qui donnent accès « aux métadonnées des caméras, aux dossiers d’arrestation, aux dossiers d’enquête, aux journaux d’appels, aux résultats d’analyses balistiques ainsi qu’à des bases de données commerciales contenant des numéros de sécurité sociale, dates de naissance, numéros de téléphone, adresses e-mail, informations sur les proches et les associés ». Les requêtes préconfigurées d’OS Investigate, le logiciel de Flock, inversent la logique de recherche. « Un agent n’a plus besoin de plaque, de nom ou d’infraction pour lancer une recherche : il lui suffit d’indiquer un lieu, une période et un schéma comportemental, et le système identifie les personnes correspondant à ces critères. » Pour utiliser ce moteur de recherche, Flock propose des requêtes préconfigurées, comme «« Trouve-moi des témoins en te basant sur les véhicules les plus aperçus dans [tel quartier] au cours des [X derniers jours] durant [telle plage horaire quotidienne] ». Un agent remplit les champs vides et valide la demande. Le résultat est une liste de plaques d’immatriculation que d’autres outils du logiciel convertissent ensuite en noms et adresses de domicile.»

« Dix-neuf de ces requêtes visent à identifier des schémas comportementaux plutôt qu’à consulter un dossier spécifique. Quatorze d’entre elles ne nécessitent ni plaque d’immatriculation, ni nom, ni description physique ; l’agent indique simplement un lieu, un créneau horaire et un comportement.

Certaines requêtes ciblent des véhicules ayant visité au moins trois commerces dans une ville en trois jours, plusieurs banques en une semaine ou plusieurs stations-service entre minuit et 5 heures du matin. Aucune de ces cinq requêtes ne mentionne de cible ou d’incident précis.

L’outil utilisé pour ces recherches intègre un filtre qui exclut les bus, les semi-remorques, les fourgonnettes utilitaires et les remorques ; ainsi, un livreur visitant cinq magasins est retiré de la liste, tandis qu’un conducteur ordinaire effectuant la même tournée y figure toujours. Ce type de recherche s’applique également aux déplacements interurbains : véhicules ayant quitté une ville pour une autre avant d’y revenir dans la semaine, ayant effectué plusieurs allers-retours sur une période de 14 jours ou ayant traversé trois zones successivement.»

Flock se défend en expliquant que ce produit en cours de développement ne proposera pas à terme toutes ces fonctionnalités lors de son lancement commercial. Pour Jay Stanley de l’ACLU : « Nous assistons à un déploiement agressif de l’IA par Flock ; on observe, à certains égards, une frontière très mince entre ce qui est techniquement possible et ce qui est réellement mis en œuvre. » Pour Chad Marlow, avocat à la tête de la campagne « Get The Flock Out » de l’ACLU, le danger est de passer de : « Voyez-vous des schémas criminels ? à Trouvez-moi des schémas criminels, car ces requêtes donneront des résultats différents ». Le risque est de glisser très vite au moment où un agent demandera à une IA quelles personnes elle considère comme les plus susceptibles de commettre des crimes. « Elle ne se fondera pas sur une norme juridique de suspicion criminelle, mais sur ses propres critères internes. » Le code définit déjà les filtres auxquels la requête sera soumise. Le logiciel de Flock associe des recherches de véhicules à des interrogations de fichiers de police classant les individus selon le sexe, la race, l’origine ethnique, la taille, le poids, la corpulence, ainsi que la présence de cicatrices, de marques distinctives et de tatouages. Une fonction permet d’effectuer une recherche uniquement à partir d’une description, en ciblant des enregistrements correspondant à des critères tels que « homme, environ 1,80 m, sweat à capuche noir, tatouage sur l’avant-bras » à proximité d’un lieu donné. L’outil permet à l’agent de délimiter ces critères en choisissant un rayon d’action ou en dessinant des formes libres sur une carte. Selon Stanley, cette pratique s’apparente étroitement à la question examinée par la Cour suprême des États-Unis en juin dernier : la Cour a alors statué que les individus conservent un droit à la vie privée concernant les données retraçant leurs déplacements et que le quatrième amendement s’applique lorsque la police réclame ces informations à une entreprise. Dans le cas présent, les services de police achètent directement cette capacité technologique, ouvrant la voie à des recherches exploratoires (fishing expeditions) d’une ampleur inédite.

L’année dernière, un policier du Texas a effectué des recherches sur plus de 83 000 caméras à travers le pays pour retrouver une femme ayant pratiqué un avortement elle-même, selon des journaux de recherche obtenus initialement par 404 Media. Une enquête récente du Washington Post a révélé qu’une cinquantaine d’agents de police avaient été inculpés ou accusés d’usage abusif des systèmes de lecture de plaques d’immatriculation : 26 d’entre eux les utilisaient pour surveiller leur épouse, leur petite amie, leur ex-compagne ou des femmes qu’ils souhaitaient rencontrer. En août dernier, les autorités de régulation de l’Illinois ont conclu que Flock avait enfreint la loi de l’État en menant un programme pilote – aujourd’hui suspendu – qui donnait au service des douanes et de la protection des frontières accès aux caméras situées dans l’État.

Flock laisse à ses clients le soin de définir la plupart des règles. Les responsables des services décident qui obtient des identifiants, si les données des caméras doivent être partagées au-delà des limites de la ville ou de l’État, et s’il convient d’activer les paramètres proposés par l’entreprise pour prévenir les abus. L’outil d’audit, conçu pour repérer les schémas suspects dans les recherches effectuées par un service, a été lancé en avril 2026 en tant qu’option activable par les forces de l’ordre. Or, selon le Washington Post, de nombreux services de police ont jusqu’à présent peu surveillé les recherches qu’accomplissent leurs agents sur ces systèmes.

L’Electronic Frontier Foundation a examiné des ensembles de données portant sur plus de 12 millions de recherches enregistrées sur une période de 10 mois ; elle a constaté qu’environ 20 % d’entre elles ne mentionnaient qu’un terme vague tel que « enquête », « suspect » ou « requête ». Plus de 50 services ont effectué des centaines de recherches dont le champ « motif » faisait référence à des manifestations.

Comment réguler le changement de nature de la surveillance ?

« Flock ambitionne bien au-delà de la simple lecture automatique des plaques d’immatriculation ; l’objectif est de devenir une plateforme numérique pour le maintien de l’ordre », explique Bob Ferguson, gouverneur de Washington, à l’origine d’une proposition de loi pour réguler le déploiement des caméras. « Nous sommes à l’aube de l’ère de la police automatisée et la capacité à créer des chatbots en langage naturel capables d’effectuer des recherches dans d’immenses bases de données deviendra bientôt la norme. »

Pour Jason Pye, du Due Process Institute, il y a peu de preuves que ces technologies contribuent à faire baisser la criminalité. Il rappelle que, contrairement à ce qu’affirme l’administration Trump, la criminalité violente américaine est en baisse depuis les années 90 (758,2 crimes pour 100 000 habitants en 1991 contre 348,6 en 2024). La raison de cette baisse n’est pas unique, elle n’est pas liée uniquement à l’augmentation de l’incarcération (qui s’est stabilisée dans les années 2000 alors que la criminalité a continué à chuter), mais également à l’amélioration des perspectives économiques, aux mutations des marchés de la drogue, voire même au vieillissement de la population. Si des études montrent que les LAPI peuvent aider la police à identifier des véhicules volés, à générer des pistes d’enquête et, parfois, à élucider des crimes. Établir qu’ils jouent un rôle significatif dans la baisse de la criminalité observée après 2020 est une tout autre affaire, bien plus complexe à démontrer. 

Et Pye de citer deux études portant sur l’effet des LAPI : la première note que le déploiement à Atlantic City est associé à une baisse des fusillades, des vols de véhicules et des atteintes aux bien, mais sans reconnaître que le déploiement des caméras puisse être le seul facteur explicatif. La seconde passe en revue l’ensemble des recherches sur le sujet et montre que les preuves que ces systèmes génèrent des avantages plus larges en matière de lutte contre la criminalité restent mitigées. Pye observe ensuite Atlanta, qui compte plus de 3000 systèmes Flock. Or, malgré ce réseau de surveillance sans précédent, les taux d’élucidation des crimes ne se sont pas améliorés. « Par exemple, une arrestation a eu lieu dans 54,3 % des cas d’homicide en 2021. En 2025, seuls 48 % des homicides ont été élucidés. Il existe toutefois des catégories de crimes pour lesquelles les taux d’élucidation se sont améliorés, notamment les cambriolages et les vols dans des véhicules. » De plus, malgré l’un des plus importants réseaux de surveillance des Etats-Unis, le taux de crimes violents à Atlanta a augmenté entre 2024 et 2025 (mais a beaucoup diminué, elle aussi, depuis au moins 2011). Cela ne signifie pas que les LAPI n’apportent rien à la sécurité publique, estime Pye. Ils peuvent être efficaces pour certaines tâches ou certains crimes, mais cela ne signifie pas qu’ils soient à l’origine de la baisse de la criminalité aux Etats-Unis. Et quand bien même ce serait le cas, la question de savoir quel niveau de surveillance l’Amérique est-elle prête à accepter en contrepartie de sa sécurité reste entière, estime Pye. Qui rappelle qu’avec ces systèmes, « il n’est pas nécessaire d’être soupçonné d’un crime pour que les autorités disposent potentiellement d’un relevé indiquant que votre voiture se trouvait à proximité d’une manifestation politique, d’une église, d’une armurerie, d’une clinique médicale ou du domicile d’un tiers. Il s’agit d’une forme de surveillance fondamentalement différente de celle d’un policier vérifiant ponctuellement une plaque d’immatriculation sur l’autoroute ». Le problème, c’est bien le caractère amplificateur de la surveillance que produit la mise en réseau des caméras et la possibilité de les interroger. « Cette situation soulève des questions quant aux personnes habilitées à consulter ces données, aux justifications requises pour effectuer une recherche, à l’étendue du partage de l’information, à la durée de conservation des données et aux conséquences d’une utilisation abusive du système – une éventualité inévitable. Ces questions ne disparaissent pas pour autant du simple fait que les systèmes de lecture automatique de plaques d’immatriculation aident parfois la police à élucider des crimes. » Reste que c’est « une chose qu’un agent de police voit votre voiture traverser un carrefour. C’est tout autre chose qu’un réseau de caméras enregistre discrètement chaque apparition de votre véhicule, stocke ces informations et les rend consultables dans le temps et entre différentes juridictions ». « La question est de savoir si le gouvernement devrait pouvoir exploiter des millions, voire des milliards, d’observations publiques ordinaires et légales pour en faire une carte détaillée et consultable des déplacements des personnes, sans aucun soupçon individualisé ni contrôle significatif ». 

« Supposons que des preuves plus solides finissent par démontrer que Flock prévient certains crimes. Je resterais néanmoins mal à l’aise avec ce compromis. La sécurité publique est importante, certes, mais ce n’est pas le seul critère essentiel dans une société libre. Le respect de la vie privée et l’autonomie sont tout aussi importants. Pouvoir vaquer à ses occupations quotidiennes sans que le gouvernement n’enregistre discrètement ses déplacements est fondamental. Les caméras de Flock ne se limitent pas aux personnes soupçonnées d’avoir commis des crimes. Elles collectent des informations sur tous les automobilistes qui passent devant elles, dont l’immense majorité n’a absolument rien fait de mal.

Bien sûr, ces informations peuvent être utiles à la police. C’est précisément ce qui rend la question si complexe. Presque n’importe quel système de surveillance peut améliorer la sécurité publique s’il fournit au gouvernement davantage d’informations sur nous. Installez suffisamment de caméras à des endroits stratégiques, conservez suffisamment de données et donnez-y accès à un nombre suffisant d’agences : tôt ou tard, ces informations contribueront à résoudre des crimes. L’argument selon lequel « le gouvernement pourrait trouver cela utile un jour » est un critère inacceptable pour déterminer le niveau de surveillance que les Américains sont prêts à tolérer. » Pour Pye, la surveillance omniprésente ne devrait pas devenir une composante normale de la vie américaine. 

Pour The Conversation, le philosophe et criminologue de l’Institut catholique de Lille, Tony Ferri, rappelait que c’est la nature des systèmes de surveillance, quels qu’ils soient, de s’étendre (même si dans son article, il n’évoque pas les dispositifs de lecture automatisés des plaques d’immatriculation). « Un dispositif de contrôle naît pour une cible précise, dans un contexte qui rend son acceptation facile » (…) « puis, par la force de son infrastructure technique désormais disponible, il s’étend, se prolonge, se banalise, bien au-delà de sa justification initiale ». Pris isolément, ces solutions peuvent paraître légitimes. Mais, comme le disait la CNIL elle-même dans un avis de 2022 : « ces outils ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs ». Un changement de nature et pas seulement de degré, face auquel nous avons pour l’instant bien peu de réponses pour en limiter la déflagration à l’encontre des libertés publiques.

Ah, oui, les systèmes LAPI se déploient également en France, même si pour l’instant, ce n’est pas avec la même intensité qu’aux Etats-Unis (on compterait 700 lecteurs en France mis en œuvre par la police nationale, la gendarmerie et les douanes, sans compter ceux des municipalités et des acteurs privés, comme les opérateurs de parkings et d’autoroute). Depuis 2024, un système de traitement central a été mis en place. En 2026, le récent projet de loi RIPOST renforce leur utilisation (par exemple à des fins administratives sans avoir à justifier d’une enquête spécifique), étend le régime d’infraction permettant leur consultation ainsi que la durée de conservation des informations à un an, comme s’en inquiétait, bien légitimement, la Quadrature du Net. La plateforme d’hypersurveillance des déplacements se porte bien chez nous aussi !

Hubert Guillaud

Aux Etats-Unis, la fronde contre le développement des détecteurs automatiques des numéros de plaques d’immatriculations est forte. Si quelques caméras Flock ont été vandalisées, ce sont surtout nombre de conseils municipaux abonnés au système qui rejettent et résilient leurs contrats avec l’entreprise qui les installe, suite notamment aux révélations de l’utilisation du système par l’ICE, la police qui de l’immigration américaine, qui s’en sert pour traquer les étrangers sans lien avec des infractions de circulations. 

Pour faire face à la fronde, Flock a fini par réagir et a annoncé une série de changements dans les modalités de partage d’information avec les forces de l’ordre américaine. Des changements surtout cosmétiques, ironise Gizmodo. L’entreprise, en effet, propose désormais que par défaut, la durée de conservation des informations passe de 30 à 7 jours. Mais en fait, précise l’entreprise, « les forces de l’ordre peuvent prolonger ou réduire cette période. Chaque collectivité continuera de choisir la durée de conservation adaptée à sa stratégie de sécurité publique et conforme aux politiques locales ou étatiques. » Elle annonce également un dispositif supplémentaire (le mode « Preuve ») qui permettra à la police de conserver « des données LAPI (systèmes de Lecture automatisée de plaques d’immatriculation) spécifiques à titre de preuve pour une enquête en cours, dans un stockage à long terme ». L’ACLU (American Civil Liberties Union) a publié une réponse moqueuse (« Flock semble davantage viser à résoudre un problème d’image qu’à s’attaquer aux atteintes majeures à la vie privée et aux autres préjudices engendrés par ses produits ») et maintient sa campagne invitant les citoyens à agir pour « se débarrasser du Flock » (Get the Flock out). L’Institut pour la Justice a pour sa part publié une base de données pour recenser les abus d’utilisation des systèmes de lecture automatisée de plaques d’immatriculation. L’ACLU rappelle que si Flock souhaite évaluer l’efficacité de son outil et notamment mieux surveiller les usages abusifs qu’en fait la police, l’entreprise devrait le soumettre à l’analyse d’un évaluateur indépendant. Flock a déjà par le passé annoncé des mesures de sécurité liées au motif de recherche, mais elles n’ont produit aucune amélioration, bien au contraire. Comme, le rappelle Gizmodo, « il est difficile d’imaginer qu’une personne prête à détruire une caméra Flock changera d’avis simplement parce que la durée recommandée de conservation des données passe de 30 à 7 jours ». 

Dans un entretien à la BBC, le PDG de Flock, Garrett Langley, ajoute qu’il s’est rallié à l’idée d’organisations telles que l’ACLU et l’Electronic Frontier Foundation (EFF), selon lesquelles la police devrait disposer d’un numéro de dossier en cours pour pouvoir consulter les données de Flock. Pour Cooper Quentin, de l’EFF, « les requêtes dans les bases de données [de lecteurs automatiques de plaques d’immatriculation], devraient impérativement faire l’objet d’un mandat judiciaire ». Ce n’est pas le cas. 

Alors que le gouvernement américain surveille activement sur les réseaux sociaux les publications anti-Flock devenues virales, rapporte 404 media, et menace le site DeFlock, qui cartographie la présence des caméras, son initiateur, Will Freeman, rappelle qu’il n’a jamais appelé à neutraliser les caméras ni à masquer les plaques d’immatriculation, contrairement à ce qu’affirment les récents bulletins des forces de l’ordre. Le vandalisme montre surtout que les gens sont mécontents de voir ces systèmes installés à leur insu ou sans leur consentement. Mais le sabotage semble surtout assez anecdotique, bien moindre en tout cas que la contestation qui pousse les citoyens à demander des comptes aux autorités locales qui tissent des partenariats avec l’entreprise Flock. 

Comme l’explique une enquête de New Republic sur la montée de la contestation contre les systèmes de caméras LAPI, « Flock constitue un système de surveillance de masse d’une puissance – et d’une rentabilité – stupéfiante. Ses caméras LAPI sont utilisées par plus de 1 000 entreprises et environ un tiers des 18 000 services de police des États-Unis ». L’ACLU l’estime à le nombre de caméras de surveillance des plaques d’immatriculations déployées aux Etats-Unis à 90 000. Quant à l’entreprise, elle a généré un chiffre d’affaires de 285 millions de dollars en 2024. Le géant du capital-risque Andreessen Horowitz a récemment valorisé l’entreprise à 7,5 milliards de dollars. 

Alors qu’il valorise son entreprise en promettant rien de moins que l’élimination de la criminalité des Etats-Unis d’ici une décennie, l’année dernière, Garrett Langley a qualifié DeFlock d’« organisation terroriste ». A l’heure où les actions de résistance anti-tech sont devenues, aux Etats-Unis, une menace terroriste, Will Freeman répond que son site, DeFlock, est surtout un outil de transparence. 

Les études (2019 et 2024), jusqu’à présent, montrent surtout que l’efficacité des caméras à prévenir le crime est plus que douteuse. « En 2022, l’entreprise s’est vantée que ses caméras à San Marino, en Californie, avaient entraîné une baisse de 80 % des cambriolages en cinq mois ; Forbes a révélé par la suite que les cambriolages avaient en réalité augmenté dans les années suivant l’installation des caméras de Flock ». « Même si les caméras et le réseau de surveillance de Flock contribuent à élucider certains crimes, les critiques estiment que le prix à payer en matière de vie privée est trop élevé. La police a été prise en flagrant délit d’utilisation illégale des données de Flock pour localiser une femme cherchant à avorter, pour traquer et harceler des individus, surveiller des manifestations ou prêter main-forte aux services d’immigration de l’ICE pour arrêter des individus depuis de simples suspiscions. » 

« Au minimum, cette surveillance de masse implique le suivi, sans mandat, de toute personne circulant sur la voie publique », a averti l’ACLU. « Au pire, elle instaure un État policier numérique où les forces de l’ordre […] peuvent traquer manifestants, opposants politiques, immigrés, patients et autres personnes non soupçonnées de crime, et utiliser ces informations pour leur nuire. »

Une contestation de droite comme de gauche

Sous la pression populaire d’opposants à Flocks, locaux et actifs, « Austin, au Texas, a suspendu son programme Flock en juin dernier face à la contestation locale, tandis qu’Evanston, dans l’Illinois, y a mis fin en août. Selon la NPR, au moins 30 localités « ont soit désactivé leurs caméras Flock, soit annulé leurs contrats depuis le début de l’année 2025 ». » A Ithaca, les manifestations ont fait reculer la police. Par des pétitions, des interventions publiques et des tribunes dans la presse locale, le collectif local, Flock Off, a quelque peu freiné les activités de l’entreprise. En octobre, le bureau du shérif du comté a cessé de partager les données Flock avec les comtés collaborant avec l’ICE. En février, suite à une  manifestation devant l’hôtel de ville, la police locale a réduit le nombre de services avec lesquels elle partageait les données. « À bien des égards, cela prouve qu’au niveau local, la démocratie peut encore fonctionner », estime le responsable du groupe Flock Off local. Le prochain objectif de Flock Off est de faire résilier purement et simplement le contrat passé avec la ville.

« Si les groupes opposés à Flock émergent généralement de bastions progressistes, certains États dirigés par des républicains ont également pris des mesures pour restreindre la surveillance par ces systèmes. Les libertariens, en particulier, s’opposent à Flock : le magazine libertarien Reason a publié plusieurs articles critiquant l’entreprise, qu’il accuse de mener un programme de surveillance de masse orwellien », rapporte New Republic. 

Le New York Times s’est également intéressé à « ces caméras que la police adore et que les citoyens détestent ». Au Texas, rapportent les journalistes Fernando Alfonso III et Kashmir Hill, « il est un point sur lequel progressistes et conservateurs s’accordent : ils ne veulent pas de caméras braquées sur leurs voitures ». Pourtant, les Américains sont habitués à la vidéosurveillance. « Ils en installent sur leurs sonnettes et les acceptent au coin des rues, dans les bureaux et les restaurants ». Mais, ce qui distingue les caméras Flock, rappellent les journalistes, « c’est qu’elles sont connectées entre elles, formant un vaste réseau national interrogeable ; cette situation surprend souvent les habitants – qui ignoraient que leurs autorités locales avaient souscrit à ce service – et suscite des craintes d’une surveillance digne de « Big Brother ». De plus, il est difficile de ne plus les voir une fois qu’on a commencé à les remarquer. » Le Texas est devenu un baromètre, estiment les journalistes. « Flock a commencé à vendre ses services aux services de police début 2020, en installant quelques dizaines de caméras dans une banlieue de Houston. Six ans plus tard, 700 services de police texans ont passé contrat avec l’entreprise. L’opposition regroupe des progressistes inquiets de la surveillance gouvernementale, des conservateurs méfiants à l’égard de l’extension du pouvoir de l’État, ainsi que des citoyens et des élus soucieux de leur vie privée et préoccupés par les possibles dérives du réseau. » A l’image de Hannah Foust, qui vit à Carrollton (Texas), qui a commencé à publier des messages sur les lecteurs de plaques d’immatriculation dans des groupes Reddit et a lancé une pétition en ligne pour obtenir le retrait de ces caméras de sa commune. Devant le conseil municipal, elle explique : « Je ne commets aucun délit, mais je ne veux pas nécessairement que quiconque – et encore moins des agences gouvernementales ou une entreprise privée – puisse voir où je dépose mes enfants, quel itinéraire je privilégie pour me rendre au travail, si je préfère H-E-B ou Kroger, ou quel lieu de culte je fréquente. » À travers le Texas, l’opposition à ces caméras transcende les clivages partisans. Les contrats de Flock ont ​​été résiliés aussi bien à Austin, ville progressiste, qu’à Bandera, une localité conservatrice de la région de Hill Country comptant environ 900 habitants. « Au Congrès, Keith Self, un républicain dont la circonscription se situe au nord de Dallas, a déposé un projet de loi en juillet. Ce texte imposerait aux agences fédérales chargées de l’application de la loi d’obtenir un mandat avant d’accéder aux données collectées par les systèmes de surveillance étatiques et locaux – notamment les lecteurs de plaques d’immatriculation – ou de les interroger. » Pour un colonel de l’armée à la retraite et ancien juge de comté, « nous sommes en train de basculer vers un État de surveillance », estime-t-il, en flirtant avec des dénonciations que l’on retrouve dans les pire propos conspirationnistes d’extrême-droite, comme ceux que colporte, à longueur d’émission, la War Room de Steve Bannon.

Flock, la plateforme d’hypersurveillance des déplacements

« Flock facture environ 3 000 dollars par caméra et par an, a précisé M. Langley. En contrepartie, l’entreprise installe et entretient les caméras, fournit une base de données consultable répertoriant tous les véhicules qui passent devant elles et envoie des alertes si les caméras repèrent des voitures figurant sur une liste de surveillance prioritaire – comme la base de données du FBI recensant les véhicules volés et les plaques d’immatriculation associées à des personnes disparues ou recherchées. Ces dernières années, grâce aux progrès de l’intelligence artificielle, Flock a ajouté une fonctionnalité permettant de rechercher des voitures en fonction de leur marque, de leur type, de leur couleur ou de détails spécifiques, tels que des autocollants sur le pare-chocs ou des dommages visibles.» 

« Pour effectuer une recherche, les agents précisent le type de délit, allant de la cruauté envers les animaux à l’homicide. Ils saisissent ensuite un numéro de plaque d’immatriculation ou une description du véhicule ainsi qu’un lieu, ou optent simplement pour l’option par défaut : « Tous les réseaux sélectionnés ». La recherche affiche les images des voitures correspondantes, en indiquant précisément l’heure et le lieu où elles ont été repérées, ainsi que le service de police auquel appartenaient les caméras. Par défaut, les photos prises par les caméras sont supprimées au bout de 30 jours, bien que les services de police puissent modifier la durée de conservation.

Si un service de police souhaite accéder à d’autres caméras ailleurs dans l’État ou dans le pays, il doit partager l’accès aux siennes. La plupart des organismes effectuent des recherches et partagent des informations à l’échelle nationale. » 

L’éditorialiste et animateur de télévision de droite radicale américain Tucker Carlson, qui pourrait être candidat à la prochaine élection présidentielle américaine, s’est récemment moqué de l’assimilation faite par M. Langley entre un projet de cartographie participative et le terrorisme. Carlson a déclaré n’avoir pris conscience que récemment de l’ampleur du réseau Flock après avoir consulté le site de DeFlock ; il a confié au New York Times que cette découverte l’avait « horrifié ». Il s’est dit surpris qu’un système de surveillance aussi vaste ait pu se développer en suscitant si peu d’attention de la part du public… Tant et si bien que le PDG de Flock a depuis présenté ses excuses pour ses propos assimilant le site DeFlock au terrorisme. 

« Que l’on soit libertarien, conservateur, partisan du mouvement MAGA ou progressiste, tout le monde a des objections à l’encontre de Flock », a déclaré Chad Marlow de l’ACLU. Reste que si l’opposition au Texas attire peut-être l’attention, elle n’a pas freiné la croissance de Flock. À travers l’État, de nouvelles villes signent des contrats plus rapidement que d’autres ne les résilient, a indiqué Jennifer Szimanski, porte-parole de la Combined Law Enforcement Associations of Texas, un syndicat de police représentant plus de 28 000 agents. Selon elle, la raison repose sur les résultats impressionnants du réseau. Certains services de police texans ont retrouvé des centaines de véhicules volés après avoir installé ces caméras, a-t-elle précisé, et dans les petites municipalités, les vols dans les véhicules ont pratiquement cessé. Pour elle, le risque d’utilisation abusive du système par les policiers texans n’était pas plus élevé qu’avec les autres bases de données auxquelles ils ont accès, et que Flock fournissait un historique de chaque recherche, précisant qui l’avait effectuée et pour quel motif.

La possibilité de rechercher n’importe quel véhicule circulant sur les routes du pays est certes pratique pour les autorités, mais Barry Friedman, professeur de droit et directeur du Policing Project, soutient que la création d’une vaste base de données sur les déplacements des Américains est inconstitutionnelle : « il s’agit d’une collecte de données indiscriminée, et non d’une surveillance ciblant des infractions spécifiques ». « Si le quatrième amendement existe, c’est parce que l’on estimait que le gouvernement ne devrait pas pouvoir s’en prendre à n’importe qui, même en l’absence de tout acte répréhensible. » 

Jusqu’à présent, les tribunaux ont rejeté cette interprétation, tout en laissant entendre que la situation pourrait évoluer à mesure que la technologie se généralise. Dans une affaire où des habitants avaient poursuivi la ville de Norfolk (Virginie) pour l’installation de 172 caméras Flock, un juge fédéral a statué que les lecteurs de plaques pourraient un jour devenir si omniprésents que leur utilisation s’apparenterait à une surveillance de masse indiscriminée et inconstitutionnelle, mais que ce n’était pas encore le cas. « Je ne pense pas que les juges réalisent que le pays est désormais couvert par ces dispositifs et qu’ils sont tous interconnectés », a déclaré Sid Thaxter, de l’Association nationale des avocats de la défense pénale.

En attendant, la police américaine invite les agents à ne plus mentionner le fait qu’ils ont eu recours à une technologie de détection automatique des numéros de plaques d’immatriculations dans leur rapports ou auprès des personnes qu’ils appréhendent, rapporte 404media. « Lorsque les forces de l’ordre utilisent Flock pour procéder à une arrestation dans le comté de Wapello, en Iowa, elles ne souhaitent pas que la personne concernée le sache. Une politique d’utilisation des caméras de lecture automatique de plaques du comté ordonne explicitement à la police de garder ce dispositif secret. » Un moyen de rendre encore plus invisible les abus que Flock annonce vouloir limiter. 

Pour Tech Policy Press, Jake Laperruque responsable du projet « Sécurité et surveillance » au sein du Center for Democracy & Technology (CDT), « les systèmes de lecture automatisée de plaques d’immatriculation en général, et le fournisseur de premier plan Flock en particulier, sont confrontés à un moment de prise de conscience publique aux États-Unis. Cette technologie de surveillance provoque des réactions négatives majeures dans tout le pays et devient un sujet de campagne majeur ». Mais pour Laperruque, les risques actuels liés à la vie privée liés aux systèmes de détection des plaques d’immatriculation ne sont que la pointe de l’iceberg et vont s’étendre considérablement dans les années à venir. « À moins qu’ils ne soient sérieusement maîtrisés, ces systèmes deviendront un outil de surveillance de masse bien plus répandu qu’aujourd’hui ». La raison, notamment : de nouvelles fonctionnalités ajoutées à Flock à partir d’analyses automatisées par l’agence fédérale des douanes créant des alertes sur des comportements de conduite suspects et signalant des véhicules à arrêter, rapporte AP News. Un comportement innocent au volant, comme prendre une route secondaire, conduire à des heures indues ou se rendre dans un endroit inhabituel, pourrait devenir des motifs de contrôle. 404 media a révélé également que les vidéos captées par les caméras étaient utilisées pour identifier des formes ou des conducteurs. Une fonctionnalité de recherche en texte libre permet de trouver des personnes tatouées ou portant des maillots de sport spécifiques ; ces recherches incluent parfois l’origine ethnique de la personne visée. A terme, connectée à la reconnaissance faciale, elle pourrait permettre de rechercher des personnes partout sur les routes. « Ces systèmes risquent fort de se transformer en un « œil omniscient » permettant de rechercher n’importe quel type de véhicule, d’objet ou de personne, avec la même facilité que nous recherchons aujourd’hui des mots dans un fichier texte ». Reste à savoir s’il faut limiter ce pouvoir par une accréditation judiciaire pour chercher dans ces images, comme le propose Laperruque ou limiter le développement du réseau. 

Wired rappelle que Flock Safety, géant de la surveillance des véhicules, affirme depuis des années que sa technologie « ne peut ni reconnaître, ni identifier, ni suivre des individus ». Ses pages dédiées à la confiance du public assurent aux clients que la technologie est conçue pour des enquêtes spécifiques, au cas par cas, et « non pour surveiller les gens ». Ce n’est plus le cas, notamment via l’ajout d’innombrables outils qui donnent accès « aux métadonnées des caméras, aux dossiers d’arrestation, aux dossiers d’enquête, aux journaux d’appels, aux résultats d’analyses balistiques ainsi qu’à des bases de données commerciales contenant des numéros de sécurité sociale, dates de naissance, numéros de téléphone, adresses e-mail, informations sur les proches et les associés ». Les requêtes préconfigurées d’OS Investigate, le logiciel de Flock, inversent la logique de recherche. « Un agent n’a plus besoin de plaque, de nom ou d’infraction pour lancer une recherche : il lui suffit d’indiquer un lieu, une période et un schéma comportemental, et le système identifie les personnes correspondant à ces critères. » Pour utiliser ce moteur de recherche, Flock propose des requêtes préconfigurées, comme «« Trouve-moi des témoins en te basant sur les véhicules les plus aperçus dans [tel quartier] au cours des [X derniers jours] durant [telle plage horaire quotidienne] ». Un agent remplit les champs vides et valide la demande. Le résultat est une liste de plaques d’immatriculation que d’autres outils du logiciel convertissent ensuite en noms et adresses de domicile.»

« Dix-neuf de ces requêtes visent à identifier des schémas comportementaux plutôt qu’à consulter un dossier spécifique. Quatorze d’entre elles ne nécessitent ni plaque d’immatriculation, ni nom, ni description physique ; l’agent indique simplement un lieu, un créneau horaire et un comportement.

Certaines requêtes ciblent des véhicules ayant visité au moins trois commerces dans une ville en trois jours, plusieurs banques en une semaine ou plusieurs stations-service entre minuit et 5 heures du matin. Aucune de ces cinq requêtes ne mentionne de cible ou d’incident précis.

L’outil utilisé pour ces recherches intègre un filtre qui exclut les bus, les semi-remorques, les fourgonnettes utilitaires et les remorques ; ainsi, un livreur visitant cinq magasins est retiré de la liste, tandis qu’un conducteur ordinaire effectuant la même tournée y figure toujours. Ce type de recherche s’applique également aux déplacements interurbains : véhicules ayant quitté une ville pour une autre avant d’y revenir dans la semaine, ayant effectué plusieurs allers-retours sur une période de 14 jours ou ayant traversé trois zones successivement.»

Flock se défend en expliquant que ce produit en cours de développement ne proposera pas à terme toutes ces fonctionnalités lors de son lancement commercial. Pour Jay Stanley de l’ACLU : « Nous assistons à un déploiement agressif de l’IA par Flock ; on observe, à certains égards, une frontière très mince entre ce qui est techniquement possible et ce qui est réellement mis en œuvre. » Pour Chad Marlow, avocat à la tête de la campagne « Get The Flock Out » de l’ACLU, le danger est de passer de : « Voyez-vous des schémas criminels ? à Trouvez-moi des schémas criminels, car ces requêtes donneront des résultats différents ». Le risque est de glisser très vite au moment où un agent demandera à une IA quelles personnes elle considère comme les plus susceptibles de commettre des crimes. « Elle ne se fondera pas sur une norme juridique de suspicion criminelle, mais sur ses propres critères internes. » Le code définit déjà les filtres auxquels la requête sera soumise. Le logiciel de Flock associe des recherches de véhicules à des interrogations de fichiers de police classant les individus selon le sexe, la race, l’origine ethnique, la taille, le poids, la corpulence, ainsi que la présence de cicatrices, de marques distinctives et de tatouages. Une fonction permet d’effectuer une recherche uniquement à partir d’une description, en ciblant des enregistrements correspondant à des critères tels que « homme, environ 1,80 m, sweat à capuche noir, tatouage sur l’avant-bras » à proximité d’un lieu donné. L’outil permet à l’agent de délimiter ces critères en choisissant un rayon d’action ou en dessinant des formes libres sur une carte. Selon Stanley, cette pratique s’apparente étroitement à la question examinée par la Cour suprême des États-Unis en juin dernier : la Cour a alors statué que les individus conservent un droit à la vie privée concernant les données retraçant leurs déplacements et que le quatrième amendement s’applique lorsque la police réclame ces informations à une entreprise. Dans le cas présent, les services de police achètent directement cette capacité technologique, ouvrant la voie à des recherches exploratoires (fishing expeditions) d’une ampleur inédite.

L’année dernière, un policier du Texas a effectué des recherches sur plus de 83 000 caméras à travers le pays pour retrouver une femme ayant pratiqué un avortement elle-même, selon des journaux de recherche obtenus initialement par 404 Media. Une enquête récente du Washington Post a révélé qu’une cinquantaine d’agents de police avaient été inculpés ou accusés d’usage abusif des systèmes de lecture de plaques d’immatriculation : 26 d’entre eux les utilisaient pour surveiller leur épouse, leur petite amie, leur ex-compagne ou des femmes qu’ils souhaitaient rencontrer. En août dernier, les autorités de régulation de l’Illinois ont conclu que Flock avait enfreint la loi de l’État en menant un programme pilote – aujourd’hui suspendu – qui donnait au service des douanes et de la protection des frontières accès aux caméras situées dans l’État.

Flock laisse à ses clients le soin de définir la plupart des règles. Les responsables des services décident qui obtient des identifiants, si les données des caméras doivent être partagées au-delà des limites de la ville ou de l’État, et s’il convient d’activer les paramètres proposés par l’entreprise pour prévenir les abus. L’outil d’audit, conçu pour repérer les schémas suspects dans les recherches effectuées par un service, a été lancé en avril 2026 en tant qu’option activable par les forces de l’ordre. Or, selon le Washington Post, de nombreux services de police ont jusqu’à présent peu surveillé les recherches qu’accomplissent leurs agents sur ces systèmes.

L’Electronic Frontier Foundation a examiné des ensembles de données portant sur plus de 12 millions de recherches enregistrées sur une période de 10 mois ; elle a constaté qu’environ 20 % d’entre elles ne mentionnaient qu’un terme vague tel que « enquête », « suspect » ou « requête ». Plus de 50 services ont effectué des centaines de recherches dont le champ « motif » faisait référence à des manifestations.

Comment réguler le changement de nature de la surveillance ?

« Flock ambitionne bien au-delà de la simple lecture automatique des plaques d’immatriculation ; l’objectif est de devenir une plateforme numérique pour le maintien de l’ordre », explique Bob Ferguson, gouverneur de Washington, à l’origine d’une proposition de loi pour réguler le déploiement des caméras. « Nous sommes à l’aube de l’ère de la police automatisée et la capacité à créer des chatbots en langage naturel capables d’effectuer des recherches dans d’immenses bases de données deviendra bientôt la norme. »

Pour Jason Pye, du Due Process Institute, il y a peu de preuves que ces technologies contribuent à faire baisser la criminalité. Il rappelle que, contrairement à ce qu’affirme l’administration Trump, la criminalité violente américaine est en baisse depuis les années 90 (758,2 crimes pour 100 000 habitants en 1991 contre 348,6 en 2024). La raison de cette baisse n’est pas unique, elle n’est pas liée uniquement à l’augmentation de l’incarcération (qui s’est stabilisée dans les années 2000 alors que la criminalité a continué à chuter), mais également à l’amélioration des perspectives économiques, aux mutations des marchés de la drogue, voire même au vieillissement de la population. Si des études montrent que les LAPI peuvent aider la police à identifier des véhicules volés, à générer des pistes d’enquête et, parfois, à élucider des crimes. Établir qu’ils jouent un rôle significatif dans la baisse de la criminalité observée après 2020 est une tout autre affaire, bien plus complexe à démontrer. 

Et Pye de citer deux études portant sur l’effet des LAPI : la première note que le déploiement à Atlantic City est associé à une baisse des fusillades, des vols de véhicules et des atteintes aux bien, mais sans reconnaître que le déploiement des caméras puisse être le seul facteur explicatif. La seconde passe en revue l’ensemble des recherches sur le sujet et montre que les preuves que ces systèmes génèrent des avantages plus larges en matière de lutte contre la criminalité restent mitigées. Pye observe ensuite Atlanta, qui compte plus de 3000 systèmes Flock. Or, malgré ce réseau de surveillance sans précédent, les taux d’élucidation des crimes ne se sont pas améliorés. « Par exemple, une arrestation a eu lieu dans 54,3 % des cas d’homicide en 2021. En 2025, seuls 48 % des homicides ont été élucidés. Il existe toutefois des catégories de crimes pour lesquelles les taux d’élucidation se sont améliorés, notamment les cambriolages et les vols dans des véhicules. » De plus, malgré l’un des plus importants réseaux de surveillance des Etats-Unis, le taux de crimes violents à Atlanta a augmenté entre 2024 et 2025 (mais a beaucoup diminué, elle aussi, depuis au moins 2011). Cela ne signifie pas que les LAPI n’apportent rien à la sécurité publique, estime Pye. Ils peuvent être efficaces pour certaines tâches ou certains crimes, mais cela ne signifie pas qu’ils soient à l’origine de la baisse de la criminalité aux Etats-Unis. Et quand bien même ce serait le cas, la question de savoir quel niveau de surveillance l’Amérique est-elle prête à accepter en contrepartie de sa sécurité reste entière, estime Pye. Qui rappelle qu’avec ces systèmes, « il n’est pas nécessaire d’être soupçonné d’un crime pour que les autorités disposent potentiellement d’un relevé indiquant que votre voiture se trouvait à proximité d’une manifestation politique, d’une église, d’une armurerie, d’une clinique médicale ou du domicile d’un tiers. Il s’agit d’une forme de surveillance fondamentalement différente de celle d’un policier vérifiant ponctuellement une plaque d’immatriculation sur l’autoroute ». Le problème, c’est bien le caractère amplificateur de la surveillance que produit la mise en réseau des caméras et la possibilité de les interroger. « Cette situation soulève des questions quant aux personnes habilitées à consulter ces données, aux justifications requises pour effectuer une recherche, à l’étendue du partage de l’information, à la durée de conservation des données et aux conséquences d’une utilisation abusive du système – une éventualité inévitable. Ces questions ne disparaissent pas pour autant du simple fait que les systèmes de lecture automatique de plaques d’immatriculation aident parfois la police à élucider des crimes. » Reste que c’est « une chose qu’un agent de police voit votre voiture traverser un carrefour. C’est tout autre chose qu’un réseau de caméras enregistre discrètement chaque apparition de votre véhicule, stocke ces informations et les rend consultables dans le temps et entre différentes juridictions ». « La question est de savoir si le gouvernement devrait pouvoir exploiter des millions, voire des milliards, d’observations publiques ordinaires et légales pour en faire une carte détaillée et consultable des déplacements des personnes, sans aucun soupçon individualisé ni contrôle significatif ». 

« Supposons que des preuves plus solides finissent par démontrer que Flock prévient certains crimes. Je resterais néanmoins mal à l’aise avec ce compromis. La sécurité publique est importante, certes, mais ce n’est pas le seul critère essentiel dans une société libre. Le respect de la vie privée et l’autonomie sont tout aussi importants. Pouvoir vaquer à ses occupations quotidiennes sans que le gouvernement n’enregistre discrètement ses déplacements est fondamental. Les caméras de Flock ne se limitent pas aux personnes soupçonnées d’avoir commis des crimes. Elles collectent des informations sur tous les automobilistes qui passent devant elles, dont l’immense majorité n’a absolument rien fait de mal.

Bien sûr, ces informations peuvent être utiles à la police. C’est précisément ce qui rend la question si complexe. Presque n’importe quel système de surveillance peut améliorer la sécurité publique s’il fournit au gouvernement davantage d’informations sur nous. Installez suffisamment de caméras à des endroits stratégiques, conservez suffisamment de données et donnez-y accès à un nombre suffisant d’agences : tôt ou tard, ces informations contribueront à résoudre des crimes. L’argument selon lequel « le gouvernement pourrait trouver cela utile un jour » est un critère inacceptable pour déterminer le niveau de surveillance que les Américains sont prêts à tolérer. » Pour Pye, la surveillance omniprésente ne devrait pas devenir une composante normale de la vie américaine. 

Pour The Conversation, le philosophe et criminologue de l’Institut catholique de Lille, Tony Ferri, rappelait que c’est la nature des systèmes de surveillance, quels qu’ils soient, de s’étendre (même si dans son article, il n’évoque pas les dispositifs de lecture automatisés des plaques d’immatriculation). « Un dispositif de contrôle naît pour une cible précise, dans un contexte qui rend son acceptation facile » (…) « puis, par la force de son infrastructure technique désormais disponible, il s’étend, se prolonge, se banalise, bien au-delà de sa justification initiale ». Pris isolément, ces solutions peuvent paraître légitimes. Mais, comme le disait la CNIL elle-même dans un avis de 2022 : « ces outils ne constituent pas une simple évolution technologique, mais une modification de la nature des dispositifs ». Un changement de nature et pas seulement de degré, face auquel nous avons pour l’instant bien peu de réponses pour en limiter la déflagration à l’encontre des libertés publiques.

Ah, oui, les systèmes LAPI se déploient également en France, même si pour l’instant, ce n’est pas avec la même intensité qu’aux Etats-Unis (on compterait 700 lecteurs en France mis en œuvre par la police nationale, la gendarmerie et les douanes, sans compter ceux des municipalités et des acteurs privés, comme les opérateurs de parkings et d’autoroute). Depuis 2024, un système de traitement central a été mis en place. En 2026, le récent projet de loi RIPOST renforce leur utilisation (par exemple à des fins administratives sans avoir à justifier d’une enquête spécifique), étend le régime d’infraction permettant leur consultation ainsi que la durée de conservation des informations à un an, comme s’en inquiétait, bien légitimement, la Quadrature du Net. La plateforme d’hypersurveillance des déplacements se porte bien chez nous aussi !

Hubert Guillaud

Mais pourquoi l’IA est-elle utilisée pour faire la guerre ?, demande le sociologue Ori Schwarz dans un passionnant article pour Big Data & Society, en observant l’usage qu’en a fait l’armée israélienne à Gaza (voir notre dossier L’IA ça sert, d’abord, à faire la guerre). Qu’apporte-t-elle, que permet-elle que les techniques de guerre traditionnelle n’apportent pas ? 

Pour le chercheur, l’IA a été utilisée pour accélérer la génération de cibles, car l’armée israélienne a adopté une doctrine axée sur la « létalité » (visant à maximiser le nombre de victimes) tout en intégrant le droit international humanitaire (qui impose de distinguer les cibles militaires des civils). L’IA n’était pas tant requise pour personnaliser le traitement, que pour justifier d’un traitement uniforme en créant des justifications adaptées, explique-t-il. Elle a été instrumentalisée pour légitimer tueries et destructions de masse en fusionnant et en analysant automatiquement des données pour transformer des milliers d’individus et de bâtiments en cibles légitimes assorties de scores de probabilité individuels. 

Pour le chercheur, le profilage, la « singularisation automatisée » (que proposait le sociologue allemand Andreas Reckwitz dans son livre, The Society of Singularities, Polity, 2020), c’est-à-dire le fait que chacun soit traité différemment selon les données récoltées sur lui, est utilisée avec succès dans tous les domaines que le numérique transforme (marketing, médecine, tarification…). Mais, alors que le profilage ne cesse de promettre une distinction plus précise, il permet finalement de générer des effets de masses désastreux, comme dans le cas des destructions lors de la guerre à Gaza, brouillant la distinction entre cibles militaires et populations protégées. « Plus de 71 000 Palestiniens ont été tués, selon les chiffres officiels palestiniens et les estimations de l’armée israélienne. Mais seuls 20 % d’entre eux seraient des militants du Hamas alors que près de la moitié des victimes seraient des femmes et des mineurs. Des milliers d’autres sont portés disparus et d’autres encore sont morts de maladie et de malnutrition. Près de 2 millions de personnes ont perdu leur logement, la plupart des bâtiments résidentiels de Gaza ayant été détruits ou gravement endommagés. L’ampleur des pertes civiles a conduit la Cour internationale de Justice à saisir Israël pour violation présumée de la Convention sur le génocide. » 

Une grande partie de ces victimes et destructions visait des cibles identifiées par les services de renseignement israéliens grâce à une utilisation sans précédent de technologies numériques sophistiquées. Schwartz y voit un paradoxe. D’un côté, l’armée israélienne s’est vantée d’effectuer la sélection des cibles à l’aide d’outils d’IA et d’analyse de données les plus sophistiqués pour identifier des cibles humaines et des infrastructures liées au Hamas ; pourtant, le résultat de cet investissement sans précédent dans un ciblage sophistiqué donne l’impression d’une destruction et de tueries massives et indiscriminées. « Si l’objectif est de tuer sans distinction, pourquoi une technologie aussi avancée est-elle nécessaire ? » 

Pour Schwarz, si l’IA est utilisée pour procéder à des tueries de masse, c’est justement en raison de sa capacité de distinction : « en singularisant les justifications de tueries indiscriminées, elle produit de la distinction au service de l’indiscrimination ». Cela se produit parce que les effets sociaux de l’IA ne sont pas prédéterminés par les caractéristiques technologiques, mais façonnés par les contextes juridique, structurel, culturel, politique et moral dans lesquels la technologie s’inscrit. En particulier, les tueries et les destructions indiscriminées découlent de la construction politique de « cibles ». À une époque où le droit international humanitaire ainsi que les normes éthiques et professionnelles militaires exigent de ne viser que des « cibles » légitimes, l’impact du big data sur la guerre ne consiste pas nécessairement à réduire les massacres et les destructions en trouvant « l’aiguille dans la botte de foin », comme on l’affirme généralement. Mais, tout le contraire : « il s’agit de transformer le foin en aiguilles, en « incriminant » presque tous habitants ou tous les immeubles résidentiels par l’élaboration d’un récit singulier les associant exclusivement à l’ennemi, légitimant ainsi une destruction indiscriminée. » Pour le chercheur, les massacres et les destructions ne s’expliquent pas uniquement par ces développements technologiques bien sûr, mais la justification technique a permis de renforcer les dynamiques politiques en cours. 

Les raisons du succès de l’élimination ciblée

Longtemps, les assassinats extrajudiciaires se limitaient à de rares opérations clandestines visant des opposants de haut rang, rappelle le chercheur. Puis l’élimination ciblée s’est transformée en une politique déclarée, systématiquement mise en œuvre à une échelle toujours plus vaste. 

Cette politique s’appuie sur trois principes. Premièrement, l’individualisation de la guerre : l’affrontement est requalifié en une action de police ou de poursuite judiciaire visant des individus. Les individus deviennent des cibles non pas en raison de leur statut (appartenance à une force armée ennemie), mais en raison de leur comportement ou de la menace qu’ils représentent. Chaque individu reçoit un score qui détermine son implication quelque soit les biais du calcul. Et la valeur que l’on attribue à cette implication peut varier. 

Deuxièmement, la juridicisation de la guerre : face à la complexité croissante du droit international humanitaire, les armées ont intégré des juristes à leurs équipes pour protéger leurs personnels des poursuites. Désormais, il faut pouvoir établir la légalité des attaques, au regard de principes de nécessité, de proportionnalité et de distinction. Tout en trouvant des modalités pour interpréter le droit international de manière extensive… La juridicisation a conduit à devoir collecter des données pour établir la légalité des ciblages. 

Troisièmement, le transfert de risque vise à minimiser le risque pour les soldats en les transférant aux civils ennemis, par exemple en recourant à des bombardements aériens, de préférence par drones, plutôt qu’à des combats terrestres ou à des arrestations. « Depuis 2000, l’ampleur des « assassinats ciblés » a connu une croissance spectaculaire, passant de quelques dizaines à plusieurs milliers de victimes. Cette augmentation est due à l’élargissement controversé de la définition des cibles légitimes », qui a inclus les membres non combattants d’organisations terroristes, puis les civils ayant contribué indirectement aux hostilités. Cet élargissement a engendré un nouveau défi que les systèmes d’IA ont cherché à relever par le scoring : prouver le lien de la cible avec l’organisation ennemie. Si ce lien était évident lorsqu’il s’agissait de cibler des commandants de haut rang, il est devenu de plus en plus difficile à prouver à mesure que le nombre de cibles augmentait. Ce n’est qu’au cours de la guerre de Gaza de 2023, avec la décision d’attaquer des dizaines de milliers de jeunes militants du Hamas, que la nécessité de vérifier si la cible envisagée pour un assassinat avait un lien quelconque avec une organisation terroriste, s’est imposée. « L’utilisation du big data a transformé les cibles d’exécutions extrajudiciaires, passant d’individus isolés (des personnes importantes et connues) à des cas regroupés en clusters dynamiques calculés par des algorithmes. Si les « assassinats ciblés » requièrent certaines technologies de renseignement et de surveillance, l’analyse des mégadonnées a été progressivement introduite, d’abord pour réduire le taux élevé d’erreurs d’identification humaine, puis, à plus grande échelle, pour rationaliser les opérations d’assassinat, en réduire les coûts et en étendre la portée ». Bien que l’utilisation de l’IA pour « incriminer » des cibles repose sur l’individualisation et la juridicisation de la guerre, la quantification automatique des risques entre en conflit avec des principes juridiques fondamentaux tels que le raisonnement, la réflexion et la prise de décision contextualisée. Les chercheurs critiques Nicola Perugini et Neve Gordon affirment que les assassinats ciblés reposent sur un « dispositif de distinction » conçu pour désigner des cibles humaines à des fins militaires en identifiant des « anomalies » dans les relations entre les données, c’est-à-dire en surveillant les comportements et en repérant les irrégularités. Les écarts statistiques sont alors considérés comme des écarts normatifs passibles de la peine de mort, comme l’expliquait le politologue Hendrik Huelss. 

Avant même leur automatisation, les assassinats se fondaient déjà sur l’identification de schémas de vie associés au terrorisme. La surveillance et les données permettent de requalifier des individus, auparavant considérés comme des « civils » protégés, en cibles ennemies jugées moralement et légalement abattables, même lorsqu’ils ne participent pas directement aux hostilités. Eric Bonds a qualifié ce phénomène de « violence humanisée », une nouvelle forme de violence qui se manifeste à la fois par une pratique (fondée sur la surveillance et les technologies d’élimination de précision) et par un discours de légitimation (qui s’appuie sur le langage des droits de l’homme et qui, comme le présente ses partisans, paraît rationnel, mesuré et humain, car ils s’efforcent de minimiser les dommages causés aux civils innocents en évaluant les dommages collatéraux prévus de chaque frappe par rapport à son avantage militaire). Ceci produit un « effet paradoxal » : le strict respect des procédures et des critères juridiques (qui interdisent de cibler les civils ne participant pas aux hostilités et exigent que les dommages causés aux civils soient minimaux) tout en permettant de les contourner. 

Le scoring pour renforcer la tolérance à l’intolérable

Le paradoxe, c’est que la justification par le calcul renforce la tolérance à l’égard des meurtres de civils. « L’utilisation de technologies avancées visant à réduire les dommages causés aux civils (par exemple, la reconnaissance faciale pour éviter les erreurs d’identification et l’imagerie satellitaire pour estimer les dommages collatéraux et calculer la proportionnalité avec une précision actuarielle) et le recours à des calculs proportionnels à l’avantage militaire renforcent la légitimité et la tolérance à l’égard des meurtres de civils ». 

En effet, ces calculs rendent chaque attaque juridiquement justifiée et les décès de civils regrettables, mais légitimes. Les efforts déployés pour minimiser les « dommages collatéraux » (en avertissant les civils avant les attaques et grâce aux calculs de proportionnalité) présentent les incidents ayant entraîné de nombreuses victimes civiles comme des accidents involontaires comme l’explique Craig Jones dans son livre The War Lawyers (Oxford University Press 2020 ou Yael Levy, dans le sien Shooting without crying: The new militarization of Israel in the 2000s, 2023). Et la numérisation renforce considérablement cette légitimation : les scores calculés par algorithme bénéficient d’une aura d’objectivité et de confiance en raison de la confiance bien documentée accordée aux chiffres – notamment par l’historien des sciences Theodore Porter dans son livre, La confiance dans les chiffres (Les Belles lettres, 2017). En convertissant l’incertitude quant aux dommages potentiels causés aux citoyens en « risques » mesurables, les algorithmes transforment les dilemmes moraux en procédures technico-informatiques et finalement réduisent les doutes moraux et la réflexivité, comme le montrait Lucy Suchman dans un article de recherche. Finalement, le ciblage automatisé permet de légitimer les frappes, qu’importe les dégâts qu’elles causent. Or, la violence « humanisée » tue principalement des civils (60 % à 90 % des décès sont des « dommages collatéraux » expliquaient déjà Perugini et Gordon, rappelant également qu’elle est imprécise et surtout qu’elle restreint les catégories protégées tout en légitimant le meurtre). 

Contrairement aux tirs des chars, les frappes aériennes contres des cibles spécifiées par le renseignement sont soumises aux principes du droit international humanitaire qui définit les conditions de la légitimité de la violence militaire et doivent donc être traduit en procédures formelles qui encadrent la définition des cibles. Le droit humanitaire repose notamment sur des principes de distinction (ne cibler que les cibles militaires dont l’attaque procure un avantage militaire, et non les civils ou les infrastructures civiles), de proportionnalité (interdire les attaques qui causent des dommages disproportionnés aux civils par rapport à l’avantage militaire obtenu) et de précaution. Mais une autre doctrine est venue également changer le cours de la guerre : la doctrine de la létalité. Plus que le contrôle du terrain, le nombre de morts ennemis est devenu le principal critère d’évaluation des opérations militaires ou des performances des unités. L’industrialisation de l’extermination de précision, défendue par Aviv Kokhavi, chef d’état major de l’armée israélienne, exigeait la production en masse de cibles pour les frappes aériennes. Mais la cible, même légitime, est une construction politique et sociale, comme le montrait l’article de +972 Magazine, qui évolue selon le contexte, à l’image des dommages collatéraux afférents autorisés ou du niveau du scoring qui transforme un soupçon en cible. 

En effet, les procédures utilisées pour transformer des personnes ou des bâtiments en cibles impliquent divers acteurs s’intégrant à un réseau : non seulement les définitions juridiques, les concepts moraux et les agents de renseignement, mais aussi les documents de renseignement, les technologies de surveillance qui les produisent et les technologies utilisées pour les traiter et les analyser. La construction des cibles n’étant pas uniquement un processus social, les évolutions technologiques peuvent la transformer. Et le scoring est justement en passe de devenir le facteur d’accélération. 

Comment l’IA a-t-elle modifié la construction des cibles, qui n’est pas uniquement un processus social ? Lors de la guerre de Gaza, Israël a utilisé deux types de systèmes d’IA distincts, l’un pour les cibles d’infrastructure et l’autre pour les cibles humaines, explique Schwarz. Ces systèmes avaient des historiques différents, mais présentaient de nombreux points communs. Les personnes interrogées ont souligné que ces deux systèmes ne prenaient pas de décisions à la place des humains, mais accéléraient la production de cibles de deux manières : en fusionnant les informations provenant de sources multiples et en rendant accessibles aux analystes toutes les informations pertinentes concernant chaque cible potentielle ; et en classant les cibles potentielles selon leur probabilité estimée. Ainsi, les analystes humains peuvent se concentrer exclusivement sur les cibles les plus susceptibles d’être approuvées : « [Supposons] que vous disposiez d’un milliard d’informations et que (…) vous n’ayez que 100 cibles alors que vous avez 10 000 candidats. Alors, à quoi sert l’IA ? À une seule chose : les trier par ordre de priorité. (…) [L’ordinateur] a pris les 10 000 suspects, a examiné quelques milliers de cas avérés et [a reçu l’instruction de trier] tout ce qui se ressemble sur tous les points. Ensuite, la machine établit les priorités, c’est tout. Une fois les priorités établies, elle indique aux services de renseignement : vérifiez ceci, cela et cela. Attribuez une file d’attente. (…) Cela signifie que le travail est rationalisé. Mais aucune machine ne décide », déclarait un officier de l’armée israélienne. 

Ce discours humaniste et anthropocentrique, également fréquent dans les déclarations de Tsahal sur l’IA, minimise le rôle de la technologie, la réduisant à un simple outil au service d’objectifs humains. L’armée israélienne a décrit le système d’IA « Gospel » comme un simple « outil technique destiné aux analystes du renseignement », car sa traçabilité et son intelligibilité permettent aux analystes d’examiner eux-mêmes les éléments de renseignement sur lesquels reposent ses recommandations. Cependant, même une délégation partielle du ciblage peut avoir des conséquences plus importantes : d’une part, les pressions organisationnelles de niveau intermédiaire en faveur de l’efficacité et les biais d’automatisation de niveau micro peuvent conduire les analystes humains à approuver les recommandations du système de manière quasi automatique (comme nous le disions dans la seconde partie de notre dossier) ; d’autre part, les outils ne se contentent pas de réaliser les objectifs des utilisateurs, mais les façonnent également en proposant de nouvelles pistes d’action permettant l’accélération. Yossi Sariel, ancien commandant de l’unité de renseignement 8200 de Tsahal, a soutenu que l’accélération est l’une des deux principales contributions de l’automatisation informatique au renseignement. Selon lui, la production d’un plus grand nombre de cibles est nécessaire pour exercer une pression constante sur l’ennemi et le vaincre, mais l’intervention humaine constitue un goulot d’étranglement, car la création d’un tel nombre de cibles exigerait des milliers d’enquêteurs traitant et analysant les données pendant des années. Pour lever cet obstacle, il faudrait une « équipe homme-machine » capable de constituer une base de données de dizaines de milliers de cibles et d’en générer des milliers d’autres chaque jour de combat, comme il l’expliquait dans son livre éponyme. La seconde contribution identifiée par Sariel est la prédiction, définie comme le fait de « compléter les informations manquantes » à partir des tendances observées dans les données massives. La prédiction n’est donc pas seulement orientée vers l’avenir (prédire qui commettra un attentat-suicide), mais surtout vers le présent et le passé (prédire où des armes ont été dissimulées). Les prédictions revêtent alors une importance épistémologique : « elles permettent d’incriminer des personnes et des lieux sur la base d’informations incriminantes inconnues, déduites d’éléments non incriminants connus ». L’IA sert à la production d’inférences, de décisions probabilistes que leur niveau de probabilité valide. 

La probabilité sert à générer les cibles et intensifier les frappes

La génération par IA de cibles d’infrastructures (de bâtiments) s’effectue au sein de la Direction du ciblage de l’armée israélienne, créée en 2019, explique Schwarz. Cette création faisait suite à un rapport du Contrôleur de l’État indiquant que la banque de cibles disponible au début de la guerre de 2014 entre Israël et le Hamas était bien inférieure au potentiel réel. Une personne interrogée a expliqué les raisons de la création de cette direction en ces termes : « On veut disposer d’une banque de cibles de qualité, que l’on peut frapper pour contraindre le Hamas à capituler » ; or, en 2014, « cela ne s’est pas passé ainsi : il a fallu envoyer des troupes au sol ». L’armée et les médias israéliens ont présenté cette direction et le système d’IA « Gospel » comme la solution. 

Lors des conflits précédents, la banque de cibles s’épuisait après quelques jours ou semaines de bombardements intensifs, limitant le volume de tirs. La direction a promis de remédier à ce problème en accélérant et en rationalisant la génération de cibles, tant avant que pendant les hostilités, afin de « transformer la capacité de destruction de Tsahal en un système industriel » capable de « détruire des milliers de cibles chaque jour », explique un article de Ynet, l’un des journaux en ligne hébreu. Pour y parvenir, Gospel fusionne des milliards de données provenant de sources variées (et notamment du renseignement, telles que des appels téléphoniques interceptés et des photographies aériennes), identifie des cibles potentielles grâce à l’apprentissage automatique (en se fondant sur leur ressemblance avec des cibles précédemment validées) et les classe selon la probabilité qu’il s’agisse de cibles légitimes et de qualité. Ces recommandations classées sont ensuite transmises à des analystes humains pour décision, puis à des officiers supérieurs pour approbation.

Cette automatisation partielle accélère considérablement la génération de cibles. Un officier supérieur du renseignement a noté : « Gospel dispose d’une interface utilisateur très simple qui organise la file d’attente des cibles en fonction de la probabilité et de l’importance. Ainsi, l’opérateur humain reçoit simplement une liste établie par la machine, indiquant la probabilité qu’il s’agisse d’une cible valide ainsi que son importance. Le système fonctionne par scores. Par exemple, il s’agit d’une cible avec une probabilité de 80 % ou de 30 %. La machine émet donc une recommandation : « À mon avis, c’est une cible. » L’opérateur prend alors le relais, vérifie le processus suivi par la machine, exerce son jugement – car la machine peut parfois commettre des erreurs – et décide finalement s’il s’agit bien d’une cible. »» Un autre officier a expliqué que la priorisation automatisée était devenue nécessaire en raison de la « croissance exponentielle » du volume de données (consécutive à la numérisation, à la « datafication » et à l’impératif de collecter et d’analyser toutes les données), rendant l’analyse humaine impossible : « Que faire ? Recruter 50 000 agents de renseignement ? Nous ne les avons pas. Alors, utilisons un bon ordinateur pour effectuer la priorisation à notre place. En somme, c’était la mission assignée à la Direction du ciblage. » Un juriste impliqué dans l’élaboration des cibles a affirmé que la cadence de production du système était 50 fois supérieure à celle d’une équipe de 20 officiers de renseignement. Les personnes interrogées ainsi que les déclarations officielles de l’armée ont souligné que la Direction du ciblage avait pour vocation de « constituer de vastes banques de données » afin de permettre l’attaque de « milliers de cibles en une seule journée », industrialisant ainsi l’extermination. Comme souvent, cette industrialisation s’est accompagnée d’une intensification du travail : dès 2019, les soldats de cette direction nouvellement créée ont fait état de pressions visant à accélérer la production de cibles en faisant l’impasse sur un examen approfondi, avec des mesures incitatives – telles que des jours de congé – pour les équipes les plus « productives ». La durée de validité limitée des cibles a été prolongée grâce à une modification des procédures, autorisant le bombardement de cibles plusieurs mois après leur identification, sans nouvel examen, expliquait Haaretz. 

« L’accélération de la production de cibles est jugée cruciale en temps de guerre et l’IA permet justement d’accélérer la production ». Cette accélération a atteint son paroxysme lors de la guerre contre Gaza : au 27e jour du conflit, Tsahal a annoncé avoir frappé 12 000 cibles tout en générant simultanément 1 200 nouvelles cibles grâce à son « usine à cibles » fonctionnant 24 heures sur 24. 

Mais l’utilisation de l’IA pour identifier des listes de personnes à cibler plutôt que des lieux relève d’une autre dynamique, explique Schwarz. Une dynamique qui a débuté avec le recours à l’IA pour des arrestations préventives.

À l’automne 2015, Israël a dû faire face à une vague d’attaques spontanées, perpétrées principalement par des adolescents. Il était difficile de déjouer ces attaques, car les auteurs n’étaient affiliés à aucun réseau terroriste ou de guérilla. En conséquence, les services de renseignement israéliens ont mis au point un modèle visant à prédire quels adolescents étaient les plus susceptibles de commettre des attaques, en analysant les schémas d’activité sur les réseaux sociaux (publications, « like », commentaires, émojis, nouveaux liens) ainsi que des données provenant d’autres sources (par exemple, les données de localisation), en attribuant à chaque adolescent palestinien un score de risque. Le modèle s’appuyait sur des schémas prédictifs identifiés à la fois par l’apprentissage automatique (analyse de mégadonnées) et par des analystes humains (par exemple, de nouvelles coupes de cheveux, les auteurs d’attentats-suicides adoptant souvent une nouvelle coiffure peu avant de passer à l’acte). Ce modèle a conduit à l’arrestation préventive de centaines d’adolescents palestiniens. 

D’autres systèmes ont été développés par la suite pour identifier des membres d’organisations terroristes en vue de leur arrestation et de leur interrogatoire. Lors de la guerre à Gaza, cette stratégie a été étendue pour dresser des listes de cibles à éliminer d’une longueur sans précédent, appliquant les principes de la police prédictive pour produire des cibles à éliminer. Le système d’IA « Lavender » attribuait à presque tous les habitants de Gaza un score de probabilité d’appartenance au Hamas, en se fondant sur des facteurs couramment utilisés dans la police prédictive comme le montre la sociologue Sarah Brayne dans son livre, Predict and surveil (2021, Oxford university Press), notamment les réseaux personnels, les habitudes de vies comme les lieux fréquentés et les déplacements. 37 000 Palestiniens ont été identifiés par algorithme comme étant probablement des membres du Hamas comme le montrait Abraham dans son article pour +972 Magazine.

« Les scores de probabilité transforment la distinction entre terroriste et civil, passant d’une catégorie binaire à un continuum statistique ». Les individus classés par l’IA comme membres probables du Hamas étaient alors ajoutés aux listes de cibles à éliminer sans réel examen supplémentaire. D’autres rapports font état d’une certaine forme de supervision humaine ; par exemple, des officiers auraient corrigé une erreur d’interprétation de l’IA qui avait pris une liste d’élèves du secondaire pour une liste de militants potentiels, une erreur qui aurait pu conduire à désigner à tort 1 000 adolescents comme cibles. 

Reste que l’accélération n’a pas été que technologique, elle a aussi été politique.  Le Premier ministre Benjamin Netanyahu aurait reproché au chef d’état-major Herzi Halevi de n’avoir bombardé « que » 1 500 cibles au cours des 48 premières heures du conflit ; il a rejeté l’explication de Halevi, qui indiquait ne pas disposer de 5 000 cibles, en déclarant : « Je m’en fiche ». Sans l’IA, estime Schwarz, « il aurait été difficile d’atteindre une telle ampleur de morts et de destructions ».

L’armée israélienne a assoupli son interprétation du droit international humanitaire pendant la guerre sans pour autant abandonner totalement ce cadre, par exemple en relevant les seuils de « dommages collatéraux » et en autorisant des attaques ciblées contre chacun des 37 000 membres présumés de rang inférieur du Hamas, à condition que le nombre de décès civils anticipés reste inférieur au seuil. La pratique du « roof-knocking » (bombardements d’avertissement) a été abandonnée et des cibles présentant une probabilité moindre ont été prises en compte. En conséquence, le taux de mortalité civile s’est envolé. L’approche vis-à-vis des infrastructures civiles a également évolué pour maximiser la destruction : des immeubles de grande hauteur et des bâtiments universitaires par exemple ont été désignés comme des cibles essentielles et visés en raison de la présence d’un objectif militaire légitime à un seul étage, mais détruits par un armement provoquant l’effondrement de l’édifice tout entier.

Au regard du droit international, cela pourrait être considéré comme une violation des principes de proportionnalité et de précaution. Mais cette proportionnalité et ces précautions, on le voit, permettent aussi de faire varier les classement en ajustant les justifications, sur la base de données singulières et spécifiques l’associant au Hamas avec une certaine probabilité. Tout l’enjeu consiste à fourbir des probabilités et les compléter de narratifs adaptés afin de produire des explications. La destruction des infrastructures civiles, quelle que soit la raison, est devenu l’objectif derrière les justifications : toutes les cibles détectées sont devenues un moyen pour raser Gaza. 

L’IA : l’outil pour légitimer la guerre

Pour Ori Schwarz, « les systèmes d’IA ont épargné les dilemmes moraux en légitimant les attaques. Le rôle de l’IA a donc consisté à ériger le général en singulier, transformant presque tout en cible ». Pour Schwarz, avec la guerre à Gaza, l‘IA est devenue un outil de légitimation : l’automatisation permet le respect des procédures. Elle est un moyen  pour « préserver les normes éthiques en les inscrivant dans le code, les transformant de règles réglementaires en règles génératives inviolables ».

Comme c’est le cas depuis longtemps, l’automatisation est censée garantir l’éthique. Mais ce n’est pas si vrai. D’abord parce que le système permet d’abaisser le seuil de confiance du ciblage et donc faire que la machine contourne la règle. Et surtout que l’opacité et la complexité du calcul permettent de faire disparaître ses défaillances et la surveillance par les opérateurs humains. 

Le statut moral dépend désormais des procédures et non des résultats. Mais surtout, en validant les dommages collatéraux, l’IA a servi de mécanisme de légitimation des massacres de civils. Tactiquement, le rasage des zones urbaines avant les manœuvres terrestres permettait aussi de protéger les soldats israéliens. Enfin, le ciblage fournit un prétexte pour la destruction, une « couverture morale ». 

Certains officiers souhaitaient que l’IA puisse générer elle-même les attaques depuis les scores produits. Cette proposition ne s’est pas encore concrétisée, mais les digues sont prêtes à lâcher, estime Schwarz. Notamment parce que les humains dans la boucle de la vérification ne servent déjà plus que d’agents d’enregistrement, chargés de validés les cibles en quelques secondes, sans avoir le temps d’examiner les données ni de comprendre les calculs qui les produisent. Pour Schwarz, si l’armée israélienne n’a pas franchi le pas, c’est notamment parce que le droit international humanitaire exige qu’un humain réponde de chaque décision. Mais plus encore, parce que garder un humain dans la boucle donne l’apparence d’une décision issue d’une délibération humaine.

C’est oublier que l’IA n’organise pas seulement la file d’attente des cibles, elle les désigne. Ce sur quoi les humains ont encore le contrôle reste surtout les critères pris en compte par les données et les seuils. Pour Schwarz, l’élaboration des cibles n’est pas un processus purement social, mais elle n’est pas non plus purement technologique. Le ciblage doit pouvoir être expliqué, contre-interprété. Les opérateurs ne font pas nécessairement confiance aux scores produits, tant qu’ils ne pensent pas les comprendre « et après l’avoir testé sur la durée, en constatant qu’il est cohérent avec le scénario qu’il a en tête » (même constat pour les radiologues confrontés aux résultats de l’IA). La validation d’une cible repose toujours sur une preuve, c’est à dire un récit. Et les analystes doivent souvent défendre leurs choix et validation, comme s’ils étaient face à un tribunal. Ils doivent défendre la cohérence des éléments qu’ils ont sous les yeux. Le risque à terme, suggère Schwarz, c’est que l’IA produise aussi les récits, quand bien même ils seraient aussi faux que les éléments cohérents que valident les humains. Un système d’IA pourrait identifier un lieu fréquenté par plusieurs militants et lui attribuer une priorité élevée, sans envisager qu’il puisse s’agir d’un restaurant, ou qu’une conversation interceptée évoquant le terrorisme provienne en réalité d’un film diffusé à la télévision. Les systèmes d’IA servent « à trouver des corrélations (…) entre toutes sortes de variables que vous ne jugiez pas intéressantes jusqu’alors (…) Évidemment, je présente aux analystes du renseignement une grande quantité de données et de corrélations en leur disant : « Regardez, c’est intéressant ». » Les analystes tentent ensuite d’ouvrir la « boîte noire » et d’élaborer un récit expliquant le fonctionnement du modèle et les raisons de son efficacité, une étape nécessaire pour que le modèle inspire confiance et soit mis en service. « Je leur montre des points de données très précis, [des variables prédictives] », explique un officier chargé de la formation des agents aux outils. Toutefois, il souligne que dans ces situations, les prédictions du système ne servent pas à désigner des cibles tant que les analystes n’ont pas ouvert la boîte noire et expliqué pourquoi ces variables spécifiques intégrées au modèle permettent de prédire les résultats. Pour Schwarz, ces débats contredisent la promesse épistémologique de l’IA – fondée sur un empirisme radical – selon laquelle la prédiction rendrait l’explication superflue, ou qu’il n’y aurait plus besoin de théorie. 

Reste, rappelle Schwarz, que même si vous faites confiance à vos experts en science des données et que vous avez collecté et testé les données avec soin, vous ne pouvez pas juger de leur qualité. Vous devez expliquer le plus précisément possible ce que les variables indiquent et pourquoi le modèle prédit ce qu’il prédit. Par conséquent, l’analyste ne renoncera pas à comprendre la signification des corrélations et les raisons des choix du modèle. Les développeurs débattent souvent de la meilleure façon de représenter ces corrélations sans induire les utilisateurs en erreur. Si la classification algorithmique des individus comme cibles à forte probabilité est effectuée automatiquement, sans récit, les agents de renseignement en construisent, à la fois en amont, lors du développement du système, et ultérieurement, afin de conférer sens et légitimité aux recommandations algorithmiques (même si cette dernière dimension a pu s’éroder en raison de l’accélération de la production de cibles en temps de guerre). 

Instaurer la confiance : camoufler l’IA 

La confiance dans les chiffres n’est pas aussi omniprésente et automatique que la littérature pourrait le laisser croire. Dans notre cas, les utilisateurs finaux des systèmes de mégadonnées (analystes du renseignement) étaient initialement méfiants à l’égard de l’automatisation et des probabilités calculées algorithmiquement. Un développeur que Schwarz a interviewé leur a reproché de se méfier des systèmes d’IA en raison de leur « peur de l’erreur » et de leur prudence excessive (« Ils ont besoin d’un niveau de certitude non pas de 100 %, mais de 200 %, et une telle chose n’existe pas »). Face aux soupçons et à la nécessité de « faire confiance aux chiffres », les developpeurs du système ont entrepris un travail de sensibilisation et élaboré une stratégie sophistiquée : dissimuler le rôle de l’IA et insister sur l’implication humaine. « Les agents du renseignement n’utilisent pas l’IA, ils utilisent des outils conçus pour eux, et de leur point de vue (…), s’il y a de l’IA, d’après mon expérience, ils ne lui font pas confiance. En fait, pour les inciter à l’utiliser, nous n’avons pas dit “c’est de l’IA pure”, mais nous nous sommes assurés que l’agent qui examine une cible puisse voir que Sharon l’a déjà examinée, qu’il puisse voir le nom de la personne qui l’a fait, et qu’il connaisse Sharon. » Ils doivent savoir que Sharon est la meilleure pour identifier les cibles et, par conséquent, ils peuvent lui faire confiance. Dans cet exemple, ils ont tiré parti de la confiance que le personnel du renseignement accordait à une ancienne agente de renseignement très appréciée (« Sharon »), promue et mutée au sein de l’équipe technique. Elle y étiquette les données et valide les cibles générées par algorithme avant leur transmission aux services de renseignement et juridiques pour approbation. La confiance personnelle en Sharon peut faire toute la différence : « Nous avons constaté que lorsqu’une personne comme Sharon est présente, ils font confiance au système ; en revanche, lorsqu’on leur dit “ce n’est qu’un modèle”, ils n’y croient pas [et recommencent le processus manuellement depuis le début]. » Paradoxalement, la confiance dans l’IA (nécessaire à la délégation partielle du travail de renseignement aux algorithmes) exigeait la confiance envers les personnes qui faisaient confiance à l’IA, camouflant ainsi le rôle de cette dernière.

Nous savons que l’IA n’est pas une magie sans intervention humaine ; elle repose sur le travail humain, parfois dissimulé sous l’apparence de décisions de la machine, rappelle Schwarz en évoquant les travaux relatifs au Digital Labor. Or, ici, c’est l’inverse qui se produit : lors du développement des modèles, les décisions des machines doivent être expliquées par des experts humains qui en reconstituent la logique ; et plus tard, lorsque ces systèmes sont utilisés pour produire des cibles, leurs recommandations doivent être camouflées en décisions d’experts humains. Enfin, en temps de guerre, lorsque les analystes du renseignement consacrent à peine 20 secondes à approuver les recommandations de l’IA, le travail de cette dernière est une fois de plus dissimulé sous l’apparence de délibérations humaines. 

C’est peut-être à cela que sert encore l’humain dans la boucle : valider les procédures humaines plus que juger du travail des systèmes d’IA. 

En examinant de près l’utilisation de l’IA pendant la guerre de Gaza, l’article de Ori Schwarz montre que l’IA était nécessaire non pas pour personnaliser le traitement, mais pour justifier un traitement uniforme en créant des justifications personnalisées pour le ciblage de presque chaque bâtiment ou agent présumé du Hamas, et pour accélérer l’incrimination et la production de cibles à des niveaux sans précédent sans s’écarter complètement du cadre du droit international humanitaire, légitimant ainsi des massacres et des destructions de masse effroyables en s’appuyant sur des calculs et des procédures de probabilité prétendument objectifs, inscrits dans le code. 

L’article de Schwarz, montre également que les études critiques sur les impacts sociaux des algorithmes doivent aller au-delà de la simple critique de leurs erreurs et de leurs biais. Ces derniers ont constitué jusqu’à présent le cœur des critiques, et ce pour une bonne raison : malgré leur prétention à la neutralité, les systèmes d’IA sont sujets aux erreurs en général et, en particulier, à la reproduction d’inégalités découlant de biais, dans la mesure où les données utilisées pour leur entraînement consignent et reflètent des préjugés humains. Plus précisément, les erreurs et les biais sont au centre des débats sur l’usage de l’IA dans la guerre, y compris lors du conflit à Gaza.

Mais, estime-t-il, un système d’IA parfait, sans erreur ni biais, « pourrait aboutir aux mêmes conséquences effroyables, simplement en accélérant considérablement la production de cibles et en en réduisant le coût » : le fait de cibler des dizaines de milliers d’objectifs identifiés par le renseignement – une tâche dont la réalisation était pratiquement impossible avant l’IA – conduit presque inévitablement à des destructions et à des tueries de civils à grande échelle. Pire, l’IA permet bien plus de produire des justifications, même de ses erreurs et errements, en les recouvrant d’une complexité et d’un vernis d’explication.

Si la destruction de Gaza répondait à des motivations politique, l’IA a été indispensable pour inscrire la destruction dans le cadre du droit international humanitaire (tout comme les ciblages sociaux s’inscrivent également dans le cadre du droit, malgré leurs défaillances manifestes). Ce potentiel de légitimation pourrait être exploité au-delà du contexte israélien, alors que des systèmes similaires sont adoptés par d’autres armées officiellement attachées au respect du droit humanitaire international. « Si l’accélération peut sembler relever d’un simple changement quantitatif, elle a en réalité engendré une transformation qualitative majeure. Le rôle joué par l’IA dans la légitimation de ces massacres nous rappelle que les caractéristiques et les affordances ne définissent pas les technologies de manière isolée : elles sont façonnées par les contextes juridiques, structurels, culturels et moraux, ainsi que par les réseaux ou dispositifs hétérogènes au sein desquels les technologies opèrent. Il est crucial de prendre en compte ce contexte pour comprendre comment il a pu engendrer des effets effroyables, mais aussi pourquoi il s’est avéré impossible d’éliminer l’humain de la boucle, et pourquoi le travail culturel de production de sens effectué par les humains était nécessaire pour légitimer l’automatisation partielle ayant conduit à cette accélération sans précédent de la production de cibles.» 

*

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des armées à leurs missions. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées. Et c’est ce que produit le score d’appartenance à l’ennemi et les seuils de dommages collatéraux autorisés. La guerre de demain se joue sur les données, leurs croisements sans limites et les seuils adaptables. Des éléments sur lesquels le droit international n’a pour l’instant pas défini de pratiques et qui, sans encadrement,  risquent de permettre tous les glissements moraux du calcul, comme on le constate partout où le scoring se déploie.  

Hubert Guillaud

MAJ du 31/08/2026 : Cet été, une source militaire a expliqué à plusieurs journaux, dont Le Monde, les pratiques de l’armée israélienne pour relier les civils tués ou blessés au Hamas, lors de frappes à Gaza. Cette incrimination rétrospective passe d’abord par des incriminations et des justifications mensongères, difficiles à debunker et des enquêtes jamais refermées. Les combattre nécessite pour les victimes d’apporter à leur tour des preuves d’exactions, qui ne sont pas toujours disponibles (d’autant que les journalistes ont du mal à accéder aux terrains d’opérations et que nombre d’entre eux, sur place, ont été tués). Les plaintes Gazouis sont rarement instruites par les autorités judiciaires israëliennes et l’information en Israël est très activement censurée (6 265 articles partiellement et 1 635 totalement en 2024, un record).  

Les autorités internationales devraient surtout pouvoir avoir accès aux enregistrements des systèmes d’IA avant frappes pour mener des enquêtes sur la façon dont ils ont été utilisés.

Mais pourquoi l’IA est-elle utilisée pour faire la guerre ?, demande le sociologue Ori Schwarz dans un passionnant article pour Big Data & Society, en observant l’usage qu’en a fait l’armée israélienne à Gaza (voir notre dossier L’IA ça sert, d’abord, à faire la guerre). Qu’apporte-t-elle, que permet-elle que les techniques de guerre traditionnelle n’apportent pas ? 

Pour le chercheur, l’IA a été utilisée pour accélérer la génération de cibles, car l’armée israélienne a adopté une doctrine axée sur la « létalité » (visant à maximiser le nombre de victimes) tout en intégrant le droit international humanitaire (qui impose de distinguer les cibles militaires des civils). L’IA n’était pas tant requise pour personnaliser le traitement, que pour justifier d’un traitement uniforme en créant des justifications adaptées, explique-t-il. Elle a été instrumentalisée pour légitimer tueries et destructions de masse en fusionnant et en analysant automatiquement des données pour transformer des milliers d’individus et de bâtiments en cibles légitimes assorties de scores de probabilité individuels. 

Pour le chercheur, le profilage, la « singularisation automatisée » (que proposait le sociologue allemand Andreas Reckwitz dans son livre, The Society of Singularities, Polity, 2020), c’est-à-dire le fait que chacun soit traité différemment selon les données récoltées sur lui, est utilisée avec succès dans tous les domaines que le numérique transforme (marketing, médecine, tarification…). Mais, alors que le profilage ne cesse de promettre une distinction plus précise, il permet finalement de générer des effets de masses désastreux, comme dans le cas des destructions lors de la guerre à Gaza, brouillant la distinction entre cibles militaires et populations protégées. « Plus de 71 000 Palestiniens ont été tués, selon les chiffres officiels palestiniens et les estimations de l’armée israélienne. Mais seuls 20 % d’entre eux seraient des militants du Hamas alors que près de la moitié des victimes seraient des femmes et des mineurs. Des milliers d’autres sont portés disparus et d’autres encore sont morts de maladie et de malnutrition. Près de 2 millions de personnes ont perdu leur logement, la plupart des bâtiments résidentiels de Gaza ayant été détruits ou gravement endommagés. L’ampleur des pertes civiles a conduit la Cour internationale de Justice à saisir Israël pour violation présumée de la Convention sur le génocide. » 

Une grande partie de ces victimes et destructions visait des cibles identifiées par les services de renseignement israéliens grâce à une utilisation sans précédent de technologies numériques sophistiquées. Schwartz y voit un paradoxe. D’un côté, l’armée israélienne s’est vantée d’effectuer la sélection des cibles à l’aide d’outils d’IA et d’analyse de données les plus sophistiqués pour identifier des cibles humaines et des infrastructures liées au Hamas ; pourtant, le résultat de cet investissement sans précédent dans un ciblage sophistiqué donne l’impression d’une destruction et de tueries massives et indiscriminées. « Si l’objectif est de tuer sans distinction, pourquoi une technologie aussi avancée est-elle nécessaire ? » 

Pour Schwarz, si l’IA est utilisée pour procéder à des tueries de masse, c’est justement en raison de sa capacité de distinction : « en singularisant les justifications de tueries indiscriminées, elle produit de la distinction au service de l’indiscrimination ». Cela se produit parce que les effets sociaux de l’IA ne sont pas prédéterminés par les caractéristiques technologiques, mais façonnés par les contextes juridique, structurel, culturel, politique et moral dans lesquels la technologie s’inscrit. En particulier, les tueries et les destructions indiscriminées découlent de la construction politique de « cibles ». À une époque où le droit international humanitaire ainsi que les normes éthiques et professionnelles militaires exigent de ne viser que des « cibles » légitimes, l’impact du big data sur la guerre ne consiste pas nécessairement à réduire les massacres et les destructions en trouvant « l’aiguille dans la botte de foin », comme on l’affirme généralement. Mais, tout le contraire : « il s’agit de transformer le foin en aiguilles, en « incriminant » presque tous habitants ou tous les immeubles résidentiels par l’élaboration d’un récit singulier les associant exclusivement à l’ennemi, légitimant ainsi une destruction indiscriminée. » Pour le chercheur, les massacres et les destructions ne s’expliquent pas uniquement par ces développements technologiques bien sûr, mais la justification technique a permis de renforcer les dynamiques politiques en cours. 

Les raisons du succès de l’élimination ciblée

Longtemps, les assassinats extrajudiciaires se limitaient à de rares opérations clandestines visant des opposants de haut rang, rappelle le chercheur. Puis l’élimination ciblée s’est transformée en une politique déclarée, systématiquement mise en œuvre à une échelle toujours plus vaste. 

Cette politique s’appuie sur trois principes. Premièrement, l’individualisation de la guerre : l’affrontement est requalifié en une action de police ou de poursuite judiciaire visant des individus. Les individus deviennent des cibles non pas en raison de leur statut (appartenance à une force armée ennemie), mais en raison de leur comportement ou de la menace qu’ils représentent. Chaque individu reçoit un score qui détermine son implication quelque soit les biais du calcul. Et la valeur que l’on attribue à cette implication peut varier. 

Deuxièmement, la juridicisation de la guerre : face à la complexité croissante du droit international humanitaire, les armées ont intégré des juristes à leurs équipes pour protéger leurs personnels des poursuites. Désormais, il faut pouvoir établir la légalité des attaques, au regard de principes de nécessité, de proportionnalité et de distinction. Tout en trouvant des modalités pour interpréter le droit international de manière extensive… La juridicisation a conduit à devoir collecter des données pour établir la légalité des ciblages. 

Troisièmement, le transfert de risque vise à minimiser le risque pour les soldats en les transférant aux civils ennemis, par exemple en recourant à des bombardements aériens, de préférence par drones, plutôt qu’à des combats terrestres ou à des arrestations. « Depuis 2000, l’ampleur des « assassinats ciblés » a connu une croissance spectaculaire, passant de quelques dizaines à plusieurs milliers de victimes. Cette augmentation est due à l’élargissement controversé de la définition des cibles légitimes », qui a inclus les membres non combattants d’organisations terroristes, puis les civils ayant contribué indirectement aux hostilités. Cet élargissement a engendré un nouveau défi que les systèmes d’IA ont cherché à relever par le scoring : prouver le lien de la cible avec l’organisation ennemie. Si ce lien était évident lorsqu’il s’agissait de cibler des commandants de haut rang, il est devenu de plus en plus difficile à prouver à mesure que le nombre de cibles augmentait. Ce n’est qu’au cours de la guerre de Gaza de 2023, avec la décision d’attaquer des dizaines de milliers de jeunes militants du Hamas, que la nécessité de vérifier si la cible envisagée pour un assassinat avait un lien quelconque avec une organisation terroriste, s’est imposée. « L’utilisation du big data a transformé les cibles d’exécutions extrajudiciaires, passant d’individus isolés (des personnes importantes et connues) à des cas regroupés en clusters dynamiques calculés par des algorithmes. Si les « assassinats ciblés » requièrent certaines technologies de renseignement et de surveillance, l’analyse des mégadonnées a été progressivement introduite, d’abord pour réduire le taux élevé d’erreurs d’identification humaine, puis, à plus grande échelle, pour rationaliser les opérations d’assassinat, en réduire les coûts et en étendre la portée ». Bien que l’utilisation de l’IA pour « incriminer » des cibles repose sur l’individualisation et la juridicisation de la guerre, la quantification automatique des risques entre en conflit avec des principes juridiques fondamentaux tels que le raisonnement, la réflexion et la prise de décision contextualisée. Les chercheurs critiques Nicola Perugini et Neve Gordon affirment que les assassinats ciblés reposent sur un « dispositif de distinction » conçu pour désigner des cibles humaines à des fins militaires en identifiant des « anomalies » dans les relations entre les données, c’est-à-dire en surveillant les comportements et en repérant les irrégularités. Les écarts statistiques sont alors considérés comme des écarts normatifs passibles de la peine de mort, comme l’expliquait le politologue Hendrik Huelss. 

Avant même leur automatisation, les assassinats se fondaient déjà sur l’identification de schémas de vie associés au terrorisme. La surveillance et les données permettent de requalifier des individus, auparavant considérés comme des « civils » protégés, en cibles ennemies jugées moralement et légalement abattables, même lorsqu’ils ne participent pas directement aux hostilités. Eric Bonds a qualifié ce phénomène de « violence humanisée », une nouvelle forme de violence qui se manifeste à la fois par une pratique (fondée sur la surveillance et les technologies d’élimination de précision) et par un discours de légitimation (qui s’appuie sur le langage des droits de l’homme et qui, comme le présente ses partisans, paraît rationnel, mesuré et humain, car ils s’efforcent de minimiser les dommages causés aux civils innocents en évaluant les dommages collatéraux prévus de chaque frappe par rapport à son avantage militaire). Ceci produit un « effet paradoxal » : le strict respect des procédures et des critères juridiques (qui interdisent de cibler les civils ne participant pas aux hostilités et exigent que les dommages causés aux civils soient minimaux) tout en permettant de les contourner. 

Le scoring pour renforcer la tolérance à l’intolérable

Le paradoxe, c’est que la justification par le calcul renforce la tolérance à l’égard des meurtres de civils. « L’utilisation de technologies avancées visant à réduire les dommages causés aux civils (par exemple, la reconnaissance faciale pour éviter les erreurs d’identification et l’imagerie satellitaire pour estimer les dommages collatéraux et calculer la proportionnalité avec une précision actuarielle) et le recours à des calculs proportionnels à l’avantage militaire renforcent la légitimité et la tolérance à l’égard des meurtres de civils ». 

En effet, ces calculs rendent chaque attaque juridiquement justifiée et les décès de civils regrettables, mais légitimes. Les efforts déployés pour minimiser les « dommages collatéraux » (en avertissant les civils avant les attaques et grâce aux calculs de proportionnalité) présentent les incidents ayant entraîné de nombreuses victimes civiles comme des accidents involontaires comme l’explique Craig Jones dans son livre The War Lawyers (Oxford University Press 2020 ou Yael Levy, dans le sien Shooting without crying: The new militarization of Israel in the 2000s, 2023). Et la numérisation renforce considérablement cette légitimation : les scores calculés par algorithme bénéficient d’une aura d’objectivité et de confiance en raison de la confiance bien documentée accordée aux chiffres – notamment par l’historien des sciences Theodore Porter dans son livre, La confiance dans les chiffres (Les Belles lettres, 2017). En convertissant l’incertitude quant aux dommages potentiels causés aux citoyens en « risques » mesurables, les algorithmes transforment les dilemmes moraux en procédures technico-informatiques et finalement réduisent les doutes moraux et la réflexivité, comme le montrait Lucy Suchman dans un article de recherche. Finalement, le ciblage automatisé permet de légitimer les frappes, qu’importe les dégâts qu’elles causent. Or, la violence « humanisée » tue principalement des civils (60 % à 90 % des décès sont des « dommages collatéraux » expliquaient déjà Perugini et Gordon, rappelant également qu’elle est imprécise et surtout qu’elle restreint les catégories protégées tout en légitimant le meurtre). 

Contrairement aux tirs des chars, les frappes aériennes contres des cibles spécifiées par le renseignement sont soumises aux principes du droit international humanitaire qui définit les conditions de la légitimité de la violence militaire et doivent donc être traduit en procédures formelles qui encadrent la définition des cibles. Le droit humanitaire repose notamment sur des principes de distinction (ne cibler que les cibles militaires dont l’attaque procure un avantage militaire, et non les civils ou les infrastructures civiles), de proportionnalité (interdire les attaques qui causent des dommages disproportionnés aux civils par rapport à l’avantage militaire obtenu) et de précaution. Mais une autre doctrine est venue également changer le cours de la guerre : la doctrine de la létalité. Plus que le contrôle du terrain, le nombre de morts ennemis est devenu le principal critère d’évaluation des opérations militaires ou des performances des unités. L’industrialisation de l’extermination de précision, défendue par Aviv Kokhavi, chef d’état major de l’armée israélienne, exigeait la production en masse de cibles pour les frappes aériennes. Mais la cible, même légitime, est une construction politique et sociale, comme le montrait l’article de +972 Magazine, qui évolue selon le contexte, à l’image des dommages collatéraux afférents autorisés ou du niveau du scoring qui transforme un soupçon en cible. 

En effet, les procédures utilisées pour transformer des personnes ou des bâtiments en cibles impliquent divers acteurs s’intégrant à un réseau : non seulement les définitions juridiques, les concepts moraux et les agents de renseignement, mais aussi les documents de renseignement, les technologies de surveillance qui les produisent et les technologies utilisées pour les traiter et les analyser. La construction des cibles n’étant pas uniquement un processus social, les évolutions technologiques peuvent la transformer. Et le scoring est justement en passe de devenir le facteur d’accélération. 

Comment l’IA a-t-elle modifié la construction des cibles, qui n’est pas uniquement un processus social ? Lors de la guerre de Gaza, Israël a utilisé deux types de systèmes d’IA distincts, l’un pour les cibles d’infrastructure et l’autre pour les cibles humaines, explique Schwarz. Ces systèmes avaient des historiques différents, mais présentaient de nombreux points communs. Les personnes interrogées ont souligné que ces deux systèmes ne prenaient pas de décisions à la place des humains, mais accéléraient la production de cibles de deux manières : en fusionnant les informations provenant de sources multiples et en rendant accessibles aux analystes toutes les informations pertinentes concernant chaque cible potentielle ; et en classant les cibles potentielles selon leur probabilité estimée. Ainsi, les analystes humains peuvent se concentrer exclusivement sur les cibles les plus susceptibles d’être approuvées : « [Supposons] que vous disposiez d’un milliard d’informations et que (…) vous n’ayez que 100 cibles alors que vous avez 10 000 candidats. Alors, à quoi sert l’IA ? À une seule chose : les trier par ordre de priorité. (…) [L’ordinateur] a pris les 10 000 suspects, a examiné quelques milliers de cas avérés et [a reçu l’instruction de trier] tout ce qui se ressemble sur tous les points. Ensuite, la machine établit les priorités, c’est tout. Une fois les priorités établies, elle indique aux services de renseignement : vérifiez ceci, cela et cela. Attribuez une file d’attente. (…) Cela signifie que le travail est rationalisé. Mais aucune machine ne décide », déclarait un officier de l’armée israélienne. 

Ce discours humaniste et anthropocentrique, également fréquent dans les déclarations de Tsahal sur l’IA, minimise le rôle de la technologie, la réduisant à un simple outil au service d’objectifs humains. L’armée israélienne a décrit le système d’IA « Gospel » comme un simple « outil technique destiné aux analystes du renseignement », car sa traçabilité et son intelligibilité permettent aux analystes d’examiner eux-mêmes les éléments de renseignement sur lesquels reposent ses recommandations. Cependant, même une délégation partielle du ciblage peut avoir des conséquences plus importantes : d’une part, les pressions organisationnelles de niveau intermédiaire en faveur de l’efficacité et les biais d’automatisation de niveau micro peuvent conduire les analystes humains à approuver les recommandations du système de manière quasi automatique (comme nous le disions dans la seconde partie de notre dossier) ; d’autre part, les outils ne se contentent pas de réaliser les objectifs des utilisateurs, mais les façonnent également en proposant de nouvelles pistes d’action permettant l’accélération. Yossi Sariel, ancien commandant de l’unité de renseignement 8200 de Tsahal, a soutenu que l’accélération est l’une des deux principales contributions de l’automatisation informatique au renseignement. Selon lui, la production d’un plus grand nombre de cibles est nécessaire pour exercer une pression constante sur l’ennemi et le vaincre, mais l’intervention humaine constitue un goulot d’étranglement, car la création d’un tel nombre de cibles exigerait des milliers d’enquêteurs traitant et analysant les données pendant des années. Pour lever cet obstacle, il faudrait une « équipe homme-machine » capable de constituer une base de données de dizaines de milliers de cibles et d’en générer des milliers d’autres chaque jour de combat, comme il l’expliquait dans son livre éponyme. La seconde contribution identifiée par Sariel est la prédiction, définie comme le fait de « compléter les informations manquantes » à partir des tendances observées dans les données massives. La prédiction n’est donc pas seulement orientée vers l’avenir (prédire qui commettra un attentat-suicide), mais surtout vers le présent et le passé (prédire où des armes ont été dissimulées). Les prédictions revêtent alors une importance épistémologique : « elles permettent d’incriminer des personnes et des lieux sur la base d’informations incriminantes inconnues, déduites d’éléments non incriminants connus ». L’IA sert à la production d’inférences, de décisions probabilistes que leur niveau de probabilité valide. 

La probabilité sert à générer les cibles et intensifier les frappes

La génération par IA de cibles d’infrastructures (de bâtiments) s’effectue au sein de la Direction du ciblage de l’armée israélienne, créée en 2019, explique Schwarz. Cette création faisait suite à un rapport du Contrôleur de l’État indiquant que la banque de cibles disponible au début de la guerre de 2014 entre Israël et le Hamas était bien inférieure au potentiel réel. Une personne interrogée a expliqué les raisons de la création de cette direction en ces termes : « On veut disposer d’une banque de cibles de qualité, que l’on peut frapper pour contraindre le Hamas à capituler » ; or, en 2014, « cela ne s’est pas passé ainsi : il a fallu envoyer des troupes au sol ». L’armée et les médias israéliens ont présenté cette direction et le système d’IA « Gospel » comme la solution. 

Lors des conflits précédents, la banque de cibles s’épuisait après quelques jours ou semaines de bombardements intensifs, limitant le volume de tirs. La direction a promis de remédier à ce problème en accélérant et en rationalisant la génération de cibles, tant avant que pendant les hostilités, afin de « transformer la capacité de destruction de Tsahal en un système industriel » capable de « détruire des milliers de cibles chaque jour », explique un article de Ynet, l’un des journaux en ligne hébreu. Pour y parvenir, Gospel fusionne des milliards de données provenant de sources variées (et notamment du renseignement, telles que des appels téléphoniques interceptés et des photographies aériennes), identifie des cibles potentielles grâce à l’apprentissage automatique (en se fondant sur leur ressemblance avec des cibles précédemment validées) et les classe selon la probabilité qu’il s’agisse de cibles légitimes et de qualité. Ces recommandations classées sont ensuite transmises à des analystes humains pour décision, puis à des officiers supérieurs pour approbation.

Cette automatisation partielle accélère considérablement la génération de cibles. Un officier supérieur du renseignement a noté : « Gospel dispose d’une interface utilisateur très simple qui organise la file d’attente des cibles en fonction de la probabilité et de l’importance. Ainsi, l’opérateur humain reçoit simplement une liste établie par la machine, indiquant la probabilité qu’il s’agisse d’une cible valide ainsi que son importance. Le système fonctionne par scores. Par exemple, il s’agit d’une cible avec une probabilité de 80 % ou de 30 %. La machine émet donc une recommandation : « À mon avis, c’est une cible. » L’opérateur prend alors le relais, vérifie le processus suivi par la machine, exerce son jugement – car la machine peut parfois commettre des erreurs – et décide finalement s’il s’agit bien d’une cible. »» Un autre officier a expliqué que la priorisation automatisée était devenue nécessaire en raison de la « croissance exponentielle » du volume de données (consécutive à la numérisation, à la « datafication » et à l’impératif de collecter et d’analyser toutes les données), rendant l’analyse humaine impossible : « Que faire ? Recruter 50 000 agents de renseignement ? Nous ne les avons pas. Alors, utilisons un bon ordinateur pour effectuer la priorisation à notre place. En somme, c’était la mission assignée à la Direction du ciblage. » Un juriste impliqué dans l’élaboration des cibles a affirmé que la cadence de production du système était 50 fois supérieure à celle d’une équipe de 20 officiers de renseignement. Les personnes interrogées ainsi que les déclarations officielles de l’armée ont souligné que la Direction du ciblage avait pour vocation de « constituer de vastes banques de données » afin de permettre l’attaque de « milliers de cibles en une seule journée », industrialisant ainsi l’extermination. Comme souvent, cette industrialisation s’est accompagnée d’une intensification du travail : dès 2019, les soldats de cette direction nouvellement créée ont fait état de pressions visant à accélérer la production de cibles en faisant l’impasse sur un examen approfondi, avec des mesures incitatives – telles que des jours de congé – pour les équipes les plus « productives ». La durée de validité limitée des cibles a été prolongée grâce à une modification des procédures, autorisant le bombardement de cibles plusieurs mois après leur identification, sans nouvel examen, expliquait Haaretz. 

« L’accélération de la production de cibles est jugée cruciale en temps de guerre et l’IA permet justement d’accélérer la production ». Cette accélération a atteint son paroxysme lors de la guerre contre Gaza : au 27e jour du conflit, Tsahal a annoncé avoir frappé 12 000 cibles tout en générant simultanément 1 200 nouvelles cibles grâce à son « usine à cibles » fonctionnant 24 heures sur 24. 

Mais l’utilisation de l’IA pour identifier des listes de personnes à cibler plutôt que des lieux relève d’une autre dynamique, explique Schwarz. Une dynamique qui a débuté avec le recours à l’IA pour des arrestations préventives.

À l’automne 2015, Israël a dû faire face à une vague d’attaques spontanées, perpétrées principalement par des adolescents. Il était difficile de déjouer ces attaques, car les auteurs n’étaient affiliés à aucun réseau terroriste ou de guérilla. En conséquence, les services de renseignement israéliens ont mis au point un modèle visant à prédire quels adolescents étaient les plus susceptibles de commettre des attaques, en analysant les schémas d’activité sur les réseaux sociaux (publications, « like », commentaires, émojis, nouveaux liens) ainsi que des données provenant d’autres sources (par exemple, les données de localisation), en attribuant à chaque adolescent palestinien un score de risque. Le modèle s’appuyait sur des schémas prédictifs identifiés à la fois par l’apprentissage automatique (analyse de mégadonnées) et par des analystes humains (par exemple, de nouvelles coupes de cheveux, les auteurs d’attentats-suicides adoptant souvent une nouvelle coiffure peu avant de passer à l’acte). Ce modèle a conduit à l’arrestation préventive de centaines d’adolescents palestiniens. 

D’autres systèmes ont été développés par la suite pour identifier des membres d’organisations terroristes en vue de leur arrestation et de leur interrogatoire. Lors de la guerre à Gaza, cette stratégie a été étendue pour dresser des listes de cibles à éliminer d’une longueur sans précédent, appliquant les principes de la police prédictive pour produire des cibles à éliminer. Le système d’IA « Lavender » attribuait à presque tous les habitants de Gaza un score de probabilité d’appartenance au Hamas, en se fondant sur des facteurs couramment utilisés dans la police prédictive comme le montre la sociologue Sarah Brayne dans son livre, Predict and surveil (2021, Oxford university Press), notamment les réseaux personnels, les habitudes de vies comme les lieux fréquentés et les déplacements. 37 000 Palestiniens ont été identifiés par algorithme comme étant probablement des membres du Hamas comme le montrait Abraham dans son article pour +972 Magazine.

« Les scores de probabilité transforment la distinction entre terroriste et civil, passant d’une catégorie binaire à un continuum statistique ». Les individus classés par l’IA comme membres probables du Hamas étaient alors ajoutés aux listes de cibles à éliminer sans réel examen supplémentaire. D’autres rapports font état d’une certaine forme de supervision humaine ; par exemple, des officiers auraient corrigé une erreur d’interprétation de l’IA qui avait pris une liste d’élèves du secondaire pour une liste de militants potentiels, une erreur qui aurait pu conduire à désigner à tort 1 000 adolescents comme cibles. 

Reste que l’accélération n’a pas été que technologique, elle a aussi été politique.  Le Premier ministre Benjamin Netanyahu aurait reproché au chef d’état-major Herzi Halevi de n’avoir bombardé « que » 1 500 cibles au cours des 48 premières heures du conflit ; il a rejeté l’explication de Halevi, qui indiquait ne pas disposer de 5 000 cibles, en déclarant : « Je m’en fiche ». Sans l’IA, estime Schwarz, « il aurait été difficile d’atteindre une telle ampleur de morts et de destructions ».

L’armée israélienne a assoupli son interprétation du droit international humanitaire pendant la guerre sans pour autant abandonner totalement ce cadre, par exemple en relevant les seuils de « dommages collatéraux » et en autorisant des attaques ciblées contre chacun des 37 000 membres présumés de rang inférieur du Hamas, à condition que le nombre de décès civils anticipés reste inférieur au seuil. La pratique du « roof-knocking » (bombardements d’avertissement) a été abandonnée et des cibles présentant une probabilité moindre ont été prises en compte. En conséquence, le taux de mortalité civile s’est envolé. L’approche vis-à-vis des infrastructures civiles a également évolué pour maximiser la destruction : des immeubles de grande hauteur et des bâtiments universitaires par exemple ont été désignés comme des cibles essentielles et visés en raison de la présence d’un objectif militaire légitime à un seul étage, mais détruits par un armement provoquant l’effondrement de l’édifice tout entier.

Au regard du droit international, cela pourrait être considéré comme une violation des principes de proportionnalité et de précaution. Mais cette proportionnalité et ces précautions, on le voit, permettent aussi de faire varier les classement en ajustant les justifications, sur la base de données singulières et spécifiques l’associant au Hamas avec une certaine probabilité. Tout l’enjeu consiste à fourbir des probabilités et les compléter de narratifs adaptés afin de produire des explications. La destruction des infrastructures civiles, quelle que soit la raison, est devenu l’objectif derrière les justifications : toutes les cibles détectées sont devenues un moyen pour raser Gaza. 

L’IA : l’outil pour légitimer la guerre

Pour Ori Schwarz, « les systèmes d’IA ont épargné les dilemmes moraux en légitimant les attaques. Le rôle de l’IA a donc consisté à ériger le général en singulier, transformant presque tout en cible ». Pour Schwarz, avec la guerre à Gaza, l‘IA est devenue un outil de légitimation : l’automatisation permet le respect des procédures. Elle est un moyen  pour « préserver les normes éthiques en les inscrivant dans le code, les transformant de règles réglementaires en règles génératives inviolables ».

Comme c’est le cas depuis longtemps, l’automatisation est censée garantir l’éthique. Mais ce n’est pas si vrai. D’abord parce que le système permet d’abaisser le seuil de confiance du ciblage et donc faire que la machine contourne la règle. Et surtout que l’opacité et la complexité du calcul permettent de faire disparaître ses défaillances et la surveillance par les opérateurs humains. 

Le statut moral dépend désormais des procédures et non des résultats. Mais surtout, en validant les dommages collatéraux, l’IA a servi de mécanisme de légitimation des massacres de civils. Tactiquement, le rasage des zones urbaines avant les manœuvres terrestres permettait aussi de protéger les soldats israéliens. Enfin, le ciblage fournit un prétexte pour la destruction, une « couverture morale ». 

Certains officiers souhaitaient que l’IA puisse générer elle-même les attaques depuis les scores produits. Cette proposition ne s’est pas encore concrétisée, mais les digues sont prêtes à lâcher, estime Schwarz. Notamment parce que les humains dans la boucle de la vérification ne servent déjà plus que d’agents d’enregistrement, chargés de validés les cibles en quelques secondes, sans avoir le temps d’examiner les données ni de comprendre les calculs qui les produisent. Pour Schwarz, si l’armée israélienne n’a pas franchi le pas, c’est notamment parce que le droit international humanitaire exige qu’un humain réponde de chaque décision. Mais plus encore, parce que garder un humain dans la boucle donne l’apparence d’une décision issue d’une délibération humaine.

C’est oublier que l’IA n’organise pas seulement la file d’attente des cibles, elle les désigne. Ce sur quoi les humains ont encore le contrôle reste surtout les critères pris en compte par les données et les seuils. Pour Schwarz, l’élaboration des cibles n’est pas un processus purement social, mais elle n’est pas non plus purement technologique. Le ciblage doit pouvoir être expliqué, contre-interprété. Les opérateurs ne font pas nécessairement confiance aux scores produits, tant qu’ils ne pensent pas les comprendre « et après l’avoir testé sur la durée, en constatant qu’il est cohérent avec le scénario qu’il a en tête » (même constat pour les radiologues confrontés aux résultats de l’IA). La validation d’une cible repose toujours sur une preuve, c’est à dire un récit. Et les analystes doivent souvent défendre leurs choix et validation, comme s’ils étaient face à un tribunal. Ils doivent défendre la cohérence des éléments qu’ils ont sous les yeux. Le risque à terme, suggère Schwarz, c’est que l’IA produise aussi les récits, quand bien même ils seraient aussi faux que les éléments cohérents que valident les humains. Un système d’IA pourrait identifier un lieu fréquenté par plusieurs militants et lui attribuer une priorité élevée, sans envisager qu’il puisse s’agir d’un restaurant, ou qu’une conversation interceptée évoquant le terrorisme provienne en réalité d’un film diffusé à la télévision. Les systèmes d’IA servent « à trouver des corrélations (…) entre toutes sortes de variables que vous ne jugiez pas intéressantes jusqu’alors (…) Évidemment, je présente aux analystes du renseignement une grande quantité de données et de corrélations en leur disant : « Regardez, c’est intéressant ». » Les analystes tentent ensuite d’ouvrir la « boîte noire » et d’élaborer un récit expliquant le fonctionnement du modèle et les raisons de son efficacité, une étape nécessaire pour que le modèle inspire confiance et soit mis en service. « Je leur montre des points de données très précis, [des variables prédictives] », explique un officier chargé de la formation des agents aux outils. Toutefois, il souligne que dans ces situations, les prédictions du système ne servent pas à désigner des cibles tant que les analystes n’ont pas ouvert la boîte noire et expliqué pourquoi ces variables spécifiques intégrées au modèle permettent de prédire les résultats. Pour Schwarz, ces débats contredisent la promesse épistémologique de l’IA – fondée sur un empirisme radical – selon laquelle la prédiction rendrait l’explication superflue, ou qu’il n’y aurait plus besoin de théorie. 

Reste, rappelle Schwarz, que même si vous faites confiance à vos experts en science des données et que vous avez collecté et testé les données avec soin, vous ne pouvez pas juger de leur qualité. Vous devez expliquer le plus précisément possible ce que les variables indiquent et pourquoi le modèle prédit ce qu’il prédit. Par conséquent, l’analyste ne renoncera pas à comprendre la signification des corrélations et les raisons des choix du modèle. Les développeurs débattent souvent de la meilleure façon de représenter ces corrélations sans induire les utilisateurs en erreur. Si la classification algorithmique des individus comme cibles à forte probabilité est effectuée automatiquement, sans récit, les agents de renseignement en construisent, à la fois en amont, lors du développement du système, et ultérieurement, afin de conférer sens et légitimité aux recommandations algorithmiques (même si cette dernière dimension a pu s’éroder en raison de l’accélération de la production de cibles en temps de guerre). 

Instaurer la confiance : camoufler l’IA 

La confiance dans les chiffres n’est pas aussi omniprésente et automatique que la littérature pourrait le laisser croire. Dans notre cas, les utilisateurs finaux des systèmes de mégadonnées (analystes du renseignement) étaient initialement méfiants à l’égard de l’automatisation et des probabilités calculées algorithmiquement. Un développeur que Schwarz a interviewé leur a reproché de se méfier des systèmes d’IA en raison de leur « peur de l’erreur » et de leur prudence excessive (« Ils ont besoin d’un niveau de certitude non pas de 100 %, mais de 200 %, et une telle chose n’existe pas »). Face aux soupçons et à la nécessité de « faire confiance aux chiffres », les developpeurs du système ont entrepris un travail de sensibilisation et élaboré une stratégie sophistiquée : dissimuler le rôle de l’IA et insister sur l’implication humaine. « Les agents du renseignement n’utilisent pas l’IA, ils utilisent des outils conçus pour eux, et de leur point de vue (…), s’il y a de l’IA, d’après mon expérience, ils ne lui font pas confiance. En fait, pour les inciter à l’utiliser, nous n’avons pas dit “c’est de l’IA pure”, mais nous nous sommes assurés que l’agent qui examine une cible puisse voir que Sharon l’a déjà examinée, qu’il puisse voir le nom de la personne qui l’a fait, et qu’il connaisse Sharon. » Ils doivent savoir que Sharon est la meilleure pour identifier les cibles et, par conséquent, ils peuvent lui faire confiance. Dans cet exemple, ils ont tiré parti de la confiance que le personnel du renseignement accordait à une ancienne agente de renseignement très appréciée (« Sharon »), promue et mutée au sein de l’équipe technique. Elle y étiquette les données et valide les cibles générées par algorithme avant leur transmission aux services de renseignement et juridiques pour approbation. La confiance personnelle en Sharon peut faire toute la différence : « Nous avons constaté que lorsqu’une personne comme Sharon est présente, ils font confiance au système ; en revanche, lorsqu’on leur dit “ce n’est qu’un modèle”, ils n’y croient pas [et recommencent le processus manuellement depuis le début]. » Paradoxalement, la confiance dans l’IA (nécessaire à la délégation partielle du travail de renseignement aux algorithmes) exigeait la confiance envers les personnes qui faisaient confiance à l’IA, camouflant ainsi le rôle de cette dernière.

Nous savons que l’IA n’est pas une magie sans intervention humaine ; elle repose sur le travail humain, parfois dissimulé sous l’apparence de décisions de la machine, rappelle Schwarz en évoquant les travaux relatifs au Digital Labor. Or, ici, c’est l’inverse qui se produit : lors du développement des modèles, les décisions des machines doivent être expliquées par des experts humains qui en reconstituent la logique ; et plus tard, lorsque ces systèmes sont utilisés pour produire des cibles, leurs recommandations doivent être camouflées en décisions d’experts humains. Enfin, en temps de guerre, lorsque les analystes du renseignement consacrent à peine 20 secondes à approuver les recommandations de l’IA, le travail de cette dernière est une fois de plus dissimulé sous l’apparence de délibérations humaines. 

C’est peut-être à cela que sert encore l’humain dans la boucle : valider les procédures humaines plus que juger du travail des systèmes d’IA. 

En examinant de près l’utilisation de l’IA pendant la guerre de Gaza, l’article de Ori Schwarz montre que l’IA était nécessaire non pas pour personnaliser le traitement, mais pour justifier un traitement uniforme en créant des justifications personnalisées pour le ciblage de presque chaque bâtiment ou agent présumé du Hamas, et pour accélérer l’incrimination et la production de cibles à des niveaux sans précédent sans s’écarter complètement du cadre du droit international humanitaire, légitimant ainsi des massacres et des destructions de masse effroyables en s’appuyant sur des calculs et des procédures de probabilité prétendument objectifs, inscrits dans le code. 

L’article de Schwarz, montre également que les études critiques sur les impacts sociaux des algorithmes doivent aller au-delà de la simple critique de leurs erreurs et de leurs biais. Ces derniers ont constitué jusqu’à présent le cœur des critiques, et ce pour une bonne raison : malgré leur prétention à la neutralité, les systèmes d’IA sont sujets aux erreurs en général et, en particulier, à la reproduction d’inégalités découlant de biais, dans la mesure où les données utilisées pour leur entraînement consignent et reflètent des préjugés humains. Plus précisément, les erreurs et les biais sont au centre des débats sur l’usage de l’IA dans la guerre, y compris lors du conflit à Gaza.

Mais, estime-t-il, un système d’IA parfait, sans erreur ni biais, « pourrait aboutir aux mêmes conséquences effroyables, simplement en accélérant considérablement la production de cibles et en en réduisant le coût » : le fait de cibler des dizaines de milliers d’objectifs identifiés par le renseignement – une tâche dont la réalisation était pratiquement impossible avant l’IA – conduit presque inévitablement à des destructions et à des tueries de civils à grande échelle. Pire, l’IA permet bien plus de produire des justifications, même de ses erreurs et errements, en les recouvrant d’une complexité et d’un vernis d’explication.

Si la destruction de Gaza répondait à des motivations politique, l’IA a été indispensable pour inscrire la destruction dans le cadre du droit international humanitaire (tout comme les ciblages sociaux s’inscrivent également dans le cadre du droit, malgré leurs défaillances manifestes). Ce potentiel de légitimation pourrait être exploité au-delà du contexte israélien, alors que des systèmes similaires sont adoptés par d’autres armées officiellement attachées au respect du droit humanitaire international. « Si l’accélération peut sembler relever d’un simple changement quantitatif, elle a en réalité engendré une transformation qualitative majeure. Le rôle joué par l’IA dans la légitimation de ces massacres nous rappelle que les caractéristiques et les affordances ne définissent pas les technologies de manière isolée : elles sont façonnées par les contextes juridiques, structurels, culturels et moraux, ainsi que par les réseaux ou dispositifs hétérogènes au sein desquels les technologies opèrent. Il est crucial de prendre en compte ce contexte pour comprendre comment il a pu engendrer des effets effroyables, mais aussi pourquoi il s’est avéré impossible d’éliminer l’humain de la boucle, et pourquoi le travail culturel de production de sens effectué par les humains était nécessaire pour légitimer l’automatisation partielle ayant conduit à cette accélération sans précédent de la production de cibles.» 

*

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des armées à leurs missions. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées. Et c’est ce que produit le score d’appartenance à l’ennemi et les seuils de dommages collatéraux autorisés. La guerre de demain se joue sur les données, leurs croisements sans limites et les seuils adaptables. Des éléments sur lesquels le droit international n’a pour l’instant pas défini de pratiques et qui, sans encadrement,  risquent de permettre tous les glissements moraux du calcul, comme on le constate partout où le scoring se déploie.  

Hubert Guillaud

MAJ du 31/08/2026 : Cet été, une source militaire a expliqué à plusieurs journaux, dont Le Monde, les pratiques de l’armée israélienne pour relier les civils tués ou blessés au Hamas, lors de frappes à Gaza. Cette incrimination rétrospective passe d’abord par des incriminations et des justifications mensongères, difficiles à debunker et des enquêtes jamais refermées. Les combattre nécessite pour les victimes d’apporter à leur tour des preuves d’exactions, qui ne sont pas toujours disponibles (d’autant que les journalistes ont du mal à accéder aux terrains d’opérations et que nombre d’entre eux, sur place, ont été tués). Les plaintes Gazouis sont rarement instruites par les autorités judiciaires israëliennes et l’information en Israël est très activement censurée (6 265 articles partiellement et 1 635 totalement en 2024, un record).  

Les autorités internationales devraient surtout pouvoir avoir accès aux enregistrements des systèmes d’IA avant frappes pour mener des enquêtes sur la façon dont ils ont été utilisés.

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).