On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

On l’a dit plusieurs fois dans nos pages, la tentation d’avoir recours à l’IA pour délibérer à la place des citoyens n’est pas sans risques. Et les perspectives de l’utiliser pour « étendre » le débat démocratique au risque de refermer la participation aux productions de l’IA, n’est pas un petit écueil devant nous. 

De l’IA pour générer des publics

La chercheuse M.R. Sauter, professeure au collège d’information de l’université du Maryland, explique dans un article de recherche, que nombre de travaux proposent d’utiliser l’IA comme substituts ou compléments à la participation humaine dans nombre de processus démocratiques, comme les sondages ou les consultations. Et cette perspective est problématique. 

Pour elle, ces propositions ne sont pas de simples interventions techniques qui visent à réduire les coûts de la participation, mais s’appuient sur un imaginaire civique qui rend ces substitutions plausibles voire souhaitables. Si ces propositions s’entendent, estime-t-elle, c’est d’abord parce que nous avons assimilé une forme d’équivalence entre humains et données, parce que nous pensons que les systèmes génératifs nous permettent de révéler des vérités et parce que nous avons intégré également le caractère procédural de la démocratie, tant et si bien qu’elle nous semble pouvoir fonctionner en l’absence même des gouvernés. Les données synthétiques qui seraient capables de refléter l’opinion de tout un chacun s’alignent sur les croyances du développement de l’IA qui nous fait croire en leur capacité de représentativité, tout en sapant l’éthique démocratique de la participation. Or, rappelle la chercheuse, « ces systèmes, par nature, entravent la capacité d’interpellation des citoyens et transforment la participation en la rendant symbolique plutôt que relationnelle ». L’imaginaire de l’IA civique ne comble pas les déficits démocratiques, mais les aggrave. Elle offre surtout une couverture idéologique présentant l’efficacité, la substitution des citoyens par des machines statistiques et l’abstraction comme s’ils pouvaient être des progrès démocratiques. 

« Les institutions démocratiques contemporaines sont marquées par une érosion persistante de la participation. Dans ce contexte, les propositions de déploiement de systèmes d’IA dans la gouvernance participative et représentative se présentent souvent comme des interventions correctives, promettant efficacité, inclusion ou légitimité renouvelée. (…)  L’imaginaire de l’IA civique permet, encourage et excuse l’utilisation de systèmes informatiques comme substituts aux personnes dans les structures de gouvernance participative et représentative. » Mais pour la chercheuse, ces solutions risquent surtout d’éroder plus avant la participation. 

Reste que cet imaginaire d’une IA pour nous représenter tous repose sur le fait que l’efficacité, la quantification et l’optimisation sont déjà des enjeux très présents dans les structures de gouvernance, où l’importance consiste bien plus à mesurer ce que la participation produit. Plus encore, comme nous le disaient Nicolas Rio et Manon Loisel dans leur petit livre, Pour en finir avec la démocratie participative (Textuel, 2024, voir notre critique) la participation trop souvent ne permet pas d’élargir l’écoute, c’est-à-dire d’écouter ceux qui ne participent pas, quand cela devrait être sa fonction première. L’IA, malgré toutes les données qui sont les siennes, risque de rendre encore plus silencieux ceux qui n’y sont pas représentés. « La crise démocratique est une crise de l’écoute », disaient-ils. Mais écouter les données analysées par l’IA et ses biais, plutôt que les citoyens, ne la résoudra pas. 

Activer l’IA pour améliorer la démocratie répond parfaitement aux enjeux et valeurs des acteurs qui se proposent de produire les interfaces des consultations sous IA, plus qu’à ceux de la démocratie elle-même, conclut M.R. Sauter. 

Les simulations ne sont pas des opinons

Sur son blog, le professeur de mathématiques appliquées, Arthur Charpentier, résume parfaitement le problème en prenant un cas concret et en montrant comment l’IA est utilisée pour améliorer la représentation statistique. L’idée consiste à “inventer” des répondants supplémentaires pour mieux décrire de petits groupes, explique également le statisticien Thomas Delclite sur son blog sur Mediapart. Ces enjeux de calibration ne sont pas nouveaux, rappelle le professeur. « On modifie les poids de sondage pour respecter des contraintes connues sur la population, par exemple des totaux par sexe, âge ou région. » Mais ses corrections viennent avec un prix à payer : les données synthétiques ne produiront jamais la précision de personnes réelles et ont tendance à amplifier les biais d’échantillonnages non représentatifs. « La génération synthétique peut prolonger le biais, le lisser, le rendre plus cohérent, et surtout créer une fausse illusion », rendant l’incertitude plus invisible qu’elle n’est. Mais surtout, rappelle Charpentier, ces cas d’utilisations aggravent les risques de mauvaises interprétations et les pratiques manquent souvent de transparence sur leurs méthodes. « Ce n’est pas une querelle entre anciens statisticiens attachés aux preuves mathématiques, et nouvelles méthodes d’IA. Le cœur du problème est un problème très classique d’inférence. Qu’est-ce qui est aléatoire ? Qu’est-ce qui est observé ? Qu’est-ce qui est imputé ? Quel est le modèle ? Quelle incertitude est propagée ? Et que signifie exactement l’intervalle annoncé ? » « Le risque est fort de “corriger” ce qui ressemble à une anomalie statistique, alors que cette anomalie est peut-être précisément le signal politique ou sociologique que l’on cherchait à mesurer. »

On le comprend bien mieux quand on cherche à extrapoler les résultats. On pourrait ainsi générer des réponses de toute la population… mais dans ce cas là, ce que l’on génère, ce n’est pas la population, « c’est une image de la population selon un modèle, appris à partir de données limitées ». Si les données synthétiques peuvent être utiles, elles demandent une discipline méthodologique stricte. Or, les distinctions subtiles que ces techniques produisent  ne sont pas seulement techniques : elles deviennent rapidement démocratiques. 

Dans un second billet, Arthur Charpentier pointe une étude qui propose justement de demander à un modèle de langage de répondre à la place des personnes : la méthode s’appelle le silicon sampling, l’échantillonnage synthétique. L’attrait pour ces techniques est fort, on le comprend, notamment parce qu’elles permettent de réduire considérablement les coûts des sondages, enquêtes et pannels. Pour le statisticien Eli McKown-Dawson qui édite avec le statisticien Nate Silver le Silver Bulletin, ces modèles ne sont pas forcément inutiles, mais ils doivent rester ce qu’ils sont, des résultats de modèles et non pas des sondages :  les sondages IA sont d’abord de faux sondages. Le silicon sampling vise à produire une prédiction de ce qu’un sondage pourrait dire. « Les sondages eux-mêmes sont à traiter avec précaution. Ils reposent sur des pondérations, des corrections de non-réponse, parfois des modèles de vraisemblance de vote ou de post-stratification. Si un échantillon contient trop de diplômés ou trop peu de jeunes, on corrige. Si un groupe est difficile à atteindre, on pondère ou on modélise. Mais il repose sur un socle “empirique”, avec des personnes qui ont été contactées, certaines qui ont répondu, et l’incertitude statistique porte sur ce passage fragile d’un échantillon observé à une population.

Dans un sondage synthétique, le modèle ne corrige pas une enquête, il se substitue à l’enquête. » Dans l’étude originale sur le silicon sampling, l’idée est de chercher à produire une « fidélité algorithmique », où  le modèle est conditionné par des descriptions sociodémographiques issues de vrais répondants. Mais les auteurs formulent des conditions très exigeantes à leur usage. Dans une autre étude qui met en pratique l’échantillonnage synthétique, les chercheurs ont fait l’essai sur des données de l’élection présidentielle américaine de 2020… Dans un premier temps, les distributions simulées semblent être très proches des données. « Mais dès que l’on regarde par sous-groupes ou par thèmes, on commence à voir des soucis apparaître. Le modèle devient trop extrême pour certains groupes partisans. Les auteurs notent par exemple que les démocrates et républicains synthétiques votent presque unanimement pour leur camp, davantage que les répondants humains. Plus intéressant encore, le modèle se met à produire des réponses “inoffensives” (“harmless”) ou socialement attendues sur des sujets sensibles. Sur certaines questions de race, de genre, d’homosexualité, de santé ou d’immigration, les réponses générées semblent moins refléter la diversité des opinions humaines qu’une norme de prudence inscrite dans le modèle. Les auteurs parlent d’un biais vers des réponses “harmless”, qui peut varier selon les groupes simulés. Et c’est un point important ! Les modèles ne sont pas seulement des machines à reproduire ce qui se trouve dans les données d’entraînement. Ils sont aussi des machines alignées, filtrées, modérées, ajustées pour produire certains types de réponses. » Bref, « les simulations ne sont pas des opinions ». « Dans un sondage politique ou social, l’unité statistique n’est pas seulement une ligne dans un fichier. C’est une personne atteinte par un dispositif d’enquête, avec une probabilité d’inclusion, une réponse observée, une non-réponse possible, un poids, et une contribution à l’incertitude. Une ligne produite par un modèle n’a pas cette histoire. Elle dit quelque chose du modèle, pas forcément de la population. »

Pour Jamie Cummings, chercheur au LipLab de l’université de Gent, avoir recours à des participants artificiels peut « engendrer des résultats très variés, voire contradictoires, et aucune combinaison spécifique de choix ne permet d’obtenir des données correspondant parfaitement aux réponses humaines », explique-t-il dans un article de recherche discuté dans Science. En testant ces outils, lui aussi constate une grande variété de résultats selon les indicateurs et les critères retenus pour constituer ces publics synthétiques. « Si deux chercheurs différents menaient la même étude sur des échantillons synthétiques, en faisant des choix justifiés différents, ils pourraient aboutir à des conclusions opposées, explique-t-il. » Bref, il va falloir mieux documenter les situations où cet usage pourrait être approprié, comme par exemple pour des expériences pilotes ou pour tester des enquêtes. Le risque pourtant, c’est que la pratique se diffuse, notamment auprès d’acteurs bien peu académiques et bien peu regardant des limites de ces outils. 

… à l’IA pour traiter des sondages et consultations

Mais l’IA n’est pas seulement utilisée pour générer des publics synthétiques, elle est aussi de plus en plus utilisée pour traiter les enquêtes, sondages et autres consultations… notamment les plus massives, comme l’explique le journaliste Chris Stokel-Walker pour Tech Policy Press. 

En 2025, lors d’une réforme sur le secteur de l’eau, les agences britanniques ont reçu des milliers de contributions du public. Pour les examiner, ils ont eu recours à Consult, l’un des outils d’IA de la suite Humphrey* (qu’on pourrait qualifier d’Albert britannique ou de Mistral britannique puisque désormais il semble que ce soit plutôt Mistral qui soit l’IA envisagée pour équiper les fonctionnaires Français). L’outil a permis de classer les 50 000 réponses par thèmes évitant une fastueuse classification manuelle des réponses et de produire une analyse dédiée.  

Pour Chris Schmitz, chercheur à la Hertie School de Berlin, l’enjeu ne consiste pas seulement à analyser les documents de consultation, mais aussi à empêcher toute manipulation du processus lui-même (même si Schmitz n’explique pas du tout comment : l’analyse établie par l’IA n’assurant pas pour autant de la synthèse équitable et valide des réponses). Le risque pourtant est bien que ces processus qui font appel à la contribution publique soient submergés par l’analyse automatisée… Et en retour, que les espaces de participation des publics soient eux-mêmes augmentés et démultipliés par l’IA, par exemple via des outils IA qui permettent aux citoyens britanniques de contester les demandes de permis de construire, leur permettant de démultiplier les contestations et de produire des contestations plus argumentées et volumineuses (mais pas toujours plus solides juridiquement). 

Les analyses par IA de grands sondages ou de grandes cohortes sont souvent particulièrement problématiques. Bien souvent la méthodologie n’est pas transparente et les biais qui visent à qualifier automatiquement les réponses (par exemple en leur attribuant des notes selon des analyses sémantiques qui synthétisent les réponses en valeurs (positif ou négatif) ou en mots clés et réduisent les nuances et les expressions, souffrent de biais majeurs que beaucoup de cabinets de conseils qui mobilisent ces études pensent qu’ils se dissolvent dans le nombre… A l’image des études sur les réponses des cahiers de doléances des Français ou plus récemment l’étude du pluralisme des antennes de Radio France et de France Télévision produit par le très libéral et conservateur Institut Thomas Moore : une étude orientée pour démontrer que les programmes des émissions du service public seraient très orientés à gauche et qui a été largement dénoncé en se moquant du fait que l’étude par exemple classe les bulletins météo à gauche. 

Dans le secteur public, l’IA commence à être utilisée à d’autres endroits encore, explique Stokel-Walker. Le Sénat italien utilise l’IA pour gérer la surcharge d’amendements en regroupant les propositions similaires. La Commission européenne, elle, a publié un appel d’offre pour la fourniture de chatbots multilingues capables d’aider les citoyens à s’orienter parmi les obligations légales et notamment la réglementation européenne sur l’IA et le DSA. La Chambre des députés italienne soutient le projet GENAI4LEX-B, qui facilite la recherche et la rédaction législatives en synthétisant les amendements des commissions et en vérifiant la conformité des projets de loi aux normes de rédaction. D’autres pays utilisent également l’IA pour optimiser le processus d’élaboration des lois. 

Pour Schmitz, le problème est que les gouvernements considèrent l’intégration de l’IA comme une série de petites corrections techniques plutôt que comme une transformation structurelle de la manière dont les citoyens peuvent influencer l’État (et dont l’État peut influencer les consultations). Les outils de tri, de synthèse et de rédaction peuvent sembler être des améliorations logiques (on a déjà pointé certains biais des synthèses automatisées et les problèmes de dégradation des données quand l’IA les modifie comme les formes de sur-interprétations liées aux outils d’inférences) , mais « ce sont des solutions de fortune », soulignant qu’il ne constate « aucune réflexion systématique sur les conséquences à long terme pour la légitimité des processus de participation citoyenne ». Mais si les gouvernements l’utilisent principalement pour gérer les données générées par les machines ou pour gagner du temps dans les traitements, ils risquent d’aggraver la méfiance qu’ils cherchent justement à endiguer… c’est-à-dire à rendre la participation encore plus éloignée car de moins en moins représentée.

Hubert Guillaud

—-
* Non sans une certaine ironie, Humphrey tire son nom de la série télévisée satirique des années 80, Yes Minister, dans laquelle un nouveau ministre des affaires publiques est confronté à Humphrey Appleby, responsable de cette administration, qui use de tous les moyens à sa disposition pour décourager la moindre proposition du ministre… afin que rien ne bouge (merci à Aron West pour cette précision).

En 1976, le géographe Yves Lacoste rappelait les fondements de la géographie dans un petit essai, La géographie ça sert, d’abord, à faire la guerre qui revenait sur l’importance politique de tout discours sur l’espace. Aujourd’hui, nous devons nous poser la même question pour pointer l’importance politique de tout discours sur la technologie. La technologie est un enjeu stratégique et elle le devient d’autant plus qu’elle est désormais le soubassement du champ de bataille, son infrastructure, qui détermine la capacité à mener toutes opérations de défense comme d’attaque. 

Nous n’avions jusqu’à présent pas évoqué dans nos pages l’utilisation de l’IA pour la guerre. Il est temps de rattraper nos lacunes. 

Une usine IA pour faire la guerre

Ha’Aretz, le grand quotidien Israëlien, expliquait récemment que l’infrastructure d’intelligence artificielle qui a servi à piloter les bombardements à Gaza est désormais pleinement opérationnelle en Iran et au Liban. Cet Operational Data and AI Factory (Centre opérationnel de données et usine d’IA) piloté par Tsahal, l’armée israélienne, intègre de multiples flux de données et sources d’information, les rendant accessibles en temps réel à tous les échelons de la hiérarchie militaire. Déployé dans toute l’armée, il analyse tout type de données pour permettre d’obtenir une vision opérationnelle complète des forces, des missions et des menaces. « Le système est conçu pour faciliter la planification des attaques, le ciblage et les frappes. Il enregistre et transcrit également toutes les communications sans fil et compile des données en temps réel sur les lancements et les interceptions de missiles et de drones ». L’AI Factory militaire fonctionne. Et désormais, elle est devenue l’infrastructure même de l’armée, explique Ha’Aretz. 

Les unités peuvent utiliser les outils à leur disposition et développer leurs propres applications. Ce système n’est pas utilisé uniquement d’une manière défensive comme l’armée israélienne l’a longtemps défendu, mais participe également au traitement des plans de frappe et des cibles. Il est par exemple intégré au dispositif de drones offensifs de l’armée de l’air, baptisé Storm Cloud, qui permet d’identifier des objets dans les vidéos et les cartographier en temps réel. Bien d’autres systèmes sont désormais intégrés, comme  Lohem (Chasseur), qui assiste notamment l’armée de l’air dans la planification et la synchronisation des frappes ; Rom, qui détecte les drones ; « Contrôle spatial », qui alerte les forces terrestres en cas de tirs de roquettes et de missiles antichars ; et Tashan, qui identifie les points de lancement et d’impact et localise la source des tirs ennemis. L’IA a également été intégrée au système d’alerte national israélien, permettant de prédire les zones de retombée des débris d’interception. Flow, agrège les données provenant de sources militaires et civiles, permettant aux commandants de créer rapidement des tableaux de bord de renseignement pour des problèmes spécifiques. Un autre élément central du système est MapIT, « une plateforme qui affiche des données opérationnelles tridimensionnelles en temps réel aux commandants. Ha’Aretz a appris qu’au cours de l’année écoulée, l’armée a développé une couche supplémentaire au-dessus de MapIT, consolidant tous les flux de données en une seule carte opérationnelle. » 

À ce stade, précise le journal, « ces systèmes d’IA ne prennent pas de décisions opérationnelles de manière indépendante. Ils sont plutôt conçus pour fournir au personnel militaire des informations plus rapides et plus sophistiquées. Selon des sources qui se sont confiées à Ha’Aretz, le système remplace le travail de dizaines d’analystes. » Selon le journal, tous ces éléments ne dépendent d’aucun prestataire externe. « Suite aux critiques concernant la dépendance de l’armée israélienne à l’égard de l’infrastructure Microsoft, Tsahal a décidé d’adopter des modèles ouverts plutôt que des technologies propriétaires détenues par les grandes entreprises technologiques ». La plupart d’entre eux seraient des produits no-code, c’est-à-dire développés entièrement via l’IA, avance le journal. Fin 2025, Tsahal crée une division dédiée à l’IA, baptisée Bina et une unité chargée de consolider les données opérationnelles, au coeur du développement de ces outils. 

Dans cette infrastructure, on trouve encore le plus connu d’entre tous : Lavender, un système d’IA permettant de cibler des individus, comme l’explique la remarquable enquête du journaliste Yuval Abraham, publiée par +972 Magazine en avril 2024 qui aurait identifié des dizaines de milliers de militants présumés à Gaza. Dans son enquête sur Lavender, Yuval Abraham explique que le système de ciblage par IA utilisé à Gaza, est « un système peu supervisé par l’humain et caractérisé par une politique permissive en matière de pertes humaines ». 

Lavender : le ciblage… quelques soient les dommages et les défaillances

En 2021, explique Yuval Abraham dans son article, un livre publié en anglais et sous pseudonyme plaidait pour la conception d’une machine spéciale capable de traiter rapidement d’énormes quantités de données afin de générer des milliers de « cibles » potentielles pour des frappes militaires en pleine guerre. Son auteur : l’un des responsables de l’unité d’élite du renseignement israélien. Cet outil qu’il imaginait existe désormais. Son influence sur les opérations militaires israéliennes à Gaza a été telle que les conclusions de l’IA étaient traitées « comme s’il s’agissait de décisions humaines ». 

« Officiellement, le système Lavender est conçu pour identifier toutes les opérations suspectes des branches militaires du Hamas et du Jihad islamique palestinien, même celles de bas rang, comme cibles potentielles de bombardements. L’armée s’est presque entièrement fiée à Lavender, qui a recensé jusqu’à 37 000 Palestiniens comme militants présumés (identifiant ces personnes nommément, bornant leurs téléphones et leurs domiciles) susceptibles de faire l’objet de frappes aériennes. »

« L’armée a donné son accord général aux officiers pour qu’ils adoptent les listes de cibles de Lavender, sans exiger de vérification approfondie des raisons qui ont motivé ces choix par le système ni d’examen des données brutes sur lesquelles ils se fondaient. » Une source a indiqué que le personnel humain servait souvent uniquement de simple exécutant pour valider les décisions du système, ajoutant qu’en général, il ne consacrait personnellement qu’une vingtaine de secondes à chaque cible avant d’autoriser un bombardement, juste pour s’assurer que la cible marquée par Lavender était bien… un homme. Et ce, malgré le fait que le système commette ce qui est considéré comme des « erreurs » dans au moins environ 10 % des cas, « et qu’il est connu pour marquer occasionnellement des individus n’ayant qu’un lien ténu avec des groupes militants, voire aucun lien du tout.» « De plus, l’armée israélienne attaquait systématiquement les individus ciblés à leur domicile, généralement la nuit en présence de toute leur famille, plutôt que lors d’opérations militaires. Selon les sources, cela s’expliquait par le fait que, d’un point de vue de renseignement, il était plus facile de localiser les individus chez eux. » Même si l’enjeu semblait plutôt de profiter d’une situation de faiblesse, hors du champ de bataille.

Les pertes de femmes ou d’enfants et de victimes collatérales ne sont, pour l’armée israélienne, qu’une conséquence sans impact sur les choix technologiques opérés. « Le système est conçu pour repérer les cibles à leur domicile ». « Selon deux sources, l’armée a également décidé, durant les premières semaines du conflit à Gaza, que pour chaque jeune militant du Hamas marqué par Lavender, il était permis de tuer jusqu’à 15 ou 20 civils. » C’est ici que les choses ont changé, estime Yuval Abraham, par le passé, l’armée n’autorisait aucun « dommage collatéral » lors des assassinats de militants de bas rang : les dommages collatéraux n’étaient autorisés que pour cibler les hauts responsables. Les dommages ont été intégrés et élargis. 

L’enquête de Yuval Abraham est très précise, et permet de bien saisir les limites de l’outil. 

« Lavender repère les personnes et les inscrit sur une liste de personnes à éliminer » déterminée par calcul à partir des données collectées, sans que l’on sache ce qui constitue ces données, provenant certainement du renseignement. Le terme de cible humaine a longtemps désigné pour l’armée israélienne des officiers supérieurs ennemis qui pouvaient être bombardés à leur domicile (au prix du massacre de leurs familles), mais seulement les officiers supérieurs, « afin de respecter le principe de proportionnalité du droit international ». Mais après le 7 octobre 2023 – date à laquelle des militants du Hamas ont lancé une attaque meurtrière contre des localités du sud d’Israël, faisant environ 1 200 morts et 240 otages –, Tsahal, selon ces mêmes sources, a adopté une approche radicalement différente. L’armée a décidé de désigner toutes les opérations de la branche armée du Hamas comme des cibles humaines, indépendamment du grade ou de l’importance militaire de leurs auteurs. « Lors des conflits précédents, pour autoriser l’assassinat d’une cible humaine, un officier devait suivre une procédure d’incrimination complexe et longue » et notamment procéder à des vérifications. Mais en élargissant la liste des cibles, les vérifications ont été réduites, au profit du ciblage automatisé. 

L’autorisation d’adopter automatiquement les listes de cibles calculée par Lavender a été prise deux semaines après le lancement de la guerre contre Gaza, après avoir testé un échantillon de cibles proposées par Lavender et constaté que l’affiliation d’un individu au Hamas semblait fiable à 90%. Les décisions de ciblage automatisées sont alors devenues des ordres. Les unités n’ont plus à vérifier les raisons de ces choix, ni à examiner les données sur lesquelles il se fonde. « Dès qu’une personne [marquée] était chez elle, elle devenait immédiatement une cible »… et ses coordonnées étaient transmises à l’aviation chargée de bombarder sa maison. « Il n’y avait plus de politique du « zéro erreur » », remarque un officier. Il n’y a pas eu de volonté de vérifier et d’atténuer les dommages collatéraux (bien au contraire, visiblement). Les 10% d’erreurs (ou plus) sont désormais intégrés comme principe opérationnel. « Des sources ont expliqué que le dispositif Lavender signalait parfois par erreur des individus dont les habitudes de communication étaient similaires à celles d’agents connus du Hamas ou du Jihad islamique palestinien (JIP) — notamment des policiers et des employés de la protection civile, des proches de militants, des résidents portant un nom et un surnom identiques à ceux d’un agent, ou encore des Gazaouis utilisant un téléphone ayant appartenu à un membre du Hamas. » Pour l’armée israélienne, la marge d’erreur du système a été validée comme acceptable.

L’invisible score de cible

« Lavender analyse les informations collectées sur la plupart des 2,3 millions d’habitants de la bande de Gaza grâce à un système de surveillance de masse, puis évalue et classe la probabilité que chaque personne soit active dans la branche militaire du Hamas ou du Jihad islamique palestinien (JIP) – depuis la base d’un échantillon d’entraînement de militants connus. Selon certaines sources, la machine attribue à presque chaque habitant de Gaza une note de 1 à 100, indiquant la probabilité qu’il soit un militant. » 

L’étendue des sources et données utilisées pour procéder à cette analyse n’est pas connue. Visiblement, le système utilise toutes les sources à sa disposition : données des téléphones, connexions aux réseaux sociaux, informations sur le champ de bataille, contacts téléphoniques, photos, informations sur les opérations de l’ennemi… Le seul enjeu consiste à déterminer le seuil, le niveau à partir duquel la note attribuée transforme un individu en cible. 

A partir de quelles données et informations, Lavender estime qu’une personne est affiliée au Hamas ? La liste des motifs de suspicions est sans fin puisqu’elle est calculée depuis toutes les données disponibles. Le fait qu’une personne ait appartenu ou ait été proche du Hamas dans le passé mais n’en fasse plus partie est un motif de suspicion. Mais est-il exact ? Pire, souligne l’article : un officier « défendant le recours aux listes de cibles palestiniennes générées par Lavender, a soutenu qu’il était justifié d’investir le temps d’un officier de renseignement pour vérifier l’information uniquement si la cible était un haut commandant du Hamas. « Mais pour un simple militant, il est inutile d’y investir des ressources humaines et du temps », a-t-il déclaré. » On vérifie là où le taux d’erreur est possiblement le plus faible et pas là où le taux d’erreur est possiblement le plus fort ! « Les jours où nous ne trouvions aucune cible [dont le profil justifiait une frappe], nous attaquions à un seuil plus bas. » Glaçant ! Et en abaissant le seuil, le système finit par signaler les membres de la protection civile, des policiers… qui par leur fonction aident le gouvernement du Hamas… mais ne représentent pas une menace directe. D’ailleurs, des données d’agents de la protection civile ont été utilisées pour entraîner Lavender (alors qu’elles auraient dû être écartées) et déterminer les profils à cibler, estime un data scientist en le regrettant car ils mettent ces publics à risque. 

Bien sûr, l’armée israélienne a dénoncé les accusations portées par l’article de Yuval Abraham. Pour Tsahal, l’IA n’est pas utilisée ainsi. Elle n’est qu’un « auxiliaire des décisions ». Toute cible identifiée est vérifiée, assure la communication officielle de l’armée. Mais, selon les sources de Yuval Abraham, « le seul protocole de supervision humaine mis en place avant le bombardement des maisons de militants présumés « juniors » marqués par Lavender consistait en une vérification unique : s’assurer que la cible sélectionnée par l’IA était un homme et non une femme. » Outre les dommages collatéraux, nombreux, pour les civils ciblés par erreur par Lavender, aucun mécanisme de contrôle n’était en place pour détecter l’erreur, comme par exemple, quand les cibles ont pu donner leur téléphone à un autre individu. Lavender, finalement, cible bien plus un téléphone qu’une personne. Ce qui n’est pas sans produire très concrètement des erreurs de frappe.

Obsession téléphonique, obsession domiciliaire

Pour l’armée israélienne, si ses frappes tuent des civils, c’est d’abord en raison des tactiques du Hamas qui utiliserait des réseau de tunnels passant délibérément sous des hôpitaux et des écoles ; ou des ambulances pour se déplacer ; et qui situerait ses moyens militaires à proximité de bâtiments civils pour dissuader les frappes. Des affirmations que les organisations de défense des droits humains jugent fallacieuses et qui viseraient à exonérer Israël de sa responsabilité dans ces pertes. Mais pour les sources d’Abraham, le nombre sans précédent de morts lors des bombardements israéliens actuels serait d’abord lié au fait que l’armée a systématiquement ciblé des personnes à leur domicile, en présence de leurs familles – notamment parce qu’il était plus facile, du point de vue du renseignement, de repérer les maisons familiales grâce à des systèmes automatisés. « L’armée a fait le choix délibéré de bombarder des militants présumés à l’intérieur de maisons civiles où aucune activité militaire n’avait été constatée. Un choix qui reflète la conception du système de surveillance de masse israélien à Gaza. » 

« Afin de détecter en temps réel l’entrée des cibles dans les maisons, divers logiciels automatisés ont été développés. Ces programmes suivent simultanément des milliers de personnes, repèrent leur présence à domicile et envoient une alerte automatique à l’officier chargé du ciblage, qui marque alors la maison pour le bombardement. L’un de ces logiciels de suivi, révélé ici pour la première fois, s’appelle « Où est papa ? ». « On entre des centaines de cibles dans le système et on attend de voir qui on peut éliminer », a déclaré une source connaissant le système. « C’est ce qu’on appelle le ciblage à grande échelle : on copie-colle les listes produites par le système. »

Les données confirment cette politique : durant le premier mois de la guerre, plus de la moitié des victimes – soit 6 120 personnes – appartenaient à 1 340 familles, dont beaucoup ont été entièrement décimées à l’intérieur de leurs maisons, selon les chiffres de l’ONU.»

Quand le rythme des victimes ralentit, il suffit d’ajouter davantage de noms dans le système de suivi, et notamment d’abaisser les grades de ceux qu’on souhaite éliminer. La liste des personnes à abattre s’est considérablement allongée (elle en compterait 36 000 en attente de localisation). Même des mineurs ont été désignés comme cibles de bombardement par Lavender, confie une source, déclarant : « normalement, les opérations concernent les personnes de plus de 17 ans, mais ce n’était pas une condition. »

La prise en compte du coût des armes et l’évolution du seuil des dommages collatéraux

Une fois que Lavender a désigné une cible à assassiner, que l’armée a vérifié son sexe et que le logiciel de suivi a localisé la cible à son domicile, l’étape suivante consiste à choisir les munitions. En décembre 2023, CNN a rapporté que, selon les estimations des services de renseignement américains, environ 45 % des munitions utilisées par l’armée de l’air israélienne à Gaza étaient des bombes non guidées, connues pour causer davantage de dommages collatéraux que les bombes guidées, plus précises (mais plus chères). Le choix des munitions se fait en fonction des immeubles ciblés. Les bombes non guidées sont plus adaptées à de petits immeubles, même si elles font plus de dégâts et donc plus de dommages collatéraux. Cela a notamment été le cas pour les cibles mineures, conduisant à détruire leurs maisons et tous leurs habitants. Selon d’autres sources, le programme d’attaque des militaires du Hamas de bas rang a été réduit voire arrêté du fait de son coût en munitions et en armes. 

Lors d’attaques depuis des systèmes d’IA comme Lavender, le nombre de civils qu’il était permis de tuer avec chaque cible était fixé à 15 à 20 maximum, durant les premières semaines du conflit. « Ces « seuils de dommages collatéraux », comme les appelle l’armée, étaient appliqués de manière systématique à tous les militants présumés, indépendamment de leur grade, de leur importance militaire ou de leur âge ». D’après un officier affecté à une salle d’opérations ciblées, le département de droit international de l’armée n’avait jamais auparavant accordé une « autorisation aussi générale » pour un seuil de dommages collatéraux aussi élevé. « Il ne s’agit pas simplement de pouvoir tuer n’importe quel soldat du Hamas, ce qui est pourtant clairement autorisé et légitime au regard du droit international », a-t-il déclaré. Mais également de tuer des civils qui leur sont liés, ce qui est beaucoup moins conforme au droit international. Sans compter que « toute personne ayant porté un uniforme du Hamas ces deux dernières années pouvait être la cible d’un bombardement, avec 20 civils tués en dommages collatéraux, même sans autorisation spéciale ». « En pratique, le principe de proportionnalité n’était pas respecté », estime l’officier. « Selon certaines sources, le niveau prédéterminé et fixe de dommages collatéraux a permis d’accélérer la création massive de cibles à l’aide du système Lavender, car il a permis un gain de temps ». Pour les frappes aériennes contre les hauts commandants du Hamas, l’armée israélienne autoriserait la mort de « centaines » de civils par cible – « une politique officielle sans précédent historique en Israël, ni même dans les récentes opérations militaires américaines ». Pour atteindre Ayman Nofal, commandant de la Brigade centrale de Gaza, le 17 octobre, l’armée israélienne a autorisé des dégâts collatéraux encore plus élevés. 

« Le général Peter Gersten, commandant adjoint des opérations et du renseignement dans le cadre de l’opération contre Daech en Irak et en Syrie, a déclaré à un magazine de défense américain en 2021 qu’une attaque ayant causé la mort de 15 civils s’écartait de la procédure. Pour ce faire, il a dû obtenir une autorisation spéciale du chef du Commandement central américain, le général Lloyd Austin, aujourd’hui secrétaire à la Défense. » « Avec Oussama Ben Laden, on avait un Indice de pertes non combattantes (IPNC) de 30, mais pour un commandant subalterne, cet IPNC était généralement nul », a déclaré Gersten. « On a longtemps fonctionné avec un IPNC nul. »

Certaines sources d’Abraham confient que cette politique était disproportionnée. Et que les souffrances des Gazaouis touchés par ces bombardements risquent, à long terme, de renforcer le Hamas.  

En fait, expliquent les sources d’Abraham, le nombre de dommages collatéraux autorisé n’a cessé de fluctuer, pour permettre les frappes. Le fait que la plupart des maisons de la bande de Gaza aient déjà été détruites ou endommagées, et que la quasi-totalité de la population ait été déplacée, a également réduit la capacité de l’armée à s’appuyer sur les bases de données de renseignement et les programmes automatisés de localisation des habitants et des habitations. Pour Abraham, lors des conflits précédents, les services de renseignement de l’armée consacraient beaucoup de temps à vérifier la fiabilité des calculs des dommages collatéraux possibles. Mais « après le 7 octobre, cette vérification rigoureuse a été largement abandonnée au profit de l’automatisation ». 

Visiblement, comme le notait déjà le New York Times, le système fonctionne avec un code couleur : le rouge indique les zones densément peuplées, tandis que le vert et le jaune indiquent les zones relativement vidées de leurs habitants. Le « logiciel calculait le nombre de civils résidant dans chaque maison avant la guerre – en évaluant la taille du bâtiment et en consultant la liste de ses occupants – puis réduisait ces chiffres en fonction de la proportion d’habitants ayant supposément évacué le quartier. » Le problème, bien évidemment, c’est que cette méthode était déconnectée de la réalité. « La source a indiqué que, malgré la connaissance des risques d’erreurs, ce modèle imprécis avait été adopté pour sa rapidité. De ce fait, a-t-elle précisé, « le calcul des dommages collatéraux était entièrement automatisé et statistique », produisant même des chiffres non entiers.»

Enfin, il faut également prendre en compte la latence des frappes. Un décalage important peut se passer entre le moment où les systèmes de suivi comme « Où est papa ? » alerte de l’arrivée d’une cible à domicile et le bombardement… pouvant entraîner la mort de familles entières, sans même que la cible n’ait été atteinte car elle pouvait être repartie. « Nous savions que la cible était chez elle à 20 h. Finalement, l’aviation a bombardé la maison à 3 h du matin. Nous avons alors découvert qu’il avait réussi à déménager avec sa famille dans une autre maison. Deux autres familles avec enfants se trouvaient dans l’immeuble que nous avons bombardé. » Le temps de traitement n’a rien d’immédiat, contrairement à ce que l’on peut croire. 

« Lors des précédents conflits à Gaza, après l’assassinat de cibles humaines, les services de renseignement israéliens procédaient à une évaluation des dégâts causés par les bombardements – une vérification de routine après une frappe afin de déterminer si le commandant supérieur avait été tué et combien de civils avaient péri avec lui. Comme l’a révélé une précédente enquête de +972 et Local Call, cela impliquait d’écouter les conversations téléphoniques des familles endeuillées. Dans le conflit actuel, cependant, au moins concernant le ciblage des militants subalternes par intelligence artificielle, des sources indiquent que cette procédure a été abandonnée par souci de gain de temps. Ces mêmes sources précisent ignorer le nombre de civils réellement tués lors de chaque frappe et, pour les opérations menées par des individus soupçonnés d’appartenir au Hamas ou au Jihad islamique palestinien (JIP) et identifiés par IA, elles ignorent même si la cible a été tuée. »

Hubert Guillaud

La seconde partie de l’article est à lire par ici.

En 1976, le géographe Yves Lacoste rappelait les fondements de la géographie dans un petit essai, La géographie ça sert, d’abord, à faire la guerre qui revenait sur l’importance politique de tout discours sur l’espace. Aujourd’hui, nous devons nous poser la même question pour pointer l’importance politique de tout discours sur la technologie. La technologie est un enjeu stratégique et elle le devient d’autant plus qu’elle est désormais le soubassement du champ de bataille, son infrastructure, qui détermine la capacité à mener toutes opérations de défense comme d’attaque. 

Nous n’avions jusqu’à présent pas évoqué dans nos pages l’utilisation de l’IA pour la guerre. Il est temps de rattraper nos lacunes. 

Une usine IA pour faire la guerre

Ha’Aretz, le grand quotidien Israëlien, expliquait récemment que l’infrastructure d’intelligence artificielle qui a servi à piloter les bombardements à Gaza est désormais pleinement opérationnelle en Iran et au Liban. Cet Operational Data and AI Factory (Centre opérationnel de données et usine d’IA) piloté par Tsahal, l’armée israélienne, intègre de multiples flux de données et sources d’information, les rendant accessibles en temps réel à tous les échelons de la hiérarchie militaire. Déployé dans toute l’armée, il analyse tout type de données pour permettre d’obtenir une vision opérationnelle complète des forces, des missions et des menaces. « Le système est conçu pour faciliter la planification des attaques, le ciblage et les frappes. Il enregistre et transcrit également toutes les communications sans fil et compile des données en temps réel sur les lancements et les interceptions de missiles et de drones ». L’AI Factory militaire fonctionne. Et désormais, elle est devenue l’infrastructure même de l’armée, explique Ha’Aretz. 

Les unités peuvent utiliser les outils à leur disposition et développer leurs propres applications. Ce système n’est pas utilisé uniquement d’une manière défensive comme l’armée israélienne l’a longtemps défendu, mais participe également au traitement des plans de frappe et des cibles. Il est par exemple intégré au dispositif de drones offensifs de l’armée de l’air, baptisé Storm Cloud, qui permet d’identifier des objets dans les vidéos et les cartographier en temps réel. Bien d’autres systèmes sont désormais intégrés, comme  Lohem (Chasseur), qui assiste notamment l’armée de l’air dans la planification et la synchronisation des frappes ; Rom, qui détecte les drones ; « Contrôle spatial », qui alerte les forces terrestres en cas de tirs de roquettes et de missiles antichars ; et Tashan, qui identifie les points de lancement et d’impact et localise la source des tirs ennemis. L’IA a également été intégrée au système d’alerte national israélien, permettant de prédire les zones de retombée des débris d’interception. Flow, agrège les données provenant de sources militaires et civiles, permettant aux commandants de créer rapidement des tableaux de bord de renseignement pour des problèmes spécifiques. Un autre élément central du système est MapIT, « une plateforme qui affiche des données opérationnelles tridimensionnelles en temps réel aux commandants. Ha’Aretz a appris qu’au cours de l’année écoulée, l’armée a développé une couche supplémentaire au-dessus de MapIT, consolidant tous les flux de données en une seule carte opérationnelle. » 

À ce stade, précise le journal, « ces systèmes d’IA ne prennent pas de décisions opérationnelles de manière indépendante. Ils sont plutôt conçus pour fournir au personnel militaire des informations plus rapides et plus sophistiquées. Selon des sources qui se sont confiées à Ha’Aretz, le système remplace le travail de dizaines d’analystes. » Selon le journal, tous ces éléments ne dépendent d’aucun prestataire externe. « Suite aux critiques concernant la dépendance de l’armée israélienne à l’égard de l’infrastructure Microsoft, Tsahal a décidé d’adopter des modèles ouverts plutôt que des technologies propriétaires détenues par les grandes entreprises technologiques ». La plupart d’entre eux seraient des produits no-code, c’est-à-dire développés entièrement via l’IA, avance le journal. Fin 2025, Tsahal crée une division dédiée à l’IA, baptisée Bina et une unité chargée de consolider les données opérationnelles, au coeur du développement de ces outils. 

Dans cette infrastructure, on trouve encore le plus connu d’entre tous : Lavender, un système d’IA permettant de cibler des individus, comme l’explique la remarquable enquête du journaliste Yuval Abraham, publiée par +972 Magazine en avril 2024 qui aurait identifié des dizaines de milliers de militants présumés à Gaza. Dans son enquête sur Lavender, Yuval Abraham explique que le système de ciblage par IA utilisé à Gaza, est « un système peu supervisé par l’humain et caractérisé par une politique permissive en matière de pertes humaines ». 

Lavender : le ciblage… quelques soient les dommages et les défaillances

En 2021, explique Yuval Abraham dans son article, un livre publié en anglais et sous pseudonyme plaidait pour la conception d’une machine spéciale capable de traiter rapidement d’énormes quantités de données afin de générer des milliers de « cibles » potentielles pour des frappes militaires en pleine guerre. Son auteur : l’un des responsables de l’unité d’élite du renseignement israélien. Cet outil qu’il imaginait existe désormais. Son influence sur les opérations militaires israéliennes à Gaza a été telle que les conclusions de l’IA étaient traitées « comme s’il s’agissait de décisions humaines ». 

« Officiellement, le système Lavender est conçu pour identifier toutes les opérations suspectes des branches militaires du Hamas et du Jihad islamique palestinien, même celles de bas rang, comme cibles potentielles de bombardements. L’armée s’est presque entièrement fiée à Lavender, qui a recensé jusqu’à 37 000 Palestiniens comme militants présumés (identifiant ces personnes nommément, bornant leurs téléphones et leurs domiciles) susceptibles de faire l’objet de frappes aériennes. »

« L’armée a donné son accord général aux officiers pour qu’ils adoptent les listes de cibles de Lavender, sans exiger de vérification approfondie des raisons qui ont motivé ces choix par le système ni d’examen des données brutes sur lesquelles ils se fondaient. » Une source a indiqué que le personnel humain servait souvent uniquement de simple exécutant pour valider les décisions du système, ajoutant qu’en général, il ne consacrait personnellement qu’une vingtaine de secondes à chaque cible avant d’autoriser un bombardement, juste pour s’assurer que la cible marquée par Lavender était bien… un homme. Et ce, malgré le fait que le système commette ce qui est considéré comme des « erreurs » dans au moins environ 10 % des cas, « et qu’il est connu pour marquer occasionnellement des individus n’ayant qu’un lien ténu avec des groupes militants, voire aucun lien du tout.» « De plus, l’armée israélienne attaquait systématiquement les individus ciblés à leur domicile, généralement la nuit en présence de toute leur famille, plutôt que lors d’opérations militaires. Selon les sources, cela s’expliquait par le fait que, d’un point de vue de renseignement, il était plus facile de localiser les individus chez eux. » Même si l’enjeu semblait plutôt de profiter d’une situation de faiblesse, hors du champ de bataille.

Les pertes de femmes ou d’enfants et de victimes collatérales ne sont, pour l’armée israélienne, qu’une conséquence sans impact sur les choix technologiques opérés. « Le système est conçu pour repérer les cibles à leur domicile ». « Selon deux sources, l’armée a également décidé, durant les premières semaines du conflit à Gaza, que pour chaque jeune militant du Hamas marqué par Lavender, il était permis de tuer jusqu’à 15 ou 20 civils. » C’est ici que les choses ont changé, estime Yuval Abraham, par le passé, l’armée n’autorisait aucun « dommage collatéral » lors des assassinats de militants de bas rang : les dommages collatéraux n’étaient autorisés que pour cibler les hauts responsables. Les dommages ont été intégrés et élargis. 

L’enquête de Yuval Abraham est très précise, et permet de bien saisir les limites de l’outil. 

« Lavender repère les personnes et les inscrit sur une liste de personnes à éliminer » déterminée par calcul à partir des données collectées, sans que l’on sache ce qui constitue ces données, provenant certainement du renseignement. Le terme de cible humaine a longtemps désigné pour l’armée israélienne des officiers supérieurs ennemis qui pouvaient être bombardés à leur domicile (au prix du massacre de leurs familles), mais seulement les officiers supérieurs, « afin de respecter le principe de proportionnalité du droit international ». Mais après le 7 octobre 2023 – date à laquelle des militants du Hamas ont lancé une attaque meurtrière contre des localités du sud d’Israël, faisant environ 1 200 morts et 240 otages –, Tsahal, selon ces mêmes sources, a adopté une approche radicalement différente. L’armée a décidé de désigner toutes les opérations de la branche armée du Hamas comme des cibles humaines, indépendamment du grade ou de l’importance militaire de leurs auteurs. « Lors des conflits précédents, pour autoriser l’assassinat d’une cible humaine, un officier devait suivre une procédure d’incrimination complexe et longue » et notamment procéder à des vérifications. Mais en élargissant la liste des cibles, les vérifications ont été réduites, au profit du ciblage automatisé. 

L’autorisation d’adopter automatiquement les listes de cibles calculée par Lavender a été prise deux semaines après le lancement de la guerre contre Gaza, après avoir testé un échantillon de cibles proposées par Lavender et constaté que l’affiliation d’un individu au Hamas semblait fiable à 90%. Les décisions de ciblage automatisées sont alors devenues des ordres. Les unités n’ont plus à vérifier les raisons de ces choix, ni à examiner les données sur lesquelles il se fonde. « Dès qu’une personne [marquée] était chez elle, elle devenait immédiatement une cible »… et ses coordonnées étaient transmises à l’aviation chargée de bombarder sa maison. « Il n’y avait plus de politique du « zéro erreur » », remarque un officier. Il n’y a pas eu de volonté de vérifier et d’atténuer les dommages collatéraux (bien au contraire, visiblement). Les 10% d’erreurs (ou plus) sont désormais intégrés comme principe opérationnel. « Des sources ont expliqué que le dispositif Lavender signalait parfois par erreur des individus dont les habitudes de communication étaient similaires à celles d’agents connus du Hamas ou du Jihad islamique palestinien (JIP) — notamment des policiers et des employés de la protection civile, des proches de militants, des résidents portant un nom et un surnom identiques à ceux d’un agent, ou encore des Gazaouis utilisant un téléphone ayant appartenu à un membre du Hamas. » Pour l’armée israélienne, la marge d’erreur du système a été validée comme acceptable.

L’invisible score de cible

« Lavender analyse les informations collectées sur la plupart des 2,3 millions d’habitants de la bande de Gaza grâce à un système de surveillance de masse, puis évalue et classe la probabilité que chaque personne soit active dans la branche militaire du Hamas ou du Jihad islamique palestinien (JIP) – depuis la base d’un échantillon d’entraînement de militants connus. Selon certaines sources, la machine attribue à presque chaque habitant de Gaza une note de 1 à 100, indiquant la probabilité qu’il soit un militant. » 

L’étendue des sources et données utilisées pour procéder à cette analyse n’est pas connue. Visiblement, le système utilise toutes les sources à sa disposition : données des téléphones, connexions aux réseaux sociaux, informations sur le champ de bataille, contacts téléphoniques, photos, informations sur les opérations de l’ennemi… Le seul enjeu consiste à déterminer le seuil, le niveau à partir duquel la note attribuée transforme un individu en cible. 

A partir de quelles données et informations, Lavender estime qu’une personne est affiliée au Hamas ? La liste des motifs de suspicions est sans fin puisqu’elle est calculée depuis toutes les données disponibles. Le fait qu’une personne ait appartenu ou ait été proche du Hamas dans le passé mais n’en fasse plus partie est un motif de suspicion. Mais est-il exact ? Pire, souligne l’article : un officier « défendant le recours aux listes de cibles palestiniennes générées par Lavender, a soutenu qu’il était justifié d’investir le temps d’un officier de renseignement pour vérifier l’information uniquement si la cible était un haut commandant du Hamas. « Mais pour un simple militant, il est inutile d’y investir des ressources humaines et du temps », a-t-il déclaré. » On vérifie là où le taux d’erreur est possiblement le plus faible et pas là où le taux d’erreur est possiblement le plus fort ! « Les jours où nous ne trouvions aucune cible [dont le profil justifiait une frappe], nous attaquions à un seuil plus bas. » Glaçant ! Et en abaissant le seuil, le système finit par signaler les membres de la protection civile, des policiers… qui par leur fonction aident le gouvernement du Hamas… mais ne représentent pas une menace directe. D’ailleurs, des données d’agents de la protection civile ont été utilisées pour entraîner Lavender (alors qu’elles auraient dû être écartées) et déterminer les profils à cibler, estime un data scientist en le regrettant car ils mettent ces publics à risque. 

Bien sûr, l’armée israélienne a dénoncé les accusations portées par l’article de Yuval Abraham. Pour Tsahal, l’IA n’est pas utilisée ainsi. Elle n’est qu’un « auxiliaire des décisions ». Toute cible identifiée est vérifiée, assure la communication officielle de l’armée. Mais, selon les sources de Yuval Abraham, « le seul protocole de supervision humaine mis en place avant le bombardement des maisons de militants présumés « juniors » marqués par Lavender consistait en une vérification unique : s’assurer que la cible sélectionnée par l’IA était un homme et non une femme. » Outre les dommages collatéraux, nombreux, pour les civils ciblés par erreur par Lavender, aucun mécanisme de contrôle n’était en place pour détecter l’erreur, comme par exemple, quand les cibles ont pu donner leur téléphone à un autre individu. Lavender, finalement, cible bien plus un téléphone qu’une personne. Ce qui n’est pas sans produire très concrètement des erreurs de frappe.

Obsession téléphonique, obsession domiciliaire

Pour l’armée israélienne, si ses frappes tuent des civils, c’est d’abord en raison des tactiques du Hamas qui utiliserait des réseau de tunnels passant délibérément sous des hôpitaux et des écoles ; ou des ambulances pour se déplacer ; et qui situerait ses moyens militaires à proximité de bâtiments civils pour dissuader les frappes. Des affirmations que les organisations de défense des droits humains jugent fallacieuses et qui viseraient à exonérer Israël de sa responsabilité dans ces pertes. Mais pour les sources d’Abraham, le nombre sans précédent de morts lors des bombardements israéliens actuels serait d’abord lié au fait que l’armée a systématiquement ciblé des personnes à leur domicile, en présence de leurs familles – notamment parce qu’il était plus facile, du point de vue du renseignement, de repérer les maisons familiales grâce à des systèmes automatisés. « L’armée a fait le choix délibéré de bombarder des militants présumés à l’intérieur de maisons civiles où aucune activité militaire n’avait été constatée. Un choix qui reflète la conception du système de surveillance de masse israélien à Gaza. » 

« Afin de détecter en temps réel l’entrée des cibles dans les maisons, divers logiciels automatisés ont été développés. Ces programmes suivent simultanément des milliers de personnes, repèrent leur présence à domicile et envoient une alerte automatique à l’officier chargé du ciblage, qui marque alors la maison pour le bombardement. L’un de ces logiciels de suivi, révélé ici pour la première fois, s’appelle « Où est papa ? ». « On entre des centaines de cibles dans le système et on attend de voir qui on peut éliminer », a déclaré une source connaissant le système. « C’est ce qu’on appelle le ciblage à grande échelle : on copie-colle les listes produites par le système. »

Les données confirment cette politique : durant le premier mois de la guerre, plus de la moitié des victimes – soit 6 120 personnes – appartenaient à 1 340 familles, dont beaucoup ont été entièrement décimées à l’intérieur de leurs maisons, selon les chiffres de l’ONU.»

Quand le rythme des victimes ralentit, il suffit d’ajouter davantage de noms dans le système de suivi, et notamment d’abaisser les grades de ceux qu’on souhaite éliminer. La liste des personnes à abattre s’est considérablement allongée (elle en compterait 36 000 en attente de localisation). Même des mineurs ont été désignés comme cibles de bombardement par Lavender, confie une source, déclarant : « normalement, les opérations concernent les personnes de plus de 17 ans, mais ce n’était pas une condition. »

La prise en compte du coût des armes et l’évolution du seuil des dommages collatéraux

Une fois que Lavender a désigné une cible à assassiner, que l’armée a vérifié son sexe et que le logiciel de suivi a localisé la cible à son domicile, l’étape suivante consiste à choisir les munitions. En décembre 2023, CNN a rapporté que, selon les estimations des services de renseignement américains, environ 45 % des munitions utilisées par l’armée de l’air israélienne à Gaza étaient des bombes non guidées, connues pour causer davantage de dommages collatéraux que les bombes guidées, plus précises (mais plus chères). Le choix des munitions se fait en fonction des immeubles ciblés. Les bombes non guidées sont plus adaptées à de petits immeubles, même si elles font plus de dégâts et donc plus de dommages collatéraux. Cela a notamment été le cas pour les cibles mineures, conduisant à détruire leurs maisons et tous leurs habitants. Selon d’autres sources, le programme d’attaque des militaires du Hamas de bas rang a été réduit voire arrêté du fait de son coût en munitions et en armes. 

Lors d’attaques depuis des systèmes d’IA comme Lavender, le nombre de civils qu’il était permis de tuer avec chaque cible était fixé à 15 à 20 maximum, durant les premières semaines du conflit. « Ces « seuils de dommages collatéraux », comme les appelle l’armée, étaient appliqués de manière systématique à tous les militants présumés, indépendamment de leur grade, de leur importance militaire ou de leur âge ». D’après un officier affecté à une salle d’opérations ciblées, le département de droit international de l’armée n’avait jamais auparavant accordé une « autorisation aussi générale » pour un seuil de dommages collatéraux aussi élevé. « Il ne s’agit pas simplement de pouvoir tuer n’importe quel soldat du Hamas, ce qui est pourtant clairement autorisé et légitime au regard du droit international », a-t-il déclaré. Mais également de tuer des civils qui leur sont liés, ce qui est beaucoup moins conforme au droit international. Sans compter que « toute personne ayant porté un uniforme du Hamas ces deux dernières années pouvait être la cible d’un bombardement, avec 20 civils tués en dommages collatéraux, même sans autorisation spéciale ». « En pratique, le principe de proportionnalité n’était pas respecté », estime l’officier. « Selon certaines sources, le niveau prédéterminé et fixe de dommages collatéraux a permis d’accélérer la création massive de cibles à l’aide du système Lavender, car il a permis un gain de temps ». Pour les frappes aériennes contre les hauts commandants du Hamas, l’armée israélienne autoriserait la mort de « centaines » de civils par cible – « une politique officielle sans précédent historique en Israël, ni même dans les récentes opérations militaires américaines ». Pour atteindre Ayman Nofal, commandant de la Brigade centrale de Gaza, le 17 octobre, l’armée israélienne a autorisé des dégâts collatéraux encore plus élevés. 

« Le général Peter Gersten, commandant adjoint des opérations et du renseignement dans le cadre de l’opération contre Daech en Irak et en Syrie, a déclaré à un magazine de défense américain en 2021 qu’une attaque ayant causé la mort de 15 civils s’écartait de la procédure. Pour ce faire, il a dû obtenir une autorisation spéciale du chef du Commandement central américain, le général Lloyd Austin, aujourd’hui secrétaire à la Défense. » « Avec Oussama Ben Laden, on avait un Indice de pertes non combattantes (IPNC) de 30, mais pour un commandant subalterne, cet IPNC était généralement nul », a déclaré Gersten. « On a longtemps fonctionné avec un IPNC nul. »

Certaines sources d’Abraham confient que cette politique était disproportionnée. Et que les souffrances des Gazaouis touchés par ces bombardements risquent, à long terme, de renforcer le Hamas.  

En fait, expliquent les sources d’Abraham, le nombre de dommages collatéraux autorisé n’a cessé de fluctuer, pour permettre les frappes. Le fait que la plupart des maisons de la bande de Gaza aient déjà été détruites ou endommagées, et que la quasi-totalité de la population ait été déplacée, a également réduit la capacité de l’armée à s’appuyer sur les bases de données de renseignement et les programmes automatisés de localisation des habitants et des habitations. Pour Abraham, lors des conflits précédents, les services de renseignement de l’armée consacraient beaucoup de temps à vérifier la fiabilité des calculs des dommages collatéraux possibles. Mais « après le 7 octobre, cette vérification rigoureuse a été largement abandonnée au profit de l’automatisation ». 

Visiblement, comme le notait déjà le New York Times, le système fonctionne avec un code couleur : le rouge indique les zones densément peuplées, tandis que le vert et le jaune indiquent les zones relativement vidées de leurs habitants. Le « logiciel calculait le nombre de civils résidant dans chaque maison avant la guerre – en évaluant la taille du bâtiment et en consultant la liste de ses occupants – puis réduisait ces chiffres en fonction de la proportion d’habitants ayant supposément évacué le quartier. » Le problème, bien évidemment, c’est que cette méthode était déconnectée de la réalité. « La source a indiqué que, malgré la connaissance des risques d’erreurs, ce modèle imprécis avait été adopté pour sa rapidité. De ce fait, a-t-elle précisé, « le calcul des dommages collatéraux était entièrement automatisé et statistique », produisant même des chiffres non entiers.»

Enfin, il faut également prendre en compte la latence des frappes. Un décalage important peut se passer entre le moment où les systèmes de suivi comme « Où est papa ? » alerte de l’arrivée d’une cible à domicile et le bombardement… pouvant entraîner la mort de familles entières, sans même que la cible n’ait été atteinte car elle pouvait être repartie. « Nous savions que la cible était chez elle à 20 h. Finalement, l’aviation a bombardé la maison à 3 h du matin. Nous avons alors découvert qu’il avait réussi à déménager avec sa famille dans une autre maison. Deux autres familles avec enfants se trouvaient dans l’immeuble que nous avons bombardé. » Le temps de traitement n’a rien d’immédiat, contrairement à ce que l’on peut croire. 

« Lors des précédents conflits à Gaza, après l’assassinat de cibles humaines, les services de renseignement israéliens procédaient à une évaluation des dégâts causés par les bombardements – une vérification de routine après une frappe afin de déterminer si le commandant supérieur avait été tué et combien de civils avaient péri avec lui. Comme l’a révélé une précédente enquête de +972 et Local Call, cela impliquait d’écouter les conversations téléphoniques des familles endeuillées. Dans le conflit actuel, cependant, au moins concernant le ciblage des militants subalternes par intelligence artificielle, des sources indiquent que cette procédure a été abandonnée par souci de gain de temps. Ces mêmes sources précisent ignorer le nombre de civils réellement tués lors de chaque frappe et, pour les opérations menées par des individus soupçonnés d’appartenir au Hamas ou au Jihad islamique palestinien (JIP) et identifiés par IA, elles ignorent même si la cible a été tuée. »

Hubert Guillaud

La seconde partie de l’article est à lire par ici.

La coalition RSA réunit de nombreuses associations (ATD Quart Monde, le Secours Catholique, Aequitaz, Changer de Cap, la Quadrature du Net, la Ligue des droits de l’Homme, le Mouvement national des chômeurs et des précaires, la Fédération des centres sociaux…), syndicats (CGT, FSU, Solidaires, CFDT, Unsa) et chercheurs, autour d’un objectif commun : documenter, mutualiser, partager les analyses sur les effets concrets sur les demandeurs d’emploi, les bénéficiaires des minimas sociaux (RSA, AAH) et les jeunes suivis en mission locale de la loi pour le plein emploi de décembre 2023 et de son décret d’application du 30 mai 2025, plus connu sous le nom de « décret-sanction RSA » que ces associations contestent devant le conseil d’Etat.

Dans sa newsletter, l’association Changer de Cap souligne que ces associations tentent de dresser un état des lieux des pratiques des Départements, décisionnaires pour les sanctions appliquées aux allocataires du RSA. « D’après un document interne de France Travail, sur les 51 conseils départementaux ayant déjà adopté un barème de sanctions, 48 font le choix de taux fixe sans aucune proportionnalité ni individualisation, contrairement à ce qu’indiquaient les textes. Parmi ceux-ci, 45 appliquent une suspension d’au moins 50 % du RSA dès le premier manquement, quelle qu’en soit sa gravité et 32 départements des suspensions de 80 ou 100 %. L’extrême dureté dans la mise en œuvre de ce décret conforte les craintes et analyses de Changer de Cap : une logique budgétaire entraînant une précarisation accrue de pans entiers de la société et une fragilisation du Pacte social dans la quasi-indifférence générale. » A l’image des pratiques du président du département du département du Finistère, Maël de Calan, poursuivit par la CGT et six allocataires du RSA pour « harcèlement moral institutionnel », dénonçant une pression et un suivi inadaptés, pour un plan RSA qui a surtout fait passer le nombre d’allocataires finistériens de 18 000 en 2021 à 13 500 fin 2025 rapporte Splann. « Un taux de radiation pour fraude vingt fois supérieur à celui des autres départements (39,8% en 2024 contre 1,96% au niveau national) », dénonce la CGT du Finistère, rapporte Révolution Permanente, qui dénonce également les pratiques de coaching et d’activité de placement en emploi d’entreprises délégataires.

La newsletter de Changer de Cap pointe vers un rapport publié par l’Observatoire de la surveillance en démocratie de l’université de Bordeaux sur les contrôles de la CAF qui montre la logique du soupçon, l’injustice et le stress des contrôles, les obstacles à la contestation et la montée du non recours face à la violence des contrôles. Ceux qui perçoivent des minima sociaux (RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF, rappelle Marine Lamare, l’auteure du rapport. « Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même », résume pertinemment Didier Dubasque sur son blog. Derrière la neutralité et l’objectivité des algorithmes, se développe une surveillance différenciée, inégalitaire. « La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux que la CNAF est censée protéger. » Mais surtout, le rapport de Marine Lamare, montre que loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres à recourir à leurs droits. Comme si derrière le non recours se cachait de moins en moins un manque d’information des publics, et de plus en plus une capitulation face à la violence de la machine administrative.

Cette politique n’est pas nouvelle, rappelle Marine Lamare, rappelant les critiques formulées dès les années 70 par l’historien et sociologue, Jacques Donzelot, dans un article pour la revue Esprit, puis dans son livre, La police des familles (Minuit, 1977) qui expliquait déjà que « plus on est pauvre, plus on est surveillé ». La criminalisation de la pauvreté est devenue une politique publique depuis les années 90, rappelle-t-elle à la suite des travaux du sociologue Loïc Wacquant dans Punir les pauvres (Agone, 2004). « Les procédures de mise en recouvrement des indus se sont vues consolidées. De façon générale, le droit a contribué à un « durcissement » dans le traitement des cas, à la fois quant aux critères d’attribution des prestations, à la qualification de la fraude et aux sanctions administratives, faisant des CAF des « quasi-tribunaux » », comme l’expliquait le sociologue Vincent Dubois dans Contrôler les assistés (Raisons d’agir, 2021). 

Dans son mémoire, Marine Lamare rappelle que le respect de la vie privée est socialement situé. Pour ceux soumis aux contrôles, c’est une formule creuse. Pour eux, les relations de pouvoir qu’ils vivent sont toujours plus dissymétriques. 

Le sentiment d’incompréhension face aux contrôles s’explique d’abord par le silence des CAF sur les raisons des contrôles. Il s’augmente quand les bénéficiaires contrôlés découvrent qu’ils doivent déclarer les aides financières reçus de leurs proches quel qu’en soit le montant, comme si la solidarité de proximité, familiale, s’opposait finalement à la solidarité collective, alors que selon diverses jurisprudences, ils devraient être exclus des ressources prises en compte pour le RSA. Même choses pour les situations maritales que la CAF interprète toujours très étroitement et normativement, quand le Conseil d’Etat, lui, par exemple, reconnaît les séparations de faits. C’est un peu comme si la CAF portait partout une conception restrictive des droits, dans une interprétation qui semble se faire toujours au détriment de l’allocataire. Le décalage, le sentiment d’incompréhension, s’exprime encore entre le discours du contrôleur et les courriers de l’administration, et plus encore dans la « discontinuité des droits » que les contrôles instaurent, notamment les « sanctions de faits » c’est-à-dire la suspension des prestations, parfois sans préavis, souvent sans motivation explicite et souvent sans réponses. 

Le mémoire rappelle les coûts de ces procédures pour les allocataires. Les coûts psychologiques et moraux, mais également financiers pour des gens qui ne peuvent se le permettre. Et notamment, les plus difficiles : la suspension des aides ou la notification d’indus, qui nécessitent pour les contester des nouveaux recours et des procédures toujours plus complexes, difficilement accessibles aux allocataires précaires. Au final, c’est toujours le quotidien des allocataires qui devient impossible quand les aides sont suspendues. 

Dans son mémoire, Marine Lamare constate encore que le droit de communication de la CAF auprès de tiers, lui permettant d’obtenir d’innombrables données sur les administrés, s’est considérablement élargi au tournant des années 2010, « lorsque les pouvoirs d’investigation des agents des organismes de sécurité sociale ont été alignés sur ceux des agents des services fiscaux », où le contrôle des documents semble n’avoir plus aucune limite (notamment de rétroactivité et de proportionnalité…), comme quand un agent utilise le fait qu’une dame soit toujours indiquée en couple sur Facebook. Pourtant, les enquêtes de la CAF montrent surtout la grande difficulté à transformer des indices en preuves et la grande difficulté du droit à vouloir transformer des faisceaux d’indices en certitudes. La juriste montre surtout que les critères mobilisés (domiciliation commune, la communauté affective ou d’intérêts…) sont souvent plus fragiles, notamment au regard de la jurisprudence qui va les confirmer ou les écarter d’une manière très différente d’un jugement l’autre. Les avocats et le Défenseur des droits rappellent que c’est à la CAF de prouver la situation de concubinage ou de non-présence en France, par delà les indices et suspicions. Pour la docteure en droit, on assiste à « une criminalisation de la dépendance aux prestations sociales ». 

Quant à la contestation, elle est un chemin semé d’embûches, rappelle-t-elle, notamment du fait même de la numérisation de l’accès au droit. Les résistances sont souvent silencieuses et individuelles. Les contentieux sont, par nature, déséquilibrés au détriment des justiciables. Ce qui n’est pas sans évoquer les constats des derniers épisodes du Code a changé sur la dématérialisation. « Les espaces libre-service créés dans les années 2010 condensent en particulier les publics les plus démunis, les agents les moins formés et les conditions d’accueil les plus défavorables. Conformément à « l’aménagement dissuasif » déployé, des barrières sont érigées entre les plus précaires et les personnels qualifiés », souligne Lamare à la suite du psychologue Pascal Martin. Les associations ou les avocats apparaissent alors comme des substituts à l’absence d’interlocuteurs à la CAF, pour démêler l’écheveau des situations. Quant au numérique, il donne désormais la temporalité des démarches, puisque ce sont les enregistrements et les courriers électroniques qui marquent les relations. Par exemple, confient les accompagnateurs et les allocataires, il est difficile d’obtenir le « tableau de liquidation » qui permettrait d’accéder à la « boîte noire du calcul des droits » et de comprendre éventuellement les calculs d’indus opérés par les CAF. Même les rapports de contrôles ou d’enquête nécessitent bien souvent de passer par de longues démarches via la Commission d’accès aux documents administratifs pour être obtenus. Enfin, la complexité des procédures, des recours (par exemple entre demande de remise de dette et contestation de la décision, démarches incompatibles), finissent d’épuiser parfois les meilleures volontés. 

Lamare montre également que nombre d’acteurs sociaux de l’accompagnement préfèrent la conciliation au conflit avec les CAF, d’autant que certains, comme « les assistantes sociales des départements et des CAF sont juges et parties sur ce type de dossiers ». Non seulement le contentieux est difficile pour les administrés, mais il rémunère peu les avocats et face à l’envolée des demandes, se résout surtout par un fort désintérêt des acteurs pouvant accompagner les justiciables en difficultés. Les « contentieux des pauvres » démontrent surtout qu’ils n’intéressent pas grand monde et produisent peu de justice, comme le soulignait d’ailleurs la sociologue Delphine Serre dans son livre, Ultime recours (raison d’agir, 2024) quant aux procédures à l’encontre de la sécurité sociale pour faire reconnaître un accident du travail ou une maladie professionnelle, dénonçant elle aussi, le risque que les droits sociaux deviennent des principes sans objets.  

Mais surtout, conclut Marine Lamare, « le non-recours se dessine alors comme une voie de sortie qui prend l’allure d’issue de secours ». « Par peur, pression, culpabilisation, découragement, épuisement et/ou désaccord avec les principes et pratiques des CAF, [nombre de bénéficiaires] ne veulent pas ou ne veulent plus avoir affaire à elles ». L’abandon s’enkyste. La chasse à la fraude ressemble à une chasse à l’homme, témoigne une allocataire. L’acte individuel devient une critique des politiques sociales. Le non-recours devient une non-demande, le résultat d’une fabrique collective de l’exclusion plus que le signe de défaillances individuelles. 

Autant de constats qui font échos à ceux du dernier rapport de la Défenseure des droits sur la fraude sociale, alors même que le gouvernement vient de durcir l’arsenal contre les fraudes et à réformer en profondeur les aides sociales (Le Monde, Médiapart). Claire Hédon y dénonce une industrialisation de la lutte contre la fraude des bénéficiaires, explique Le Monde. Le rapport souligne, par exemple, que la communication bancaire est devenue une procédure automatisée, alors qu’elle est normalement circonscrite à certaines situations et proportionnée. De même, la généralisation de la consultation des réseaux sociaux à des fins de contrôle se déploie sans garde-fous. La Défenseure des droits rappelle à nouveau le surciblage et le surcontrôle de certaines catégories de population et renouvelle ses demandes de transparence et de mesure de l’équité des ciblages et contrôles. Elle dénonce également des notifications non motivées et non conforme à la réglementation et une faible communication sur les voies et délais de recours. Mais surtout, elle pointe combien la fraude est une qualification plastique et que ce qualificatif devenu omniprésent entrave le droit à l’erreur et l’accès aux droits. Et de plaider pour lui substituer et « ériger le droit à l’erreur de bonne foi en tant que principe général applicable en toutes circonstances aux relations entre les usagers et les organismes sociaux ».

La Défenseure des droits plaide pour une amélioration de l’information aux usagers, mais surtout pour que les services sociaux priorisent la prévention plutôt que la répression. Elle rappelle que l’administration a de plus en plus tendance à confondre la fraude et l’erreur, alors même que le droit à l’erreur a été inscrit dans la loi depuis 2018 et dénonce le constat que les pouvoirs publics s’accommodent trop du non-recours. 

Mais, si les constats du Défenseur des droits s’accumulent et se répètent de rapports en rapports, peut-être faut-il convenir que le problème est bien plus politique qu’on le pense. La nouvelle réforme proposée par le projet de loi sur la fraude sociale, montre combien le discours saturé ne parvient plus à laisser d’espace pour d’autres approches que la chasse aux pauvres. 

Pour la Quadrature du net également, le flicage n’en finit pas, dénonçant, dans la dernière version du projet de loi, l’élargissement de l’accès aux comptes bancaires pour le contrôle du RSA. Le contrôle sur les moindres dépenses des plus pauvres, a clairement pour but d’humilier, « tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits ». « Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure ». En réalité, explique l’association, le projet de loi vise d’abord à permettre aux départements de procéder à ces contrôles, alors que normalement, ils sont du recours des seuls services sociaux (et à protéger les départements de poursuites, comme celle engagée par les allocataires du Finistère). Et surtout, il vise à élargir considérablement aux acteurs du social la possibilité « d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs. » Pour la Quadrature, cette mesure s’inscrit « dans un processus d’extension continue du droit de communication » à des fins de « lutte contre la fraude sociale », faisant fit des limites et des garanties de ce droit, supprimées d’un projet de loi l’autre. « Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse. » 

La Quadrature estime pourtant qu’un espoir pourrait venir depuis le droit européen, pour réaffirmer des limites et des garanties. La Cour européenne des droits de l’Homme (CEDH) a récemment « condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français ». « La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela. »

Dans un communiqué de presse, Changé de Cap dénonce le fait qu’il sera bientôt possible à la CAF, aux Départements comme à France Travail de procéder à une suspension conservatoire des prestations et allocations en cas « d’indices sérieux d’un manquement délibéré ou de manœuvre frauduleuse ». Les organismes sociaux vont donc pouvoir couper les droits unilatéralement sans que ne soit défini ce que sont les manquements, les indices sérieux voire les indices graves et concordants. 

« Le collectif Changer de cap est en opposition totale avec cette politique de chasse aux pauvres. Nous réaffirmons :

Que la lutte contre les exclusions doit rester un impératif national fondé sur le respect de l’égale dignité de tous les êtres humains et une priorité de l’ensemble des politiques publiques.

Que toute personne en difficulté a le droit au soutien de la nation, tel que cela est énoncé dans plusieurs lois fondamentales et dans la Constitution.

Que l’État, les collectivités territoriales, les établissements publics dont les centres communaux et intercommunaux d’action sociale, les organismes de sécurité sociale ainsi que les institutions sociales et médico-sociales doivent participer à cette mission de soutien aux populations précarisées.

Que chaque personne a le droit à un accompagnement respectueux de son parcours, prenant réellement en compte les difficiles chemins empruntés et les situations complexes.

Et ne craignons pas d’exiger de nos responsables politiques de lutter contre les causes de la pauvreté plutôt que d’orchestrer la chasse aux pauvres. »

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des organismes des gestion sociale à leur mission. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées.

Voir également notre billet sur les algorithmes de score de risque de fraude à la CAF qui surveillent les bénéficiaires.

La coalition RSA réunit de nombreuses associations (ATD Quart Monde, le Secours Catholique, Aequitaz, Changer de Cap, la Quadrature du Net, la Ligue des droits de l’Homme, le Mouvement national des chômeurs et des précaires, la Fédération des centres sociaux…), syndicats (CGT, FSU, Solidaires, CFDT, Unsa) et chercheurs, autour d’un objectif commun : documenter, mutualiser, partager les analyses sur les effets concrets sur les demandeurs d’emploi, les bénéficiaires des minimas sociaux (RSA, AAH) et les jeunes suivis en mission locale de la loi pour le plein emploi de décembre 2023 et de son décret d’application du 30 mai 2025, plus connu sous le nom de « décret-sanction RSA » que ces associations contestent devant le conseil d’Etat.

Dans sa newsletter, l’association Changer de Cap souligne que ces associations tentent de dresser un état des lieux des pratiques des Départements, décisionnaires pour les sanctions appliquées aux allocataires du RSA. « D’après un document interne de France Travail, sur les 51 conseils départementaux ayant déjà adopté un barème de sanctions, 48 font le choix de taux fixe sans aucune proportionnalité ni individualisation, contrairement à ce qu’indiquaient les textes. Parmi ceux-ci, 45 appliquent une suspension d’au moins 50 % du RSA dès le premier manquement, quelle qu’en soit sa gravité et 32 départements des suspensions de 80 ou 100 %. L’extrême dureté dans la mise en œuvre de ce décret conforte les craintes et analyses de Changer de Cap : une logique budgétaire entraînant une précarisation accrue de pans entiers de la société et une fragilisation du Pacte social dans la quasi-indifférence générale. » A l’image des pratiques du président du département du département du Finistère, Maël de Calan, poursuivit par la CGT et six allocataires du RSA pour « harcèlement moral institutionnel », dénonçant une pression et un suivi inadaptés, pour un plan RSA qui a surtout fait passer le nombre d’allocataires finistériens de 18 000 en 2021 à 13 500 fin 2025 rapporte Splann. « Un taux de radiation pour fraude vingt fois supérieur à celui des autres départements (39,8% en 2024 contre 1,96% au niveau national) », dénonce la CGT du Finistère, rapporte Révolution Permanente, qui dénonce également les pratiques de coaching et d’activité de placement en emploi d’entreprises délégataires.

La newsletter de Changer de Cap pointe vers un rapport publié par l’Observatoire de la surveillance en démocratie de l’université de Bordeaux sur les contrôles de la CAF qui montre la logique du soupçon, l’injustice et le stress des contrôles, les obstacles à la contestation et la montée du non recours face à la violence des contrôles. Ceux qui perçoivent des minima sociaux (RSA, APL, prime d’activité, AAH ) sont, du fait de leur situation même, identifiés comme des « profils à risque » par les algorithmes de la CNAF, rappelle Marine Lamare, l’auteure du rapport. « Ce n’est pas le comportement qui est suspect, c’est la condition sociale elle-même », résume pertinemment Didier Dubasque sur son blog. Derrière la neutralité et l’objectivité des algorithmes, se développe une surveillance différenciée, inégalitaire. « La logique est circulaire : la précarité engendre l’instabilité des déclarations, l’instabilité engendre les erreurs, les erreurs engendrent les contrôles, les contrôles engendrent les sanctions. Et la boucle se referme sur celles et ceux que la CNAF est censée protéger. » Mais surtout, le rapport de Marine Lamare, montre que loin de simplement « corriger » des situations, les contrôles produisent quelque chose de plus profond : ils découragent les personnes les plus pauvres à recourir à leurs droits. Comme si derrière le non recours se cachait de moins en moins un manque d’information des publics, et de plus en plus une capitulation face à la violence de la machine administrative.

Cette politique n’est pas nouvelle, rappelle Marine Lamare, rappelant les critiques formulées dès les années 70 par l’historien et sociologue, Jacques Donzelot, dans un article pour la revue Esprit, puis dans son livre, La police des familles (Minuit, 1977) qui expliquait déjà que « plus on est pauvre, plus on est surveillé ». La criminalisation de la pauvreté est devenue une politique publique depuis les années 90, rappelle-t-elle à la suite des travaux du sociologue Loïc Wacquant dans Punir les pauvres (Agone, 2004). « Les procédures de mise en recouvrement des indus se sont vues consolidées. De façon générale, le droit a contribué à un « durcissement » dans le traitement des cas, à la fois quant aux critères d’attribution des prestations, à la qualification de la fraude et aux sanctions administratives, faisant des CAF des « quasi-tribunaux » », comme l’expliquait le sociologue Vincent Dubois dans Contrôler les assistés (Raisons d’agir, 2021). 

Dans son mémoire, Marine Lamare rappelle que le respect de la vie privée est socialement situé. Pour ceux soumis aux contrôles, c’est une formule creuse. Pour eux, les relations de pouvoir qu’ils vivent sont toujours plus dissymétriques. 

Le sentiment d’incompréhension face aux contrôles s’explique d’abord par le silence des CAF sur les raisons des contrôles. Il s’augmente quand les bénéficiaires contrôlés découvrent qu’ils doivent déclarer les aides financières reçus de leurs proches quel qu’en soit le montant, comme si la solidarité de proximité, familiale, s’opposait finalement à la solidarité collective, alors que selon diverses jurisprudences, ils devraient être exclus des ressources prises en compte pour le RSA. Même choses pour les situations maritales que la CAF interprète toujours très étroitement et normativement, quand le Conseil d’Etat, lui, par exemple, reconnaît les séparations de faits. C’est un peu comme si la CAF portait partout une conception restrictive des droits, dans une interprétation qui semble se faire toujours au détriment de l’allocataire. Le décalage, le sentiment d’incompréhension, s’exprime encore entre le discours du contrôleur et les courriers de l’administration, et plus encore dans la « discontinuité des droits » que les contrôles instaurent, notamment les « sanctions de faits » c’est-à-dire la suspension des prestations, parfois sans préavis, souvent sans motivation explicite et souvent sans réponses. 

Le mémoire rappelle les coûts de ces procédures pour les allocataires. Les coûts psychologiques et moraux, mais également financiers pour des gens qui ne peuvent se le permettre. Et notamment, les plus difficiles : la suspension des aides ou la notification d’indus, qui nécessitent pour les contester des nouveaux recours et des procédures toujours plus complexes, difficilement accessibles aux allocataires précaires. Au final, c’est toujours le quotidien des allocataires qui devient impossible quand les aides sont suspendues. 

Dans son mémoire, Marine Lamare constate encore que le droit de communication de la CAF auprès de tiers, lui permettant d’obtenir d’innombrables données sur les administrés, s’est considérablement élargi au tournant des années 2010, « lorsque les pouvoirs d’investigation des agents des organismes de sécurité sociale ont été alignés sur ceux des agents des services fiscaux », où le contrôle des documents semble n’avoir plus aucune limite (notamment de rétroactivité et de proportionnalité…), comme quand un agent utilise le fait qu’une dame soit toujours indiquée en couple sur Facebook. Pourtant, les enquêtes de la CAF montrent surtout la grande difficulté à transformer des indices en preuves et la grande difficulté du droit à vouloir transformer des faisceaux d’indices en certitudes. La juriste montre surtout que les critères mobilisés (domiciliation commune, la communauté affective ou d’intérêts…) sont souvent plus fragiles, notamment au regard de la jurisprudence qui va les confirmer ou les écarter d’une manière très différente d’un jugement l’autre. Les avocats et le Défenseur des droits rappellent que c’est à la CAF de prouver la situation de concubinage ou de non-présence en France, par delà les indices et suspicions. Pour la docteure en droit, on assiste à « une criminalisation de la dépendance aux prestations sociales ». 

Quant à la contestation, elle est un chemin semé d’embûches, rappelle-t-elle, notamment du fait même de la numérisation de l’accès au droit. Les résistances sont souvent silencieuses et individuelles. Les contentieux sont, par nature, déséquilibrés au détriment des justiciables. Ce qui n’est pas sans évoquer les constats des derniers épisodes du Code a changé sur la dématérialisation. « Les espaces libre-service créés dans les années 2010 condensent en particulier les publics les plus démunis, les agents les moins formés et les conditions d’accueil les plus défavorables. Conformément à « l’aménagement dissuasif » déployé, des barrières sont érigées entre les plus précaires et les personnels qualifiés », souligne Lamare à la suite du psychologue Pascal Martin. Les associations ou les avocats apparaissent alors comme des substituts à l’absence d’interlocuteurs à la CAF, pour démêler l’écheveau des situations. Quant au numérique, il donne désormais la temporalité des démarches, puisque ce sont les enregistrements et les courriers électroniques qui marquent les relations. Par exemple, confient les accompagnateurs et les allocataires, il est difficile d’obtenir le « tableau de liquidation » qui permettrait d’accéder à la « boîte noire du calcul des droits » et de comprendre éventuellement les calculs d’indus opérés par les CAF. Même les rapports de contrôles ou d’enquête nécessitent bien souvent de passer par de longues démarches via la Commission d’accès aux documents administratifs pour être obtenus. Enfin, la complexité des procédures, des recours (par exemple entre demande de remise de dette et contestation de la décision, démarches incompatibles), finissent d’épuiser parfois les meilleures volontés. 

Lamare montre également que nombre d’acteurs sociaux de l’accompagnement préfèrent la conciliation au conflit avec les CAF, d’autant que certains, comme « les assistantes sociales des départements et des CAF sont juges et parties sur ce type de dossiers ». Non seulement le contentieux est difficile pour les administrés, mais il rémunère peu les avocats et face à l’envolée des demandes, se résout surtout par un fort désintérêt des acteurs pouvant accompagner les justiciables en difficultés. Les « contentieux des pauvres » démontrent surtout qu’ils n’intéressent pas grand monde et produisent peu de justice, comme le soulignait d’ailleurs la sociologue Delphine Serre dans son livre, Ultime recours (raison d’agir, 2024) quant aux procédures à l’encontre de la sécurité sociale pour faire reconnaître un accident du travail ou une maladie professionnelle, dénonçant elle aussi, le risque que les droits sociaux deviennent des principes sans objets.  

Mais surtout, conclut Marine Lamare, « le non-recours se dessine alors comme une voie de sortie qui prend l’allure d’issue de secours ». « Par peur, pression, culpabilisation, découragement, épuisement et/ou désaccord avec les principes et pratiques des CAF, [nombre de bénéficiaires] ne veulent pas ou ne veulent plus avoir affaire à elles ». L’abandon s’enkyste. La chasse à la fraude ressemble à une chasse à l’homme, témoigne une allocataire. L’acte individuel devient une critique des politiques sociales. Le non-recours devient une non-demande, le résultat d’une fabrique collective de l’exclusion plus que le signe de défaillances individuelles. 

Autant de constats qui font échos à ceux du dernier rapport de la Défenseure des droits sur la fraude sociale, alors même que le gouvernement vient de durcir l’arsenal contre les fraudes et à réformer en profondeur les aides sociales (Le Monde, Médiapart). Claire Hédon y dénonce une industrialisation de la lutte contre la fraude des bénéficiaires, explique Le Monde. Le rapport souligne, par exemple, que la communication bancaire est devenue une procédure automatisée, alors qu’elle est normalement circonscrite à certaines situations et proportionnée. De même, la généralisation de la consultation des réseaux sociaux à des fins de contrôle se déploie sans garde-fous. La Défenseure des droits rappelle à nouveau le surciblage et le surcontrôle de certaines catégories de population et renouvelle ses demandes de transparence et de mesure de l’équité des ciblages et contrôles. Elle dénonce également des notifications non motivées et non conforme à la réglementation et une faible communication sur les voies et délais de recours. Mais surtout, elle pointe combien la fraude est une qualification plastique et que ce qualificatif devenu omniprésent entrave le droit à l’erreur et l’accès aux droits. Et de plaider pour lui substituer et « ériger le droit à l’erreur de bonne foi en tant que principe général applicable en toutes circonstances aux relations entre les usagers et les organismes sociaux ».

La Défenseure des droits plaide pour une amélioration de l’information aux usagers, mais surtout pour que les services sociaux priorisent la prévention plutôt que la répression. Elle rappelle que l’administration a de plus en plus tendance à confondre la fraude et l’erreur, alors même que le droit à l’erreur a été inscrit dans la loi depuis 2018 et dénonce le constat que les pouvoirs publics s’accommodent trop du non-recours. 

Mais, si les constats du Défenseur des droits s’accumulent et se répètent de rapports en rapports, peut-être faut-il convenir que le problème est bien plus politique qu’on le pense. La nouvelle réforme proposée par le projet de loi sur la fraude sociale, montre combien le discours saturé ne parvient plus à laisser d’espace pour d’autres approches que la chasse aux pauvres. 

Pour la Quadrature du net également, le flicage n’en finit pas, dénonçant, dans la dernière version du projet de loi, l’élargissement de l’accès aux comptes bancaires pour le contrôle du RSA. Le contrôle sur les moindres dépenses des plus pauvres, a clairement pour but d’humilier, « tout en imposant une charge administrative démesurée jusqu’à ce que les allocataires renoncent à leurs droits ». « Le Finistère n’est pas un cas isolé. Des campagnes de contrôle similaires ont notamment été documentées dans les départements du Nord, du Vaucluse, du Bas-Rhin ou de l’Eure ». En réalité, explique l’association, le projet de loi vise d’abord à permettre aux départements de procéder à ces contrôles, alors que normalement, ils sont du recours des seuls services sociaux (et à protéger les départements de poursuites, comme celle engagée par les allocataires du Finistère). Et surtout, il vise à élargir considérablement aux acteurs du social la possibilité « d’obtenir les documents et renseignements de leur choix auprès d’un très grand nombre d’acteurs publics et privés. Outre les demandes adressées aux banques, ce droit est mobilisable auprès des opérateurs de téléphonie, des fournisseurs d’énergie, des associations, des organismes de formation, des professionnels de santé ou encore des employeurs. » Pour la Quadrature, cette mesure s’inscrit « dans un processus d’extension continue du droit de communication » à des fins de « lutte contre la fraude sociale », faisant fit des limites et des garanties de ce droit, supprimées d’un projet de loi l’autre. « Accordé en 2008 aux agent·es de contrôle des organismes de sécurité sociale (CAF, CNAM, CNAV), il a depuis fait l’objet d’une dizaine de modifications, afin d’étendre tant les organismes pouvant l’utiliser – notamment, depuis 2021, aux agent·es de lutte contre la fraude de France Travail – que les informations communicables ou les sanctions en cas de non-réponse. » 

La Quadrature estime pourtant qu’un espoir pourrait venir depuis le droit européen, pour réaffirmer des limites et des garanties. La Cour européenne des droits de l’Homme (CEDH) a récemment « condamné l’Italie pour violation de la vie privée en raison d’un droit de communication octroyé au fisc italien similaire au droit de communication français ». « La CEDH exige notamment qu’un tel droit de communication soit entouré de nombreuses garanties tout au long de son utilisation : une notification des personnes pour leur permettre de contester l’usage de ce droit, y compris avant que les données communiquées n’aient été utilisées dans le cadre d’un contrôle, et y compris si le résultat du contrôle n’a pas conduit à une sanction ; une motivation précise par l’administration expliquant pourquoi elle a besoin d’accéder à ces données ; un contrôle indépendant de la demande pour que le droit de communication ne puisse pas être utilisé systématiquement et s’assurer de la nécessité de l’accès. L’absence de ces garanties dans la loi française est criante et le projet de loi Fraudes ne corrige absolument pas cela. »

Dans un communiqué de presse, Changé de Cap dénonce le fait qu’il sera bientôt possible à la CAF, aux Départements comme à France Travail de procéder à une suspension conservatoire des prestations et allocations en cas « d’indices sérieux d’un manquement délibéré ou de manœuvre frauduleuse ». Les organismes sociaux vont donc pouvoir couper les droits unilatéralement sans que ne soit défini ce que sont les manquements, les indices sérieux voire les indices graves et concordants. 

« Le collectif Changer de cap est en opposition totale avec cette politique de chasse aux pauvres. Nous réaffirmons :

Que la lutte contre les exclusions doit rester un impératif national fondé sur le respect de l’égale dignité de tous les êtres humains et une priorité de l’ensemble des politiques publiques.

Que toute personne en difficulté a le droit au soutien de la nation, tel que cela est énoncé dans plusieurs lois fondamentales et dans la Constitution.

Que l’État, les collectivités territoriales, les établissements publics dont les centres communaux et intercommunaux d’action sociale, les organismes de sécurité sociale ainsi que les institutions sociales et médico-sociales doivent participer à cette mission de soutien aux populations précarisées.

Que chaque personne a le droit à un accompagnement respectueux de son parcours, prenant réellement en compte les difficiles chemins empruntés et les situations complexes.

Et ne craignons pas d’exiger de nos responsables politiques de lutter contre les causes de la pauvreté plutôt que d’orchestrer la chasse aux pauvres. »

La possibilité d’accéder à toutes les données disponibles bouleverse comme nulle autre le rapport des organismes des gestion sociale à leur mission. Sans limites, ce sont les valeurs mêmes de leurs missions qui seront transformées.

Voir également notre billet sur les algorithmes de score de risque de fraude à la CAF qui surveillent les bénéficiaires.