La quête à attribuer des responsabilités techniques aux entreprises de l’IA nous leurre, expliquent les chercheurs Janet Vertesi, danah boyd, Alex Taylor et Benjamin Shestakofsky dans un article de recherche pour FAccT’26, la Conference on Fairness, Accountability, and Transparency qui se tenait à Montréal. Le Projet d’IA – comme ils l’appellent – est une entreprise de construction mondiale, dans laquelle ceux qui financent et développent des systèmes d’IA cherchent à maintenir des réseaux de pouvoir et de richesse. Ils configurent nos conditions sociotechniques tout en leurrant les universitaires, les décideurs, les journalistes et le public qui seraient invités à plus ou moins co-construire un avenir qui leur donne du pouvoir, sans que celui-ci ne soit jamais vraiment partagé. Ces leurres donnent souvent à ces acteurs l’illusion d’une responsabilité, tout en masquant les transformations profondes de l’économie politique à l’œuvre. En réalité, notre attention collective portée à ces leurres soutient, stabilise et renforce le projet IA des grandes entreprises de la tech. Pour les chercheurs, l’invitation à cadrer la technologie qu’entrouvrent ceux qui portent le projet d’IAification du monde tient d’une distraction qui brouille les enjeux de pouvoirs à l’œuvre. Les leurres nous détournent de la compréhension de l’accaparement qui se déploie.
« Pour faire progresser une équité ou une responsabilité significative dans l’IA, il faut : 1) reconnaître quand et comment les leurres servent de distraction, et 2) s’attaquer directement à l’économie politique matérielle du projet d’IA. Il faut s’intéresser aux réseaux de pouvoir qui rendent l’IA possible », expliquent les chercheurs. « Nous ne parviendrons pas à instaurer une obligation de rendre des comptes en bricolant les fonctionnalités techniques ; il nous faut nous pencher sur les enjeux politiques et économiques », synthétise danah boyd sur son blog.
Les chercheurs invitent à mieux s’intéresser à l’économie politique qui interroge les relations entre les forces complexes et imbriquées de la politique, des marchés et de la société. A observer leurs évolutions constantes, comment les capacités d’action évoluent avec l’accumulation de pouvoir et de ressources matérielles. Et comment ils réorganisent et configurent les ordres matériels, sociaux et économiques à leur avantage. Des acteurs capitalistes hétérogènes ont su tirer parti de l’incertitude ambiante pour mobiliser à leur avantage les technologies de communication et les relations financières. Ce faisant, ils restructurent les marchés en leur faveur et orientent les flux ainsi que l’appropriation de capitaux, de ressources, de données, de matériaux et de main-d’œuvre entre différents sites. Comme le disait déjà le sociologue Manuel Castells à propos du projet de façonnage du monde porté par l’empire médiatique de Rupert Murdoch dans les années 1990 et 2000 (notamment dans son livre, Communication et pouvoir, 2013), les nouvelles architectures des technologies de l’information et de la communication offrent des opportunités de consolidation du pouvoir au sein d’élites interconnectées – ce qu’il nomme des « réseaux de pouvoir ». Pour Castells, les élites configurent les réseaux à leur avantage et le pouvoir de création de réseaux, représente la forme de pouvoir suprême dans une société de l’information. La constellation émergente d’individus, d’organisations et de structures financières qui façonnent actuellement l’IA telle que nous la connaissons était déjà en pleine ascension dans la Silicon Valley au lendemain de l’éclatement de la bulle Internet. Elle s’est renforcée avec la crise financière de 2008 et la crise pandémique de 2020. Le lancement public de ChatGPT par OpenAI en décembre 2022 a ouvert la voie à la restructuration du marché, après l’échec à concrétiser les promesses des cryptomonnaies et du métavers (autres tentatives à renforcer le pouvoir).
Le marché de l’IA est construit et vise à convaincre voire contraindre régulateurs comme clients à adhérer à leur vision. « Les entreprises dominantes peuvent consolider leur position en influençant les politiques publiques et en incitant les États à lever des réglementations, à accorder des subventions, à faire respecter (ou pas) les droits de propriété ou à instaurer de nouvelles règles imposant des coûts prohibitifs aux concurrents désireux de pénétrer le marché. » Derrière les entreprises du secteur, le pouvoir de réseau se consolide autour de technologies qui reposent avant tout sur la manipulation de matériaux, d’idées, de fonctionnalités et de capitaux, c’est-à-dire des éléments peu techniques, foncièrement capitalistes, dirait Romaric Godin. Rien ne vient freiner la course à l’établissement d’une élite d’acteurs dominants, constatent également les chercheurs. Pire, les géants de la tech consolident actuellement leur contrôle sur chaque maillon de la chaîne d’approvisionnement de l’IA – énergie, puces, modèles fondamentaux, puissance de calcul et outils de développement logiciel… sans compter l’investissement financier – afin de garantir leur position centrale. Tout l’enjeu consiste désormais à nouer des partenariats entre eux, dans une collaboration inter-entreprises mutuellement avantageuses, comme le font Microsoft et OpenAI.
Face à ces développements, la régulation joue souvent à la marge. Pour les chercheurs, celle-ci s’intéresse bien trop à des leurres, plutôt qu’à la construction du pouvoir. Mais, « les leurres ne sont pas qu’une simple distraction ; ils constituent un outil essentiel pour façonner un environnement ». « Pendant que nous nous concentrons à débattre des spécificités techniques de l’IA, les grands acteurs de l’IA établissent des flux pour accroître leur richesse et leur pouvoir. » « De cette manière, même les critiques contribuent à rallier des soutiens au projet d’IA. Les leurres constituent donc des pièges de responsabilisation qui, paradoxalement, renforcent plutôt qu’ils ne contraignent le puissant réseau qui sous-tend le projet d’IA. » Et le projet d’IA regorge de leurres. Certains sont délibérément construits ou exploités par les intermédiaires de l’IA pour attirer l’attention sur des aspects spécifiques du projet (et la détourner d’autres).
Les leurres de l’IA
Les chercheurs distinguent 5 leurres dans lesquels la critique se perd parfois : le leurre ontologique, le leurre de l’inévitabilité, le leurre de la rupture, le leurre de la sécurité et le leurre réglementaire.
Il y a d’abord le leurre ontologique. Le terme IA s’efforce d’échapper à toute définition afin de maximiser son pouvoir suggestif. « Cette ambiguïté peut s’avérer puissante car elle incite souvent différents acteurs à s’obséder sur la manière de délimiter ce qu’est ou devrait être l’IA, plutôt que de se concentrer sur le travail accompli par le Projet d’IA dans le monde.» Cette ambiguïté sert donc profondément les intérêts des acteurs. « Ce leurre ontologique déplace les termes du débat vers la définition de l’IA, détournant l’attention de son action concrète : permettre l’expansion du Projet d’IA. » Les chercheurs prennent comme exemple, les transformations du financement de la recherche ou des entreprises, qui depuis 2023, s’orientent de plus en plus exclusivement vers des projets d’IA au détriment de tous les autres. Partout, la réorganisation des flux financiers est profonde, expliquent-ils. « Le leurre ontologique constitue une forme de piège. Il attire sans cesse les acteurs vers des questions insolubles concernant la détermination et la clarification de la nature de l’IA, alors même que l’on constate que le dévoilement des spécificités techniques ne parvient pas à rendre ces questions plus ou moins certaines. » « L’instabilité ontologique persistante entourant l’IA permet aux intermédiaires d’introduire l’IA dans des secteurs et des pratiques toujours plus nombreux. De petites entreprises qualifient leurs technologies d’IA pour capter des ressources financières et acquérir une influence au sein du réseau. De telles pratiques nous amènent nécessairement à nous demander : « S’agit-il vraiment d’IA ? » ou même « Est-ce un usage pertinent de l’IA ? ». »
Plutôt que de nous laisser enfermer dans des débats sur « ce qu’est l’IA et comment elle devrait fonctionner », nous gagnerions à élargir notre perspective pour comprendre comment l’IA accapare toute l’attention et l’espace du débat. L’ambiguïté vise surtout à garantir que l’IA reste suffisamment flexible pour s’adapter à mesure que se déploie leur stratégie de création et de concentration du marché. « Il nous faut donc résister au leurre ontologique et à l’impératif qu’il impose de définir la « véritable » nature ou le potentiel réel de l’IA. Une critique efficace doit ébranler le pouvoir du réseau plutôt que de l’alimenter.»
Le leurre de l’inévitabilité. L’industrie technologique recourt souvent à la rhétorique de l’inévitabilité pour justifier ses développements. « L’utilité de ce leurre de l’inévitabilité réside notamment dans sa capacité à permettre aux acteurs de modifier constamment les temporalités, en proposant de nouvelles projections quant au moment où la promesse future de l’IA se concrétisera enfin. Que cet avenir concerne l’avènement de l’IA générale, l’informatique quantique ou d’autres avancées technologiques majeures, les acteurs qui promeuvent l’IA tirent parti de discours qui rapprochent ou éloignent l’horizon de ces événements, tout en maintenant l’idée de leur inéluctabilité. » L’inéluctabilité permet surtout de bâtir des monopoles. Il permet de présenter les investissements comme nécessaires, même quand ils sont entravés par les contestations, comme c’est le cas dans les luttes contre les datacenters. « La rhétorique de l’inéluctabilité normalise aussi divers types de risques, notamment économiques et technologiques : dès lors que l’avenir est perçu comme prédéterminé, des décisions commerciales risquées sont requalifiées en nécessités. Ce discours sur l’inéluctabilité offre ainsi une forme de clôture discursive susceptible d’accélérer l’avènement de certains futurs tout en empêchant d’autres de se concrétiser. »
« La répétition de discours futuristes similaires au sein de nombreuses entreprises crée une apparence de cohérence », une forme d’alignement où tout le monde semble d’accord sur l’horizon à atteindre. L’inévitabilité crée un ensemble de conditions qui rendent l’IA trop importante pour échouer, et permet d’assurer du pouvoir au projet IA sur les marchés. La course entre les grandes puissances mondiales pour construire une intelligence artificielle générale (IAG) alimente ce discours sur l’inévitabilité, en dressant des parallèles avec la course au nucléaire ou la course à l’espace. Le discours selon lequel « l’IA est inévitable » perpétue ainsi un imaginaire sociotechnique qui mêle pouvoir étatique et pouvoir des entreprises à des récits partagés sur les promesses à venir. Ces discours séduisent notamment parce qu’ils suggèrent la nécessité d’un soutien matériel des gouvernements aux niveaux fédéral, étatique et local, tout en occultant les préoccupations susceptibles d’entraver la réalisation de ce bien prétendument indispensable. L’alliance de considérations géopolitiques et du discours sur « l’inévitabilité » contribue également à justifier des engagements politiques et économiques, tels que la persistance de l’antagonisme entre les États-Unis et la Chine, et les investissements stratégiques. Enfin, l’inévitabilité embarque également les usagers, et alimente le projet d’IA au lieu de le freiner. Elle renforce également l’influence des acteurs de l’IA, leur permettant de consolider leurs réseaux de pouvoir que ce soit l’affectation des capitaux, l’extraction des ressources comme la création des marchés.
Le leurre de la disruption. L’innovation de rupture formalisée notamment par Clayton Christensen, est souvent perçue comme une célébration inconditionnelle de toute forme de perturbation du marché, considérée comme intrinsèquement constructive. Pourtant, la nature exacte de cette rupture et sa valeur est bien souvent loin d’être aussi évidente qu’annoncée. « Les dirigeants du secteur technologique célèbrent par exemple le bouleversement du marché du travail en promettant des entreprises plus efficaces, tout en exprimant publiquement leurs inquiétudes quant aux risques de pertes d’emplois massives. Ce faisant, ils confortent leur conviction que l’innovation doit être poursuivie sans égard à ses conséquences sociales. Mais tandis que les dirigeants du secteur technologique, les universitaires et les experts débattent de l’ampleur des pertes d’emplois dues à l’IA – et de la manière dont elle transformera plus largement le monde du travail -, ils occultent la manœuvre de rupture que cherchent à opérer les promoteurs du Projet d’IA ». Cette stratégie de diversion vise précisément cet objectif : présenter les perturbations locales comme une forme de normalité (naturalisant l’optimisation ou la recherche d’efficacité par exemple), tout en orchestrant des changements massifs dans la concentration du pouvoir à travers les secteurs industriels, voire au-delà des frontières nationales.
En fait, le terme rupture revêt une importance culturelle considérable, estiment les chercheurs. L’essentiel des études démontrent pourtant que les nouvelles technologies ne bouleversent pas l’ordre social et les inégalités existantes : elles ont plutôt tendance à renforcer ou à consolider les intérêts établis. « En sociologie économique, rappellent les chercheurs, la notion de « rupture » (disruption) renvoie d’ailleurs à une configuration de marché où, tant les nouveaux entrants que les acteurs en place, saisissent les moments d’incertitude pour instaurer un ordre de marché favorisant leurs intérêts. Derrière, la disruption, il faut surtout lire une accumulation et une concentration de capital et de pouvoir autour de quelques entreprises phares de l’IA. » Et les acteurs qui oeuvrent à favoriser leur marché n’aiment rien de moins que la rupture quand elle vient s’en prendre à leurs intérêts, à l’image des barrières érigées à l’encontre de Deepseek venu défier leur concentration. Les grands acteurs de l’IA utilisent également le concept de « rupture » pour détourner l’attention de leurs efforts visant à réorganiser les entreprises et à capter les flux de capitaux à leur profit. « S’il est indéniable que l’introduction de l’IA modifie les tâches des travailleurs, il est tout aussi vrai que, dans de nombreux secteurs, les entreprises utilisent ce prétexte pour mener des restructurations classiques. Parallèlement, elles transfèrent des activités clés vers des pôles de main-d’œuvre à moindre coût, où des outils automatisés visent à accroître la productivité de travailleurs éloignés et difficiles à suivre. Invoquer le caractère « disruptif » de l’IA permet de justifier aussi bien des licenciements – obligeant les salariés restants à « faire plus avec moins » – que le transfert de pans entiers de la main-d’œuvre vers des environnements réglementaires différents, échappant aux statistiques fédérales sur l’emploi et au contrôle des pouvoirs publics. »
Là où l’IA est une rupture, c’est parce qu’elle permet bel et bien de requalifier la main d’œuvre, comme l’expliquait le sociologue américain Henry Braverman, en favorisant la concentration du pouvoir et en éloignant le travail dans les zones éloignées et peu réglementées… « Le projet de l’IA commande et dissimule un bouleversement infrastructurel profond touchant la circulation du capital, la réorganisation et la répartition du travail à l’échelle mondiale, ainsi que la concentration de ressources stratégiques (données, puces, centres de données) entre les mains d’un petit nombre d’acteurs puissants.» En invitant le public à débattre de la manière dont l’IA pourrait bouleverser le marché du travail ou des progrès qu’elle pourrait engendrer, ce leurre du bouleversement nous détourne de la nécessité de voir et de discuter des agissements des acteurs de l’IA à leur profit.
Le leurre de la sécurité.Tant dans les milieux universitaires que dans le discours public, la sécurité de l’IA renvoie à la nécessité de garantir que les systèmes d’IA soient fiables, ne causent pas de dommages et soient conçus pour refléter des valeurs sociales plus larges. La critique du féminisme des données va plus loin en exigeant une réflexion sur la durabilité, le pouvoir et le pluralisme. Les communautés prônant une IA sûre et responsable mettent souvent l’accent sur des engagements tels que l’équité, la responsabilité et la transparence ; les développeurs de projets IA évoquent plus couramment l’alignement, une forme de sécurité intégrée à l’IA elle-même. Mais la question de la sécurité renvoie surtout à un discours existentiel sur l’arrivée inéluctable de l’intelligence artificielle générale qui menacerait l’humanité (voir notre article). Ces discours sur la super-intelligence et ses risques réduisent la sécurité à des menaces lointaines, « tout en occultant les conséquences de la reproduction du réseau de pouvoir propre au Projet IA ». D’une manière paradoxale, il favorise le projet IA, au prétexte que seules les meilleures entreprises sauraient atténuer ce danger. Ces orientations permettent en fait de cadrer le discours sur la sécurité, en le déconnectant des problèmes de sécurité plus immédiat ou des considérations éthiques plus adaptées.
Ces orientations axées sur la sécurité sont déconnectées de considérations éthiques plus larges. En qualifiant l’IA de « technologie ordinaire », les informaticiens Arvind Narayanan et Sayash Kapoor soulignent comment la question de la superintelligence détourne l’attention des problèmes bien réels qui émergent à l’ère de l’IA.
En fait, constatent les chercheurs, la notion de sécurité n’a cessé d’évoluer : d’un cadre porteur de sens, elle s’est transformée en une construction mêlant dimensions ontologiques, inéluctabilité et leurres réglementaires. « Les entreprises utilisent désormais le langage de la sécurité pour envoyer des messages différents à des communautés distinctes ». Les acteurs clés du secteur de l’IA exploitent l’ambiguïté de ce terme pour égarer les critiques préoccupés par les répercussions sociétales. Si ils affirment que celle-ci est leur priorité absolue, en vrai, ils poursuivent leur course, concevant et déployant des modèles et des outils dépourvus de garde-fous efficaces, « tout en cherchant à les aligner sur des valeurs et des normes contestables » : les leurs ! « Or, ce leurre de la sécurité ne constitue ni une conséquence ni une retombée fortuite du Projet de l’IA : il fait partie intégrante de la constitution des réseaux de connaissances et de capitaux nécessaires à son déploiement. Comme tout leurre, il détourne l’attention des enjeux réels tout en consolidant les réseaux de pouvoir indispensables à la pérennité et à l’expansion du Projet IA. En atténuant les inquiétudes du public à l’égard des entreprises d’IA, ce leurre favorise même l’émergence d’opportunités commerciales. » Le discours sur la sécurité renforce le Projet IA, limitant ainsi toute possibilité de se prémunir contre les conséquences de son adoption.
Le leurre de la régulation. Depuis les années 90, les leaders du secteur technologique n’ont cessé d’affirmer que la régulation était l’ennemi de l’innovation, alors que leurs critiques soutenaient qu’elle était le seul moyen de responsabiliser l’industrie. Paradoxalement, nombre d’acteurs de l’IA semblent demander aux autorités d’élaborer des règles de régulation, à l’image de Sam Altman réclamant au Congrès américain de créer une agence gouvernementale dédiée. En fait, les dirigeants du secteur technologique ont compris que la régulation pouvait s’avérer stratégiquement avantageuse, « surtout s’ils disposaient d’une place à la table des décisions ». Leur but est bien plus de consolider leur position que de la menacer. Le managérialisme réglementaire des organismes de réglementation américains est facilement récupéré par les entreprises qui ont appris à s’adapter à des évolutions réglementaires qui ne les menacent jamais. Même l’IA Act européen, qui pense que les entreprises technologiques pourraient remédier aux préjudices complexes qu’elles mettent en place grâce à une meilleure conception de leurs produits sous la contrainte, se leurre, expliquaient déjà danah boyd et Maria Angel (voir notre article, la responsabilité ne suffit pas), alors que la faiblesse des mécanismes d’application du règlement sur l’IA conduit, dans de nombreux cas, à confier aux entreprises elles-mêmes l’évaluation des risques posés par leurs systèmes, renforçant de fait leur position dominante.
Or, « si l’IA semble nécessiter une régulation urgente à une époque où les structures de pouvoir de l’après-guerre sont sur le déclin, ce n’est pas parce que ses capacités techniques sont à l’origine de l’instabilité. C’est plutôt parce que le mot d’ordre de l’IA, rend possible et concrétise la reconfiguration mondiale en faveur des acteurs de l’IA et de leur pouvoir. » Le problème n’est pas de réguler chaque chatbot, chaque technologie, que l’influence totale du projet IA sur le monde. Pour les chercheurs, les travaux existants dans les domaines social et réglementaire « doivent s’orienter vers le cœur du problème : la financiarisation, les possibilités de restructuration des entreprises et les nouvelles formes de monopole, de création et de capture de marché. Si nous voulons exiger que les systèmes d’IA rendent des comptes sur les relations et les infrastructures de la vie sociale et publique, nous devons remettre en question les conditions de possibilité de la construction de ce puissant réseau. Parmi les actions pertinentes, on peut citer l’augmentation de l’impôt sur les plus-values, le renforcement de l’application du droit de la concurrence et la suppression des failles juridiques permettant aux investisseurs d’accumuler des richesses. »
Réguler l’économie plutôt que l’IA ?
« L’IA est devenue le vecteur de transformations sociales majeures, non pas parce qu’une technologie engendrerait des résultats inédits, mais plutôt parce que des acteurs du marché disposant d’importantes ressources financières saisissent cette occasion pour restructurer les opportunités et les infrastructures à leur propre avantage sous l’étiquette IA ». Ce ne sont pas les capacités de chatbots bavards qui permettent au projet IA de s’imposer comme un phénomène tangible, mais bien la construction d’un réseau de pouvoir recelant le potentiel d’un « impact immense et durable sur la société ». Si l’IA semble tout bouleverser à l’heure actuelle, c’est précisément parce qu’elle offre une « occasion de structuration » sans précédent des réseaux de pouvoirs et d’infrastructure.
Pour les chercheurs, la transparence algorithmique par exemple n’est pas la composante la plus efficace, stable ou influente de ce projet qui mérite d’être encadré. Que l’intelligence artificielle générale apparaisse ou non, ou que les robots prennent nos emplois ou non, nous devrons composer avec des conditions structurelles durables et les infrastructures résiduelles d’une course entre les grandes entreprises et les gouvernements pour reconstruire les rouages du pouvoir à leur avantage. Même si notre attention se porte sur des enjeux moralement urgents (comme les biais algorithmiques ou l’influence délétère des chatbots sur les plus fragiles…), nous devons abandonner une approche centrée sur les correctifs, sur les détails techniques, pour passer à un contrôle sur le développement du réseau de pouvoir du projet IA dans son ensemble.
« Nous ne souhaitons pas dénigrer le travail important mené au sein de cette communauté sur les questions liées à l’IA et à la société », modèrent les chercheurs. « Notre crainte est que, justement lorsque nous pensons responsabiliser les entreprises d’IA, nous risquions de nous laisser berner par un leurre et de passer à côté de la véritable source de responsabilité. Il est de notre devoir de prendre du recul et d’analyser les mécanismes complexes de ces systèmes. La transparence des outils algorithmiques n’est pas synonyme de responsabilité lorsque l’objectif est de construire une infrastructure de gouvernance incontestable pour maintenir le pouvoir d’une élite. L’équité d’un résultat algorithmique ou d’un ensemble de données particulier importe peu dans un monde où certaines des inégalités les plus massives et persistantes depuis l’ère féodale sont perpétuées par un système d’influence antidémocratique. »
Mais chercher des points d’entrée pour exiger des comptes ou de la transparence au sein d’un réseau se heurte à sa capacité caractéristique à changer de forme, au risque de rendre le point d’intervention aussi insaisissable que le réseau lui-même. Les grands PDG ne sont pas même la cible idéale d’une intervention, quand c’est dans les coulisses que se joue l’essentiel : lors d’accords conclus entre dirigeants, membres de conseils d’administration, sociétés de capital-risque, gestionnaires d’actifs, responsables politiques et financiers de Wall Street. Le pouvoir de décision est réparti au sein d’une élite en réseau, dotée de ses propres mécanismes de consolidation du pouvoir qui agit partout en fonction du retour sur investissement.
« La constitution de réseaux visant la conquête de marchés s’accompagne également de formes inédites de métamorphose organisationnelle et sociotechnique. Les entreprises peuvent aisément déplacer des éléments tels que la main-d’œuvre, le capital, le financement, les données et les infrastructures vers d’autres parties du réseau afin d’échapper à toute surveillance », comme l’expliquait Fred Turner récemment, en expliquant que nous étions passé de l’idéologie californienne à l’idéologie texane, de la contre-culture au conservatisme. La capacité d’agir comme la responsabilité sont devenues plastiques et peuvent être très facilement redistribué à travers le réseau, passant d’un data center l’autre, d’un travailleur du clic asiatique à un autre africain…
Les entreprises d’IA reproduisent des stratégies de métamorphose bien établies, utilisées par des géants influents comme Facebook ou Uber qui n’ont cessé d’échapper et de contourner les réglementations. Même la réglementation environnementale exige de caractériser les formes de contamination industrielle, que les entreprises cherchent à occulter en recourant à des techniques éprouvées consistant à semer le doute et à entretenir l’ignorance. Des ressources telles que les puces électroniques, l’accès aux centres de données ainsi que les données ou l’entraînement de modèles ne sont pas réglementées en tant que monnaies à proprement parler, alors qu’elles sont devenues des actifs dont les échange cimentent les partenariat entre un groupe restreint d’élites, formant un circuit socio-économique propre à l’IA. « La recherche de cette responsabilisation exige de nouveaux cadres d’analyse qui abordent directement la constitution du réseau et ses dérives. »
Mais l’avenir n’est pas inéluctable, rappellent les chercheurs. « Si le projet d’IA est extraordinairement puissant, son pouvoir dépend de l’adhésion continue du public et des institutions à ce projet. À cette fin, il est impératif de reconnaître quand et comment nous pouvons exercer notre pouvoir d’action en ces temps tendus, et de résister aux leurres trompeurs entretenus par les acteurs de l’IA pour façonner l’avenir selon leurs conditions. » Pour cela, les chercheurs invitent à réorienter l’analyse vers l’économie politique de l’IA et à prendre au sérieux le pouvoir politique que le Projet IA laisse présager. Ils invitent à orienter la recherche vers quatre cadres d’analyses :
Les lieux matériels d’assemblage des réseaux. Le Projet d’IA exige de tisser d’importantes infrastructures en des alignements inédits et souvent instables, en composant de manière créative des relations et des modèles d’échange entre des acteurs hétérogènes. Il nous faut mieux comprendre ces assemblages, les associations que les entreprises tissent entre elles, les « fonctionnalités » inédites qu’elles lancent, les financements qu’elle obtiennent et mobilisent… Et examiner comment les mécanismes d’assemblage, d’acquisition de capitaux et de mise en œuvre limitent la transparence et la responsabilité.
Le financement comme action technopolitique. Des travaux récents à l’intersection de la sociologie économique et des études sociales des sciences et des techniques démontrent comment le travail technique est imbriqué dans les structures financières. C’est le cas notamment du travail de Benjamin Shestakofsky et son livre, Behind the startup: how venture capital shapes work, innovation, and inequality (university of California press, 2024 – voir aussi le travail de Marlène Benquet dont nous rendions compte). Il nous faut mieux comprendre les mécanismes de capture du marché et comprendre pourquoi une réglementation axée sur la technologie tend à négliger les arrangements économiques et politiques qui sous-tendent le projet IA.
Des objets aux flux mondiaux. Nous ne devons pas considérer l’IA comme un objet, mais mieux nous concentrer sur les flux circulant entre les sites qui participent à l’agencement mondial de l’IA, comme le montrait l’anthropologue Anna Tsing dans Friction (La découverte, 2020). Nous devons mieux saisir l’infrastructuration, c’est-à-dire comment les connexions entre les nœuds sont concentrées, fragmentées et maintenues de manières spécifiques pour reproduire des rapports de force. Comment les flux de données, de personnes et de capitaux sont-ils facilités ou entravés ?
Résister au solutionnisme social. Il nous faut enfin résister au solutionnisme tant technologique que juridique, disciplinaire. Ne saisir l’IA que sous l’angle informatique ou juridique par exemple ne nous aide pas à interroger le Projet IA dans sa globalité. « Aucun domaine pris isolément n’apportera la solution face au Projet IA ». Nous devons élaborer des approches bien plus transdisciplinaires, afin qu’elles soient capables d’interrompre les flux et les reconfigurations de réseaux sur lesquels repose le Projet de l’IA.
La recherche critique « a consacré beaucoup de temps à disséquer les paramètres techniques, dans une volonté sincère de bâtir un avenir plus juste et plus équitable ». Se faisant, elle a été bien plus enrôlée dans le projet IA par des acteurs ayant un intérêt économique et politique direct à façonner l’avenir selon leurs propres termes. « Nous devons trouver d’autres modalités pour exercer la transparence, l’équité et la responsabilité que nous n’arrivons pas à obtenir ». Il est temps de changer de braquet… Et finalement, de finir de politiser la question technologique.
Connexion
