Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor
Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, St. Martin’s Press, New-York, 2018, 272 p.
Texte intégral

Crédits : St. Martin’s Press
1L’importance croissante des algorithmes dans la mise en place et l’administration des politiques publiques soulève de nombreuses questions liées à la gouvernance des outils de décision automatique et à l’éthique des systèmes d’intelligence artificielle. Dans ce contexte, l’ouvrage de Virginia Eubanks, docteure en science politique et professeure à l’Université d’Albany (États-Unis), constitue une ressource essentielle pour prendre en compte les multiples aspects du sujet.
2En s’appuyant sur des données collectées par entretiens et par observation participante, l’autrice avance l’idée que les algorithmes employés par les administrations publiques s’inscrivent dans le prolongement de tendances antérieures en termes de gestion de la pauvreté, tendances qui visent à évaluer le mérite des administrés et à trier les « bons pauvres » qui méritent d’être aidés. L’autrice se place ainsi dans une perspective historique, et mobilise pour appuyer sa démonstration des ouvrages traitant de la construction de l’État providence aux États-Unis, ainsi qu’un grand nombre de sources secondaires non universitaires (principalement des articles de presse). Pour mener à bien sa démonstration, elle propose d’analyser trois algorithmes de gestion de l’accès aux services sociaux américains à l’aune du concept socio-historique de « digital poorhouse ». Les poorhouses — présentes aux États-Unis jusque dans la première moitié du XXe siècle — étaient des établissements où les personnes sans domicile obtenaient assistance et un toit pour la nuit. L’autrice avance qu’elles constituaient aussi un système de gestion et de contrôle social de la pauvreté, au sein duquel les populations précaires — notamment les Noirs américains — étaient sur-représentées. Ces populations y étaient soumises à un ensemble d’injonctions morales et de pratiques de surveillance intrusives.
3Pour mener à bien son enquête, Virginia Eubanks commence par étudier le déploiement d’un système d’attribution automatique de la Temporary Assistance for Needy Families (TANF) — l’aide sociale de l’État d’Illinois. Le dispositif est pensé pour « réduire la dépendance des bénéficiaires aux systèmes d’aide et les orienter vers le travail salarié » (p. 41). L’autrice se penche ensuite sur le cas du Coordinated Entry System qui coordonne les services d’aide aux sans-abris pour la ville de Los Angeles. Le système attribue un « score de vulnérabilité », à partir de données collectées par questionnaire (le VI-SPDAT : Vulnerability Index - Service Prioritization Decision Assistance Tool), qui guide la décision d’ouverture d’aides au logement. Finalement, elle se rend en Pennsylvanie pour étudier l’Allegheny Family Screening Tool, outil qui permet de prédire un « score de vulnérabilité » des enfants du comté aux violences physiques et psychologiques intra-familiales. Il repose sur une collecte de données administratives à grande échelle, incluant un historique des recours à divers services sociaux, et vise à faciliter l’intervention des travailleurs sociaux.
4Virginia Eubanks avance que l’ensemble des systèmes de décision automatique analysés ne fait qu’accélérer une tendance de fond. Là où le contrôle des classes populaires était auparavant limité à une unité temporelle et spatiale définie (l’usine, la « poorhouse », etc.), la collecte de données à grande échelle permet un polissage continu et déspatialisé. Le rapport des pauvres avec les structures d’aide sociale devient ambivalent : ils dépendent de celles-ci, mais restent, dans leurs interactions avec elles, soumis à une menace permanente de criminalisation. Les sans-abris de Los Angeles ont par exemple besoin d’obtenir un score élevé aux évaluations du Coordinated Entry System s’ils veulent espérer obtenir une aide, mais le partage fréquent de ces données avec les forces de l’ordre transforme ponctuellement le VI-SPDAT en source d’incrimination pour les répondants. Ils doivent ainsi choisir entre obtenir un score élevé en dévoilant des pratiques potentiellement illégales et les taire mais risquer de perdre l’accès à l’aide dont ils ont besoin. De même, dans le comté d’Allegheny, les parents pauvres peuvent décider de demander un accès aux aides sociales, mais cet accès entraîne l’augmentation du score de vulnérabilité de leur enfant. Ils s’exposent ainsi à des procédures potentiellement intrusives ou humiliantes de la part des services sociaux, voire à la perte de la garde de leur enfant, les marqueurs de pauvreté (malnutrition, absence de résidence fixe, déscolarisation) entrant souvent dans la définition légale de la maltraitance infantile.
5Pour l’autrice, au-delà de la simple reproduction d’inégalités pré-existantes par l’usage de méthodes d’inférence statistique, les algorithmes étudiés constituent des outils permettant la mise en œuvre de décisions politiques inscrites dans une continuité historique. Ils sont intégrés à une infrastructure plus large de criminalisation de la pauvreté. Ils participent ainsi, sous couvert d’« objectivité mathématique », à l’éloignement d’une partie des bénéficiaires potentiels des aides sociales, à la séparation de familles, au renforcement de la valeur symbolique du travail, à contraindre la mobilité des pauvres, à l’effacement politique des classes populaires ; ils permettent de juger de leur moralité et transforment les personnes pauvres en sujets d’expérimentation sociale (via l’analyse d’impact des algorithmes).
6Par-delà le contrôle bureaucratique de pauvres potentiellement immoraux, c’est bien une réduction des potentialités d’action politique qui est en jeu. Pour l’autrice, les algorithmes ne permettent pas seulement de se délester du rôle décisionnaire des travailleurs sociaux dans le processus d’attribution des aides, ils réduisent aussi l’espace de délibération politique autour de la notion d’aide sociale en donnant une façade de rationalité statistique aux systèmes d’attribution. Ils engendrent également le transfert d’une partie des prérogatives de l’administration publique vers un ensemble de prestataires privés.
7Par ailleurs, le déploiement du système d’attribution automatique de la TANF dans l’Illinois ne s’est pas accompagné d’une réduction drastique du nombre de travailleurs sociaux affectés à ce pôle : leurs postes de travail ont été requalifiés et regroupés au sein d’une centrale d’appel. Plutôt que de gérer des dossiers sur le temps long, ils se sont vu attribuer informatiquement des tâches courtes de support téléphonique. Cette double dynamique — perte du lien local et rationalisation des processus métiers en succession de courtes tâches quantifiables — conduit à une perte de pouvoir d’action pour ces travailleurs, au bénéfice des acteurs impliqués dans le design de l’algorithme — l’administration, l’entreprise IBM (International Business Machines) et l’ACS (Affiliated Computer Services). Cette décision d’éloignement des travailleurs sociaux s’accompagne de la délégation d’une partie de leurs tâches — qu’ils ne sont plus à même de réaliser — à un ensemble d’acteurs tiers non rémunérés, voire aux demandeurs eux-mêmes. Avec la fin de l’ancrage local, l’aide au dépôt de demande repose ainsi entièrement sur un réseau de volontaires : bibliothécaires, bénévoles des banques alimentaires, associations, etc. Parallèlement, le suivi des demandes d’aides dépend désormais entièrement des bénéficiaires, qui risquent la radiation au moindre faux pas.
8À travers son enquête, Virginia Eubanks nous dévoile plusieurs usages des algorithmes par l’administration publique, allant de la prise de décision automatique dans l’Illinois à la simple aide à la décision pour les travailleurs sociaux du comté d’Allegheny. Dans les trois cas étudiés, la mise en œuvre de ces algorithmes s’inscrit selon elle dans une dynamique historique visant à reproduire et renforcer les politiques de contrôle bureaucratique des classes populaires, par la généralisation déspatialisée de l’institution de la « poorhouse ». Si elle ne propose pas directement d’étendre son analyse aux algorithmes mobilisés par d’autres administrations (justice, forces de l’ordre, etc.), elle conclut en invitant les acteurs qui conçoivent des algorithmes, y compris hors des administrations publiques, à prêter un « serment de non-malfaisance à l’ère du big-data » (p. 168). Sa proposition souligne notamment la nécessité de prendre en compte des dynamiques historiques lors du design des systèmes de décision automatique. L’autrice n’aborde pas non plus directement la thématique de l’intelligence artificielle, dont les algorithmes sont pourtant une composante essentielle. À la lecture de l’ouvrage, des parallèles évidents émergent cependant avec les approches sociologiques de l’intelligence artificielle, notamment sur la question du déploiement de décisions politiques sous couvert d’objectivité mathématique. Des liens avec les recherches sociologiques récentes sur le déplacement du travail amené par la numérisation des métiers de service émergent également, notamment via la délégation d’une partie des missions des travailleurs sociaux à des acteurs tiers. Enfin, la lecture de l’ouvrage soulève de nombreuses questions à la fois relatives à la genèse de la quantification comme outil de gestion administrative et à la notion d’extraction de valeur de l’activité non rémunérée de l’utilisateur. Ici les pauvres fournissent en effet un ensemble de données nécessaires au déploiement et au maintien des systèmes de prise de décision automatiques, de manière plus ou moins volontaire. La question de l’ambivalence de leur relation à la collecte de ces données, et de l’aspect coercitif du processus de collecte, constitue à mon sens une piste d’ouverture intéressante pour aller au-delà de l’ouvrage.
Pour citer cet article
Référence électronique
Maxime Cornet, « Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor », Sociologie du travail [En ligne], Vol. 64 - n° 4 | Octobre-Décembre 2022, mis en ligne le 01 décembre 2022, consulté le 12 février 2025. URL : http://journals.openedition.org/sdt/42117 ; DOI : https://doi.org/10.4000/sdt.42117
Haut de pageDroits d’auteur
Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Haut de page