Navigation – Plan du site

AccueilNuméros20Vers un « État-automate » ?

Sommaire - Document précédent -

Vers un « État-automate » ?

Intelligence artificielle, transformations du travail et action publique
Towards a “State-automaton”? Artificial intelligence, transformations of work and public action
Olessia Kirtchik et Francesca Musiani
p. 101-126

Résumés

Français English

L’article aborde l’introduction et la mise en fonctionnement de dispositifs soutenus par l’intelligence artificielle (IA), dans l’action publique. Au cours des dernières années, les États et les gouvernements – y compris la France  – ont de plus en plus recours à ce type d’instruments dans des domaines très variés. L’utilisation d’outils algorithmiques de prise de décision par les pouvoirs publics est susceptible d’avoir des effets structurels profonds sur le fonctionnement de l’État et ses relations avec le public. Partant de cette hypothèse, cet article vise à interroger le potentiel transformateur des innovations liées aux algorithmes et à l’IA pour diverses professions de l’administration publique. Il examine les cadres institutionnels et les acteurs actuellement impliqués dans les principaux projets d’automatisation de l’action étatique, les discours de légitimation, mais aussi les pratiques des administrations concernées.

Haut de page

Texte intégral

1La percée récente de l’intelligence artificielle (IA) dans le gouvernement des affaires publiques promet de transformer la métaphore de la « machine bureaucratique » en une réalité tangible. Cette image, évocatrice de mécanisation, de dépersonnification et d’efficacité formelle, mise en avant par Weber (1971) dans ses analyses de rationalisation du monde moderne, nous sert de point de départ pour examiner les différents usages que font les administrations publiques de ces technologies de pointe dans leur action. Dans le secteur public, comme ailleurs, l’IA est souvent présentée comme une solution miracle à un large éventail de problèmes sociaux complexes (Katzenbach, 2021). Des entrepreneurs et des chercheurs appellent de leurs vœux un usage plus actif de l’IA et des données massives par les fonctionnaires pour repenser le gouvernement dans son ensemble : « Les décideurs politiques devraient exploiter les données pour fournir des services publics réactifs, efficaces et équitables » (Margetts et Dorobantu, 2019). De tels appels reflètent sans doute un engouement général pour l’IA, récemment amplifié par le succès des IA génératives (telles que le ChatGPT) auprès du grand public, sans avoir toujours de raisons solidement étayées pour soutenir ces attentes élevées.

  • 1 Selon le rapport publié par la Banque mondiale, en 2021, au moins cinquante États se sont dotés ou (...)
  • 2 En 2018, l’IA Watch a été créée au sein du Centre commun de recherche de la Commission européenne (...)

2D’abord expérimentés aux États-Unis (Engstrom et al., 2020 ; Engstrom et Ho, 2021 ; Mehr, 2017), ces usages se développent et se diversifient en effet depuis plusieurs années dans différents pays à travers le monde1. Les systèmes dotés de l’IA sont notamment prisés dans les domaines de la sécurité (Amoore et Raley, 2017 ; Brayne, 2017 ; Neyland, 2019 ; Picaud, 2021), de la justice (Christin, 2017 ; Girard-Chanudet, 2023), de la santé publique (Sun et Medaglia, 2019 ; Perez et al., 2024), ou encore de l’éducation (Fernandes et al., 2019), de la sécurité sociale et divers services sociaux (Dubois, 2021 ; Jeffares, 2021), des transports publics (Kouziokas, 2017) et de l’urbanisme (Courmont, 2023 ; Cugurullo et al., 2024 ; Picaud, 2023), et bien d’autres. Alors que les cas d’usage observés dans divers secteurs d’activité se multiplient, les premiers travaux de synthèse s’efforcent de recenser et de rendre compte des nombreuses initiatives en cours en Europe (Noordt et Misuraca, 2022) et en France (Paul et Le Métayer, 2023). Quantité de rapports, notes analytiques et documents de travail ont été rendus publics, depuis plusieurs années, par des organismes gouvernementaux européens et français qui essaient de cartographier le phénomène, d’analyser les facteurs facilitant ou au contraire constituant un obstacle au développement de ces innovations dans le secteur public, d’évaluer les défis (manque de culture numérique, de compétences, de financement, etc.) et les risques (accroissement des inégalités, opacité des décisions, etc.) associés à l’IA publique. Cependant, on ne connaît encore que très imparfaitement l’étendue et les effets des usages effectifs2.

3L’avènement de l’IA dans la pratique gouvernementale a fait également émerger de nouveaux agendas de recherche théorique et empirique qui s’efforcent de savoir dans quelle mesure ces phénomènes, identifiés sous les labels d’algorithmes, d’intelligence artificielle ou de big data, ont des enjeux spécifiques et inédits pour l’action publique. Ainsi, il a été suggéré que l’utilisation d’outils algorithmiques par les pouvoirs publics, qui s’appuient sur l’accumulation et le traitement de données massives, est susceptible d’avoir des effets structurels profonds sur le fonctionnement de l’État et ses relations avec le public (Fourcade et Gordon, 2020). Il a également été observé que la diffusion croissante de ces technologies intelligentes, telles que l’analyse prédictive ou les agents autonomes, transforme en profondeur la manière dont les services sociaux et autres missions des administrations publiques sont assurés, faisant advenir une nouvelle forme de « bureaucratie algorithmique » (Vogl, Seidelin, Ganesh et Bright, 2020).

  • 3 Sur l’histoire d’Etalab, voir Goëta (2017).
  • 4 Nous remercions Maya Cléré, stagiaire sur le projet IAction de mars à juillet 2023, pour son aide (...)

4Partant de cette hypothèse forte, qui va à l’encontre de la thèse de la neutralité des techniques, mais tente en même temps d’éviter une rhétorique courante de rupture (disruption), dont elles seraient porteuses, cet article, présente un aperçu provisoire des acteurs et des usages de l’IA publique en France, ce domaine d’expérimentation étant en constante évolution. Il cherche en même temps à interroger le potentiel transformateur des innovations liées à l’IA pour divers métiers et missions de l’administration publique, ainsi que leurs effets sur l’image et la légitimité de l’État bureaucratique. Pour ce faire, nous passerons en revue les cadres institutionnels et les acteurs actuellement impliqués dans les projets d’automatisation de l’action étatique, les discours de légitimation, mais aussi les pratiques des administrations concernées. Le présent propos s’appuie sur une analyse documentaire approfondie de différentes sources liées à la stratégie de l’État français en matière d’IA et d’action publique : l’Etalab (l’administration publique française chargée d’améliorer l’efficacité des services publics via les données3), mais aussi d’autres agences gouvernementales (direction interministérielle du numérique ou DINUM, Conseil d’État, CNIL) et des ministères. Il se fonde également sur des entretiens approfondis semi-directifs auprès de responsables de l’État et du gouvernement français qui ont été ou sont actuellement impliqués dans la conception et la mise en œuvre de la stratégie d’IA de l’action publique française, ainsi que d’acteurs privés (start-up) développant des solutions techniques pour les administrations publiques4.

Comprendre l’écosystème de l’IA publique : stratégie et réseaux d’acteurs

  • 5 Cette convention, adoptée le 17 mai 2024 par le Conseil de l’Europe, a pour vocation de poser les (...)

5Les orientations politiques générales et la réglementation concernant l’IA publique sur le territoire européen sont élaborées par les institutions et les organes de l’Union européenne (UE), qui fait preuve d’une volonté politique forte en la matière. Poussée par la concurrence internationale, l’UE cherche à inciter les pays membres à s’approprier les technologies de pointe et surtout à affirmer le modèle européen de régulation de l’IA. Dans ce but, elle s’est pourvue d’organes et de groupes d’experts sur les questions d’IA qui commandent des recherches, organisent des discussions, élaborent des principes éthiques et des recommandations politiques, ainsi que des propositions de lois. Le Comité sur l’intelligence artificielle (CAI) a été créé au sein du Conseil de l’Europe pour remplacer le Comité ad hoc sur l’intelligence artificielle (CAHAI, 2019-2021) afin de coordonner les travaux autour de ces sujets et notamment de préparer la Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit (HUDERIA)5. Des recommandations et des lignes directrices pour l’utilisation de l’IA dans différents domaines du secteur public (justice, santé, éducation, marché du travail, villes intelligentes, etc.) s’inspirent également de ce concept de l’IA « centrée sur l’être humain » (Council of Europe, 2024). En parallèle avec l’activité normative de l’IA européenne, les différents pays membres développent leurs propres stratégies et actions. Bien que les discours nationaux sur l’IA présentent de nombreux éléments communs, à l’échelle européenne comme globale, on observe des variations significatives entre les différents récits nationaux en fonction de leurs capacités, stratégies économiques et industrielles, cultures et modèles politiques (Guenduez et Mettler, 2023).

  • 6 Toujours en 2017, la Commission nationale de l’informatique et des libertés (CNIL) a publié une sy (...)

6En France, le débat public sur les usages et la gouvernance publique de l’IA a été lancé dès 2017, lorsqu’une commission parlementaire, présidée par le mathématicien et député Cédric Villani, a été chargée d’organiser une série de rencontres et de débats sur les enjeux éthiques des algorithmes et de l’intelligence artificielle (Villani, 2018)6. À la suite de la publication de ce rapport, une stratégie nationale pour l’IA, qui ne fait pas de distinguo entre les acteurs qui conçoivent, ceux qui adoptent et ceux qui pilotent les outils d’IA, a été adoptée par le gouvernement français en 2018. En l’absence de stratégie spécifique pour les systèmes d’IA pilotés par l’État, celle-ci sert de cadre général pour le déploiement de ces systèmes au sein des administrations publiques.

7Ces documents programmatiques insistent avant tout sur la maîtrise de l’IA comme enjeu primordial de la compétition internationale technologique, économique, voire géopolitique. Cet impératif est jugé évident, inévitable et nécessaire à la survie de la France et de l’Europe, qui doivent rivaliser avec les géants du numérique, notamment les États-Unis et la Chine. La France manifeste donc la forte ambition de se positionner parmi les leaders européens, voire mondiaux dans ce domaine7. Par rapport à cet objectif stratégique principal, l’IA est considérée par les acteurs publics comme un enjeu essentiel de la souveraineté nationale (voir Türk et Vallar, 2018 ; Pohle et Thiel, 2020 ; Musiani, 2022).

8Cette stratégie cherche à poser les fondements d’une structuration à long terme de l’écosystème national de l’IA en soutenant la recherche publique (instituts 3AI), en investissant dans les start-up et les grandes entreprises nationales, et en renforçant les capacités techniques et les infrastructures nationales et européennes pour le stockage des données, l’entraînement des algorithmes et la réalisation de calculs complexes (par exemple, le projet de supercalculateur Jean Zay, installé à l’Institut du développement et des ressources en informatique scientifique [IDRIS], centre national de calcul du CNRS, en 2019, et considéré comme l’une des infrastructures de calcul les plus puissantes d’Europe)8. Depuis 2018, cette stratégie comprend également diverses initiatives telles que le Hub France AI, qui réunit des acteurs publics et privés pour accélérer l’adoption de l’IA dans les entreprises et les institutions au niveau national et européen. En février 2025, une nouvelle phase (la troisième) de la stratégie nationale pour l’IA a été lancée dans le cadre du plan « France 2030 », qui se donne pour objectif de renforcer les infrastructures consacrées à l’IA (centres de données, supercalculateurs), à créer des IA clusters (pôles d’excellence en formation et en recherche en IA) et à généraliser le recours à l’IA dans l’action des ministères et les politiques publiques9.

9Depuis l’adoption de la stratégie nationale pour l’IA en 2018, l’État s’est doté de toute une infrastructure d’acteurs institutionnels pour faciliter et accompagner le développement et la diffusion plus large d’outils basés sur l’IA dans les administrations et les établissements de la fonction publique. La fonction de coordonnateur national pour l’IA a été introduite, au sein du ministère de l’Économie et des Finances, afin d’assurer les interactions entre les différents acteurs de l’IA publique, de développer l’infrastructure et l’écosystème de l’innovation en matière d’IA, de soutenir divers projets et, plus généralement, de veiller à la réalisation de la stratégie nationale.

  • 10 Initialement connu sous le nom de la direction interministérielle du numérique et du système d’inf (...)
  • 11 Il a ainsi pour mission une évaluation qualitative et quantitative des besoins de compétences et d (...)
  • 12 Entretien avec l’ancienne directrice d’Etalab Laure Lucchesi, mené par Olessia Kirtchik et Maya Cl (...)
  • 13 La DITP gère, quant à elle, le Fonds de transformation de l’action publique.
  • 14 À ce jour, tous les projets sélectionnés (vingt-quatre au total) n'ont pas abouti : deux se sont r (...)

10Cette action repose premièrement, sur des acteurs de la transformation numérique de l’État, tels que la DINUM10. Cet organisme est chargé de la modernisation du système d’information de l’État, de la qualité des services publics numériques, de la création de services innovants pour les citoyens et d’outils numériques de travail collaboratif pour les agents. Le département Etalab, créé en 2011, puis rattaché à la DINUM, coordonne la conception et la mise en œuvre de la stratégie de l’État en matière de données. Son rôle, plus généralement, est d’assurer une coordination entre différents acteurs de l’administration centrale, d’accompagner, de donner de grandes orientations en matière de gestion des données. Une autre de ses fonctions est d’animer la communauté scientifique, car la question de l’expertise est essentielle : analyser les besoins en matière de compétences en interne et en externe de la fonction publique, former en interne de futurs administrateurs, travailler sur la formation continue, etc.11 Un programme, intitulé « Entrepreneurs d’intérêt général », a été lancé par Etalab avec pour objectif d’attirer des spécialistes du numérique, surtout en data science, dans l’action publique (Mabi, 2023). Pour bénéficier de ce programme, une administration identifie des défis numériques à résoudre et fait appel à des compétences externes (ingénieurs et autres spécialistes de données, développeurs) pour travailler sur ces défis en équipe de deux ou trois à côté des agents publics, pendant dix mois12. Une initiative ayant pour but, plus spécifiquement, à encourager les administrations et les services publics à introduire des systèmes d’IA dans leur travail a été entreprise par le gouvernement français dès 2018. Dans cet objectif, la DINSIC et la direction interministérielle de la transformation publique (DITP)13 ont lancé plusieurs appels à manifestation d’intérêt (AMI) pour expérimenter l’intelligence artificielle dans les services publics. Les projets sélectionnés lors des appels de 2018, 2019 et 2020 ont été accompagnés par Etalab et sa sous-direction Lab IA, durant dix mois, pour expérimenter différents dispositifs soutenus par l’IA au sein des administrations publiques14.

  • 15 Avec un financement entre cent et deux cents mille euros par projet.
  • 16 La Quadrature du Net (LQDN) est une association qui promeut les libertés et les droits fondamentau (...)

11Ces projets ont concerné des domaines de politique publique très variés avec, toutefois, un intérêt et une portée assez limités, car il s’agit généralement de très petits projets à budget réduit15, qui permettent d’aboutir, dans le meilleur des cas, à des preuves de concept, mais qui n’ont souvent pas d’impact immédiat sur les pratiques. La portée principale de ce type d’initiative semble être ailleurs : réaffirmer l’intérêt et la volonté de la puissance publique en matière d’IA et de données, créer des précédents et des infrastructures institutionnelles. Ce mode d’opération par expérimentation, calqué sur le modus operandi propre aux milieux high-tech les plus à la pointe, est censé créer des attentes, favoriser l’émulation et normaliser en rendant socialement acceptables divers usages de ces outils sociotechniques (Alauzen, 2022). Ces initiatives contribuent également à faire émerger et à entretenir des réseaux hétérogènes d’acteurs qui mélangent des fonctionnaires, des chercheurs, des universitaires et des ingénieurs, des cabinets de conseil, de nombreux partenaires industriels et une nébuleuse de start-up spécialisées en IA et les données. La CNIL, qui s’est dotée d’un service d’intelligence artificielle en 2023, et les acteurs de la société civile (tels La Quadrature du Net16) réfléchissent aux lignes directrices pour la mise en œuvre de ces innovations et veillent à leur respect. Il n’y a pas d’imperméabilité entre ces mondes et plusieurs acteurs provenant de milieux divers et ayant des parcours différents s’y côtoient et s’y déplacent fréquemment, ce qui crée le « monde public de l’IA ».

  • 17 Pour plus de détails sur ce concept de management dans l’administration publique, voir, par exempl (...)

12La tâche de coordination entre ces différents acteurs se révèle, de fait, compliquée. Depuis 2014, les ministères et autres administrations centrales ont mis en place les fonctions d’administrateurs ministériels des données, algorithmes et codes sources (AMDAC), et certains d’entre eux disposent aujourd’hui de leurs propres coordonnateurs et de feuilles de route en matière d’IA. Enfin, cet écosystème institutionnel comprend les collectivités locales dont l’action est coordonnée par l’Agence nationale de la cohésion territoriale (ANCT). Les instances centrales ont de fait peu de visibilité et de prise sur ce qui se passe dans différents ministères et autres administrations publiques au niveau central et surtout au niveau des acteurs territoriaux. De fait, on assiste à très peu d’interactions et de partage de données, de compétences et de dispositifs. En raison de son mode de fonctionnement « par projet », qui consiste à transposer le concept de management « agile » et modulaire aux services de l’État,17 cet écosystème de l’IA publique risque de ne pas être pérenne. Souvent restreints par le délai et le budget initialement alloués, et non pensés par rapport à une stratégie à long terme, les initiatives et les entités consacrées à l’IA publique, à l’instar du Lab IA d’Etalab, ont une existence plutôt éphémère.

L’IA au cœur des administrations publiques

13Depuis 2018, l’intelligence artificielle est passée du statut d’objet inconnu à celui de centre de l’excitation générale, à la suite d’un travail de diffusion, voire d’évangélisation, de ces technologies au sein des administrations publiques. De nouveaux organismes et de nouvelles fonctions (comme celle de coordonnateur pour l’IA), des figures et des milieux intermédiaires hybrides, des programmes et les budgets consacrés spécifiquement à ce domaine font partie de cette « économie de la promesse » (Compagnon et Saint-Martin, 2019 ; Dandurand et al., 2022 ; Gingras et Meurs, 2018) qui présage la transformation profonde de l’action publique par l’IA. L’objectif officiellement annoncé de diverses initiatives de modernisation numérique du secteur public comprend les tâches interdépendantes suivantes : améliorer le service au citoyen, tout en personnalisant et rendant plus rapide les services publics ; optimiser l’emploi des ressources publiques, matérielles comme humaines ; développer un pôle de compétences mutualisé en interne (Conseil d’État, 2022). Mais comment, de fait, les agents publics eux-mêmes perçoivent-ils l’utilité des dispositifs d’IA dans leurs missions ? Quels sont les principaux champs d’expérimentation des systèmes d’IA et les limites à une diffusion plus large de ces usages ?

  • 18 Par ailleurs, le récent rapport du Conseil d’État (2022) donne une vision d’ensemble de l’IA publi (...)

14Il n’existe actuellement pas d’inventaire complet des cas d’utilisation de l’IA dans l’administration et les services publics en France18. Cependant, si l’on compare avec d’autres pays européens, on constate que la France a adopté ces outils plus tôt et plus largement, à l’exception de quelques pays comme les Pays-Bas et l’Estonie (AI Watch 2022, p. 36). Des expérimentations avec des outils appuyés par l’IA sont faites à peu près dans tous les secteurs publics, mais les situations sont très variables d’un ministère à l’autre, d’un domaine d’action à l’autre, ou d’un territoire à l’autre, en fonction des moyens budgétaires et autres ressources, ainsi que des compétences disponibles. Si des services riches en données et en expertise technique comme Météo-France ont déjà recours à ce type d’outils, d’autres, l’INSEE par exemple, ne comptent pas encore dans leurs rangs d’experts en IA. L’action de ces acteurs publics en matière de données et d’IA est souvent antérieure à 2018 et relativement autonome vis-à-vis des administrations centrales responsables de la transformation numérique et de l’IA. Toutefois, l’adoption d’une stratégie nationale et des actions en lien avec celle-ci a sans doute intensifié et, d’une certaine manière, légitimé ces efforts.

15On peut distinguer deux types d’applications de l’IA dans les administrations publiques :

  1. les applications qui visent à automatiser des aspects spécifiques du fonctionnement interne des administrations ou des services, ou des tâches accomplies par les agents publics – en d’autres termes, les dispositifs d’IA qui transforment de l’intérieur les organisations et les divers métiers de la fonction publique ;
  2. les applications qui concernent plus directement leurs relations avec les usagers et les autres acteurs impliqués dans l’exécution de leurs tâches – en d’autres termes, les dispositifs qui transforment la manière dont les tâches administratives sont exécutées, et dès lors, leurs relations avec le public.

Les transformations par l’IA des métiers de l’administration publique

16Parmi les applications du premier type qui semblent intéresser de plus en plus les ministères et autres organismes publics figurent divers outils destinés à automatiser la communication et des processus administratifs intérieurs à ces organisations. Ces dernières possèdent des organigrammes et des systèmes de règles de fonctionnement complexes. Ainsi, les agents conversationnels (chatbots), connectés aux systèmes d’information internes, devraient – du moins en théorie – faire gagner un temps considérable aux agents des ressources humaines et aux salariés, en répondant à des questions telles que comment commander du matériel de bureau et informatique, comment obtenir une promotion, sélectionner une formation, partir en mission etc. Plus généralement, la multiplication des données de diverse nature et des documents digitalisés, accumulés par les organismes publics à la suite de la dématérialisation des procédures, pose un défi majeur et ouvre en même temps de nouvelles possibilités grâce aux techniques de catégorisation et d’extraction d’informations automatisées. Des systèmes d’IA ayant pour but, par exemple, la priorisation des documents ou la recherche des similitudes et des divergences dans de grands ensembles de documents sont testés et déployés par des organisations publiques dans les domaines juridique et judiciaire (Clément et Sayn, 2023). Tel est l’objet du projet expérimental de détection des requêtes similaires appelant des réponses analogues porté par le Conseil d’État et retenu dans le cadre du deuxième appel à manifestation d’intérêts organisé par Etalab (Conseil d’État, 2022 : 67, 306). La numérisation et la dématérialisation de l’activité représentent la condition (et dans certains cas la limite) principale au développement de ces outils de recherche et d’analyse linguistique par des organismes publics. Des techniques d’IA plus sophistiquées, telles que la reconnaissance vocale et la traduction automatique, sont également testées pour automatiser des tâches dans de nombreux domaines d’action publique. Selon les récits courants, l’IA est là pour rendre le travail des agents plus « intéressant » et plus efficace en leur permettant de gagner du temps en simplifiant des tâches répétitives et fastidieuses.

  • 19 Entretien avec le coordonnateur pour l’IA de la Gendarmerie nationale, mené par Olessia Kirtchik e (...)
  • 20 Par exemple, la ville de Marseille conduit, avec l’aide de financements européens, un projet « Big (...)

17La Gendarmerie nationale, qui met en place une stratégie en IA particulièrement ambitieuse, est en train de développer une véritable « boîte à outils » (d’analyse d’images et de reconnaissance vocale, de traduction et de transcription automatique de la parole, etc.) destinée à transformer le travail quotidien des agents publics. Selon le coordinateur en IA de cet organisme, les systèmes d’IA pourraient également orienter les activités opérationnelles des agents19. Un outil de prédiction de la criminalité, pourtant controversé (Benbouzid, 2017), est considéré comme susceptible de changer toute la philosophie et les méthodes pratiques d’intervention dans les missions de maintien de l’ordre public en permettant aux agents d’anticiper les crimes au lieu d’agir en mode réactif. Critiqués pour ne pas être réellement fondés sur une méthode scientifique, d’une part, et pour créer des effets de prophétie autoréalisatrice, en renforçant les interventions dans certaines zones urbaines, d’autre part, ces outils, inspirés de la démarche prédictive, sont néanmoins déjà déployés localement aux États-Unis et dans certains pays européens. En France, la Gendarmerie nationale expérimente depuis plus de dix ans des logiciels d’analyse de la délinquance fondés sur le recensement des actes passés et sur plusieurs centaines de variables d’ordre socio-économique ou territorial, afin de pouvoir orienter leur action de manière plus efficace. D’autres projets sont conduits au niveau municipal20.

  • 21 Entretien avec deux membres de la cellule de coordination de l’intelligence artificielle de défens (...)
  • 22 Entretien avec un représentant d’une start-up qui collabore avec le ministère des Armées, mené par (...)

18La défense et le renseignement sont également identifiés comme des domaines prioritaires par la stratégie nationale pour l’IA qui sont en train d’être transformés en profondeur et à une plus grande échelle. Ainsi, un projet d’ampleur (Artemis), actuellement mis en œuvre pour le compte du ministère des Armées par le consortium industriel ATHEA (composé de Thales et Atos, mais aussi de start-up et de PME sélectionnées pour leur expertise mondialement reconnue) est conçu pour apporter aux armées une solution souveraine et sécurisée pour le traitement massif de données et d’IA21. L’Agence de l’innovation de défense, créée dans l’objectif d’accompagner et d’accélérer l’adoption des systèmes d’IA au sein des armées, développe divers projets qui concernent le fonctionnement administratif aussi bien que l’armement et la conduite de différentes missions. Pour ne citer qu’un exemple de système d’IA actuellement opérationnel, un outil développé conjointement par cette agence et une start-up française analyse des images fournies par des satellites militaires en très grande quantité, impossibles à saisir à l’œil nu22. L’IA permet aux analystes militaires de surveiller systématiquement et en temps réel les activités de centaines de sites sensibles, ce qui représente une révolution en profondeur dans ce domaine, en redéfinissant les tâches et les périmètres d’action : par exemple, surveiller un grand nombre de sites stratégiques dans le monde en temps réel.

19Or, si le processus en cours d’automatisation de l’action publique ne donne pas aux technologies numériques, notamment « intelligentes », un rôle croissant dans la prise de décision, ni ne fait advenir une crainte de remplacement des agents humains par les machines, il conduit à une reconfiguration des compétences et des domaines d’expertise, ainsi qu’à des transformations en profondeur de certains métiers (et des connaissances qu’ils requièrent, de leurs infrastructures et outils) qui doivent être analysés au cas par cas.

Les transformations par l’IA des performances et des relations avec le public

  • 23 Entretien avec le coordonnateur national pour l’IA, mené par Olessia Kirtchik et Maya Cléré, 12 ma (...)

20Les applications visant à transformer les missions des organismes publics qui touchent directement la population et les modes d’interaction (communication frontale) avec leurs publics sont plus visibles et plus sensibles aux critiques. Parmi les dispositifs testés ou déjà utilisés en France qui automatisent la relation avec l’utilisateur, on peut citer les agents conversationnels (chat ou voice bots) et les outils de présélection et d’analyse des plaintes ou des demandes en ligne formulées par les utilisateurs. Les simulateurs de protection sociale en ligne et la recherche d’informations sur les sites web gouvernementaux peuvent être inclus dans la même catégorie. Différents outils d’analyse sémantique permettent de standardiser les réponses aux demandes et d’améliorer le routage entre les services (utilisés par exemple par la direction générale des Finances publiques [DGFIP], le ministère de l’Intérieur, la Gendarmerie nationale et l’Agence centrale des organismes de sécurité sociale). Leur généralisation est actuellement limitée, sur le plan technique, par leurs capacités de traitement du langage naturel (ChatGPT est considéré par plusieurs de nos répondants comme une avancée révolutionnaire dans ce domaine23). Mais plus important encore, elle peut aujourd’hui aller à l’encontre des principes d’accessibilité universelle et de continuité des services publics, compte tenu de la couverture inégale du territoire national par les connexions Internet et de la disparité des équipements et des compétences des citoyens pour effectuer les démarches administratives en ligne. Plus généralement, ces outils posent problème car ils cherchent à arbitrer la relation entre l’État et les citoyens à travers des systèmes d’IA dont le fonctionnement est opaque et échappe au contrôle des utilisateurs.

21Cependant, le ciblage des contrôles ou la prévention de la fraude sociale et fiscale deviennent le domaine privilégié d’expérimentation des systèmes fondés sur l’IA par l’administration publique. D’une part, les algorithmes de classification présents dans diverses techniques d’apprentissage automatique sont particulièrement bien adaptés pour détecter des irrégularités dans des séries de données uniformes afin de détecter des comportements suspects. D’autre part, ces applications sont très demandées par les agences gouvernementales elles-mêmes, qui cherchent à accroître leur efficacité, à réduire leurs coûts d’exploitation et à générer des revenus pour l’État.

22Ainsi, la DGFIP a été l’une des premières et des plus efficaces utilisatrices en France des technologies numériques et intelligentes qui ont révolutionné le domaine du contrôle fiscal et de la lutte contre la fraude fiscale. Dans le passé, les contrôles fiscaux reposaient en grande partie sur des traces écrites et des réunions face à face. Le fisc a commencé par éliminer le papier en exigeant que toutes les pièces comptables soient soumises dans un format unique et dématérialisé : le fichier des pièces comptables (FEC), qui est la pierre angulaire de sa transformation numérique. C’est là que le métier d’analyste de données est devenu essentiel (à côté des métiers traditionnels d’avocat, d’économiste et de comptable). La DGFIP a également récemment expérimenté un nouveau système fondé sur l’IA, baptisé « Foncier innovant », destiné à détecter les piscines non déclarées grâce à des techniques de reconnaissance visuelle sur images satellite24. Il a vocation à être utilisé systématiquement après avoir été testé dans neuf départements en 2021 et avoir détecté plus de 20 000 piscines non déclarées, selon une évaluation des Finances publiques (DGFIP, 2022). Les organismes de sécurité sociale ont, quant à eux, fait de la lutte contre les différentes formes de fraude sociale une de leurs priorités, le manque à gagner étant estimé entre 6 et 8 milliards d’euros par an pour l’État (Cour des comptes, 2023 : 229).

23De multiples autres dispositifs d’aide à la décision administrative et de ciblage des contrôles sont actuellement développés et testés : destinés, par exemple, à l’inspection de restaurants (direction générale de l’Alimentation, ministère de l’Agriculture), à l’inspection environnementale (Agence française pour la biodiversité), à la détection d’irrégularités dans l’occupation des sols (direction départementale des Territoires et de la Mer), ou encore, favorisant une meilleure utilisation des données contenues dans les lettres de suite d’inspection (Autorité de sûreté nucléaire).

Négocier l’éthique de l’IA publique : le cas de la surveillance

  • 25 Les publications du collectif « La Quadrature du Net » dans le cadre de la campagne « France Contr (...)
  • 26 Entretien avec des membres de « La Quadrature du Net », mené par Olessia Kirtchik et Francesca Mus (...)

24Si certains systèmes d’IA existant cherchent avant tout à automatiser et à optimiser les routines administratives, de nombreux autres concernent des questions vitales de santé, de sécurité ou d’accès aux droits sociaux fondamentaux. Ces systèmes soulèvent des questions particulières relatives à l’audit public, au respect de l’équité et de la non-discrimination et, au-delà, celle de leur recevabilité par les citoyens25. Ils sont donc soumis à des exigences spécifiques pour garantir leur utilisation éthique et responsable, en abordant des questions telles que la transparence, l’équité, la responsabilité et la protection de la vie privée des citoyens. Bien que les autorités publiques chargées du pilotage de l’IA se montrent conscientes de ces grands principes (à en juger par exemple par le site d’Etalab ou par celui du Comité sur l’intelligence artificielle [CAI] du Conseil de l’Europe), les administrations publiques restent opaques sur ces questions et sont souvent réticentes à communiquer sur les algorithmes utilisés. Des acteurs de la société civile soulèvent ainsi le manque de transparence institutionnelle, tout en exprimant leurs préoccupations quant à l’utilisation normalisée de technologies intrusives et à la nécessité d’un cadre juridique clair pour protéger les droits fondamentaux26.

  • 27 Des logiciels de vidéosurveillance dotés de fonctionnalité propres à la reconnaissance faciale son (...)
  • 28 La notation sociale est un système qui attribue des notes aux individus en fonction de leur compor (...)
  • 29 « Réglement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règ (...)

25Les problèmes d’acceptation par le public ainsi que le cadre juridique existant peuvent limiter, voire interdire le déploiement public d’une technique d’IA. Le cas de la surveillance des lieux publics grâce aux technologies d’intelligence artificielle est emblématique à cet égard. La méfiance sociétale à l’égard de ces technologies, notamment celles qui mobilisent des techniques de reconnaissance faciale, vient justement du fait que ces mêmes outils peuvent être utilisés pour protéger, prévenir la criminalité, mais aussi pour surveiller et contrôler les populations, parfois jusqu’à la menace ou à la coercition (Moraes et al., 2021 ; Madzou et Louradour, 2020). Jusqu’à présent, la reconnaissance faciale – technique biométrique de reconnaissance automatisée d’une personne, fondée sur les caractéristiques faciales – dans l’espace public n’est pas autorisée en France (Chatelier, 2024).27 Le règlement européen sur l’intelligence artificielle, « AI Act », voté par le Parlement européen en 2024, interdit également la reconnaissance faciale dans les espaces publics en temps réel « à des fins répressives », la reconnaissance des émotions, la catégorisation biométrique des personnes, le développement des bases de données de reconnaissance faciale à partir des données publiées sur Internet ou de vidéosurveillance, ainsi que la notation sociale (en référence au système déjà mis en œuvre en Chine)28 et la police prédictive (évaluation du risque d’infraction pénale individuelle), les considérant comme des pratiques à risque inacceptable29. En revanche, les caméras augmentées (intelligentes), connectées à un système d’IA qui analyse les flux de données et qualifie les objets et les activités, sans identifier les individus, sont utilisées de façon croissante dans les espaces publics pour des questions de sécurité, mais aussi de logistique et de contrôle (par exemple, pour infliger une amende aux véhicules lourds circulant dans une zone interdite). Cependant, les finalités d’utilisation de cette technologie sont également limitées par la loi. Ainsi, la législation nationale n’autorise pas l’utilisation, par les pouvoirs publics, de caméras « augmentées » pour la détection et la poursuite d’infractions, sans autorisation du tribunal.

26Toutefois, le cadre juridique et public de ces utilisations fait l’objet de négociations permanentes entre les différents acteurs, notamment les administrations publiques, les législateurs, les acteurs privés et la société civile. La Commission nationale de l'informatique et des libertés (CNIL) fournit des orientations générales prises en compte par des entrepreneurs publics comme privés pour soigner l’image publique et minimiser les risques en développant certains dispositifs d’IA.

  • 30 Loi no 2023-380 du 19 mai 2023 relative aux Jeux olympiques et paralympiques de 2024, publiée dans (...)
  • 31 Ibid.
  • 32 Entretien avec un coordonnateur pour l’IA de la Gendarmerie nationale, mené par Olessia Kirtchik e (...)

27La reconnaissance faciale n’a pas, quant à elle, été utilisée à des fins de la surveillance pendant les Jeux olympiques de Paris en 202430. Toutefois, à l’issue d’un travail de lobbying soutenu par les acteurs privés et publics concernés, des caméras augmentées ont été utilisées avant, pendant et après les Jeux pour fournir une analyse en temps réel des « événements » définis comme suspects, y compris des comportements des individus (personnes isolées et statiques, mouvements de foule ou intrusions dans une zone interdite, etc.)31. Un certain nombre d’associations de défense des droits de l’homme dans le contexte numérique ont critiqué cette décision, arguant que les dérogations et les exceptions autorisées modifiaient les pratiques et semblaient lever progressivement le tabou de la vidéosurveillance algorithmique (Basson, 2024). En effet, une fois ces infrastructures installées, une fois leurs usages normalisés et acceptés, il devient alors sans doute extrêmement difficile d’en avoir un contrôle public. Dans le même temps, les forces de l’ordre continuent de prôner la généralisation de l’utilisation de la reconnaissance faciale et des caméras intelligentes ainsi que des dispositifs prédictifs, à des fins opérationnelles. Selon elles, ces organismes publics ne seront pas en mesure de remplir leur mission de manière satisfaisante, d’anticiper les menaces émergentes pour l’ordre public alors que l’IA est « utilisée par des criminels, des terroristes, des entreprises privées et des gouvernements étrangers, mais pas par eux32 ».

  • 33 Dans Surveiller et punir, Michel Foucault discute l’invention du « Panopticon » par Jeremy Bentham (...)

28Les enjeux de ce débat sont importants et inédits. Selon la CNIL, qui a publié une déclaration sur les usages de la reconnaissance faciale en 2019, cette technologie « soulève des questions inédites touchant aux choix de société » (CNIL, 2019). Les systèmes de reconnaissance faciale peuvent produire des erreurs qui privent les individus de l’accès aux services publics et restreignent autrement leurs droits. Plus généralement, la capacité de surveillance accrue des autorités publiques rendue possible par cette technologie pourrait à terme réduire l’anonymat des citoyens dans les espaces publics. C’est précisément pour ces raisons que, ces dernières années, le projet Alicem du ministère de l’Intérieur faisant de la reconnaissance faciale un outil pour prouver l’identité numérique d’une personne (Alauzen, 2022), les systèmes de surveillance par IA placés à l’entrée des écoles à Nice, et d’autres projets similaires ont été rejetés sur décision de la CNIL. Cette dernière a également pris position sur les caméras augmentées, en proposant le principe de l’utilisation minimale nécessaire. Selon elle, il appartiendra aux pouvoirs publics de veiller à ce que l’utilisation des caméras « augmentées » soit limitée aux cas les plus légitimes, afin d’éviter une prolifération disproportionnée de ces dispositifs, qui risquent de modifier notre rapport à l’espace public, selon la logique du « Panopticon » (Foucault, 1975)33. Sinon, l’adoption généralisée de la surveillance automatisée par l’IA pourrait ainsi être une question de choix de société, où la vie privée et l’anonymat ne seraient plus la norme.

Conclusion

29La France ne connaît pas encore de révolution de l’IA publique, mais on observe actuellement un déploiement progressif des systèmes d’IA dans les services publics, inégal selon les administrations et souvent expérimental, à quelques exceptions notables déjà évoquées. Aux côtés des Finances publiques, les organisations chargées de protéger l’ordre public, le renseignement et la défense disposent des stratégies, des feuilles de route et des visions les plus complètes pour développer et déployer des systèmes fondés sur l’IA. Au-delà de ces domaines, la sécurité sociale et les autres organismes de protection sociale tendent à développer très activement diverses applications d’IA pour instrumenter leurs actions (prétraitement et priorisation des demandes, automatisation de la communication avec les usagers, calcul des prestations sociales, lutte contre la fraude, etc.).

30Les dispositifs de l’IA expérimentés et mis en œuvre par ces acteurs publics répondent, en réalité, aux impératifs de réduction des coûts de fonctionnement, d’accroissement du périmètre de leurs capacités d’intervention, de générer des revenus pour l’État grâce aux opérations de contrôle, et, bien sûr, de sécuriser l’espace public grâce à des techniques de surveillance. Ces dernières, tout particulièrement, entraînent un certain nombre de controverses liées aux risques qu’elles représentent pour les droits fondamentaux et les libertés citoyennes, et on peut donc observer des efforts importants de légitimation de ces technologies par les acteurs étatiques, dans les discours et dans les actions. Le fait que les fonctions souveraines et redistributives de l’État soient les premières à être automatisées semble être symptomatique d’effets plus larges et plus profonds, qu’il nous faudra plus de temps pour évaluer pleinement.

31Nous pouvons enfin tirer quelques conclusions sur le portrait, en train de se dessiner, de l’« État-automate ». Trois axes de transformation sont en cours, et se focalisent respectivement sur : (1) l’optimisation et la performance ; (2) la dépersonnalisation et la formalisation ; (3) le contrôle, la transparence et la surveillance. Nous revenons rapidement ci-dessous sur ces trois axes.

  1. L’optimisation et la performance. Dans la quête (de longue date) d’efficacité dans son fonctionnement, l’État cherche à atteindre des résultats mesurables et à optimiser l’utilisation des ressources publiques grâce aux outils de l’IA, souvent inspirés des modèles managériaux du secteur privé. Cela inclut notamment l’automatisation des processus administratifs (réduction des délais, gestion plus rapide des dossiers), l’implémentation de méthodes de gestion fondées sur la performance (mise en place d’indicateurs d’évaluation), la rationalisation des services publics (réduction des doublons, optimisation des ressources, externalisation des services jugés moins stratégiques). Si cette transformation conduit à une administration plus rapide et plus réactive, elle pose la question de la primauté accordée aux résultats quantifiables par rapport à d’autres valeurs fondamentales, comme l’équité ou la justice sociale (Bourdieu, 2012), et peut entraîner une déshumanisation, où les citoyens deviennent des « cas » ou des « dossiers » à optimiser.
  2. La dépersonnalisation et la formalisation. L’État cherche à réduire la subjectivité et l’arbitraire dans ses processus en formalisant et standardisant les interactions. Cela se traduit par une uniformisation des démarches pour éviter toute intervention humaine non réglementée, la mise en place d’algorithmes de prise de décision (par exemple dans l’attribution d’allocations ou de subventions, où des critères précis déterminent automatiquement les résultats), ou encore le remplacement total ou partiel des échanges avec des fonctionnaires par des plateformes numériques. Cette formalisation peut garantir une plus grande impartialité et homogénéité dans le traitement des dossiers, mais elle efface en même temps la capacité de l’État à prendre en compte des situations individuelles ou atypiques, ce qui peut engendrer une frustration chez les citoyens qui se sentiraient enfermés dans des cadres rigides ou pris en charge par des acteurs insensibles à leurs difficultés spécifiques. L’automatisation des décisions administratives individuelles comporte également le risque de rendre plus difficile les réclamations et les contestations par des citoyens du résultat de ces décisions, en raison de l’opacité et de la complexité des systèmes techniques mis en œuvre34.
  3. Le contrôle, la transparence et la surveillance. Ce troisième aspect a trait à une attention croissante à la transparence et à la traçabilité dans la gestion publique, souvent justifiée par des impératifs de lutte contre la fraude, la corruption ou l’insécurité. Les technologies de surveillance et de contrôle jouent un rôle clé ici, du fait qu’elles rendent possible une plus grande traçabilité des données (collecte et analyse de données massives ou big data pour suivre les activités d’une variété d’acteurs sociaux), un contrôle accru des prestations sociales (vérification systématique des bénéficiaires grâce à des outils permettant, par exemple, le croisement de données entre plusieurs administrations [Dubois, 2021]), une plus grande exigence de transparence des décisions publiques (publication de données ouvertes, mais aussi surveillance renforcée des acteurs publics eux-mêmes). Ces initiatives augmentent la transparence et peuvent renforcer la confiance du public dans certaines circonstances, mais posent de façon renouvelée des questions fondamentales, telles que la protection de la vie privée et les libertés individuelles. L’État devient non seulement plus intrusif, mais aussi potentiellement coercitif, avec un risque de surveillance généralisée (Chazal, 2024)35.

32Les axes de transformation esquissés ci-dessus ne proviennent pas de l’ensemble des nouvelles technologies que nous définissons actuellement comme « intelligence artificielle » ; toutes ont des racines sociales, politiques et économiques plus anciennes et plus profondes. Ces efforts semblent s’inscrire en effet dans des tendances globales et durables liées aux représentations de la nature de l’État et de son action, à l’évolution des connaissances et des techniques de gouvernement, et enfin aux avancées technologiques et aux transformations actuelles du capitalisme. Cependant, les systèmes d’IA proposent des capacités inédites à accentuer ces tendances, pour modifier l’équilibre des pouvoirs à l’intérieur et à l’extérieur de l’État, et pour servir d’intermédiaire et restructurer les relations entre les citoyens, les entreprises privées et les organisations publiques.

33Nota bene : Ce travail est soutenu par l’Agence nationale de la recherche, programme « Investissements d’avenir », référence ANR-19-P3IA-0001 (institut PRAIRIE 3IA), dans le cadre du projet IAction (2022-2024) : <https://prairie-institute.fr/​lia-au-service-de-laction-publique-imaginaires-sociotechniques-et-dispositifs-de-la-decision-algorithmique/​>).

Haut de page

Bibliographie

AI Watch, 2022, « European landscape on the use of artificial intelligence by the public sector », Luxembourg, Publications Office of the European Union : <https://publications.jrc.ec.europa.eu/repository/handle/JRC129301>.

Alauzen, Marie, 2022, « Les tressautements du “devenir interface” de notre relation à l’État : controverse sur l’expérimentation d’Alicem », Gouvernement & action publique, vol. 2, no 11, p. 101-126.

Amoore, Louise et Raley, Rita, 2017, « Securing with algorithms: Knowledge, decision, sovereignty », Security Dialogue, vol. 48, no 1, p. 3-10.

Basson, Jean-Charles, 2024, « “Faudrait pas ébranler l’Obélisque.” La sécurité intelligente et augmentée des Jeux olympiques et paralympiques de Paris de 2024 », Savoir/Agir, vol. 64, no 1, p. 53-63 : <https://doi.org/10.3917/sava.064.0055>.

Benbouzid, Bilel, 2017, « Des crimes et des séismes. La police prédictive entre science, technique et divination », Réseaux, vol. 206, no 6, p. 95-123.

Bourdieu, Pierre, 2012, Sur l’État. Cours au Collège de France 1989-1992, Paris, Seuil.

Brayne, Sarah, 2017, « Big data surveillance: The case of policing », American Sociological Review, vol. 82, no 5, p. 977–1008.

Chatellier, Régis, 2024, « Des premières caméras à l’expérimentation des algorithmes : un panorama du développement territorial, technologique et de l’encadrement juridique de la vidéosurveillance », Revue française d'administration publique, vol. 185, no 1, p. 223-235.

Chazal, Gérard, 2024, Du panoptique de Bentham à la surveillance numérique, Dijon, Éditions universitaires de Dijon.

Christin, Angèle, 2017, « Algorithms in practice: Comparing web journalism and criminal justice », Big Data & Society, vol. 4, no 2, p. 1-14.

Clément, Marc et Sayn, Isabelle, 2023, « L’utilisation de l’IA dans le système judiciaire », dans Christian Paul et Daniel Le Metayer (dir.), Maîtriser l’IA au service de l’action publique. Une responsabilité individuelle et collective, Paris, Berger-Levrault, p. 27-38.

CNIL, 2017, Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle : <https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf>.

CNIL, 2019, Reconnaissance faciale : pour un débat à la hauteur des enjeux : <https://www.cnil.fr/fr/reconnaissance-faciale-pour-un-debat-la-hauteur-des-enjeux>.

Compagnon, Daniel et Saint-Martin, Arnaud, 2019, « La technique : promesse, mirage et fatalité », Socio, no 12, p. 7-25 : <https://doi.org/10.4000/socio.4401>.

Conseil d’État, 2022, Intelligence artificielle et action publique : construire la confiance, servir la performance : <https://www.conseil-etat.fr/publications-colloques/etudes/intelligence-artificielle-et-action-publique-construire-la-confiance-servir-la-performance>.

Council of Europe, 2024, The Council of Europe and Artificial Intelligence : <www.coe.int/AI>.

Cour des comptes, 2023, La sécurité sociale. Rapport sur l’application des lois de financement de la sécurité́ sociale : <https://www.ccomptes.fr/system/files/2023-05/20230524-RALFSS-2023_0.pdf>.

Courmont, Antoine, 2023, « Les acteurs privés de la ville numérique ou la mise en épreuve du pouvoir sémantique des institutions publiques », dans Christian Paul, et Daniel Le Metayer (dir.), Maîtriser l’IA au service de l’action publique. Une responsabilité individuelle et collective, Paris, Berger-Levrault, p. 227-238.

Cugurullo, Federico, Caprotti, Federico, Cook, Matthew, Karvonen, Andrew, MᶜGuirk, Pauline, et Marvin, Simon, 2024, « The rise of AI urbanism in post-smart cities: A critical commentary on urban artificial intelligence », Urban Studies, vol. 61, no 6, p. 1168-1182 : <https://doi.org/10.1177/004209802312033>.

Dandurand, Guillaume, Lussier-Lejeune, Florence, Letendre, Daniel et Meurs, Marie-Jean (dir.), 2022, Attentes et promesses technoscientifiques, Toulouse, Presses universitaires du Midi.

DGFIP, 2022, L’intelligence artificielle au service de la lutte contre la fraude : bilan de l’expérimentation « Foncier innovant » : <https://www.impots.gouv.fr/sites/default/files/media/2_actu/home/2022/dp_foncier_innovant.pdf>.

Dubois, Vincent, 2021, Contrôler les assistés. Genèses et usages d'un mot d'ordre, Paris, Liber/Raisons d'agir.

Engstrom, David et Ho, Daniel E., 2021, « Artificially intelligent government: A review and agenda », dans Vogl Roland (dir.), Research Handbook on Big Data Law, p. 57-86.

Engstrom, David, Ho, Daniel E., Sharkey, Catherine M., Cuéllar, Mariano-Florentino, 2020, « Government by algorithm: Artificial intelligence in federal administrative agencies », Report commissioned by the Administrative Conference of the United States.

Fernandes, Eduardo, Holanda, Maristela, Victorino, Marcio, Borges, Vinicius, Carvalho, Rommel et Van Erven, Gustavo, 2019, « Educational data mining: Predictive analysis of academic performance of public school students in the capital of Brazil », Journal of Business Research, vol. 94, p. 335-343.

Foucault, Michel, 1975, Surveiller et punir. Naissance de la prison, Paris, Gallimard.

Fourcade, Marion et Gordon, Jeffrey, 2020, « Learning like a State: Statecraft in the digital age », Journal of Law and Political Economy, vol. 1, no 1 : <https://escholarship.org/uc/item/3k16c24g>.

Gingras, Yves et Meurs, Marie-Jean, 2018, « Promesses économiques ou économie de la promesse ? », Le Devoir, 20 octobre.

Girard-Chanudet, Camille, 2023, La justice algorithmique en chantier. Sociologie du travail et des infrastructures de l’Intelligence Artificielle, thèse de doctorat en sociologie, École des hautes études en sciences sociales.

Goëta, Samuel, 2017, « Une petite histoire d’Etalab : Comment l’open data s’est institutionnalisé en France ? », Statistique et société, no 3, p. 1-8.

Guenduez, Ali et Mettler, Tobias, 2023, « Strategically constructed narratives on artificial intelligence: What stories are told in governmental artificial intelligence policies? », Government Information Quarterly, vol. 40 : <https://doi.org/10.1016/j.giq.2022.101719>.

Helberger, Natali, Pierson, Jo et Poell, Thomas, 2018, « Governing online platforms: From contested to cooperative responsibility », The Information Society, vol. 34, no 1, p. 1-14.

Jeffares, Stephen, 2021, The Virtual Public Servant: Artificial Intelligence and Frontline, Cham, Palgrave Macmillan.

Katzenbach, Christian, 2021, « “AI will fix this” – The technical, discursive, and political turn to AI in governing communication », Big Data & Society, vol. 8, no 2 : <https://doi.org/10.1177/20539517211046182>..

Kouziokas, Georgios N., 2017, « The application of artificial intelligence in public administration for forecasting high crime risk transportation areas in urban environment », Transportation Research Procedia, no 24, p. 467-473.

Liang, Fan et Chen, Yuchen, 2022 « The making of “good” citizens: China’s social credit systems and infrastructures of social quantification », Policy & Internet, vol. 14, no 1, p. 114-135.

Mabi, Clément, 2023, « L’État doit-il être une “plateforme” pour innover ? », dans Anaïs Théviot (dir.), Gouverner par les données ? Pour une sociologie politique du numérique, Paris, ENS Éditions, p. 55-70.

Madzou, Lofred et Louradour, Sébastien, 2020, « Building a governance framework for facial recognition », Biometric Technology Today, no 6, p. 5-8.

Margetts, Helen et Dorobantu, Cosmina, 2019, « Rethink government with AI », Nature, no 568, p. 163-165.

Mehr, Hila, 2017, Artificial Intelligence for Citizen Services and Government, Harvard Ash Center for democratic Governance and Innovation : <https://ash.harvard.edu/wp-content/uploads/2024/02/artificial_intelligence_for_citizen_services.pdf>.

Misuraca, Gianluca et Noordt (van), Colin, 2020, AI Watch—Artificial Intelligence in public services, EU Publications Office : <https://doi.org/10.2760/039619>.

Moraes, Thiago G., Almeida, Eduarda C. et De Pereira, José Renato L., 2021, « Smile, you are being identified! Risks and measures for the use of facial recognition in (semi-) public spaces », AI and Ethics, vol. 1, no 2, p. 159-172.

Musiani, Francesca, 2022, « Infrastructuring digital sovereignty: A research agenda for an infrastructure-based sociology of digital self-determination practices », Information, communication & society, vol. 25, no 6, p. 785-800.

Neyland, Daniel, 2019, The Everyday Life of an Algorithm, Londres, Palgrave Pivot : <https://doi.org/10.1007/978-3-030-00578-8>.

Noordt (van), Colin et Misuraca, Gianluca, 2022, « Exploratory insights on artificial intelligence for government in Europe », Social Science Computer Review, vol. 40, no 2, p. 426-444.

Pabisiak, Jan, 2020, « Dangerous, yet not so unique: Characteristics of the Chinese social credit system », Polish Political Science Yearbook, vol. 49, no 3, p. 30-53.

Paul, Christian et Le Metayer, Daniel (dir.), 2023, Maîtriser l’IA au service de l’action publique : Une responsabilité individuelle et collective, Paris, Berger-Levrault.

Perez, Fabienne, Conway, Neil, Peterson, Jonathan et Roques, Olivier, 2024, « Me, my work and AI: How radiologists craft their work and identity », Journal of Vocational Behavior, vol. 155 : <https://doi.org/10.1016/j.jvb.2024.104042>.

Picaud, Myrtille, 2021, « Mettre en marché les peurs urbaines : le développement des “safe cities” numériques », dans Claudia Senik (dir.), Sociétés en danger. Menaces et peurs, perceptions et réactions, Paris, La Découverte, p. 139-156.

Picaud, Myrtille, 2023, « Optimiser grâce aux algorithmes et aux données urbaines? Promesses, caractéristiques et offre réelle des start-up pour la ville intelligente », Flux, vol. 133, no 3, p. 9-23.

Pohle, Julia et Thiel, Thomas, 2020, « Digital sovereignty », Internet Policy Review, vol. 9, no 4 : <https://doi.org/10.14763/2020.4.1532>.

Sun, Tara Qian et Medaglia, Rony, 2019, « Mapping the challenges of artificial Intelligence in the public sector: Evidence from public healthcare », Government Information Quarterly, vol. 36, no 2, p. 368-383.

Türk, Pauline et Vallar, Christian (dir.), 2018, La souveraineté numérique. Le concept, les enjeux. Paris, Mare & Martin.

Villani, Cédric, 2018, Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne, rapport de mission parlementaire : <https://fichiers.acteurspublics.com/redac/pdf/2018/2018-03-28_Rapport-Villani.pdf>

Vogl, Thomas, Seidelin, Cathrine, Ganesh, Bharath et Bright, Jonathan, 2020, « Smart technology and the emergence of algorithmic bureaucracy: Artificial intelligence in UK local authorities », Public Administration Review, no 80, p. 946-961.

Weber, Max, 1971, Économie et Société, t. 1, Paris, Plon.

World Bank, 2021, Artificial Intelligence in the Public Sector: Summary Note (English), Equitable Growth, Finance and Institutions, Washington : <http://documents.worldbank.org/curated/en/746721616045333426/Artificial-Intelligence-in-the-Public-Sector-Summary-Note>.

Haut de page

Notes

1 Selon le rapport publié par la Banque mondiale, en 2021, au moins cinquante États se sont dotés ou étaient en train d’élaborer leur propre stratégie nationale pour l’IA (World Bank, 2021).

2 En 2018, l’IA Watch a été créée au sein du Centre commun de recherche de la Commission européenne pour surveiller le paysage de l’IA dans l’Union européenne (UE), tant dans le secteur privé que dans le secteur public (Misuraca et Noordt, 2020). Avec l’IA Alliance, cet organisme a collecté des cas d’usage de l’IA en Europe, sur le fondement des informations fournies par les États membres. Ce registre, accessible en ligne, est un instrument de recherche utile, bien qu’incomplet : <https://data.jrc.ec.europa.eu/dataset/7342ea15-fd4f-4184-9603-98bd87d8239a>. Pour un aperçu des cas d’usage de l’IA par les administrations publiques dans les pays européens, voir également AI Watch (2022).

3 Sur l’histoire d’Etalab, voir Goëta (2017).

4 Nous remercions Maya Cléré, stagiaire sur le projet IAction de mars à juillet 2023, pour son aide essentielle dans la recherche documentaire et pour avoir aidé dans la programmation et la conduite des entretiens.

5 Cette convention, adoptée le 17 mai 2024 par le Conseil de l’Europe, a pour vocation de poser les « principes et obligations visant à garantir que les activités du cycle de vie des systèmes d’intelligence artificielle sont pleinement compatibles avec les droits humains, la démocratie et l’État de droit sont destinés à constituer une norme dans toutes les sociétés où l’être humain est au centre, quelle que soit leur situation géographique » : <https://www.coe.int/fr/web/artificial-intelligence/cai>.

6 Toujours en 2017, la Commission nationale de l’informatique et des libertés (CNIL) a publié une synthèse du débat public mené par ses services (CNIL, 2017).

7 Voir le plan « France  2030 » : <https://www.economie.gouv.fr/france-2030>.

8 Pour plus de détails, voir le site de l’IDRIS : <http://www.idris.fr/jean-zay/jean-zay-presentation.html>.

9 Voir la stratégie nationale pour l’IA : <https://www.economie.gouv.fr/strategie-nationale-intelligence-artificielle>.

10 Initialement connu sous le nom de la direction interministérielle du numérique et du système d’information et de communication de l’État (DINSIC), cet organisme a été créé en 2015 et a été initialement placé sous l’autorité du Premier ministre.

11 Il a ainsi pour mission une évaluation qualitative et quantitative des besoins de compétences et d’expertise en la matière, ainsi que la formulation des réponses à y apporter à court et moyen terme (volet « développer l’utilisation de la donnée dans votre administration » : <https://www.numerique.gouv.fr/actualites/france-relance-laureats-volet-developper-utilisation-de-la-donnee/>).

12 Entretien avec l’ancienne directrice d’Etalab Laure Lucchesi, mené par Olessia Kirtchik et Maya Cléré, 8 juin 2023.

13 La DITP gère, quant à elle, le Fonds de transformation de l’action publique.

14 À ce jour, tous les projets sélectionnés (vingt-quatre au total) n'ont pas abouti : deux se sont retirés et les autres sont à des stades d’avancement et d’intérêt variables ( <https://www.etalab.gouv.fr/lab-ia/bibliotheque-des-projets-ia/>). À l’issue de la phase d’accompagnement de ces projets, au printemps 2022, le Lab IA lui-même a cessé d’exister.

15 Avec un financement entre cent et deux cents mille euros par projet.

16 La Quadrature du Net (LQDN) est une association qui promeut les libertés et les droits fondamentaux des citoyens/utilisateurs dans les environnements numériques, avec une attention particulière aux dynamiques de censure et de surveillance. Voir : <https://www.laquadrature.net/nous/>.

17 Pour plus de détails sur ce concept de management dans l’administration publique, voir, par exemple, le document « Diffuser la culture du mode projet dans la fonction publique : un nouveau guide pour les managers (édition 2019) », publié par la Générale de l’administration et de la fonction publique, novembre 2019 : <https://www.fonction-publique.gouv.fr/toutes-les-publications/diffuser-la-culture-du-mode-projet-dans-la-fonction-publique-un-nouveau-guide-pour-les-managers-edition-2019>.

18 Par ailleurs, le récent rapport du Conseil d’État (2022) donne une vision d’ensemble de l’IA publique et recense de nombreux usages. Il faut également souligner les efforts de l’Observatoire des algorithmes publics, lancé en novembre 2024 par Camille Girard-Chanudet, Estelle Hary et Soizic Pénicaud qui propose un « Inventaire des algorithmes publics » ; ce dernier en recense plus de soixante-dix à la date de publication de cet article. Voir : <https://odap.fr/inventaire/synthese/>.

19 Entretien avec le coordonnateur pour l’IA de la Gendarmerie nationale, mené par Olessia Kirtchik et Maya Cléré, 12 mai 2023.

20 Par exemple, la ville de Marseille conduit, avec l’aide de financements européens, un projet « Big data de la tranquillité́ publique » (Conseil d’État, 2022 : 283).

21 Entretien avec deux membres de la cellule de coordination de l’intelligence artificielle de défense (CCIAD), menés par Olessia Kirtchik, Francesca Musiani et Maya Cléré, 2 mai 2023.

22 Entretien avec un représentant d’une start-up qui collabore avec le ministère des Armées, mené par Olessia Kirtchik et Maya Cléré, 13 avril 2023.

23 Entretien avec le coordonnateur national pour l’IA, mené par Olessia Kirtchik et Maya Cléré, 12 mai 2023.

24 Voir les travaux du projet Shaping AI : <https://www.shapingai.org>.

25 Les publications du collectif « La Quadrature du Net » dans le cadre de la campagne « France Contrôle » ont montré que les algorithmes de notation utilisés par les administrations sociales telles que la CAF et la CNAM ciblent en priorité les personnes les plus précaires : <https://www.laquadrature.net/2024/12/05/notation-algorithmique-lassurance-maladie-surveille-les-plus-pauvres-et-harcele-les-meres-precaires/>.

26 Entretien avec des membres de « La Quadrature du Net », mené par Olessia Kirtchik et Francesca Musiani, 9 janvier 2024.

27 Des logiciels de vidéosurveillance dotés de fonctionnalité propres à la reconnaissance faciale sont, pourtant, testés par plusieurs collectivités en France. Ces usages ont donné lieu à des contrôles de la CNIL et à des contentieux administratifs (Chatelier, 2024 : 228).

28 La notation sociale est un système qui attribue des notes aux individus en fonction de leur comportement social et de leurs caractéristiques personnelles, débouchant sur des restrictions d’accès à certains services. Voir par exemple Liang et Chen (2022), ou sur l’expansion, possible ou en cours, de ce modèle à d’autres réalités géopolitiques que la Chine Pabisiak (2020).

29 « Réglement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle… », Journal officiel de l’Union européenne du 12 juillet 2024 : <https://eur-lex.europa.eu/eli/reg/2024/1689/oj>. La classification des pratiques et des systèmes d’IA en fonction du risque qu’ils représentent selon le législateur européen est expliquée sur le site officiel de l’UE: <https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai>. Les interdictions prévues par l‘« AI Act » sont entrées en application le 2 février 2025.

30 Loi no 2023-380 du 19 mai 2023 relative aux Jeux olympiques et paralympiques de 2024, publiée dans le Journal officiel de la République française, 20 mai 2023 : <https://www.legifrance.gouv.fr/download/pdf?id=yUQ_DLw0skm8dWcA3FHSXNCWae1u63ZO6Nh5ySR3wgs=>.

31 Ibid.

32 Entretien avec un coordonnateur pour l’IA de la Gendarmerie nationale, mené par Olessia Kirtchik et Maya Cléré, 12 mai 2023.

33 Dans Surveiller et punir, Michel Foucault discute l’invention du « Panopticon » par Jeremy Bentham, philosophe et réformateur britannique qui vécut entre le xviiie et le xixe siècles. Le Panopticon est à l’origine un dispositif de surveillance carcérale. Il s’agit d’une tour centrale dans laquelle se trouve un surveillant, autour de laquelle les cellules sont disposées en cercle. La lumière entre dans la cellule du côté du prisonnier ; le surveillant peut ainsi voir l’ombre de ce dernier et vérifier sa présence et ses actions, alors que le surveillant est invisible au prisonnier, qui ne sait pas donc à quels instants précis il est surveillé ou non. Selon Michel Foucault, un tel dispositif peut être – et est – étendu à d’autres espaces de travail et de vie où des dynamiques de surveillance sont de mise : la prison et la surveillance n’ont plus pour trait marquant d’enfermer, mais de rendre visible, pour que le surveillé se sache surveillé. La surveillance devient « permanente dans ses effets, même si discontinue dans son action » (Foucault, 1975, chap. 3).

34 Voir par exemple le rapport Algorithmes, systèmes d’IA et services publics : quels droits pour les usagers ? Points de vigilance et recommandations (2024), publié par le Défenseur des droits : <https://www.defenseurdesdroits.fr/algorithmes-intelligence-artificielle-et-services-publics-2024>.

35 Voir également sur ces questions les publications issues de la campagne Technopolis du collectif « La Quadrature du Net » : <https://www.laquadrature.net/>.

Haut de page

Pour citer cet article

Référence papier

Olessia Kirtchik et Francesca Musiani, « Vers un « État-automate » ? », Socio, 20 | 2025, 101-126.

Référence électronique

Olessia Kirtchik et Francesca Musiani, « Vers un « État-automate » ? », Socio [En ligne], 20 | 2025, mis en ligne le 23 mai 2025, consulté le 12 septembre 2026. URL : http://journals.openedition.org/socio/17434 ; DOI : https://doi.org/10.4000/1431f

Haut de page

Auteurs

Olessia Kirtchik

Olessia Kirtchik est chercheuse contractuelle au CNRS, membre du Centre d’études russes, caucasiennes, est-européennes et centrasiatiques (EHESS/CNRS). Elle a été membre du Centre Internet et Société (CIS-CNRS) comme chercheuse sur le projet ANR PIA PRAIRIE IAction (2022-2024)

Francesca Musiani

Francesca Musiani est directrice de recherche au CNRS, directrice du Centre internet et société (CIS/CNRS) et a été porteuse du projet ANR PIA PRAIRIE IAction (2022-2024).

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.

Haut de page
Sommaire - Document précédent -
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search