Navigation – Plan du site

AccueilNumérosvol. 40/2ArticlesLes « jeux de ficelles » d’une go...

Articles

Les « jeux de ficelles » d’une gouvernance éthique de l’intelligence artificielle

Une approche intersectionnelle des modèles de justice sociale des techniques dites intelligentes
Julie Marques

Résumés

Dans cet article nous analyserons les discours de gouvernance de l’intelligence artificelle (IA) et les conceptions qu’ils proposent de l’éthique et de la justice sociale ainsi que les représentations de cette technique qu’ils véhiculent. Nous réaliserons une première contextualisation au prisme d’une approche intersectionnelle qui vise à déconstruire le caractère andro-, hétéro- et ethno-centré de l’IA. Puis, nous étudions les discours pour une gouvernance éthique et juste de l’IA et comment ceux-ci produisent une éthicisation du monde social. Enfin, nous verrons que les modèles de justice sociale proposés dans une gouvernance dite éthique et inclusive de la technique dite intelligente s’inscrivent au sein de systèmes de domination et peuvent empêcher de remettre en cause l’actualisation de rapports sociaux de sexe, de race et de classe en contexte d’IA.

Haut de page

Texte intégral

  • 1 Il est fait usage des guillemets pour les expressions d’« IA éthique » et « IA inclusive », car ces (...)

1Cet article présente une partie des résultats de notre enquête de doctorat, qui interroge les modèles de justice sociale en contexte d’intelligence artificielle (IA) et d’algorithmes au prisme d’une approche intersectionnelle des médiations en jeu. Il s’agit de questionner les modalités de conception et de représentation des dispositifs techniques dits intelligents, les formes que prend leur régulation et la manière dont les divers éléments qui les constituent font systèmes. La recherche est pensée comme une invitation à étudier les agencements et les actualisations des rapports sociaux de sexe, de race et de classe qui se produisent en contexte d’IA. Il s’agit notamment d’analyser les modèles de justice sociale qui sont plébiscités par les discours de gouvernance (Agamben, 2014 ; Foucault, 2001) de ladite « IA éthique ». L’enquête que nous présentons ici consiste dès lors à étudier comment ces dispositifs se déploient au sein d’un terrain spécifique : l’entreprise des télécommunications Orange, son département de responsabilité sociale de l’entreprise (RSE) et plus spécifiquement la division Diversité et Inclusion (D&I), ainsi qu’au sein de ses équipes technoscientifiques. La question des modèles de justice sociale (Fraser, 2004) est au cœur des préoccupations de cette recherche dans laquelle il s’agit d’appréhender les différents « fils » qui tissent ensemble les systèmes sociotechniques. L’objectif est d’appréhender les tensions, les marges, les hégémonies, les formes de pouvoir et les relations sociales telles qu’elles s’organisent et se coconstruisent de manière multidimensionnelle (Bilge, 2009 ; Hill Collins, 2017 ; Vergès, 2019) dans la situation observée. Cette recherche propose de sortir d’une représentation « désincarnée » de l’IA en vue de pouvoir en analyser le « coût computationnel » (Crawford, 2022) et d’établir une cartographie des enjeux de pouvoir impliqués. Pour cela, dans le présent article, nous interrogeons les modèles de justice sociale auxquels sont adossés les recommandations et les instruments de régulation en matière d’« IA éthique1 » chez Orange et nous envisageons les limites de la production de définitions et de modalités de régulation par cette organisation. Nous montrons notamment comment ces dernières s’inspirent de paradigmes qui ne remettent pas forcément en cause les hégémonies et les systèmes de domination.

  • 2 La graphie fait référence aux travaux de Jacques Ellul (1990). Dans cette perspective, l’IA et les (...)

2Nous reviendrons d’abord sur les termes et concepts qui permettent d’analyser les dispositifs d’IA au prisme d’une approche intersectionnelle, en vue de créer des savoirs situés, féministes, engagés et quelque peu profanes de ces techniques (Cardon, 2015 ; Haraway et García, 2020). Puis, nous décrirons notre terrain de recherche ainsi que la méthodologie développée pour étudier les systèmes dits intelligents, en mobilisant une approche interdisciplinaire inscrite à la fois en sciences de l’information et de la communication (SIC) et en sciences du langage (SL). Il s’agira de comprendre l’ancrage de la Technique2 dans le monde social et les manières dont des discours de gouvernance la mettent en récit et en sens, ainsi que les incidences que cela a sur les rapports sociaux. Enfin, nous proposerons une analyse des conceptions de la justice sociale sous-jacentes aux dispositifs de gouvernance éthique de l’IA chez Orange, notamment dans un contexte où cette dernière est pensée par et pour la RSE du groupe.

DÉFINIR L’INTELLIGENCE ARTIFICIELLE AU PRISME D’UNE APPROCHE INTERSECTIONNELLE : SAISIR LES ENJEUX ET LES INCIDENCES

Une définition de l’intelligence artificielle

3L’expression « intelligence artificielle » cristallise d’emblée des représentations et imaginaires, qu’ils soient de types prophétiques ou apocalyptiques, parce qu’elle suppose une forme d’intelligence qui serait calquée sur celle perçue comme « suprême » : l’intelligence humaine (Doueihi, 2013). L’IA est une technologie qui s’appuie sur des données. Elle peut être définie comme « un corpus de concepts et de techniques permettant à une machine de réaliser des tâches au moyen de programmes informatiques, simulant parfois ainsi, dans une certaine mesure, l’intelligence humaine » (Bertail et al., 2019, p. 6). Elle peut être qualifiée selon deux catégories qui correspondent à deux modes de fonctionnement (Cardon, Cointet et Mazières, 2018) :

  • une IA hypothético-déductive, qui peut être qualifiée de symbolique. Elle dépend d’algorithmes et d’une intervention humaine en vue de modéliser le réel. Elle est constituée de solutions mathématiques qui prennent la forme « d’une série d’instructions permettant d’obtenir un résultat » (Cardon, op. cit., p. 3) ;

    • 3 Si l’on devait résumer ce qui constitue le big data, ce sont de gigantesques volumes de données pro (...)

    une IA inductive, qui peut être qualifiée de connexionniste. Elle est apparue avec le développement du big data3 et de nouvelles méthodes de modélisation, comme l’apprentissage profond. Ces techniques dites intelligentes, à partir d’un vaste ensemble de données et d’une tâche à effectuer, déduisent un modèle d’analyse. Dans ce contexte, c’est la machine qui modélise le réel (Cardon, Cointet et Mazières, op. cit.).

4Dans ce travail, nous n’effectuons toutefois pas de différence sémantique entre IA et algorithmes, parce que sur le terrain de recherche, les applications ne sont que rarement différenciées. Par ailleurs, sur le terrain de recherche, au sein des entretiens et dans les discours de gouvernance de l’IA analysés, nous trouvons une surutilisation de l’expression « intelligence artificielle » pour faire référence aux algorithmes, entre autres parce qu’elle garantit une certaine image des organisations qui suppose qu’elles seraient à la pointe de l’innovation.

SITUER L’INTELLIGENCE ARTIFICIELLE DANS LE MONDE SOCIAL

  • 4 Nous empruntons l’expression à Donna Haraway (Haraway et García, 2020) qui parle de « jeux de ficel (...)
  • 5 L’expression « technoscience(s) » renvoie aux domaines des sciences, technologies, ingénierie et ma (...)

5Dans un tel contexte, nous nous demandons comment appréhender le plus finement possible les co-constructions et les relations entre la technique et le monde social, et partant, entre la technique et les rapports sociaux de sexe, de race et de classe. Dans cette perspective, l’IA et les algorithmes ne sont pas considérés comme neutres, inertes, en dehors du monde social, mais comme imbriqués dans celui-ci, y prenant part, entretenant des relations avec les agents sociaux, participant à la structuration de la société. L’IA forme en effet un réseau en co-construction perpétuelle (Akrich, 1994) et avec elle se déploient des « jeux de ficelles4 » entre humains et non-humains (Haraway et García, 2020). Dès lors, il s’agit pour nous de penser la multidimensionnalité des techniques dites intelligentes pour rendre visible l’actualisation des rapports de pouvoir et des systèmes d’oppression auxquels elles participent. En ce sens, notre prisme d’analyse et d’appréhension de l’IA est harawayen, situé et composé à partir d’un regard analytique intersectionnel (Bilge, op. cit. ; Crenshaw et Bonis, 2005 ; Hill Collins, 2017 ; Vergès, op. cit.). Rappelons que la pensée harawayenne est articulée à une approche féministe et intersectionnelle des techniques, inspirée par le matérialisme. Elle mêle un travail d’historicisation des rapports de pouvoir (Ahmed et Turbiau, 2021), par l’analyse « des structures matérielles du système de domination masculine, de race et de classe » (Haraway et al., 2007, p. 89), et le développement de récits qui met en avant « l’action personnelle complexe » (id.), et dont les finalités sont aussi d’imaginer des « fiction[s] qui pensent le monde » (ibid., p. 30) et ses possibles au travers les pratiques d’émancipation située de/par la technique (mais pas uniquement). Cette analyse des systèmes sociotechniques est une proposition pour dépasser les dualités et les dichotomies entre technique et société, notamment « en prenant la responsabilité des relations sociales de science et de technologie, [en refusant] la métaphysique antiscience, la démonologie de la technologie […] » (ibid., p. 81). L’objectif d’une telle approche est d’élaborer une politique intersectionnelle de la technique, non pas parce que la technique en question constituerait forcément un « progrès » pour l’humanité, encore moins parce qu’elle serait forcément juste ou bonne, mais parce qu’il est aussi nécessaire de construire « une science féministe » (Haraway et al., 2007, p. 69). Cette pensée s’inscrit dans une tradition matérialiste qui démontre que les inégalités sont le produit des systèmes entre autres capitalistes, hétéropatriarcaux et colonialistes qui — du fait de leur principe de fonctionnement même — exploitent et oppressent les groupes qu’ils contribuent à minoriser. Or, si ces personnes ne peuvent se retrouver sous une catégorie universelle et homogène au vu de la multiplicité de leurs expériences, elles peuvent toutefois se retrouver dans l’expérimentation d’une « conscience oppositionnelle » (Sandoval, 1991) qui prend appui sur une « nouvelle identité » qui « délimite un espace délibérément construit où pouvoir agir ne dépend d’aucune identification “naturelle”, mais d’un désir de coalition, d’affinité, ou de parenté politique » (Haraway et al., 2007, p. 40). Cette perspective rejoint les propositions d’autrices comme Angela Davis (2022) ou Patricia Hill Collins (2017) qui, tout en proposant de rendre compte de la multidimensionnalité des systèmes d’exploitation et d’oppression, proposent une approche collective des sujets de l’émancipation. La pensée harawayenne constitue aussi une politique féministe du positionnement (Bracke, Bellacasa et Clair, 2013), qui permet d’analyser comment les technosciences5 ont été « pensées pour » et continuent de relever d’une vision capitaliste andro-, ethno- et hétéro-centrée, qui produit une invalidation de certains savoirs. Dans ses travaux, Donna Haraway cherche notamment à montrer que l’objectivité sous couvert de neutralité n’est qu’une illusion, elle n’est que le résultat de perspectives (in)validées.

  • 6 Dans le sens premier du terme « écologie » et tel qu’il peut être mobilisé dans les travaux de Donn (...)

6À partir de ces cadres théoriques, la technique et les rapports sociaux de sexe, de race et de classe peuvent être pensés dans leur relation mutuelle, ce qui réinstaure, comme le souligne Josiane Jouët, « la culture matérielle des TIC » (2003, p. 58), mais aussi une lecture des technologies de l’information et de la communication (TIC) en tant « [qu’]objets de consommation et outils symboliques » (id.) et non plus comme des artéfacts vides. Ce cadre favorise une appréhension des rapports sociaux imbriqués dans la technique dite intelligente, non seulement à travers les expériences et parcours microsociologiques des personnes, mais aussi dans les enjeux et les nœuds des systèmes à des niveaux méso- et macro-sociologiques (Jackson et Armengaud, 2009). L’IA y est analysée dans sa matérialité, par une approche située et ancrée dans l’écologie6 des pratiques (Crawford, op. cit. ; Haraway et García, 2020). Par celle-ci, il s’agit d’analyser la manière dont l’IA participe à l’intégration, à la production, voire à la rationalisation ou à la justification des oppressions.

Comprendre les effets de l’intelligence artificielle sur l’actualisation des rapports sociaux

  • 7 Traduit de l’anglais : « Algorithmic Oppression » (Noble, op. cit.).
  • 8 Expression dont il est fait usage dans la littérature sur le sujet, dans les discours de gouvernanc (...)

7Pour analyser ces phénomènes, nous nous appuyons sur l’expression « oppression algorithmique7 » de Safiya Umoja Noble (2018). Le choix de faire usage de ce concept, plutôt que de l’expression « biais de l’IA8 », n’est pas anodin. Il sert à rappeler que les rapports sociaux, la domination et l’oppression sont systémiques, qu’ils sont le produit incessant d’institutions et se jouent à des niveaux aussi bien micro-, méso- que macrosociologiques. Ils supposent des solutions politiques qui engagent la responsabilité de tous·tes et ne peuvent être ramenés à des solutions technologiques ou numériques à des niveaux seulement individuels (Hampton, 2021). Dès lors, l’expression « oppression algorithmique » sert à mettre en visibilité et à dénoncer toutes formes d’oppressions produites par la technique dite intelligente. Elle s’agence en trois axes qui supposent :

    • 9 L’expression « male gaze » a été proposée par Laura Mulvey (1999). Elle sert à analyser la manière (...)

    que les oppressions algorithmiques sont observables dans la manière dont les systèmes d’IA sont pensés, parce qu’à la conception, les conséquences sur les personnes qui subissent des injustices et de l’oppression ne sont pas prises en compte par celles et ceux qui produisent ces systèmes, notamment parce qu’il existe dans les technosciences un « white male gaze9 » (Lauretis, 2007 ; Noble, op. cit.) qui construit les personnes des groupes minorisés comme objet plutôt que comme sujet (Guillaumin, op. cit.) ;

  • qu’elles apparaissent dans l’invisibilisation et l’invalidation récurrente de ces mêmes personnes, de leurs pratiques, de leurs savoirs et de leur parcours par ces technologies (Noble, op. cit.) ;

  • que l’IA s’inscrit dans un système capitaliste, au sein d’enjeux économiques, et participe à des formes d’exploitation des groupes minorisés (Crawford, op. cit. ; Hampton, op. cit.).

8Concrètement, ces phénomènes se traduisent, depuis quelques années, à travers divers scandales sur l’IA qui démontrent une actualisation des rapports sociaux de sexe, de race et de classe :

  • que ce soit par des IA qui participent au racisme en calculant des risques de récidive plus élevés pour des détenus racisés, comme c’est le cas avec l’IA COMPAS aux États-Unis (Larson et al., 2016) ;

  • que ces techniques actualisent le sexisme avec des algorithmes d’aide au recrutement qui considèrent que les profils masculins sont les plus « qualifiés » (Hamilton, 2018) ;

  • ou encore à l’intersection de ces discriminations avec des reconnaissances faciales qui ne « détectent » pas les femmes racisées (Buolamwini et Gebru, 2018).

9En cela, l’IA participe aux idéologies et fait système. Ses conséquences peuvent être violentes, dans la mesure où elle peut contribuer à renforcer les fonctionnements hégémoniques déjà à l’œuvre dans le monde social tels que les fonctionnements sexistes, racistes, hétéronormatifs et validistes. À la suite de la prise de conscience de ce risque inégalitaire, de plus en plus d’organisations appellent de leurs vœux une gouvernance éthique de l’IA visant à désamorcer les inégalités qui découlent de ces fonctionnements sociaux profondément intériorisés. Dans ce contexte, l’entreprise Orange s’est engagée à faire sien le souci de ne pas reconduire les inégalités. Après une présentation de notre terrain et de notre méthodologie, nous verrons comment cela se traduit en termes de dispositifs documentaires et de discours autour des enjeux de « l’IA éthique et inclusive ».

PRÉSENTATION DU TERRAIN ET DE LA MÉTHODE : ENQUÊTER SUR LE RÉSEAU QUI COMPOSE L’INTELLIGENCE ARTIFICIELLE

10Cette recherche a été réalisée sous convention industrielle de formation par la recherche (CIFRE) au sein de l’entreprise des télécommunications Orange. La division de la Diversité et Inclusion du Groupe (D&I) a constitué le département d’accueil de cette recherche, d’octobre 2019 jusqu’à octobre 2022. Cette équipe était chapeautée par le département Responsabilité sociétale d’Orange Groupe (RS), qui organise et gère toutes les activités liées à la RSE. La D&I, qui représente une partie du terrain de cette recherche, a la charge du déploiement des politiques et des processus en matière de non-discrimination et d’inclusion. Elle se divise en trois pôles :

  • l’égalité professionnelle femmes-hommes ;

  • l’égalité des chances (diversité, handicap, LGBTQ+) ;

  • l’égalité numérique.

11En partant de cette expérience du terrain, nous nous sommes appuyée sur un socle théorique interdisciplinaire alliant SL et SIC, croisant plus particulièrement une analyse du discours contre-hégémonique (Paveau, 2023) et une analyse communicationnelle des controverses (Laborde, Carayol et Cousserand-Blin, 2022). Nous interrogions, à l’aune de la mondialisation, comment Orange s’inscrit dans un écosystème qui définit une gouvernance de l’IA et les manières dont les définitions proposées dans ces discours de gouvernance portent et véhiculent des représentations de la technique, mais aussi des conceptions de la justice sociale et des modalités de gestion des inégalités. Dès lors, notre méthode articulait trois niveaux d’analyse et nous appréhendions un réseau de relations qui lient :

  • un niveau macrosociologique, dans lequel il s’agit d’appréhender à l’échelle du globe les techniques dites intelligentes déployées, leurs effets sur les rapports sociaux ainsi que les modalités de gouvernance de cette technique et leurs effets en matière de justice sociale ;

  • un niveau mésosociologique, à partir du terrain d’enquête situé, qui est constitué des partenaires de recherche de la D&I, de la RSE d’Orange Groupe et de son écosystème direct, par exemple les associations externes avec qui l’entreprise est partenaire. Il s’agit de concentrer le regard sur l’organisation comme « partie dans le tout » (Morin, 2014, p. 101) et d’interroger ce que l’organisation structure et ce qui vient la structurer ;

  • un niveau microsociologique, à partir des récits de vie, des expériences et pratiques des personnes, à partir de ce que les partenaires de recherche et les enquêté·e·s livrent de leur subjectivité. Il est question de rendre compte des manières dont les personnes sont agies et agissent en relation avec les deux niveaux qui précèdent.

12Ces éléments sont conçus de manière non hiérarchique, c’est-à-dire comme imbriqués les uns dans les autres et les uns par rapport aux autres. Il est alors question de reconstituer cette écologie (Paveau, 2018), cet écosystème composé par les humains et les non-humains (Akrich, op. cit. ; Haraway et al., 2007). Cette méthode induit aussi que les personnes dans l’environnement sont entendues comme issues d’un processus de socialisation ancré dans la société et qu’elles sont situées dans un contexte (Jackson et Armengaud, op. cit. ; Ouabdelmoumen, 2014). Pour rendre compte de cette imbrication et de cette coproduction entre les divers niveaux, nous avons mobilisé des outils et recueilli des données issues d’une multitude d’espaces, que nous avons perçus tout au long de cette recherche comme liés entre eux. La méthode est ainsi une manière de venir analyser les interactions, les jeux d’influence dans et sur Orange Groupe et à l’extérieur de celui-ci, comme autant de relations qui dialoguent au sein d’un même écosystème et que nous résumons dans le tableau suivant.

Tableau 1. Méthode

Microsociologique

Mésosociologique

Macrosociologique

Quoi ?
Ce qui est analysé

Les pratiques, leur sens et les expériences

Les dispositifs et modalités d’organisation de l’entreprise Orange

Les controverses et définitions autour d’une gouvernance de l’IA dite éthique et juste

Comment ?
Méthodes et outils

Entretiens compréhensifs analysés au moyen d’une analyse de contenu thématique

Entretiens exploratoires avec des membres de la D&I

Analyse du discours contre-hégémonique produite à partir d’une analyse sémantique de formules et une analyse lexicométrique via Iramuteq

Ethnographie par observation participante et recueil des documents de l’organisation

Cartographie des controverses

Qui ? Où ?
Lieux et enquêté·e·s

Des employé·e·s d’Orange

Orange Groupe

Un corpus de 133 recommandations sur la gouvernance de l’IA produites à des échelles nationales et supranationales, par des organisations hétérogènes (privées, ONG, gouvernements, etc.)

Des dirigeant·e·s d’associations/ONG partenaires d’Orange

Des organisations productrices de chartes pour et/ou avec Orange

13Dans cet article, nous introduirons notre propos en présentant quelques analyses issues de l’AD contre-hégémonique ; toutefois, notre propos se concentrera sur l’appréhension des niveaux méso- et microsociologique. Il sera question de comprendre non seulement la façon dont, à l’échelle de l’organisation, une gouvernance dite éthique et inclusive de l’IA est structurée, mais aussi les modalités par lesquelles elle est négociée, acceptée, voire rejetée, ainsi que les effets que cela a sur l’actualisation des rapports sociaux et la définition d’une justice sociale.

OBSERVER DES PROCESSUS DE MISE EN PLACE D’UNE GOUVERNANCE DE L’INTELLIGENCE ARTIFICIELLE DITE ÉTHIQUE DANS UNE ENTREPRISE : ENTRE STRUCTURATION ET MISE EN RÉCIT

14Les organisations produisent des dispositifs de droit souple (soft law) comme des recommandations, des chartes ou des lignes directrices qui laissent entrevoir des formes de négociations, de controverses sur la mise en place d’une gouvernance éthique de l’IA entre des instances qui finalement défendent des enjeux hétérogènes (Deibert et Crete-Nishihata, 2012 ; Jobin, Ienca et Vayena, 2019 ; Marques, 2022a). Ces recommandations définissent ce qu’est l’« IA éthique » et font circuler des représentations sur les capacités de cette technique, qui vont susciter adhésion ou rejet, ce qui a par exemple été le cas au sein d’Orange avec trois dispositifs d’autorégulation de l’IA proposés par des organisations partenaires, à savoir le Laboratoire de l’Égalité, le Cercle InterElles ou encore la Fondation Arborus (Marques, 2022b). Derrière les définitions proposées dans ces instruments se cachent « des décisions politiques sur des modes de vie du futur » (Berleur et Poullet, 2002, p. 466). La cartographie des recommandations de bonnes pratiques en matière de « gouvernance éthique de l’IA » témoigne d’une recrudescence de ces instruments à partir de 2017 ainsi que d’une concentration de leur production dans les pays du nord global, tandis que les pays des continents africain et sud-américain ne sont que peu représentés, si ce n’est par des instances supranationales, comme l’ONU ou l’UNESCO (Jobin et al., op. cit. ; Marques, 2022a). Ces recommandations sont produites en majorité par des instances d’autorité publique nationale, internationale ou supranationale, et principalement par le secteur des entreprises privées. Les principes de l’« IA éthique » qu’elles énoncent peuvent être regroupés en 11 grandes catégories : (1) la justice et l’équité, (2) la non-malfaisance, (3) le respect de la vie privée, (4) la responsabilité, (5) la liberté, (6) la transparence, (7) la bienfaisance, (8) la confiance, (9) la durabilité, (10) la dignité et enfin (11) la solidarité (Jobin et al., op. cit.).

15Notre enquête ethnographique nous a permis d’observer qu’en ce qui concerne la production de ces recommandations, l’entreprise Orange n’est pas restée en retrait, mais a bien produit ses propres recommandations ou a tenté d’influencer le contenu de celles qui sont produites par d’autres organisations.

Produire un récit sur l’IA, structurer son activité

16En interne, nous avons observé entre octobre 2019 et octobre 2022 le développement d’instruments de gestion, par exemple dans un premier temps l’élaboration des « livres blancs » pour définir l’« IA éthique », puis dans un second temps la mise en place d’un conseil de l’IA et de la data ainsi que diverses tentatives de réaménagements de la charte Orange de l’IA et de la data. Avec ces instruments initiaux, l’entreprise met en sens et cadre ses propres valeurs en matière d’IA et d’éthique. Par là, Orange produit un récit qui structure son activité en interne ainsi que les pratiques de ses équipes technoscientifiques et en même temps, par cette communication, l’organisation cherche à produire une image de marque et une marque employeur favorable en externe, illustré par exemple dans la communication qui suit dans laquelle il est fait mention de spécificités de l’entreprise :

  • 10 Orange (2020), « Pour une intelligence artificielle et un usage des données responsables », https:/ (...)

Pour servir l’individu, l’économie et la société en général, et en résonance avec notre raison d’être, nous revendiquons une vision particulière de l’intelligence artificielle au service de tous, qui se traduit concrètement dans nos engagements, dans nos programmes de formation et dans notre innovation10.

17Dès lors, les instruments, sous forme de recommandations, de chartes et de notes de politique, pour une gouvernance éthique de l’IA s’inscrivent dans des pratiques de gestions, voire d’anticipation de crises futures, dont l’objectif est de pallier le potentiel rejet des activités de l’entreprise de la part de ses parties prenantes au premier rang desquelles sa clientèle et son personnel. Dans la suite de cet article, nous présenterons entre autres comment ce storytelling autour d’une technique dite intelligente corrélée à l’éthique et au service d’un « bien commun » s’inscrit dans un continuum au croisement de l’éthique d’entreprise (Russ et Leguil, 2012), de la RSE (Bory et Lochard, 2009) et d’un féminisme libéral (Fraser, 2011). Ces communications organisationnelles produisent des techno-imaginaires qui mettent en récit, en scène et en sens l’IA et son déploiement (Musso, 2020 ; Sadin, 2018). Avec ces instruments, il s’agit pour l’entreprise de répondre à un « questionnement éthique [qui] vient […] se loger dans cet écart entre le possible et le désirable » (Russ et Leguil, op. cit., p. 5). Cette pratique promeut l’entreprise en tant qu’actrice politique dans le monde social et l’invite à définir et à communiquer sur une stratégie vis-à-vis de sa technique dite intelligente, qu’elle définit par elle-même et pour elle-même (Cardot, 2006).

Une éthique de l’IA par et pour l’organisation : enjeux et limites

18Chez Orange, les dispositifs développés et les pratiques attenantes ont souvent fait l’objet de concertation entre des équipes issues de la recherche technoscientifique, des équipes de la RSE et de la D&I ainsi que (bien que plus rarement) des équipes dites opérationnelles, soit celles qui développent et/ou déploient des solutions techniques. Ils constituent les résultats de négociation, de définition et de normalisation de l’IA et des algorithmes à la fois au sein de l’entreprise et en externe, puisqu’Orange se sert de ces instruments pour témoigner de démarches dites vertueuses au sein de divers réseaux et groupes de réflexion à l’échelle nationale française, mais aussi à l’échelle internationale, en participant par exemple au High-level expert group on artificial intelligence de la Commission européenne. Dans ce contexte, les dispositifs de gouvernance de l’« IA éthique » développés par les entreprises servent aussi à démontrer une capacité à l’autogestion, à l’autogouvernance (Foucault, op. cit.). En complément, la participation aux travaux d’autres organisations vise à produire des instruments de soft law en co-construction, voire dans certains cas d’influencer la hard law (Deibert et Crete-Nishihata, op. cit.), ce que souligne la communication qui suit :

  • 11 Orange (2020), « Pour une intelligence artificielle et un usage des données responsables », https:/ (...)

Orange est partie prenante du groupe d’experts indépendants de haut niveau au sein des instances européennes et participe à divers projets de recherche pour contribuer à définir des exigences clés auxquelles doivent répondre les systèmes à base d’IA : le contrôle humain, la robustesse, le respect de la vie privée, la transparence, la non-discrimination, le bien-être sociétal et environnemental, et le principe de responsabilité11.

19On observe, dans ce contexte, un « jeu » d’influence entre des organisations qui s’inspirent les unes les autres, ce qui peut produire, par le partage de ce qui est qualifié de « bonnes pratiques » par les organisations, un « isomorphisme aveuglé » (Metcalf, Moss et Boyd, 2019). La conséquence de ce phénomène est que les entreprises ne perçoivent plus certaines incidences de leurs technologies, dont elles n’interrogent plus les postulats ni l’existence, pas plus que les insuffisances éventuelles de leurs propres instruments de gestion, ce qui donne lieu à des « angles morts », où s’insinuent subrepticement des oppressions algorithmiques. Ces pratiques peuvent s’inscrire dans des formes de lobbyisme. Avec des entreprises qui s’engagent dans des processus de régulation des techniques dites intelligentes, voire dans des travaux de réglementation, tels que les travaux européens sur la directive de l’IA (AI Act), auxquels Orange a participé, avec d’autres entreprises. Un cadre technoscientifique d’Orange souligne par exemple en entretien :

  • 12 Extrait d’entretien auprès d’un technoscientifique d’Orange, 2021.

Je fais partie d’un groupe de gens à Orange où on travaille justement là-dessus sur (rires). C’est plus ou moins du lobbying d’ailleurs (rires). Comment ça s’appelle ? […] Artificial Intelligence Act […]. C’est un projet de loi européenne en fait […], qui vise à réguler l’intelligence artificielle. […] Évidemment, Orange aimerait bien éviter d’avoir des activités qui soient totalement interdites ou problématiques, mais bon ça c’est une autre histoire […]. N’aime pas trop qu’on lui balance de la régulation ou des papiers mais bon, c’est le jeu12.

  • 13 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.
  • 14 « Les logiques de marché façonnent profondément le discours autour de l’éthique dans la Silicon Val (...)
  • 15 « Lorsque les entreprises technologiques commencent à envisager des procédures pour rendre l’éthiqu (...)
  • 16 L’ethic shopping est une expression utilisée pour analyser comment la soft law n’est pas suffisamme (...)
  • 17 Extrait d’entretien auprès d’un partenaire associatif d’Orange Groupe, 2020.
  • 18 Ibid.

20On observe ici un dilemme entre enjeux éthiques et objectifs économiques (Metcalf et al., op. cit.), dilemme qui est le plus souvent dépassé par le conditionnement de l’éthique à l’économique. C’est notamment ce que souligne une autre enquêtée d’Orange en disant : « Parce que l’enjeu premier de l’entreprise, c’est de faire du business donc comment arriver à valoriser l’éthique pour prouver que ça a un intérêt13. » Ce paradigme décrit par l’enquêtée rejoint celui de l’éthique utilitariste telle qu’elle a pu être décrite par des penseurs comme J. Bentham (1781) ou J. S. Mill (1863) (Kymlicka et Saint-Upéry, 2003), qui s’appuie sur l’accumulation ou la maximalisation du bien — entendu comme profit — comme principe directeur de l’éthique. Dans cette conception, l’éthique est définie par l’utilité que procure une action et c’est l’intérêt qui guide les principes (Cardot, op. cit.). L’IA et son éthique, ainsi mises en sens, sont intégrées à une idéologie qui justifie l’existence du capitalisme, comme moyen d’assurer un « bien commun » au plus grand nombre (Boltanski et Chiapello, 2011), ce qui rejoint les analyses de Metcalf, Moss et Boyd qui indiquent que « [m]arket logics profoundly shape the discourse around ethics in Silicon Valley and beyond […]. Ethics owners sometimes give voice to a cynical feeling that “market success trumps ethics”14 » (op. cit., p. 464). Sans compter que, comme le montrent les extraits d’entretiens ci-dessus, l’éthique de l’IA, lorsqu’elle vient à être définie par et pour l’entreprise, peut être influencée par un ensemble de facteurs — les enquêté·e·s font mention de l’enjeu économique. Or, pour les trois chercheur·euse·s de l’article « Owning Ethics » (2019), ce phénomène suppose que « [a]s tech companies start to envision procedures to operationalize ethics, they do so according to their own internal logics15 » (Metcalf et al., op. cit., p. 467), ce qui pour Wagner peut mener à des pratiques d’ethic shopping ou d’ethic washing16 (2018). Constat qui a pu être fait par des partenaires associatifs d’Orange, qui soulignent une valeur « incantatoire17 » de l’éthique ou de la RSE lorsqu’elle est appliquée à l’IA, ce qui, pour un dirigeant d’association interrogé, se rapporte à un « business model18 ».

21La production de chartes et de recommandations en interne est par ailleurs envisagée comme une modalité d’influence tant de l’ordre social que des pratiques des acteurs en interne comme en externe. En ce sens, avec les politiques de RSE, « l’extériorisation symbolique des organisations au sein de la société est en marche » (Loneux, 2015, p. 122). Cette extériorisation par des dispositifs de gouvernance a une valeur structurante pour l’entreprise (Faure et Arnaud, 2014) qui, à travers cette pratique consensuelle, produit des normes techniques en interne et en externe, mais aussi aux yeux des salarié·e·s qui participent à la production de ces instruments (Loneux, op. cit.). Il s’agit pour les entreprises de produire des dispositifs de soft law qui témoignent de leur « bonne volonté », sans pour autant les contraindre. Dans ce contexte, la rhétorique de recommandation des entreprises a tendance à présenter « les Soft Laws […] comme étant plus adaptées au fonctionnement “réel” du monde des affaires que ne le seraient les Hard Laws » (Loneux, 2012, p. 87). Les recommandations de RSE ont une valeur d’abord communicationnelle et cherchent à instaurer une confiance à l’égard des pratiques et des principes de l’entreprise (Bory et Lochard, op. cit.), qu’on retrouve aussi en matière d’IA.

Représenter l’IA et ses possibles : entre engagement et positivisme technique

  • 19 Orange est contrainte au devoir de vigilance, ce qui l’oblige à produire un rapport extra-financier (...)

22En complément, notons que la gouvernance de l’« IA éthique » repose sur un techno-imaginaire (Musso, 2020) issu d’un positivisme de la technique, selon lequel l’IA serait à même d’apporter le plus grand bien ou le plus « d’utilité » au plus grand nombre, ce qui justifie son usage massif. Paradigme que l’on trouve dans diverses communications organisationnelles d’Orange, notamment dans le Rapport annuel intégré de 202119, dans lequel il est explicité qu’« Orange a fait le choix de promouvoir un projet de société : la technologie au service du progrès humain » (p. 24). Il s’agit d’une reprise des récits de la « modernité » dans lesquels on trouve une rhétorique qui corrèle « progrès » et « perspective d’évolution de l’humain » (Ellul, 1990 ; Musso, 2020 ; Sadin, op. cit.). Cette mise en discours des techniques s’appuie sur la prémisse des bienfaits des technologies et suppose que leur globalisation est nécessaire pour assurer une « évolution » de l’ensemble de l’humanité (Mignolo, 2003 ; Quijano, 2000). En parallèle, cette actualisation du positivisme de la technique peut se traduire par une naturalisation du caractère neutre de l’IA, phénomène qui a pu s’exprimer dans les entretiens auprès des technoscientifiques d’Orange à travers une opposition entre, d’un côté, des données qui seraient représentatives des sociétés et de leurs dérives et, de l’autre, une IA qui ne serait qu’un « vase vide », porteur de ces données. Elle est exacerbée par l’usage de l’adverbe « naturellement », en référence aux données, qui amoindrit la technicité de ces dernières. Dans l’entretien suivant, cette opposition ressort particulièrement :

Enquêtée : Et donc c’est très important que quand on va lui présenter des données, que ces données soient représentatives et ne soient pas discriminantes, ce qui n’est pas forcément la réalité. C’est-à-dire que dans la réalité en fait, on a des données qui sont biaisées naturellement […]. Il faut qu’on travaille pour que l’intelligence artificielle, elle arrive et elle réussisse en fait à dépasser les biais et qu’elle ne soit pas biaisée sur les données. […] Par exemple, une intelligence artificielle pour classer ; ça c’était une expérience réelle, qui a été faite aux États-Unis. On a essayé de prendre une intelligence artificielle, de l’entraîner pour détecter des profils de personnes susceptibles de commettre des [/]. Pas des crimes, mais des ?

Enquêtrice : Des infractions ?

  • 20 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Enquêtée : Voilà […]. On a entraîné cette intelligence artificielle sur des données, qui ont été collectées dans les bureaux de police, etc., et cette intelligence artificielle elle a été très discriminante, par rapport à la couleur de peau […]. Et donc c’était vraiment très biaisé et ça c’était parce que les données sur lesquelles on a entraîné l’intelligence artificielle, c’était des données qui ont un biais naturel et donc ce qu’il faut f[\]. L’une des solutions, en tout cas l’une des questions, c’est qu’il faut travailler pour que les modèles réussissent à dépasser ce biais et à enlever ce biais-là de leur modèle de prédiction, de classification ou de leur intelligence artificielle plus globalement20.

  • 21 Extrait d’entretien auprès d’un technoscientifique d’Orange, 2021.

23Ainsi, dans cet extrait, la technologie qui a été développée n’est pas analysée comme à risque, alors que l’exemple fourni consiste à prédire des infractions qui n’ont pas encore été réalisées (Larson et al., op. cit.). En ce sens, il est possible de se demander si le recours à ce type de technologies est souhaitable, si celles-ci peuvent offrir une justice pour tous·tes, quelles que soient les données sur lesquelles elles sont entraînées (Hampton, op. cit.). De plus, cette opposition induit qu’il y aurait, d’un côté, une société injuste représentée par les données et, de l’autre, une IA qui aurait la potentialité d’être neutre dû à son caractère mathématique. À titre d’exemple, il est aussi arrivé que l’opposition entre IA et société passe par une naturalisation de l’objectivité de l’IA posée en opposition à une essentialisation du genre. Lors d’un entretien, il a notamment été exprimé que « la nature du modèle mathématique elle est asexuée. La nature des algorithmes d’apprentissage là aussi est totalement asexuée. Ce sont des algorithmes qui sont complètement neutres21 ». Ce type de sophisme suppose la réaffirmation d’une nature biologique du genre (Guillaumin, op. cit.), par opposition à une machine qui serait en dehors de telles considérations « biologiques », ce qui induirait sa neutralité et réaffirmerait par la même occasion une dichotomie entre nature et culture. Dans ce registre qui oppose technique et société, il y a un phénomène de naturalisation de l’objectivité de l’IA. L’IA devient spectrale, désincarnée (Crawford, op. cit.). Cette rhétorique produit une négation des caractères intrinsèquement idéologique et politique de l’IA, qui se transpose par un solutionnisme numérique, dans lequel l’IA est perçue comme un outil avec des potentialités, presque « magique » (Latour, 2010). L’IA permettrait alors de dépasser les inégalités, en concevant une société neutre.

24L’éthique attribue une « raison d’être » à l’IA, qui justifie que la technologie soit chargée du bien commun en raison de son caractère mathématique. L’éthique de l’IA en tant qu’elle narre un service rendu à l’intérêt général favorise l’acceptation par la société civile et les institutions, ainsi qu’un engagement sans réserve de tous·tes dans leur développement, et en cela elle s’inscrit dans l’esprit du capitalisme (Boltanski et Chiapello, op. cit.). Ces idéologies s’inscrivent jusque dans les modèles de justice sociale proposés en contexte d’IA, que nous étudions à présent.

ANALYSER LES MODÈLES DE JUSTICE SOCIALE SOUS-JACENTS AU SPECTRE DES TECHNIQUES DITES INTELLIGENTES

Une définition du principe de « justice et équité » issue de la RSE

  • 22 La notion d’empowerment désigne ici des modèles qui conçoivent « l’agir » dans des perspectives ind (...)

25Au sein d’Orange notamment, les modèles de justice sociale en contexte d’IA sont imbriqués dans les discours et les pratiques de la RSE, qui narrent un engagement de l’entreprise en la matière (Catellani, 2011). L’IA et les algorithmes y sont décrits comme des vecteurs d’empowerment22 au service des individus, de même que comme des outils au service d’un « bien commun ». On observe dès lors un renouvellement du « business case » de la RSE appliqué à l’IA. Il suppose que « “Good Ethics = Good Business” » (Labelle et Aka, 2010, p. 70). Cette rhétorique est appliquée à l’IA juste, dans la perspective où il s’agit de signifier que le développement de l’IA pour le « bien commun » représente des avantages économiques pour l’entreprise, assure du profit, et vice versa. En ce sens, les modalités d’émancipation et d’agir sont pensées au sein du capitalisme (Arruzza et al., 2019). Et il peut parfois être difficile d’imaginer d’autres vocables, d’autres outils et d’autres perspectives que ceux de la « vision apaisée » proposée par les discours gestionnaires de la RSE appliqués à l’IA, qui supposent une « grammaire empreinte de positivité » (Vandevelde-Rougale, 2022, p. 20), et cela est susceptible de limiter le champ des possibles (Vergès, op. cit.). De fait, au sein des systèmes de domination, narrer une IA au service de l’humanité, vecteur d’empowerment, supposant l’égalité des chances (Dubet, 2010) et une justice pour tous·tes constitue dès lors une nouvelle « romance capitaliste » (Fraser, 2011) de la mise en sens de la technique. Les imaginaires qui relèvent du solutionnisme numérique (Musso, 2020) en sont une illustration. Dans ce mythe qui constitue l’IA, la technique permettrait de dépasser les injustices, ce que l’on trouve dans les communications de l’organisation considérée ici, comme l’exemple qui suit :

  • 23 Orange, « Données et intelligence artificielle. Nouvelles perspectives pour les clients et pour la (...)

L’IA est aussi un facteur d’égalité numérique. La richesse et la pertinence des analyses et des solutions produites par l’IA peuvent contribuer positivement à développer l’intelligence collective et la diversité. Il s’agit de favoriser notre capacité à échanger, interagir, offrir des avis variés, respecter les diversités, tout en multipliant les sources d’informations ou de connaissance23.

  • 24 Extrait d’entretien auprès d’un cadre d’Orange, 2021.
  • 25 Traduit de l’anglais : « ethicization » (Puig de la Bellacasa, op. cit.).

26On le retrouve aussi dans les représentations de certaines personnes enquêtées, comme l’extrait qui suit dans lequel l’IA « juste » est rapportée à l’image du « Graal » : « Le Graal si tu veux ; c’est de réussir à faire une IA qui soit moins discriminante que la société24. » Les voix dissidentes peuvent avoir du mal à sortir de ce prisme, bien que certaines personnes enquêtées, particulièrement celles des organisations partenaires d’Orange, mentionnent se sentir prises au piège de cette rhétorique ou peuvent se montrer critiques vis-à-vis de cette dernière. Par exemple, certaines personnes voient dans le mouvement AI for good et dans l’imaginaire solutionniste un effacement du politique. Ce constat rejoint des analyses comme celle de Vergès, qui souligne que le discours dépolitisant des ONG peut empêcher de penser l’émancipation (op. cit.). Il a d’ailleurs pu être démontré par Verma et Rubin (2018) que les modèles de justice sociale, dans les recommandations en matière d’IA, sont réduits à des critères objectivables, avec des définitions du principe de « justice et équité » qui n’ont de cesse de se multiplier au travers ces mêmes recommandations — jusqu’à 21 définitions pour ce principe. Par ailleurs, dans l’analyse des discours de gouvernance de l’IA, nous avons pu constater que ce principe renvoie constamment à des définitions techniques du juste qui s’appliquent à l’IA (Marques, 2022a). En ce sens, le recours constant à l’éthique peut être rapporté à une éthicisation25 du monde social et de ses pratiques. Le renvoi constant à l’éthique devient un moyen d’effacer le politique et le conflictuel des enjeux et problématiques du monde social et par affiliation de la technique. Le « tout éthique » (Puig de la Bellacasa, 2010) a vocation à créer du consensus et peut rendre plus complexe une perspective critique.

Des terminologies et des définitions en débat

27Pourtant, les débats autour des terminologies qui devraient être adoptées pour parler d’une IA qui prend en compte un modèle de justice sociale témoignent non seulement des enjeux autour de l’activité professionnelle, mais aussi des enjeux politiques inhérents à une définition de ce modèle. Ainsi si, au sein de l’entreprise, l’expression « IA inclusive » a été adoptée en référence aux travaux sur la diversité et l’inclusion, l’expression ne fait pas l’unanimité. Par exemple, pour les personnes qui travaillent sur l’éthique de l’IA, comme l’enquêtée citée ci-dessous, « l’inclusion » n’a pas de rapport avec la non-discrimination, mais se réfère à une manière de concevoir la technologie, qui prend en considération et « inclut » les utilisateur·rice·s finaux·ales :

  • 26 Extrait d’entretien auprès d’une cadre d’Orange, 2021.

Moi, je suis très gênée avec le mot « inclusion » tel qu’il a été utilisé par Orange dans la charte. Parce que la charte IA inclusive, en fait, elle visait les biais de genre, on va dire, bon, aller discrimination au sens large ; alors que pour moi « inclusion » ce n’est pas du tout ça. « Inclusion » […] c’est de se dire on prend en compte les utilisateurs finaux ou les personnes impliquées par le système dès le début de la conception, pour être bien sûr d’avoir pris en compte leur point de vue en fait26.

28De surcroît, différents extraits d’entretiens auprès de trois cadres exerçant des métiers à caractère technoscientifique dénotent un certain manque de clarté dans les termes utilisés pour parler d’IA et de justice sociale ainsi que dans la définition même de cette dernière expression. L’ensemble de ce flou conceptuel et définitionnel tend à rendre la mise en application des principes de « justice et équité » dans les pratiques complexe, subjective, voire aléatoire (Xiang et Raji, 2019). Les trois extraits d’entretiens suivants sont particulièrement illustratifs à cet égard :

  • 27 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

Qu’est-ce que ça veut dire éthique, équité et la définition n’est pas la même pour tout le monde […] et à partir du moment où la définition n’est pas la même pour tout le monde, tu seras dans un débat où des gens considéreront que c’est équilibré et d’autres non27.

  • 28 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

L’IA inclusive pour moi elle est reliée à la diversité des données que l’on va prendre en compte pour la développer et là encore c’est très lié à la nature des données, au contexte d’utilisation, au type d’IA. C’est à traiter au cas par cas, donc on a toujours cet enjeu d’avoir une diversité. Alors, le problème c’est qu’est-ce que la diversité ? Est-ce qu’elle doit être représentative d’une réalité ou est-ce qu’elle doit être représentative d’une cible à atteindre […] ? Est-ce que finalement on fait une IA qui est conforme à ce qu’on observe de la société ou est-ce que quelque part on fait une forme de discrimination positive28 ?

  • 29 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

L’IA inclusive, là aussi de quoi on parle ? Est-ce le fait que les développeurs de l’IA viennent d’horizons très différents ? Ou est-ce que c’est le fait que l’IA sache être équitable avec toutes les populations ? Ou est-ce que c’est le fait que l’IA puisse s’adresser à toute une population et touche tout le monde de la même manière29 ?

  • 30 Par exemple, le système COMPAS, mentionné précédemment, a continué d’être utilisé après que le syst (...)
  • 31 « Le concept d’équité n’a pas lieu d’être s’il refuse de reconnaître que les technologies, qui réve (...)

29Dans ces extraits, la question des modèles d’application du juste en fonction des finalités de l’IA est soulevée. Mais au-delà de ce sujet, les personnes enquêtées (s’)interrogent plus largement sur la finalité du modèle de justice sociale qui est à appliquer, avec des propositions qui oscillent entre la compensation des inégalités (Dubet, op. cit.) et des enjeux de reconnaissances et/ou de redistribution qui transparaissent (Fraser, 2004). De fait, et les entretiens le confirment, au-delà de se mettre d’accord sur le terme à utiliser et le modèle mathématique (Hampton, op. cit.), il s’agit de concevoir un projet de société. Or, les définitions et les applications d’une « IA inclusive » sont, pour le moment, confiées à un petit groupe, constitué par des « expert.es » (Costanza-Chock, 2018), dont la parole relèverait du prophétique (Musso, 2020), ce qui a pu être souligné par d’autres enquêté·e·s. De plus, dans les entretiens, l’enjeu politique peut être expulsé et l’IA est ramenée à son seul caractère technique. Ainsi les oppressions algorithmiques sont-elles réduites à des questions de critères objectivables et la charge du juste est portée par la technique dite intelligente. Par ce prisme, les modèles de justice s’inscrivent dans une programmatique technocratique (Latouche et Ellul, 2004), qui conçoit la justice sociale dans son application à l’IA et non dans un projet politique. La multiplication des définitions du principe de justice appliqué à l’IA évoquée précédemment, mais aussi illustrée dans les extraits d’entretien ci-dessus, témoigne finalement bien plus d’une absence de consensus et de pratiques claires en la matière que de l’élaboration d’un cadre strict et efficient (Hampton, op. cit. ; Jobin et al., op. cit. ; Tal et al., 2019). En cela, nous rejoignons l’analyse de Hampton qui estime inquiétant, voire dérangeant, de regarder des professionnel·le·s spécialistes de questions technoscientifiques se « quereller » sur l’équation la plus adéquate à appliquer pour tel ou tel système d’IA, tandis que ces IA continuent, au quotidien30, d’automatiser les oppressions sur les groupes minorisés. Elle note que « we need not have the concept of fairness at all if it refuses to acknowledge that technologies reverberating the sociohistorical subjugation of oppressed people are irredeemable. How can one be “fair” in an unjust society?31 » (2021, p. 5). En ce sens, une définition de la justice sociale qui relèverait uniquement des technosciences présente le risque de réduire la complexité du monde social à un modèle mathématique (O’Neil, 2018). Par ailleurs, cette impossibilité de déléguer les enjeux de justice sociale au système technicien et au langage expert s’observe dans les différents « dilemmes » auxquels les cadres technoscientifiques font face chez Orange. Souvent, ces dilemmes opposent performance et non-discrimination. Nous l’avons notamment relevé dans les entretiens suivants :

  • 32 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Et je vois les data scientist chez nous, je les interroge régulièrement sur ces sujets-là (soupir). Ils sont tous focalisés sur faire les meilleurs algorithmes pour l’instant, mais la question de l’équité elle s’est encore peu posée32.

  • 33 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Par exemple, si jamais on ne veut pas discriminer sur le sexe, mécaniquement, on fait en sorte qu’il soit impossible de prédire le sexe de nos données […]. Si jamais on fait ça, ça va, entre guillemets, supprimer ou atténuer toutes les données qui sont corrélées au sexe, mais en faisant ça, ça peut enlever des données qui sont aussi pertinentes pour le modèle […]. Il est moins performant et il faut essayer de trouver un compromis avec tout ça, mais ce ne sont pas encore des choses qui sont généralisées33.

30Or, dans des organisations structurées par des systèmes capitalistes, aux soubassements hégémoniques hétéropatriarcaux et (post)colonialistes, le danger est que la loi du marché prévale sur celle des principes de justice, car « les machines ont un appétit énorme. […] Les priorités de leurs maîtres façonneront toujours la manière dont cette vision est monétisée » (Crawford, op. cit., p. 145).

De l’insuffisance de la neutralisation de la variable protégée et de la représentation comme garantie de non-discrimination en contexte d’intelligence artificielle

31Nous notons un autre phénomène qui relève d’un prisme techniciste. Un argument semble, pour le moment, faire autorité dans les équipes technoscientifiques de l’entreprise : si le caractère « protégé par le droit » n’est pas pris en compte ou n’est pas renseigné dans les données, alors la technique serait juste. Cette supposition est pourtant fausse, comme le montrent les derniers travaux scientifiques sur le sujet (Ajunwa, 2016 ; Gonen et Goldberg, 2019 ; Tal et al., op. cit.). En effet, le fait qu’il y ait une neutralisation des caractéristiques protégées par le droit dans le cadre de la non-discrimination n’empêche pas pour autant les algorithmes et l’IA de faire des corrélations. Malgré la tentative de « neutralisation » de certains critères potentiellement discriminants, les rapports sociaux restent actualisés par la technique dite intelligente, dans la mesure où ils sont consubstantiels à l’état des sociétés par et pour lesquelles l’IA est conçue. En effet, les rapports sociaux organisent de manière simultanée et multidimensionnelle le monde social, au sein de diverses strates (Bilge, op. cit.), et cela transparaît dans l’IA. En ce sens, « neutraliser » une variable protégée ne signifie pas pour autant que les groupes et/ou les personnes minorisés ne seront pas discriminés (Ajunwa, op. cit.). C’est une croyance qui, pourtant, persiste parmi les professionnel·le·s spécialistes des questions technoscientifiques. Ainsi, en juin 2022, alors que nous participions à une réunion visant à recenser les pratiques en matière d’IA dans le domaine RH du Groupe Orange, une équipe de data scientist présentait un nouveau modèle, dont l’objectif était de prédire, en fonction des compétences et des trajectoires professionnelles, les possibilités de mobilité interne pour le personnel. Lorsque nous avons souligné les risques d’actualisation d’une division sexuelle du travail par ces techniques, les personnes responsables du projet ont affirmé qu’il ne pouvait pas y avoir de risque, puisque le genre n’était pas pris en compte par l’IA. L’argument est de « bonne foi », cependant il effectue le raccourci fréquent qui consiste à estimer que parce qu’une caractéristique protégée est neutralisée, alors l’outil reste forcément neutre et le système technique forcément juste, comme s’il était un arbitre neutre. L’une des personnes enquêtées a par ailleurs également souligné l’aporie d’un tel raisonnement :

  • 34 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Et derrière essayer d’enlever à la main un critère discriminatoire des données pour essayer d’influencer l’algorithme […]. Au final ce n’est pas si simple que ça. C’est vraiment compliqué, parce que par exemple si dans des données, je vais dire n’importe quoi, mais il y a le sexe, l’âge et la religion […] et qu’on veut faire un algorithme non discriminatoire, ce n’est pas suffisant de juste enlever le sexe, l’âge et la religion des données […]. Parce qu’en fait, en pratique, l’âge, le sexe et la religion, ça influence quand même beaucoup, donc ça fait que derrière il y a beaucoup d’autres données qu’on peut observer qui seront liées au sexe et à la religion. Où, en fait, à partir des autres données, on serait capables de prédire le sexe et la religion et l’âge […]. Tant qu’il y aura ces données reliées, les algorithmes auront toujours des comportements discriminants34.

32Sans compter que neutraliser une caractéristique protégée ou invisibiliser les rapports sociaux de classe, de sexe et de race ne constitue ni une prise en compte de ces derniers ni l’ouverture d’un espace de possible, entre autres de remise en cause de la façon dont on traite ces informations personnelles. Ainsi, plutôt que d’aborder les systèmes qui produisent du racisme, du sexisme et des oppressions, le prisme hégémonique est intégré aux systèmes dits intelligents. Or, ce prisme pourrait empêcher toute « conscientisation » (Freire, 1974 ; Mathieu, 2013), voire toute émancipation (Vergès, op. cit.), et finalement la structure qui génère les rapports de pouvoir n’est pas renversée. Pour tenir compte de ce phénomène, on peut notamment rejoindre les analyses intersectionnelles du droit et les critiques du principe « d’indifférence aux différences » (Sénac, 2019) qui montrent bien qu’« il est pas mal évident que traiter des choses différentes de la même façon peut engendrer autant d’inégalités que traiter de façon différente des choses identiques » (Crenshaw, 1997, cité dans Hill Collins, 2017, p. 66).

33Sans compter qu’au sein d’Orange et de son écosystème, la non-discrimination en contexte d’IA renvoie à la rhétorique du management de la diversité. La supposition étant que s’il y avait plus de « mixité » ou de « diversité » dans les équipes technoscientifiques, alors les IA ne seraient pas « biaisées ». Cette rhétorique a été développée entre autres au sein de la politique D&I Groupe qui conçoit la « mixité » et la « diversité » des métiers technoscientifiques comme un gage de qualité, de performance et d’innovation en matière d’IA et d’algorithmes, au sein d’un continuum en matière de politiques de diversité et d’inclusion (Bereni, 2009 ; Sénac, 2012), ce qui se retrouve dans les communications organisationnelles :

  • 35 Orange, « Données et intelligence artificielle. Nouvelles perspectives pour les clients et pour la (...)

S’appuyer notamment sur la mixité des équipes dans le domaine de l’IA est pour nous un enjeu important car c’est le seul garant d’une objectivité durable des programmes. Or nous constatons que depuis les années 80, la place des femmes dans le secteur des technologies de pointe n’a cessé de diminuer. Globalement elles restent sous-représentées dans les disciplines comme les mathématiques, l’informatique, les neurosciences… Pour nous permettre de limiter les biais de l’IA, au-delà du genre, c’est la diversité dans les équipes qui doit être le mot d’ordre afin d’assurer une représentation juste de la société35.

  • 36 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

34Dans cette communication, la représentation des personnes minorisées dans le secteur de l’IA est entendue comme productrice d’égalité et de justice. Ces discours s’enchevêtrent dans l’organisation, ils sont repris par les enquêté·e·s ainsi qu’en externe, ce qui témoigne d’un consensus sur ce paradigme : « Enfin, il faut absolument diversifier, parce que derrière ça fait des gens qui apportent des visions différentes, complémentaires et c’est ça qui permet d’éviter les biais36. » Pourtant, ce paradigme ne signifie pas que les oppressions vécues, voire subies sont conscientisées comme telles (Mathieu, op. cit.), encore moins qu’elles soient reconnues (Fraser, 2004). Certaines personnes enquêtées soulèvent l’aporie de cette argumentation, en soulignant que les oppressions algorithmiques ne peuvent être seulement laissées à la charge des personnes qui subissent des discriminations, mais qu’il s’agit d’une problématique collective :

  • 37 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Il ne faut pas que les personnes qui travaillent sur l’IA soient, en tout cas, de mon point de vue ; il ne faut pas qu’on soit femme ou issu de diversités pour pouvoir représenter ou faire une IA responsable. […] Il faut que ça soit une question qui concerne tout le monde et il ne faut pas que ça soit conditionné par la présence de ces profils-là pour garantir le développement d’une IA responsable37.

35Par ailleurs, il n’existe pas d’expérience, de personne ou de groupe qui puissent rendre compte de manière totale et globale, de l’ensemble des oppressions. En cela, la seule représentation comme modèle de justice sociale semble restrictive. Il ne s’agit pas de dire que la représentation des groupes minorisés n’est pas nécessaire, elle l’est ; cependant, elle nécessite d’être accompagnée d’une réflexion et d’une conscientisation des inégalités et des discriminations, d’une remise en cause des hiérarchies et des rapports de pouvoir, sans cela elle ne constitue pas une justice sociale pour tous·tes (Arruzza et al., op. cit. ; Fraser, 2004).

36Sans compter que les personnes minorisées ne peuvent constituer un « faire-valoir » du respect du principe de justice par l’IA, dans ce sens qu’il ne peut leur être demandé de porter à elles seules la responsabilité de la prise en compte de l’expérience de la domination et de ses formes d’actualisation.

  • 38 Nous distinguons ici le terme de « participation » de celui de « représentation » ; il est question (...)
  • 39 Les femmes dans les technosciences subissant une injonction à l’intégration au sein de la norme et (...)

37De fait, les définitions et principes au sein des instruments de l’« IA éthique » s’inspirent les uns et les autres et constituent un continuum dans les pratiques des entreprises en matière d’égalité professionnelle, de diversité et d’inclusion (Fraser, 2011 ; Sénac, op. cit.). En cela, ils s’ancrent dans un paradigme issu du féminisme libéral, voire de ce que Pochic qualifie de « féminisme de marché » (2018) qui pense l’égalité femmes-hommes au sein des systèmes de domination (Fraser, 2011 ; Vergès, op. cit.). Ce modèle véhicule une « nouvelle romance sur la promotion des femmes et la justice de genre […] [qui] alimente le moteur de l’accumulation capitaliste » (Fraser, 2011, p. 183). Par exemple, en ce qui concerne le genre, les conceptions y restent binaires et il s’agit de représenter les femmes au même titre que les hommes dans l’IA. Ces définitions conçoivent la représentation des personnes minorisées dans la constitution des systèmes sociotechniques comme l’une des modalités principales de la justice sociale en contexte d’IA. Pourtant, comme nous l’avons expliqué dans la contextualisation, la mise en visibilité d’un « white male gaze » (Noble, op. cit., p. 99) par l’IA montre que celui-ci empêche la prise en compte des expériences « autres » que celle d’une norme hégémonique. En ce sens, une participation38 des personnes minorisées pourrait les placer comme sujet plutôt que comme objet, en leur accordant un pouvoir d’agir sur/par la technique dite intelligente et leur garantir des moyens de se définir par elles-mêmes et pour elles-mêmes. Toutefois, cela nécessite que leurs expériences soient reconnues et non intégrées dans la norme du secteur technoscientifique39.

Penser des solutions de rechange : ouvrir le champ des possibles

38À ce titre, certain·e·s enquêté·e·s tentent de développer d’autres pratiques, qui semblent relever d’une prise en compte des points de vue situés et d’une confrontation avec ces points de vue. Même si iels ne sont pas en « mixité » ou en « diversité » au sein de leur équipe, iels tentent de partir du point de vue des personnes sur lesquelles les technologies qu’iels développent peuvent avoir une incidence concrète :

  • 40 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Parce que je ne viens pas avec ma vision de vieux mec blanc […] qui va imposer une technique. […] En fait, le problème souvent que tu vois dans le monde informatique, c’est que, et moi la première, on arrive avec nos idées de ce qui est censé être sécurisé, de ce qui est censé être un bon service, etc. […]. On se dit moi je livre ma technique ; l’outil est neutre ; donc, forcément ce n’est pas ma faute après s’il y a des problèmes […]. On essaie de faire autrement […]. Enfin, l’outil technique, il s’inscrit dans un contexte matériel et social qu’il est important de comprendre40.

  • 41 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

Enfin, il faut concevoir avec les gens qui vont utiliser, c’est hyper important. […] Parce que les représentations ne sont pas les mêmes, donc concevoir des applications avec les gens qui les utilisent c’est le plus important […]. Il faut prendre les points de vue de tout le monde41.

  • 42 En référence à Karine Gentelet et Sandrine Lambert (2021), « La justice sociale. l’angle mort de la (...)
  • 43 « En définitive, la science doit être faite par le peuple, pour le peuple » (traduction de l’autric (...)

39Ces approches de compréhension et de consultation des populations et de leurs besoins seraient un moyen d’éviter les « angles morts42 » de la justice sociale en contexte d’IA, en imaginant une gouvernance citoyenne ou civique de la technique dite intelligente, une gouvernance par et pour les groupes minorisés (Gentelet et Bahary-Dionne, 2021). Concevoir des technologies dites intelligentes en consultation avec les groupes et les personnes (non techniques) renvoie à des formes d’éthique relationnelle (Birhane et Cummins, 2019) et permettrait d’éviter la production de systèmes de domination. Cette pratique ouvre des perspectives en matière de justice sociale en contexte d’IA, puisque les personnes, plutôt que de se voir imposer des technologies qui les excluent ou les marginalisent, seraient en mesure de les refuser si elles ne sont pas acceptables. Elles pourraient participer et leurs expériences pourraient être reconnues par ces technologies, tout en obtenant les apports des techniques qui seraient aussi au service des minorisé·e·s. Certaines personnes diront qu’une telle conception relève de l’utopisme, pourtant, les deux derniers extraits d’entretiens montrent que de telles mesures sont envisageables, sans compter tous les exemples qui existent au sein des sociétés civiles (Gentelet et Bahary-Dionne, op. cit. ; Haraway et García, 2020). En inventant d’autres manières de penser l’IA, en sortant des technologies que l’on impose à tous·tes de manière indifférenciée, en sortant finalement des « alternatives infernales » (Pignarre et Stengers, 2007) qui naturalisent ces techniques et leurs fins comme inéluctables, relevant d’un progrès irréfutable et naturel, on peut envisager d’autres possibles. Dès lors, une approche en termes de justice sociale ou d’éthique de l’IA devrait questionner les moyens qui assureront qu’il n’y ait pas d’oppressions algorithmiques pour les personnes à l’intersection de plusieurs formes de marginalisation, tout en prenant en compte la multiplicité des contextes et vécus (Xiang et Raji, op. cit.). Il s’agit de sortir de l’éthique utilitariste appliquée à l’IA pour penser les conséquences des technologies sur les personnes minorisées et ainsi ne pas perpétuer la matrice de la domination (Hill Collins, 2017). Des travaux sont désormais développés dans ce sens, notamment des approches qui en appellent au développement d’une « éthique relationnelle » (Birhane et Cummins, op. cit.) ou d’un « design justice » (Costanza-Chock, op. cit.) et qui supposent que « [u]ltimately, science must be made by the people, for the people43 » (Hampton, 2021, p. 9). L’éthique relationnelle en matière d’IA se base sur quatre piliers :

  • Elle se concentre et est centrée sur les personnes qui sont « disproportionnellement désavantagées » et donc qui subissent l’oppression, l’exploitation et la marginalisation ;

  • Elle favorise la compréhension du contexte d’apparition, notamment social et historique, d’un modèle. Un modèle d’algorithme ou des prédictions et anticipations n’est pas produit ex nihilo. Il est le résultat d’une histoire, d’une société, d’un contexte, etc., qui ne peuvent être niés au moment de développer la technique (Birhane et Cummins, op. cit.) ;

  • L’éthique relationnelle suppose de ne plus concevoir les IA comme de simples outils, mais de prendre conscience du fait qu’elles sont le résultat de pratiques sociales qui, pour certaines, renforcent des normes (Crawford, op. cit.). Dès lors, il s’agit de concevoir que des problématiques techniques peuvent ne pas toujours être résolues par des solutions techniques (Ellul, 1990). Par exemple, plusieurs suggèrent d’avoir recours à l’IA pour « dé-biaiser » l’IA, mais cette idée n’est pas sans rappeler l’image d’un serpent qui se mord la queue ;

    • 44  « En ce sens, la justice n’est pas une valeur statique, mais une méthodologie permanente qui peut (...)

    Enfin, elle conçoit les concepts de l’éthique et de la justice sociale de manière ouverte, en prenant en compte les contextes sociaux, politiques, géographiques et culturels ainsi que les époques. En accord avec la définition de Benjamin, « justice, in this sense, is not a static value but an ongoing methodology that can and should be incorporated into tech design44 » (2019, p. 130).

40L’éthique relationnelle appliquée à l’IA s’inscrit dans une démarche harawayenne qui suppose de penser la technique « avec » plutôt que « pour ». Il s’agit en particulier d’impliquer et de faire s’engager les personnes usagères des technologies :

  • 45 « Faire participer les communautés à la science est l’occasion d’intégrer la responsabilité publiqu (...)

Involving communities in science builds public accountability into scientific knowledge production, allowing important scientific questions to be generated by collective and consensual processes. In engaging the broader communities in science, we must not assume we know more than them about their social context or scientific/engineering needs, and we must not make the elitist mistake of assuming they do not have the capacity to understand science45 (Hampton, 2021, p. 9).

41Cela ne signifie pas pour autant que les organisations qui développent ces systèmes sont déresponsabilisées vis-à-vis des technologies qu’elles déploient. Cependant, c’est un premier pas vers des technologies dont l’objectif serait l’émancipation de tous·tes. Les perspectives ouvertes par l’éthique relationnelle proposent un « bien commun » indéfini qui a tendance à renvoyer au monde social et à ses phénomènes de façon apolitique, ce qui empêche au passage de questionner les structures et les systèmes de pouvoir, et joue au détriment de l’émancipation des acteurs sociaux ainsi que contre une justice sociale et politique.

CONCLUSION

42Dans cet article, nous espérons avoir invité à interroger les artéfacts dits intelligents et leur caractère trop souvent supposé neutre et objectif. À travers un cadre théorique intersectionnel, inspiré de la pensée harawayenne, nous réaffirmons le caractère intrinsèquement idéologique et politique de l’IA ainsi que ses modalités d’incorporation des systèmes de domination. Il s’agissait tout d’abord de contextualiser les manières dont l’IA intègre autant qu’elle participe à la production des rapports sociaux de sexe, de race et de classe, tout autant que ceux-ci sont actualisés par la technique dite intelligente. Sur le terrain de la recherche, au sein de l’écosystème, qui vient penser, constituer et imaginer des mondes dits éthiques et justes en contexte d’IA, nous analysons les limites d’une gouvernance de et par l’IA pensées entre des organisations qui conçoivent cette dernière pour elles-mêmes et par elles-mêmes. En effet, dans les définitions proposées en matière de gouvernance de l’IA, les systèmes de domination ne sont pas remis en cause et les enjeux d’émancipation ne sont que trop souvent pensés en leur sein. Ils tendent à construire des récits, des mythes du « juste » et du « bon » portés par l’IA, renouvelant un positivisme et des représentations neutres de cette technique (Musso, 2020 ; Sadin, 2015). Dans ces discours et ces dispositifs, l’IA, par des « opérations d’abstraction qui prétendent rationaliser le monde, [est définie] sur la base des logiques de l’entreprise » (Mbembe, 2015, cité dans Crawford, op. cit., p. 263). Dans les paradigmes de la justice sociale sur lesquels l’organisation s’appuie pour penser une gouvernance de l’IA, il s’agit de s’assurer que la technique dite intelligente ne reproduit pas de « biais » et non de compenser, corriger ou transformer les structures et les systèmes qui ont produit et continuent de produire des inégalités (Fraser, 2011). Ces systèmes ne font finalement pas l’objet de critique. Ainsi, les modèles de justice sociale proposés dans les dispositifs de gouvernance de l’IA construisent des techno-imaginaires et des « romances capitalistes » (id.), qui supposent que tous·tes devraient adhérer et participer à la technique dite intelligente, car celle-ci est porteuse d’un « progrès » qui assurerait un « bien commun ». Pourtant, des résistances semblent voir le jour et d’autres modèles sont imaginés ; avec eux, la gouvernance de l’IA ne se restreindrait pas à un groupe hégémonique, ce qui laisse entrevoir d’autres manières de penser, de concevoir et de gouverner les techniques.

Haut de page

Bibliographie

AGAMBEN Giorgio (2014), Qu’est-ce qu’un dispositif ?, Paris, Éditions Payot et Rivages.

AHMED Sara et TURBIAU Aurore (2021), « Généalogies scientifiques, pratiques et privilèges citationnels : “Les murs de l’université” (Living a Feminist Life), Fabula-LhT, 26, DOI : 10.58282/lht.2770.

AJUNWA Ifeoma (2016). The Paradox of Automation as Anti-Bias Intervention (SSRN Scholarly Paper 2746078), https://doi.org/10.2139/ssrn.2746078

AKRICH Madeleine (1994), Comment sortir de la dichotomie technique/société, Paris, La Découverte.

ARRUZZA Cinzia, Tithi BHATTACHARYA, Nancy FRASER, Valentine DERVAUX (2019), Féminisme pour les 99 % : un manifeste, Paris, La Découverte.

BENJAMIN Ruha (2019), Race after technology: abolitionist tools for the new Jim code, Polity, Medford, MA.

BERENI Laure (2009), « Faire de la diversité une richesse pour l’entreprise », Raisons politiques, 35, p. 87-105, DOI : https://doi.org/10.3917/rai.035.0087.

BERLEUR Jacques et Yves POULLET (2002), « Réguler Internet », Études, 397, p. 463-475.

BERTAIL Patrice, David BOUNIE, Stéphane CLEMENÇON et Patrick WAELBROECK (2019), Algorithmes : biais, discrimination et équité, Fondation ABEONA.

BILGE Sirma (2009), « Théorisations féministes de l’intersectionnalité », Diogène, 225, p. 70, DOI : https://doi.org/10.3917/dio.225.0070.

BIRHANE Abeba et Fred CUMMINS (2019), Algorithmic Injustices: Towards a Relational Ethics, DOI : arXiv:1912.07376 [cs].

BOLTANSKI Luc et Ève CHIAPELLO (2011), Le nouvel esprit du capitalisme, Paris, Gallimard, coll. « Tel ».

BORY Anne et Yves LOCHARD (2009), « La responsabilité sociale des entreprises : un cheval de Troie politique ? », Sociologies pratiques, 18, p. 39-50.

BOUILLON Jean-Luc et Catherine LONEUX (2021), « De la constitution communicationnelle des organisations à l’organisation du social : enjeux et perspectives pour les ACO et la CCO », Communication & Organisation, 59, p. 27-43, DOI : https://doi.org/10.4000/communicationorganisation.9740.

BRACKE Sarah, María PUIG DE LA BELLACASA et Isabelle CLAIR (2013), « Le féminisme du positionnement. Héritages et perspectives contemporaines », Cahiers du Genre, 54, p. 45-66.

BRUNEEL Emmanuelle (2022), « Quand la “lutte contre les discriminations” se fait “promotion de la diversité”. Pour une approche sémio-politique de la teneur des discours institutionnels », Politiques de communication, 18, p. 35-64, DOI : https://doi.org/10.3917/pdc.018.0035.

BRUNEEL Emmanuelle (2021), « Promouvoir “la parité” en entreprise : un enjeu de communication source de dépolitisation de l’égalité », Revue Communication & professionnalisation, 12, p. 9-36, DOI : https://doi.org/10.14428/rcompro.vi12.53163.

BUOLAMWINI Joy et Timnit GEBRU (2018), Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, Presented at the Conference on Fairness, Accountability, and Transparency, New York.

CALVES Anne-Emmanuèle (2009), « “Empowerment” : généalogie d’un concept clé du discours contemporain sur le développement », Revue Tiers Monde, 200, p. 735-749, DOI : https://doi.org/10.3917/rtm.200.0735.

CAPRON Michel et Françoise QUAIREL (2016), La responsabilité sociale d’entreprise, 3e éd., Paris, La Découverte, coll. « Repères ».

CARDON Dominique (2015), À quoi rêvent les algorithmes : nos vies à l’heure des big data, Paris, Seuil, coll « La République des idées ».

CARDON Dominique, Jean-Philippe COINTET et Antoine MAZIERES (2018), « Neurons spike back », Réseaux, 211, p. 173-220.

CARDOT Fabienne (2006), L’éthique d’entreprise, Paris, Presses universitaires de France.

CATELLANI Andrea (2011), « La justification et la présentation des démarches de responsabilité sociétale dans la communication corporate : notes d’analyse textuelle d’une nouvelle rhétorique épidictique », Études de communication. langages, information, médiations, 37, p. 157‑176, DOI : 10.4000/edc.3204.

CATELLANI Andrea (2015), « Figures et paroles de la responsabilité dans la communication corporate : la dimension visuelle des rapports d’entreprise », Communication et organisation. Revue scientifique francophone en Communication organisationnelle, 47, p. 97‑113, DOI : 10.4000/communicationorganisation.4912.

CATELLANI Andrea et Amaia ERRECART (2018), « L’hybridation discursive dans la communication sur la responsabilité sociétale des entreprises : le cas des banques “engagées” », Recherches En Communication, 47, p. 23‑43, DOI : 10.14428/rec.v47i47.45523.

CERVULLE Maxime, Françoise DUROUX et Lise GAIGNARD (2009), « “À plusieurs voix” autour de Teresa de Lauretis. Théorie queer et cultures populaires, de Foucault à Cronenberg », Mouvements, 57, p. 138-154, DOI : https://doi.org/10.3917/mouv.057.0138.

CHABAUD-RYCHTER Danielle et Delphine GARDEY (2002), L’engendrement des choses : des hommes, des femmes et des techniques, Histoire des sciences, des techniques et de la médecine, Paris, EAC.

CHANG Emily (2018), Brotopia: Breaking Up the Boys’ Club of Silicon Valley, New York, Portfolio/Penguin.

CHASTENET Patrick (2019), Introduction à Jacques Ellul, Paris, La Découverte, coll. « Repères ».

COLLET Isabelle (2019), Les oubliées du numérique, Paris, Le Passeur.

CORCUFF Philippe (2012), Où est passée la critique sociale ? Penser le global au croisement des savoirs, Paris, La Découverte, coll. « Bibliothèque du MAUSS ».

COSTANZA-CHOCK Sacha (2018), Design Justice: Towards an Intersectional Feminist Framework for Design Theory and Practice, Actes de colloque du Design Research Society, https://ssrn.com/abstract=3189696, page consultée le 9 décembre 2023.

CRAWFORD Kate (2022), Contre-atlas de l’intelligence artificielle : les coûts politiques, sociaux et environnementaux de l’IA, Paris, Zulma, coll. « Zulma essais ».

CRENSHAW Kimberlé Williams et Oristelle BONIS (2005), « Mapping the margins: Intersectionality, identity politics, and violence against women of color », Cahiers du Genre, 39, p. 51-82.

DAVIS Anagela Yvonne (2022), Femmes, race et classe, Paris, Zulma.

DEIBERT Ronald J. et Masashi CRETE-NISHIHATA (2012), « Global governance and the spread of cyberspace controls », Global Governance, 18, p. 339-361.

DELORT Pierre (2018), Le Big Data, Paris, Presses universitaires de France, coll. « Que sais-je ? »

DELPHY Chistine (2015), Classer, dominer, Paris, La Fabrique Éditions.

DORLIN Elsa et Eva RODRIGUEZ (2012), Penser avec Donna Haraway, Presses universitaires de France.

DOUEIHI Milad (2013), Qu’est-ce que le numérique ?, Paris, Presses universitaires de France, DOI : https://doi.org/10.3917/puf.doue.2013.01.

DUBET François (2010), Les places et les chances : repenser la justice sociale, Paris, Seuil, coll. « La république des idées ».

ELLUL Jacques (1990), La technique ou l’enjeu du siècle, 2e éd. revue, Paris, Economica, coll. « Classiques des sciences sociales ».

FAIRCLOUGH Norman (2003), Analysing discourse: textual analysis for social research, London, Routledge.

FAURE Bertrand et Nicolas ARNAUD (2014), La communication des organisations, Paris, La Découverte.

FOUCAULT Michel (2001), Dits et écrits. 2 : 1976-1988, Paris, Gallimard.

FRASER Nancy (2011), « Féminisme, capitalisme et ruses de l’histoire », Cahiers du Genre, 50, p. 165-192, DOI : https://doi.org/10.3917/cdge.050.0165.

FRASER Nancy (2004), « Justice sociale, redistribution et reconnaissance », Revue du MAUSS, 23, p. 152-164.

FREIRE Paolo (1974), Pédagogie des opprimés suivi de Conscientisation et révolution, Paris, François Maspero.

GARDEY Delphine (2010), « 14. Bruno Latour, guerre et paix : tours et détours féministes », dans Sous les sciences sociales, le genre Relectures critiques, de Max Weber à Bruno Latour, Paris, La Découverte, p. 203-216.

GENTELET Karine et Alexandra BAHARY-DIONNE (2021), « Stratégies des Premiers Peuples au Canada concernant les données numériques : décolonisation et souveraineté », Tic&société, 15(1), p. 189-208, DOI : https://doi.org/10.4000/ticetsociete.6063.

GONEN Hila et Yoav GOLDBERG (2019), Lipstick on a Pig: Debiasing Methods Cover up Systematic Gender Biases in Word Embeddings But do not Remove Them, arXiv:1903.03862, page consultée le 9 décembre 2023.

GUILHAUMOU Jacques (2012), « Autour du concept d’agentivité », Rives méditerranéennes, 41, p. 25-34, DOI : https://doi.org/10.4000/rives.4108.

GUILLAUMIN Colette (2016), Sexe, race et pratique du pouvoir : l’idée de nature, Donnemarie-Dontilly, Éditions iXe.

HAMILTON Isobel Asher (2018), Amazon built an AI tool to hire people but had to shut it down because it was discriminating against women, Business Insider France, https://www.businessinsider.fr/us/amazon-built-ai-to-hire-people-discriminated-against-women-2018-10, page consultee le 6 septembre 2020.

HAMPTON Lelia Marie (2021), « Black Feminist Musings on Algorithmic Oppression », dans Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, presented at the FAccT ’21: 2021 ACM Conference on Fairness, Accountability, and Transparency, ACM, Virtual Event Canada, p. 1-11, DOI : https://doi.org/10.1145/3442188.3445929.

HARAWAY Donna Jeanne, Laurence ALLARD et Delphine GARDEY (2007), Manifeste cyborg et autres essais : sciences, fictions, féminismes, Paris, Exils, coll. « Essais ».

HARAWAY Donna Jeanne et Vivien GARCÍA (2020), Vivre avec le trouble, Vaulx-en-Velin, Les Éditions des Mondes à faire.

HILL COLLINS Patricia (2017), La pensée féministe noire : savoir, conscience et politique de l’empowerment, Montréal, Les Éditions du Remue-ménage.

HILL COLLINS Patricia et Sirma BILGE (2020), Intersectionality, 2nd edition, Cambridge, Polity Press.

HUËT Romain, Patrice DE LA BROISE et Thomas LAMARCHE (2006), Responsabilité sociale : vers une nouvelle communication des entreprises ?, Villeneuve-d’Ascq, Presses universitaires du Septentrion.

JACKSON Stevi et Françcoise ARMENGAUD (2009), « Pourquoi un féminisme matérialiste est (encore) possible – et nécessaire », Nouvelles Questions féministes, 28, p. 16-33.

JOBIN Anna, Marcello LENCA et Effy VAYENA (2019), « The global landscape of AI ethics guidelines », Nature Machine Intelligence, 1, p. 389-399, DOI : https://doi.org/10.1038/s42256-019-0088-2.

JOUËT Josiane (2003), « Technologies de communication et genre », Reseaux, 120, p. 53-86.

KYMLICKA Will et Marc SAINT-UPÉRY (2003), Les théories de la justice : une introduction : libéraux, utilitaristes, libertariens, marxistes, communautariens, féministes, Paris, La Découverte, coll. « poche Sciences humaines et sociales ».

KRIEG-PLANQUE Alice (2017), Analyser les discours institutionnels, Paris, Armand Colin.

LABELLE François et Kadia AKA (2010), « Le business case pour la responsabilité sociale des entreprises adapté aux PME : 5 cas québécois », Entrepreneurial Practice Review, 1, p. 69-85.

LABORDE Aurélie, Valérie CARAYOL et Isabelle COUSSERAND-BLIN (2022), « Controverses et convergences dans le champ de la communication organisationnelle », Communication & Organisation, 62(2), p.11‑18, DOI : 10.4000/communicationorganisation.11560.

LARSON Jeff, Surya MATTU, Lauren KIRCHNER et Julia ANGWIN (2016), How We Analyzed the COMPAS Recidivism Algorithm, ProPublica, https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm, page consultée le 6 septembre 2020.

LATOUCHE Serge et Jacques ELLUL (2004), La mégamachine : raison technoscientifique, raison économique et mythe du progrès ; essais à la mémoire de Jacques Ellul, nouvelle édition actualisée, Paris, La Découverte, coll. « Recherches », série « Bibliothèques du M.A.U.S.S. ».

LATOUR Bruno (2010), « Prendre le pli des techniques », Réseaux, 163, p. 11-31.

LATOUR Bruno et Michel BIEZUNSKI (2010), La science en action : introduction à la sociologie des sciences, sciences humaines et sociales, Paris, La Découverte, coll. « Poche ».

DE LAURETIS Teresa (2007), Théorie queer et cultures populaires : de Foucault à Cronenberg, Paris, La Dispute, coll. « Le Genre du monde ».

LONEUX Catherine (2012), « Formes et enjeux de régulation autour de l’engagement en entreprise. Proposition d’analyse prospective », Question(s) de management, 1, p. 85-94, DOI : https://doi.org/10.3917/qdm.122.0085.

LONEUX Catherine (2015), « 

MARQUES Julie (2022a), « L’Intelligence Artificielle, une approche intersectionnelle », Interfaces numériques, 11, DOI : https://doi.org/10.25965/interfaces-numeriques.4796.

MARQUES Julie (2022b), « Le principe de justice dans la gouvernance de l’intelligence artificielle au prisme du genre, de classe et de race. Instruments, définitions et limites », Terminal, 132-133, DOI : https://doi.org/10.4000/terminal.8288.

MATHIEU Nicole-Claude (2013/1991), L’anatomie politique : catégorisations et idéologies du sexe, Nouvelle éd. augmentée d’un tableau sur les trois modes de conceptualisation du rapport entre sexe et genre, Donnemarie-Dontilly, Éditions iXe.

MERCIER Samuel (2004), L’éthique dans les entreprises, Paris, La Découverte, coll. « Repères ».

METCALF Jacob, Emanuel MOSS et Danah BOYD (2019), « Owning ethics: Corporate logics, Silicon Valley, and the institutionalization of ethics », Social Research: An International Quarterly, 86, p. 449-476.

MIGNOLO Walter D. (2003), « Globalization and the Geopolitics of Knowledge », Nepantla: Views from South, 4(1), p. 97.

MORIN Edgar (2014), La méthode 6. Éthique, Paris, Points.

MULVEY Laura (1999), « Visual pleasure and narrative cinema », dans Film Theory and Criticism: Introductory Readings, New York, Oxford University Press, p. 833-844.

MUSSO Pierre (2020), « Le désir technologique de Dieu », Quaderni, 99-100, p. 113-124.

NEE Émilie et Marie VENIARD (2012), « Analyse du discours à entrée Lexicale (A.D.E.L.) : le renouveau par la sémantique ? », Langage et société, 140, p. 15-28.

NOBLE Sofia Umoja (2018), Algorithms of Oppression: How Search Engines Reinforce Racism, New York, New York University Press.

O’NEIL Cathy et Sébastien MARTY (2018), Algorithmes, la bombe à retardement, Paris, Les Arènes.

OUABDELMOUMEN Nadia (2014), Contractualisation des rapports sociaux : le volet linguistique du contrat d’accueil et d’intégration au prisme du genre, thèse de doctorat, Rennes, Université de Rennes 2.

PAVEAU Marie-Anne (2018), « La linguistique hors d’elle-même. Vers une postlinguistique », Les carnets du Cediscor, 14, p. 104‑110, DOI : 10.4000/cediscor.1478.

PAVEAU Marie-Anne, (2023a), « Une analyse du discours contre-hégémonique. Intersectionnalité critique et pluriversalité décoloniale », Langage et société, 178(1), p. 161‑190, DOI : 10.3917/ls.178.0149.

PIGNARRE Philippe et Isabelle STENGERS (2007), La sorcellerie capitaliste : pratiques de désenvoûtement, Paris, La Découverte, coll. « Poche ».

POCHIC Sophie (2018), « Féminisme de marché et égalité élitiste ? », dans Je travaille, donc je suis, Recherches, Paris, La Découverte, p 42-52, DOI : https://doi.org/10.3917/dec.maru.2018.01.0042.

PUIG DE LA BELLACASA María (2010), « Ethical doings in naturecultures », Ethics, Place & Environment, 13, p. 151-169, DOI : https://doi.org/10.1080/13668791003778834.

QUIJANO Aníbal (2000), « Coloniality of power and eurocentrism in Latin America », International Sociology, 15(2), p. 215‑232, DOI : 10.1177/0268580900015002005.

RAWLS John et Catherine AUDARD (2009), Théorie de la justice, Paris, Seuil, coll. « Points Essais ».

ROUVROY Antoinette et Thomas BERNS (2013), « Gouvernementalité algorithmique et perspectives d’émancipation. Le disparate comme condition d’individuation par la relation ? », Réseaux. 177, p. 163, DOI : https://doi.org/10.3917/res.177.0163.

RUSS Jacqueline et Clotilde LEGUIL (2012), La pensée éthique contemporaine, Paris, Presses universitaires de France.

SADIN Éric (2015), La vie algorithmique : critique de la raison numérique, Paris, Éditions l’Échappée.

SADIN Éric (2018), L’intelligence artificielle, ou, l’enjeu du siècle : anatomie d’un antihumanisme radical, Paris, L’Échappée.

SANDOVAL Chela (1991), « U.S. Third World Feminism: The Theory and Method of Oppositional Consciousness in the Postmodern World », Genders, 1(24), Doi : 10.5555/gen.1991.10.1.

SENAC Réjane (2012), L’invention de la diversité, Paris, Presses universitaires de France, Paris, coll. « Lien social ».

SENAC Réjane (2019), L’égalité sans condition : osons nous imaginer et être semblables, Paris, Rue de l’Échiquier.

TAL Avital Shulner, Khuyagbaatar BATSUREN, Veronika BOGINA, Fausto GIUNCHIGLIA, Alan HARTMAN, Styliani Kleanthous LOIZOU, Tsvi KUFLIK et Jahna OTTERBACHER (2019), « “End to End” Towards a framework for reducing biases and promoting transparency of algorithmic systems », dans 2019 14th International Workshop on Semantic and Social Media Adaptation and Personalization (SMAP), communication présentée au 14th International Workshop on Semantic and Social Media Adaptation and Personalization (SMAP), p. 1-6, DOI : https://doi.org/10.1109/SMAP.2019.8864914.

VAN ZOONEN Liesbet (1992), « Feminist theory and information technology », Media, Culture & Society, 14, p. 9-29, DOI : https://doi.org/10.1177/016344392014001002.

VANDEVELDE-ROUGALE Agnès (2022), Mots & illusions : quand la langue du management nous gouverne, Paris, 10-18.

VARGAS Elodie (2019), « Greenwashing et polyphonie : voies et voix argumentatives », Cahiers de praxématique, 73, DOI : 10.4000/praxematique.5787.

VERGES Françoise (2019), Un féminisme décolonial, Paris, La Fabrique éditions.

VERMA Sahil et Julia RUBIN (2018), « Fairness definitions explained », dans Proceedings of the International Workshop on Software Fairness, ICSE ’18: 40th International Conference on Software Engineering, Gothenburg Sweden, p. 1-7, DOI : https://doi.org/10.1145/3194770.3194776.

WAGNER Ben (2018), Ethics As An Escape From Regulation. From “Ethics-Washing” To Ethics-Shopping ?, Amsterdam, Amsterdam University Press.

XIANG Alice et Inioluwa Deborah RAJI (2019), On the Legal Compatibility of Fairness Definitions, Workshop on Human-Centric Machine Learning at the 33rd Conference on Neural Information Processing Systems, arXiv:1912.00761, page consultee le 9 décembre 2023.

ZUBOFF Shoshana (2015), « Big other: Surveillance capitalism and the prospects of an information civilization », Journal of Information Technology, 30, p. 75-89, DOI : https://doi.org/10.1057/jit.2015.5.

Haut de page

Notes

1 Il est fait usage des guillemets pour les expressions d’« IA éthique » et « IA inclusive », car ces expressions constituent des formules (Krieg-Planque, 2017) qui circulent au sein du terrain de recherche ainsi que dans les négociations sur la gouvernance de cette technique. Ces formules font circuler des représentations et des idéologies sur l’IA. De plus, les guillemets ont pour vocation de souligner les limites d’une éthique appliquée à l’IA, dans le sens où la technique ne peut être « éthique » en elle-même, par elle-même et pour elle-même.

2 La graphie fait référence aux travaux de Jacques Ellul (1990). Dans cette perspective, l’IA et les algorithmes appartiennent à « la Technique », telle qu’elle est décrite par Ellul, c’est-à-dire comme phénomène généralisé où l’efficacité et la performance prévalent sur toutes les autres valeurs, dont les libertés humaines.

3 Si l’on devait résumer ce qui constitue le big data, ce sont de gigantesques volumes de données produites par l’activité humaine via, sur ou par les outils techniques et numériques et qui sont collectées, stockées puis analysées par un algorithme ou une IA en fonction de la technologie développée (Delort, 2018).

4 Nous empruntons l’expression à Donna Haraway (Haraway et García, 2020) qui parle de « jeux de ficelles » pour l’analyse et la création de ce qu’elle nomme des parentés entre humains et non-humains ainsi que pour l’analyse et la création de récits qui décrivent et inventent ces parentés. Par son usage, nous replaçons l’IA dans le monde social qui la compose et rappelons sa dimension matérielle, tout en signalant que les discours de gouvernance constituent certains récits de cette technique, mais qu’il existe d’autres récits (alternatifs), qui ne sont pas analysés dans le cadre de notre recherche, le tout constituant les « jeux de ficelles » qui constituent l’IA.

5 L’expression « technoscience(s) » renvoie aux domaines des sciences, technologies, ingénierie et mathématiques (STIM). Elle permet de délimiter, sans exclure, les domaines scientifiques et technologiques qui pensent, construisent et pratiquent la technique. Elle évite également le flou de certaines expressions comme domaine du « numérique », métixers « digitaux », etc., qui peuvent être restrictives, mais aussi qui parfois empêchent de penser une continuité dans les pratiques, puisque les technosciences ne se limitent pas à l’apparition d’Internet ou du numérique, mais s’inscrivent dans une histoire longue (Haraway, Allard, et Gardey, 2007).

6 Dans le sens premier du terme « écologie » et tel qu’il peut être mobilisé dans les travaux de Donna Haraway ou Isabelle Stenger, c’est-à-dire comme l’étude des relations entre les êtres (humains comme non-humains) et le milieu (l’environnement moral, social, politique, économique, etc.) dans lequel ils vivent (Haraway, 2020).

7 Traduit de l’anglais : « Algorithmic Oppression » (Noble, op. cit.).

8 Expression dont il est fait usage dans la littérature sur le sujet, dans les discours de gouvernance d’une IA éthique que nous avons analysés, mais aussi sur le terrain de notre enquête et par nos partenaires de recherche.

9 L’expression « male gaze » a été proposée par Laura Mulvey (1999). Elle sert à analyser la manière dont les corps et les expériences des femmes sont pensés par et pour un regard masculin dans les productions, entre autres audiovisuelles. L’usage du concept de « white male gaze » pour analyser l’IA et son caractère hégémonique, notamment proposé dans les travaux de Noble (op. cit.), montre que ces technologies produisent les groupes minorisés comme objet, en ce sens que ce sont celles et ceux qui possèdent la technique qui ont finalement un pouvoir de définition sur les « autres » (Guillaumin, 2016).

10 Orange (2020), « Pour une intelligence artificielle et un usage des données responsables », https://www.orange.com/fr/newsroom/actualites/2020/pour-une-intelligence-artificielle-et-un-usage-des-donnees-responsables, page consultée le 3 août 2022.

11 Orange (2020), « Pour une intelligence artificielle et un usage des données responsables », https://www.orange.com/fr/newsroom/actualites/2020/pour-une-intelligence-artificielle-et-un-usage-des-donnees-responsables, page consultée le 3 août 2022.

12 Extrait d’entretien auprès d’un technoscientifique d’Orange, 2021.

13 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

14 « Les logiques de marché façonnent profondément le discours autour de l’éthique dans la Silicon Valley et au-delà. Les référents éthiques donnent parfois de la voix à un sentiment cynique selon lequel “le succès [du marché] l’emporte sur l’éthique” » (traduction de l’autrice).

15 « Lorsque les entreprises technologiques commencent à envisager des procédures pour rendre l’éthique opérationnelle, elles le font en fonction de leurs propres logiques internes » (traduction de l’autrice).

16 L’ethic shopping est une expression utilisée pour analyser comment la soft law n’est pas suffisamment coercitive et donne lieu à des pratique de sélection des principes éthiques par certaines organisations, qui ne se plient dès lors qu’aux normes qui n’impactent pas leur activité (Wagner, 2018). L’ethic washing, tout comme le green washing ou le social washing, renvoie à une pratique par laquelle une organisation présente dans sa communication un fort engagement éthique ou social, alors que celui-ci se révèle « non réel ou minime » (Vargas, 2019, p. 2).

17 Extrait d’entretien auprès d’un partenaire associatif d’Orange Groupe, 2020.

18 Ibid.

19 Orange est contrainte au devoir de vigilance, ce qui l’oblige à produire un rapport extra-financier. Il s’agit d’une « version spécifique du rapport [qui] s’est développée pendant les dernières décennies, en faisant suite à l’affirmation de la préoccupation pour le développement durable et la responsabilité sociétale ou sociale des entreprises (la RSE ou CSR3). La législation française, en particulier, a rendu cette activité de reporting RSE obligatoire pour les entreprises cotées en bourse, à partir de 2001 » (Catellani, 2015, p. 99). Ces rapports sont consultables en ligne : Orange, Nos rapports annuels intégrés, https://www.orange.com/fr/nos-rapports-annuels-integres, page consultée le 7 juillet 2022.

20 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

21 Extrait d’entretien auprès d’un technoscientifique d’Orange, 2021.

22 La notion d’empowerment désigne ici des modèles qui conçoivent « l’agir » dans des perspectives individualistes et libérales, et s’oppose à celle d’émancipation, qui a pour objectif de mettre en visibilité les rapports sociaux et les enjeux de pouvoir expérimentés par les groupes minorisés, tout autant que les pratiques, moyens et actions individuels et collectives qui sont à la recherche d’une transformation du monde social (Calvès, 2009 ; Freire, 1974).

23 Orange, « Données et intelligence artificielle. Nouvelles perspectives pour les clients et pour la société », https://www.orange.com/fr/linnovation-utile-et-source-de-progres-pour-tous/donnees-et-intelligence-artificielle-nouvelles, page consultée le 3 août 2022.

24 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

25 Traduit de l’anglais : « ethicization » (Puig de la Bellacasa, op. cit.).

26 Extrait d’entretien auprès d’une cadre d’Orange, 2021.

27 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

28 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

29 Extrait d’entretien auprès d’un cadre d’Orange, 2021.

30 Par exemple, le système COMPAS, mentionné précédemment, a continué d’être utilisé après que le système a été évalué comme discriminant. En effet, il a été jugé qu’il s’agissait d’une erreur de définition de l’équation à appliquer pour garantir un résultat non discriminant. Toutefois, en attendant les corrections, des personnes non blanches ont continué d’être plus lourdement « estimées » à risque que les personnes blanches.

31 « Le concept d’équité n’a pas lieu d’être s’il refuse de reconnaître que les technologies, qui réverbèrent l’assujettissement sociohistorique des personnes opprimées, sont irrémédiables. Comment peut-on être “juste” dans une société injuste ? » (traduction de l’autrice)

32 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

33 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

34 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

35 Orange, « Données et intelligence artificielle. Nouvelles perspectives pour les clients et pour la société », https://www.orange.com/fr/linnovation-utile-et-source-de-progres-pour-tous/donnees-et-intelligence-artificielle-nouvelles, page consultée le 3 août 2022.

36 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

37 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

38 Nous distinguons ici le terme de « participation » de celui de « représentation » ; il est question de montrer que l’expérience et les besoins des personnes minorisées sont pris en compte et que la représentation ne relève pas d’un tokénisme.

39 Les femmes dans les technosciences subissant une injonction à l’intégration au sein de la norme et de la culture du groupe dominant, représenté par des hommes blancs (Chang, 2018 ; Collet, 2019 ; Chabaud-Rychter et Gardey, 2002).

40 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

41 Extrait d’entretien auprès d’une technoscientifique d’Orange, 2021.

42 En référence à Karine Gentelet et Sandrine Lambert (2021), « La justice sociale. l’angle mort de la révolution de l’intelligence artificielle », The Conversation, 14 juin, http://theconversation.com/la-justice-sociale-langle-mort-de-la-revolution-de-lintelligence-artificielle-160579, page consultée le 5 août 2022.

43 « En définitive, la science doit être faite par le peuple, pour le peuple » (traduction de l’autrice).

44  « En ce sens, la justice n’est pas une valeur statique, mais une méthodologie permanente qui peut et doit être intégrée dans la conception des technologies » (traduction de l’autrice).

45 « Faire participer les communautés à la science est l’occasion d’intégrer la responsabilité publique dans la production de connaissances scientifiques, en permettant aux questions scientifiques importantes d’être générées par des processus collectifs et consensuels. En faisant participer des communautés plus larges à la science, nous ne devons pas supposer que nous en savons plus qu’elles sur leur contexte social ou leurs besoins en matière de science et d’ingénierie, et nous ne devons pas faire l’erreur élitiste de supposer qu’elles n’ont pas la capacité de comprendre la science » (traduction de l’autrice).

Haut de page

Pour citer cet article

Référence électronique

Julie Marques, « Les « jeux de ficelles » d’une gouvernance éthique de l’intelligence artificielle  »Communication [En ligne], vol. 40/2 | 2023, mis en ligne le 14 décembre 2023, consulté le 21 mai 2025. URL : http://journals.openedition.org/communication/17756 ; DOI : https://doi.org/10.4000/communication.17756

Haut de page

Auteur

Julie Marques

Julie Marques est doctorante au laboratoire PREFICS, Université Rennes 2. Courriel : juliemarques@hotmail.fr

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search