- 1 Nous empruntons la graphie à J. Ellul (1954). Elle se réfère au phénomène de production de la Techn (...)
1L’impact de l’Intelligence artificielle (IA) sur la société et la manière dont elle peut automatiser des inégalités sociales n’ont pas toujours été pris en considération. Or, depuis quelques années, nombre de dénonciations montrent que l’IA n’est pas neutre, mais bien conçue à partir de nos données, sorte de miroir de notre société (O’Neil, 2018). Dans cette perspective l’IA doit se comprendre en tant que matérialité, c’est-à-dire Technique1 profondément sociale (Jouët, 2003 ; Van Zoonen, 1992). Elle constitue, réifie ou modifie, le réel tout autant qu’elle est construite par ce dernier. Le monde social et l’IA en cela se co-construisent.
2 Afin d’appréhender la gouvernance de l’IA au prisme d’une approche intersectionnelle, nous commençons par démontrer que l’IA n’est pas neutre, notamment en l’appréhendant au prisme d’une approche intersectionnelle. Nous montrons ensuite que face aux enjeux et problématiques posés par l’IA différentes formes d’autorégulation sont déployées pour favoriser le développement d’une IA dite inclusive, non-sexiste ou égalitaire. Tout en analysant la manière dont ces instruments ouvrent un espace de négociation entre différentes instances dont les enjeux sont hétérogènes.
3 Cette recherche s’appuie sur dix-huit mois d'observations au sein de différents groupes de réflexions dont l’objectif est de produire des instruments d’autorégulation en matière d’IA au prisme du genre, que nous complétons par des entretiens compréhensifs auprès des personnes qui produisent ces instruments, afin de comprendre leurs représentations et intentions (Kaufmann, 1996).
4 Le terrain est rendu accessible grâce à la posture de recherche au sein d’une entreprise de télécommunication, structure dans laquelle différents acteurs et actrices s’interrogent sur les politiques et pratiques à mettre en place afin de favoriser une gouvernance de l’IA éthique, voire égalitaire. La recherche dans sa globalité interroge les dispositifs de gouvernance de l’IA mis en place par le secteur privé pour éviter la reproduction des inégalités et oppressions, ainsi que la manière dont ceux-ci se déploient dans l’organisation et les équipes techniques.
- 2 Le terme « race » est utilisé dans un perspective critique, il est utilisé pour venir nommer : « un (...)
5 Pour commencer, la notion de genre est un préalable théorique, au prisme duquel nous appréhendons la Technique. Le genre fait référence à la construction sociale du sexe et du genre, des rôles et valeurs qu’on leur attribue socialement et qui ne relèvent pas de l’inné. Il est un processus de différenciation et de hiérarchisation (Kergoat, 2010). C’est un rapport de pouvoir à l’intersection de diverses formes de marginalisation et systèmes d’oppressions qui varient selon les contextes sociaux, géographiques et historiques. Il est avec les rapports sociaux : « multiples et déterminées simultanément et de façon interactive par plusieurs axes d’organisation sociale significatifs » (Bilge, 71). Notre approche est intersectionnelle et montre que l’articulation de plusieurs catégories telles que le genre, la race2, la classe, l’orientation sexuelle, l’âge, le handicap, et bien plus, renvoient à différentes expériences d’oppression et de marginalisation. L’intersectionnalité : « est une théorie transdisciplinaire visant à appréhender la complexité des identités et des inégalités sociales par une approche intégrée. Elle réfute le cloisonnement et la hiérarchisation des grands axes de la différenciation sociale » (Bilge, 70). Nous analysons de fait l’IA et ses dispositifs de (auto-)régulation en prenant en compte la co-construction et l’imbrication des rapports de pouvoir, qui avec ou à travers elle se jouent forcément aussi.
6 Ainsi l’IA, parce qu’elle n’est pas neutre, doit être entendue dans sa dimension matérielle, idéologique, institutionnelle et historique, dans une perspective qui permet de comprendre les conditions de production des rapports de pouvoir dans la technique (Cockburn, 1981). Cela renvoie au concept « d’engendrement des choses » (Chabaud-Rychter et Gardey, 2002), d’engendrement des machines et systèmes qui constituent la technique. Le concept signale à quel point la technique est éminemment politique et sociale (Winner, 1980). De fait, elle est porteuse d’idéologies ; est une manière de réguler, de normer et d’ordonner le monde, en adoptant de la technique : « on adopte généralement de l’économique, du social et du politique » (Chabaud-Rychter et Gardey, 15). On sort ainsi d’une conception déterministe de la technique, de même que d’une dichotomie entre technique et société pour penser le réseau qui façonne et mobilise : « toute la cohorte des non-humains qui constituent au même titre que les humains, notre espace social. » (Akrich, 128). Cette conceptualisation permet une critique féministe de la neutralité de la technique et souligne l’imbrication de celle-ci dans les rapports sociaux de sexe, de race et de classe. C. Cockburn avait d’ailleurs analysé le fait que le pouvoir masculin est maintenu grâce à une co-construction entre valeurs masculines qui constituent la technique et technique qui renforce la masculinité. Analyse confortée par le fait, qu’au XVIIe siècle, la construction de la figure du scientifique objectif et modeste vient renforcer la dichotomique entre : femmes/hommes, nature/culture et subjectivité/objectivité. Ce modèle a pour conséquence une absence des femmes, voire l’interdiction de leur présence dans les domaines scientifiques, ce qui marque durablement les sciences et techniques comme discipline masculine (Haraway, 1991). Cette construction des sciences et l’imbrication dans les artefacts et la technique des rapports sociaux impactent la construction du domaine, qui symbolise une certaine culture masculine.
- 3 Bien que la diversité ne soit pas un gage d’égalité ou de non-discrimination.
- 4 La capacité d’action est pensée en termes d’agentivité ou d’agency dans sa terminologie anglo-saxon (...)
- 5 La parité de participation doit être entendue comme une des conditions nécessaires à la justice soc (...)
7 Le domaine technique, qui construit l’IA, par le manque de diversité3 qu’il représente, donne à voir des systèmes de pouvoir qui sont à l’oeuvre dans sa construction, mais aussi la diffusion de sa culture ou de ses usages. De fait, tout autant qu’elle diffuse les rapports sociaux liés au sexe, elle intègre également ceux liés à la race ou à la classe (Mohamed et al, 2020). Sans compter que le secteur d’activité technique est en majeure partie constitué d’hommes cis blancs (Chang, 2018 ; Collet, 2019). Cette diffusion d’une Technique constituée par et pour un groupe social, construit en tant que norme dominante, marginalise tout autre groupe qui devient autre ou outsider par rapport au domaine (Delphy, 2008 ; Sénac, 2019). Ces rapports sociaux divisés entre dominant.e.s détenant et construisant la Technique, et dominé.e.s la subissant, forme selon nous un « capital technique » dont chacun.e ne dispose pas de la même manière selon son groupe social. Le capital technique est perçu dans un sens bourdieusien de capital social, c’est-à-dire : « [les] ressources, pour accroître ou conserver leur position à l’intérieur de la hiérarchie sociale et bénéficier de privilèges matériels et symboliques qui y sont attachés » (Méda, 36). Dans une perspective où la Technique est une forme de capital économique, culturel et social. Il s’agit alors pour les personnes d’obtenir des connaissances formelles et informelles de la Technique déployée, mais aussi de la possibilité pour elles.eux d’(inter)agir avec/sur cette Technique qui (leur) est imposée comme outil de gouvernance, d’organisation du monde et par affiliation des instances de pouvoir. Avec le développement transverse de la Technique l’absence de capital technique devient une impossibilité d’obtenir pour certain.e.s une participation dans la transformation des rapports sociaux, les privant d'une capacité d’action4 et d’une parité de participation5, et donc d'une justice sociale (Fraser, 2011).
- 6 Réactualisant encore une fois une domination du Nord sur les Suds dans une démarche qui peut être q (...)
- 7 Lorsque nous parlons de blanc.he.s, nous faisons référence aux travaux sur la blanchité. « Dans cet (...)
- 8 Traduit de l’anglais « algorithmic coloniality » (Mohamed et al, 7).
8 Sans compter qu’une capitalisation des savoirs et des dires sur la Technique est exercée par les pays du Nord, qui peuvent alors imposer leurs idéologies sur ceux des Suds6. Cette imprégnation des rapports sociaux de race dans l’IA est notamment analysée dans l’article « Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence » de Mohamed et al, 2020. Il souligne la nécessité de penser l’IA selon une approche décoloniale pour ne pas invisibiliser et reproduire les rapports de domination des blanc.he.s sur les non-blanc.he.s7. Dans ce sens, l’IA prend la forme d’un néo-colionalisme — les auteur.rice.s parlent d’algorithmes néo-coloniaux8 — puisqu’ils favorisent : « the continuation of power dynamics between those advantaged and disadvantaged by “the historical processes of dispossession, enslavement, appropriation and extraction » (Mohamed et al, 5). L’un des problèmes étant notamment que l’IA ignore les contextes locaux et souvent des Sud (Mohamed et al, 2020 ; Wong, 2020), produisant une analyse globale et normative de/par l’IA, ainsi « AI algorithms can quickly ingest, perpetuate and legitimise forms of bias and harm » (Mohamed et al, 2020). Il faut donc prendre en compte qui détient les savoirs, les faire et les dires de/sur l’IA, pour analyser comment et dans quelles mesures celle-ci réitère les rapports sociaux : « whereas in a previous era, the intention to deepen racial inequities was more explicit, today coded inequity is perpetuated precisely because those who design and adopt such tools are not thinking carefully about systemic racism » (Benjamin, 2019 cité par Mohamed et al, 4). De plus, le « capital technique » n’est pas qu’un savoir et un dire, mais c’est aussi un bien, soit la possibilité pour les uns de capitaliser les biens physiques et monétaires ou monétarisables de la Technique, et par affiliation de détenir le capital technique en tant que savoir, faire et dire (Foucault, 1977 ; Haraway, 2020). Ainsi : « ‘ICTs are not instruments for material gains alone’ but can be understood as a ‘new set of capabilities’, and so a lack or limited access to ICTs is a form of ‘capability deprivation’« (Cummings and O’Neil, 1). L’IA instruit des normes et (re)produit des schèmes de pouvoir, tout en favorisant la subordination de certains groupes. Son analyse au prisme d’une approche intersectionnelle rend compte de son impact macro-social, faisant d’elle une « matrice de la domination » (Bilge, 73), car elle est une forme d’organisation sociale, de système, mais aussi de son impact micro-social, producteur de « formes particulières […][d’]oppressions imbriquées dans l’expérience vécue des individus » (Bilge, 2009 : 73), entre autres en imposant des schémas normatifs globaux issus de groupes sociaux dominants.
- 9 Traduit de l’anglais : « algorithmic oppression » (Noble, 2018)
9 Une des inquiétudes concernant l’IA provient notamment des biais qu’on trouve dans cette Technique, qui réitèrent, voire renforcent les inégalités, et peuvent aussi être entendus comme ce que S. U. Noble nomme des « oppressions algorithmiques »9. On peut prendre l’exemple de COMPAS, système de définition des peines d’emprisonnement, utilisé aux États-Unis. Cette IA est critiquée pour son caractère raciste. En effet, elle attribue des peines plus lourdes pour les personnes racisées, car elle considère que leur risque de récidive est plus élevé que pour les personnes non-racisées. Le système s’appuie sur les peines données par le passé et automatise le racisme systémique.
10La prise de conscience de l’impact de l’IA sur les rapports sociaux pose la question des instruments déployés pour réguler cette Technique, les normes mises en place et les instances qui en dessinent les contours.
11 Suite à ce type de scandales, différentes organisations soulèvent le sujet d’une gouvernance de l’IA éthique. Ainsi depuis 2017, une multitude d’organisations travaille sur le sujet de l’éthique de l’IA (Jobin et al, 2019). Ces instances semblent vouloir venir en renfort d’un certain « vide juridique », bien que l’IA ne présente aucune particularité qui la dispenserait de répondre aux lois en matière de respect des droits et libertés fondamentaux, de traitement des données ou des lois contre les discriminations. Cette prolifération de recommandations, principes, chartes, lignes directrices laisse entrevoir des formes de négociations pour la gouvernance de l’IA. Dont la justice, la non-discrimination, l’égalité ou l’équité sont considérées comme l’un des piliers (Jobin et al, 2019).
12 Cependant, il reste à interroger en quoi consiste cette gouvernance éthique de l’IA ? Comment est-elle négociée et définie entre les différentes instances, pour quels effets, voire quelles limites ?
13 Si l’on interroge les effets des instruments d’autorégulation pour une gouvernance de l’IA éthique, on peut commencer par signaler que déterminer ou influencer cette gouvernance a des incidences sociales, politiques, économiques et juridiques. Ces négociations relèvent de ce que B. Latour nomme des controverses, au sens où elles permettent de définir ce qu’est l’IA éthique ou ce qu’elle devrait être, mais où les définitions publiées pour le moment sont très disparates (Jobin et al, 2019), et relèvent de processus de production de savoirs sur l’IA.
14 La gouvernance de l’IA est sujette à négociations, parce que la technique, sa construction, sa régulation et les usages qui en découlent sont imbriqués. Ces négociations peuvent prendre place entre les gouvernements ou organismes supranationaux, au travers de procédures de régulation ou encore au sein des organisations privées avec des formes d’autorégulation. Les instruments produits dans ce cadre s’apparentent à des énoncés de soft law ou droit souple et se caractérisent par une hétérogénéité de formes, mais aussi d’effets, bien que ceux-ci soient marqués par une diminution de la pression législative, passant du coercitif dans la hard law à du volontarisme avec la soft law. Ils constituent des normes en cours d’élaboration dont la « formulation est un enjeu crucial : il s’agit avant tout de se mettre d’accord sur ce qu’est la norme, ce qu’elle fait, et comment, donc, on peut la qualifier » (Sire, 54). Ces négociations pour la gouvernance de l’IA relèvent alors d’une forme de « gouvernementalité » telle que définie par M. Foucault (1977), parce qu’elles s’inscrivent dans des rapports de force pour définir/détenir : « l’interaction de formes de savoir, de stratégies de pouvoir et de modalités de subjectivation. » (Lemke, 18). Cette notion permet d’appréhender deux approches complémentaires de la gouvernance de l’IA, en interrogeant la gouvernance de et par l’IA :
15- La gouvernance de l’IA analyse comment se met en place ce que A. Rouvroy et T. Berns nomme « gouvernementalité algorithmique », qui en dessine les contours et comment ils sont négociés entre les différentes instances,
16- tandis que la notion de « gouvernementalité algorithmique » appréhende la gouvernance par l’IA c’est-à-dire le fait que la numérisation de la société et le recours à l’IA dans toutes les strates de celle-ci devient une technique de gouvernement.
17Ces instruments produisent une circulation des idées et des concepts, rappelant ainsi ce que M. Foucault analyse avec la gouvernementalité, c’est-à-dire le fait que le droit n’est pas autopoïétique, mais s’inscrit dans un ensemble de pratiques et productions existantes, dans des négociations entre différents acteur.rice.s avec des enjeux hétérogènes. Ils font également transparaitre les intérêts économiques, étant donné que les instances du privé jouent un rôle croissant dans la production de ces énoncés et dans la définition des normes : « Private sector actors are responsive to and seek to develop commercial opportunities across national boundaries and are increasingly a part of the global system's mechanisms and dynamics of cyberspace control. […] their decisions can have major consequences for the character of cyber space and are examples of the growing exercise of private authority in world politics. » (Deibert et Crete-Nishihata, 340). Ce que l’on observe également sur la place du droit dans la gouvernementalité, puisque celui-ci au-delà de jouer un rôle d’ordre juridique et politique évident, joue également un rôle économique de par ce qu’il permet ou sanctionne, cautionne ou puni. Avec ces négociations, sous forme de production d’énoncé de soft law, et dont l’objet est de définir l’IA éthique, voire l’IA égalitaire, ce sont à la fois des enjeux sociaux, juridiques, politiques et économiques qui transparaissent.
18Dans le cadre de la recherche, nous avons observé l’apparition de trois instruments, en France, entre 2020 et 2021, qui ont pour objectifs d’éviter la production de discriminations ou inégalités par l’IA. Bien qu’ayant des objectifs similaires, ils ne procèdent pas de la même manière, n’ont pas les mêmes outils et n’utilisent pas les mêmes termes pour traiter de l’IA et du genre. Ces instruments sont :
- 10 « Arborus Orange ». https://charteia.arborus.org/.
- 11 Bureau Veritas France. « Gender Equality & Diversity for European & International Standard ». Consu (...)
- 12 Idem.
- 13 Idem.
19- la Charte internationale pour IA inclusive d’Arborus et Orange10 et le label GEEIS AI11. La charte stipule n’être qu’une première étape en vue d’un engagement de la structure signataire à se faire labeliser GEEIS AI. Le label certifie l’engagement et les actions menées par l’entreprise en faveur d’une « IA éthique et inclusive »12. Ce label vise « les politiques de ressources humaines en faveur de l’égalité des chances envisagées sous l’angle de l’IA [et] représentent une étape de plus dans la construction d’une stratégie inclusive et éthique. »13.
- 14 « Le Laboratoire de l’égalité ? | Le laboratoire de l’égalité ». Consulté le 15 mars 2021. https:// (...)
- 15 Idem.
20- Ensuite, le Pacte pour une intelligence artificielle égalitaire entre les femmes et les hommes du laboratoire de l’égalité14. Il s’agit d’un document dont l’objectif est d’interpeller les différentes instances publiques et privées des risques que présente l’IA en matière d’égalité femmes-hommes. Il propose des actions pour éviter que l’IA ne reproduise les inégalités, et pour faire de cette technique : « un moteur de l’égalité entre les femmes et les hommes »15. Il aborde la nécessité d’engager les acteurs de l’IA pour en faire une technique non sexiste et éthique, ainsi que l’importance de la mixité dans les métiers de l’IA.
21- et enfin Le Pacte « femmes et IA » pour une Intelligence artificielle responsable et non-sexiste par le groupe de travail « femmes et IA » du Cercle InterElles16. Les principes du Pacte reprennent particulièrement le vocabulaire de l’IA éthique et responsable, ce qui relève d’un glissement sémantique et conceptuel du champ de l’éthique de l’IA vers celui de l’IA au prisme du genre.
22 Ces instruments pour une gouvernance de l’IA au prisme du genre s’inscrivent dans l’ensemble de productions plus vaste sur la gouvernance éthique de l’IA mentionné auparavant. Ils constituent des instruments de négociation, de définitions et de normalisation de cette Technique.
23 Ils sont des formes d’autorégulation mises à disposition des instances utilisatrices et productrices d’IA, tout particulièrement du secteur privé. Les propositions s’inscrivent dans l’un des 11 principes d’éthique en matière d’IA relevés par Anna Jobin, et qui est celui de « fairness, justice and equity » (Jobin et al, 2019).
24 Les instruments contiennent des recommandations relativement similaires, bien que formulées différemment. Toutefois, les terminologies pour définir la gouvernance de l’IA au prisme du genre diffèrent. Les entretiens effectués auprès des personnes productrices de ces instruments révèlent que ces expressions recouvrent divers techno-imaginaires (Musso, 2020). Ainsi le Laboratoire de l’égalité préfère l’expression d’IA égalitaire, voire d’IA à l’éthique égalitaire, définie par une représentante, comme « une IA qui va intégrer les femmes dans tous les types de processus [...] au même titre que les hommes et sans aucune discrimination liée au genre. [...] une IA qui va être aussi tournée vers le durable et donc qui va être éthique ». Le Cercle InterElles parle d’IA non-sexiste, la représentante du groupe interrogée la définit comme : « une IA qui ne renforce pas les biais déjà existants dans la société et qui n’en crée pas de nouveau et non seulement des biais, mais aussi des discriminations. [...] c’est une IA dont la production et l’utilisation ont été étudiées, dans lequel il y a une action pro-active pour éviter qu’elle le soit. ». Enfin, Arborus utilise le terme d’IA inclusive, qu’une des représentantes considère comme une IA qui : « ne laisse personne sur le bord du chemin. [...] qui va prendre en considération le fait qu’à compétences égales on ne va pas discriminer d’aucune façon. En même temps, une IA inclusive doit prendre en considération, si besoin est, des politiques stratégiques de ressources humaines. ». De plus, l’expression « IA inclusive » ne suppose pas qu’une appréhension du genre, mais inclusion signifie « qu’on va aussi parler de l’élimination potentielle qu’un logiciel pourrait faire sur le handicap, sur l’âge, sur ton origine, etc. Et donc l’inclusion est beaucoup plus globale ». On s’aperçoit de fait que les différentes structures utilisent des termes différents pour parler d’IA au prisme du genre et que celles-ci portent des philosophies, techno-imaginaires (Musso, 2020) différents et par affiliation des normes qui diffèrent. Ces organisations travaillent actuellement ensemble pour mieux comprendre leur complémentarité, ce qui rejoint le fait que ces instruments produisent des formes de négociations en vue d’établir des normes techniques, dont l’acceptation ou le rejet aura des conséquences sur la manière dont l’IA est conçue et évolue. La définition qui va être adoptée a un impact sur ce qui va ensuite être considéré comme juste. Elle porte des formalisations techniques de « justice » qui peuvent différer et donc définir quelle IA est qualifiée de juste ou non. Il a d’ailleurs été démontré par l’analyse des applications des différentes définitions de « Fairness » dans l’IA, que l’algorithme peut être considéré comme « fair » ou non en fonction de la définition choisie (Verma & Rubin, 2018).
25 De plus, la gouvernance de l’IA au prisme du genre telle que proposée actuellement par les organisations présente certaines limites. Ainsi les observations montrent que ces instances partent d’un même principe qui est que l’élimination des inégalités liées au genre produira une élimination des autres formes d’oppressions. Il s’agit d’une formalisation des inégalités cumulative ou additionnelle. Or il a bien été démontré que lorsqu’il s’agit de dépasser les inégalités, on ne peut les cloisonner ou les hiérarchiser, seule l’abolition de toutes les oppressions assure leur anéantissement et cette analyse est valable pour les oppressions algorithmiques (Hampton, 2021). Dans les instruments présentés, le traitement, dans un premier temps, du genre est perçu comme une « gestion des priorités » et le fait de traiter le genre dans la « diversité » est analysé comme un risque de « dissoudre » l’égalité femmes-hommes dans la diversité. Par ailleurs, le terme d’inclusion ne dépasse pas forcément cette approche cumulative puisqu’il suppose aussi une invisibilisation de la multitude des vécus dans une globalité. Une approche intersectionnelle des formes d’oppressions produites par l’IA est nécessaire et assure la prise en compte de tous les contextes et vécus, tout en mettant en lumière le fait que celles-ci sont systémiques. Ainsi dans la production d’instruments en faveur d’une justice sociale pour tou.te.s, une approche prenant en compte le genre comme « base » de production de l’oppression est insuffisante pour construire une « IA juste », l’approche intersectionnelle permet, elle, de comprendre : « que la domination est par nature “intersectionnelle” : il n’y a pas d’additionnelle viable » (Drolin et Bidet-Mordel, 6). Considérer ainsi la formalisation de l’IA assurerait une production juste de cette dernière, tout en garantissant qu’elle prend en compte les groupes marginalisés, la réalité de leur vécu, sans imposer une approche globale et globalisante qui ne ferait que perpétuer des formes d’oppression (Haraway, 2007).
26 Avec la multiplication des inquiétudes et alertes sur les risques que présente l’IA pour l’humanité et plus particulièrement pour les minorités et personnes historiquement marginalisées et subissant l’oppression, on semble avoir dépassé l’idée que cette technique serait objective. Au contraire, celle-ci est un reflet de la société et donc de ces rapports sociaux. L’IA perpétue la production de système d’oppression sans une attention particulière à la manière dont elle est développée et déployée. En réaction, de nombreuses recommandations sur l’éthique de l’IA ont été publiées, ainsi que des instruments dédiés à la gouvernance de l’IA au prisme du genre. Ces instruments font transparaitre les enjeux de pouvoir qui peuvent être imbriqués dans la Technique et l’importance qu’il y a à définir une gouvernance de l’IA pour différentes instances avec des objectifs hétérogènes. Les instruments proposés par trois organisations en faveur d’une gouvernance de l’IA au prisme du genre entrent dans ces formes de négociation et présentent des enjeux importants en matière de définition, de norme et de techno-imaginaires. Il est toutefois nécessaire de sortir d’une approche cumulative des inégalités et penser la complexité des expériences par une approche intersectionnelle qui permette d’abolir les oppressions algorithmiques.