Navigation – Plan du site

AccueilNuméros11DossierL’Intelligence Artificielle au pr...

Dossier

L’Intelligence Artificielle au prisme d’une approche intersectionnelle : entre négociations et définitions

Artificial Intelligence through the lens of an intersectional approach : between negotiations and definitions 
Künstliche Intelligenz im Lichte eines intersektionalen Ansatzes: zwischen Verhandlungen und Definitionen 
Julie Marques

Résumés

Nous proposons de présenter une réflexion sur l’Intelligence Artificielle (IA) au prisme du genre, de la classe et de la race, dans une approche intersectionnelle qui questionne l’apparente neutralité de cette Technique. L’objectif étant de mettre en visibilité les différents impacts de ces technologies sur les rapports sociaux, notamment en démontrant que l’IA est une Technique intrinsèquement sociale, idéologique et politique. Penser l’IA en co-construction avec la société permet d’éviter de tomber dans un « maths washing » invisibilisant les rapports de pouvoir sous couvert d’objectivité mathématique et d’interroger les dispositifs mis en place par les différentes organisations pour veiller à ce que cette Technique n’automatise pas les injustices et inégalités.

Haut de page

Texte intégral

  • 1 Nous empruntons la graphie à J. Ellul (1954). Elle se réfère au phénomène de production de la Techn (...)

1L’impact de l’Intelligence artificielle (IA) sur la société et la manière dont elle peut automatiser des inégalités sociales n’ont pas toujours été pris en considération. Or, depuis quelques années, nombre de dénonciations montrent que l’IA n’est pas neutre, mais bien conçue à partir de nos données, sorte de miroir de notre société (O’Neil, 2018). Dans cette perspective l’IA doit se comprendre en tant que matérialité, c’est-à-dire Technique1 profondément sociale (Jouët, 2003 ; Van Zoonen, 1992). Elle constitue, réifie ou modifie, le réel tout autant qu’elle est construite par ce dernier. Le monde social et l’IA en cela se co-construisent.

2 Afin d’appréhender la gouvernance de l’IA au prisme d’une approche intersectionnelle, nous commençons par démontrer que l’IA n’est pas neutre, notamment en l’appréhendant au prisme d’une approche intersectionnelle. Nous montrons ensuite que face aux enjeux et problématiques posés par l’IA différentes formes d’autorégulation sont déployées pour favoriser le développement d’une IA dite inclusive, non-sexiste ou égalitaire. Tout en analysant la manière dont ces instruments ouvrent un espace de négociation entre différentes instances dont les enjeux sont hétérogènes.

3 Cette recherche s’appuie sur dix-huit mois d'observations au sein de différents groupes de réflexions dont l’objectif est de produire des instruments d’autorégulation en matière d’IA au prisme du genre, que nous complétons par des entretiens compréhensifs auprès des personnes qui produisent ces instruments, afin de comprendre leurs représentations et intentions (Kaufmann, 1996).

4 Le terrain est rendu accessible grâce à la posture de recherche au sein d’une entreprise de télécommunication, structure dans laquelle différents acteurs et actrices s’interrogent sur les politiques et pratiques à mettre en place afin de favoriser une gouvernance de l’IA éthique, voire égalitaire. La recherche dans sa globalité interroge les dispositifs de gouvernance de l’IA mis en place par le secteur privé pour éviter la reproduction des inégalités et oppressions, ainsi que la manière dont ceux-ci se déploient dans l’organisation et les équipes techniques.

Matérialité de l’Intelligence artificielle : l’approche intersectionnelle pour sortir de l’apparente neutralité de la Technique

  • 2 Le terme « race » est utilisé dans un perspective critique, il est utilisé pour venir nommer : « un (...)

5 Pour commencer, la notion de genre est un préalable théorique, au prisme duquel nous appréhendons la Technique. Le genre fait référence à la construction sociale du sexe et du genre, des rôles et valeurs qu’on leur attribue socialement et qui ne relèvent pas de l’inné. Il est un processus de différenciation et de hiérarchisation (Kergoat, 2010). C’est un rapport de pouvoir à l’intersection de diverses formes de marginalisation et systèmes d’oppressions qui varient selon les contextes sociaux, géographiques et historiques. Il est avec les rapports sociaux : « multiples et déterminées simultanément et de façon interactive par plusieurs axes dorganisation sociale significatifs » (Bilge, 71). Notre approche est intersectionnelle et montre que l’articulation de plusieurs catégories telles que le genre, la race2, la classe, l’orientation sexuelle, l’âge, le handicap, et bien plus, renvoient à différentes expériences d’oppression et de marginalisation. L’intersectionnalité : « est une théorie transdisciplinaire visant à appréhender la complexité des identités et des inégalités sociales par une approche intégrée. Elle réfute le cloisonnement et la hiérarchisation des grands axes de la différenciation sociale » (Bilge, 70). Nous analysons de fait l’IA et ses dispositifs de (auto-)régulation en prenant en compte la co-construction et l’imbrication des rapports de pouvoir, qui avec ou à travers elle se jouent forcément aussi.

6 Ainsi l’IA, parce qu’elle n’est pas neutre, doit être entendue dans sa dimension matérielle, idéologique, institutionnelle et historique, dans une perspective qui permet de comprendre les conditions de production des rapports de pouvoir dans la technique (Cockburn, 1981). Cela renvoie au concept « dengendrement des choses » (Chabaud-Rychter et Gardey, 2002), d’engendrement des machines et systèmes qui constituent la technique. Le concept signale à quel point la technique est éminemment politique et sociale (Winner, 1980). De fait, elle est porteuse d’idéologies ; est une manière de réguler, de normer et d’ordonner le monde, en adoptant de la technique : « on adopte généralement de l’économique, du social et du politique » (Chabaud-Rychter et Gardey, 15). On sort ainsi d’une conception déterministe de la technique, de même que dune dichotomie entre technique et société pour penser le réseau qui façonne et mobilise : « toute la cohorte des non-humains qui constituent au même titre que les humains, notre espace social. » (Akrich, 128). Cette conceptualisation permet une critique féministe de la neutralité de la technique et souligne l’imbrication de celle-ci dans les rapports sociaux de sexe, de race et de classe. C. Cockburn avait d’ailleurs analysé le fait que le pouvoir masculin est maintenu grâce à une co-construction entre valeurs masculines qui constituent la technique et technique qui renforce la masculinité. Analyse confortée par le fait, qu’au XVIIe siècle, la construction de la figure du scientifique objectif et modeste vient renforcer la dichotomique entre : femmes/hommes, nature/culture et subjectivité/objectivité. Ce modèle a pour conséquence une absence des femmes, voire l’interdiction de leur présence dans les domaines scientifiques, ce qui marque durablement les sciences et techniques comme discipline masculine (Haraway, 1991). Cette construction des sciences et l’imbrication dans les artefacts et la technique des rapports sociaux impactent la construction du domaine, qui symbolise une certaine culture masculine.

  • 3 Bien que la diversité ne soit pas un gage d’égalité ou de non-discrimination.
  • 4 La capacité d’action est pensée en termes d’agentivité ou d’agency dans sa terminologie anglo-saxon (...)
  • 5 La parité de participation doit être entendue comme une des conditions nécessaires à la justice soc (...)

7 Le domaine technique, qui construit l’IA, par le manque de diversité3 qu’il représente, donne à voir des systèmes de pouvoir qui sont à l’oeuvre dans sa construction, mais aussi la diffusion de sa culture ou de ses usages. De fait, tout autant qu’elle diffuse les rapports sociaux liés au sexe, elle intègre également ceux liés à la race ou à la classe (Mohamed et al, 2020). Sans compter que le secteur d’activité technique est en majeure partie constitué d’hommes cis blancs (Chang, 2018 ; Collet, 2019). Cette diffusion d’une Technique constituée par et pour un groupe social, construit en tant que norme dominante, marginalise tout autre groupe qui devient autre ou outsider par rapport au domaine (Delphy, 2008 ; Sénac, 2019). Ces rapports sociaux divisés entre dominant.e.s détenant et construisant la Technique, et dominé.e.s la subissant, forme selon nous un « capital technique » dont chacun.e ne dispose pas de la même manière selon son groupe social. Le capital technique est perçu dans un sens bourdieusien de capital social, c’est-à-dire : « [les] ressources, pour accroître ou conserver leur position à lintérieur de la hiérarchie sociale et bénéficier de privilèges matériels et symboliques qui y sont attachés » (Méda, 36). Dans une perspective où la Technique est une forme de capital économique, culturel et social. Il s’agit alors pour les personnes d’obtenir des connaissances formelles et informelles de la Technique déployée, mais aussi de la possibilité pour elles.eux d’(inter)agir avec/sur cette Technique qui (leur) est imposée comme outil de gouvernance, d’organisation du monde et par affiliation des instances de pouvoir. Avec le développement transverse de la Technique l’absence de capital technique devient une impossibilité d’obtenir pour certain.e.s une participation dans la transformation des rapports sociaux, les privant d'une capacité d’action4 et d’une parité de participation5, et donc d'une justice sociale (Fraser, 2011).

  • 6 Réactualisant encore une fois une domination du Nord sur les Suds dans une démarche qui peut être q (...)
  • 7 Lorsque nous parlons de blanc.he.s, nous faisons référence aux travaux sur la blanchité. « Dans cet (...)
  • 8 Traduit de l’anglais « algorithmic coloniality » (Mohamed et al, 7).

8 Sans compter qu’une capitalisation des savoirs et des dires sur la Technique est exercée par les pays du Nord, qui peuvent alors imposer leurs idéologies sur ceux des Suds6. Cette imprégnation des rapports sociaux de race dans l’IA est notamment analysée dans l’article « Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence » de Mohamed et al, 2020. Il souligne la nécessité de penser l’IA selon une approche décoloniale pour ne pas invisibiliser et reproduire les rapports de domination des blanc.he.s sur les non-blanc.he.s7. Dans ce sens, l’IA prend la forme d’un néo-colionalisme — les auteur.rice.s parlent d’algorithmes néo-coloniaux8 — puisqu’ils favorisent : « the continuation of power dynamics between those advantaged and disadvantaged by the historical processes of dispossession, enslavement, appropriation and extraction » (Mohamed et al, 5). L’un des problèmes étant notamment que l’IA ignore les contextes locaux et souvent des Sud (Mohamed et al, 2020 ; Wong, 2020), produisant une analyse globale et normative de/par l’IA, ainsi « AI algorithms can quickly ingest, perpetuate and legitimise forms of bias and harm » (Mohamed et al, 2020). Il faut donc prendre en compte qui détient les savoirs, les faire et les dires de/sur l’IA, pour analyser comment et dans quelles mesures celle-ci réitère les rapports sociaux : « whereas in a previous era, the intention to deepen racial inequities was more explicit, today coded inequity is perpetuated precisely because those who design and adopt such tools are not thinking carefully about systemic racism » (Benjamin, 2019 cité par Mohamed et al, 4). De plus, le « capital technique » n’est pas qu’un savoir et un dire, mais c’est aussi un bien, soit la possibilité pour les uns de capitaliser les biens physiques et monétaires ou monétarisables de la Technique, et par affiliation de détenir le capital technique en tant que savoir, faire et dire (Foucault, 1977 ; Haraway, 2020). Ainsi : « ‘ICTs are not instruments for material gains alonebut can be understood as a new set of capabilities, and so a lack or limited access to ICTs is a form of capability deprivation’« (Cummings and O’Neil, 1). L’IA instruit des normes et (re)produit des schèmes de pouvoir, tout en favorisant la subordination de certains groupes. Son analyse au prisme d’une approche intersectionnelle rend compte de son impact macro-social, faisant d’elle une « matrice de la domination » (Bilge, 73), car elle est une forme d’organisation sociale, de système, mais aussi de son impact micro-social, producteur de « formes particulières […][d’]oppressions imbriquées dans lexpérience vécue des individus » (Bilge, 2009 : 73), entre autres en imposant des schémas normatifs globaux issus de groupes sociaux dominants.

  • 9 Traduit de l’anglais : « algorithmic oppression » (Noble, 2018)

9 Une des inquiétudes concernant l’IA provient notamment des biais qu’on trouve dans cette Technique, qui réitèrent, voire renforcent les inégalités, et peuvent aussi être entendus comme ce que S. U. Noble nomme des « oppressions algorithmique»9. On peut prendre l’exemple de COMPAS, système de définition des peines d’emprisonnement, utilisé aux États-Unis. Cette IA est critiquée pour son caractère raciste. En effet, elle attribue des peines plus lourdes pour les personnes racisées, car elle considère que leur risque de récidive est plus élevé que pour les personnes non-racisées. Le système s’appuie sur les peines données par le passé et automatise le racisme systémique.

10La prise de conscience de l’impact de l’IA sur les rapports sociaux pose la question des instruments déployés pour réguler cette Technique, les normes mises en place et les instances qui en dessinent les contours.

Quels instruments pour (auto)réguler les formes d’oppressions liés à l’IA ? : normes, négociations et limites

11 Suite à ce type de scandales, différentes organisations soulèvent le sujet d’une gouvernance de l’IA éthique. Ainsi depuis 2017, une multitude d’organisations travaille sur le sujet de l’éthique de l’IA (Jobin et al, 2019). Ces instances semblent vouloir venir en renfort d’un certain « vide juridique », bien que l’IA ne présente aucune particularité qui la dispenserait de répondre aux lois en matière de respect des droits et libertés fondamentaux, de traitement des données ou des lois contre les discriminations. Cette prolifération de recommandations, principes, chartes, lignes directrices laisse entrevoir des formes de négociations pour la gouvernance de l’IA. Dont la justice, la non-discrimination, l’égalité ou l’équité sont considérées comme l’un des piliers (Jobin et al, 2019).

12 Cependant, il reste à interroger en quoi consiste cette gouvernance éthique de l’IA ? Comment est-elle négociée et définie entre les différentes instances, pour quels effets, voire quelles limites ?

13 Si l’on interroge les effets des instruments d’autorégulation pour une gouvernance de l’IA éthique, on peut commencer par signaler que déterminer ou influencer cette gouvernance a des incidences sociales, politiques, économiques et juridiques. Ces négociations relèvent de ce que B. Latour nomme des controverses, au sens où elles permettent de définir ce qu’est l’IA éthique ou ce qu’elle devrait être, mais où les définitions publiées pour le moment sont très disparates (Jobin et al, 2019), et relèvent de processus de production de savoirs sur l’IA.

14 La gouvernance de l’IA est sujette à négociations, parce que la technique, sa construction, sa régulation et les usages qui en découlent sont imbriqués. Ces négociations peuvent prendre place entre les gouvernements ou organismes supranationaux, au travers de procédures de régulation ou encore au sein des organisations privées avec des formes d’autorégulation. Les instruments produits dans ce cadre s’apparentent à des énoncés de soft law ou droit souple et se caractérisent par une hétérogénéité de formes, mais aussi d’effets, bien que ceux-ci soient marqués par une diminution de la pression législative, passant du coercitif dans la hard law à du volontarisme avec la soft law. Ils constituent des normes en cours d’élaboration dont la « formulation est un enjeu crucial : il sagit avant tout de se mettre daccord sur ce quest la norme, ce quelle fait, et comment, donc, on peut la qualifier » (Sire, 54). Ces négociations pour la gouvernance de l’IA relèvent alors d’une forme de « gouvernementalité » telle que définie par M. Foucault (1977), parce qu’elles s’inscrivent dans des rapports de force pour définir/détenir : « linteraction de formes de savoir, de stratégies de pouvoir et de modalités de subjectivation. » (Lemke, 18). Cette notion permet d’appréhender deux approches complémentaires de la gouvernance de l’IA, en interrogeant la gouvernance de et par l’IA :

15- La gouvernance de l’IA analyse comment se met en place ce que A. Rouvroy et T. Berns nomme « gouvernementalité algorithmique », qui en dessine les contours et comment ils sont négociés entre les différentes instances,

16- tandis que la notion de « gouvernementalité algorithmique » appréhende la gouvernance par l’IA c’est-à-dire le fait que la numérisation de la société et le recours à l’IA dans toutes les strates de celle-ci devient une technique de gouvernement.

17Ces instruments produisent une circulation des idées et des concepts, rappelant ainsi ce que M. Foucault analyse avec la gouvernementalité, c’est-à-dire le fait que le droit n’est pas autopoïétique, mais s’inscrit dans un ensemble de pratiques et productions existantes, dans des négociations entre différents acteur.rice.s avec des enjeux hétérogènes. Ils font également transparaitre les intérêts économiques, étant donné que les instances du privé jouent un rôle croissant dans la production de ces énoncés et dans la définition des normes : « Private sector actors are responsive to and seek to develop commercial opportunities across national boundaries and are increasingly a part of the global system's mechanisms and dynamics of cyberspace control. […] their decisions can have major consequences for the character of cyber space and are examples of the growing exercise of private authority in world politics. » (Deibert et Crete-Nishihata, 340). Ce que l’on observe également sur la place du droit dans la gouvernementalité, puisque celui-ci au-delà de jouer un rôle d’ordre juridique et politique évident, joue également un rôle économique de par ce qu’il permet ou sanctionne, cautionne ou puni. Avec ces négociations, sous forme de production d’énoncé de soft law, et dont l’objet est de définir l’IA éthique, voire l’IA égalitaire, ce sont à la fois des enjeux sociaux, juridiques, politiques et économiques qui transparaissent.

18Dans le cadre de la recherche, nous avons observé l’apparition de trois instruments, en France, entre 2020 et 2021, qui ont pour objectifs d’éviter la production de discriminations ou inégalités par l’IA. Bien qu’ayant des objectifs similaires, ils ne procèdent pas de la même manière, n’ont pas les mêmes outils et n’utilisent pas les mêmes termes pour traiter de l’IA et du genre. Ces instruments sont :

  • 10 « Arborus Orange ». https://charteia.arborus.org/.
  • 11 Bureau Veritas France. « Gender Equality & Diversity for European & International Standard ». Consu (...)
  • 12 Idem.
  • 13 Idem.

19- la Charte internationale pour IA inclusive d’Arborus et Orange10 et le label GEEIS AI11. La charte stipule n’être qu’une première étape en vue d’un engagement de la structure signataire à se faire labeliser GEEIS AI. Le label certifie l’engagement et les actions menées par l’entreprise en faveur d’une « IA éthique et inclusive »12. Ce label vise « les politiques de ressources humaines en faveur de l’égalité des chances envisagées sous langle de lIA [et] représentent une étape de plus dans la construction dune stratégie inclusive et éthique. »13.

  • 14 « Le Laboratoire de l’égalité ? | Le laboratoire de l’égalité ». Consulté le 15 mars 2021. https:// (...)
  • 15 Idem.

20- Ensuite, le Pacte pour une intelligence artificielle égalitaire entre les femmes et les hommes du laboratoire de l’égalité14. Il s’agit d’un document dont l’objectif est d’interpeller les différentes instances publiques et privées des risques que présente l’IA en matière d’égalité femmes-hommes. Il propose des actions pour éviter que l’IA ne reproduise les inégalités, et pour faire de cette technique : « un moteur de l’égalité entre les femmes et les hommes »15. Il aborde la nécessité d’engager les acteurs de l’IA pour en faire une technique non sexiste et éthique, ainsi que l’importance de la mixité dans les métiers de l’IA.

21- et enfin Le Pacte « femmes et IA » pour une Intelligence artificielle responsable et non-sexiste par le groupe de travail « femmes et IA » du Cercle InterElles16. Les principes du Pacte reprennent particulièrement le vocabulaire de l’IA éthique et responsable, ce qui relève d’un glissement sémantique et conceptuel du champ de l’éthique de l’IA vers celui de l’IA au prisme du genre.

22 Ces instruments pour une gouvernance de l’IA au prisme du genre s’inscrivent dans l’ensemble de productions plus vaste sur la gouvernance éthique de l’IA mentionné auparavant. Ils constituent des instruments de négociation, de définitions et de normalisation de cette Technique.

23 Ils sont des formes d’autorégulation mises à disposition des instances utilisatrices et productrices d’IA, tout particulièrement du secteur privé. Les propositions s’inscrivent dans l’un des 11 principes d’éthique en matière d’IA relevés par Anna Jobin, et qui est celui de « fairness, justice and equity » (Jobin et al, 2019).

24 Les instruments contiennent des recommandations relativement similaires, bien que formulées différemment. Toutefois, les terminologies pour définir la gouvernance de l’IA au prisme du genre diffèrent. Les entretiens effectués auprès des personnes productrices de ces instruments révèlent que ces expressions recouvrent divers techno-imaginaires (Musso, 2020). Ainsi le Laboratoire de l’égalité préfère l’expression d’IA égalitaire, voire d’IA à l’éthique égalitaire, définie par une représentante, comme « une IA qui va intégrer les femmes dans tous les types de processus [...] au même titre que les hommes et sans aucune discrimination liée au genre. [...] une IA qui va être aussi tournée vers le durable et donc qui va être éthique ». Le Cercle InterElles parle d’IA non-sexiste, la représentante du groupe interrogée la définit comme : « une IA qui ne renforce pas les biais déjà existants dans la société et qui nen crée pas de nouveau et non seulement des biais, mais aussi des discriminations. [...] cest une IA dont la production et lutilisation ont été étudiées, dans lequel il y a une action pro-active pour éviter quelle le soit. ». Enfin, Arborus utilise le terme d’IA inclusive, qu’une des représentantes considère comme une IA qui : « ne laisse personne sur le bord du chemin. [...] qui va prendre en considération le fait qu’à compétences égales on ne va pas discriminer daucune façon. En même temps, une IA inclusive doit prendre en considération, si besoin est, des politiques stratégiques de ressources humaines. ». De plus, l’expression « IA inclusive » ne suppose pas qu’une appréhension du genre, mais inclusion signifie « quon va aussi parler de l’élimination potentielle quun logiciel pourrait faire sur le handicap, sur l’âge, sur ton origine, etc. Et donc linclusion est beaucoup plus globale ». On s’aperçoit de fait que les différentes structures utilisent des termes différents pour parler d’IA au prisme du genre et que celles-ci portent des philosophies, techno-imaginaires (Musso, 2020) différents et par affiliation des normes qui diffèrent. Ces organisations travaillent actuellement ensemble pour mieux comprendre leur complémentarité, ce qui rejoint le fait que ces instruments produisent des formes de négociations en vue d’établir des normes techniques, dont l’acceptation ou le rejet aura des conséquences sur la manière dont l’IA est conçue et évolue. La définition qui va être adoptée a un impact sur ce qui va ensuite être considéré comme juste. Elle porte des formalisations techniques de « justice » qui peuvent différer et donc définir quelle IA est qualifiée de juste ou non. Il a d’ailleurs été démontré par l’analyse des applications des différentes définitions de « Fairness » dans l’IA, que l’algorithme peut être considéré comme « fair » ou non en fonction de la définition choisie (Verma & Rubin, 2018).

25 De plus, la gouvernance de l’IA au prisme du genre telle que proposée actuellement par les organisations présente certaines limites. Ainsi les observations montrent que ces instances partent d’un même principe qui est que l’élimination des inégalités liées au genre produira une élimination des autres formes d’oppressions. Il s’agit d’une formalisation des inégalités cumulative ou additionnelle. Or il a bien été démontré que lorsqu’il s’agit de dépasser les inégalités, on ne peut les cloisonner ou les hiérarchiser, seule l’abolition de toutes les oppressions assure leur anéantissement et cette analyse est valable pour les oppressions algorithmiques (Hampton, 2021). Dans les instruments présentés, le traitement, dans un premier temps, du genre est perçu comme une « gestion des priorités » et le fait de traiter le genre dans la « diversité » est analysé comme un risque de « dissoudre » l’égalité femmes-hommes dans la diversité. Par ailleurs, le terme d’inclusion ne dépasse pas forcément cette approche cumulative puisqu’il suppose aussi une invisibilisation de la multitude des vécus dans une globalité. Une approche intersectionnelle des formes d’oppressions produites par l’IA est nécessaire et assure la prise en compte de tous les contextes et vécus, tout en mettant en lumière le fait que celles-ci sont systémiques. Ainsi dans la production d’instruments en faveur d’une justice sociale pour tou.te.s, une approche prenant en compte le genre comme « base » de production de l’oppression est insuffisante pour construire une « IA juste », l’approche intersectionnelle permet, elle, de comprendre : « que la domination est par nature intersectionnelle” : il ny a pas dadditionnelle viable » (Drolin et Bidet-Mordel, 6). Considérer ainsi la formalisation de l’IA assurerait une production juste de cette dernière, tout en garantissant qu’elle prend en compte les groupes marginalisés, la réalité de leur vécu, sans imposer une approche globale et globalisante qui ne ferait que perpétuer des formes d’oppression (Haraway, 2007).

26 Avec la multiplication des inquiétudes et alertes sur les risques que présente l’IA pour l’humanité et plus particulièrement pour les minorités et personnes historiquement marginalisées et subissant l’oppression, on semble avoir dépassé l’idée que cette technique serait objective. Au contraire, celle-ci est un reflet de la société et donc de ces rapports sociaux. L’IA perpétue la production de système d’oppression sans une attention particulière à la manière dont elle est développée et déployée. En réaction, de nombreuses recommandations sur l’éthique de l’IA ont été publiées, ainsi que des instruments dédiés à la gouvernance de l’IA au prisme du genre. Ces instruments font transparaitre les enjeux de pouvoir qui peuvent être imbriqués dans la Technique et l’importance qu’il y a à définir une gouvernance de l’IA pour différentes instances avec des objectifs hétérogènes. Les instruments proposés par trois organisations en faveur d’une gouvernance de l’IA au prisme du genre entrent dans ces formes de négociation et présentent des enjeux importants en matière de définition, de norme et de techno-imaginaires. Il est toutefois nécessaire de sortir d’une approche cumulative des inégalités et penser la complexité des expériences par une approche intersectionnelle qui permette d’abolir les oppressions algorithmiques.

Haut de page

Bibliographie

Agamben, G. (2014). Qu’est-ce qu’un dispositif? Editions Payot et Rivages.

Akrich, M. (1994). Comment sortir de la dichotomie technique/société. La Découverte. https://www.cairn.info/de-la-prehistoire-aux-missiles-balistiques--9782707123879-page-103.htm

Arsène, S., & Mabi, C. (2021). L’action publique au prisme de la gouvernementalité numérique. Reseaux, N° 225(1), 9–22.

Bachtin, M., Kolitcheff, I., & Bachtin, M. (1998). La poétique de Dostoiëvski. Éd. du Seuil.

Benjamin, R. (2019). Race after technology : Abolitionist tools for the new Jim code. Polity.

Berleur, J., & Poullet, Y. (2002). Réguler Internet. Etudes, Tome 397(11), 463–475.

Bertail, P., Bounie, D., Clémençon, S., & Waelbroeck, P. (2019). Algorithmes : Biais, discrimination et équité. Fondation ABEONA.

Bilge, S. (2009). Théorisations féministes de l’intersectionnalité. Diogène, 225(1), 70. https://doi.org/10.3917/dio.225.0070

Cardon, D. (2013). Politique des algorithmes : Les métriques du web. La Découverte.

Cardon, D. (2015). A quoi rêvent les algorithmes : Nos vies à l’heure des big data. La République des idées  : Seuil.

Chabaud-Rychter, D., & Gardey, D. (Eds.). (2002). L’engendrement des choses : Des hommes, des femmes et des techniques. EAC.

Chang, E. (2018). Brotopia : Breaking up the boys’ club of Silicon Valley. Portfolio/Penguin.

Cockburn, C. (1981). The Material of Male Power. Feminist Review, 9, 41. https://doi.org/10.2307/1394914

Collet, I. (2019). Les oubliées du numérique. le Passeur éditeur.

Cummings, C., & O’Neil, T. (2015). Do digital information and communications technologies increase the voice and influence of women and girls ?

Datta, A., Tschantz, M. C., & Datta, A. (2015). Automated Experiments on Ad Privacy Settings : A Tale of Opacity, Choice, and Discrimination. Proceedings on Privacy Enhancing Technologies, 2015(1), 92–112. https://doi.org/10.1515/popets-2015-0007

Deibert, R. J., & Crete-Nishihata, M. (2012). Global Governance and the Spread of Cyberspace Controls. Global Governance, 18(3), 339–361.

Delphy, C. (2013b). L’ennemi principal : vol. 2.Penser le genre (3e éd). Éditions Syllepse.

Dorlin, E. (2008). Sexe, genre et sexualités : Introduction à la théorie féministe (1. éd). Presses Univ. de France.

Dorlin, E., & Bidet-Mordrel, A. (Eds.). (2009). Sexe, race, classe : Pour une épistémologie de la domination. Presses Universitaires de France.

Doueihi, M. (2013). Qu’est-ce que le numérique ? Presses Universitaires de France. https://doi.org/10.3917/puf.doue.2013.01

Falquet, J., Hirata, H. S., & Kergoat, D. (Eds.). (2010). Le sexe de la mondialisation : Genre, classe, race et nouvelle division du travail. Presses de la fondation nationale des sciences politiques.

Foucault, M. (2001). Dits et écrits. 2 : 1976 - 1988. Gallimard.

Foucault, M. (2003). Surveiller et punir : Naissance de la prison. Gallimard.

Galerand, E., & Kergoat, D. (2014). Consubstantialité vs intersectionnalité ? À propos de l’imbrication des rapports sociaux. Nouvelles pratiques sociales, 26(2), 44–61. https://doi.org/10.7202/1029261ar

Guilhaumou, J. (2012). Autour du concept d’agentivité. Rives méditerranéennes, 41, 25–34. https://doi.org/10.4000/rives.4108

Hampton, L. M. (2021). Black Feminist Musings on Algorithmic Oppression. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 1–1. https://doi.org/10.1145/3442188.3445929

Haraway, D. J., Allard, L., & Gardey, D. (2007). Manifeste cyborg et autres essais : Sciences, fictions, féminismes. Exils.

Haraway, D. J., & García, V. (2020). Vivre avec le trouble. les Éditions des Mondes à faire.

Jaton, F. (2019). «  Pardonnez cette platitude  » : De l’intérêt des ethnographies de laboratoire pour l’étude des processus algorithmiques. Zilsel, N° 5(1), 315–339.

Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399. https://doi.org/10.1038/s42256-019-0088-2

Jouët, J. (2003). Technologies de communication et genre. Reseaux, no 120(4), 53–86.

Latour, B., & Biezunski, M. (2010). La science en action : Introduction à la sociologie des sciences. Découverte / Poche.

Lavergne, B. (2013). Recherche sur la soft law en droit public français. Presses de l’Université Toulouse 1 Capitole. https://doi.org/10.4000/books.putc.1866

Lemke, T. (2004). «  Marx sans guillemets  » : Foucault, la gouvernementalité et la critique du néolibéralisme. Actuel Marx, n° 36(2), 13–26.

Lum, K., & Isaac, W. (2016). To predict and serve ? Significance, 13(5), 14–19. https://doi.org/10.1111/j.1740-9713.2016.00960.x

Mazabraud, B. (2010). Foucault, le droit et les dispositifs de pouvoir. Cites, n° 42(2), 127–189.

Mazouz, S. (2020). Race. Anamosa.

Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI : Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence. Philosophy & Technology. https://doi.org/10.1007/s13347-020-00405-8

Musso, P. (2020). Le désir technologique de Dieu. Quaderni, n° 99-100(1), 113–124.

Noble, S. U. (2018). Algorithms of oppression : How search engines reinforce racism. New York University Press.

O’Neil, C., & Marty, S. (2018). Algorithmes, la bombe à retardement. les Arènes.

Ouabdelmoumen, N. (2014). Contractualisation des rapports sociaux : Le volet linguistique du contrat d’accueil et d’intégration au prisme du genre. université rennes 2.

Rouvroy, A., & Berns, T. (2013). Gouvernementalité algorithmique et perspectives d’émancipation : Le disparate comme condition d’individuation par la relation  ? Réseaux, n° 177(1), 163. https://doi.org/10.3917/res.177.0163

Sire, G. (2017). Gouverner le HTML. Reseaux, n° 206(6), 37–60.

Tatman, R. (2017). Proceedings of the First Workshop on Ethics in Natural Language Processing. Association for Computational Linguistics, 53–59.

van Zoonen, L. (1992). Feminist theory and information technology. Media, Culture & Society, 14(1), 9–29. https://doi.org/10.1177/016344392014001002

Verma, S., & Rubin, J. (2018). Fairness definitions explained. Proceedings of the International Workshop on Software Fairness, 1–7. https://doi.org/10.1145/3194770.3194776

Winner, L. (1980). Do Artifacts Have Politics  ? The MIT Press, 109(1, Modern Technology : Problem or Opportunity ?), 121–136.

Wong, P.-H. (2020). Cultural Differences as Excuses ? Human Rights and Cultural Values in Global Ethics and Governance of AI. Philosophy & Technology. https://doi.org/10.1007/s13347-020-00413-8

Haut de page

Notes

1 Nous empruntons la graphie à J. Ellul (1954). Elle se réfère au phénomène de production de la Technique dans son ensemble, tout en considérant celle-ci comme l’un des risques majeurs pour les libertés humaines. Nous intégrons l’IA dans cette terminologie.

2 Le terme « race » est utilisé dans un perspective critique, il est utilisé pour venir nommer : « un rapport de pouvoir qui structure, selon des modalités diverses en fonction des contextes et des époques, la place sociale assignée à telle ou telle groupe au nom de ce qui est censé être la radicale altérité de son origine. » (Mazouz, 2020).

3 Bien que la diversité ne soit pas un gage d’égalité ou de non-discrimination.

4 La capacité d’action est pensée en termes d’agentivité ou d’agency dans sa terminologie anglo-saxonne. Nous le définissons comme une : « capacité à agir par-delà les déterminismes qui font, disait Merleau-Ponty, « qu’il est agi par des causes hors de lui », sa capacité à se conformer certes, mais également celle de résister, de jouer et déjouer, de transformer. » (Guilhaumou, 12).

5 La parité de participation doit être entendue comme une des conditions nécessaires à la justice sociale telle que conceptualisée par N. Fraser (2004), qui allie redistribution et reconnaissance.

6 Réactualisant encore une fois une domination du Nord sur les Suds dans une démarche qui peut être qualifiée de post-coloniale.

7 Lorsque nous parlons de blanc.he.s, nous faisons référence aux travaux sur la blanchité. « Dans cette perspective, quand on utilise les expressions « personnes non blanches » ou « personnes blanches », on ne cherche pas à caractériser la couleur de peau, mais à désigner la position sociale que les unes et les autres occupe en fonction de la manière dont les processus de rationalisation opère dans un contexte particulier. » (Mazouz, 37).

8 Traduit de l’anglais « algorithmic coloniality » (Mohamed et al, 7).

9 Traduit de l’anglais : « algorithmic oppression » (Noble, 2018)

10 « Arborus Orange ». https://charteia.arborus.org/.

11 Bureau Veritas France. « Gender Equality & Diversity for European & International Standard ». Consulté le 17 mars 2021. https://www.bureauveritas.fr/besoin/gender-equality-diversity-european-international-standard.

12 Idem.

13 Idem.

14 « Le Laboratoire de l’égalité ? | Le laboratoire de l’égalité ». Consulté le 15 mars 2021. https://www.laboratoiredelegalite.org/qui-sommes-nous/.

15 Idem.

16 « FEMMES & IA : LE PACTE | ». Consulté le 22 mars 2021. http://www.interelles.com/femmes-et-ia/femmes-ia-les-chartes-ia-et-ethique-femmes-et-ia.

Haut de page

Pour citer cet article

Référence électronique

Julie Marques, « L’Intelligence Artificielle au prisme d’une approche intersectionnelle : entre négociations et définitions »Communication, technologies et développement [En ligne], 11 | 2022, mis en ligne le 15 février 2022, consulté le 28 mars 2024. URL : http://journals.openedition.org/ctd/7109 ; DOI : https://doi.org/10.4000/ctd.7109

Haut de page

Auteur

Julie Marques

Université Rennes 2, Laboratoire PREFICS

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search