Introduction

2Génériquement entendue, la notion d’éthique renvoie à une entreprise de type évaluatif, qui souvent coordonne trois dimensions : (1) la définition d’un sens qui apparaît éclairant pour l’action ; (2) le choix de valeurs considérées comme bonnes ; (3) la formulation de principes et de règles. La relation entre ces éléments permet de produire l’évaluation justifiée d’une décision ou d’une action. La forme de raisonnement conduisant à une telle évaluation peut différer entre des argumentations de type conséquentialiste (privilégiant l’examen de la relation entre les causes et les conséquences de l’action), déontologiste (mettant l’accent sur le respect de certaines règles), axiologique ou arétaïque (selon qu’elles privilégient la justification à partir de valeurs ou bien de la recherche de vertus) (Ogien & Tappolet, 2008). L’ambition de l’évaluation éthique peut également varier, selon qu’elle se borne à souligner ce qui apparaît risqué, nocif ou dangereux (limitation volontaire nommée « minimalisme moral ») ou qu’elle envisage d’améliorer la situation en fonction d’une valeur, par exemple le bien ou le juste (« maximalisme moral ») (Ogien, 2007).

3L’éthique de l’IA est l’éthique appliquée qui concerne l’évaluation des systèmes scientifiques, techniques et sociaux qui sont concernés par les algorithmes. Les auteurs et autrices qui œuvrent à cette tâche se distinguent tant par leurs angles d’approche de ce système que par leurs méthodologies variées, à tel point que les finalités de l’évaluation éthique de l’IA apparaissent également variées. L’impression diffuse face à l’abondante littérature académique consacrée à ces thématiques est même parfois celle d’une profusion peu organisée. Cet état de fait peut certes être provoqué par la nouveauté des inventions techniques dont traite cette littérature. Il est cependant permis de soutenir que cela est dû à l’objet que l’on cherche à évaluer, l’intelligence artificielle, terme qui de lui-même se présente de manière complexe et difficile à appréhender de manière univoque, voire unique. En effet, la notion d’intelligence artificielle comprend certes l’écriture du code informatique et la conception des algorithmes, mais également leur mise en œuvre à partir de capteurs de différentes sortes, cette association produisant des données mises en réseau par le biais du numérique (réseaux et plateformes). Doivent encore être ajoutées toutes les expressions robotiques qui en sont possibles, ce qui peut prendre des formes variées, qu’elles soient anthropomorphes ou non. L’expression « éthique de l’IA », si on veut l’entendre de manière complète, doit donc être entendue comme « éthique de l’IA, de la robotique, du numérique & de la donnée ». Il est possible, au vu de l’extension d’un tel domaine, que l’imprécision relative ou la sous-qualification actuelles de l’éthique de l’IA proviennent de la variété des phénomènes compris sous le terme d’intelligence artificielle.

4Si elles apparaissent variées, les recherches en éthique de l’IA ont comme finalité commune d’être menées par des instances savantes qui énoncent les conditions de l’évaluation éthique. Compte tenu de cette caractérisation, elles peuvent être appréhendées comme des « formations discursives » ou des « discursivités », par référence à la signification donnée par Michel Foucault à ces termes alors qu’il posait les bases de la relation qu’entretiennent savoir et pouvoir (Foucault, 1969, chapitre 2). Lorsqu’il l’a employée, Foucault semble avoir librement interprété une notion héritée de la linguistique (Maingeneau, 2011). Dans une perspective post-marxiste, il l’a orientée vers une nouvelle phénoménologie du pouvoir, susceptible de dépasser le point de vue individuel au profit de formes sociales, appelées « discours », qui dans tel ou tel domaine (par exemple le domaine académique), expriment l’autorité légitime, entrent en compétition en installant des formes de contrôle sur la réalité et tendent à revendiquer l’hégémonie sur les autres formes (Sommerer, 2005). Les formations discursives rassemblent des thèmes cohérents mais ne sont pas nécessairement homogènes, elles incluent même des « dispersions » et des « transformations liées et hiérarchisées » (Foucault, 1969, p. 52).

5Une telle approche fournit l’opportunité de concevoir les productions académiques en éthique de l’IA dans une perspective à la fois épistémologique, sociale et politique, et présente les discussions académiques comme autant d’expressions d’une volonté à la fois évaluative et prescriptive adressée à l’intelligence artificielle à partir de l’autorité de la science qui la produit, ou plus exactement à partir de celle des divers discours scientifiques accompagnant son développement. Se produit par ce processus la « fabrique conjointe des sciences et de la société » (Bonneuil & Joly, 2013).

6Nous soutenons plus exactement l’hypothèse que quatre types de formations discursives, irréductibles les unes aux autres, se partagent actuellement le champ de l’évaluation éthique de l’IA. Dans le développement de cet article, nous entreprenons de caractériser ces quatre formes de discours, avant d’examiner leurs relations. Il convient auparavant d’examiner la situation plus générale de ce qu’on nomme l’éthique de l’IA et d’identifier certains éléments de contexte dans lequel elle se déploie. Elle représente en effet un domaine encore mal qualifié en regard d’une attente sociale considérable, ce qui place cette entreprise dans une situation particulière. L’horizon social d’attente vis-à-vis des algorithmes, de la robotique, du numérique et des données peut en effet être qualifié de large et de profond. D’une part, il n’existe apparemment pas de domaines de l’activité ou de sphères de l’existence humaine qui puissent être préservées du développement de ces nouvelles technologies. De l’autre, ces dernières sont susceptibles de transformer profondément aussi bien ces domaines d’activité que certaines de ces sphères : le social comme l’intime peuvent en être bouleversés. La mobilité, la production et la distribution de l’énergie, la santé, la défense et la sécurité, la médecine et l’assistance aux personnes, les communications publiques et privées sont aujourd’hui déjà sous-tendues par ces technologies. En regard d’une telle ampleur, l’éthique appliquée à l’IA se donne pour tâche d’en garantir les usages non nocifs ou bons. On a récemment pu écrire qu’elle se trouve actuellement dans une situation comparable à la bioéthique à ses commencements, selon une analogie qui, aux yeux des experts, apparaît tentante et légitime mais rencontre certaines limites (Chatila, 2022 ; Froidevaux & Adda, 2022).

7En formulant l’hypothèse que la réflexion éthique relative à l’intelligence artificielle prend aujourd’hui quatre formes distinctes, nous entendons souligner que ces discursivités peuvent être identifiées comme les éthiques particulières qui s’en préoccupent. Ce sont les quatre discours suivants : la Computer ethics s’attache aux concepts et aux valeurs éthiques destinés à régir l’écriture informatique ; il s’agit de l’éthique du code ou dans le code. La Robot ethics ou Artificial ethics, également nommée « éthique algorithmique », vise la programmation des artefacts intelligents destinés à agir entre eux et en société. La Digital ethics entend réguler le numérique, qu’il s’agisse de la conception ou de l’usage des réseaux, des plateformes et des interactions permises par ces outils. Enfin l’éthique des usages de l’IA (que nous proposons de nommer UX AI ethics) est destinée à évaluer les expériences d’implémentation et de déploiement de l’IA dans les secteurs très variés de l’activité sociale où cette tendance se fait jour.

8Les quatre éthiques de l’IA correspondent à des types d’opérateurs différents, véritables parties prenantes (stakeholders) du « monde de l’IA », cette expression recouvrant une réalité sociale complexe, organisée, notamment, par la classification des savoirs académiques. La différence entre les formations discursives tient en effet pour partie à la division sociale du travail scientifique. L’éthique informatique concerne en effet les concepteurs du code, mathématiciens-informaticiens ; l’éthique artificielle, les roboticiens ; l’éthique numérique, les concepteurs des réseaux et des plateformes ; l’éthique des usages de l’IA voit les social scientists (sociologues, psychologues sociaux, philosophes de l’éthique, des techniques et de la politique, spécialistes des sciences de l’information et de la communication, du marketing, juristes) proposer des éléments de réflexion et de régulation à partir des productions (algorithmes, robots, réseaux et plateformes) conçues par les trois premières catégories d’acteurs. Du fait de cette sectorisation professionnelle, ces formations discursives peuvent être qualifiées de particulières. En entreprenant de les caractériser, on peut établir que les objets qu’elles se donnent, ainsi que les méthodes qui sont les leur, les rendent non seulement différentes, mais aussi fondamentalement irréductibles les uns aux autres.

Éthique informatique

9L’expression « éthique informatique » (Computer ethics) désigne le travail des mathématiciens-informaticiens, elle concerne l’écriture du code et se confond avec une double volonté exprimée par cette classe de savants et d’ingénieurs : d’une part, celle de comprendre et de maîtriser le fonctionnement leurs propres inventions ; de l’autre, celle de s’assurer de la non-dangerosité de ces dernières, de fournir une garantie de leur qualité pour un usage fiable.

11Les concepts les plus fréquemment employés dans la littérature informatique consacrée à l’IA sont utilisés non seulement comme tels, c’est-à-dire comme des idées caractérisées par une capacité de description des systèmes algorithmiques, mais également comme des valeurs (et dans le cas de la Fairness comme une vertu) qui permettent de les coder dans un sens éthiquement satisfaisant. Voici la liste des concepts très fréquemment employés :

• explicabilité (Explainability),

• interprétabilité (Interpretability),

• redevabilité ou capacité d’un système algorithmique à rendre des comptes (Accountability),

• transparence (Transparency),

• fiabilité (Trustworthiness),

• confiance (Trust),

• responsabilité, notamment dans l’expression Responsible Artificial Intelligence,

• équité (Fairness), souvent considérée comme une propriété attachée à l’algorithme.

12Une telle énumération peut déjà passer pour quelque chose de classique : elle constitue en effet la base notionnelle de l’abondante littérature aujourd’hui nommée Explainable AI (XAI) (voir par exemple Gunning et al., 2019 ; Vilone & Longo, 2021) qui vise à clarifier les notions déployées en éthique informatique dans le but de rendre compte et de comprendre de la démarche suivie lors de la conception des algorithmes. Or, en dépit de cet aspect de familiarité, elle appelle plusieurs commentaires. S’ils font aujourd’hui partie intégrante des éléments techniques du discours de l’éthique informatique, dans leur très grande majorité, ces concepts techniques possèdent également une acception courante. Comme celle-ci est intuitivement parlante, l’usage de telles notions est susceptible de produire deux effets. Le premier effet revient à créer de la confusion à partir des ambiguïtés qui existent entre la signification courante et la signification technique ; le second, pour les non-spécialistes de l’IA, est de faire perdre de vue leur signification technique, laquelle conditionne pourtant l’accès au sens que leur donnent les concepteurs de l’IA. Ce risque de confusion entre les acceptions courantes et techniques apparaît toutefois susceptible de provoquer en faveur des concepteurs de l’IA certains effets en termes d’image favorable. L’importante littérature actuelle en mathématique-informatique dédiée aux concepts éthiques pertinents atteste de la part des concepteurs et conceptrices d’algorithmes d’un notable souci : au moment où leur science connaît un développement important et où le déploiement de leurs créations dans les sociétés contemporaines engendre des attentes mais également parfois de l’inquiétude, autrices et auteurs s’emploient à produire des catégories et des argumentations garantissant le contrôle par la science des inventions technologiques.

13De plus, certains concepts de l’éthique informatique s’agencent en séquences organisées, dont certaines peuvent être présentées comme des modèles cohérents ; par exemple, celle de l’IA capable de « rendre des comptes » (en fonction des critères articulés dans ce qui est désigné par Algorithmic Accountability) (voir Diakopoulos & Friedler, 2016), ou d’une manière encore plus évidente, celle de l’« IA responsable » (Responsible Artificial Intelligence). Cette séquence est en effet souvent présentée comme le but ultime de l’éthique des algorithmes, car susceptible de se décliner en labels valables pour la diffusion certifiée ou garantie des inventions dans les secteurs très variés de l’activité humaine où le besoin s’en fait sentir. Faire passer ces séquences pour de véritables modèles complets est favorisé par le fait qu’elles sont elles-mêmes pensées d’après certains concepts cardinaux de la théorie morale et juridique (concernant par exemple la responsabilité) et de la philosophie politique (par exemple la reddition de comptes). Pour autant, l’usage de ces concepts par les informaticiens n’est pas (ou très rarement) explicitement référé à des doctrines philosophiques ou juridiques précises, pourtant susceptibles de leur apporter une plus grande cohérence épistémologique.

14Lorsqu’on porte attention aux concepts éthiques que se donne la science informatique, celle-ci peut légitimement passer pour une entreprise cohérente, qui se réalise via la conception et la maîtrise d’outils scientifiques et technologiques, les algorithmes, et également via les critères descriptifs et évaluatifs identifiés comme efficaces pour les concevoir et les réguler. Tout se passe avec une telle entreprise comme si l’informatique tendait à réaliser la mise en ordre optimale de ses propres concepts, à l’instar de ce que fut l’entreprise hégélienne de la « science de la logique » (Kervégan, 2012). L’examen de la notion d’explicabilité permet de formuler quelques hypothèses plus précises relatives aux finalités de cette démarche.

16L’explicabilité représente par conséquent un impératif dont se dotent les mathématiciens-informaticiens en vue de fortifier leur démarche. Envisagée ainsi, elle se confond avec une des tâches ordinaires de la science, tous secteurs considérés. En effet, la démarche scientifique s’attache toujours à expliquer et à maîtriser ses propres méthodes de recherche et entreprend d’identifier et de définir ses objets de la manière la plus précise possible (Popper, 1973). L’explicabilité engage donc la responsabilité des scientifiques vis-à-vis de leurs créations, si bien que l’éthique informatique, envisagée sous cet angle, tend à s’assimiler à la déontologie professionnelle des mathématiciens-informaticiens. Mais tandis qu’elle signifie l’effort et l’engagement de cette catégorie de savants, elle désigne également l’horizon de leur effort. En effet, même si l’explicabilité intégrale d’un algorithme ou d’un ensemble d’algorithmes s’avérait impossible (et alors même que l’apparition des réseaux neuronaux profonds (Deep Neural Networks) a de fait considérablement augmenté la complexité des systèmes techniques et la difficulté à comprendre le rapport entre les « entrées » et les « sorties » des algorithmes), on pourrait dire que l’explicabilité consiste en un engagement à favoriser son exploration.

17L’explicabilité recouvre de ce fait partiellement un autre critère de l’éthique informatique, celui de la « transparence » (Transparency). Cette notion représente une valeur particulièrement cohérente et forte, et requiert l’attention. Elle fait partie de ces notions à propos desquelles on peut remarquer que deux significations coexistent (la technique et la courante), et suggérer que la confusion possible entre ces deux significations renvoie à une ambiguïté intéressante. Entendue ainsi que le font les mathématiciens-informaticiens, la transparence paraît désigner la connaissance directe et intégrale d’un système algorithmique. Envisagée en regard de sa signification générale, elle renvoie à l’idéal éthique et politique du type de société, issu du mouvement philosophique des Lumières, où la science, qui éclaire les réalités du monde, joue un rôle fondamental afin d’éclairer l’opinion des citoyens, d’apaiser la peur liée à l’ignorance, voire de guider par son expertise les choix de société (Wheeler, 2019). La signification technique nourrit l’acception courante : la transparence comme accès direct et intégral au système algorithmique contribue à l’effet attendu de la science. En retour, cette dernière légitime la signification technique : comme pour toutes les sciences, celle de l’IA contribue au progrès de la connaissance et au bonheur de l’humain. Toujours est-il que l’explicabilité n’est pas la transparence. Il est même parfaitement possible que le périmètre des deux concepts ne se recouvre jamais, et même que la première soit irréalisable de manière intégrale, sans que cela modifie son importance en tant que principe régulateur de l’informatique.

18Il n’apparait nullement nécessaire qu’une définition homogène de l’explicabilité soit partagée par la communauté des informaticiens : les sous-ensembles variés qui composent celle-ci paraissent susceptibles d’admettre des définitions variées de la même valeur (Preece et al., 2018). Enfin, l’explicabilité peut être adoptée de manière purement réactive ou défensive de la part des concepteurs d’IA, inquiétés par le soupçon fréquemment exprimé de développer de véritables « boites noires » (Black Boxes) dont la compréhension du fonctionnement serait si difficile qu’elles contribueraient à l’opacité d’un système technique non maîtrisable de la part de ses propres usagers (Pasquale, 2015 ; Castelvecchi, 2016). En d’autres termes, si l’on évoque la déontologie des informaticiens, l’explicabilité ne regarde pas seulement la représentation que ceux-ci peuvent avoir de leur tâche ou de leur propre travail, elle engage également une forme du dialogue entre leur discipline et les non-spécialistes. En effet, d’une part, si elle demeurait inexpliquée ou s’avérait inexplicable, la performance même des algorithmes conçus par l’informatique inclinerait à considérer leur efficience comme une forme de magie (Campolo & Crawford, 2020). Par suite, avec le thème de l’explicabilité se joue en quelque sorte l’impératif pour les mathématiciens-informaticiens de demeurer scientifiques, tout en rassurant les non-spécialistes sur la dimension rationnelle de leur savoir. D’autre part, les « non-spécialistes » est une expression qui désigne tout à la fois les usagers courants des algorithmes, les clients d’applications informatiques et les citoyens des sociétés démocratiques, qui tous, au niveau qui est le leur, peuvent bénéficier d’un « droit à l’explication » que les institutions tentent actuellement de définir et de mettre en œuvre (voir par exemple, à propos de l’UE et du RGPD, Goodman & Flaxman, 2017).

20Au vu de ces considérations, l’éthique informatique apparaît dans ses démarches conséquentialiste, peu déontologiste et très partiellement arétaïque. En effet, les concepts de la Computer ethics permettent une forme d’évaluation liée aux effets, tant dans l’art de programmer des algorithmes qu’en ce qui concerne la correction des défauts constatés lors de leur déploiement. L’éthique informatique ne suit pas des règles prédéterminées, et n’applique l’évaluation par les vertus que dans un sens restreint, celui qui concerne la Fairness des algorithmes lorsqu’on l’envisage comme une propriété de ceux-ci. Ainsi, son ambition peut être qualifiée de « minimaliste » puisqu’elle ne vise nulle transformation de la réalité au-delà de cette action de correction des fonctions prévues pour les algorithmes créés.

Éthique algorithmique, robotique, artificielle

21Souvent, les expressions « Algorithmic ethics », « Robot ethics » et « Artificial ethics » regroupent les réflexions portant sur l’ensemble des questions qui concernent le statut (actuel et futur) des êtres artificiels et leurs relations entre eux, avec les humains et les autres êtres naturels (Bostrom & Yudkowsky, 2011). Cette perspective large inclut le questionnement déjà ancien sur la capacité d’un artefact à adopter un point de vue éthique (Versenyi, 1974), et recoupe l’interrogation sur le statut ontologique des êtres artificiels, ce qui inclut le questionnement sur leur désignation même (Dumouchel & Damiano, 2016). Ce secteur du travail académique concerne plutôt les réflexions méta-éthiques ou la théorie morale que l’éthique appliquée. Mais lorsqu’on les entend de ce dernier point de vue, elles désignent l’approche qui regarde la conception et la programmation des machines intelligentes (Veruggio & Operto, 2008 ; Chauvier, 2016 ; Gibert, 2021).

22Ces considérations initiales permettent d’affirmer que la tâche éthique ici envisagée implique les informaticiens et les roboticiens programmant des êtres artificiels, anthropomorphes ou non, actuellement partiellement autonomes. À ce titre, cette formation discursive prend appui sur l’éthique informatique, sans cependant pouvoir y être assimilée : ainsi qu’on a pu le souligner, l’éthique algorithmique « porte sur les « choix » des machines », c’est-à-dire, comme ces dernières ne sont pas douées d’une véritable autonomie (i.e. capacité à se donner à soi-même sa propre règle d’action), il s’agit de savoir « quels principes moraux implanter dans les voitures autonomes, les robots militaires ou les robots sexuels » (Gibert, 2021, p. 23). À l’heure actuelle, ce secteur du travail ne concerne pas l’éthique de la conscience artificielle, domaine plutôt orienté vers un dialogue entre l’informatique d’une part (Bengio, 2017), et la philosophie de l’esprit, du langage et de la cognition, de l’autre (Dehaene, Lau & Kouider, 2017). Et, s’il en paraît proche, il diffère cependant d’une autre thématique, elle-même topique dans la littérature sur les êtres artificiels aujourd’hui semi-autonomes, peut-être demains autonomes : celle dite du « droit des robots », s’attachant à déterminer quel statut (ou pour certains auteurs quelle personnalité) juridique doit s’attacher à cette classe d’êtres par la considération de concepts tels que la dignité et la personnalité (voir Nevejans, 2017 ; Gunkel, 2018).

23Bien qu’elle s’appuie sur le travail des informaticiens, l’éthique algorithmique, robotique ou artificielle (ARA) ne saurait donc purement et simplement être intégrée à l’éthique informatique. Sa particularité vis-à-vis de cette dernière tient aussi bien à la nature qu’à la fonction des objets qui sont soumis à ses évaluations. Les algorithmes qui composent un être artificiel sont en effet adressés à des tâches d’intérêt général ou privé dont l’éthique ARA a pour objectif qu’ils soient non-nocifs ou non-néfastes pour les humains. Sans même évoquer les robots anthropomorphes qui commencent à apparaître pour réaliser ces tâches, les êtres évoqués ici sont par exemple les agents conversationnels (chatbots), les véhicules autonomes et les drones de toutes les tailles, sous toutes leurs formes et dans toutes les dimensions possibles, les instruments domestiques éventuellement reliés entre eux sur le mode de « l’internet des objets » (IoT), enfin les terminaux numériques (devices) de plus en plus capables d’échanger des informations et même des points de vue avec leurs usagers. Le développement des réseaux de neurones et des techniques d’« apprentissage machine » (Machine learning) ont changé la donne quant à la capacité de ces objets à devenir actifs, sinon animés. Or, par leur activité, ils constituent autant d’êtres qui non seulement incluent des systèmes d’algorithmes, mais également interagissent avec les humains dans un rapport social. Ce ne sont donc ni des êtres de pur calcul, ni de simples objets techniques. Aussi gagne-t-on à les concevoir comme des dispositifs sociotechniques. Leur qualification ontologique progressive, à mesure du développement de leurs interactions avec le monde, tend d’ailleurs à faire évoluer le débat concernant le statut même des artefacts issus de l’algorithmique et de la robotique (Borelle, 2018).

25Toutefois, le succès mondial de cette expérience, son caractère populaire, ne suffisent pas à en valider les prémisses. S’il est possible d’interpréter l’usage de l’argument du tramway comme un aspect de la philosophie du risque appelée par le développement social des technologies nouvelles (Geisslinger et al., 2021), il est également permis d’émettre certaines réserves, en soulignant notamment que cette expérience mentale se trouve sous-tendue par plusieurs biais.

26D’une part, on peut formuler le soupçon que le dilemme du trolley tueur, s’il possède une certaine dimension descriptive de la situation d’urgence, revêt une portée éthique limitée. Si l’on attend d’une évaluation éthique qu’elle énonce la meilleure décision à prendre, l’interprétation extrémiste du conséquentialisme qui caractérise cet argument apparait appauvrissant pour le sujet traité. Il correspond en effet à une prise de décision « sous stress », profondément incapable de poser le débat d’une solution inspirée de principes éthiques tels que l’altruisme ou la considération de l’intégrité irréductible de toutes les personnes.

27D’autre part, il existe d’autres modèles d’argumentation éthique, dont on pourrait dire qu’ils sont déjà implicitement mobilisés par l’éthique ARA, appelés par le caractère de forte interaction des objets dont il convient d’évaluer l’action : les formes déontologique, axiologique et même arétaïque peuvent aisément fournir les bases pour des argumentations d’une certaine pertinence s’agissant d’artefacts insérés dans les relations sociales et humaines. C’est pourquoi la littérature critique dédiée aux manières d’appréhender les problèmes éthiques posés par programmation des véhicules autonomes grâce au dilemme du tramway apparaît aussi abondante que contrastée dans ses avis : véritable lieu d’affrontement, elle apparaît même fortement clivée entre les « Pro » (voir par exemple pour illustrer une telle position Keeling, 2020) et les « Contra » (voir par exemple Nyholm & Smids, 2016). Le débat apparait d’autant moins clos que certaines voies originales sont également tracées, non strictement éthiques mais relevant d’une problématisation de type politique, et susceptibles de le renouveler dans le sens d’une prise en compte des enjeux pratiques des développements technologiques – ce qui laisse entrevoir la perspective d’un certain « maximalisme », où la décision se voit adoptée en fonction non plus d’un calcul d’utilité privilégiant le raisonnement conséquentialiste, mais d’une idée du bien commun conjuguant le déontologisme des règles et l’axiologisme des valeurs (Rodríguez-Alcázar, Bermejo-Luque & Molina-Pérez, 2020 ; Brandle, 2021).

28Une manière fort différente de signifier la particularité irréductible de l’éthique ARA peut être formulée à partir de la considération de l’ambition ou de la hauteur de la tâche qui doivent être les siennes compte tenu de ses objets d’étude. Tout se passe en effet comme si cette formation discursive avait pour mission principale d’éduquer ces êtres à la fois artificiels, nouveau-nés et, selon une expression employée à propos des humains, « à fort potentiel » quant à leurs facultés de calcul. Or, pour l’espèce humaine comme pour toutes les espèces animales et vivantes, tout processus d’apprentissage ne passe pas seulement par le développement de ses seules facultés intellectuelles, mais également par la réussite du dialogue que ses membres entretiennent avec le monde, et, pour les espèces concernées par l’interaction sociale, par la réussite du processus de socialisation. Il est possible, dans une conception « interactionniste » de l’activité technique, de considérer que les artefacts (et parmi eux les êtres artificiels engendrés par la robotique) ne sont jamais dédiés à des tâches indépendantes de l’interaction sociale, mais qu’ils sont au contraire voués à effectuer des activités profondément dépendantes de celle-ci. Dans le cadre d’une telle philosophie de la technique, le processus d’apprentissage des êtres artificiels gagne à être envisagé comme une socialisation – même s’il s’agit d’une forme de socialisation spécifique, particulière à cette nouvelle espèce, qui peut parfois se trouver réduite à l’effectuation de tâches en lieu et place des humains.

29C’est pourquoi l’éthique ARA ne saurait se réduire à l’éthique informatique. La dimension de la socialisation introduit en effet des éléments tels que la prise en compte des relations humaines qui implique la nécessité du dialogue dans des situations complexes, ou encore l’interaction émotionnelle. Les expressions robotiques de l’IA sont d’ores et déjà en capacité de réaliser de telles interactions avec le monde alentour et avec les êtres naturels (humains et autres animaux), à la fois par la perception de leur environnement (via des capteurs proprioceptifs et extéroceptifs favorisant l’acquisition d’informations, telles que celles fournies par la reconnaissance biométrique), par la compréhension et le traitement du langage naturel, l’interprétation d’images et de représentations diverses, enfin par l’apprentissage supervisé et non supervisé. La machine acquiert d’ailleurs son efficience si et seulement si son apprentissage est aidé par la préparation humaine des données qui nourrissent l’autonomie dont elle est capable (Dumouchel & Damiano, 2016). Une « mauvaise éducation » consiste en un apprentissage supervisé mal réalisé, qui ressemble à une mise en société précoce et insuffisamment préparée. On dit par exemple des agents conversationnels développés sous « apprentissage machine » (machine learning) qu’ils sont capables d’« apprendre » et « s’éduquer eux-mêmes » de manière quasiment automatique. Véritables agents sociaux à la fois artificiels et non anthropomorphes, ils interagissent avec les humains au sein des pratiques sociales courantes.

30Ces simples faits technologiques apparaissent non seulement intéressants mais encore très importants pour l’avenir des relations humains-machines. Il y a quelques années (mars 2016), l'actualité internationale s’est émue de l’histoire étonnante mais logique de Tay (produit par Microsoft), cet agent conversationnel ayant en quelques dizaines d’heures exprimé des propos sexistes, antisémites et racistes au contact d’un réseau social (Twitter). Or, cet exemple fournit un véritable cas d'espèce qui invite à repenser l'éducation comme une question éthique et politique majeure : celle des artefacts semi-autonomes avec lesquels les humains évoluent d'ores et déjà, aussi bien que celle des humains au contact de ces derniers. L’éthique ARA, si on la saisit sous l’angle d’une de ses principales tâches contemporaines, vise à approfondir les enjeux éthiques et politiques de l’éducation des artefacts à partir de leur caractéristique d’êtres semi-autonomes (Wolf, Miller & Grodzinsky, 2017). La question qu’elle pose, envisagée sous cet angle, se formule ainsi : « comment concevoir philosophiquement la tâche éducative des humains à l’égard de ce genre de machines ? ». Si la considération de la « moralité artificielle » constitue une question examinée depuis un certain temps ayant donné lieu à des élaborations précises (Allen, Smit & Wallach, 2005), elle prend aujourd’hui un tour nouveau.

31Une des pistes en effet susceptibles d’être empruntée par l’éthique ARA consiste à prendre appui sur les modèles exposés par certains auteurs majeurs de la philosophie de l’éducation et de la pédagogie : par exemple celui proposé par Rousseau, dont l’ouvrage Émile ou De l’Éducation est exemplaire de la tentative d’une éducation conjointe à la sensibilité et à la démocratie, mais aussi ceux proposés par Montaigne, Locke et Dewey. Il convient aujourd’hui de tester ces modèles afin de savoir si et dans quelle mesure ils sont pertinents pour le problème de l’éducation des agents conversationnels, et éventuellement de les amender voire de proposer d’autres modèles pour ces nouveaux outils qui induisent des formes mentales originales, notamment à la lumière des apports de l’anthropologie des techniques (par exemple à la manière de Leroi-Gourhan, 1995). La philosophie traditionnelle de l’éducation se voit ainsi invitée à s’enrichir au contact des disciplines qui se sont donné pour tâches la compréhension de la relation entre l’humain et ses artefacts. Cette approche permettra également de préciser la notion d’« interaction » couramment employée : générique et préliminaire, elle semble devoir être précisée et philosophiquement approfondie dans le cadre d’une philosophie sociale plus complète, capable d’intégrer des êtres artificiels considérés comme une quasi nouvelle espèce.

Éthique numérique

33Même envisagée de manière restreinte, l’éthique numérique rencontre des problèmes variés qui relèvent des multiples dimensions dans lesquelles se déploie aujourd’hui internet. Schématiquement envisagés, ces problèmes apparaissent fort diversifiés. D’abord le déploiement du numérique par le biais des institutions à travers les plateformes visant l’accès des citoyens à l’État et plus généralement à la chose publique. Ensuite, le développement par les organisations privées de systèmes d’information destinés à leurs salariés qui subissent aujourd’hui la transformation digitale du management et du travail. Enfin, l’essor du numérique dans la société toute entière via les plateformes et les réseaux ouverts au public, notamment dans des conditions commerciales de fonctionnement (par exemple les problèmes qui émergent du fait de l’apparition du marketing digital). Par ailleurs, les risques éthiques nouveaux engendrés par la « santé connectée » ou « e-santé » constituent un cas de figure à part entière, où convergent des problématiques socio-techniques originales et d’autres, mieux connues, issues de la bioéthique.

34Concernant le déploiement du numérique au sein des institutions, une approche en termes de science politique apparait aujourd’hui nécessaire pour appuyer le dessein visé par l’éthique numérique. Cette approche permettrait en effet d’élucider la manière dont l’expertise algorithmique se trouve actuellement requise pour assister la puissance publique, voire pour « l’augmenter ». Ainsi qu’on l’a récemment souligné, le recours au numérique pour les tâches qui incombent traditionnellement aux institutions (de l’état-civil à la Justice, en passant par la sécurité, l’éducation, la gestion des ressources patrimoniales, etc.) transforme potentiellement le sens du service public et ouvre de ce fait un registre inédit de l’éthique publique (Ménissier, 2022). Devant une telle évolution, le conséquentialisme, dont l’ambition demeure toujours « minimaliste » en composant des calculs d’utilité créés ad hoc en fonction de chaque cas examiné, paraît devoir être complété par une approche davantage « maximaliste ». En effet, l’examen de ces questions implique des débats portant sur la possibilité d’adopter des règles générales (ce qui requiert les problématiques que la théorie morale nomme déontologistes) et de s’orienter d’après des valeurs (ce qui appelle les problématiques axiologiques et arétaïques) (pour une tentative en ce sens, voir Coeckelbergh, 2022).

35Concernant le déploiement des algorithmes dans les systèmes d’informations des entreprises, les transformations du travail (télétravail, management digital) correspondent à une augmentation des risques psycho-sociaux (RPS) qui relève elle aussi, mais sous un angle de vue différent, du champ de l’éthique numérique (dimension notamment soulignée par Spach, 2020). Sur cet aspect également, puisque la forme de raisonnement requise concerne la dimension sociale des conditions de travail, les éthiques déontologiques et axiologiques relaient le conséquentialisme.

36La même remarque peut être faite concernant l’essor du numérique dans la société au sens large, où il est possible d’appréhender la situation par référence à la thématique de « l’économie de l’attention », qui évoque la captation des humains par les médias électroniques et par les firmes commerciales sur des réseaux et des plateformes, devenus des lieux de consommation intensive (Kessous, Mellet & Zouin, 2010 ; Citton, 2014).

37On peut enfin remarquer que la caractérisation de l’éthique numérique révèle l’importance de certaines valeurs qui, si elles ne sont pas absolument spécifiques (car on les retrouve dans les autres formations discursives de l’IA), peuvent dans ce cas être considérées pour elles comme cardinales. Dans l’usage lato sensu du numérique, peuvent être appréhendées de la sorte la transparence, l’inclusion et le respect des données personnelles (Privacy). Dans l’usage institutionnel qu’en font les instances publiques (services de l’État, collectivités territoriales), les valeurs engagées peuvent être qualifiées de républicaines (car elles reposent sur l’idée d’une chose commune non appropriable par les individus particuliers, le service public). Enfin, dans son usage commercial ou dans le secteur de la santé et des soins, peuvent être ajoutées l’autonomie des consommateurs et le respect de la vulnérabilité des personnes. Sont mobilisés ici des valeurs fortes et substantielles, i.e. reposant sur une idée du bien qui n’est pas relative comme c’est le cas dans les raisonnements conséquentialistes. Ces valeurs s’apparentent aux vertus visées par l’approche arétaïque. Dans son principe même, en dépit des critiques exprimées par les tenants du minimalisme moral, l’éthique du numérique pensée d’après la recherche des vertus semble donc parfaitement pertinente pour l’évaluation envisagée sous cet angle (voir à ce propos Vallor, 2016).

Éthique des usages de l’IA

38Ce que nous identifions comme l’éthique des usages de l’IA (que l’on peut également nommer, par référence à la thématique dite « user experience », UX AI ethics) complète les trois autres formations discursives, attachées à la conception et au déploiement des dispositifs technologiques issus de l’algorithmique, de la robotique et du numérique. Bien que les trois premières éthiques de l’IA ne soient pas sans prendre en compte le point de vue des usagers, ce type d’évaluation en voie d’émergence est susceptible de délivrer des résultats qui ne se réduisent pas à ceux des trois premières.

39L’éthique des usages de l’IA s’assigne en effet trois tâches qui la rendent originale. Il s’agit pour elle, premièrement, de déterminer les finalités et les valeurs de l’IA par la considération de l’emploi des systèmes d’algorithmes à travers l’observation méticuleuse de cas d’usages (Use Case) ; deuxièmement, de comprendre les conditions (psychologiques, économiques et politiques) fondatrices de ces usages ; troisièmement, d’accompagner et d’évaluer la redéfinition de l’activité humaine impliquée par l’adoption des systèmes d’algorithmes. Il peut s’agir à ce troisième niveau de l’observation des besoins humains ainsi que celle de leur mise en forme sociale et leur symbolisation, en fonction de cette question méthodologiquement adressée : dans un monde où l’activité est confiée à des systèmes de calcul et d’effectuation automatique des tâches, qu’est-ce qui fait sens pour être et demeurer humain, ou pouvoir encore s’identifier comme tel ? Décrite de la sorte, l’éthique des usages de l’IA repose sur le travail scientifique d’une autre classe de savants : sociologues, anthropologues, politistes, philosophes, tous spécialistes de sciences humaines et sociales (social scientists).

41On peut aisément remarquer que du point de vue de l’éthique des usages, la confiance ici évoquée comme une condition fondamentale n’est nullement réductible à la « fiabilité » des algorithmes revendiquée comme une valeur de base par la computer ethics. Fort différente, elle renvoie à un affect global dont les modalités sont complexes et qui se décline en fonction des attentes explicites et implicites des sujets à l’égard de la réalité sociale dans laquelle se déploie le système technique (Taddeo, 2010 ; Coeckelbergh, 2012). Pour l’UX IA ethics, il apparaît en rigueur de termes difficile de qualifier de « valeur éthique » la notion de confiance, car elle constitue plutôt un des soubassements indispensables pour évaluer si un usage est conforme à des valeurs éthiques. On peut estimer ainsi que la confiance, ainsi que son double la méfiance, permettent de qualifier le fond diffus d’attente sociale, tout en clair-obscur, sur lequel se déploie l’implantation des nouvelles technologies (Reigeluth, 2022).

42La démarche méthodologique propre à l’éthique des usages de l’IA peut être qualifiée en regard de certains standards de théorie morale qui assurent la démarche de l’éthique appliquée lorsqu’elle vise à dépasser le minimalisme utilitariste tout en faisant preuve de prudence (voire d’une certaine réserve) quant au caractère objectif ou à la nature substantielle des valeurs. Elle s’apparente ainsi à la théorie de « l’équilibre réfléchi » (Reflective Equilibrium), démarche anti-fondationnaliste et cohérentiste formulée par John Rawls (Rawls, 1999, pp. 47-48, 72-75 ; Daniels, 1996 et 2003), qui consiste en un va-et-vient entre quatre niveaux distincts : (1) la prise en considération des jugements éthiques « dominants » sur des cas concrets, inspirés, de la part de ceux qui les portent, par leur culture et leur intuition ; (2) l’observation scrupuleuse des cas, amplifiée par leur description minutieuse ; (3) l’identification des principes éthiques généraux qui régissent les jugements ; (4) la réflexion des facteurs d’acceptation de ces principes (tels par exemple que la confiance dans l’IA). Rapportée à une éthique des usages, la théorie dite de l’« équilibre réfléchi » présente le mérite d’être dynamique : elle fournit, du fait de son caractère itératif, un canon permettant sinon de forger, du moins de renforcer le jugement éthique, jamais totalement considéré comme définitif, lors de chacune des tentatives d’évaluation.

44En donnant la parole aux usagers, l’UX AI ethics déplace le centre de gravité de la décision éthique. Ce déplacement provoque plusieurs déséquilibres qui enrichissent l’éthique de l’IA. D’une part, la hiérarchie des valeurs fondatrices de l’éthique de l’IA se trouve modifiée : celles qui se situent à l’interface entre le déploiement des systèmes d’algorithmes et sa réception dans des contextes sociaux complexes peuvent alors être considérées non plus comme secondaires, mais véritablement cardinales. Ainsi la notion d’équité (fairness), simple vertu des algorithmes dans la définition qu’en donnent couramment les concepteurs de l’IA (Computer ethics), devient, dans une approche par les usages visant une évaluation éthique, une valeur principale, bien que redoutable à préciser (Selbst et al., 2019). De l’autre, ces valeurs se trouvent redéfinies par le travail d’évaluation : précisément puisque que les contextes d’implémentation de l’IA sont sous-tendus par des formes avérées de domination sociale (voir à cet égard Fuchs, 2014 ; Casilli, 2019), cette notion d’équité (fairness) peut être l’objet de véritables conflits de définition, l’enjeu de sa caractérisation est susceptible de devenir un lieu de tension entre les parties prenantes.

45Ces conflits et cette tension n’apparaissent pas seulement intellectuellement intéressants, ils sont également tout à fait importants, dès lors que l’on se montre attentif aux promesses de l’implémentation des systèmes d’algorithmes dans la société. L’horizon d’attente envers de tels systèmes, promus tant par leurs concepteurs que par leurs prescripteurs (autorité publique, responsables des organisations privées) est en effet présenté comme celui de sociétés certes assistées mais aussi, au moins implicitement, améliorées par de l’IA. Dans un tel contexte, il est permis de soutenir que le débat éthique débute lorsque de tels conflits de valeur sont rendus visibles, car ils constituent l’occasion de se demander explicitement et publiquement si et comment il est pertinent d’assister les pratiques sociales à l’aide de telles technologies, en fonction du point de vue varié des parties prenantes. Ainsi les systèmes d’algorithmes se voient confrontés aux différents « terrains » où ils vont être implémentés. Et la prise en compte de la possible résistance à l’implémentation constitue un facteur important dans le débat éthique « maximaliste » qui, dans ce cas, porte sur la définition de la société souhaitable. En ce sens, la démarche de l’UX AI Ethics implique que l’évaluation éthique soit complétée par des procédures qui évoquent la participation des parties prenantes et les formes de la délibération politique.

46Tels qu’ils sont observés puis réfléchis par cette formation discursive, les usages de l’IA sont transformés en véritables cas d’usage (Use case), et possèdent à ce titre une valeur heuristique. C’est-à-dire qu’ils sont susceptibles de revêtir de l’importance pour un savoir qui procède par l’examen des cas topiques pour des secteurs variés, tels que la défense et la sécurité, l’environnement, la mobilité, la santé, la justice – autant de domaines où se déploient actuellement des systèmes d’IA d’une variété presque inquantifiable. Un des points d’alerte soulignés (O’Neil, 2016 ; Crawford, 2021) tient en ce que, étant produits par le travail de programmateurs vivant dans des mondes sociaux traversés par des valeurs implicites, dans la banalité de leur tâches courantes ces systèmes enregistrent des données et peuvent prendre des décisions régies par des choix de valeurs qui ne sont pas neutres et ne peuvent aucunement l’être.

Conclusion : les relations entre les éthiques de l’IA

48Il est possible, pour résumer notre démarche, de présenter de manière synthétique les quatre éthiques de l’IA sous la forme d’un tableau (tableau 1).

Tableau 1 : tableau synthétique des éthiques de l’IA

Genre d’éthique	Opérateurs	Type de tâches effectuées	Principaux effets éthiques visés	Premières vertus cardinales
Éthique informatique	Mathématiciens-informaticiens	Concevoir l’IA/écrire le code en fonction de valeurs éthiques	Clarifier le système technique	Explicabilité Transparence
Éthique artificielle	Roboticiens, psychologues (cliniques & sociaux)	Concevoir les artefacts robotiques en étant attentif à l’interaction humains-machines	Socialiser les artefacts dans un sens éthique (civiliser)	Sécurité (non-dangerosité des artefacts) Civilité
Éthique digitale	Concepteurs de réseaux et de plateformes, data analysts, managers	Concevoir les réseaux et plateformes en veillant à les socialiser et à les rendre civils	Rendre les réseaux et plateformes à la fois inclusif et respectueux de la vie privée	Accessibilité, respect de la vie privée (Privacy), civilité
Éthique des usages de l’IA	Designers, prescripteurs & usagers, social scientists	Observer & analyser des cas d’usage afin que les pratiques sociales assistées/augmentées par des systèmes d’IA obéissent à des valeurs démocratiques	Identifier des usages de l’IA conformes aux valeurs démocratiques, accompagner par l’éthique la transformation technologique des pratiques sociales	Premières valeurs de la démocratie : autonomie, inclusion, équité (définie selon les diverses théories de la justice)

Source : Thierry Ménissier.

49Si les éthiques particulières visent toutes les quatre, de manière parfaitement explicite, à permettre une évaluation de l’intelligence artificielle, elles diffèrent toutefois les unes des autres par plusieurs aspects notables : leurs méthodologies sont variées ; les hiérarchies de valeurs et les valeurs cardinales qui guident l’évaluation ne sont pas tout-à-fait identiques ; les finalités particulières qu’elles poursuivent (en fonction du type de travail précis auquel elles s’emploient) peuvent être distinguées les unes des autres.

50Ces différences s’expliquent par trois sortes de raisons. Des raisons qui tiennent à l’objet étudié, d’abord : leurs orientations respectives traitent certains aspects particuliers du phénomène global (à la fois scientifique, technique et social) génériquement nommé « IA ». Des raisons liées aux moyens engagés pour mener à bien la tâche, ensuite : elles reflètent des spécificités issues de « métiers » variés, à savoir, respectivement à chaque formation discursive décrite plus haut : les informaticiens ; les roboticiens ; les data analysts et les managers digitaux ; les designers des usages (dans le cadre de l’User Experience ou UX), les usagers et les social scientists. Des raisons qui relèvent enfin des « donneurs d’ordre » sur les différents segments de la production du phénomène socio-économique IA : laboratoires de recherche informatique et robotique (qu’ils soient publics ou privés) pour les deux premières formes d’éthique ; développeurs des plateformes et des réseaux numériques pour la Digital Ethics ; « Labs » d’usages développés par des grands groupes industriels, des services publics (État, collectivités territoriales, services d’innovation ouverte des hôpitaux, etc.) ou par des associations et des organisations non gouvernementales (ou Think tanks) pour l’UX IA design.

51Cette situation de segmentation est intéressante sur le plan épistémologique, car elle apparaît pertinente pour entendre, concernant chaque formation discursive, le type de démarche et la nature de la connaissance produite. Sur le plan factuel, elle induit certaines conséquences importantes. Les quatre éthiques n’ont que peu tendance à collaborer. Une telle conséquence peut apparaître préjudiciable à la fin qu’elles poursuivent (à savoir, génériquement entendue, réguler éthiquement la conception et le déploiement de l’IA), compte tenu notamment de la profondeur et du caractère systémique de ce déploiement. Une des raisons de cet état de fait concerne la méthodologie des approches éthiques : les secteurs du travail scientifique examinés dans cette contribution relèvent de métiers qui reposent sur des savoir et des savoir-faire différents. Le choix de méthodologies de type conséquentialiste, déontologique ou axiologique-arétaïque reflète cette division. Il est possible qu’une autre raison de cet état de fait provienne de l’ambition respective des approches : sur le spectre des éthiques de l’IA, il existe une tension entre le « minimalisme » de l’éthique informatique (visant à limiter les nuisances possibles provoquées par les artefacts) et la tendance « maximaliste » de l’éthique des usages de l’IA (invitée à se prononcer sur le caractère éthiquement pertinent de telle ou telle implémentation de systèmes d’IA dans la réalité sociale). Or, la littérature atteste de la difficulté à faire agir ensemble des discours éthiques divergents quant à leur ambition (Ogien, 2007 ; Ogien & Tappolet, 2008 ; Billier, 2010).

52On peut également formuler l’observation que les éthiques particulières sont caractérisées par une forme d’ambiguïté mutuelle : bien qu’il n’existe pas réellement de dialogue entre elles, il est impossible qu’elles s’ignorent complètement. On peut ainsi observer certaines évolutions significatives par rapport à leur situation respective. Ainsi, compte tenu de l’importance des usages et des valeurs sociales implicites dans le monde où s’implémentent les systèmes algorithmiques, émerge depuis quelques années une orientation de la Computer ethics désignée comme Value Sensitive Design (VSD). Cette orientation vise à rendre possible la conception d'algorithmes sensibles aux valeurs sociales et mobilise pour y parvenir le co-design des parties prenantes (Zhu et al., 2018 ; Umbrello, 2019). Cela constitue un pas vers une évaluation éthique plus complète, caractérisée par une circularité méthodique entre d’une part la conception des artefacts et de l’autre la prise en compte des usages sociaux et culturels, envisagés comme ce qui confère à ces derniers leur sens complet.

Cet article est le fruit du travail scientifique qui est mené dans le cadre de la chaire « éthique & IA » soutenue par l’institut pluridisciplinaire en intelligence artificielle MIAI@Grenoble Alpes (ANR-19-P3IA-0003).