1L’implantation des systèmes d’intelligence artificielle (SIA) dans le milieu de la santé permet d’énormes possibilités et avantages, mais elle s’accompagne aussi d’importants enjeux éthiques tels que les risques d’atteinte au consentement libre et éclairé, à la vie privée, de biais discriminatoires, d’utilisation de données à d’autres fins, d’incertitudes à savoir ce qu’on peut faire ou ne pas faire avec les données, etc. Ces préoccupations se sont traduites par différents rapports visant à définir les cadres normatifs et les principes moraux qui devraient orienter et baliser les enjeux éthiques de l’intelligence artificielle (IA). Effectivement, les rapports abordant l’éthique de l’IA pullulent, tant du côté de l’industrie que des gouvernements, des associations, des organisations non gouvernementales, des universitaires, des centres de recherche, etc. (Jobin, Ienca et Vayena, 2019 ; Fjeld et al., 2019). Nous avons connu l’ère de la course au cadre normatif en IA (Morley et al., 2019).
2En analysant cette multitude de rapports sur le sujet, il appert que la majorité des principes éthiques définis s’avèrent finalement similaires et consensuels, tels que : la non-discrimination, l’équité, la transparence, l’explicabilité, la responsabilité, la reddition de compte, la sécurité, le respect de la vie privée, des valeurs et de la dignité humaine. Certes, toutes ces directives en termes de principes éthiques répondent au nécessaire besoin d’établir un cadre normatif afin de déterminer la façon dont nous allons appréhender ces nouveaux enjeux éthiques et sociétaux. Toutefois, plusieurs chercheurs en éthique de l’IA notent l’urgence d’un nécessaire passage de la théorie à la pratique en éthique de l’IA en organisation, de la nécessité de bâtir des ponts entre le « quoi » en matière d’éthique de l’IA et le « comment » (Morley et al., 2019 ; Stahl et al., 2022).
3En effet, comment les organisations du domaine de la santé peuvent-elles passer des principes à la pratique en matière d’éthique de l’IA ? Cette contribution théorique vise à amorcer un « tournant vers la pratique » en matière d’éthique de l’IA en organisation, notamment dans le domaine de la santé.
4Pour ce faire, je ferai d’abord une recension certes non exhaustive des différentes grandes traditions en éthiques organisationnelles, en me concentrant sur les avantages et inconvénients de chacune d’entre elles, dans l’idée de combler le fossé entre la théorie et la pratique en matière d’éthique organisationnelle liée aux enjeux liés à l’implémentation des SIA, notamment en santé. Ensuite, endossant une vision pluraliste et pragmatique de l’éthique, je suggère d’introduire l’approche de l’éthique de l’IA comme pratique, comme le practice turn (Whittington, 2006 et 2007 ; Langley, 1999) a fait évoluer les théories en stratégie. Ce faisant, j’avancerai le concept de processus de construction et de partage de sens éthique (Gioia et Chittipeddi, 1991) des acteurs du milieu face au nouveau contexte que sont l’implantation et l’adoption des SIA. Ainsi, je soutiens une perspective dynamique et en évolution de l’éthique.
5Les pratiques et programmes d’éthique organisationnelle peuvent s’appuyer sur différentes traditions morales, paradigmes, logiques, ou idéologies organisationnelles. Je discuterai ici de leurs avantages et inconvénients en matière d’opérationnalisation, en contexte d’adoption des SIA dans le secteur de la santé.
6Mais que faut-il entendre par pratiques et programmes d’éthique organisationnelle ? Quelques éléments de définition s’imposent. Ainsi, je retiendrai les définitions établies par Joé T. Martineau, Thierry C. Pauchant et Maryse Tremblay :
Nous définissons une pratique d’éthique organisationnelle comme toute règle, politique, procédure, processus, outil de gestion, activité, stratégie, structure ou institution visant à accroître la conscience et le comportement éthique dans une organisation, tant au niveau individuel, collectif ou stratégique (2017).
7Ces mêmes auteurs définissent les programmes d’éthique organisationnelle comme l’ensemble des pratiques d’éthique implémentées dans une organisation donnée (2017).
8La littérature au sujet de l’éthique organisationnelle a connu une forte croissance au cours des trente dernières années (Loe, Ferrell et Mansfield, 2000 ; O’Fallon et Butterfield, 2005). Celle-ci révèle un certain dualisme entre les approches (ou logiques dominantes) de conformité versus les approches valeurs et intégrité (Martineau, Pauchant et Tremblay, 2017; Paine, 1994 ; Weaver et Treviño, 1999), entre les approches normatives versus descriptives (O’Fallon et Butterfield, 2005) ou encore entre les approches normatives versus positives (Loe, Ferrell et Mansfield, 2000 ; Cavanagh, Moberg et Velasquez, 1995). Les modèles positivistes décrivent ce qui se passe actuellement en organisation, alors que les modèles normatifs s’intéressent à ce qui devrait se passer.
9En effet, l’éthique organisationnelle s’enracine dans la philosophie morale, notamment dans la tradition téléologique avancée par Jeremy Bentham et John Stuart Mill, selon lesquels un acte est jugé éthique en fonction de ses conséquences et finalités. Elle trouve aussi sa source dans la tradition déontologique kantienne, où le devoir, la prescription de ce qui est moralement acceptable sont évalués selon la conformité avec des règles, des principes moraux « universels » établis (Shanahan et Wang, 2002). Je me pencherai ci-après sur cette grande tradition normative.
10Le déontologisme prend racine au sein de la théorie formaliste et de la philosophie morale, défendue par Immanuel Kant. Père des théoriciens des droits moraux, Kant estime que les droits moraux se justifient en soi et qu’ils se fondent sur la liberté et la rationalité. Ainsi, il préconise que la moralité repose sur un impératif catégorique, donc inconditionnel, soit un principe d’universalité, soit des règles ou principes régissant une action qui peuvent être universalisés (Cahn, 2011). De plus, le déontologisme a le mérite de mettre l’accent sur le concept d’intention et la valeur morale des actions.
11La littérature mobilisant cette tradition n’a pas échappé à la critique soulignant son manque de pragmatisme, soit la difficulté de passer de la théorie à la pratique (knowing-doing gap) (Martineau, Pauchant et Tremblay, 2017 ; Hauser, 2020). Cela étant dit, l’approche des principes, que nous pouvons associer à la déontologie kantienne, s’avère très populaire en éthique de l’IA.
12En fait, le terme « déontologie » a été introduit par Bentham (1834), qu’il définit comme la « science du devoir ». Toutefois, la notion de déontologie établie par Bentham (convaincu que la nature profonde des êtres humains est d’être égoïste) est différente de celle généralement attribuée par la philosophie morale, en référence aux vues de Kant (Martineau et Pauchant, 2020). Bentham est, avec Mill, l’un des pères fondateurs de l’utilitarisme. En effet, la tradition téléologique avancée par Bentham (1834) souligne qu’un acte est jugé éthique en fonction de ses conséquences et finalités (conséquentialisme).
13Ainsi, c’est donc le côté légaliste et contrôlant de la déontologie telle que proposée par Bentham, la déontologie légaliste donc, qui a inspiré l’approche de la conformité, celle qui s’avère la plus implantée en entreprise, notamment par des approches et pratiques de conformité cherchant à réguler les comportements, tels que l’établissement d’un code d’éthique, assorti de mesures de contrôle et de sanctions, sur lequel s’appuie notamment la déontologie médicale. Toutefois, plusieurs études ont dévoilé le peu de corrélations positives entre l’instauration d’un code de conduite et des pratiques organisationnelles plus éthiques (Pauchant et al., 2007 ; O’Fallon et Butterfield, 2005), s’il n’est pas assorti de facteurs contribuant à son effet positif (intégration à un programme d’éthique plus large, engagement de la direction, culture organisationnelle misant sur le leadership éthique, communication, etc.).
14Par ailleurs, Lynn S. Paine (1994) souligne que les programmes de conformité ne peuvent couvrir toute la panoplie d’enjeux qui ponctuent le quotidien d’une organisation, rappelant que ce qui est légal n’est pas nécessairement éthique. Cet argument s’avère totalement d’actualité en matière d’implémentation des SIA, notamment dans le domaine de la santé, alors que règne un flou à la fois juridique et en termes d’acceptabilité sociale. Elle note également que mettre trop l’accent sur les sanctions n’encourage pas chez les individus la poursuite d’un réel engagement moral. D’autres, comme Jean Pasquero (2013), notent l’ambiguïté et la difficulté d’opérationnaliser le principe d’universalité, un argument d’autant plus pertinent considérant notamment le manque de littératie numérique des professionnels de la santé versus l’engouement pour les possibilités des SIA dans le secteur, et leur rapide implémentation.
15Enfin, étant donné le manque de réglementation et de lois spécifiquement établies pour couvrir tous les usages possibles des SIA, l’ambiguïté s’avère importante et préoccupante.
16Brent Daniel Mittelstadt (1999) démontre que les principes de haut niveau visant à définir les bases de l’éthique de l’IA convergent largement vers les principes régissant la déontologie médicale et qu’il y a lieu de s’en préoccuper, en regard des développements et de la gouvernance actuelle et future des SIA. En effet, Mittelstadt (1999) argumente que contrairement aux fondements de la déontologie médicale, l’implantation actuelle des SIA manque d’objectifs communs et d’obligations fiduciaires, d’historique et de normes professionnelles, de méthodes éprouvées pour traduire les principes en pratiques, de même que de mécanismes robustes de responsabilité légale et juridique. Surtout, il estime avec raison que de tels principes communs ne seront pas suffisants afin de garantir une réelle incidence sur les pratiques, pour passer de la théorie à la pratique en matière d’éthique de l’IA.
17Cela étant dit, d’autres théories sont apparues, proposant des modèles issus d’une certaine hybridation entre le déontologisme et d’autres approches existantes. Et peut-être que cette hybridation, ce pluralisme théorique s’avère une voie intéressante. Enfin, certains chercheurs, constatant le tournant vers les valeurs de la société et du monde organisationnel (value shift) (Paine, 1994 et 2003), adoptent une posture beaucoup plus descriptive, où les valeurs font partie intégrante de l’analyse. Je me concentrerai maintenant sur cette approche.
18Les pratiques (et logiques sous-jacentes) préconisées par les approches descriptives, principalement introduites en éthique organisationnelle par des auteurs en management et en gestion, s’opposent aux approches normatives. Contrairement aux approches normatives qui se basent sur la philosophie morale afin d’établir comment les individus devraient agir, les approches descriptives cherchent à expliquer et prédire les comportements (O’Fallon et Butterfield, 2005). Cette dualité se transpose en effet dans les types d’orientation des programmes d’éthique organisationnelle soutenus, soit les programmes de conformité – liés comme nous l’avons vu à l’approche déontologique et visant la régulation des comportements – et les programmes d’intégrité, visant l’autorégulation et l’intégration des valeurs (Martineau, Pauchant et Tremblay, 2017).
19Ainsi, certains auteurs (Paine, 1994 et 2003 ; Weaver, Treviño et Cochran, 1999 ; Weaver et Treviño, 1999) se sont inscrits en pionniers de l’approche en stipulant qu’il n’est pas suffisant d’établir des règles et d’instaurer des mesures pour les faire respecter : « les gestionnaires doivent créer un sens quant aux valeurs partagées de façon à définir une identité de rôle éthique pour les employés, et amorcer un soutien organisationnel par rapport à un idéal en la matière » (Weaver et Treviño, 1999 : 330). Cela étant dit, malgré la dualité des approches conformité/valeurs, ces auteurs ne rejettent pas les approches de conformité propres à la déontologie médicale, mais proposent de les jumeler aux approches basées sur les valeurs ou d’autorégulation même s’ils estiment que ces dernières ont plus d’impact sur les comportements éthiques. En effet, l’approche intégrité s’avère « plus large, profonde et exigeante », selon Paine :
plus large parce qu’elle cherche à favoriser la conduite responsable, plus profonde parce qu’elle touche à la fois à l’éthos et aux opérations, et plus exigeante, car elle demande un effort actif visant à définir les responsabilités et les aspirations qui constituent la référence éthique de l’organisation (1994 : 111).
20Cette approche inclut des pratiques telles que le leadership éthique, la responsabilisation, l’intégration des valeurs dans les processus comme la dotation, et la reconnaissance. Fait intéressant avec cette approche, Paine (2003) l’enracine autant dans un contexte organisationnel que sociétal, soutenant que cela répond au « tournant vers les valeurs » des sociétés démocratiques, ce qui résonne grandement dans le domaine de la santé, où les patients s’avèrent une partie prenante de première ligne aux organisations du milieu.
21Par ailleurs, ces travaux viennent combler la faiblesse empirique et méthodologique d’une grande partie de la littérature en éthique organisationnelle et, du coup, présentent l’avantage d’envisager son opérationnalisation dans la pratique. Qui plus est, leur méthode empirique consistant à sonder la perception d’acteurs organisationnels au sujet des pratiques propres aux deux programmes d’orientations, soit l’approche conformité versus l’approche valeur, a l’avantage de pouvoir être répliquée dans des contextes spécifiques, comme celui du milieu de la santé.
22Le modèle de prise de décision éthique de James Rest (1976) a laissé une importante empreinte dans la littérature en éthique organisationnelle descriptive (Loe, Ferrell et Mansfield, 2000 ; O’Fallon et Butterfield, 2005). Ce modèle comporte quatre composantes : 1) la sensibilité éthique, où l’acteur doit être en mesure d’interpréter la situation et savoir quelles actions affecteront quelles parties, d’imaginer les relations de cause à effet et d’être conscient qu’un enjeu éthique est présent ; 2) le jugement éthique, où l’acteur doit pouvoir juger quelle action s’avère la plus moralement justifiable ; 3) l’intention éthique, soit le degré d’engagement de l’acteur à prendre la conduite morale à suivre, où l’acteur doit être en mesure d’évaluer les valeurs morales en jeu versus d’autres valeurs, et de prendre la responsabilité personnelle des résultats ; 4) l’action éthique, soit le caractère moral de l’acteur, où il doit persister dans sa tâche morale, faire preuve de courage malgré la fatigue et les tentations (Rest, 1976 ; Rest et al., 1999).
23Le modèle de Rest s’inspire de la théorie des stades de développement cognitif de Lawrence Kohlberg (1981), principalement la deuxième étape, soit le jugement éthique. Il importe de souligner que la théorie et la méthode de Kohlberg ont été l’objet de nombreuses critiques, comme la nature séquentielle et trop individuelle du modèle, la sous-estimation des facultés empathiques des jeunes à l’étude, etc. Rest et ses coauteurs (1999) ont proposé une approche néo-kohlbergienne moins liée aux théories du droit et de la justice et moins rigide quant à la question de progression hiérarchique, mais les idées centrales de la théorie cognitive et développementale de Kohlberg demeurent centrales à leur approche (Brown et Treviño, 2006).
24Si le modèle de Rest s’avère bien opérationnel et enseigné dans les écoles de gestion, il n’a pas été épargné par la critique. Ainsi, O’Fallon et Butterfield (2005), de même que Hauser (2019) remettent en question le modèle, à savoir ce qui vient avant la première étape de la sensibilité éthique. En effet, Hauser (2020) se réfère à la recherche en éthique comportementale, notamment à Haidt (2001), et déplore que les programmes d’éthique qui se basent sur le modèle de Rest tiennent pour acquis que les acteurs organisationnels adopteront un comportement éthique une fois qu’ils auront amélioré leur sensibilité éthique. Il rappelle que selon Haidt (2001), devant un dilemme, le raisonnement éthique est souvent entrepris post hoc, après avoir réagi instinctivement. En effet, que s’en offusquent les tenants du rationalisme, le jugement moral est peut-être moins le résultat du raisonnement que, d’abord, de l’instinct, d’une intuition forgée par l’environnement social et culturel de l’individu, comme le préconise Haidt (2001).
25Par ailleurs, je m’interroge sur le modèle de Rest parce qu’il suppose que l’acteur organisationnel a toujours le pouvoir de prendre une décision éthique, ou de déployer sa compétence éthique. En effet, Allison Marchildon démontre, en adoptant une approche pragmatique, que l’exercice de la compétence éthique s’avère à la fois une composante et le résultat d’une même situation, dans la mesure où si cette compétence a pu être mobilisée, c’est que la configuration des pouvoirs en place le permettait :
la compétence éthique n’est plus du tout l’action isolée que l’on tentait d’évaluer en termes de « bonne » ou de « mauvaise » conduite, pas plus qu’elle ne se résume à la capacité et à la volonté d’un acteur. Elle s’avère plutôt le résultat d’interactions et s’incarne dans un agir hautement collaboratif qui pourra mieux se déployer dans un contexte de pouvoirs partagés (Marchildon, 2017).
26Par exemple, comment un praticien de la santé peut-il exercer pleinement sa compétence éthique devant une décision prise par un modèle algorithmique ayant failli sur le plan de l’explicabilité ?
27Autre critique au modèle de Rest : comment est-il toujours possible d’être un sujet responsable ? En effet, Bernadette Loacker et Sara Louise Murh (2009), en adoptant diverses approches poststructuralistes à la philosophie morale, élaborent la notion de « l’éthique de la responsabilité ». Selon celle-ci, l’éthique n’est jamais figée dans le temps ni finale, mais toujours « en devenir », puisqu’elle est toujours au centre de relations de pouvoir et de connaissance. Ceci s’avère d’autant plus pertinent en matière d’éthique de l’IA, alors que le développement des SIA se fait à un rythme effréné.
28Cela étant dit, le modèle de Rest présente l’avantage de pouvoir être aisément bonifié ou hybridé à diverses approches, comme l’a remarquablement fait Thomas M. Jones (1991) avec son modèle déterminant six dimensions de l’intensité éthique d’une situation.
29Allons maintenant d’un autre côté du spectre de la normativité pour aborder le pragmatisme. Le champ de l’éthique organisationnelle au Québec, ancré dans l’éthique appliquée, s’est façonné sur la base de l’interdisciplinarité. La particularité de la conversation québécoise au sujet de la formation organisationnelle en éthique est de s’ancrer dans une conception dynamique et dans une perspective pragmatiste de l’éthique (Bégin, Langlois et Rondeau, 2015 ; Lacroix, Marchildon et Bégin, 2017). Et sur le plan de la méthode, rappelle Lyse Langlois (Bégin, Langlois et Rondeau, 2015), la conversation québécoise préconise notamment des interventions à portée éthique dans lesquelles le chercheur endosse une position partenariale, c’est-à-dire des recherches où le chercheur coconstruit les connaissances avec son terrain d’accueil, de façon à révéler des savoirs (Argyris, 1995). Cette approche suivant une logique d’abduction trouve sa pertinence dans la théorie de l’enquête de John Dewey (1993 ; Langlois dans Bégin, Langlois et Rondeau, 2015).
30Le but de cette démarche pragmatique est de faire advenir les choses sur le terrain, afin que les recherches puissent relever d’un savoir actionnable (Argyris, 1995 ; Avenier et Schmitt, 2007). Selon Chris Argyris, un savoir actionnable a été défini comme
une information que les acteurs peuvent utiliser, par exemple, pour élaborer des conversations qui puissent véhiculer le sens qu’ils veulent communiquer. Le savoir actionnable doit spécifier la façon de créer du sens, mais en laissant les acteurs libres de choisir les mots (Argyris, 1995 : 21).
31Il ajoute que le savoir actionnable ne doit pas seulement avoir « une forte validité externe (c’est-à-dire un haut degré de pertinence), mais il doit aussi spécifier les pensées et actions requises pour créer les propositions dans le vrai monde » (Argyris, 1995 : 26). Pour Langlois, un savoir est actionnable seulement s’il est « ancré dans les problématiques organisationnelles et professionnelles » et il se doit d’être valable, « c’est-à-dire reçu par les praticiens en organisation comme pouvant être relié à leur expérience pratique : il suppose donc une forme d’appropriation » (Bégin, Langlois et Rondeau, 2015 : 273). Ainsi, l’opérationnalisation de cette approche s’avère incontestable.
32Probablement que le principal inconvénient, ou encore critique à l’égard de cette approche, s’avère de concilier la posture duelle du chercheur-intervenant, comme en discute avec éloquence André Lacroix (Bégin, Langlois et Rondeau, 2015). Mais l’objectivité peut-elle exister en sciences sociales ? Et si l’objectivité se résumait à un temporary state of affairs (Latour, 2006) ou à une certaine forme de bracketing d’une démarche de sensemaking (Weick, 1995 ; Glasersfeld, 2002) ? En d’autres termes, l’objectivité en sciences sociales pourrait-elle s’avérer une sorte d’idéal abstrait à atteindre, en constante reconstruction, au cours d’une démarche de terrain dans le cadre de laquelle le chercheur doit nécessairement jongler avec ses propres subjectivités tout comme avec celles des sujets observés ? Car en sciences sociales, la seule constante objectivement observable, c’est le changement. Ainsi la constante, c’est aussi une épistémologie du mouvement permanent (aux antipodes du fonctionnalisme) – et donc une épistémologie du processus – que nous imposent les sciences sociales, de même que l’implantation croissante des SIA en santé.
33Martineau, Jonhnson et Pauchant (2017) et Martineau, Pauchant et Tremblay (2017) font état du fait qu’aucune étude ne s’est attardée à faire une classification des pratiques d’intégrité et de conformité et qu’aucune étude empirique n’a cherché à débattre de l’idée que les programmes éthiques ne sont basés que sur ces deux orientations. Ainsi, la théorie pluraliste des orientations et idéologies des programmes éthiques, issue d’une solide étude empirique proposée par Martineau, Jonhnson et Pauchant (2017) et Martineau, Pauchant et Tremblay (2017), s’avère un tournant permettant de sortir de la dualité conformité-intégrité en faisant appel à l’importante diversité des approches et idéologies en matière d’éthique organisationnelle.
34Cette théorie issue d’une méthodologie basée sur un rigoureux guide-questionnaire présente par ailleurs l’avantage de pouvoir s’opérationnaliser en pratique. En effet, cet outil permet notamment de réaliser un diagnostic éthique
visant à évaluer la cohérence entre le programme et les pratiques éthiques mises en place par des organisations spécifiques, et la perception qu’ont les acteurs de l’efficacité de ces diverses approches et pratiques d’éthique organisationnelle (Martineau, Pauchant et Tremblay, 2017).
35Mais son principal atout – à défaut de poursuivre un débat de sourds au sujet de l’appréhension des pratiques d’éthique organisationnelle – est de réconcilier ces approches conformité-intégrité, ce qui, à mon avis, fait grand sens, étant donné la complexité du contexte organisationnel d’aujourd’hui, échaudé par l’adoption des SIA. Après tout, selon Amartia Sen : « parfois, il y a tout simplement une pluralité de “bonnes réponses” » (Brown, 2010 : 6).
36Un tel exercice théorique pourrait aussi être fait avec les grandes traditions morales en éthique. Par exemple, Pasquero (2013) passe en revue quatre grandes approches théoriques en éthique organisationnelle, soit l’utilitarisme, le formalisme (l’approche déontologique), le contractualisme et la théorie des vertus morales. Compte tenu des failles et faiblesses de chacune de ces théories prises isolément pour les appliquer en contexte pratique de gestion, il cite en exemple le modèle intégré UDJS de Gerald F. Cavanagh, Dennis J. Moberg et Manuel Velasquez (1995), qui intègre les principes d’utilité (utility), de devoir (rights and duties), de justice et de sollicitude (caring). Ces auteurs préconisent que pour passer de la théorie à la pratique en éthique organisationnelle, plutôt que de mettre l’accent sur les théories, on doit s’intéresser aux normes qui dérivent de ces théories, en plus d’hybrider ces normes dérivées des écoles de l’utilitarisme, des droits, de la justice et de la sollicitude (Cavanagh, Moberg et Velasquez, 1995).
37De leur côté, Mary Crossan, Daina Mazutis et Gerard Seijts (2013) proposent de réintroduire la théorie des vertus morales aux théories de la prise de décision éthique, alors que Neil Brady et Craig Dunn (1995) suggèrent un modèle postulant la supériorité d’une approche suggérant la complémentarité de la déontologie kantienne et de l’utilitarisme pour analyser la prise de décision éthique. Pour sa part, John Douglas Bishop (2000) décortique, puis défend l’approche contractualiste (Dunfee et Donaldson, 1995) qui, malgré ses failles, s’avère une approche qui finalement cherche à réconcilier les théories utilitaristes et formalistes (déontologiques), et ce, surtout, grâce à la notion de consentement. Il y a peut-être dans cette approche contractualiste une piste intéressante à explorer notamment pour aborder l’important enjeu du consentement libre et éclairé en lien avec l’utilisation des SIA dans le domaine de la santé.
38Bishop (2000) poursuit le travail de clarification conceptuelle des théories normatives en éthique organisationnelle entamé par John Hasnas (1998). Pour ce faire, il propose un cadre normativement neutre permettant d’analyser ces théories normatives. Selon lui, toute théorie normative se doit de prendre en compte sept éléments clés qui constituent le cadre qu’il propose : elle doit spécifier un principe moral qui identifie (1) les valeurs recommandées et (2) les bases sur lesquelles sont acceptées ces valeurs. Elle doit aussi spécifier (3) un principe décisionnel que les professionnels – qui acceptent ladite théorie – peuvent utiliser. La théorie normative doit déterminer (4) à qui elle s’applique, et (5) les intérêts de qui elle doit considérer. Elle doit aussi esquisser (6) les contextes dans lesquels elle s’applique, de même que (7) les structures légales et réglementaires qu’elle doit assumer. Si un tel cadre était mobilisé pour appréhender les enjeux éthiques liés à l’adoption des SIA, il y aurait certes un pas de franchi pour passer de la théorie à la pratique. Mais encore, est-ce suffisant ?
39En effet, un minimum d’hybridation des théories classiques s’avère essentiel dans le cadre de leur application en organisation, particulièrement dans le secteur de la santé, d’autant plus en contexte de constants changements induits par l’adoption des SIA. Ces théories classiques n’ont en effet pas été réfléchies comme une recette de l’éthique organisationnelle et les transposer telles quelles peut paraître déphasé. Bien sûr, tout dépend de la question de la recherche. Si elle concerne les positions des parties prenantes, l’utilitarisme de l’industrie et le déontologisme de ses détracteurs sont bien présents. Ils sont à la base des tensions entre les deux. S’il s’agit de penser un moyen d’établir un code acceptable par tous, alors, effectivement, les approches contractualistes sont à envisager.
40Dans cette première partie, j’ai mené une recension certes non exhaustive des différentes grandes traditions en éthique organisationnelle, en me concentrant sur les avantages et inconvénients de chacune d’entre elles, dans l’idée de répondre au besoin de passer de la théorie à la pratique en matière d’éthique de l’IA, notamment dans le secteur clé qu’est la santé. Endossant une vision pluraliste et pragmatique de l’éthique, je suggère d’introduire l’approche de l’éthique de l’IA comme pratique, comme le practice turn a fait évoluer les théories en stratégie, pour ainsi initier un tournant vers la pratique en matière d’éthique organisationnelle liée aux enjeux liés à l’implémentation des SIA, notamment dans le domaine de la santé.
41Les développements récents en IA dans le champ de la santé suscitent un engouement important, notamment en termes d’efficience, mais ils ont aussi mené à une prise de conscience au sujet des enjeux éthiques liés à leur usage. La littérature scientifique a vu émerger une discipline relativement nouvelle, soit celle de l’éthique de l’IA (Ethics of AI ou AI ethics). Ce champ a la particularité de regrouper une communauté scientifique interdisciplinaire, d’abord dominée par des philosophes de l’éthique et de la technologie tels que Luciano Floridi (2019) et Müller (2020), des scientifiques de données telles que Virginia Eubanks (2018) et Meredith Whittaker et al. (2018), ou encore des professeurs-chercheurs en droit de l’IA comme Frank Pasquale (2005). Et dans ce nouveau champ s’est dessinée une sous-discipline essentiellement normative et/ou descriptive visant à aborder les enjeux éthiques liés l’avènement SIA.
42Comme contribution, j’estime qu’il serait opportun d’amorcer un tournant vers la pratique en éthique de l’IA en santé. Pour ce faire, je propose de mobiliser un practice turn en éthique de l’IA, comme on a introduit le practice turn (ou encore la strategy as practice) en stratégie (Whittington, 2006, 2007 : Langley, 1999). Selon cette approche qui étudie la stratégie en tant que pratique sociale, plutôt que de concevoir la stratégie comme quelque chose qu’une organisation « a », elle devrait être considérée comme « quelque chose que les gens font » (Whittington, 2006, 2007 ; Langley, 1999). Ainsi, les chercheurs endossant la stratégie comme pratique portent une attention empirique sur l’activité, plus précisément sur les microactivités dans lesquelles les praticiens de la stratégie s’engagent, et sur la régularité et la reproduction de ces activités. Ce faisant, on se concentre sur ce que les gens font au quotidien – les actions, les routines, la construction de sens – qui ensemble « constituent » la stratégie conceptualisée comme quelque chose qui se « fait » et non comme une chose qui « est » (une entité). En ce sens, tout comme Ann Langley (1999), je me situe dans le camp de ceux qui s’intéressent à la théorie processuelle et aux phénomènes dynamiques et qui ont choisi de s’immerger dans le processus. En effet, j’endosse une perspective dynamique et en évolution de l’éthique organisationnelle, plus précisément dans le contexte des nouveaux enjeux éthiques induits par l’adoption des SIA.
43Pour certains, le practice turn en stratégie s’arrête là où il a commencé : on s’intéresse ici à la façon dont la stratégie est faite (Langley, 1999). D’ailleurs, vu sous cet angle, des études mobilisant le sensemaking et le sensegiving, comme celles de Dennis Gioia and Kumar Chittipeddi (1991), sont reconnues comme faisant partie de la stratégie comme pratique (Langley, 1999). Ainsi, je propose donc un parallèle intéressant avec le processus de construction de sens éthique qui, au travers des interactions entre différents acteurs (collègues, patients, etc.), leurs échanges, et confrontations à des écrits, avis, formations, discussions, conférences, etc., ensemble « constituent » ce qui est vu comme « éthique » à un moment précis. Ainsi, j’introduis également le concept de processus de construction de sens éthique en contexte d’adoption des SIA en santé.
44Toutefois, Ann Langley et Chahrazad Abdallah précisent que la notion de stratégie comme pratique devient plus distinctive si le concept de pratique n’est pas uniquement mobilisé en termes d’intérêt empirique, mais inclut un engagement envers les théories sociales de la pratique, voire envers une ontologie basée sur la pratique dans laquelle « les pratiques sont comprises comme les principales composantes de base de la réalité sociale » (Langley et Abdallah, 2011 : 220). Bien qu’elles reconnaissent du même souffle que la théorie sociale de la pratique ne s’avère pas une théorie unifiée, ceci m’apparaît d’autant plus séduisant et pertinent étant donné mon penchant envers le pluralisme.
45Qui plus est, ce qui distingue le tournant vers la pratique versus d’autres lentilles théoriques, et m’interpelle d’autant plus quant à l’idée de le transposer dans l’étude des enjeux éthiques liés à l’adoption de l’IA, notamment dans le milieu de la santé, est qu’il met l’accent sur la nature implicite ou tacite, sociomatérielle et récursive de la pratique en question (Langley, 1999), ce qui est absent par exemple de la méthode Gioia et Chittipeddi (1991) prise isolément.
46Comme outils d’aide à la décision dans le secteur de la santé, les SIA mobilisent généralement des algorithmes d’apprentissage machine afin de procéder à des activités d’analyse inférentielle sur les données, par exemple pour détecter et prédire les pandémies, pour diagnostiquer et faire le suivi de maladies chroniques ou neurologiques, pour interpréter l’imagerie médicale et les images radiologiques, pour offrir des services et des soins de santé, ou encore pour jumeler les patients appropriés à certains essais cliniques (Siala et Wang, 2022).
47Toutefois, les préoccupations au sujet de l’efficacité des SIA dans le domaine de la santé sont notamment liées à diverses problématiques éthiques, telles que des biais algorithmiques engendrant des résultats incohérents ou discriminatoires, des cas d’atteinte à la vie privée, de conflits au sujet de la propriété des données ou de manque de transparence dans l’utilisation des données (Vayena et al., 2018).
48Ainsi, la nécessité de considérer les enjeux éthiques liés à l’avènement et à l’adoption des SIA s’avère d’une importance capitale dans le domaine de la santé. Surtout, ces enjeux éthiques ont la particularité de reposer sur la nouveauté, et essentiellement sur les concepts d’incertitude, d’ambiguïté et de complexité. En effet, qu’en est-il de situations entièrement nouvelles, où aucune balise formelle sur le plan éthique n’existe ? De là vient toute la pertinence de mobiliser le concept de construction de sens éthique des professionnels, mais aussi des patients faisant face à ces nouvelles problématiques.
49Peu d’études (Sonenshein, 2007 ; Kligyte et al., 2008 ; Mumford et al., 2008 ; Caughron et al., 2011) se sont intéressées au concept de construction de sens « éthique » en organisation. Et aucune n’a encore étudié spécifiquement le processus de construction de sens éthique des professionnels du secteur de la santé aux prises avec de nouveaux enjeux éthiques induits par l’implantation des SIA.
50Nous avons vu la proéminence de la mobilisation du cadre de Rest (1986) dans la littérature en éthique organisationnelle. Toutefois, O’Fallon et Butterfield (2005) préconisent une extension de cette approche. Et l’une des pistes qu’ils envisagent s’avère dans la notion de construction de sens. En effet, ils rappellent que la notion de construction de sens se base sur l’idée que les individus sont constamment bombardés par des informations environnementales et organisationnelles ambiguës. Ainsi, le processus de construction de sens implique que les individus passent par trois phases, soit la recherche d’information (scanning ou bracketing), l’interprétation (où l’information ambiguë est structurée de façon à créer du sens et donc une base pour l’action) et l’action (Gioia et Chittipeddi, 1991). Ils notent que ces deux dernières étapes sont explicitement incluses dans le modèle de Rest (1986), ce qui n’est pas le cas de la recherche d’information, ainsi :
puisque les situations éthiques impliquent souvent des événements environnementaux très ambigus, et puisque les individus ne sont pas toujours passifs en recevant l’information concernant des enjeux éthiques, la recherche d’information semble avoir une conséquence claire sur le processus de décision éthique (O’Fallon et Butterfield, 2005 : 399).
51Par exemple, les données massives peuvent s’avérer complexes et accablantes pour les professionnels de la santé cherchant à apprendre, changer et comprendre leurs environnements.
52Ainsi, cette première étape du processus de construction de sens apparaît primordiale dans l’analyse de la façon dont les parties prenantes du champ de la santé donnent un sens à ces nouveaux enjeux éthiques. En effet, Jay Caughron et ses coauteurs défendent la thèse que sept stratégies de raisonnement cognitif influencent la façon dont les individus s’engageront dans un processus de construction de sens, ce qui en retour influencera la prise de décision :
1) reconnaître ses circonstances personnelles, 2) anticiper les conséquences, 3) considérer les perspectives des autres, 4) demander de l’aide, 5) remettre en question son propre jugement, 6) gérer ses émotions, et 7) examiner ses valeurs personnelles (2011 : 352).
53Ce faisant, comme s’interrogent notamment Goirand et al. (2021), qu’en est-il du cas des diverses applications de soin de santé basées sur l’IA, dont plusieurs ont été développées par de grandes entreprises dont l’histoire et la culture en termes d’éthique s’avèrent à des lieues de celles du domaine médical ? Pensons aux capteurs et à la technologie portable aux fins de diagnostic et de surveillance, aux robots soignants, à l’interprétation automatisée des images, aux systèmes d’aide à la décision clinique, ou encore aux applications mobiles de soutien à la santé mentale… Dans le cas d’applications virtuelles visant l’assistance aux personnes âgées, en étant intrusives, le principe de confiance peut être compromis au nom de la sécurité, ce qui peut éventuellement porter atteinte au principe de respect de la vie privée (Goirand et al., 2021 : 61).
54Qui plus est, Goirand et al. (2021 : 61) notent que l’ordre d’importance de chaque principe éthique dépend non seulement du contexte, mais aussi de la perspective de la personne selon sa position : patiente, personne soignante ou clinicienne. Par exemple, une personne âgée qui se sent isolée socialement pourrait préférer la connexion à un robot soignant au détriment de sa vie privée et de son indépendance. Ou encore, une personne soignante pourrait privilégier la sécurité au respect de la vie privée dans le cas d’un robot d’aide à la douche, alors que le patient pourrait souhaiter préserver son intimité malgré les risques pour sa sécurité.
55Les travaux de Gioia et Chittipeddi (1991) et de Karl Weick (1995) font figure de référence au sujet de l’importance de la construction de sens dans tout processus de changement organisationnel, comme peuvent l’être les nouveaux enjeux éthiques induits par l’adoption des SIA par les professionnels du secteur de la santé. Comme ils le stipulent, toutes les parties prenantes à l’organisation doivent pouvoir comprendre le changement afin que ce dernier fasse sens. Ils ont donc introduit deux concepts permettant d’expliciter comment les acteurs organisationnels donnent un sens à ces nouveaux enjeux, soit la construction de sens (sensemaking) et le partage de sens (sensegiving) :
Le sensemaking fait référence à la construction et reconstruction du sens par les parties impliquées alors qu’elle tente de développer un cadre significatif et constructif pour comprendre la nature des changements stratégiques envisagés. Le sensegiving concerne le processus par lequel les tentatives d’influencer le sensemaking et la construction de sens des autres en vue de la redéfinition privilégiée de la réalité organisationnelle (Gioia et Chittipeddi, 1991 : 442).
56Peter Pirolli et Daniel Russell (2011) notent justement que l’une des grandes approches en matière de construction de sens dans le domaine des interactions homme-ordinateur (HCI) est celle de construction de sens collaborative. Cette approche s’intéresse à la façon dont une équipe d’acteurs organisationnels travaillent ensemble de façon à faire sens, de façon collaborative, de l’information qu’ils détiennent. Ils précisent que les groupes qui tentent de faire sens d’une information compliquée et dynamique, par exemple, un diagnostic concernant une masse révélée chez un patient, proposé par un modèle algorithmique, ne doivent pas seulement coordonner l’information qu’ils se partagent entre eux, mais aussi leurs intentions, leurs interprétations et la façon dont ils revoient d’anciennes théories dues à l’arrivée de nouvelles informations. Voilà une application concrète de l’utilité du sensegiving qui pourrait être mobilisée dans la pratique des professionnels de la santé qui cherchent comprendre le résultat rendu par un SIA employé comme un outil d’aide à la décision clinique.
57Il me semble ressortir des stratégies de raisonnement cognitif identifiées par Caughron et ses coauteurs (2011) comme prémisse à la construction de sens plusieurs éléments propres à la connaissance tacite ou implicite. Linda Rouleau note que la recherche actuelle concernant les processus de construction de sens stratégique semble être surtout le résultat de rationalisations symboliques basées sur la connaissance objective des individus. Elle suggère que ces processus sont aussi le résultat de processus inconscients qui sont liés aux expériences pratiques des acteurs : « la connaissance tacite semble être aussi importante au sensemaking et au sensegiving que l’est la connaissance consciente et explicite qui entoure le changement stratégique envisagé » (Rouleau, 2005 : 1416). Ce dernier argument fait écho à Langley (1999) qui précise, comme nous l’avons vu, que la considération des connaissances implicites et tacites est justement prise en compte par la notion du tournant vers la pratique.
58Ainsi, David Holford insiste avec raison sur l’importance de cultiver le mètis (soit les connaissances tacites et implicites) en organisation, cette catégorie de connaissance unique à l’humain, qui lui accorde l’habileté de gérer l’ambiguïté et l’incertitude au sein d’environnements complexes (Holford, 2019 : 181). Mais comment ? Cet encouragement du mètis peut notamment se concrétiser en favorisant la pratique sociale et le dialogue, la pratique répétitive d’une connaissance technique (ou d’un rapport avec la technique aimerais-je préciser) dans différents contextes faisant appel à des transformations dans la conscience focale et subsidiaire (Holford, 2019 : 182). Ces arguments sont d’autant plus pertinents dans l’idée de cultiver le mètis des professionnels de la santé, qui se retrouvent à devoir se forger de nouveaux repères en contexte d’adoption des SIA dans leur pratique. Ainsi, je suis également d’accord avec Holford (2019 : 152) qui suggère, de façon complémentaire, des conditions de travail pouvant faciliter et stimuler des facteurs clés qui caractérisent les organisations créatives et dans lesquelles ces conditions sont mises à profit à l’aide des technologies : 1) l’expérimentation/l’essai et l’erreur, 2) les heureux hasards, 3) les simulations créatives, 4) la communication et 5) la collaboration authentique.
59Philippe Baumard note en effet que notre apprentissage de l’existence n’est pas purement intérieur, ni totalement extérieur à nous-mêmes, alors que nous avons accès à plusieurs facteurs externes qui composent notre environnement, qui compose une forme de « réservoir » à partir duquel nous pouvons puiser, consciemment ou inconsciemment, comme une forme de savoir au final assez stable : « nous percevons plus que nous pensons percevoir et, une fois perçue et assimilée, la connaissance qui est nôtre n’est pas entièrement connue de nous-même » (Baumard, 1999 : 5).
60Ainsi, n’en est-il pas des normes, valeurs, croyances et règles partagées que le professionnel du milieu de la santé intègre et assimile, souvent inconsciemment, et qui guide son action ? « Notre cerveau a des jambes », note Baumard (1999) ; j’ajouterais que ces connaissances implicites et tacites, mais également les connaissances explicites, telles que les expertises techniques et les nouvelles relations avec ladite technique, devraient être appréhendées notamment dans toute analyse de la façon dont les acteurs organisationnels font sens des nouveaux enjeux éthiques en lien avec l’implantation des SIA. En effet, je préconise, contrairement aux partisans de tout taylorisme nouveau genre, que sans prise en compte du mètis, des connaissances qui participent au processus de construction de sens (sensemaking) (Gioia et Chittipeddi, 1991 ; Weick, 1995), toute démarche d’adoption des SIA est non seulement nécessairement vouée à un certain degré de désengagement, mais également à des risques de dérives éthiques.
61En effet, le rôle transformateur des SIA dans le domaine de la santé peut poser le risque que les patients soient traités comme des marchandises plutôt qu’individus à part entière (Quinn et al., 2021). À cet égard, Haytham Siala et Yichuan Wang signalent que des compagnies d’assurance maladie, motivées par des incitatifs économiques et par la perception que les SIA ont des capacités supérieures, pourraient contraindre leurs clients cherchant des soins de santé à adopter des SIA sans leur laisser le choix d’une alternative « humaine » (Siala et Wang, 2022 : 11). Autre exemple cité, le cas des services de santé mentale au Royaume-Uni qui auraient connu une « ubérisation » en raison de l’accessibilité accrue et des faibles coûts des SIA (par exemple des chatbots) liés au domaine de la santé mentale, ce qui pourrait déroger de l’objectif des processus interpersonnels de la psychothérapie et autres méthodes centrées sur le patient, ses besoins et préférences (Siala et Wang, 2022 : 11).
62Le concept de boundary constructions que propose Holford (2016) m’apparaît particulièrement intéressant, cherchant notamment à concevoir le processus de production de connaissance, mais aussi de sensemaking et de sensegiving, en intégrant un flux constant de coconstructions et de reconstructions des frontières dans un processus de dialogue. En effet, l’intéressant concept de boundary constructions avancé par Holford (2016) dépeint non seulement un rôle actif aux individus, mais emprunte aussi des éléments porteurs du constructiviste radical et matériel :
les objets [dans notre cas, un objet qu’est un SIA et donc, ce que nous en font, surtout de leurs recommandations] ne sont pas préexistants, mais émergent de constructions cognitives (Glasersfeld, 2002), le concept d’enacment (Weick, 2009) et d’action située (Suchman, 2009), l’hybridation des catégories sociomatérielles (Latour, 2006) et les concepts équivalents de réalisme agentiel (Barad, 2007) et d’enchevêtrement sociomatériel (Orlikowski, 2007).
63Ces derniers concepts permettent à Holford (2016) de repenser la dualité individu-objet et donc de revoir les coconstructions et reconstructions de frontières en termes d’intra-actions versus d’interactions, alors que les frontières entre les objets et les sujets deviennent floues.
64En effet, cette idée de boundary constructions m’apparaît rejoindre la notion d’« apprentissage organisationnel » introduite notamment par Peter Senge, Chris Argyris et Edgar Schein. Ce champ inclut également la discipline du dialogue en organisation, qui fait grandement écho à l’éthique de la discussion développée par Habermas. Les bienfaits du dialogue afin de faciliter le changement, l’éthique et l’apprentissage en organisation ont été répertoriés notamment dans une étude réalisée par Yoann Guntzburger, Virginie Lecourt et Thierry Pauchant (2015), à savoir :
le développement d’une capacité réflexive, une plus grande sensibilité à la souffrance d’autrui et une plus grande empathie, la prise de conscience des valeurs et des suppositions de base existantes et leurs mises en perspective, ainsi qu’une autre manière d’envisager le déploiement de son organisation (2015 : 45).
65Comme tout est dans tout, cette perspective me ramène à la pertinence d’inclure les présupposés de la sociomatérialité dans l’exercice du sensemaking et du sensegiving, comme éléments fondamentaux de l’appréhension de l’éthique de l’IA comme pratique.
66Ainsi, il semble y avoir un lien à faire avec la théorisation de Thomas Calvard (2016) selon laquelle la valeur potentielle de l’utilisation des données massives afin d’améliorer l’efficience organisationnelle dépend d’une interaction réussie entre les processus de construction de sens, l’apprentissage et le processus de gestion de la complexité que sous-tendent les pratiques en lien avec les données massives :
Les données massives, accablantes par leur quantité, peuvent seulement être traduites en une accessible qualité via l’utilisation réflexive, critique et flexible des théories appropriées, des repères, des schémas interprétatifs, des routines et des mécanismes d’apprentissage afin de combler le fossé entre les données brutes et la création de connaissance (Calvard, 2016 : 65).
67Cette réflexion s’avère d’une ultime pertinence si nous l’appliquons à l’utilisation d’outils algorithmiques « d’aide » à la décision dans le milieu de la santé, par opposition à des outils décisionnels. En effet, sachant que certains modèles algorithmiques d’aide à la décision en matière de choix de traitements ont tendance à hiérarchiser les options, de la meilleure à la pire (ce qui implique des jugements de valeur quant au meilleur intérêt du patient), tel modèle pourrait favoriser la longévité du patient au détriment de la minimisation de ses souffrances (ou vice-versa) (Quinn et al., 2021).
68Holford (2019) souligne que le contexte joue un rôle primordial dans la prise de décision et que l’environnement est donc l’un des facteurs clés à considérer en contexte organisationnel, alors qu’il comporte trois défis aux processus de prise de décision, soit l’incertitude, la complexité et l’ambiguïté. J’estime qu’il y a là un parallèle marqué à tracer entre la façon dont les acteurs organisationnels donnent un sens à la problématique du développement durable et celle de l’éthique de l’IA. Par exemple, les défis identifiés par Pasquero (2008) que doivent relever les acteurs organisationnels face aux nouvelles incertitudes que posent le concept et les particularités en constante évolution du développement durable sont aisément transposables à ceux que doivent relever les professionnels du milieu de la santé en contexte d’adoption des SIA. Ces défis sont présentés, de façon fort pertinente, sous forme de tensions :
[I]ncertitude socioéthique et complexité technique des problématiques ; tensions entre logiques multiples souvent incompatibles sans négociation ; niveaux d’intervention hétérogènes et enchevêtrés ; porosité de la frontière entre responsabilités publiques et responsabilités privées ; présence permanente d’enjeux politiques ; polémiques paralysantes ; nécessité de solutions collectives stables malgré la répartition inégale des efforts (Pasquero, 2008 : 32).
69Même son de cloche chez Rouleau (2015) qui note que jusqu’à maintenant les travaux au sujet des processus de construction de sens et de partage de sens ont surtout porté sur des contextes intraorganisationnels, par exemple sur l’étude de la gestion d’un changement organisationnel au sein d’une même entreprise. Ceci pourrait expliquer pourquoi, selon elle, les travaux sur le sujet ont surtout porté sur les formes de connaissance tacite. Elle souligne toutefois que le contexte socioculturel ne peut être ignoré : « la possibilité de créer du sens et d’influencer les autres dans un contexte d’interaction qui n’est pas clairement défini par l’organisation présuppose une connaissance subtile des autres et des conventions sociales » (Rouleau, 2015 : 1417).
70Cet argument s’applique pertinemment, à mon sens, aux enjeux éthiques liés à l’IA qui, avant même d’être un enjeu qui affecte et préoccupe le domaine de la santé, s’avère un enjeu sociétal, en termes d’acceptabilité sociale. En ce sens, plusieurs études préconisent la nécessité d’adresser ces enjeux de façon multidisciplinaire et interdisciplinaire. Cela peut se traduire par des initiatives de consultation avec diverses parties prenantes à la société, en la mise en place d’instances de délibération publique, ou encore de consultation avec les patients (Jobin, Ienca et Vayena, 2019 ; Reddy et al., 2020).
71À ce sujet, j’ai souligné que quantité de rapports visant à appréhender et à définir les cadres normatifs et les principes moraux qui devraient orienter et baliser les enjeux sociaux et éthiques de l’IA ont été publiés ici et là. Le Québec n’est pas en reste et a publié la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (Déclaration de Montréal IA responsable, 2018). Si l’on s’intéresse à la façon dont les parties prenantes du milieu de la santé donnent un sens à ces nouveaux enjeux éthiques en lien avec l’implantation des SIA, voilà un document externe à l’organisation desdits acteurs pouvant les aider à trouver un sens.
72En effet, la Déclaration de Montréal peut être mobilisée comme cadre normatif établissant les principes éthiques de l’IA afin d’assurer une justice numérique et sociale en santé. Les différents principes qu’elle énonce, telles la participation démocratique, l’inclusion de la diversité et la solidarité, peuvent servir de repères afin que l’éthique de l’IA comme pratique favorise l’acceptabilité sociale de la transition numérique en santé, et ce, au moyen du dialogue collaboratif.
73La démarche menant à la publication de la Déclaration de Montréal reposait sur trois objectifs, soit l’élaboration d’un cadre éthique, l’orientation de la transition numérique de façon à ce qu’elle puisse bénéficier à tous et l’ouverture d’un espace de dialogue national et international pour « réussir collectivement un développement inclusif, équitable et écologiquement soutenable de l’IA » (Déclaration de Montréal IA responsable, 2018 : 31).
74L’imposant document comporte dix principes qui s’adressent à « toute personne, toute organisation de la société civile et toute compagnie désireuses de participer au développement de l’intelligence artificielle de manière responsable » (Déclaration de Montréal IA responsable, 2018 : 6), de même qu’aux responsables politiques. Cette même déclaration contient également huit recommandations qui s’adressent spécialement aux acteurs du développement de l’IA au Québec et au Canada. Ces recommandations se veulent des « lignes directrices » (Déclaration de Montréal IA responsable, 2018 : 311).
75Tous ces principes éthiques et recommandations répondent à la nécessité fondamentale d’établir un cadre normatif en matière d’éthique de l’IA. En ce sens, la Déclaration de Montréal a répondu à ses objectifs initiaux. Elle a aussi su contribuer au dialogue national et international. De plus, la création, fin 2018, de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique répond non seulement à la première recommandation de la Déclaration, soit la création d’un organisme indépendant de veille et de consultation citoyenne, mais promet aussi d’assurer une suite des plus favorables à la Déclaration.
76La particularité de la Déclaration de Montréal tient à l’ampleur de sa démarche participative, inclusive et démocratique. Ses résultats sont le fruit d’un an de travail, de réflexion, d’un grand processus de consultation et de délibération citoyenne. Ainsi, il m’apparaît que cette déclaration peut cadrer dans une certaine forme de « convention sociale » à laquelle fait référence Rouleau (2015) ou encore, dans une certaine forme d’institutionnalisation de l’éthique de l’intelligence artificielle et du numérique.
77En effet, Paul DiMaggio et Walter Powell (1991) ont introduit un concept fondamental au modèle institutionnaliste, soit celui d’isomorphisme. Ce concept sous-tend que les organisations sont tellement dépendantes de l’environnement institutionnel, que dans un même secteur, elles finissent par adopter des pratiques similaires. Ces mêmes auteurs ont étudié les structures et proposé trois niveaux pour analyser l’isomorphisme organisationnel : 1) l’isomorphisme coercitif (pouvoir, règle) ; 2) les processus de mimétisme (comment survivre, copier des pratiques gagnantes) ; 3) les pressions normatives (les règles comptables sont pareilles partout).
78Ainsi, le concept d’isomorphisme repose sur une composante d’appropriation, que l’on analyse par les processus de socialisation. Cela dit, nous devrions aborder l’institutionnalisme au pluriel, car en plus de cette conception de l’institutionnalisme reposant sur l’appropriation et l’isomorphisme, il en existe d’autres formes, avec des logiques contradictoires. La logique de fond demeure, soit celle de la légitimité (voire l’acceptabilité), mais les concepts ne sont pas compatibles. Mais avec l’institutionnalisme, nous sommes dans les normes et les valeurs partagées. Nous parlons ici en termes de critères sociaux, éthiques.
79Ainsi, en l’absence de règles coercitives clairement établies en matière de régulation des enjeux éthiques liés aux SIA spécifiques aux multiples possibles usages dans le milieu de la santé, il est possible de suggérer que certains acteurs organisationnels chercheront à donner un sens à ces nouveaux enjeux en adoptant des processus de mimétisme. Reste à savoir qui tracera la voie.
80Ce faisant, je suis tout à fait en accord avec Pasquero (2008) lorsqu’il insiste sur la nécessité de « réencastrer » l’organisation dans le social, au sens granovettien du terme encastrement, soit « l’appartenance à un système de relations » (Granovetter, 1985 : 32). L’organisation doit repenser ses façons de concevoir ses relations, son rapport à son environnement. À commencer, à mon avis, par le milieu de la santé qui doit tracer la ligne entre les bénéfices et l’efficience des SIA dans sa pratique, et les enjeux éthiques afférents. Et ce dernier argument conforte la pertinence de ma proposition visant à instaurer le practice turn ou encore la strategy as practice en éthique de l’IA, qui, comme nous l’avons vu, s’enracine dans la théorie de la pratique sociale.
81Des recherches qui savent faire le pont entre la théorie et la pratique au sujet du changement organisationnel induit par l’adoption des SIA en organisation, notamment quant à la façon dont les parties prenantes au domaine de la santé donnent un sens et gèrent ces nouveaux enjeux éthiques, me semblent cruciales étant donné l’emploi croissant de ces SIA. Ainsi, l’apport de cet article s’avère double : d’abord, il présente une tentative de réconcilier les grandes traditions morales et idéologies dominantes en matière d’éthique organisationnelle, en contexte d’adoption des SIA dans le domaine de la santé ; ensuite, il amorce un début de théorisation, à savoir une conceptualisation de l’éthique de l’IA comme pratique. Pour ce faire, j’ai proposé d’implanter le practice turn (Whittington, 2006, 2007 : Langley, 1999) en éthique de l’IA, comme on a introduit le practice turn ou la strategy as practice en stratégie, en m’intéressant notamment au processus de construction de sens et de partage de sens des professionnels de la santé, à travers leurs pratiques quotidiennes, dans le contexte de ces nouveaux enjeux. Ainsi, ai-je également introduit le concept de processus de construction de sens éthique en contexte d’adoption des SIA.
82Néanmoins, cette contribution n’a certes pas la prétention de régler le débat social et éthique actuel en regard des différentes approches qui devraient être mobilisées afin de passer des principes à la pratique en matière d’éthique de l’IA. Cet apport se veut une initiation au concept de processus, un début de théorisation à savoir comment le pluralisme et le practice turn pourraient surmonter les difficultés de ce débat.
83Certains ont proposé des processus homologués d’analyse d’impact par le dialogue pour favoriser l’acceptabilité sociale et éthique (Patenaude et al., 2015). Ainsi, d’autres recherches empiriques étudiant l’application d’un processus dialogique précis d’analyse d’impacts pourraient contribuer à l’avancement du débat actuel où s’opposent les arguments éthiques, déontologiques et juridiques et, ce faisant, posent un frein au dialogue constructif (Allhoff et al., 2010 ; Béland et al., 2011).
84Enfin, pour réaliser un véritable practice turn en éthique de l’IA, notamment dans le domaine de la santé, et ainsi surmonter les embûches pragmatiques du débat social et éthique actuel, le développement de stratégies dialogiques concrètes (Legault et al., 2013) s’avère une autre avenue pertinente et nécessaire.