1Les technologies d’intelligence artificielle (IA) appliquées au domaine de la santé se développent à un rythme rapide, et leur implantation est déjà en cours dans plusieurs organisations de la santé, tant sur le plan du diagnostic, des soins cliniques, que de l’administration des services. Ces applications présentent de nombreux bénéfices potentiels à la fois pour les organisations, les professionnels et les gestionnaires de la santé, que pour les patients. Cependant, ces technologies ne sont pas nécessairement sans risque et leur développement et leur déploiement dans le milieu de la santé suscitent à la fois fascination, enthousiasme et espoir d’améliorer la qualité des soins, des diagnostics et la gestion de la santé, et de l’inquiétude, de la méfiance et de nombreux questionnements. En effet, l’évolution rapide des technologies d’IA, l’incertitude quant à leurs impacts sur les individus, les organisations de la santé et sur nos sociétés, ainsi que le manque de réglementation les encadrant, forcent une réflexion profonde sur les enjeux éthiques que le développement de systèmes d’intelligence artificielle (SIA) soulève, ainsi que sur notre positionnement quant à leur utilisation.
2Dans cet article, nous proposons un tour d’horizon des principaux enjeux éthiques liés au développement et à l’utilisation des technologies d’IA dans le domaine de la santé en explorant la littérature scientifique et la littérature grise (rapports gouvernementaux et d’organismes reconnus) sur l’éthique de l’IA et sur la gouvernance éthique des données dans le domaine de la santé. Notre objectif est de répondre à la question : « À quels enjeux éthiques devons-nous porter attention dans l’intégration de l’IA en santé ? ». Nous visons à fournir un portrait d’ensemble des enjeux touchant ces technologies, et non une analyse en profondeur d’un ou deux de ces enjeux. En outre, bien que nous nous appuyions sur la littérature pertinente, nous ne prétendons pas que cette revue des enjeux, ni de la littérature, soit exhaustive. En effet, les technologies d’IA et leurs applications en santé évoluant rapidement, les enjeux éthiques sont aussi amenés à évoluer et à se diversifier avec le temps. De plus, la littérature dans le domaine est foisonnante et provient de différents domaines, ce qui rend l’objectif d’une revue systématique très complexe.
3Dans la première section de cet article, nous abordons des enjeux éthiques liés à l’exploitation des données massives dans le domaine de la santé. Ces enjeux comprennent notamment le consentement à la collecte et au partage des données personnelles, la confidentialité et la protection de la vie privée des personnes, la qualité et la fiabilité des données, ainsi que les risques liés à l’archivage et la conservation des données. Nous poursuivons notre tour d’horizon avec une seconde section englobant les enjeux liés au développement des SIA en santé. Cette section traite de l’utilisation non éthique des SIA, de leur manque d’explicabilité, de l’enjeu de la responsabilité décisionnelle, des biais et de la discrimination algorithmique, du développement d’agents moraux artificiels, des enjeux existentiels de l’IA, du futur du travail et de la transformation des emplois, de l’accès variable aux technologies de l’IA et de l’accroissement des injustices sociales lié à l’utilisation des SIA, de la commercialisation des technologies de l’IA et, enfin, des impacts environnementaux de celles-ci.
4Le développement et le déploiement des technologies d’IA, dont celles qui mobilisent l’apprentissage automatique, nécessitent la collecte et l’utilisation d’une énorme quantité de données, souvent à juste titre nommées « données massives » ou « big data ». Ces données sont nécessaires pour entraîner les algorithmes utilisés par les différents SIA. De ce fait, les données sont devenues des ressources précieuses et convoitées par différents acteurs publics et privés, poursuivant des objectifs divers. De nombreux enjeux éthiques liés à l’IA en santé sont liés à la nature même de ces données et à la façon dont elles sont collectées, entreposées, utilisées, partagées, etc. Nous présentons dans cette section les principaux enjeux éthiques associés à la gouvernance des données, enjeux résumés dans la Figure 1 ci-après selon les étapes du cycle de vie des données.
5Figure 1 : Enjeux éthiques et cycle de vie des données
6Plusieurs des enjeux éthiques liés au déploiement de l’IA dans le domaine de la santé trouvent leur source dans la façon dont les données sur les individus sont collectées. D’abord, ce que l’on entend par « données personnelles » dans le domaine de l’IA en santé est souvent beaucoup plus large que l’idée que la population générale s’en fait intuitivement. Au-delà des données biomédicales et/ou cliniques comprises dans le dossier médical (les renseignements de santé), les SIA en santé peuvent aussi exploiter une panoplie de données de la vie quotidienne des individus, telles que des données d’entraînement physique, de nutrition, de sommeil et d’habitudes de vie qui proviennent bien souvent d’objets connectés utilisés dans la vie quotidienne. Téléphones intelligents, montres et autres appareils d’entraînement physique connectés, pour ne nommer que ceux-là, collectent des données sur les individus en temps réel, qui sont ensuite converties en données « médicales » et analysées pour en dériver des informations sur la santé globale des personnes (WHO, 2021). Comme les sources de données se multiplient, les acteurs impliqués dans la collecte de ces données se diversifient aussi. Ceux-ci peuvent inclure des organisations publiques du milieu de la santé, mais aussi les entreprises privées qui développent les technologies utilisées par le système de la santé ou encore les objets connectés précédemment mentionnés (Someh et al., 2019). Les différents moyens de collecte des données personnelles, ainsi que leur partage entre acteurs publics et privés, sont rarement compris et anticipés par les individus, tout comme la quantité de données collectées. En effet, les différentes organisations développant et utilisant les technologies d’IA déployées en santé collectent souvent beaucoup plus de données que nécessaire, parfois en anticipant des utilisations commerciales ultérieures comme la vente de données, qui sont inconnues des individus auprès de qui ces données sont initialement collectées (Hand, 2018).
7Bien que l’obtention du consentement à la collecte et au partage des données personnelles dans le cadre du système de santé québécois soit de mieux en mieux balisée et encadrée, le consentement à la collecte et au partage des données personnelles par les applications de santé et objets connectés est, dans de nombreux cas, obtenu de façon trop rapide, voire parfois même fallacieuse (Grundy et al., 2019). Dans les faits, l’utilisateur est souvent amené à cocher aveuglément une case dans une application ou sur un site web, sans avoir nécessairement bien compris les implications de ce consentement et sans s’être fait expliquer, dans des mots clairs et accessibles, les tenants du « contrat » qu’il signe en cochant cette case. Et lorsque l’utilisateur s’attarde à lire les formulaires de consentement et contrats de confidentialité des données personnelles des entreprises privées commercialisant des objets connectés ou applications d’IA, il se perd souvent dans le jargon juridique inaccessible et opaque de ces très longs documents, qui échappent à la compréhension du commun des mortels (Andrejevic, 2014 ; Hand, 2018).
8Ces pratiques et le manque de transparence avec lequel elles sont communiquées remettent en question la notion même de consentement libre et éclairé et entravent l’autonomie des individus (Beauchamp, 2011). Valeur fondamentale en santé, l’autonomie désigne la capacité d’un individu de décider pour lui-même, et ce, en connaissance de cause, ainsi que d’agir à partir de sa propre volonté et sans contrainte (Calvo et al., 2020 ; Dilhac, Abrassart et Voarino, 2018). Le consentement libre et éclairé a donc pour objectif de favoriser l’autonomie des personnes, en les protégeant elles-mêmes, et par extension en protégeant leurs données, contre des actes qui seraient posés contre leur gré ou à leur insu. Le consentement libre et éclairé requiert, d’une part, une compréhension adéquate de la part de l’individu concerné de ce à quoi il consent, et d’autre part, une absence de contrainte à consentir (Porsdam Mann, Savulescu et Sahakian, 2016), qui est largement atteinte par les pratiques dépeintes précédemment.
9Les pratiques de collecte et de partage des données précédemment mentionnées peuvent considérablement entraver la confidentialité et la protection de la vie privée des individus concernés. La protection de la confidentialité correspond à la revendication des individus, des groupes ou des institutions à déterminer eux-mêmes quand, comment et dans quelle mesure les informations les concernant sont communiquées à d’autres (Mai, 2016), et implique que les individus maintiennent un contrôle et un choix sur leurs données personnelles. Il en est de même pour la protection de la vie privée qui, elle, réfère à la protection de zones qui échappent au regard d’autrui, ainsi qu’à la limitation et au contrôle de l’accès aux informations qui concernent les individus (Mai, 2016 ; Richterich, 2018). L’abondance de données collectées de toute part à des fins qui sont parfois difficiles à saisir, ainsi que le partage de ces données, parfois même à l’insu des individus, entre les diverses organisations de l’écosystème dont les intérêts ne sont pas divulgués, peuvent compromettre l’exercice de ce contrôle et de ces choix (Amann et al., 2020).
10Afin de protéger la confidentialité des données personnelles, qui contiennent souvent des informations sensibles et très privées sur les individus, les organisations utilisent des méthodes qui visent à empêcher l’identification des individus, comme la désidentification, la pseudonymisation et l’anonymisation des données. Vues comme des mécanismes de préservation de la confidentialité et de la vie privée, ces techniques ne sont pas à toute épreuve, et n’offrent pas toujours le haut niveau de confidentialité promis. Effectivement, elles ont démontré des failles considérables, méconnues des utilisateurs, qui peuvent mettre à risque la confidentialité de leurs informations et leur vie privée (Basso et al., 2016). À titre d’exemple concernant l’anonymisation, technique qui implique le retrait des données identificatoires des bases de données de façon irréversible, il a été démontré qu’il suffit de quatre données anonymisées, provenant de différentes banques de données, pour permettre à un acteur spécifique de réidentifier l’individu que ces données décrivent avec une exactitude quasi parfaite (WHO, 2021).
11À ces risques s’ajoutent ceux de la sécurité des données et des cyberattaques potentielles inhérentes à tout système informatique. L’augmentation de l’utilisation de l’IA en santé et la collecte de données massives rendent le milieu plus susceptible d’être visé par des fuites de données et des cyberattaques qui peuvent compromettre le fonctionnement des SIA, la performance des algorithmes ainsi que la confidentialité des données sur lesquelles ils sont entraînés, parfois même à l’insu des développeurs (WHO, 2021). En plus d’entraver la sécurité, la vie privée et la dignité des individus touchés, ces incidents potentiels peuvent avoir des répercussions graves sur les personnes dont les données sont concernées, notamment comme le ciblage indésiré de leur profil, des tentatives d’hameçonnage crédibles sur la base de leurs données médicales, le vol de leur identité, ou encore le traitement discriminatoire de leurs demandes auprès de fournisseurs à l’extérieur du milieu médical. Finalement, en cas de cyberattaque, des établissements ou le système de santé en entier peuvent être paralysés, causant des problèmes d’accessibilité, de communication et de sécurité potentiellement importants.
12Les algorithmes utilisés dans les SIA mobilisant l’apprentissage automatique sont entraînés sur des ensembles de données qui se doivent de rencontrer certains standards en termes de qualité, de fiabilité et de représentativité, sans quoi les algorithmes développés sur ces données peuvent être biaisés et causer d’importants torts aux individus, groupes et communautés concernés. La qualité et la fiabilité des données varient en fonction de la diversité de sources desquelles proviennent les données, le soin porté à la gestion du cycle de vie des données, la quantité de données contenue dans la banque d’entraînement ou encore la représentativité des données de cette même banque (WHO, 2021). D’autant plus important, les données d’entraînement doivent être appropriées pour les fins auxquelles les algorithmes sont créés. Un manque de constance dans l’application des différents critères qui nous permettent d’assurer la qualité, la fiabilité et la représentativité des données utilisées peut grandement affecter la performance des algorithmes en question et influencer la qualité de leurs prédictions et recommandations.
13Après l’entraînement de l’algorithme vient l’étape de validation, qui permet de vérifier la qualité de la performance de cet algorithme ainsi que le caractère généralisable de cette performance. Cette validation doit être faite à l’aide d’un ensemble de données distinct de celui utilisé pour l’entraînement de l’algorithme. Effectivement, le but de cette étape est d’évaluer la performance de l’algorithme sur une variété de données pour assurer sa performance sur le terrain (Hand, 2018), ce que valider l’algorithme sur le même ensemble de données ne permettrait pas de faire. Prenons l’exemple fictif d’un algorithme entraîné pour détecter une condition médicale à partir de marqueurs biologiques. Si les données utilisées pour entraîner l’algorithme ont été majoritairement collectées auprès de personnes de sexe masculin, il est possible que lorsque l’algorithme sera déployé en contexte hospitalier, il tire des conclusions inexactes lorsqu’il rencontrera des données concernant des personnes de sexe féminin. Lorsqu’ils sont respectés, ces différents critères de validation nous permettent de limiter les chances qu’une fois commercialisés et déployés, les SIA performent de façon sous-optimale auprès de certaines populations, en arrivent à des conclusions qui renforcent des préjugés et entraînent un traitement discriminatoire à leur égard.
14Les données personnelles sont parfois conservées de façon anonymisée, ce qui ne les qualifie plus comme telles et implique qu’elles ne soient plus soumises aux règles juridiques sur les données personnelles qui en limite les conditions d’utilisation. Une fois converties dans un format qui n’identifie plus les personnes, ces données peuvent être utilisées à des fins autres que celles initialement consenties et ont parfois pour but de servir les objectifs de tierces parties (Reddy et al., 2020). Plusieurs enjeux éthiques sont soulevés par un tel scénario. Tout d’abord, rappelons que les données anonymisées peuvent potentiellement être réidentifiées (Basso et al., 2016), ce qui devient problématique lorsque les données médicales de patients, informations très sensibles, se trouvent dans des mains autres que celles de professionnels de la santé ou des personnes qui les ont collectées.
15De plus, il est possible que des personnes ayant initialement partagé leurs données de façon consentie, comme des patients ou des utilisateurs d’objets connectés et applications de santé, désirent éventuellement retrouver un certain contrôle sur celles-ci, et les voir supprimées. Plusieurs raisons peuvent être évoquées pour justifier le retrait éventuel du consentement à la conservation des données. D’abord, les données qui nous concernent représentent ce qui est parfois appelé notre « profil digital » (Breidbach et al., 2019). Nos données personnelles représentent donc ce que les différents acteurs du milieu de la santé connaissent à propos de nous. Dans le cas d’individus qui vivent avec des conditions de santé spécifiques, parfois même stigmatisantes, l’utilisation de leurs données personnelles peut devenir particulièrement contraignante (Someh et al., 2019). En effet, prenons le cas d’une personne aux prises avec des problèmes de dépendance, qui se voit bombardée de publicités l’incitant à consulter les sites Internet de centres de désintoxication, ou celui d’une femme ayant avorté qui se voit proposer des articles pour femme enceinte lors de ses achats en ligne, ou encore celui d’une personne en rémission d’un cancer qui demeure non assurable aux yeux des compagnies d’assurance. Au-delà même du fait que ces réalités difficiles leur soient constamment rappelées, et les souffrances qui y sont rattachées exacerbées, il devient difficile pour ces personnes de s’affranchir de ces conditions présentes et passées, et de vivre une vie qui n’est pas contrainte par le profilage et par ces mêmes données. Dans plusieurs cas, les personnes peuvent être définies par une condition médicale qui, parfois temporaire, laisse des traces indélébiles dans les banques de données (Martin, 2015). Ces individus peuvent souhaiter retirer leur consentement à l’archivage de leurs données personnelles pour éviter de vivre avec les impacts sur leur liberté et leur autonomie que la conservation et le traitement ultérieur de leurs données sensibles peuvent causer. La perte de contrôle des individus sur leurs données personnelles, ainsi que leur désir de retrouver ce contrôle et de pouvoir demander la suppression des données les concernant motivent – en partie – les revendications au droit à l’effacement des données, ou au « droit à l’oubli ».
16Après avoir discuté des enjeux éthiques propres à l’exploitation des données massives, nous présentons ci-après les principaux enjeux éthiques liés au développement et à l’implantation des systèmes d’IA dans le milieu de la santé.
17L’IA peut être utilisée afin d’améliorer plusieurs aspects du système de santé. Face aux nombreuses possibilités offertes par ces avancées technologiques, il est de la responsabilité des décideurs d’évaluer le caractère éthique des différentes applications, puisque toutes ne sont pas nécessairement souhaitables. De façon générale, celles qui contreviennent aux principes éthiques établis par différentes initiatives nationales et internationales et qui causent préjudice de façon claire, voire intentionnelle, ne sont pas souhaitables et devraient soit subir des modifications profondes permettant d’éviter les effets néfastes anticipés, ou être retirées du marché (WHO, 2021).
18Malgré tout, le caractère non éthique de certains de ces systèmes n’est pas toujours évident à déceler. Effectivement, dans les conditions d’utilisation et les politiques de confidentialité et de protection de la vie privée sont parfois dissimulées les intentions des développeurs ou propriétaires de ces technologies qui peuvent porter préjudice aux individus de façon insoupçonnée (Andrejevic, 2014 ; Hand, 2018). À l’insu de l’utilisateur, une montre intelligente qui enregistre la localisation de ses entraînements physiques peut devenir un outil de surveillance de ses déplacements et de profilage qui permet d’orienter les publicités qu’il reçoit, et une application lui permettant de tenir un registre quotidien de ses activités et de ses émotions peut devenir un outil normatif qui décourage certaines habitudes de vie et en encourage d’autres, pouvant parfois servir les intentions cachées de tierces parties. Cette subtile incitation comportementale (nudging en anglais) oriente les choix individuels en fonction de valeurs et d’intérêts spécifiques, parfois perçus comme supérieurs et positifs (ex. arrêt du tabagisme, perte de poids, exercice physique), mais aussi parfois motivés par des intérêts commerciaux (ex. achat de produits aidant l’arrêt du tabagisme, de suppléments alimentaires aidant la perte de poids, ou d’un abonnement payant à une application de conditionnement physique). Cette pratique porte atteinte à l’autonomie et à l’agentivité morales des personnes qui ont le droit et le choix d’adhérer à un mode de vie qui leur convient, qu’il s’aligne ou non avec les recommandations des professionnels de la santé, de la santé publique ou des organisations privées (Birhane, 2021).
19En outre, la validité scientifique et l’efficacité d’un SIA ne sont pas suffisantes pour justifier le déploiement d’une technologie et la qualifier de « souhaitable ». C’est pourquoi l’évaluation des aspects éthiques de ces technologies est si importante. Entre autres, un des facteurs importants à considérer est la balance des coûts et des bénéfices liés au déploiement d’une solution d’IA en santé. Malgré les bienfaits potentiels pouvant résulter de l’utilisation d’un SIA, la probabilité et l’ampleur des effets négatifs y étant associés doivent être évaluées et peuvent, selon l’analyse des aspects éthiques effectuée, venir décourager ou même exclure l’utilisation de cette technologie (WHO, 2021). En effet, il serait difficile de justifier l’utilisation d’un SIA promettant des économies de ressources considérables pour le milieu de la santé s’il compromettait la qualité des soins octroyés aux patients, ou s’il entraînait de grands risques de discrimination ou de violation du secret professionnel, par exemple. L’ensemble des bénéfices et des coûts potentiels d’une technologie doivent être explorés et attentivement évalués avant de pouvoir justifier le déploiement d’une technologie qui pourrait, malgré ses bénéfices, engendrer des torts non prévus. Bien qu’il soit difficile de prévoir et de contrôler, les organisations qui développent et déploient ces technologies doivent, de façon proactive, s’assurer de mettre en place des processus transparents qui permettent d’explorer les enjeux éthiques liés à leur technologie, de mitiger les risques, de surveiller la performance de l’application en contexte réel d’utilisation, de recueillir la rétroaction des différentes parties prenantes à la suite de son utilisation et de réagir rapidement au cas où un tort imprévu survienne et que des individus soient lésés.
20À l’heure actuelle, les systèmes de décision algorithmique en santé servent majoritairement d’outil de support à la décision humaine et n’ont pas une pleine autonomie décisionnelle (Amann et al., 2020). Ces systèmes ne prennent donc pas de décision par eux-mêmes, mais formulent des prédictions et des recommandations. Cependant, même si le jugement final revient au personnel professionnel de la santé (par exemple le diagnostic d’un patient), la grande complexité du fonctionnement de certains SIA fait qu’il est parfois difficile, ou même impossible, pour ce dernier de comprendre le raisonnement qui permet à l’algorithme d’arriver à une recommandation précise. C’est ce qu’on appelle le phénomène de la « boîte noire », symbole de l’opacité du fonctionnement de certains SIA, notamment ceux mobilisant l’apprentissage automatique (Amann et al., 2020). L’absence ou la faible explicabilité des SIA peut contribuer à diminuer l’interprétabilité, l’acceptabilité et l’adoption de la technologie par les professionnels et les patients, et mettent en lumière plusieurs enjeux. Imaginons le cas où un clinicien serait en désaccord avec la recommandation d’un SIA. Dans un tel cas, l’impossibilité d’expliciter le raisonnement du SIA afin de le rendre compréhensible pour le clinicien l’empêche de déterminer si la recommandation du système est valable et fiable dans un contexte précis, et donc s’il peut avoir confiance dans la recommandation émise par la technologie. Le patient pourrait lui aussi demander à comprendre les tenants d’une recommandation faite par un SIA. Qui plus est, des recommandations potentiellement erronées engendrées par les algorithmes qui servent de base pour la prise de décision clinique pourraient possiblement causer de graves torts aux patients, d’autant plus qu’ils peuvent ne pas avoir été mis au courant que des décisions concernant leur santé ont été prises à l’aide de SIA (WHO, 2021).
21Aussi, bien que ces systèmes soient développés avec l’intention d’améliorer la santé des individus et l’organisation des services de santé, ils sont sujets aux erreurs de ceux qui les développent et les approuvent, ainsi qu’à des problèmes techniques, et peuvent parfois offrir de mauvaises recommandations dans l’allocation des ressources, la planification ou encore les soins et les traitements fournis aux patients. Ces recommandations sont difficilement contestables étant donné le manque de transparence des systèmes d’IA et peuvent avoir des répercussions importantes sur la qualité des soins octroyés, ainsi que sur la sécurité et la santé des individus touchés. Il est souhaitable que les entreprises qui développent des SIA augmentent l’explicabilité et l’interprétabilité de ces systèmes, du moins qualitativement.
22La prise de décisions cliniques assistées par un SIA issu d’algorithmes d’apprentissage automatique, de par leur opacité, complexifie alors la notion de responsabilité, que nous explorons ci-après.
23Poursuivons avec cet exemple dans lequel une erreur commise par un clinicien appuyé par un SIA cause des torts sérieux à un patient. Dans un tel cas, qui du clinicien ou du SIA est ultimement responsable des conséquences de la décision prise ? Si le clinicien n’a ni une bonne compréhension ni un réel contrôle sur ce système expert et sur ses recommandations, peut-il être tenu responsable, moralement et/ou légalement, d’une erreur commise sur la base de celui-ci ? Nous pourrions lui reprocher de s’être fié aveuglément à un mauvais système. Cependant, de nombreux SIA possèdent une capacité d’analyse et une performance qui sont parfois supérieures à celle du clinicien et qui justifient leur utilisation en milieu clinique. Cette performance supérieure des systèmes d’IA est possible grâce à l’analyse de millions de données issues de jugements cliniques et équivaut donc, selon certains, à l’expertise de plusieurs milliers de cliniciens. Dans le cas qui nous occupe, l’erreur est-elle donc la faute de l’organisme et des personnes qui ont approuvé l’utilisation de ce système au niveau clinique (Santé Canada, par exemple), de l’organisation de santé qui a implanté cette technologie, ou encore de l’entreprise qui a développé le SIA en question ? Selon les recommandations de l’Organisation mondiale de la santé (WHO, 2021), bien que les cliniciens doivent raisonnablement pouvoir se fier aux recommandations des SIA, celles-ci ne devraient jamais supplanter le jugement des cliniciens. Le partage de la responsabilité entre les différents acteurs impliqués dans le développement et la commercialisation de systèmes d’IA, de même que ceux impliqués dans leur déploiement dans un hôpital par exemple, est complexe. Effectivement, la multitude d’acteurs impliqués diffuse la notion de responsabilité qui finit parfois par n’être portée par personne, ce qui peut causer des torts aux individus touchés par des erreurs médicales impliquant des SIA.
24Comme nous l’avons mentionné précédemment, les algorithmes d’apprentissage automatique apprennent en fonction des données à partir desquelles ils sont entraînés, mais ils apprennent aussi en fonction des décisions humaines prises lors de leur développement. Effectivement, ces décisions orientent le développement d’un SIA et déterminent la raison d’être d’un projet, les professionnels qui le réaliseront, les paramètres des algorithmes, les données utilisées pour l’entraîner et valider leur performance, mais aussi auprès de quelles populations et au sein de quels milieux le SIA sera déployé (Cutillo et al., 2020). De façon involontaire, les individus qui prennent ces décisions teintent souvent inconsciemment les étapes de développement du SIA de leurs perspectives, de leurs croyances et de leurs biais individuels. Les algorithmes sont donc formés en fonction de ces paramètres sociaux intangibles transmis par leurs concepteurs, entre autres. Ils peuvent donc reproduire et amplifier leurs biais et performer au désavantage de certains groupes non considérés, par exemple en discriminant des individus issus de communautés marginalisées (Birhane, 2021).
25Certains enjeux éthiques liés à l’IA en santé sont liés au développement d’agents moraux artificiels. Un agent moral artificiel est un SIA capable « d’action morale, de raisonnement, de jugement et de prise de décision » (Coeckelbergh, 2020 : 204, traduction libre). De tels systèmes autonomes avancés ne sont pas encore réellement implantés dans le système de santé, mais commencent à faire leur apparition dans certaines industries (pensons par exemple aux agents conversationnels tels que Chat-GPT ou autres chatbots basés sur l’apprentissage automatique, ou encore aux voitures autonomes, qui sont de bons exemples d’agents moraux artificiels en développement). Néanmoins, le rythme de développement des technologies et le grand intérêt général pour l’innovation en IA nous poussent à croire qu’un jour ces systèmes avancés puissent être développés et utilisés dans le milieu de la santé. En effet, les agents moraux artificiels pourraient trouver plusieurs utilités dans le domaine de la santé, notamment celle de diagnostiquer les patients de façon autonome (WHO, 2021). Cela dit, la délégation complète de l’expertise médicale du professionnel de la santé dans les « mains » d’un tel agent aurait de nombreuses implications. Par exemple, la participation du patient dans la prise de décision concernant sa propre santé pourrait en être affectée. Cette participation permet au patient d’exercer son autonomie, de défendre ses intérêts et de consentir à des soins qui respectent son projet de vie et ses valeurs (Amann et al., 2020). La complexité de fonctionnement de ces systèmes hautement spécialisés – qui, notons-le à nouveau, échappe parfois aux développeurs eux-mêmes – pourrait potentiellement entraver la qualité du consentement fourni par le patient. De son côté, le professionnel de la santé pourrait perdre le contrôle d’une partie importante de ce qui construit son identité professionnelle, mais aussi le contact avec une dimension essentielle du soin : la relation avec son patient (WHO, 2021).
26Une autre implication liée à la délégation d’une agentivité morale aux SIA est à soulever. Effectivement, de quelle « morale » parlons-nous ici ? Cette question relève des valeurs morales et visions du monde qui seront véhiculées de façon implicite par ces systèmes, et des intérêts et intentions des personnes derrière le développement de ces systèmes. Comme cela a été mentionné précédemment, les personnes qui développent ces SIA sont porteuses de biais, de perspectives, de valeurs et d’intérêts individuels, et elles représentent aussi bien souvent des intérêts privés et commerciaux. Ce faisant, elles contribuent à concevoir des systèmes autour d’objectifs et d’intentions qui, de façon consciente ou non, ne sont pas neutres. En laissant le développement de ces systèmes opaques non réglementé et non encadré sur le plan éthique, rien ne nous assure que les intérêts et les valeurs promus par ceux-ci soient alignés avec les valeurs du patient, qui sont par ailleurs en soi variables, ou même celles de la société (Amann et al., 2020 ; WHO, 2021).
27La dimension existentielle de l’IA aborde les choix fondamentaux que nous faisons en tant que société et la place que nous désirons donner aux technologies d’IA dans nos vies et dans notre société. Cette dimension nous ramène à la question de ce que signifie vivre une vie satisfaisante et digne, et à prendre des décisions sociétales qui sont arrimées avec cette définition et des valeurs morales susceptibles de varier à travers les cultures et à travers le temps (Birhane, 2021). Prenons l’exemple d’un robot compagnon muni d’un agent conversationnel déployé en hébergement pour personnes âgées dans le but de briser leur isolement. Les intentions derrière un tel projet sont louables et les retombées potentiellement positives. N’empêche, ce scénario pose plusieurs questions éthiques. Qu’est-ce que cette décision révèle-t-elle à propos de nous, en tant que société, de notre relation avec les personnes âgées, et avec la notion du vieillissement en général ? Est-il désirable de remplacer le contact humain par celui d’un robot, et est-ce réellement ce que nous souhaitons pour nos aînés ? Les réponses à ces questions peuvent d’ailleurs varier, selon les cultures, et évoluer dans le temps.
28Aussi, des auteurs soulignent les risques que des robots ou systèmes dotés d’une IA générale, c’est-à-dire similaire ou même supérieure à l’intelligence humaine, se « désalignent » des objectifs pour lesquels ils ont été créés et adoptent d’autres objectifs qui pourraient être potentiellement contraires à l’intérêt des humains (McLean et al., 2021). Ces systèmes sophistiqués pourraient même potentiellement échapper au contrôle humain. Ces scénarios, bien que controversés, méritent attention et prudence dans le développement de systèmes d’IA très avancés.
29De nombreux questionnements éthiques sont liés aux bouleversements du marché du travail générés par l’intégration de l’IA dans le milieu de la santé. Beaucoup d’incertitude plane sur la question, tant sur la nature des changements potentiels des tâches et des emplois dans les différents secteurs de la santé, que sur les impacts de ces changements sur le personnel de la santé et sur son identité professionnelle. Ainsi, plusieurs acteurs se questionnent sur la désirabilité et l’acceptabilité sociale et organisationnelle de ces changements (Danaher, 2017 ; Smids, Nyholm et Berkers, 2020).
30Si les individus ne sont pas remplacés dans leur emploi, plusieurs seront certainement appelés à travailler en proximité avec des SIA. L’intégration de ces systèmes dans le milieu de la santé nous pousse donc à poser la question de la littératie numérique et de la formation du personnel médical, administratif et de soutien en matière d’IA (WHO, 2021), sans oublier celle des patients et de leurs proches. La technologie derrière ces systèmes est complexe et le fossé qui sépare le champ d’expertise des différents travailleurs de la santé et les connaissances nécessaires pour pouvoir bien intégrer les SIA dans leur quotidien est parfois très large (Ahmad, Eckert et Teredesai, 2018). Effectivement, à l’heure actuelle, les professionnels de la santé, le personnel administratif, tout comme les patients en connaissent très peu sur l’IA, ses utilisations et son fonctionnement, ce qui pose de nombreux enjeux. Le manque de connaissances et de compréhension pourrait notamment créer une dépendance humaine envers la technologie et affecter la capacité de jugement professionnel. Finalement, l’introduction des SIA dans le quotidien des travailleurs de la santé pourrait porter atteinte à l’autonomie et la dignité de ces derniers, qui voient leur expertise être dévalorisée par l’introduction de SIA qui viennent relever ces individus d’une partie ou même éventuellement de l’entièreté de leurs fonctions (WHO, 2021).
31Si l’IA et ses différentes applications ne semblent connaître aucune frontière, l’accès aux technologies d’IA est loin d’être universel. Effectivement, cet accès est souvent réservé aux individus et organisations issus de pays riches ou de milieux sociaux économiques élevés (en anglais, on nomme cet enjeu le digital divide). Ces iniquités d’accès et d’utilisation à travers le monde renforcent des disparités sociales existantes et affectent considérablement la qualité et la représentativité des données à notre disposition pour créer, développer et déployer des SIA qui respectent les principes d’équité, de diversité et d’inclusion qui sont au cœur de l’IA responsable (WHO, 2021). Ces écarts sont aussi présents sur le plan local, notamment entre les différents groupes et communautés d’un pays. Historiquement, les groupes marginalisés vivent une précarité qui rend difficile l’accès à certaines commodités essentielles ; encore plus aux technologies d’IA. L’écart d’accès et l’écart d’utilisation aux échelles locale et mondiale affectent à leur tour la qualité des technologies d’IA qui sont développées (WHO, 2021).
32Effectivement, la difficulté d’accès à ces technologies par certains groupes signifie qu’au mieux très peu de données les concernant sont collectées ; ils sont donc sous – voire non représentés – par ces technologies qui ne peuvent être adaptées à leur réalité, par manque d’accès à leurs données. Ce phénomène renforce les disparités sociales existantes et participe à les marginaliser davantage (Birhane, 2021), comme discuté précédemment. Les SIA peuvent donc parfois être créés par et pour certains groupes privilégiés, excluant une majorité d’individus marginalisés par leur genre, leur sexe, leur âge, leur origine ethnique ou leur condition médicale, par exemple. Parfois déployés à tort dans des milieux issus de cultures et de réalités différentes de ceux ayant été pris en compte dans leur développement, les SIA peuvent avoir des effets néfastes considérables et palpables sur la vie de ces individus (Birhane, 2021).
33Les SIA déployés dans le système de la santé émanent principalement de la recherche universitaire et de la recherche menée dans les entreprises privées. Comme nous l’avons mentionné plus haut, certaines entreprises privées agissent avec un manque de transparence concernant leurs pratiques de gestion et protection des données personnelles des utilisateurs de leur technologie. L’absence de mesures incitatives à la transparence permet à ces entreprises d’opérer sous un voile cachant des informations à propos de leur technologie et des pratiques qui « franchissent parfois des limites éthiques » (WHO, 2021).
34En outre, alors que certaines entreprises divulguent le moins d’information possible à propos de leurs activités, elles en collectent toujours plus à propos de celles de leurs utilisateurs (Richterich, 2018). Cette asymétrie est problématique. Effectivement, si l’accumulation de données utilisateurs augmente le pouvoir des entreprises, celui des utilisateurs est considérablement réduit par le manque d’information disponible à l’égard des entreprises et réduit les possibilités d’action contre elles, autant de la part des utilisateurs que des autorités pertinentes (Mittelstadt et Floridi, 2016 ; Someh et al., 2019).
35De plus, le pouvoir des grandes entreprises privées de technologies est parfois un moyen de pression efficace auprès des autorités et des gouvernements. Cette pression est notamment exercée dans le but de modifier le cours de travaux, le contenu de politiques ou l’application de lois, de sorte que ces derniers s’alignent avec les intérêts commerciaux des entreprises privées qui, eux, ne sont pas toujours alignés avec ceux de la santé publique et de la société (WHO, 2021).
36Quoiqu’encore peu étudiés, les impacts environnementaux de l’IA sont réels. Malgré les nombreux bénéfices qu’ils peuvent avoir dans le milieu de la santé, les SIA s’accompagnent d’une dépense énergétique qui peut, paradoxalement, contribuer à la dégradation de la santé de notre planète ; dégradation qui a des coûts visibles et connus sur la santé des populations. Effectivement, la quantité d’énergie utilisée pour entraîner les algorithmes d’apprentissage automatique, au cœur de nombreuses applications de l’IA aujourd’hui, ainsi que les infrastructures nécessaires pour soutenir le développement des algorithmes et l’entreposage des données, par exemple, est non négligeable et alourdit considérablement la dette énergétique des technologies d’IA (van Wynsberghe, 2021).
37Nous avons présenté dans cet article un tour d’horizon des principaux enjeux éthiques liés au développement et au déploiement des technologies d’IA dans le domaine de la santé. Ceux-ci concernent à la fois les enjeux liés à la bonne gouvernance des données personnelles et de santé, ainsi que les enjeux propres aux systèmes d’IA développés et implantés dans le milieu de la santé. Face à ces enjeux, de nombreuses initiatives nationales et internationales ont proposé dans les dernières années des principes, des chartes et des lignes directrices visant à encadrer le développement éthique et responsable des technologies d’IA (Langlois et Régis, 2021). Malgré la pertinence avérée de ces propositions normatives, des auteurs se questionnent sur la possibilité même de ces grands principes afin de répondre aux enjeux éthiques liés au développement et au déploiement de l’IA dans nos sociétés. En effet, certains principes de haut niveau sont parfois difficilement traduisibles en pratiques concrètes pour les milieux organisationnels (Mittelstadt, 2019), et peuvent même causer d’autres enjeux de hiérarchisation entre certains de ces principes (Krijger, 2021). Certains outils ont été proposés afin de tenter d’opérationnaliser l’éthique de l’IA en organisation, dans différents domaines (Morley et al., 2020), et plusieurs initiatives en ce sens sont en développement. Au-delà de l’encadrement éthique et volontaire des technologies, plusieurs acteurs en appellent au développement d’un encadrement juridique robuste de celles-ci. Des lois sur la gouvernance des données de santé ont été proposées et adoptées au Québec et ailleurs dans le monde. Des lois encadrant directement les systèmes d’IA sont en développement au Canada et ailleurs, mais tardent à être adoptées. Le défi de réussir à prévenir et à pallier les risques et enjeux éthiques liés à l’intégration de l’IA dans les soins et les services de santé reste encore bien présent pour les décideurs, organisations et acteurs du domaine, tant au Québec, au Canada, que partout dans le monde. Tous doivent se soucier d’adopter une posture responsable et prudente dans le développement et l’implantation de systèmes d’IA, afin d’en diminuer les risques.
Flux RSS