- 1 Dans cet article, je traite des technologies du numérique utilisées en santé incluant l’intelligenc (...)
1L’intelligence artificielle (IA) et le numérique1 s’immiscent dans tous les domaines de la société, c’est maintenant chose connue. Dans le domaine de la santé et de la recherche biomédicale, des débats au Québec interrogent actuellement les modalités de la gouvernance concernant l’accès aux données médicales des patients à des fins de recherche dans le cadre du projet de loi 3 – Loi sur les renseignements de santé et de services sociaux et modifiant diverses dispositions législatives – déposé le 7 décembre 2022. Or, les questions de la protection de la vie privée et du consentement au partage des données constituent des enjeux classiques de la bioéthique lorsqu’il était déjà question de la constitution de banques de données ou de banques d’ADN dans les années 2000 (Knoppers, 2003 ; Parizeau et Kash, 2006). Ces enjeux sont donc relancés aujourd’hui avec plus d’acuité par les techniques de l’IA, car elles peuvent traiter des données massives qui, par leur volume, deviennent plus intrusives sur l’état physique, l’état mental ou les comportements d’une personne ou d’un groupe de personnes.
2Si toutes ces données sont utiles pour faire avancer la recherche biomédicale et traiter de façon plus efficace les patients, qui peut être contre la vertu ? Il existe par ailleurs des comités d’éthique de la recherche qui analysent les projets de recherche et des commissions nationales d’éthique qui se saisissent de ces enjeux éthiques complexes, discutent et énoncent des principes généraux et des normes d’application, dont certaines font l’objet de lois. Depuis les années 1980, ces façons de faire classiques permettent grosso modo d’encadrer les pratiques innovantes de la recherche biomédicale. Les nouveaux enjeux éthiques liés à l’utilisation de l’IA dans la recherche biomédicale suivent progressivement ce processus éthico-juridique balisé. Par exemple, CIFAR, qui se présente comme le leader pancanadien de la stratégie IA, financé par le gouvernement canadien et soutenu entre autres par Facebook, a organisé un atelier sur la réglementation des appareils médicaux utilisant l’IA (CIFAR, 2021).
3Avec l’utilisation de l’IA et du numérique dans le contexte biomédical, n’y aurait-il alors rien de nouveau sous le soleil de l’éthique ?
4Et pourtant… Combien de personnes autour de nous utilisent une application de santé sur leur portable ou leur montre connectée ? Ces applications sont très variées, allant du « nombre de pas effectué par jour », au « manger mieux », en passant par « surveiller ma pression », « gérer mes médicaments », « surveiller mes calories », « combattre le stress » ou encore, pour les femmes, une application sur leur suivi menstruel et leur vie sexuelle. Ces applications de santé participent d’un changement dans la perception qu’ont les individus de leur santé.
5Le médecin, quant à lui, est régulièrement confronté au « patient expert » qui a consulté Internet avant de le rencontrer. Cela génère des comportements variés allant d’une meilleure connaissance de la maladie à son contraire, la cyberchrondrie (l’anxiété excessive liée aux articles lus sur Internet), jusqu’au patient qui propose à son médecin les derniers essais cliniques qui pourraient s’appliquer à sa maladie. Les médecins rencontrent de plus en plus ce e-patient, certes faisant preuve d’autonomie, mais qui médiatise la relation thérapeutique à travers les informations trouvées sur Internet (Parizeau et Gagnon, 2021).
6De leur côté, les médecins sont de plus en plus confrontés aux algorithmes décisionnels (predictive analytics models) fondés sur les plus récents résultats de la recherche (médecine fondée sur les données probantes), qui standardisent les normes de diagnostic ou de traitements ou encore proposent des modèles prédictifs sur l’évolution de la maladie dans un nombre de plus en plus grand de pathologies, même les plus fréquentes ou les plus banales. Leur jugement médical semble façonné par les processus décisionnels des algorithmes au risque de faire des médecins techniciens disqualifiés de leur expérience clinique.
7Avec ces quelques exemples, chacun peut constater que la pratique médicale s’est modifiée par l’immixtion du numérique et de l’IA, ainsi que par d’autres forces de standardisation et d’uniformisation des pratiques socioéconomiques (Boulier, 2019).
8Je voudrais m’interroger dans le cadre de cet article sur ce nouveau climat général qui entoure la relation patient-soignant avec l’introduction du numérique et de l’IA, c’est-à-dire sur cet arrière-plan décalé derrière la maladie et qui se rapporte à une certaine conception de la santé. Pour le dire autrement, si le médecin s’intéresse à la maladie et à ses causes, le patient, quant à lui, s’intéresse à sa santé et aux moyens de la recouvrir ou de la maintenir, voire de l’améliorer.
9La définition de la santé aurait-elle changé ? La littérature voit en effet éclore un nouveau vocable, celui de « la santé numérique » (digital health). De quelle conception de la santé relève ce nouveau vocabulaire ? Qu’est-ce que le numérique et l’IA viennent modifier dans cette nouvelle conception de la santé ?
10Dans une première partie, je vais tour à tour revoir dans une perspective éthique et philosophique trois définitions de la santé qui coexistent actuellement – la santé selon la définition classique de l’OMS, la santé améliorative et la santé écologique – afin que, dans une deuxième partie, les caractéristiques spécifiques de la santé numérique soient identifiées et analysées. J’examinerai ensuite dans quelle mesure la santé numérique redéfinit le concept de santé et de quelle façon. J’analyserai certaines caractéristiques intrinsèques au numérique et à l’IA dans le but de comprendre si celles-ci se retrouvent au sein de la santé numérique. Nous verrons que ces caractéristiques spécifiques au numérique et à l’IA permettent de mieux qualifier la santé numérique et tout en donnant des orientations non neutres sur le plan normatif.
- 2 J’ai développé ces trois conceptions de la santé dans le livre écrit avec Josée-Anne Gagnon, De la (...)
11Les définitions de la santé se concurrencent actuellement au gré des innovations technologiques et des priorités de santé publique. La définition classique de l’OMS a marqué, depuis les années 1950, le développement des systèmes de santé à travers le monde, en particulier, ceux des pays riches avec l’importance accordée à la prévention des maladies et à la santé publique. La santé améliorative, quant à elle, s’est déployée en synergie avec la biologie moléculaire et les avancées du transgénisme – des bactéries aux êtres humains. Elle s’est amplifiée depuis le tournant des années 2010 à travers la convergence NBIC (nanotechnologies, biotechnologies, sciences de l’information et neurosciences) et avec les idéologies du transhumanisme et du posthumanisme (Bensaude-Vincent, Larrère et Nurock, 2008). La santé écologique, avec des enjeux mondiaux comme les changements climatiques ou la pandémie de COVID-19, se déploie à partir des mouvements comme OneHealth et EcoHealth pour penser les conditions de la santé en interrelation avec les conditions environnementales. Je vais expliquer dans leurs grandes lignes chacune de ces trois conceptions de la santé2.
12La définition de la santé de l’Organisation mondiale de la Santé (OMS) de 1946 reste le fondement à partir duquel toute discussion sur le concept de santé repose encore aujourd’hui (Parizeau et Gagnon, 2021). Cette définition énonce que « […] la santé est un état de complet de bien-être physique et mental et ne consiste pas seulement en une absence de maladie ou d’infirmité » (OMS, 1946).
13Cette définition consiste en un compromis international émergeant juste après la Seconde Guerre mondiale au moment de la création de l’OMS au sein des Nations Unies. Dans les discussions, certains pays ont souligné que la santé contribuait à la paix ou encore que la santé et le bonheur étaient liés (Callahan, 2012). Après les horreurs de la guerre, la définition de la santé de l’OMS porte un idéal de bonheur sur la Terre dans la lignée des mouvements hygiénistes et utilitaristes du XIXe siècle. Ces idées égalitaires et universalistes ont soutenu les différents politiques de l’OMS et orienté par la suite de nombreux systèmes de santé dans le monde.
14Au Québec, par exemple, la définition inscrite dans la Loi sur la santé et les services sociaux du Québec (LégisQuébec, 1991) met l’accent sur la valeur du « bien-être individuel » dans la société :
[…] la présente loi a pour but le maintien et l’amélioration de la capacité physique, psychique et sociale des personnes d’agir dans leur milieu et d’accomplir les rôles qu’elles entendent assumer d’une manière acceptable pour elles-mêmes et pour les groupes dont elles font partie (Partie 1, titre 1).
15L’État met donc au premier plan le bien-être individuel et collectif avec des conditions de réalisation qui sont autant d’obligations et de normes construites par l’État.
- 3 Voir par exemple le Rapport sur l’équité en matière de santé dans la région de Québec de l’Agence d (...)
16La définition de l’OMS apporte donc une conception de la santé qui est directement liée au bien-être économique et culturel. Cette conviction a été quantifiée par la suite avec des indicateurs sociaux dans les études de santé publique3.
17Cependant, dans les décennies suivantes, cette définition va faire l’objet de multiples critiques. Différents ajustements et précisions sur les moyens d’atteindre la santé ont été tentés au cours des décennies, en particulier, la Charte d’Ottawa de 1986 (Breton, 2016), sur la promotion de la santé publique et de la prévention des maladies, mais ils ne modifient pas de façon substantielle la définition initiale de l’OMS.
18Deux critiques méritent néanmoins d’être soulignées.
19La première critique du bioéthicien Daniel Callahan (2012), pose que le bien-être « complet » n’est guère atteignable dans ce monde à moins que l’individu n’ait que peu d’attente concrète. Si, explique Callahan, dans la définition de l’OMS, on enlevait le mot « complet » et que l’on revenait au sens commun du terme santé, on pourrait alors faire de la santé une condition nécessaire mais non suffisante du bonheur individuel et collectif. La santé continuerait à porter un idéal moral de mieux-être tout en affirmant la nécessité de lutter contre la maladie et la souffrance humaine par les moyens de la science.
20Mais ce compromis n’atténue pas la seconde critique portée à la définition de l’OMS et formulée par Michel Foucault (1972 et 1979). Cette critique énonce que les professions médicales et paramédicales sont devenues les gardiens du bonheur et du bien-être collectif. Or, explique Foucault, c’est en fixant la norme de la santé par le biais des sciences biomédicales que ces gardiens déterminent : le sain du malade, le normal du pathologique, mais aussi le fou, l’infirme, l’anormal, le déviant. La médicalisation envahit les sphères et les dynamiques de la société. Cette normalisation, effectuée par les professions médicales et le pouvoir de l’État, a été largement examinée par Foucault qui affirme que la santé est devenue essentiellement politique. L’État moderne y entreprend de gouverner la vie de l’espèce humaine. Les procédures d’exercice du pouvoir disciplinaire sur le corps de l’individu s’exercent plutôt à l’échelle des populations et des entités collectives. Ces stratégies politiques d’ensemble concernent la ville, l’hygiène publique, la natalité, la mortalité, etc., et visent à modeler la vie des populations. Ainsi, les professions médicales, en particulier dans le champ de la santé mentale et de la psychiatrie, ont déplacé certains problèmes moraux et sociaux (violence, pauvreté, sexualité) dans le champ du médical. Cette extension de la médicalisation des problèmes de société donne un pouvoir de normalisation sociale aux professionnels de la santé en actualisant le biopouvoir de l’État dans le contrôle des populations. Le concept de biopouvoir de Foucault se présente comme un rapport entre le pouvoir et la vie. La vie humaine devient ainsi le centre de stratégies politiques de l’État moderne, par le biais de la discipline des corps et le contrôle des processus biologiques affectant les populations. Ce processus de médicalisation a eu pour effet de disqualifier les autres formes de solutions traditionnelles (symbolique, religieuse, politique) au profit des solutions techniques et des contrôles de type gestionnaire. Le savoir scientifique règne sur l’ensemble de la société moderne au nom de l’impératif de la santé.
21La deuxième conception de la santé qui s’est mise en place depuis une trentaine d’années concerne « la santé améliorative » (Hottois et al., 2015). Celle-ci s’inscrit dans le développement de la biologie moléculaire et de la génétique humaine, et plus généralement, des modifications génétiques sur le vivant.
22La santé améliorative porte l’idée d’une médecine qui va au-delà du critère médical classique du thérapeutique pour aller vers le modelage de l’humain. Jérome Goffette (2006) a forgé le terme d’anthropotechnie pour désigner ces techniques qui vont de la chirurgie esthétique en passant par l’utilisation des psychostimulants pour réussir des examens, ou le dopage des athlètes de haut niveau ; autant de techniques qui nécessitent des connaissances biomédicales et le savoir-faire du médecin.
23L’enjeu concerne la modification, voire de l’amélioration, des êtres humains sur une base individuelle et non populationnelle. Les idéologies du transhumanisme et du posthumanisme sont présentes en arrière-plan de la santé améliorative (Hottois et al., 2015 ; Missa et Perbal, 2009).
24En bioéthique, c’est le rapport américain de 2003, intitulé Beyond Therapy de la President’s Council on Bioethics, qui a amorcé la réflexion sur la modification et l’amélioration des êtres humains en remettant en question le critère traditionnel médical du thérapeutique. Ce rapport examinait les différents scénarios des modifications génétiques individuelles (« le désir d’avoir de meilleurs enfants, le désir d’être plus performant, le désir de maintenir un corps sans âge, le désir d’avoir un esprit heureux »). Le critère du thérapeutique était alors laissé de côté au profit de la liberté individuelle et du marché de la santé. Le libre marché de l’économie libérale se substitue alors aux pratiques médicales encadrées afin d’offrir aux individus les moyens de réaliser leurs rêves ou leurs phantasmes de devenir meilleur ou plus performant.
25Dans le contexte actuel du développement de technologies modificatrices de l’être humain, la question que pose Goffette est pertinente : faut-il les exclure de la médecine et avoir un autre type de pratique professionnelle ? Peut-on alors identifier un champ d’interventions dites anthropotechniques, qui est défini comme un commerce de type contractuel du modifié ? Les modifications techniques portent sur le corps extérieur ou la physiologie interne, voire les gènes. Goffette délimite trois champs d’intervention dans la modification du corps :
-
les techniques concernant le contrôle de la procréation humaine et des débuts de la vie ;
-
les techniques concernant les modifications externes et l’identité corporelles (perception de soi et identité personnelle) ;
-
les techniques de la performance, qu’elles soient physiques ou mentales (comportements et capacités physiques ou mentales).
26Mais ces champs de modifications techniques nécessitent la participation des médecins par leurs connaissance et savoir-faire, qui sont alors nommés « d’anthropotechnologues » pour marquer la différence entre ces types d’interventions et la pratique médicale et les soins. Cette relation en est une de service contractuel et marchand où sont expliquées les meilleures techniques, encadré par des normes de pratiques déontologiques (l’anthropotechnologue ne peut pas vendre n’importe quoi).
27La position de Goffette reste néanmoins problématique à plusieurs égards. En voulant sauver la médecine et la conception classique de la santé, l’anthropotechnie s’ouvre comme un champ de modifications quasi illimitées du corps. Ce champ a pour objet le corps modifié au gré des désirs et des valorisations sociales au sein d’un marché de l’offre et de la demande. La légitimité des désirs individuels et des techniques proposées n’est nulle part contestée comme si la question de la santé était absorbée, voire dissoute, par le monde marchand.
28Or, certaines anthropotechnies peuvent rendre malade. L’utilisation de certaines substances dopantes dans le sport de haut niveau si elle améliore les performances, diminue la longévité des athlètes. Paradoxalement et de façon trompeuse, les athlètes de haut niveau, à travers la publicité de marques de biens de consommation, sont montrés en idéal de santé. Goffette évacue la question de la construction des normes sociales dans l’anthropotechnie.
29À ce niveau, le découpage entre médecine et anthropotechnie paraît non seulement radical mais arbitraire (Allouche, 2009). Certaines techniques, comme les procréations médicalement assistées, ont pour but de trouver des moyens pour corriger, suppléer à une fonction naturelle déficiente. Il ne s’agit pas de modifier une fonction en soi qui joue son rôle usuel (« normal ») pour la rendre plus performante. Il s’agit davantage d’une situation qui se place dans un continuum, plutôt que d’opposer à un critère thérapeutique un critère amélioration-performance.
30En Amérique du Nord en particulier, l’idéologie de la performance sature le champ social construit autour du travailleur efficace et de la performance économique (Le Garrec, 2021). Les moyens d’une amélioration constante, qui jouent sur l’idée de la liberté d’agir de l’individu, le poussent dans le conditionnement de la compétition sans fin et du contrôle de soi par des techniques externes. Le désir individuel est stimulé sans cesse par cette idéologie de l’amélioration (Queval, 2009). Dans la course à la performance, l’individu fait face à un moment donné ou à un autre à ses limites humaines où l’état de performance constant mène à la douleur du corps (les douleurs articulaires du joggeur assidu de 50 ans) ou du mental (épuisement professionnel, par exemple). L’idéologie de la performance individuelle ne mène ici ni à la santé de la personne ni à son bien-être, mais va plutôt dans le sens de la négation de la santé jusqu’à avoir mal à son corps et à son esprit. Le concept de santé améliorative est confronté aux limites d’une approche individualiste et de pressions sociales à la performance dans un marché de la santé.
31Un autre courant de pensée, plus récent, celui de la « santé écologique » propose une perspective de la santé non pas centrée sur l’amélioration individuelle, mais sur les relations d’interdépendance entre l’individu, les communautés et l’environnement.
32L’initiative One Health, apparue en 2004, a développé progressivement depuis une dizaine d’années une approche globale et interdisciplinaire qui porte sur la santé des humains, des animaux et des écosystèmes (Michalon, 2019). Ce courant composé surtout de médecins et de vétérinaires s’est intéressé aux phénomènes des zoonoses, ces maladies transmises des animaux (sauvages ou domestiques) aux humains. Les études documentent en effet les risques infectieux, le cycle de vie des pathogènes, les trajectoires de transmission, les maladies infectieuses émergentes, les résistances bactériennes, etc. Ces données scientifiques sont très utiles comme on l’a constaté pendant la pandémie de COVID-19 (Nurock et Parizeau, 2022). Ces informations scientifiques en s’appuyant sur des concepts de l’écologie permettent de mettre en place des mesures de prévention et de résilience concernant notre manière d’être en contact avec certains animaux pour éviter de nouvelles épidémies. One Health a aussi pour objet les liens entre la toxicité de certains contaminants et polluants et l’apparition de maladies chroniques, et s’intéresse ainsi à la variété des milieux habités, en particulier le milieu urbain (Destoumieux-Garzón et al., 2018).
33Bien qu’ayant la même perspective holistique et interdisciplinaire de la santé humaine, animale et écosystémique, le deuxième courant, EcoHealth, diffère par l’apport plus constructiviste des sciences humaines (coconstruction des connaissances par opposition aux énoncés positifs/objectifs scientifiques) (Cassidy, 2016). Celles-ci sont rarement mobilisées par One Health alors qu’elles sont centrales dans l’approche EcoHealth. Les études se concentrent sur les facteurs socioécologiques qui influencent la santé humaine. Les enjeux de justice environnementale, les stratégies de participation, d’autonomie et de développement des capacités d’action (empowerment, capacity-building) des communautés sont au centre des analyses pour trouver des solutions adaptées (Harrison et al., 2019).
34Pour rapprocher et unifier ces deux approches, le concept d’une « santé écologique » vise à dépasser les approches disciplinaires et trop anthropocentrées (Parizeau et Gagnon, 2021). La perspective éthico-philosophique est d’incorporer la pensée de l’écologie à la santé humaine pour décrire et comprendre les interrelations de l’individu et des groupes humains à leur environnement respectif et, à un niveau plus global, les interrelations avec la planète en synergie avec les dynamiques des écosystèmes.
35Ce changement de perspective qui reconnaît la complexité et l’interrelation montre que la santé individuelle et collective est directement liée à notre façon de vivre dans notre milieu, celui-ci étant souvent un gradient entre l’environnement naturel et l’environnement artificiel. Le temps des perturbations accélérées et de l’imprévisibilité, constaté avec la pandémie de la COVID-19 et les changements climatiques, nécessite une éthique globale relationnelle plurielle qui tienne compte des différents contextes culturels et environnementaux.
36Qu’est-ce que le bien-être et les conditions de la santé pour tous aujourd’hui ? Une eau non polluée et potable pour éviter les maladies hydriques comme la diarrhée ou les parasitoses. Un air non pollué par les millions de voitures et camions qui non seulement polluent l’air, mais contribuent aux changements climatiques et sont directement responsables des maladies pulmonaires comme l’asthme ou des problèmes cardiaques en ville. Un sol non contaminé par des déchets toxiques ou les plastiques, une nature ordinaire en ville pour établir une relation avec les autres vivants (Beau, 2017). Une alimentation variée avec le moins possible de pesticides, locale et accessible. Ce serait la base de ce que l’on pourrait appeler une « santé écologique » qui respecterait à l’échelle locale et mondiale des équilibres humains et écosystémiques.
37Cette santé écologique viserait des formes d’harmonie et d’épanouissement individuel et social qui ne reposent pas principalement sur la consommation, mais qui valoriseraient des formes de création culturelle. Elle favoriserait des formes politiques plus participatives, plus démocratiques, axées sur un équilibre entre la liberté et l’égalité. Cette trajectoire dans ses formes concrètes peut inclure certaines limites matérielles, voire une certaine frugalité, une retenue dans notre façon de consommer, un plus grand partage des ressources matérielles communes. Il existe une pluralité de voies pour mettre en œuvre ces valeurs et ces idéaux du bien vivre ensemble en incluant le bien-être (l’épanouissement) des autres vivants et l’environnement.
38Nous ne sommes pas très loin du care (Tronto, 2009) ni des théories des philosophies de l’environnement qui ouvrent sur une diversité d’avenues théoriques de l’écologie profonde de Arne Naess (2008), de l’écoféminisme de Val Plumwood (2002), ou de la décroissance d’André Gorz (1978) ou encore de l’éthique de la terre de Baird Callicott (2013).
39Car il s’agit ici, à l’encontre du projet trans/post-humaniste reposant sur un marché économique de la santé améliorative, de réfléchir sur les limites et la durabilité de notre monde, d’en prendre soin, et, par-delà la mortalité humaine niée par le posthumanisme, de trouver des formes de transmission générationnelle pour mieux vivre collectivement sur la Terre en interrelation avec les autres vivants et les écosystèmes que nous habitons. La santé écologique change l’horizon des valeurs, pour penser les interdépendances, au-delà du seul individu isolé dans son corps et animé par ses seuls intérêts ou désirs.
40Les trois concepts de santé – santé de l’OMS, santé améliorative, santé écologique – sont porteurs d’une conception de la personne humaine, du monde et de valeurs sociales fort différentes, comme nous avons essayé de le montrer rapidement. Cependant, elles ne sont pas nécessairement mutuellement exclusives. La santé améliorative peut voisiner avec la santé de l’OMS avec l’idée d’améliorer la santé individuelle, tandis que la santé écologique peut également cohabiter avec la santé de l’OMS dans la promotion de la santé collective. Il est nettement plus difficile d’avoir une perspective cohérente entre la santé améliorative, fondée sur une perspective individualiste, valorisant la performance et l’innovation techno-économique, voire transhumaniste, avec la santé écologique qui repose sur vision holistique d’interdépendance entre les humains et les autres vivants, les écosystèmes et la Terre, et une certaine frugalité matérielle. Il est donc légitime de se demander dans quelle mesure la santé numérique représente une nouvelle perspective définissant autrement l’être humain et la société, et s’interroger sur ce qui la caractérise.
41Entre ces trois modèles de santé – celle de la définition classique de l’OMS, celle de la santé améliorative, celle de la santé écologique –, où se situe la santé numérique ? Comment se définit-elle ? Quels sont les contenus normatifs et les enjeux éthiques qui lui sont propres ?
42Le contexte de la pandémie de COVID-19 a entraîné une utilisation démultipliée des appareils numériques, aussi les données de santé ont-elles été récoltées de façon exponentielle. Si la littérature sur la santé numérique s’est développée récemment, on trouve peu de publications plus théoriques sur la définition de celle-ci. Cette définition reste encore vague et sujette à discussion.
43Après une étude exhaustive de la littérature sur la définition de la santé numérique, Farhad Fathehi et ses collègues (2020) concluent que le point de convergence des définitions repose sur le concept de santé plutôt que sur des technologies numériques spécifiques. L’accent est mis sur la santé et le bien-être des individus et des populations et non sur la maladie et les patients. L’objectif est celui d’un bon usage des technologies numériques dans le but de favoriser la santé et le bien-être afin de viser l’amélioration des soins des personnes avec des procédés intelligents (IA et numérique) en utilisant les données cliniques et génétiques des personnes (Fathehi et al., 2020). La définition de 2021 de l’OMS se situe dans ce sillage, nous l’examinerons de façon plus précise dans la section suivante.
44Une autre façon de définir la santé numérique consiste à la caractériser par ses technologies. Shaw et Donia (2021) expliquent ainsi que la santé numérique se réfère à une grande diversité de technologies et de pratiques dont on peut distinguer quatre grands types :
-
la télémédecine (soins synchrones ou asynchrones à distance) ;
-
eSanté (eHealth) qui concerne la recherche et l’échange d’informations sur la santé ;
-
mSanté (mHealth) qui utilise des appareils numériques mobiles (téléphone et tablette avec des applications de santé, mais aussi montre connectée ou vêtements connectés, voire robots de soin ou des appareils médicaux spécialisés utilisant l’IA, etc.) pour des raisons liées à la santé ;
-
la médecine des algorithmes qui utilisent l’IA et le numérique pour fournir des modèles décisionnels prédictifs pour les médecins.
45Cette définition inclut donc l’utilisation de technologies numériques permettant l’autosuivi automatique (self-tracking), ou l’autosoin (self-care), la recherche d’information dans les sites de santé sur Internet, les échanges d’information ainsi que la livraison directe de soin de santé (test génétique en ligne par exemple) (Shaw et Donia, 2021).
46Ces définitions montrent une tension au sein de la définition de la santé numérique : tout d’abord, un flou conceptuel concernant la finalité de la santé numérique, et ensuite, par défaut, une focalisation sur les moyens techniques utilisés.
47En s’intéressant aux moyens techniques utilisés dans la santé numérique, il est possible de constater la diversité de ces moyens, leur hétérogénéité, mais aussi leurs impacts bien concrets sur la relation patient-soignant, la recherche clinique et les pratiques de santé. Donnons rapidement quelques exemples pour illustrer différentes facettes de la santé numérique qui intègre une hétérogénéité de technologies et d’objets techniques, mais tous reliés ensemble par la structure numérique de l’information et faisant souvent appel à l’IA dans le traitement de l’information, souvent de façon non explicite.
48La télémédecine, par exemple, est définie comme « l’exercice de la médecine à distance à l’aide des technologies de l’information » (Collège des médecins, 2015 : 9). Avec la pandémie de COVID-19, la télémédecine a été largement diffusée et son usage a induit différents modes d’interaction entre les médecins de famille et leurs patients – rendez-vous téléphonique (téléconsultation) ou par une plateforme de type zoom, renouvellement de prescriptions par la plateforme en ligne de la clinique, centralisation des données sur le dossier médical électronique des patients, etc. Fluidité des échanges, gain de temps et d’argent, accessibilité accrue pour les patients sont des avantages liés au développement de la télémédecine (François et Audrain-Pontevia, 2020). L’enjeu éthique principal concerne la confidentialité des données et la protection de la vie privée dans le partage et le traitement des données.
49La eSanté (eHealth) consiste dans la recherche et l’échange d’informations sur la santé au moyen d’Internet mais aussi des réseaux sociaux. Que ce soit pour la santé physique ou la santé mentale, Internet est utilisé de façon très large pour se renseigner, par exemple, sur la gravité d’un symptôme afin de décider ou non de consulter un médecin, pour comprendre les informations données par le médecin pendant la consultation. ChatGPT, un robot conversationnel (chatbot), qui utilise de façon intrinsèque l’IA, s’ajoute comme un nouveau moyen d’information dans la relation patient-médecin. Une des limites actuelles concerne l’entraînement de ChatGPT avec des données validées par des experts et des cliniciens pour éviter les contenus incorrects, logiquement cohérents, mais faux, ou biaisés. Une autre limite importante de ChatGPT porte sur l’absence d’éléments de contextualisation de la situation médicale du patient dans l’information fournie (Wang et al., 2023).
50Les usages sont donc très variés, mais un des enjeux éthiques fondamentaux reste la fiabilité de l’information des sites de santé y compris avec ChatGPT. Or les informations erronées assimilées par le patient exigent de la part du médecin traitant un surcroît de temps pour expliquer correctement et s’assurer de la bonne compréhension du patient de son état médical et de son traitement. Les controverses se cristallisent entre la crainte des effets d’informations en tout genre (charlatanisme) et les bénéfices de savoirs médicaux accessibles aisément (Méadel, 2016).
51La mSanté (mHealth) vient ajouter des objets connectés comme le téléphone portable ou la montre connectée à la santé numérique par l’usage des applications de santé qui utilisent ou non l’IA. La multiplication des applications de santé est exponentielle : 35 000 applications de santé et de bien-être (du fitness à la méditation), avec des téléchargements records (2,5 milliards) pendant la pandémie de COVID-19 et une génération, les trentenaires, particulièrement avides de ces applications de santé (France Mobiles, 2022). Bref, il s’agit d’un marché économique important – 205 millions de dollars en 2021 pour les applications Calm et Headspace qui engagent l’utilisateur vers la réduction de l’anxiété, l’augmentation de la concentration et la quantité des heures de sommeil, etc. Il est difficile ici de départager les applications de santé et celle de bien-être (bien vivre) ; les frontières sont poreuses. Mais si on s’en tient aux applications de suivi médical, elles sont aussi exponentielles : suivi du surpoids et de l’obésité, suivi du diabète, détection des signes de dépression en psychiatrie, suivi des patients ayant eu une greffe d’organe, programmes pour les patients en réadaptation, gestion du risque cardiovasculaire avec des senseurs, etc. Les attentes sont très élevées : prise en charge de sa propre santé (empowerment), meilleur accès au soin, soutien au virage ambulatoire des patients atteints de maladie chronique, surveillance de la sécurité des patients âgés ou en perte d’autonomie, suivi des effets secondaires de nouveaux médicaments en phase IV, etc. (Lindermeyer et d’Ortho, 2019) Le secteur des applications de santé est propice à l’utilisation de l’IA dans l’orientation des contenus ou l’utilisation des données émises par l’utilisateur (Mittelstadt et al., 2016).
52La médecine des algorithmes qui utilisent l’IA pour fournir des modèles décisionnels prédictifs pour certaines maladies rares ou courantes vise à aider les médecins dans le processus de la décision médicale, que ce soit pour le diagnostic ou le traitement. Des systèmes sophistiqués utilisant l’IA, comme le système d’IBM Watson for Oncology ou encore une IA permettant de diagnostiquer une maladie de la rétine à partir d’images, ouvrent un domaine complexe dont les effets pratiques commencent à être étudiés. Parmi les enjeux éthiques se trouvent la disqualification de l’expérience du praticien par la posture épistémique de supériorité de l’IA, la standardisation de normes de traitement sans que soient connues les chaînes de causalité menant aux résultats (l’alignement normatif), l’imputabilité du médecin ou de l’IA, l’enjeu de l’IA comme aide à la décision (Grote et Berens, 2020 ; Parizeau et Gagnon, 2021).
53De la télémédecine, à la eSanté (eHealth), puis à la mSanté (mHealth), la logique numérique et de l’IA consistent en une extension des usages et des modalités sans que l’on puisse marquer clairement les frontières et des finalités. Champ d’expérimentations avec des foules d’usagers et vaste Far West d’opportunités économiques, la santé numérique témoigne d’une expansion croissante et d’une pénétration accélérée du numérique et de l’IA dans tous les champs de la santé et de la médecine. Devant ce mouvement très rapide et dont les conséquences sont ambivalentes, il n’est donc pas étonnant que l’OMS ait travaillé sur une stratégie pour développer la santé numérique en affirmant certaines orientations éthiques et en proposant un cadre de gouvernance.
54Quelles sont ces orientations éthiques de la stratégie de l’OMS pour développer la santé numérique ? Font-elles échos aux enjeux éthiques que l’on trouve dans la littérature sur l’éthique et la santé numérique ?
55Dès 2005, l’OMS a encouragé les États membres à développer une stratégie à long terme pour le développement des services liés à l’eSanté (eHealth) dans le but de promouvoir un accès équitable et universel à ses bénéfices. À cet effet, l’OMS publiait en 2012, le National eHealth Strategy Toolkit, un outil technique et pratique pour aider les États à mettre en œuvre leur politique de eSanté en fonction de leurs besoins et capacités qui sont évidemment différents suivant que le pays est riche ou pauvre. En 2013, l’OMS proposait une résolution concernant la standardisation et l’interopérationnalité de l’eSanté (eHealth). C’est donc sans surprise qu’en 2018, l’OMS s’engageait dans un large processus de consultation (forum public, consultations techniques, rencontres des comités régionaux de l’OMS) pour proposer la Stratégie mondiale sur la santé numérique 2020-2025. Celle-ci a été adoptée par l’Assemblée mondiale de la santé de tous les États membres de l’OMS en 2020 (WHA73(28)).
56Quelle conception de la santé numérique propose ce document de 44 pages ? Tout d’abord, l’OMS propose une définition de la santé numérique englobante qui fait référence tant au concept de santé qu’aux outils numériques :
La santé numérique consiste en un champ de connaissances et de pratiques associées au développement et à l’utilisation des technologies numériques pour améliorer la santé. La santé numérique élargit le concept de eSanté (eHealth) pour inclure les consommateurs numériques, ainsi qu’un large éventail d’appareils intelligents et connectés. Elle inclut aussi l’utilisation d’autres technologies numériques pour la santé comme les objets connectés, l’intelligence artificielle, les données massives et la robotique (OMS, 2021a : 40).
57Cette définition de la santé numérique inclut donc la finalité explicite de l’amélioration de la santé ainsi qu’un large éventail de technologies numériques. Cependant, si l’OMS fait la promotion de la santé numérique, elle infléchit le concept de santé vers les objectifs du développement durable (ONU, 2015) et le guide vers un système de santé orienté sur la personne.
58Rappelons que le développement durable a été ainsi défini par le rapport Brundtland en 1987 :
Le développement durable est un développement qui répond aux besoins du présent sans compromettre la capacité des générations futures de répondre aux leurs. Deux concepts sont inhérents à cette notion :
-
le concept de « besoins », et plus particulièrement des besoins essentiels des plus démunis, et à qui il convient d’accorder la plus grande priorité, et
-
l’idée des limitations que l’état de nos techniques et de notre organisation sociale impose sur la capacité de l’environnement à répondre aux besoins actuels et à venir (CMED, 1989 : 51).
59Cette définition sera adoptée et développée au Sommet de la Terre à Rio de Janeiro en 1992, dans l’Agenda 21 « Stratégie mondiale pour le développement durable », puis affinée lors des rencontres suivantes à Rio+10 en 2002 et Rio+20 en 2012 (Parizeau, 2016). Ces discussions aboutiront d’abord aux Objectifs du millénaire pour les pays en développement (2000-2015) de l’ONU, puis aux Objectifs du développement durable (ODD) (2015-2030) qui seront adoptés à l’ONU en 2015. Les ODD sont au nombre de 17 et sont reliés à différents aspects du développement durable avec 169 cibles et 244 indicateurs. Il existe donc une continuité historique et idéologique au sein de l’ONU pour la promotion du développement durable qui vise à limiter les excès du capitalisme à partir des capacités de renouvellement des écosystèmes et en l’orientant vers le développement humain (Parizeau, 2004).
60Dans cette perspective, la santé numérique doit, d’une part, s’adresser à tous et de façon équitable conformément à la définition du développement durable qui insiste sur les besoins des plus démunis. D’autre part, chacun doit pouvoir bénéficier d’une couverture sanitaire universelle incluant une protection contre les risques financiers et donnant accès à des services de santé essentiels de qualité et à des médicaments à coûts abordables (cible 3.8, ODD 3 Bonne santé et Bien-être, 2015).
61L’OMS maintient donc l’objectif d’un droit universel à la santé au sein de la santé numérique. Concrètement, cela se traduit, entre autres, par le développement de la littéracie numérique afin de permettre l’inclusion et la non-discrimination. L’ensemble des objectifs de la santé numérique est cohérent avec la définition classique de la santé de l’OMS de 1946 et ses principes d’universalisation des systèmes de santé pour tous pour tous les pays.
62Par ailleurs, au sein de la santé numérique, il s’agit de prendre la mesure des transformations numériques actuelles et de les ajuster à cette conception qui promeut le droit à la santé de tous. L’OMS affirme l’importance des biens publics numériques (digital public goods). En s’adressant aux pays riches comme aux pays pauvres, l’OMS fait ici la promotion de l’open source, c’est-à-dire des modalités ouvertes (non privées) concernant les logiciels, les données, les contenus, les modèles d’IA, qui adhèrent au principe du respect de la vie privée ainsi qu’à sa mise en œuvre conforme aux lois et aux bonnes pratiques professionnelles. Cette condition est essentielle pour que les données de santé circulent et servent à toutes les parties prenantes : les personnes qui gèrent leur santé et leur bien-être, les soignants et les organisations de santé qui font la promotion des effets d’une meilleure santé ; l’industrie de la santé qui génère les innovations et les solutions ; les gouvernements qui optimisent leur système de santé pour qu’il soit sécuritaire ; les chercheurs universitaires qui font de la recherche ; les médias qui génèrent de l’information sur la santé (OMS, 2021b).
63Pour que la santé numérique ainsi définie fonctionne, il faut donc un cadre de gouvernance qui détermine les responsabilités des uns et des autres, qu’ils soient des personnes, des organisations, des entreprises ou des États. Les organisations publiques et privées qui collectent, gèrent et partagent les données sont autant de gardiens des données (data stewards). Les réglementations et les lois concernant l’ensemble de ces actions doivent garantir un niveau de sécurité, des données anonymisées ou dé-identifiées dans le but d’assurer la confidentialité et la protection de la vie privée et de bâtir la confiance. La règle du consentement du patient est réaffirmée comme la condition permettant à la santé numérique d’atteindre ses buts.
64Globalement, devant la déferlante des technologies de la santé numérique, l’OMS en appelle à des règles éthiques et de gouvernance à portée universelle, mais dont la mise en œuvre doit être contextualisée en fonction de l’état de développement du système de santé de chaque pays. Si l’OMS reconnaît qu’il existe un écart important dans les capacités numériques des pays riches par rapport aux pays pauvres, elle reste relativement optimiste sur les capacités du développement de la santé numérique à rendre plus efficaces les systèmes de santé, à accroître les capacités individuelles d’améliorer sa propre santé (empowerment) et sur la collaboration des entreprises privées dans un cadre de gouvernance responsable par rapport aux données (personnelles, médicales, traces numériques, etc.).
65L’OMS convient cependant qu’il existe plusieurs défis importants, en particulier les défis culturels sur l’accès libre aux données, des défis concernant la confiance quant au partage des données, des défis techniques à propos de l’interopérabilité et la sécurité des systèmes, des défis juridiques sur le respect de la vie privée.
66Cette position de l’OMS, notons-le, affirme de façon sous-jacente et a priori, la neutralité éthique et normative du numérique et de l’IA. Ces derniers se présentent comme un véhicule neutre. Or ce présupposé oblitère le contexte dans lequel le numérique et l’IA se déploient. D’une part, une partie importante du numérique et de l’IA est le produit des pays occidentaux, en particulier les États-Unis, suivi de l’Europe, mais aussi des pays asiatiques dont la Chine et le Japon. Certaines idéologies embarquées dans le numérique ressemblent à des formes de colonialisme déjà rencontrées dans l’histoire. D’autre part, le numérique dont l’IA constitue actuellement un des fers de lance de l’économie mondiale, et il se présente également comme un agent de puissance avec des pouvoirs politique, militaire et économique (Citton, Lechner et Masure, 2023).
67Dans la dernière section, je voudrais maintenant explorer quelques-uns de ces enjeux et interroger cette pseudoneutralité normative qui entoure le développement de la santé numérique.
68Les enjeux éthiques liés au développement de l’IA se sont de plus en plus précisés depuis une dizaine d’années à mesure que la technologie numérique pénétrait tous les champs sociaux, des finances à l’usine, de la gestion administrative à la création artistique, ou encore des tribunaux à l’éducation (COMEST, 2019 ; Garapon et Lassègue, 2018). Un nombre croissant d’enjeux de société liés au phénomène technique en soi du numérique et de l’IA sont de plus en plus documentés dans la littérature spécialisée. Je vais ici examiner certains déterminants soudés intrinsèquement à la technologie du numérique, et en particulier à l’IA, dans le but de les relier à la santé numérique afin de mieux caractériser celle-ci.
69Tout d’abord, le numérique comme l’IA reposent sur le traitement de données d’information intégrant par exemple des modèles ou des algorithmes. Les données d’information – quelle que soit leur forme – sont donc la base, le substrat sans lequel le numérique et l’IA ne peuvent exister. Les données d’information doivent donc être produites, collectées, moissonnées, extraites, appropriées, traitées, agrégées. Elles constituent la valeur économique au fondement du développement du numérique et de l’IA.
70La santé numérique repose donc sur le même principe général : les données d’information constituent la matière première à partir de laquelle pourront être produites d’autres informations, des systèmes décisionnels plus ou moins autonomes (IA), des systèmes cyberphysiques – de l’Internet des objets à la robotique sociale utilisant des interfaces humain-machine impliquant des fonctions de contrôle, de perception avec des capteurs, le fonctionnement d’actionneurs (machines de technologie médicale ou robot chirurgicaux).
71Quels sont donc ces déterminants intrinsèques au numérique et à l’IA qui ont des répercussions directes sur la forme de la santé numérique et son expression normative ?
72Qui collecte des données peut établir des informations sur ce qui (l’objet) ou sur celui (la personne) qui émet des données. La surveillance est sans doute une première caractéristique, sans doute la plus explicite du numérique et de l’IA.
73Par exemple, un patient aux soins intensifs est relié à une série de machines qui vont capter et enregistrer certains signaux vitaux et s’il survient un changement important dans un paramètre (par exemple, une baisse brusque du rythme cardiaque), le soignant qui surveille ce patient à partir des machines pourra intervenir sans délai. Parmi les objets techniques de la santé numérique, nombre d’applications de santé qui utilisent ou non l’IA encouragent l’autosurveillance (self-tracking) pour améliorer une prise en charge plus responsable de la santé par la personne elle-même (empowerment) et favoriser les bonnes habitudes de vie. Cette caractéristique intrinsèque de la surveillance au sein de la santé numérique induit ici des comportements humains ou génère des systèmes techniques comme des algorithmes qui mesurent et analysent les détails des habitudes de vie, tous captés sous la forme de données (Ajana, 2017).
74Avec qui partage-t-on ces données ? des soignants ? des machines ? un programme ou une IA d’une entreprise privée qui produit une machine captant des données biologiques ? un géant du numérique par une application de santé ? Ou l’État, s’il s’agit du passeport vaccinal lors de la pandémie de COVID-19 ou du dossier médical numérique par exemple (Duckett, 2019) ?
75Le partage des données biologique (biodata), qui peut inclure aussi des données liées à la santé mentale, constitue une deuxième caractéristique de la santé numérique. Le partage des données est souvent discuté sous l’angle éthique et juridique de la confidentialité ou de la protection de la vie privée en s’interrogeant sur le statut de « bien public » des données de santé et sur les mécanismes d’anonymisation des données (Huston, Edge et Bernier, 2019). La nature ou la qualification des données de santé est cruciale puisqu’elle détermine les usages autorisés ou non de ces données sensibles – l’OMS a buté sur cet enjeu lorsqu’il s’agit de la mise en œuvre concrète du partage des données. L’OMS peut vouloir promouvoir l’open source et le partage des données, il reste que cette position se heurte à des traditions de secret médical et d’extrême prudence des milieux médicaux et hospitaliers quant au partage des données médicales d’un patient, en particulier dans les interactions avec les compagnies d’assurance-santé privées. Le principe invoqué ici est le respect de la vie privée et l’intérêt du patient.
76Or, comme Shoshana Zuboff l’explique, ce débat sur le partage des données cache l’asymétrie de pouvoir et de savoir qui s’est instauré en quelques années et qui a généré ce qu’elle appelle, un « capitalisme de surveillance » :
Les capitalistes de surveillance ont affirmé leur droit à l’invasion, en confisquant le droit de décider individuel au profit d’une surveillance unilatérale et de l’extraction auto-autorisé de l’expérience humaine pour le bénéfice de quelques-uns (2020 : 39).
- 4 Les cadres réglementaires et les lois commencent seulement à encadrer l’utilisation du numérique po (...)
77Ce capitalisme de surveillance n’est pas intrinsèque au numérique et à l’IA, mais il s’est développé à partir de ceux-ci en l’absence de réglementations, de lois et de volonté politique4. L’open access des données que l’OMS souhaite pour développer la santé numérique constitue une alternative possible à ce capitalisme de surveillance dont les logiques néo-libérales dominent actuellement le cadre d’utilisation du numérique. Il est possible de mesurer la difficulté d’un tel changement dans le rapport de force. L’exemple de la Loi 18 qui engage actuellement certains géants du Web et le gouvernement canadien, à propos des redevances des contenus des journaux utilisés par les médias sociaux, permet de saisir la difficulté d’imposer de nouvelles règles d’équité et de partage dans l’utilisation des données. Cependant, d’autres caractéristiques intrinsèques à la santé numérique compliquent le tableau.
78Les données si elles sont partagées ou extraites ou appropriées sont ensuite traitées et agrégées et généralement utilisées à des fins prédictives.
Nous explorons ce nouveau commerce du réel où tous les aspects de l’expérience humaine sont revendiqués en tant que matière première et ciblés pour être restitués en données comportementales. Une grande part de ce nouveau fonctionnement s’effectue sous la bannière de la « personnalisation », ce qui est une façon de camoufler les opérations d’extraction agressives qui exploitent la vie de tous les jours au plus profond de l’intimité… L’approvisionnement en matières premières les plus prédictives provient de l’intervention dans notre expérience de manière à façonner notre comportement de manière à favoriser les profits. De nouveaux protocoles automatisés sont conçus pour influencer et modifier le comportement humain à grande échelle (Zuboff, 2020 : 39-40).
79La prédiction ainsi obtenue à partir des données traitées permet d’orienter par coup de pouce (nudge), d’ajuster (tune) les comportements sociaux par la pression du groupe et la certitude prédictive du numérique et de l’IA. Les recommandations personnalisées avec l’orientation de comportements de consommation ou encore les chambres d’écho sur les médias sociaux ont été amplement décrites et critiquées (Sadin, 2015 ; Chavalarias, 2022). Ce sont autant de formes de contrôles sociaux qui sont orientés et « instrumentarisés » (suivant l’expression de Zuboff) par des intérêts souvent économiques mais aussi politiques. Ils génèrent des normes sociales plus ou moins contraignantes et envahissantes.
80Construire des normes de santé à partir du traitement des données de santé serait donc une troisième caractéristique de la santé numérique. Les normes de santé ainsi produites sont autant de contrôles plus ou moins explicites sur le comportement des personnes. Des analyses sur les applications de santé sur le téléphone cellulaire montrent que si celles-ci sont opaques quant à leur fonctionnement, elles orientent directement certains comportements de santé de la personne tout en lui donnant l’impression d’une autonomie grandissante grâce au suivi personnel de ses propres données. Ce tour de passe-passe donne donc l’illusion de l’autonomie, alors que l’application de santé oriente certains comportements avec des normes construites à partir de quantité énorme de données agrégées et traitées souvent avec l’IA.
81Comme le constatent Bettina Schmietow et Georg Marckmann (2019), ces applications de santé entraînent une forme de discipline du corps et de soi-même avec des normes de santé « normales » générées par ces applications (la fameuse norme des 10 000 pas par jour, par exemple). La personne s’autosurveille et alimente par les mégadonnées qu’elle produit les normes fabriquées par les applications. Le principe d’autonomie comme principe d’autodétermination de la personne tel que défini par les théories classiques de bioéthique, comme le principisme de Beauchamp et Childress (Parizeau et Gagnon, 2021) semble assez éloigné de ce volontarisme autosurveillant encadré par des normes fabriquées par les applications. Zuboff évoque « un esprit de ruche » :
L’apprentissage automatique est ici restitué comme un esprit collectif – un esprit de ruche – dans lequel chaque élément apprend et opère de concert avec tous les autres éléments, un modèle d’action collective dans lequel toutes les machines dans un système en réseau se meuvent sans heurt vers la convergence, tous partagent la même compréhension, et opérant à l’unisson, avec une efficacité maximum pour parvenir aux mêmes résultats. L’action convergente signifie que la « liberté » de chaque machine individuelle est soumise au savoir qu’elle partage avec les autres machines (2020 : 545).
82Selon cette logique, les êtres humains devraient être comme des machines où le monde automatique et le monde social fonctionnent harmonieusement, explique Zuboff.
83Dans le cadre de la santé numérique, on pourrait voir ici le retour d’une nouvelle forme de paternalisme d’influence, induite cette fois non pas par le médecin, mais par la norme de santé générée par certaines technologies telles les applications de santé ou les IA dans les algorithmes décisionnels. Cette nouvelle norme de santé serait médiatisée par l’objet technique lui-même et non directement par le médecin. Le traitement mathématique, surtout statistique, des données de santé produites par les utilisateurs de ces applications offre dans cette perspective une espèce de garantie d’objectivité. La santé numérique y gagnerait une connotation de scientificité sans que soit expliqué pour autant, les normes produites.
84Néanmoins, le problème de ce nouveau paternalisme normatif numérique ne s’arrête pas ici, car c’est la construction des normes dans le numérique qu’il convient de remettre en question. Il est cependant nécessaire de revenir sur la constitution des bases de données qui constituent les matériaux bruts initiaux :
La dernière décennie a été marquée par une capture spectaculaire du matériau numérique pour la production de l’IA. Ces données sont à la base de la construction de sens dans l’IA, non pas en tant que représentations classiques du monde dotées d’une signification individuelle, mais en tant que collection massive de données pour les abstractions et les opérations des machines. Cette collecte à grande échelle est devenue si fondamentale pour l’IA qu’elle est incontestée. Comment en sommes-nous arrivés là ? Quelle conception des données a pu faciliter cette perte de contexte, du sens et de la spécificité ? Comment les données d’entraînement sont-elles obtenues, comprises et utilisées en apprentissage automatique ? Comment les données d’entraînement limitent-elles la manière dont l’IA interprète le monde ? (Crawford : 113)
85La façon dont sont constituées les banques de données d’apprentissage est cruciale, car elles peuvent refléter directement des biais conscients ou inconscients ou encore systémiques. La littérature spécialisée mais aussi les médias relatent de plus en plus d’exemples de systèmes d’IA discriminatoires (Sadin, 2015). Ces biais discriminatoires peuvent être liés au sexe, à l’âge, à la race, à l’ethnie, à la nationalité, au statut social ou à une catégorie sociale (criminalité, pauvreté, etc.) ou à l’état de santé (maladie mentale, maladie chronique, handicap, etc.).
Les outils de reconnaissance d’images se trompent de catégories avec des visages noirs, les chatbots adoptent un langage raciste et misogyne, les logiciels de reconnaissance vocale sont incapables de reconnaître les voix féminines, et les plateformes de médias sociaux affichent plus d’offres d’emplois mieux payés pour les hommes que pour les femmes […] À son insu, Amazon avait créé un outil diagnostique. Comme la grande majorité des ingénieurs étaient des hommes, les modèles qu’ils créaient, entraînés à partir de CV d’hommes, avaient appris à recommander l’embauche d’autres hommes… L’outil intensifiait la dynamique déjà en place et soulignait le manque de diversité chez Amazon aujourd’hui comme hier. (Crawford, 2022 : 153-155)
86Kate Crawford met en évidence ici le lien entre le type de biais et le type de classification. Il convient alors d’examiner les mécanismes de construction de ce type de savoir. Comment les différentes formes historiques d’inégalités construisent-elles l’accès aux ressources et aux possibilités, tout en bâtissant dans le même mouvement des banques de données qui suivent ces mêmes types de classification ? Crawford explique donc que les inégalités sont le produit d’une classification antérieure au numérique, qui est simplement amplifié par l’IA et ses banques de données. Les biais numériques constituent une reproduction du social.
87Si on applique ce raisonnement à la santé numérique, cela signifie qu’il faut interroger les normes de santé préexistantes dans chaque société pour comprendre quel genre de normes de santé sont reproduites et amplifiées à travers le numérique et l’IA. Il s’agirait alors d’éviter de créer « une machine à discrimination qui se renforce elle-même, en amplifiant les inégalités sociales sous couvert de neutralité technique » (Crawford, 2022 : 155).
88En comparant la santé numérique aux trois autres définitions de la santé – santé classique de l’OMS, santé améliorative, santé écologique –, il reste difficile au terme de cette analyse, de donner un contenu a priori à la santé numérique. La question « que veut dire la santé numérique ? » rebondit constamment vers les technologies utilisées qui conditionnent en retour les contenus de la santé.
89La santé numérique semble donc renvoyer à des conceptions de la santé et à des contenus qui seraient antérieurs au numérique. Ces contenus charrient des histoires d’inégalités économiques au sein des systèmes de santé (privé/public), des formes de discrimination sociale (de genre, raciale, ethnique, âgisme ou concernant la santé mentale), des modes de marginalisation des plus vulnérables, de valorisation du mieux-être, d’amélioration individuelle (être mieux que bien), etc. (Parizeau et Gagnon, 2021) Ces histoires sont nouées au sein d’une constellation d’orientations biomédicales, de politiques de santé publique, de problèmes sociaux et d’enjeux économiques dont hérite la santé numérique et dont elle ne peut se débarrasser. Ce qui distingue ici la santé numérique des autres définitions de la santé tient à la puissance de la technique elle-même qui, comme l’a montré Jacques Ellul dans Le système technicien, organise et complexifie, avec une logique d’efficacité, les sous-systèmes sociaux en imposant rapidement des solutions techniques par des moyens souvent opaques ou devenus des secrets industriels, et en « éliminant les activités non techniques » (Ellul, 2012 : 240). La puissance de la pénétration du numérique et de l’IA dans les sociétés occidentales donne à la santé numérique une force d’évidence qui semble échapper à un questionnement de fond.
90Malgré toutes les promesses annoncées (Ellul, 1988), la santé numérique risquerait cependant d’amplifier certains problèmes antérieurs (inégalités, discriminations, exclusions sociales) ou d’orientations générales comme le capitalisme de surveillance dans le domaine de la santé. Dans l’enthousiasme technologique (hype), l’heuristique de la crainte de Hans Jonas (1990) met aussi en garde sur la création de problèmes inédits produits par les nouvelles technologies et qui sont difficiles à anticiper (Larrère et Larrère, 2017). La prudence s’impose dans le mouvement actuel de l’expérimentation tous azimuts des outils numériques dans le domaine de la santé et une application plus systématique des règles d’éthique de la recherche biomédicale serait particulièrement bienvenue dans ce champ lucratif de l’innovation du numérique et de l’IA.
91Parce que la santé numérique est liée au grand mouvement mondial du numérique et de l’IA qui transforme et complexifie les sociétés depuis une vingtaine d’années, elle porte aussi certaines caractéristiques propres à la nature même de la technique numérique incluant l’IA. Quelques caractéristiques importantes ont été dégagées, dont en particulier : l’accès aux données comme condition d’existence du numérique et de l’IA, la surveillance comme dimension intrinsèque aux données, le contrôle comme moyen de prédiction, les biais comme constituant une reproduction puissante des forces sociales. La santé numérique qui partage ces caractéristiques avec le numérique et l’IA ne constitue donc pas un véhicule technique neutre.
92Si le projet de la santé numérique de l’OMS peut sembler séduisant sur le plan éthique dans l’affirmation de l’amélioration de la santé individuelle et de la santé pour tous, il semble occulter les caractéristiques intrinsèques du numérique et de l’IA qui passent pour des moyens neutres. Ce faisant, ce projet n’aide pas à poser des limites éthiques aux endroits stratégiques. Or, c’est en tenant compte des caractéristiques intrinsèques du numérique et de l’IA que l’on peut mettre en place des évaluations éthiques, des contre-pouvoirs politiques et des contrepoids juridiques dans le domaine de la santé numérique. À l’heure du Far West numérique et de la cybercriminalité, les données de santé, en particulier, doivent continuer à être protégées de façon stricte pour maintenir une confiance de la population dans les institutions de santé et dans l’État.