1Chatbots plus empathiques que les médecins, intelligence artificielle (IA) faisant mieux que les radiologues, facilitation de la découverte de nouveaux médicaments : les annonces sensationnalistes ne manquent pas quant à l’application de l’IA en santé. Ces dernières années, la montée en charge des solutions algorithmiques a conduit à une multiplication des promesses n’ambitionnant pas moins que de révolutionner la médecine. Pour autant, si l’avènement du deep learning et des réseaux de neurones (Cardon, Cointet et Mazières, 2018) a mené à des progrès indéniables dans le secteur, l’observation des pratiques réelles conduit à brosser un portrait bien différent de l’usage de l’IA dans le champ médical.
2Loin des annonces tonitruantes du remplacement des médecins, il est essentiel de se pencher sur les formes réelles d’implantation de l’IA dans le système de soin et sur les transformations liées au recours aux algorithmes dans le travail médical. Cet article s’intéresse à la façon dont se négocie la délégation aux algorithmes, mais aussi interroge les frictions et les reconfigurations suscitées par l’implémentation de l’IA. Dans le domaine de la santé, les débats se sont plus précisément focalisés sur les tâches relevant de l’expertise et de la décision médicale. Le développement de l’IA se trouve ici en proie à des enjeux normatifs et à des luttes professionnelles, l’attribution de tâches aux algorithmes suscitant une redéfinition des métiers et des pratiques qui interroge la division sociale (et numérique) du travail. Nous soutenons que ces transformations peuvent être mieux comprises à travers les concepts de « juridiction » et d’« écologies liées » (Abbott, 1988 ; 2005), qui permettent d’éclairer la négociation de la délégation à l’aune des luttes juridictionnelles et des stratégies d’alliance et de compromis au sein du microcosme de l’IA en santé.
- 1 Ce projet a bénéficié du financement INCa_15144.
3Afin de saisir ces enjeux, nous nous appuyons sur une enquête portant sur le développement de solutions d’IA en médecine, notamment en radiologie1. Quarante-trois entretiens ont été réalisés auprès de médecins radiologues (23), d’acteurs de la recherche (4) et de la régulation (4), ainsi que d’industriels (12) développant des logiciels. Le terrain a été mené en France, en veillant à inclure une diversité de statuts parmi les professionnels interrogés, notamment des praticiens travaillant dans des centres hospitaliers et CHU, des établissements spécialisés, ainsi que des cabinets libéraux. Une variété géographique a également été observée avec des participants provenant de plusieurs métropoles et de villes moyennes de différentes régions. Ces données ont été complétées par une ethnographie numérique des réseaux sociaux utilisés par les acteurs étudiés et par la participation aux événements professionnels et institutionnels sur la thématique (webinaires, congrès, etc.). Pour les inscrire dans une perspective plus large, un suivi de la couverture médiatique de la thématique (corpus presse nationale Europresse) et des publications scientifiques (lecture des principales contributions et caractérisation bibliométrique) a également été conduit.
4Dans un premier temps, nous présenterons les avancées de l’IA en santé afin d’identifier les aires dans lesquelles la délégation de tâches aux algorithmes a fait débat. Nous montrerons que là où l’automation des tâches administratives et organisationnelles a largement laissé indifférent, celles concernant au plus près l’expertise et la décision médicale ont fait l’objet de fortes mobilisations. Il conviendra donc, dans un deuxième temps, d’interroger comment se négocie la délégation afin de saisir quelles sont les modalités concrètes d’entrée de l’IA dans la pratique médicale. Étudier qui a voix au chapitre permettra de mettre en lumière les enjeux normatifs et professionnels à l’œuvre sur ce qu’il est jugé pertinent et acceptable de déléguer ainsi que les conflits juridictionnels suscités par l’introduction des algorithmes. Nous montrerons enfin, dans un troisième temps, que la problématique de la délégation pose la question de son articulation avec les enjeux économiques et politiques sous-jacents. Alors même que le développement de l’IA est fortement soutenu par la puissance publique – y voyant tant une occasion de faire naître des champions nationaux qu’une forme de « solutionnisme » technologique permettant de faire face aux difficultés rencontrées par le système de santé –, la divergence des intérêts des acteurs en présence conduit à s’interroger sur qui et à quoi servent les algorithmes.
5Les progrès successifs de l’IA et les développements du deep learning au cours de la dernière décennie ont sans conteste donné lieu à une prolifération des promesses d’application en santé. Supposées révolutionner le secteur, ces innovations multiplient les points d’entrée et s’étendent sur l’ensemble de la chaîne de prise en charge thérapeutique, concernant tant les activités médicales que celles ne relevant pas à proprement parler du soin. De la décision clinique à la gestion administrative, l’IA alimente des espoirs vastes et diversifiés (Davenport et Kalakota, 2019).
6Envisagée comme un outil d’amélioration de l’efficacité organisationnelle, elle ambitionne d’optimiser la gestion des rendez-vous, d’automatiser certaines tâches de secrétariat (reconnaissance vocale et retranscription des comptes rendus) ou de faciliter les flux de travail administratif (optimisation des cotations des actes, traitement et gestion des dossiers médicaux, etc.). Déployée à l’attention des patients, elle permettrait de favoriser leur suivi et leur engagement à l’aide d’applications de télésurveillance (suivi du diabète ou des risques de récidives de cancer) et de robots conversationnels (chatbots assistant l’orientation médicale ou le suivi postopératoire), ou encore d’améliorer l’observance thérapeutique par l’envoi de relances individualisées. À visée médicale, elle voudrait améliorer les diagnostics, la détection d’anomalies sur les données d’imagerie, aider au développement de nouveaux médicaments, ou encore prédire les risques à l’échelle individuelle et recommander des traitements personnalisés.
- 2 S’il est délicat de recenser l’ensemble des logiciels d’IA utilisés en santé, il est envisageable (...)
7Si ce large éventail d’applications permet de souligner la diversité des usages de l’IA et ses implications potentielles à divers niveaux du système de santé, on pourra toutefois considérer qu’il constitue un inventaire à la Prévert. Il convient ainsi de nuancer ce portrait d’une technologie omnipotente : nombre des annonces les plus avancées restent aujourd’hui de l’ordre de la promesse et relèveraient davantage d’une sociologie des expectations (Borup et al., 2006) que de l’étude des usages réels dans le soin. Or, les développements de la technologie n’en sont pas moins réels et sa maturation a conduit à la commercialisation sur le marché d’un nombre grandissant de logiciels2. L’expansion de ces derniers offre à ce titre une fenêtre privilégiée pour observer comment la technologie influence, modifie et redéfinit la nature de l’expertise professionnelle.
8Ainsi, eu égard à la diversité des types d’applications, force est de constater que toutes n’ont pas rencontré le même enthousiasme. Alors que les débats sur les risques associés à la délégation de la décision médicale aux algorithmes ont été vifs et ont fait l’objet d’une couverture médiatique, peu de cas a été fait de la transformation des tâches administratives, organisationnelles ou techniques. Ces enjeux, impactant principalement les métiers parfois perçus comme « subalternes », ont été largement négligés.
- 3 Pour de plus amples développements sur ces débats et leur actualisation au prisme des nouvelles te (...)
9Cet écart de traitement tient pour beaucoup au contexte dans lequel l’introduction de la technologie prend place et, plutôt que de céder à l’illusion de la nouveauté, ces changements nécessitent d’être inscrits dans une perspective historique et organisationnelle. En effet, les velléités de délégation et d’automatisation par la technologie sont loin d’être inédites : depuis l’avènement des systèmes mécanisés (notamment dans les chaînes de production), des débats similaires ont eu lieu concernant le potentiel remplacement des travailleurs par des machines3.
10Plutôt que de constituer une rupture, le déploiement de l’IA peut davantage être lu comme une évolution, voire une intensification de processus préexistants visant à accroître la productivité. Crawford (2022 : 67-105) montre bien que la montée en charge de l’IA s’inscrit dans le cadre d’un contrôle de la main-d’œuvre et d’une perspective de « désassemblage et [d]’automatisation du travail ». Par ailleurs, les discours prophétiques sur la disparition des travailleurs autrefois abordés sous l’angle de la robotisation ont été réactualisés avec le développement algorithmique. En élargissant le débat sur la destruction du travail physique à celui sur la destruction du travail intellectuel, l’IA a ravivé les discussions sur la substitution du travail humain par la technologie. De nombreux travaux ont questionné la réalité de la disparition des emplois (Autor, 2015 ; Casilli, 2019), déconstruit les discours invisibilisant le rôle joué par les humains au sein même de la production de l’IA (Gray et Suri, 2017) et ainsi mis en lumière la réitération et la mise à jour de débats plus anciens.
11Si la délégation algorithmique s’inscrit dans un historique plus large, signalons toutefois qu’une différence majeure a été introduite par les applications récentes du deep learning : celle du public concerné.
12Visant jusque-là des travailleurs précaires ou des activités faisant appel à une main-d’œuvre peu qualifiée, l’automatisation s’est progressivement élargie à des tâches habituellement réservées à la catégorie des cadres et professions intellectuelles supérieures. Dans le secteur de la santé, l’un des exemples les plus saillants a été celui des radiologues, les progrès du deep learning dans le champ de l’analyse des images ayant conduit Geoffrey Hinton (pionnier des réseaux de neurones, corécipiendaire du prix Turing et du prix Nobel de physique) à annoncer leur remplacement par l’IA. Cette extension des débats aux professions à « forte valeur ajoutée » – dont les médecins – explique l’exacerbation des tensions et l’intérêt médiatique qui a pu en résulter. Nouvelle cible d’une controverse dont elle était jusqu’à présent exempte, la profession médicale n’a en effet pas manqué de solliciter ses relais afin de défendre ses intérêts, attestant que l’introduction de l’IA ne saurait se résumer à une question technique : elle est profondément ancrée dans les dynamiques de pouvoir.
- 4 Le cas de la radiologie montre que la profession, bénéficiant d’un statut privilégié, est parvenue (...)
13Le contraste est frappant entre les acteurs « subalternes » – souvent marginalisés dans ces débats, bien que tout aussi impactés – et les professionnels médicaux qui, forts de leur position dominante, ont bénéficié d’une plus grande capacité à négocier et à influencer la manière dont l’IA est déployée dans leur activité4. Ils constituent en ce sens une franche exception à la majorité des travailleurs dont la « collaboration » (forcée) avec les algorithmes n’est pas « équitablement négociée » en raison d’une « forte asymétrie de pouvoir » ne leur permettant pas d’en contester les modalités (Crawford, 2022 : 72).
14Pour indispensable qu’elle soit, cette grille de lecture positionnelle relevant de l’inégale place occupée dans le champ ne suffit pas à saisir pleinement ce qui se joue dans la délégation concrète aux algorithmes en santé. Au sein même de la communauté médicale, toutes les formes de transfert à l’IA ne sont pas questionnées ou contestées de manière uniforme. Si certaines tâches, telles que la reconstruction d’image, sont aisément déléguées, d’autres, touchant au cœur de la décision médicale, font l’objet de vives discussions. Dès lors, le débat autour de ce qu’il est acceptable de déléguer révèle également comment les médecins perçoivent l’essence de leur métier et cherchent à défendre leur territoire professionnel.
15L’intégration de l’IA à la pratique clinique réelle suscite des tensions sur ce qui relèverait ou non de l’expertise exclusive de certains corps médicaux et questionne la définition de leur juridiction. Hanemaayer (2021) a clairement souligné la réticence des cliniciens à l’égard des outils algorithmiques, aversion synthétisée sous l’injonction « Don’t touch my stuff ». Ces outils étant perçus comme une menace entravant la lutte des professionnels pour l’autorité clinique, leur généralisation pourrait remettre en cause le processus de « raréfaction » consistant à « rendre l’autorité de la vérité clinique rare ou moins accessible à ceux qui ne font pas partie de la communauté5 » (ibid.).
- 6 Cette position ne suffirait ainsi pas à expliquer l’adoption progressive de solutions algorithmiqu (...)
16Si elle demande à être nuancée6, cette analyse a le mérite d’éclairer les raisons de l’inégale réception des outils d’IA selon qu’ils sont considérés comme affectant ou non la profession. Ainsi, quand les solutions d’aide au diagnostic ont été fortement contestées, celles à vocation « technique » n’ont soulevé que peu de résistance.
17On peut penser que l’adoption de ces outils techniques est plus facile car ces tâches sont partiellement confiées à d’autres corps professionnels (bien que réalisées sous l’autorité du médecin) ou que les traitements d’images reposent déjà sur des algorithmes (d’ancienne génération). Il est également important de considérer que l’acceptation de ces logiciels repose sur leur efficience perçue et leur contribution attendue à l’amélioration des pratiques existantes. En promettant d’améliorer la qualité des images et d’accélérer les examens, ces outils peuvent facilement être vus comme un moyen d’optimiser le travail collectif de prise en charge des patients, sans remettre en cause les prérogatives professionnelles. Pour autant, leur faible mise en débat surprend quand l’on observe que ces applications sont exemptes des critiques traditionnellement adressées aux algorithmes – bien qu’elles y soient également sujettes et que la qualité des images et leur fiabilité constituent un point névralgique du travail radiologique. Alors que les solutions d’aide au diagnostic se voient reprocher leur opacité et sont renvoyées au statut de « black box » blâmées pour leur manque d’explicabilité, l’utilisation du deep learning au sein des appareils d’imagerie est largement épargnée.
18S’il ne s’agit pas d’opposer strictement algorithmes à visée technique et aides au diagnostic, cette disparité et l’application sélective de la critique suggèrent que les préoccupations soulevées ont moins trait à la substance technologique de l’IA qu’aux tâches spécifiques qu’elle menace de remplacer. La nature du débat sur la délégation offre ainsi un aperçu révélateur des conceptions sous-jacentes que les médecins ont de leur pratique et de la manière dont ils cherchent à préserver leur aire de compétence. Ce n’est pas tant l’outil algorithmique en soi qui est en jeu, mais bien la perception qu’ont les cliniciens de leur rôle et de l’autorité professionnelle qu’ils entendent défendre.
19Il est à ce titre révélateur de constater que, lorsqu’elles touchent de plus près le savoir médical, les aires d’expérimentation considérées comme les plus pertinentes par la profession concernent en priorité les activités les moins nobles ou chronophages. En cardiologie, on a, par exemple, assisté au développement de logiciels d’interprétation des électrocardiogrammes pour la détection de l’arythmie. Cette dernière activité étant peu valorisée – aux États-Unis elle est sous-traitée à des centres spécialisés –, l’enjeu est en France d’optimiser le temps médical consacré à ce type d’actes et d’« avoir un outil […] qui va permettre de faire un peu plus de diagnostics, un peu plus vite » (selon une commerciale dans l’industrie du logiciel). En radiologie, les propositions permettant d’automatiser pour partie les activités de contourage et de segmentation ont été favorablement accueillies – comme dans le cas d’outils de détection et de suivi des nodules pulmonaires automatisant l’acquisition des données volumétriques. Se sont également multipliées les aides à la détection de fractures, opération considérée comme relativement accessible et souvent confiée aux internes. Le transfert de ces activités est ici perçu comme « une opportunité […] puisque ce sont souvent des tâches qui ne sont pas intéressantes » (radiologue libéral et hospitalier).
- 7 En ce sens, ils font également l’objet d’une « acceptation située », définie par Bobillier Chaumon (...)
20Le recours aux algorithmes semble donc envisagé selon la logique du report du « sale boulot » (Hughes, 1951), entendu non pas au seul sens de la souillure ou du dégout, mais élargi aux activités jugées ingrates, chronophages, rébarbatives, insignifiantes, etc. Pour les professionnels, l’usage de l’IA semble plus facilement légitime lorsqu’il permet de se décharger de ces « tâches subalternes » (Anichini et Geffroy, 2021). Certes, la pertinence des outils n’en demeure pas moins évaluée en regard de leur utilité clinique réelle et des besoins professionnels7. Mais le tri opéré entre ce qu’il est acceptable de déléguer et ce qui constitue la part noble du métier dévoile également les pratiques de distinction (Bourdieu, 1979) des médecins dans leur jeu de positionnement au sein du microcosme médical. L’entreprise de transfert aux algorithmes est alors l’occasion de réaffirmer ce qui est considéré comme essentiel et irréductible dans le métier et met en lumière les enjeux normatifs professionnels à l’œuvre.
21Ce processus ne va pas sans susciter des conséquences sur l’organisation et la division du travail : il interroge les espaces juridictionnels. Dans une perspective abbottienne bien synthétisée par Jouvenet, on peut estimer que « la prédilection des professionnels pour les tâches qu’ils considèrent comme les plus “pures” […] crée un appel d’air pour d’autres acteurs partageant leurs espaces de travail » (Jouvenet, 2022 : 84). La délégation de tâches à l’IA bouscule ainsi les modes de collaboration et les dynamiques interprofessionnelles et met en lumière l’articulation entre enjeux de juridiction (Abbott, 1988) et jeux de pouvoir entre spécialités.
- 8 Plus performantes, plus coûteuses à l’achat et d’un plus haut niveau de technicité, ces machines s (...)
22Dans le cas de la radiologie, le statut plus valorisé du scanner et de l’IRM et la focalisation sur ces modalités d’imagerie8 ont parfois conduit à un désintérêt pour la radiographie conventionnelle et les actes plus « basiques ». Couplé à une pénurie de main-d’œuvre, ce phénomène a entraîné un désinvestissement relatif de certains espaces pouvant être investis par d’autres professionnels. Car si les praticiens sont amenés à prioriser certaines activités, c’est aussi en raison d’un manque de moyens face à l’augmentation des demandes d’examens. Ce choix reflète une forme de déprise : confrontés à une surcharge de travail, ils se concentrent sur les activités qu’ils jugent essentielles et délèguent pour partie les autres. Ainsi, aux urgences, l’interprétation des images est bien souvent réalisée en première intention par les médecins urgentistes avant qu’elle ne soit ultérieurement visée par un radiologue – tâche elle-même régulièrement confiée aux internes. Cela a ouvert la voie à une potentielle sous-traitance algorithmique, certains urgentistes se tournant vers les logiciels d’IA devant l’absence de radiologues pouvant répondre aux demandes d’interprétation des clichés. La situation ne manque pas de provoquer des tensions entre spécialités, sur fond de remise en cause des expertises, comme en témoignent les propos d’un radiologue hospitalier :
En fait, ils [les urgentistes] ne lisent plus les comptes rendus qu’on fait et ils ne se fient qu’aux images annotées de l’IA. […] On se rend compte que le fait qu’il y ait des images annotées par un algorithme d’IA, ça leur confère une valeur excessive par rapport à ce qu’elle est réellement.
23Certains professionnels n’hésitent d’ailleurs pas à faire un usage stratégique de ces outils afin de conquérir une plus grande autonomie dans leur pratique, renouvelant parfois des conflits de territoire préexistants. La promesse de facilitation du diagnostic par les algorithmes a ainsi réactualisé les luttes pour la maîtrise des moyens d’imagerie – précédemment mises en exergue par Burri (2008) :
On voit arriver beaucoup les autres spécialités qui sont très dépendantes de la radiologie, venir progressivement faire des échographies, vouloir faire des IRM, des scanners […]. Finalement on nous tape un petit peu dessus en disant : « On n’a plus besoin de radiologues puisque maintenant […] on va être aidés avec des logiciels qui vont nous aider à analyser » (radiologue hospitalier chef de pôle imagerie).
24Le recours aux algorithmes interroge donc à nouveaux frais les enjeux de pouvoir et de concurrence entre spécialités, l’introduction de la technologie étant saisie comme une occasion d’éprouver les frontières. Ces observations concernant l’intensification des tensions disciplinaires sont d’ailleurs d’autant plus prégnantes que les changements surviennent dans un contexte de pénurie, les frontières entre les juridictions étant davantage mises à l’épreuve et sujettes à contestation « lorsque leurs acteurs font face à une surcharge de travail » (Jouvenet, 2022 : 84). À ce titre, si la délégation met en exergue les luttes juridictionnelles au sein du champ médical, il convient de s’interroger sur le cadre plus large de sa mise en œuvre et aux arbitrages dont elle procède.
25L’implémentation de l’IA ne constitue pas un simple déploiement technologique neutre mais suppose au contraire la réalisation de choix sociaux, politiques et économiques résultant de dynamiques de pouvoir. Or, quand certains enjeux sont mis en exergue, d’autres sont passés sous silence et font l’objet d’une forme d’invisibilisation. L’analyse des processus de délégation nécessite donc de mettre en lumière les divergences d’intérêt entre les acteurs impliqués (État, industrie, soignants et patients) ainsi que les (mé)usages stratégiques pouvant en être faits.
26Il est symptomatique de constater que l’IA entre en priorité par les secteurs où la présence médicale est déjà défaillante. Elle s’insère de façon privilégiée dans les services surchargés, venant combler les « trous dans la raquette ». Aux urgences, elle se développe dans le triage des patients pour prioriser leur prise en charge. En mammographie, on envisage qu’elle puisse remplacer un second lecteur ou automatiser l’interprétation des cas les plus évidents afin de diminuer la charge de travail des spécialistes.
27Souvent, le but n’est pas tant de surpasser les soignants les plus performants que de faire mieux que l’absence de médecins. Le recours aux algorithmes illustre ici les choix sociopolitiques en matière de financement de la santé. Encouragée par l’État dans une forme de solutionnisme technologique, la délégation est envisagée comme une béquille pour combler les failles du système de soin. Il s’agit moins de soigner la cause du mal (le manque de moyens) que d’en limiter les conséquences et de faire face à la crise de la main-d’œuvre médicale et à son épuisement (Meskó, Hetényi et Győrffy, 2018). Cette approche n’est pas toujours consentie par les professionnels concernés, qui craignent que ces solutions de couverture du manque ne deviennent la norme, d’autant que les stratégies de commercialisation conduisent parfois à court-circuiter certains spécialistes et à s’adresser à d’autres :
Les industriels soufflent un peu sur les braises, parce qu’ils savent très bien qu’en motivant d’autres personnes à faire pression sur la radiologie, leurs trucs vont finir par se vendre. […] Ils savent très bien que s’ils vont souffler sur un groupe d’urgentistes en disant : « Les gars, c’est super, ça marche très bien, motivez vos radiologues », eux ils vont arriver et vont dire : « Ben les gars, on veut ça. De toute façon, vous n’arrivez pas à assurer les radiographies la nuit » (radiologue hospitalier).
28Les attentes ne convergent donc pas naturellement entre les différents protagonistes, qui peuvent avoir des desseins contradictoires quant au recours aux algorithmes. À défaut d’être tous, par essence, antinomiques, les intérêts des acteurs nécessitent pour concorder de faire l’objet d’un travail d’alignement et de réappropriation qui ne va pas de soi. L’introduction de l’IA en santé a de fait donné lieu à des échanges et collaborations entre industriels et médecins afin de faire coïncider les logiciels commercialisés avec les attentes professionnelles (Mignot et Schultz, 2022). Plutôt que de se réduire à un affrontement permanent, le processus semble donc également prendre la forme de stratégies d’alliance et de coalition permettant d’esquisser un « alignement des problèmes et des solutions » (Benoît, 2020 : 84).
29Ce développement de consortiums associant acteurs privés, étatiques et de santé s’apparente aux écologies liées d’Abbott (2005) dans lesquelles l’interdépendance d’acteurs – pourtant issus de secteurs différents – les pousse à collaborer malgré des intérêts divergents. Souvent qualifiés d’« écosystème de l’IA », ces conglomérats ne sont pas simplement des espaces de coopération harmonieuse. En effet, les écologies liées se caractérisent par des collaborations contraintes, formées sous l’influence de facteurs qui « facilitent ou contraignent les alliances et déterminent les stratégies d’alliance » (Abbott, 2005, cité par Jouvenet, 2022 : 85). Poussés à collaborer en raison de leurs dépendances mutuelles et de leurs convergences partielles, les différents acteurs sont plus souvent enclins à rechercher un consensus minimaliste qu’à aborder et à résoudre des désaccords fondamentaux. Préserver une apparente harmonie et éviter les conflits exige ainsi de passer sous silence certaines discordances, alimentant les non-dits et les impensés de la négociation.
- 9 Bien souvent des populations et personnels défavorisés ou encore des individus soumis au risque de (...)
30La question posée est donc aussi celle du pouvoir (boyd et Crawford, 2012 ; Crawford, 2022), l’alignement des intérêts industriels et étatiques sur l’intérêt médical étant loin d’aller de soi et questionnant l’autonomie du champ (Pinell, 2008). Le silence concernant la question des possibles « perdants » de l’IA9 en santé et de la collusion avec des intérêts économiques et étatiques est à ce titre révélateur de l’invisibilisation de ces questions – pourtant désormais mises en avant dans d’autres secteurs. Alors que les cas de la surveillance, du travail ou de l’éthique ont pu faire l’objet de mobilisations et de critiques sociales, le débat public concernant le soin est moins exacerbé, ou semble tout du moins en décalage avec les usages réels.
- 10 Notamment par les financements de la Banque publique d’investissement.
31On a vu que, quand le remplacement hypothétique des médecins était mis sur le devant de la scène, les cas concrets de promotion de l’IA par la puissance publique afin de faire face aux faillites du système de santé n’ont été que peu remis en cause. Alors que l’État irrigue le secteur10 pour favoriser l’émergence de champions nationaux, il est révélateur que les tentatives de régulation européenne (AI Act) soient d’une même voix dénoncées comme une menace par les start-up et la présidence française (Piquard, 2023). La question se pose donc de leur alignement sur « l’intérêt général », qui, s’il est affiché comme l’objectif, pourrait être qualifié d’externalité positive plutôt que de véritable priorité. Si l’intérêt du grand public n’est pas absent des préoccupations étatiques ou professionnelles, il reste néanmoins saisi à travers la grille de lecture propre à ces acteurs. La parole des patients et des citoyens est relativement absente, faute d’être représentée dans les instances ou dans le débat public, et leur perspective n’est que peu prise en compte.
- 11 Il a notamment abouti à la promulgation de la loi no 2021-1017 du 2 août 2021 relative à la bioéth (...)
- 12 Lors d’une récente consultation citoyenne, les trois quarts des enquêtés ignoraient qu’un tel usag (...)
32Dans la littérature scientifique, les études ont été plus nombreuses concernant la perception des professionnels que portant sur les attentes des utilisateurs, rendant délicate l’identification des usages qu’ils jugent souhaitables. Si le débat politique sur l’IA en santé existe11, il reste général et éloigné des cas concrets, invisibilisant les situations problématiques. Le développement du Health Data Hub, plateforme de données française, a, par exemple, fait l’objet de critiques médiatiques, politiques et citoyennes, car l’hébergement en a été confié à Microsoft. Pour légitime et important que soit cet enjeu de souveraineté, il a amplement éclipsé la problématique de la pertinence et des modalités de collecte desdites données. Mise en cause par certains acteurs associatifs (LQDN, 2021), cette « ruée vers les données personnelles » (Bernelin, 2019) interroge pourtant sur l’information des patients. Peu connaissent les possibilités de réutilisation de leurs données – à visée de recherche, mais aussi dans le cadre de partenariats industriels pour l’entraînement et le développement d’algorithmes12 – suscitant un risque de dépossession d’un consentement libre et éclairé.
- 13 Nombre de ces outils étant encore actuellement mobilisés dans un cadre expérimental et de recherch (...)
33Ainsi, le bien-fondé de cette collecte est posé comme un allant de soi et n’est que peu questionné : il est justifié et légitimé au nom de l’intérêt supérieur des progrès de la médecine. Si la loi de bioéthique consacre le droit à l’information du patient en cas de traitement de son dossier par des solutions de machine learning, cette information du patient peut être délivrée a posteriori ou par voie d’affichage et ne nécessite pas à proprement parler de consentement véritable. À l’échelle locale des pratiques de soin en cabinet, la transmission demeure parcellaire13, comme en témoignent les propos d’une professionnelle :
Effectivement, on ne demande pas l’accord des patientes. Alors, on a un affichage dans le cabinet qui dit qu’on utilise ce logiciel d’IA. Moi, ça arrive parfois que j’en parle avec les patientes, mais c’est vraiment plutôt marginal. On a un affichage plutôt, on va dire, publicitaire, pour montrer qu’on est dans l’innovation (radiologue libérale).
34Relevant parfois plus de la stratégie de communication que de l’information, ce défaut de transparence est d’autant plus problématique que le recours aux algorithmes dans le soin se situe à la croisée d’enjeux sociaux majeurs. Il en va ainsi du risque de reproduction et de perpétuation des inégalités à l’égard des minorités et des groupes défavorisés. Plusieurs publications mettent en garde contre les potentielles discriminations résultant de l’usage d’outils dont on sait qu’ils peuvent présenter de moins bonnes performances sur ces populations ou permettre l’identification de la « race » des patients (Zou et al., 2023). Entraînés sur des données produites et acquises dans un contexte traversé par les inégalités et résultant de « choix sociaux » partiaux, ils présentent un péril d’amplification des biais et du risque de « racisme embarqué » (Tighanimine, 2023), ce dernier étant rendu plus difficilement identifiable car encapsulé dans l’instrumentation.
35La délégation algorithmique n’est donc pas une simple question technologique. En santé, malgré une diffusion protéiforme, la controverse a principalement porté sur les enjeux de la décision médicale, l’IA alimentant une redéfinition du métier et des juridictions professionnelles. Cette cristallisation a toutefois éclipsé du débat d’autres cibles des algorithmes et d’autres dimensions. Si cette différence de mise à l’agenda s’explique en partie par l’inégale position des acteurs concernés, elle tient également à l’invisibilisation des questions de pouvoir et des choix sociopolitiques procédant à la mise en œuvre de la délégation.
36Ce constat traduit le manque d’information et de visibilité du grand public et des patients à l’égard des usages réels de l’IA en médecine et la faible publicisation des applications destinées aux professionnels. Phénomène d’autant plus regrettable qu’elles constituent la majorité des logiciels développés et soulèvent de potentiels risques de discriminations et de traitements inégalitaires. S’inquiéter des risques supposés de disparition des médecins semble vain et peu opportun en regard de ces enjeux immédiats (« Stop talking about tomorrow’s AI… », 2023). En cela, la santé rejoint une tendance actuelle au renvoi de la problématique de l’IA à de futures menaces hypothétiques, au détriment des réels dangers contemporains. Les appels – alarmistes quoique fantaisistes – à mettre en pause la recherche de peur de voir se développer une intelligence artificielle générale constituant une menace pour l’humanité conduisent ainsi à épuiser l’attention médiatique et politique en l’orientant vers la polémique et à ignorer les effets déjà en cours (Buolamwini, 2023). Cet article, en se centrant principalement sur la voie d’entrée professionnelle de l’IA, ne saurait prétendre à couvrir pleinement cette problématique. Il invite plutôt à poursuivre l’investigation afin de mettre en exergue ces questionnements dans un champ où ils restent encore largement impensés.
Flux RSS
