Navigation – Plan du site
2018
Septembre

Intelligence artificielle et robotisation : la performance de l’IA au prix de la relation humaine ?

Camille Bourdaire-Mignot et Tatiana Gründler

Résumé

États généraux de la bioéthique (rapport de synthèse du Comité consultatif national d’éthique) : huitième billet

*

On serait bien en peine de citer un domaine qui échappe aux questions liées à l’intelligence artificielle (IA) et à la robotisation tant les applications de ces nouvelles technologies sont diverses et ont vocation à transformer notre monde. Le domaine de la santé ne fait évidemment pas exception à ce constat. Il a même été, avec les transports, l’environnement et la défense, identifié par le rapport Villani comme l’un des quatre secteurs stratégiques de l’IA1. Or, en matière médicale, l’IA et la robotisation posent d’importantes questions éthiques, tant au moment de la conception des systèmes numériques et des algorithmes que lors de leur utilisation. Il était donc impérieux que ce sujet, absent des dernières révisions des lois de bioéthiques, intègre le périmètre des États généraux. La thématique a plutôt suscité l’intérêt des citoyens et de quelques institutions comme la CNIL et la HAS, qui ont, de manière assez unanime, fait part de leur conviction que ces nouvelles technologies sont source de progrès importants dans le domaine de la santé, sur le plan strictement thérapeutique comme plus largement médical et organisationnel. Dans le même temps, les différents contributeurs ont exprimé des craintes fortes sur le devenir de la relation patient-médecin et la perte de contrôle de l’expertise humaine sur les algorithmes. Ils ont posé comme ligne rouge que la machine ne remplace jamais l’être humain.

Haut de page

Texte intégral

  • 2 Définition de Marvin Minsky.

1L’intelligence artificielle peut être définie comme « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par les êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique »2. Dans le champ médical, l’IA est susceptible d’offrir une aide précieuse à la prédiction d’une pathologie, à son diagnostic, à la prise de décision, à la personnalisation d’un traitement ainsi qu’à une prévention plus globale de la population. Ces enjeux majeurs pour la santé de demain ont donc logiquement suscité l’intérêt, pour ne pas dire l’enthousiasme, des citoyens et tout particulièrement des plus jeunes d’entre eux qui furent très présents au sein des débats organisés en région.

2La robotisation éveille des espoirs thérapeutiques, la précision permise par ces techniques ayant déjà fait ses preuves dans certaines chirurgies, en neurologie notamment. L’utilisation de robots pourrait en outre permettre de délester le personnel soignant de certaines tâches répétitives et ainsi améliorer les conditions de travail. Si les risques de déshumanisation de la médecine sont pointés par nombre de participants, il est simultanément relevé que l’usage de robots en médecine offrirait aux soignants la possibilité de se concentrer sur la relation avec le patient, et de « de se consacrer davantage (…) à l’accompagnement et à la réflexion éthique ».

3S’agissant de l’IA, la capacité d’analyse de la machine dépassera de plus en plus souvent celle de l’humain. La masse de données qu’elle peut gérer et analyser du fait de ses capacités de calcul démultipliées et de sa mémoire presque infinie est extrêmement précieuse sur le plan du diagnostic. Dans le domaine de l’imagerie médicale notamment, des algorithmes permettent déjà de détecter des anomalies sur neuro-imagerie avec une précision équivalente, voire supérieure à celle des radiologues. A également été conçu un algorithme aussi performant qu’un dermatologue expérimenté pour identifier les maladies de peau et distinguer les tumeurs bénignes des cancers. L’IA ouvre aussi la voie à des thérapies beaucoup plus ciblées, parce qu’adaptées à chaque patient.

  • 3 V. notamment le logiciel Gynélog/MedyCS créé par l’association Gynérisq qui permet d’utiliser de fa (...)
  • 4 Rappelons qu’à la suite d’une proposition portée par le Parlement européen visant à créer une perso (...)

4L’introduction de l’IA dans le champ de la médecine - qui est déjà une réalité comme en attestent les logiciels d’aide à la décision3 - génère de légitimes inquiétudes. En premier lieu, la problématique de la responsabilité se trouve posée de manière inédite. Les contributeurs considèrent que l’humain ne doit pas pouvoir se décharger de ses responsabilités de sorte que le principe d’une personnalité électronique du robot a été fermement rejeté4. Mais qui, du praticien, du concepteur ou du programmeur, pourra être tenu pour responsable en cas d’erreur médicale ? Il semble que les règles actuelles de responsabilité, et notamment celles applicables en cas de défectuosité d’un produit, ne sont pas adaptées dès lors que la machine est susceptible de modifier d’elle-même sa programmation. S’il est difficilement admissible que le soignant soit exonéré de toute responsabilité, il reviendra au législateur de déterminer précisément la répartition des responsabilités. À ce titre, a été émis le souhait que la responsabilité juridique des programmateurs et concepteurs d’IA puisse être engagée et que des pénalités financières importantes soient prévues. C’est en second lieu la problématique du consentement éclairé du patient qui est reposée par l’utilisation de ces nouveaux outils. C’est ce que laisse apparaître en filigrane l’exigence de transparence des algorithmes afin que le patient qui supporte un acte sur son corps soit « éclairé sur l’algorithme à l’origine de la proposition qui lui est faite par le médecin ».

  • 5 V. sur ce point le billet n° 7, Données de santé.

5Deux autres mises en garde spécifiques ont été ajoutées. D’une part, les risques afférents à la gestion de données de masse de santé au regard du secret médical et du droit à la vie privée ont été mis en exergue5. Lors de son audition, la CNIL a d’ailleurs proposé de réfléchir à une campagne nationale d’information et de responsabilisation sur la protection par le citoyen de ses propres données de santé. D’autre part, les risques d’inégalité dans l’accès et la qualité des soins ont été soulignés. Certes, l’IA est perçue comme un moyen de pallier le manque de soignants dans les déserts médicaux. Mais elle emporte le risque d’entériner un moindre encadrement humain dans ces territoires. En outre, et en sens inverse, certains craignent que seules les populations les plus favorisées bénéficient des techniques les plus performantes d’IA, aggravant le constat d’une médecine à deux vitesses.

  • 6 Sur ces sujets, on peine parfois à l’heure actuelle à faire la part des choses entre fiction et réa (...)

6Dans ce contexte la formation des équipes médicales ainsi que des concepteurs apparaît cruciale. Pour que l’IA reste au service de l’humain et non l’inverse, il apparaît impératif de repenser et d’assurer la formation des professionnels qui seront amenés à participer à la prise de décision médicale ou à la réalisation de l’acte et ce, à partir d’une analyse de leur rôle spécifique et de leur responsabilité particulière. Le pari est d’ailleurs fait qu’une telle formation permettra de lutter contre les fantasmes que suscitent ces nouveaux outils6 et de mieux comprendre leurs applications potentielles. Dans le même temps, la formation des médecins de demain devra mettre l’accent sur les compétences humaines et relationnelles. Par ailleurs, il apparaît essentiel de sensibiliser les concepteurs aux conséquences de leurs choix. Le robot reste en effet tributaire des choix de celui qui l’a conçu. C’est au demeurant la raison pour laquelle les contributeurs ont souligné qu’il ne pourra en aucun cas remplacer l’expertise du médecin et devra rester une aide à la décision.

7Intelligence artificielle et robotisation offrent d’indéniables perspectives. Et d’aucuns ont insisté sur le fait que bénéficier de la meilleure médecine est un droit. Les risques tout aussi réels ne doivent pas conduire à occulter cet aspect. Finalement sur ce sujet, comme sur de nombreux autres abordés dans le cadre des États généraux, l’importance de la relation humaine dans le domaine médical a été rappelée. Or depuis vingt ans la relation usagers/personnels de santé tend, sous l’effet de la contrainte juridique, à un rééquilibrage, avec une attention nouvelle portée à l’information et au consentement du patient. L’incursion de la machine intelligente risque de bouleverser cette relation. À cet égard, les divergences d’opinions sur l’apparence des robots – devant conserver l’aspect d’une machine pour les plus anciens afin de ne pas biaiser la relation ou, au contraire, se rapprocher de l’apparence des humains pour les plus jeunes afin de limiter la déshumanisation du soin –, révèlent à quel point ces sujets sont perçus très différemment selon les générations.

*

CCNE, Rapport de synthèse du Comité consultatif national d’éthique – Opinions du Comité citoyen, juin 2018, 196 p.

*

8Les Lettres « Actualités Droits-Libertés » (ADL) du CREDOF (pour s’y abonner) sont accessibles sur le site de la Revue des Droits de l’Homme (RevDH)Contact

Haut de page

Notes

1 Cédric Villani, Donner un sens à l'intelligence artificielle : pour une stratégie nationale et européenne, La documentation française, mars 2018.

2 Définition de Marvin Minsky.

3 V. notamment le logiciel Gynélog/MedyCS créé par l’association Gynérisq qui permet d’utiliser de façon plus performante les informations enregistrées pour la surveillance des accouchements et d’aider à la décision. In Jean Marty et Rémi Pellet, « Logiciels médicaux et partage des responsabilités dans les établissements de santé : l’exemple de l’obstétrique », Journal de droit de la santé et de l’assurance maladie, n° 19, 2018, p. 6 et s.

4 Rappelons qu’à la suite d’une proposition portée par le Parlement européen visant à créer une personnalité spécifique des robots, une lettre ouverte signée par plus de 200 experts avait été adressée le 14 avril dernier à la Commission européenne. Les experts entendaient ainsi alerter sur le risque de conférer un statut juridique spécifique emportant personnalité juridique aux robots.

5 V. sur ce point le billet n° 7, Données de santé.

6 Sur ces sujets, on peine parfois à l’heure actuelle à faire la part des choses entre fiction et réalité. Pour preuve la résolution votée le 12 septembre dernier au Parlement européen visant à alerter contre ce que l’on nomme les « robots tueurs » dans le domaine de la défense (Résolution du Parlement européen du 12 septembre 2018 sur les systèmes d’armes autonomes (2018/2752(RSP)).

Haut de page

Pour citer cet article

Référence électronique

Camille Bourdaire-Mignot et Tatiana Gründler, « Intelligence artificielle et robotisation : la performance de l’IA au prix de la relation humaine ? », La Revue des droits de l’homme [En ligne], Actualités Droits-Libertés, mis en ligne le 16 septembre 2018, consulté le 22 novembre 2019. URL : http://journals.openedition.org/revdh/4669 ; DOI : 10.4000/revdh.4669

Haut de page

Auteurs

Camille Bourdaire-Mignot

Maître de conférences en droit privé, CEDCACE, Université Paris Nanterre

Du même auteur

Tatiana Gründler

Maître de conférences en droit public, CTAD-CREDOF, Université Paris Nanterre

Du même auteur

Haut de page

Droits d’auteur

Tous droits réservés

Haut de page
  • Logo Université Paris Nanterre
  • Logo Centre de recherches et d’études sur les droits fondamentaux
  • OpenEdition Journals