1Propos introductifs. Le suicide est considéré par l’Organisation mondiale de la santé comme un enjeu majeur de santé publique (OMS, 2014). Pour l’ensemble des pays de l’Union européenne, le taux de décès par suicide s’élève à 11,7 pour 100 000 habitants en 2013. En 2016 en France métropolitaine, 8 580 décès par suicide ont été recensés (Centre épidémiologique sur les causes de décès, 2016). Le nombre de tentatives de suicide en France est estimé à 200 000 par an. En 2014 au Canada, 4 254 personnes sont décédées par suicide. Chez les jeunes Canadiens (de 15 à 34 ans), le suicide est la deuxième cause principale de décès. L’hospitalisation n’est pas le seul moyen de prévention à la disposition des équipes de soins et de nombreux travaux ont montré que le suicide était une cause de mort évitable (Zalsman et al. 2016).

2En France, « l’homicide de soi-même » est entièrement dans l’espace du droit et réprimé jusqu’à l’adoption d’une loi en 1791 qui dépénalise le suicide. Il ne fait alors l’objet d’aucune incrimination pénale directe et n’engage pas non plus, en principe, la responsabilité civile de son auteur, puisque l’article 1240 du Code civil français ne vise que le dommage causé volontairement à autrui. Toutefois, le suicide n’est pas absent des préoccupations du droit et ne produit pas moins un certain nombre de conséquences (Terré, 1983). La décriminalisation des conduites suicidaires ne fait aujourd’hui plus débat. Les sciences fondamentales, qui participent depuis les années 1980 à l’explication de ce phénomène, ont importé de la génétique et des sciences du neurodéveloppement la notion de vulnérabilité suicidaire qui précipiterait le recours à un geste des personnes exposées à des évènements de vie adverses ou une maladie comme la dépression.

3Éléments de définition. Le suicide vient du pronom latin sui (de soi-même) et de cide issu de la racine cid, de caedere (frapper, tuer) (Maurice, 1954). Il se définit par un acte auto-infligé avec intention de mourir, dont l’évidence est implicite ou explicite, et dont résulte la mort. Le suicidé est l’individu qui s’est donné la mort volontairement. Le suicidant est l’individu survivant à sa tentative de suicide. Le suicidaire est un individu ayant des idées de suicide. Le suicidaire peut exprimer verbalement ou non verbalement les idées suicidaires. La tentative de suicide (TS) est un comportement auto-infligé avec intention de mourir. La crise suicidaire est une crise psychique dans un contexte de vulnérabilité avec émergences d’idées de suicide, et dont le risque majeur est le suicide.

4Positions de la problématique. En médecine comme en prévention du suicide, la mise en place des stratégies de prise en charge des patients repose principalement sur le concept de médecine fondée sur les preuves ou Evidence Based Medicine (EBM) (Evidence-Based Medicine Working Group, 1992). L’EBM consiste à utiliser de manière rigoureuse les preuves scientifiques issues des données de recherche lors de la prise de décision concernant les soins proposés à chaque patient. Sa pratique associe l’expertise clinique individuelle avec les résultats des études disposant d’un haut niveau de preuve. Dans ce modèle, l’expertise clinique se définit par les compétences que chaque clinicien acquiert par l’expérience de sa pratique clinique. Les preuves considérées comme de plus haut niveau sont issues d’essais randomisés contrôlés (ERC). Les méta-analyses fournissent également un très bon niveau de preuve en compilant les résultats obtenus dans plusieurs ERC. C’est sur ce corpus de connaissances que doit s’appuyer la décision médicale en situation de soin ou de prévention. Il est impossible de répondre à des phénomènes complexes comme le suicide par une méthode de prévention isolée. Bien souvent, le recours à plusieurs méthodes est prescrit sans que l’efficacité de la plus-value de cette association n’ait pu faire l’objet d’une preuve.

5L’ère du numérique dans laquelle nous entrons est de nature à faire évoluer les modalités de la décision médicale et sa portée en termes de responsabilité (médicale). En effet, la plupart des informations cliniques sur lesquelles s’appuient les cliniciens pour décider sont disponibles dans des formats plus ou moins structurés dans les dossiers médicaux informatisés (Electronic Health Reports – EHR). S’ajoute à cela la possibilité d’enrichir cette base par des données provenant des outils connectés (smartphones, wearables) appartenant aux patients eux-mêmes. De ce fait, les variables qui sont habituellement intégrées pour prendre une décision sont accessibles à des technologies telles que la classification supervisée et non supervisée, les techniques d’analyses en composantes principales, les réseaux de neurones, les arbres décisionnels ou encore les systèmes experts. Ces techniques d’aide à la décision seront regroupées dans cet article sous le terme « d’intelligence artificielle ». (IA). Cette technologie a toute sa place dans les processus décisionnels faisant intervenir d’importants volumes de données portant sur de nombreuses variables comme c’est le cas des phénomènes complexes. La prévention du suicide faisant intervenir des stratégies sur des populations de grande envergure se prête bien à l’application des modèles de décision de l’IA (McHugh et Large, 2020).

6Le déploiement des techniques d’IA dans le domaine de la décision médicale nous conduit à nous interroger sur la portée juridique du recours à ces technologies pour des phénomènes complexes appartenant au champ de la médecine. En modifiant le lien traditionnel qui se tisse entre un médecin et son patient, ces innovations de rupture définissent aussi de nouveaux lieux pour cette relation, de nouveaux espaces de soin. Quelle en sera l’influence sur le terrain de la responsabilité du médecin, mais aussi de celle de son patient qui procèdera à des auto-évaluations à distance ? Par ailleurs, qu’en est-il de l’adjonction de nouveaux responsables potentiels liés à l’usage de ces outils potentiellement préjudiciables au patient (à l’image du concepteur ou encore du fabricant) ? Le droit positif est-il adapté aux systèmes d’aide à la décision médicale ? La prévention du suicide parait être un cas d’usage tout à fait approprié à la conduite de cette réflexion, compte tenu du caractère multifactoriel des conduites suicidaires et des travaux associant IA et décision déjà conduits dans le domaine.

7Approche interdisciplinaire. Il existe autour du fait psychiatrique une approche « multidisciplinaire » qui juxtapose des concepts juridiques et médicaux de manière à rendre intelligible dans ces deux champs des faits ou situations faisant l’objet d’un traitement par les deux disciplines. C’est le cas par exemple des demandes d’expertises psychiatriques pour des prévenus dans le cas d’affaires où les faits font évoquer au juge l’existence d’une cause psychiatrique. Il sollicite alors un psychiatre dit « expert », disposant lui-même d’un savoir juridique, qui rendra possible la décision éclairée du juge. Il s’agit alors d’aligner des concepts provenant de champs d’expertise distincts, de manière à ce qu’ils soient intelligibles par une discipline tierce. Notre ambition était de dépasser le seuil d’un tel alignement et de proposer une approche « interdisciplinaire » (Thomas-Klein, 2011), délibérative, où la vision éthique émane d’un dialogue et d’une communication entre les disciplines de la médecine et du droit.

8Notre méthode comporte deux phases. En interrogeant la notion de la responsabilité médicale et des aménagements associés à l’introduction des technologies de l’information dans les stratégies de prévention, nous avons d’abord aligné deux concepts appartenant au champ juridique et médical. Nous avons ensuite tenté de dépasser le seuil de la multidisciplinarité en identifiant dans le champ du juridique, au-delà de la question de la responsabilité médicale, les concepts permettant de penser la transformation essentielle opérée par le recours aux technologies de l’information et la communication en médecine, en s’appuyant sur l’exemple de la prévention du suicide. Il apparaît alors que la notion de qualification, propre au domaine juridique, assure, lorsqu’elle est appliquée au fait clinique, un éclairage des remaniements opérés par l’introduction du numérique en santé, en particulier pour ce qui concerne l’évaluation d’un patient à risque et la prise de décision qui lui fera suite.

9Plan de l’article. Nous avons ainsi développé notre propos en deux parties. La première, en présentant l’approche traditionnelle de la décision médicale, explore les aménagements qu’induira dans l’avenir l’introduction de l’IA dans l’action médicale et ses conséquences sur la responsabilité, en s’appuyant sur le cas de la prévention du suicide. Dans la seconde partie, nous avons tenté de démontrer comment ces technologies transforment la qualification de l’information clinique et renouvellent les liens, médicaux et juridiques, tissés entre le patient et son médecin.

L’approche traditionnelle de la décision médicale en prévention du risque suicidaire

10Les stratégies de prévention sont au cœur de l’action médicale (A). Les procédures heuristiques (visant à identifier et collecter des vérités objectives d’après les données actuelles de la science) et les procédures de décision (visant à mettre en œuvre le traitement le plus efficace) font déjà l’objet d’une numérisation. Les dossiers médicaux informatisés collectent aujourd’hui en routine les informations cliniques, et l’IA pourra demain les traiter avec des conséquences majeures sur le processus de décision thérapeutique. Or, sur le plan du droit, le corollaire de cette décision correspond à l’hypothèse de l’engagement de la responsabilité du médecin (B).

Les contours de l’action médicale

11Le suicide est une cause de mort évitable. Les conduites suicidaires sont sous-tendues par des facteurs de risque qui sont, pour la plupart, modifiables. Les stratégies de prévention sont au cœur de l’action médicale et se distinguent en prévention universelle, sélective et indiquée.

12La prévention universelle s’adresse à la population générale sans distinguer le niveau de risque présenté par les individus. Le législateur peut ainsi restreindre l’accès aux moyens létaux ou réduire leur dangerosité, ou encore adopter des mesures incitatives à la prévention à l’image de la loi de 1941 qui met en place un concept de solidarité sociale à travers la notion de « non-assistance à personne en danger » (Soutoul, 1991). Il est connu par exemple que l’accès domestique à une arme à feu augmente le risque de suicides par ce moyen. Une revue de la littérature de 2015 conclut que la législation sur le contrôle des armes à feu était associée à une réduction du risque suicidaire (Zalsman et al., 2016).

15La prévention du suicide appliquée à un individu donné combine potentiellement un certain nombre d’interventions dont la plupart sont liées à l’action médicale. Nous verrons comment lors de la mise en œuvre de celle-ci les informations sont colligées par le clinicien puis mobilisées à des fins de décision. Notre hypothèse est que la transition numérique conduira à un remaniement profond de la notion juridique de responsabilité médicale en lien avec la mise à disposition d’instances d’intelligence artificielle de données cliniques destinées à la décision médicale.

16L’entretien clinique. Lors d’une consultation médicale, le clinicien collige des symptômes par l’entretien clinique et l’examen du patient. Jusqu’à la généralisation du recours aux dossiers médicaux informatisés, les médecins ne s’appuyaient que sur leur propre mémoire et des dossiers manuscrits pour stocker cette information et consulter cette information. Le praticien fonde alors des hypothèses diagnostiques susceptibles d’expliquer les signes observés. Compte tenu du poids des maladies psychiatriques dans le risque de passage à l’acte et de récidive, la décision d’orientation de ces patients et leur prise en charge sont le plus souvent confiées à un psychiatre. Les facteurs de risques de passage à l’acte suicidaire recherchés et colligés par les psychiatres sont définis par une conférence de consensus (Haute autorité de santé française, 2000), et peuvent être résumés ainsi :

• Des facteurs de risque psychiatriques : comme les états dépressifs, la schizophrénie et les troubles sévères de la personnalité ;

• Des facteurs de risque biographiques comme les antécédents personnels de tentative de suicide ;

• Des facteurs de risque psychosociaux comme des événements de la vie peuvent être des éléments de précipitation de la crise suicidaire. Le contexte actuel de pandémie et ses conséquences économiques font craindre, comme à la suite de la crise de 2008, une augmentation significative des taux de suicide en Europe (Merzagora, 2016).

Décision médicale et responsabilité

17La décision médicale est l’un des enjeux majeurs de la médecine basée sur les preuves. Ce sont ces mêmes éléments qui entrent en jeu dans les décisions thérapeutiques concernant les patients à risque de suicide :

• Les données de la science accessibles dans la littérature scientifique pour identifier les recommandations du meilleur niveau de preuve ;

• L’expérience du praticien ;

• • 6 Cour de cassation française, 1^ère civ., 20 janvier 2011, n° 09-68 042.

  Les informations (cliniques) obtenues auprès du patient lors de l’entretien, de l’examen et parfois auprès de son entourage. Dans certaines circonstances, des erreurs ou des carences dans la fourniture d’informations de la part du patient sont prises en compte par le juge pour refuser son indemnisation au titre de la responsabilité de l’établissement de soin l’ayant pris en charge. C’est en ce sens que la Cour de cassation française décide dans un arrêt de 2011 que : « la cour d’appel qui a relevé qu’à son admission dans l’établissement la patiente avait dissimulé son état de santé […] en a exactement déduit […] l’absence de tout manquement fautif susceptible d’engager la responsabilité de l’établissement »6.

18Sur le plan du droit, le corollaire de la décision médicale correspond à l’hypothèse de l’engagement de la responsabilité civile, pénale (Levasseur, 1994) ou encore disciplinaire (Jonas, 2012) du médecin.

20Les critères d’engagement de la responsabilité du médecin. La jurisprudence a identifié des critères d’engagement de la responsabilité civile du médecin qui tiennent compte non seulement de la prévisibilité du comportement du patient et de la nature de la surveillance exercée, mais aussi de l’adéquation des moyens mis en œuvre.

21Sur la question de la prévisibilité du comportement du patient, le juge examinera, suivant des « critères de bonne pratique », si le médecin a été attentif aux antécédents connus du patient, aux informations apportées par la famille, aux facteurs de danger immédiat (Agence Nationale d’Accréditation et d’Évaluation en Santé, 2000), ainsi qu’au diagnostic reconnu par la profession et l’expertise qui démontre le risque de passage à l’acte.

22Au même titre que la prescription médicamenteuse, la prescription de surveillance fait partie intégrante du soin, en particulier pour le cas des situations pour lesquelles un risque majeur de passage à l’acte a été identifié (ex. : expression d’idées de suicide scénarisées). Le juge analysera la situation à l’aune de plusieurs aspects objectivables tels que : la qualité des consignes écrites (type et fréquence de surveillance, contrôle des déplacements, objets auxquels le patient peut avoir accès, etc.), la qualité et le nombre de personnels présents, ou encore l’adéquation de la mise en œuvre des consignes médicales.

23La responsabilité du médecin sera plus aisément retenue que le lieu de soin est destiné à la prise en charge de personnes à risque de suicide. Une prise en charge ambulatoire ou une hospitalisation à temps partiel ne justifie pas une surveillance aussi étroite que dans un service de psychiatrie (Jonas, 2012). Les critères de soins sous contraintes ayant présidé au fonctionnement de la psychiatrie par le passé laissent désormais une large place à la coopération avec le patient, allant jusqu’à la formalisation d’une obligation de consentement, sauf exception (urgence ou impossibilité). Il est essentiel de maintenir la liberté constitutionnelle d’aller et de venir, et la psychiatrie semble évoluer vers des méthodes de plus en plus libérales. Cette spécialité clinique ne nécessite qu’exceptionnellement un contact physique lors de l’examen, elle se prête dès lors plus aisément à l’utilisation d’outils « dématérialisés » qui renouvellent l’approche traditionnelle du « lieu de soin ».

24Il apparaît que ces notions qui constituent l’assise de la responsabilité médicale sont remises en cause par la double rupture portée par l’introduction du numérique en santé. Nous verrons ainsi dans quelle mesure les critères classiques d’engagement de la responsabilité du médecin (lieu de prise en charge, prévisibilité du comportement du patient) seront renouvelés par l’usage de dispositifs numériques et de l’IA.

Le renouvellement de la décision médicale en prévention du risque suicidaire par les systèmes d’intelligence artificielle

25La prévention du suicide se prête tout à fait aux modèles de décision soutenus par l’IA. Les technologies de l’information et de la communication (TIC) ont par ailleurs permis de transformer l’accès à la donnée clinique ainsi que son format. Le passage du "colloque singulier" entre le médecin et son patient, à l’évaluation écologique instantanée (A) emporte avec lui une modification substantielle de leurs rapports, y compris sur le plan du droit (B).

Du « colloque singulier » à l’évaluation écologique instantanée

26L’évaluation clinique en psychiatrie est généralement basée sur des rendez-vous régulièrement programmés. Bien que d’une importance cruciale, cette approche réduit l’évaluation aux seules observations possibles dans ce laps de temps qui omettent des informations essentielles sur l’évolution de la maladie, sujettes à des biais de rappel. Les psychiatres, y compris dans le cadre de l’évaluation du risque suicidaire, prennent l’ensemble de leurs décisions à partir de ces informations. L’ensemble de ces évaluations (et les décisions qui y sont associées) est habituellement conduit en moins de 30 minutes. La généralisation de l’accès à Internet et aux technologies mobiles permet de développer des approches de santé connectée, en particulier dans le cadre du suivi ambulatoire (Haute autorité de santé française, 2021). Ces dispositifs modifient les modalités de collecte des données cliniques en consultations, mais aussi en dehors des temps de consultation. La santé numérique (ou « e-Santé ») fait référence à « l’application des technologies de l’information et de la communication (TIC) à l’ensemble des activités en rapport avec la santé » (Fondation de l’Avenir, 2015). La santé numérique renvoie d’abord aux « systèmes d’information en santé » qui permettent une coordination plus efficiente des soins au sein d’un établissement de santé (dossier patient informatisé, etc.) ou d’un territoire de soins (système d’information partagé de santé, etc.). La santé numérique vise ensuite la « télésanté » qui intègre des services de suivi et de prévention des individus dans un objectif principal de bien-être (objets connectés, applications mobiles d’automesure, plateforme web, etc.). Enfin, la santé numérique renvoie à la « télémédecine » (Haute autorité de santé française, 2019), qui offre quant à elle des possibilités de soins à distance et qui regroupe cinq catégories d’actes médicaux que sont : la téléconsultation, la téléexpertise, la télésurveillance, la téléassistance, et la régulation médicale.

27Les outils de santé numérique ont montré récemment un fort potentiel de révolution des pratiques en santé mentale, notamment parce qu’elles répondent aux attentes de renfort du potentiel de suivi ambulatoire (c’est-à-dire en dehors des murs de l’hôpital) pour des patients bénéficiant de prises en charge au long cours. L’intégration des technologies de l’information et de la communication aux pratiques de prévention répondrait à plusieurs difficultés posées par le suivi des patients à risque suicidaire en permettant :

• de collecter davantage d’informations sur leur état de santé, en se fondant notamment sur des évaluations écologiques (évaluation dans le milieu de vie du patient) ;

• d’analyser des bases de données en vue d’identifier les patients les plus à risque et développer des outils d’aide à la décision médicale pour la gestion de ce risque.

28L’usage des outils de santé connectée n’écarte pas l’application des obligations déontologiques traditionnelles qui pèsent sur le professionnel de santé et qui sont sanctionnées par la responsabilité disciplinaire. Ainsi, les actes de télémédecine ne peuvent être réalisés qu’avec le consentement libre et éclairé du patient et le professionnel de santé doit recueillir le consentement du patient tant à l’acte médical de téléconsultation, qu’aux investigations ou traitements prescrits (Mazeau, 2020). Dans ses recommandations relatives à la téléconsultation de juin 2019, la HAS prévoit que le consentement du patient doit être donné non seulement à l’acte médical, mais aussi au recours à la consultation à distance avec les technologies de l’information et de la communication. Les technologies récentes apportent deux ruptures aux pratiques de la téléconsultation classiques. La première concerne le processus de recueil des données. La base de données cliniques peut ainsi être alimentée par les observations du médecin, comme nous l’avons vu, mais également par le patient lui-même en s’appuyant sur des évaluations actives (le patient réalise une action pour communiquer des informations) ou passives (un objet connecté “capture” des informations cliniques sans intervention active du patient). La deuxième rupture, rendue possible par ces modalités de capture de données et leur structuration immédiate, concerne la mise à disposition des données à des instances d’intelligence, dont la vocation est de produire une information concernant ces données à un niveau collectif (ex. : synthèse et visualisation des données épidémiologiques sur une large population) ou individuel (ex. : recommandation de traitement pour un patient donné, survenue d’une complication à une échéance de 6 mois…).

29L’ampleur et la complexité croissante des connaissances médicales s’est accrue avec les usages du numérique, ce qui oblige le clinicien à gérer toujours plus d’informations pour soigner un patient. Ces connaissances sous-tendent le principe d’EBM, et leur maîtrise est opposable à l’action médicale. La gestion (stockage, comparaison) de ces données à des fins de décision est d’autant plus difficile que les données cliniques (ou faits) et les règles qui sous-tendent la mise en action de ces connaissances sont nombreuses.

31Prolonger l’évaluation clinique hors des murs de l’hôpital. L’évaluation clinique médicale s’appuie sur des entretiens conduits lors de rendez-vous de consultation ou de visites au lit du malade. La décision médicale dans ce contexte se fonde sur des informations rétrospectives faisant appel à la mémoire du praticien et aux données des DMI. Les DMI constituent donc une première source de données sur laquelle le médecin ou une instance d’IA pourrait appuyer son raisonnement. L’entretien clinique sur lequel se fonde ce recueil des données souffre des biais liés à l’effort de mémoire demandé au patient. Les risques liés à ces biais expliquent l’intérêt pour les évaluations écologiques qui consistent à faire réaliser au patient des auto-évaluations renseignées par exemple sur application. Récemment, des auteurs ont proposé que ces évaluations soient conduites depuis des appareils connectés à Internet. La validité, la fiabilité et l’acceptabilité de ces procédures de recueil en ligne sont similaires aux questionnaires papier traditionnellement utilisés chez les patients souffrant de troubles mentaux (Zimmerman, Martinez, 2012).

32On regroupe sous le concept d’évaluation écologique instantanée (ou Ecological Momentary Assessment – EMA) l’ensemble des protocoles qui permettent à un patient, alors qu’il n’est pas en contact direct avec un soignant, d’enregistrer des informations concernant ses symptômes, son comportement, son état mental ou ses activités (Shiffman, Stone, Hufford, 2008). Les méthodes utilisant l’EMA pour collecter des données cliniques permettent de documenter des symptômes au moment précis où ils apparaissent, ou peu après. Ces méthodes permettent ainsi une capture des symptômes en temps réel par le clinicien. Husky et al. (2014) ont montré la faisabilité de l’EMA pour étudier les idéations suicidaires. Cette technique a également été mise à profit dans l’évaluation de facteurs de risque de suicide comme les troubles anxieux et les troubles dépressifs. Internet et les technologies mobiles sont les instruments idéaux d’une telle auto-évaluation : les smartphones sont portés par les patients la plupart du temps. Les objets connectés ont également été identifiés comme des sources potentielles, pouvant documenter la survenue de facteurs de risque comme des troubles du sommeil. Enfin les réseaux sociaux, en ce qu’ils sont une source continue de données textuelles, pourraient également produire une information utile à la décision (Notredame, 2018).

Les conséquences pratiques et juridiques de l’évaluation écologique instantanée

33Les conséquences pratiques de l’EMA. La révolution pratique de l’EMA est liée au fait qu’elle rende possible au clinicien l’accès à des informations cliniques qui ne lui étaient accessibles que rétrospectivement avant l’avènement des technologies connectées. Dans le modèle du suivi habituel, le clinicien n’a accès à aucune information concernant son patient entre les moments où ce dernier est présent dans les soins, en hospitalisation ou en consultation. Dans son modèle le plus élémentaire, l’EMA médiée par les outils connectés permettrait entre deux consultations d’avoir accès à des informations cliniques portant sur des variables d’intérêt. Les valeurs de certaines de ces variables pourraient également constituer des "événements" à valeur de signes d’une dégradation de l’état du patient, susceptibles de générer une modification de la procédure de soins. Dans ce modèle, une consultation rapprochée peut être organisée suite à la détection d’un événement indésirable, contrairement à la pratique habituelle qui consiste à fixer ces rendez-vous a priori, quels que soient les évènements intercurrents entre deux consultations.

34Interfaces clinicien et patient. Il est donc possible de combiner sur une même base des données provenant pour un même patient ou une même population, des données saisies par le médecin et par le patient. L’interface médecin se présente sous la forme d’un DMI en ligne pouvant être complété pendant la visite médicale ou les consultations. Il est conçu pour collecter toutes les informations habituellement enregistrées durant l’évaluation médicale, tels les éléments sociaux démographiques, cliniques, diagnostiques, thérapeutiques ou des observations libres. L’interface « patient » permet un recueil d’informations cliniques sur la base d’autoquestionnaires et de champs de texte libre. Cette approche permet une standardisation du recueil de données du patient en utilisant la méthode EMA. Ce recueil est basé sur des échelles validées et simples d’utilisation que le patient complète à la fréquence désirée ou avec une consigne liée à un protocole de suivi particulier, le cas échéant. Pour le cas des dispositifs existant actuellement en télémédecine, le patient doit, selon les termes de l’article R. 6316-3 du Code de la santé publique français « lorsque la situation l’impose », être préparé ou formé à son utilisation. Mais ce droit particulier à la formation semble conditionné par « la situation », ce qui laisse supposer que cette préparation incombe au professionnel de santé qui offre le service de télémédecine, ou encore à l’organisme qui l’a mis en place. Cette formation peut soulever des interrogations sur le point de savoir si elle pourrait avoir un effet sur la qualification du comportement fautif du patient victime d’un préjudice résultant d’un acte de télémédecine (autoquestionnaires mal renseignés, incomplets, erronés, etc.). Par ailleurs, le déploiement d’outils d’auto-évaluations en ligne remet aussi en question la problématique de l’illettrisme numérique de certains patients. En effet, « les patients les plus âgés, les personnes très malades et les plus pauvres, ceux qui ont le plus besoin d’aide – seront les moins susceptibles d’utiliser ces outils » (Carroll, 2014). Pallier les difficultés liées à l’usage de ces technologies par les personnes vulnérables, comme peuvent l’être les personnes à risque de suicide (handicap, grand-âge, etc.), est un objectif essentiel afin d’éviter des discriminations, une rupture d’égalité, ou encore une stigmatisation.

35Actuellement, les médecins n’ont aucunement recours dans leur pratique courante à des technologies d’intelligence artificielle pour prendre en charge leurs patients. Quelques rares spécialités dans lesquelles l’information clinique est numérisée d’emblée (ex. : radiologie) ont intégré des instances d’aides au diagnostic faisant intervenir de l’IA. Toutefois, l’importante littérature scientifique et les nombreux plans institutionnels visant à soutenir la transition numérique des systèmes de santé (Organisation mondiale de la santé, 2019) doivent nous faire penser les conséquences de l’introduction de ces technologies, y compris sur le plan du droit.

36Pour déterminer la valeur de l’IA en prévention du suicide, des auteurs ont cherché à déterminer si un algorithme était capable de prédire quelles seraient les variables d’un jeu de données cliniques qui permettraient d’expliquer le nombre de passage à l’acte suicidaire dans une population de patients suicidants admis aux urgences. Une approche non supervisée a été conduite afin d’extraire des structures homogènes du jeu de données, sans hypothèse a priori. Cette méthode permettait d’isoler les variables d’intérêt expliquant le nombre de tentatives de suicide dans chaque groupe de patient. Cette méthode faisait apparaître des facteurs de risque propres aux hommes comme le statut professionnel ou un historique de comportement suicidaire dans la famille. D’autre part, le fait de ne pas avoir d’enfants entraîne un sur-risque, qui n’apparaît pas chez les femmes. Pour les deux sous-populations, les scores d’impulsivité étaient des facteurs explicatifs du nombre de TS par patients (Berrouiguet et al., 2019).

37L’EMA vise à recueillir de façon prospective des données médicales concernant les patients. Cette collecte de données combine des résultats d’échelles psychométriques et des données cliniques. La détermination de sous-groupes à risque permettrait de prédire une évolution vers un passage à l’acte, avec pour objectif d’adapter au mieux la prise en charge en tenant compte de ce risque est en soi très discutée (Roger Mulder et al., 2016). C’est une tentation ancienne que de prédire l’avenir des individus à partir d’une classification et d’une hiérarchisation de critères rendant compte des comportements. Une telle grille de lecture pourrait avoir des conséquences importantes sur la prise en charge des patients à risque de suicide. Il est donc important de différencier prévention et prédiction, notamment quand cette prédiction est de nature probabiliste et liée à des méthodes en phase d’être bien connues et acceptées dans la population générale. Cette prédiction pourrait en outre avoir dans pour les publics profanes des méthodes de fouille utilisées, patients comme professionnels de santé, valeur de détermination. La vérité apparente que pourraient présenter les outils informatiques ne supprime pas l’indéterminisme propre à tout système complexe, en particulier concernant un phénomène multifactoriel comme le suicide.

38Vers une transformation de la qualification de l’information clinique. Les concepts de la pratique médicale ne connaissent pas de notion pouvant rendre compte du passage, induit par l’EMA, de la notion traditionnelle d’information clinique vers celle de donnée clinique numérique. Notre hypothèse (heuristique) est que le recours à la notion juridique de qualification pourrait nous aiguiller dans la compréhension de ce changement. La qualification, au sens du droit français interne, « consiste à classer un contenu donné dans une catégorie impliquant un certain régime juridique » (Terré, 1957 : 641). Elle permet de « saisir le réel », de figer une réalité concrète, en prenant en considération un fait (supposé établi dans sa matérialité) pour le revêtir intellectuellement de la qualité juridique lui faisant produire des effets de droit (Jestaz, 1993 : 18).

39On assiste donc à une triple modification de la qualification de l’information clinique lorsque celle-ci prend la forme d’une donnée clinique numérique. D’abord sa capture et son enregistrement sont le fait d’un interfaçage de la relation médecin-malade par logiciel ou un capteur, contrairement au modèle de pratique en place jusqu’alors dans lequel à la fois la capture de l’information et son stockage étaient assurés par le médecin seul. Elle a par ailleurs une dimension dynamique, puisque le principe même de la méthode d’EMA permis par les technologies actuelles est de multiplier au cours du temps la capture de la donnée. Enfin, ces données sont vouées à être traitées d’une manière telle qu’elles comprennent une information supplémentaire relative aux données actuelles de la science ou subordonnées à aux autres variables, comme l’estimation d’un risque par un outil d’IA.

41Une première interrogation peut être soulevée autour de l’application de ce régime juridique aux biens immatériels (Lucas, 2001 : 817). Les procédés informatiques mis en œuvre dans les instances d’aides à la décision médicale ne sont ni corporels, ni totalement standardisés contrairement au modèle théorique pensé initialement dans la législation relative aux produits défectueux (Groupe d’experts sur la responsabilité et les nouvelles technologies, 2019). Dès lors, il pourrait être intéressant d’envisager la responsabilité du programmeur du logiciel potentiellement qualifié de « bien meuble incorporel ». Sur la base de l’article 1245-7 du Code civil français, le programmeur du système qualifié de partie composante et le fabricant, pourraient être tenus solidairement responsables. Mais la recherche du responsable pourrait se complexifier lorsque le système est un logiciel open source. Et ce, d’autant que l’article 1245-5 décharge la victime de l’administration de la preuve tenant à déterminer si le défaut doit être attribué au fabricant de la machine ou au concepteur du logiciel/ programme en retenant une responsabilité solidaire. La loi française de 1998 vise le fabricant du produit fini comme celui de la partie composante.

43Enfin, pour que le régime de responsabilité du fait des produits défectueux fonctionne, le défaut intrinsèque, matériel, doit pouvoir être décelé compte tenu de l’état des connaissances scientifiques et techniques au moment de la mise en circulation du produit. Or, le système d’aide au diagnostic médical peut se voir reprocher de fonctionner comme une « boîte noire », c’est-à-dire comme un outil dont on connaît les entrées et les sorties, mais pas le mécanisme de raisonnement interne. Cette constatation est classique pour le cas de systèmes d’information stratégique qui reposent sur d’importants entrepôts de données et dans lesquels l’erreur de gestion n’emporte que des conséquences mineures. Il en est tout autrement avec un logiciel d’aide à la décision médicale en prévention du risque suicidaire où la conséquence peut être la mort d’êtres humains.

44La protection des données personnelles, des données de santé, la révolution de la relation patient-médecin induite par les méthodes d’EMA, questionnent quasiment de manière simultanée tous les pans du droit, impliquant une complexité inédite dans la compréhension du mécanisme de responsabilité. Si l’adaptation de la législation existante envisagée au niveau européen n’est pas à la mesure des enjeux, la clarification devra s’opérer dans le temps long sous la plume du juge. Or, pour le cas particulier des systèmes d’aide à la décision en prévention du risque suicidaire, il est nécessaire de trouver un point d’équilibre entre flexibilité pour accompagner les progrès techniques et précision pour apporter aux individus la sécurité juridique nécessaire.

Propos conclusifs

45La prévention du suicide appliquée à un individu donné combine potentiellement un certain nombre d’interventions dont la plupart sont liées à l’action médicale. Nous avons pu observer comment, lors de la mise en œuvre de celle-ci, les informations sont colligées par le clinicien puis mobilisées à des fins de décision. Dans l’exercice de la médecine, les décisions thérapeutiques se fondent sur un principe général du droit : l’indépendance du médecin. Cette indépendance emporte pour conséquence majeure que le médecin est le seul responsable de chacune de ses décisions, y compris concernant les patients à risque de suicide. Le geste suicidaire d’un patient peut en effet venir remettre en question la décision du médecin et, le cas échéant, entraîner sa responsabilité. Traditionnellement, la jurisprudence française identifie des critères d’engagement de la responsabilité civile du médecin qui tiennent compte non seulement de la prévisibilité du comportement du patient et de la nature de la surveillance exercée, mais aussi de l’adéquation des moyens mis en œuvre. Plus récemment, les TIC ont permis de transformer l’accès à la donnée clinique ainsi que son format. Désormais, la plupart des informations cliniques sur lesquelles s’appuient les cliniciens pour décider sont disponibles dans des formats plus ou moins structurés dans les dossiers médicaux informatisés. S’ajoute à cela la possibilité d’enrichir cette base par des données provenant des outils connectés appartenant aux patients eux-mêmes. Les variables qui sont habituellement intégrées pour prendre une décision sont accessibles à des processus d’IA. Cette technologie a toute sa place dans les processus décisionnels faisant intervenir d’importants volumes de données portant sur de nombreuses variables comme c’est le cas des phénomènes complexes. Le champ de la prévention du suicide, et plus généralement de la santé mentale, se prête tout à fait à l’incorporation de ces nouvelles technologies, dont la promesse est de renforcer la capacité d’action ambulatoire, en complément des soins traditionnellement conduits en milieu hospitalier. Le déploiement de techniques d’IA dans le domaine de la décision médicale modifie la portée juridique du recours à ces technologies pour des phénomènes complexes appartenant au champ de la médecine. En transformant le lien traditionnel qui se tisse entre un médecin et son patient, ces innovations de rupture définissent aussi de nouveaux lieux pour cette relation, de nouveaux espaces de soin. Le passage du "colloque singulier" entre le médecin et son patient, à l’évaluation écologique instantanée emporte avec lui une modification substantielle de leurs rapports, y compris sur le plan du droit de la responsabilité. En effet, l’usage de données de santé dans des instances d’aide à la décision pour la prévention du risque suicidaire provoque en droit français le concours de plusieurs législations susceptibles d’être mises en œuvre et donne à voir un schéma de responsabilité plus complexe que celui observé dans une relation médecin-patient traditionnelle. À la responsabilité médicale classique se surajoute désormais d’autres schémas de responsabilité mettant potentiellement en cause, le producteur ou encore le concepteur du système. Ce concours met en exergue toute la difficulté à penser le mécanisme d’imputation, pour le juriste qui observe le déploiement d’outils d’aide à la décision en matière médicale, dont les ontologies sont parfois floues, opaques.

46Notre hypothèse est que la transition numérique conduira à un remaniement profond de la notion juridique de responsabilité médicale en lien avec la mise à disposition de données cliniques destinées à la décision médicale dans des instances d’IA. Dès lors, l’assimilation des modèles de décision proposés par les TIC dans le champ de la médecine dépend grandement des dispositions de ces deux disciplines à s’entendre sur des concepts communs. Le droit pourrait ainsi permettre d’éclairer des changements à l’œuvre dans le champ médical. C’est en ce sens que nous soutenons l’idée selon laquelle la notion de qualification, propre au domaine juridique, assure, lorsqu’elle est appliquée au fait clinique, un éclairage des remaniements opérés par l’introduction du numérique en santé. Les concepts de la pratique médicale ne connaissent pas de notion pouvant rendre compte du passage, induit par l’EMA, de la notion traditionnelle d’information clinique vers celle de donnée clinique numérique. Ainsi, le droit pourrait avoir un pouvoir heuristique sur le champ médical qui ne peut rendre compte à lui seul des changements induits par l’IA. Le dialogue entre ces deux disciplines devait donc être médié et enrichi par les concepts juridiques, sur la question de la responsabilité d’abord, mais également sur les processus de l’action médicale elle-même. Le droit permet déjà d’encadrer l’action médicale lorsque l’innovation technologique à laquelle elle a recours présente un certain niveau de danger, par exemple en prévention du suicide (Larsen et al., 2016). Il permettra demain de penser les nouveaux concepts qui apparaîtront lorsque l’IA sera une pièce indissociable de la décision médicale.