Navigation – Plan du site

AccueilNuméros11Dossier thématiqueConstruire la protection juridiqu...

Dossier thématique

Construire la protection juridique de la personne face aux intelligences artificielles : inventer de nouveaux modèles ou solliciter les anciens ?

Enseignements tirés du droit de la bioéthique
Sophie Dumas-Lavenac
p. 31-45

Résumés

Le développement des intelligences artificielles oblige à une adaptation du système juridique et de ses catégories, comme naguère le développement de la biomédecine. L’observation de la construction du droit de la bioéthique permet de percevoir les difficultés et les éventuels écueils à éviter ou exemples à reproduire dans l’élaboration d’un corpus normatif propre à réguler les intelligences artificielles. Si la création de nouveaux modèles juridiques semble indispensable, il faut veiller à la façon dont la réflexion est menée pour aboutir à cette création, sous peine d’adopter des normes impuissantes à atteindre l’objectif de protection de la personne. La précipitation est alors à proscrire, ce qui conduit à rechercher la régulation, au moins dans un premier temps, dans les concepts et normes existants.

Haut de page

Texte intégral

1Les intelligences artificielles (IA) sont au cœur d’une intense réflexion institutionnelle dont l’objectif est d’identifier les principes qui permettraient de protéger les personnes des effets potentiellement négatifs du développement de ces technologies.

2Ces dernières années, plusieurs institutions se sont penchées sur le sujet de l’encadrement par le droit de cette évolution technologique, perçue comme nécessitant une adaptation de la législation. En effet, elle questionne les catégories et les mécanismes juridiques. Pour autant, ce n’est pas la première fois que le droit est confronté à la réception d’une technique ou d’une pratique totalement nouvelle, et il peut être intéressant de revenir sur la façon dont les évolutions antérieures ont été réceptionnées pour en tirer des leçons.

  • 1 A. Mendoza-Caminade, « Le droit confronté à l’intelligence artificielle des robots : vers l’émergen (...)

3Les intelligences artificielles s’entendent des technologies qui visent à donner aux ordinateurs des capacités d’intelligence, c’est-à-dire celles de résoudre des problèmes en prenant des décisions. Il faut ajouter à cette capacité de résolution la capacité d’apprentissage, désignée par le terme machine learning, grâce à laquelle la machine modifie elle-même son programme en extrayant les données pertinentes parmi les masses de données qui lui ont été fournies. Il faut distinguer ces logiciels auto-apprenants, les IA dites « fortes », des IA dites « faibles » qui se contentent de traiter des données, notamment grâce aux outils statistiques. L’intérêt que présentent ces IA « faibles », seules véritablement utilisées à l’heure actuelle, est qu’elles sont beaucoup plus rapides (et présumées plus fiables) que l’être humain dans la prise de décision face à une masse importante de données. Les applications sont remarquablement multiples. Ces logiciels d’aide à la décision peuvent être exploités en matière médicale avec les outils d’aide au diagnostic, en matière administrative ou d’emploi (logiciels employés pour l’attribution d’une place en crèche ou d’un logement social, logiciels d’aide au recrutement), en matière d’assurances ou encore en matière judiciaire. Ce sont aussi les programmes utilisés par les réseaux sociaux ou les sites marchands ou d’information pour présenter des contenus censés intéresser l’utilisateur. Ces programmes informatiques, auto-apprenants ou non, peuvent être intégrés à un robot, c’est-à-dire à un automate capable d’interagir avec son environnement, le rendant alors capable d’un certain degré d’autonomie décisionnelle1. D’autres applications sont alors envisageables : voiture autonome bien sûr, robots chirurgicaux, robots d’assistance à la personne, exosquelettes, robots militaires. La liste n’est sans doute pas exhaustive et est quoi qu’il en soit certainement amenée à être complétée.

4Cette évolution technique que constituent les intelligences artificielles, et les questions que pose sa réception par le droit, présente au moins trois similitudes avec une évolution technique antérieure : celle qu’ont représentée les pratiques biomédicales.

5La première similitude tient au bouleversement des représentations de l’humain. La biomédecine a été l’avènement de la manipulation du vivant : le corps est devenu un gisement de ressources thérapeutiques grâce à l’exploitation des éléments et produits du corps humain, la procréation est devenue (en partie) maîtrisable avec la fécondation in vitro, la structure biologique de chaque individu est devenue lisible et même perfectible avec la médecine génomique. Les biotechnologies donnent l’impression que l’être humain, transcendant sa condition, peut devenir le maître de sa propre nature.

6Pour leur part, les intelligences artificielles génèrent un changement de perspectives comparable. L’enjeu n’est pas seulement l’amélioration du confort ou de la sécurité grâce au véhicule autonome, à la domotique ou aux robots d’assistance à la personne, mais encore la définition même de l’être humain, l’intelligence n’étant plus son apanage mais étant partagée avec les machines.

7Ainsi, dans un cas comme dans l’autre, la nouveauté technologique génère un certain vertige, l’impression que l’évolution pourrait produire des conséquences imprévues et imprévisibles, menaçant les libertés et jusqu’à l’essence même de l’humain. C’est ce vertige, cette angoisse même qui, probablement, fait apparaître comme indispensable l’élaboration de nouvelles normes, conçues spécialement pour encadrer les pratiques fondées sur l’intelligence artificielle. Cependant, les réactions à l’angoisse ne sont pas toujours les meilleures. Aussi faut-il sans doute mobiliser avant tout l’analyse (au sens des capacités de l’intelligence humaine) pour vérifier que le système juridique ne suffit pas déjà, moyennant quelques adaptations, à assurer la protection de la personne face à cette nouveauté.

8Une deuxième similitude tient à la menace que représente la réalisation de la nouvelle pratique pour la personne. La biomédecine exploite le corps humain. La réalisation des techniques biomédicales implique de porter atteinte à l’intégrité physique de personnes qui n’en tireront aucun bénéfice.

  • 2 Sauf à considérer le dommage corporel que pourrait causer un robot intelligent, mais la mise en œuv (...)

9La menace engendrée par les intelligences artificielles est moins directe, en ce que l’intégrité physique de la personne n’est pas en cause2, mais elle n’en est pas moins certaine. En effet, l’algorithme permettant d’aboutir à une décision, cet algorithme qui constitue l’intelligence artificielle, est appliqué à des données. D’ailleurs, la relance récente de la recherche et du développement en matière d’intelligence artificielle s’explique par l’accroissement, ces dernières années, du stockage et du recueil des données, accroissement donnant lieu à une véritable industrie de la donnée. La menace pour l’être humain est le risque d’atteintes aux droits de la personnalité provoquées par l’exploitation de ces données personnelles.

10Une troisième similitude tient à la façon dont l’encadrement juridique se construit, même si pour les IA ne peuvent pour l’instant être observés que les prémices de cette construction. Dans les deux cas il existe une difficulté à appréhender la technique, à la comprendre, difficulté sans doute bien plus importante pour les IA qu’elle ne l’est pour la biomédecine. Cette difficulté nécessite une réflexion collective, ainsi qu’un recours important aux acteurs de la technique, à ceux qui la développent et l’utilisent. Ainsi, les étapes de l’adaptation du système juridique à la nouvelle technique ont, semble-t-il, vocation à être sensiblement les mêmes.

11La question posée est celle de la réception par le droit des intelligences artificielles, et particulièrement de la méthode qu’il est possible de mettre en œuvre pour réaliser cette réception. La réception par le droit de la biomédecine est passée par l’adoption de règles spécifiques, gouvernée par l’idée que le système ne recelait pas les mécanismes propres à permettre la régulation des pratiques nouvelles. Elle est donc passée par l’invention de nouveaux modèles, sans qu’il soit apparu pertinent de solliciter les anciens. Cette réception a commencé il y a une trentaine d’années, ce qui permet de disposer d’un recul important sur la construction législative qu’elle a engendrée. Il est ainsi désormais possible de questionner ses défauts et ses qualités et peut-être de les expliquer, au moins partiellement, par la méthode employée pour l’édifier.

12Il s’agira ici de confronter ce qui est aujourd’hui à l’œuvre en matière d’IA avec ce qui a été fait en matière biomédicale pour peut-être fournir quelques pistes, quelques points d’attention, dans l’élaboration de nouveaux modèles (I). Mais peut-être ne faut-il pas négliger les ressources actuelles de notre système juridique et ne pas oublier de solliciter l’existant (II).

I. Inventer de nouveaux modèles

13Inventer de nouveaux modèles nécessite bien évidemment une réflexion approfondie, ces nouveaux modèles devant être adaptés à l’objet qu’ils ont vocation à régir, mais surtout adaptables aux évolutions à venir, souvent difficiles à anticiper. Ce constat conduit à s’interroger sur les exigences d’une telle réflexion (A), mais nécessite aussi d’identifier ses acteurs (B).

A. Les exigences de la réflexion

14Créer ex nihilo un nouveau corps de principes généraux sur lesquels s’appuieront de nouvelles règles d’application est un exercice remarquablement périlleux. Il nécessite d’avoir un certain recul sur la technique objet de la construction, c’est-à-dire de mener une réflexion d’ensemble. L’acquisition de ce recul implique en outre de ne pas se précipiter, de prendre du temps afin d’appréhender plus complètement les implications de la technique nouvelle.

  • 3 V. par ex. le rapport du Conseil d’État, Sciences de la vie, de l’éthique au droit, La Documentatio (...)

15En matière bioéthique, cette construction d’ensemble est intervenue bien après les premières avancées médicales, qui datent des années 1930 pour la transfusion sanguine, des années 1950 pour les greffes d’organes et des années 1970 pour l’assistance médicale à la procréation. Les lois de 1994 dites « de bioéthique » ont été élaborées à partir d’une réflexion menée dès la fin des années 19803. Il apparaît donc que les conditions du recul ont été réunies : le temps s’était écoulé et la réflexion d’ensemble avait été menée.

  • 4 Art. 16 C. civ.
  • 5 Art. 16-1 C. civ.
  • 6 Art. 16-3 C. civ., art.16-6 C. civ., art. 16-8 C. civ.
  • 7 Les trois principes souffrent en effet des dérogations. Le consentement est certainement le mieux r (...)

16Cette réflexion d’ensemble a conduit à l’adoption de principes généraux que sont le respect de la dignité humaine4, la non-patrimonialité du corps humain5, le consentement au don, sa gratuité et son anonymat6. L’impression est celle de la cohérence et de la solidité. Pour autant, ces principes sont, pour les deux premiers d’entre eux, obscurs, et pour les trois autres, plus opérationnels, finalement assez peu appliqués. En effet, les pratiques biomédicales sont diverses, et les principes de consentement, de gratuité et d’anonymat se révèlent parfois peu adaptés. Il y est donc régulièrement dérogé7 et ces dérogations sèment un certain désordre en ce qu’elles ne sont pas intégrées à la logique globale. La réflexion d’ensemble ne doit donc pas perdre de vue la diversité des pratiques, au risque de réduire à néant la cohérence de la construction.

  • 8 PE résol. 16 févr. 2017, 2015/2103(INL)
  • 9 C. De Ganay et D. Gillot, rapport d’information fait au nom de l’OPECST, déposé le 15 mars 2017.
  • 10 AC INT 806, rapporteur Muller.
  • 11 Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelli (...)
  • 12 Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne, La Docum (...)
  • 13 Communication de la Commission au Parlement européen, au Conseil, au Comité économique et social eu (...)
  • 14 19 févr. 2020, COM (2020) 65 final, Dalloz actualité, 28 févr. 2020, obs. C. Crichton, D. 2020, p.  (...)

17À propos de l’intelligence artificielle, plusieurs instances ou groupements, aux niveaux national et européen, ont déjà initié une réflexion. En 2017, le Parlement européen a adopté une résolution contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique8, l’Office parlementaire d’évaluation des choix scientifiques et technologiques a adopté un rapport « Pour une intelligence artificielle maîtrisée, utile et démystifiée »9, le Conseil économique et social européen a rendu un avis d’initiative intitulé « L’intelligence artificielle »10, et la CNIL a rendu un rapport intitulé « Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle »11. En 2018, c’est le député Cédric Villani qui a rendu un rapport « Donner un sens à l’intelligence artificielle »12. En 2019, la Commission européenne a adressé une communication visant à développer la réflexion pour « Renforcer la confiance dans l’intelligence artificielle axée sur le facteur humain »13. En 2020, cette même Commission européenne a publié un livre blanc : « Intelligence artificielle : une approche européenne basée sur l’excellence et la confiance »14.

  • 15 V. A. Bensamoun et G. Loiseau, « L’intégration de l’intelligence artificielle en droit commun : que (...)

18La réflexion est ainsi en cours. Les intitulés des travaux témoignent de la volonté d’adopter une approche globale. En revanche, la condition du temps écoulé n’est assurément pas remplie. Toutes ces instances anticipent l’évolution, puisque les objets dont il est question ne sont pour certains pas même encore sur le marché (voiture autonome) là où, en matière biomédicale, l’évolution technique a largement précédé l’évolution législative. Que la réflexion soit déjà en cours, il faut certainement s’en réjouir : il n’est jamais trop tôt pour réfléchir. Pour autant, il est sans doute prématuré d’arrêter des principes généraux ayant vocation à devenir de véritables normes contraignantes15.

19Quant au risque de perte de vue de la diversité des pratiques, il existe certainement en matière d’intelligence artificielle, comme il existait et s’est réalisé en matière biomédicale. En effet la diversité des pratiques, relevée en matière biomédicale, est sans doute encore bien plus grande en matière d’IA. En outre, cette dernière innovation étant encore au début de son développement, il faudrait pouvoir anticiper les pratiques et les applications, ce qui n’est envisageable que partiellement. Il est toutefois peut-être déjà possible de dégager certaines caractéristiques communes aux différentes applications possibles de l’intelligence artificielle, qui appelleraient assez naturellement en réponse un principe d’ordre général. Néanmoins, fixer un tel principe et lui donner une portée parfaitement générale présentent un danger. Le caractère intrinsèquement opaque des intelligences artificielles, auquel il est naturellement répondu par la proposition d’imposer un principe général de transparence, fournit un exemple de ce danger.

  • 16 C’est notamment le cas du rapport Villani et de l’avis d’initiative du CESE intitulé « L’intelligen (...)

20L’opacité de l’IA est certainement une caractéristique aussi commune à toutes ses applications qu’elle est inquiétante. Le machine learning, dont la version la plus sophistiquée est appelée deep learning rend, d’après ses concepteurs, inaccessible le fonctionnement même d’une intelligence artificielle donnée. Le deep learning dote la machine de ce qui s’apparente à un réseau neuronal complexe, en perpétuelle évolution dès lors que la machine est capable de se reprogrammer seule. Ainsi, face à une IA de ce type, l’humain ne maîtrisera que les données qu’il entre dans la machine, et constatera la décision qui en ressort, sans pouvoir l’expliquer, autrement dit sans maîtrise ni contrôle possible du processus qui a conduit de l’un à l’autre. Le principe de transparence voudrait que les informations permettant de comprendre le fonctionnement de l’intelligence artificielle soit accessibles. Ce principe apparaît comme un remède aussi efficace qu’évident. Pour autant, sa mise en œuvre est délicate. Dans certains cas, il se heurtera sans doute à d’autres principes, ou simplement à la réalité. Quant aux principes concurrents, il est facile d’imaginer que le secret des affaires pourrait s’opposer à la transparence. Il ne faut d’ailleurs pas oublier que nombre de travaux ne manquent pas de souligner que le positionnement sur le marché de l’IA est un enjeu économique majeur16. La transparence complète sera dès lors sans doute difficile à imposer dans tous les domaines. Cette transparence complète impliquerait de mettre à la disposition du public le code informatique lui-même : l’algorithme intelligent. Outre le problème d’atteinte au secret des affaires, susceptible de générer une distorsion de concurrence dès lors que les autres cadres normatifs à travers le monde n’imposent pas les mêmes exigences, une application du principe n’en serait peut-être pas réellement une pour deux raisons qui tiennent, cette fois, à la réalité des pratiques.

  • 17 V. L. Calandri, « Pollution numérique et intelligence artificielle. Variations autour du rapport de (...)
  • 18 S. Migayron, « Intelligence artificielle : qui sera responsable ? », Comm. com. électr. 2018, prat. (...)
  • 19 Rapport CNIL préc. V. aussi rapport Villani, préc. Sur ce point v. aussi : E. Mouriesse, « L’opacit (...)

21La première raison tient à ce que si le logiciel est auto-apprenant, il ne faut pas seulement avoir accès au code initial mais aussi à toutes les étapes de reprogrammation effectuées par la machine. La transparence sera alors difficile à mettre en œuvre techniquement, en ce qu’elle exigera de conserver de très grandes quantités de données, ce qui pose question quant à l’espace de stockage et son impact écologique17, mais aussi quant à l’analyse de ces données18. La seconde raison tient tout simplement à l’intelligibilité de telles informations. La transparence implique que l’usager du service public ou le consommateur qui aurait à se plaindre du fonctionnement d’une IA ait accès aux informations, mais cet accès ne présente aucun intérêt s’il n’est pas à même de les comprendre et de les exploiter. Consciente de la difficulté la CNIL, parmi d’autres, préconise une information intelligible sur ce fonctionnement19.

22Le danger est alors que la proclamation du principe de transparence confine à la déclaration d’intention, et que les dérogations qui y seront apportées, ou l’insuffisance de dispositions techniques assurant sa réalisation concrète, le vident de sa substance et nuisent à son autorité. Une façon de diminuer ce risque serait d’envisager, en même temps que l’on pose les principes, leur application concrète aux différentes pratiques impliquant les IA, et de compenser les dérogations en gardant à l’esprit l’objectif de protection de la personne. Il faudra encore garder cet objectif à l’esprit lors des évolutions du cadre normatif qui ne manqueront pas de s’avérer nécessaires.

23En matière bioéthique, ce n’est pas la proclamation du principe de respect de la dignité humaine qui protège la personne, mais sa déclinaison à travers le principe de consentement, de gratuité et d’anonymat, concrètement mis en œuvre au moment de l’intervention sur le corps de la personne. Or, les différentes révisions de la loi de bioéthique ne se concentrent que sur les règles spécifiques à chaque acte biomédical, toujours en favorisant sa réalisation. L’impression est que l’existence des dispositions générales semble suffire à la protection, sans qu’il ne soit plus besoin de s’en préoccuper lors de la modification des dispositions techniques. Il est sans doute difficile de lutter contre cette pente naturelle. Il existe peut-être, dans le choix des acteurs de la réflexion, un facteur d’équilibre entre le développement des techniques et la sauvegarde de contraintes nécessaires à la protection de la personne.

B. Les acteurs de la réflexion

  • 20 Pour une critique de la composition du panel d’experts réunis par la Commission européenne v. : Y.  (...)
  • 21 Les principes garantissant l’éthique de la recherche sur l’être humain sont posés par la Déclaratio (...)

24Deux types d’acteurs initient la réflexion en matière d’intelligence artificielle : ceux qui développent la technologie d’une part, et les acteurs institutionnels d’autre part. Néanmoins, un mélange des genres s’observe souvent, les acteurs institutionnels sollicitant, pour élaborer des recommandations, ceux-là mêmes qui développent les pratiques20. La réflexion poursuit dans tous les cas le même objectif : assurer un fonctionnement éthique de l’IA. Cette volonté d’associer les acteurs du développement des IA au processus normatif et ce recours à l’éthique sont sensibles dans les différents rapports rendus jusqu’à présent, ainsi que dans la recommandation du Parlement européen. Là encore, est reconnaissable l’un des mécanismes d’élaboration de l’encadrement législatif de la biomédecine dont l’expression même « loi de bioéthique » témoigne. Ce passage par l’éthique dégagée par ceux qui utilisent la technique nouvelle n’est pas à rejeter : il présente l’avantage de la responsabilisation des acteurs et produit des normes adaptées à leurs besoins et qui leur sont lisibles. La méthode a fait ses preuves pour l’encadrement de la recherche médicale sur la personne humaine21.

25Néanmoins, il ne faut pas oublier que l’éthique n’est pas le droit, et que l’efficacité d’une norme tient aussi à sa sanction. Il faut aussi se garder d’accorder une trop grande confiance aux acteurs du secteur, mus par des considérations économiques autant que par l’intérêt général. Le « Partnership on AI » en est certainement un exemple. Ce partenariat a été créé pour « étudier et formuler les meilleures pratiques sur les technologies d’intelligence artificielle, pour faire avancer la compréhension de l’intelligence artificielle par le public, et servir de plateforme ouverte pour la discussion et l’engagement autour de l’intelligence artificielle et de son impact sur les personnes et la société »22. Ce « Partnership on AI to benefit People and Society » (intitulé complet) a été fondé par Google, Apple, Facebook, Amazon, Microsoft ainsi qu’IBM. La réputation de ces firmes n’est plus à faire et leurs pratiques démontrent que leur volonté de sauvegarder leurs intérêts économiques est sans doute plus forte que celle de préserver l’intérêt général et les droits fondamentaux.

  • 23 Une première tentative de levée de l’anonymat a eu lieu lors de la révision de 2011 de la loi de bi (...)
  • 24 Sur la stratégie développée dans les travaux de la Commission européenne visant à faire du caractèr (...)

26Ce passage par la réflexion éthique, menée par les acteurs de la pratique eux-mêmes, est certainement une bonne chose en ce qu’il génère, comme toute auto-régulation, l’appropriation de la règle par ses destinataires, favorisant ainsi son respect. Il comporte toutefois un risque, au-delà d’une efficacité trop faible nuisant à la protection de la personne. Ce risque est celui de la rigidification de la norme tirée plus tard des conclusions de la réflexion. La biomédecine en fournit un exemple avec le don de gamètes. À propos de cette pratique en particulier, l’intervention législative a été très tardive. En effet, elle n’a pas bénéficié d’une loi ponctuelle comme cela a été le cas pour la transfusion sanguine ou le don d’organes, et elle n’a été encadrée qu’à partir de 1994, alors que le développement du don de sperme a eu lieu dans les années 1970. Les acteurs de la pratique : les CECOS, ont alors spontanément recherché des règles éthiques et mis en place une autorégulation. Il est apparu très difficile de les faire revenir sur les principes dégagés alors et consacrés ensuite par la loi, et précisément sur le principe d’anonymat du donneur à l’égard de la personne née du don. La levée de ce principe, aujourd’hui sans doute acquise, a connu des atermoiements23. La crainte la plus souvent avancée était celle d’une chute du nombre de dons. Est ici perceptible la défense, par ceux qui la pratiquent, de la technique en cause qu’il faut faciliter, ou en tous cas ne pas entraver par un cadre normatif. L’éthique, au sens de la défense des droits fondamentaux, cède le pas face à la réalisation de la technique. Cette attitude est naturelle. En matière biomédicale, elle est celle de médecins qui recherchent avant tout le bien-être de leurs patients, et dont le serment, qu’ils ont prêté avant d’entamer leur exercice, les incite, avant tout, à ne pas nuire. Une telle attitude n’est-elle pas encore davantage à craindre de la part de ceux qui développent les techniques employant l’intelligence artificielle, et dont les préoccupations sont sans doute de rendre service à l’humanité, mais aussi de réaliser des profits ? Certaines pratiques biomédicales sont bien sûr soumises à des logiques de marché, mais un très grand nombre de techniques sont réalisées dans des établissements publics. Est-il sage de confier la recherche des règles éthiques, ayant nécessairement vocation à limiter l’utilisation des IA, puisque c’est l’objet de toute régulation, à ceux dont l’intérêt économique consiste au contraire à ne pas entraver cette utilisation ? Le conflit d’intérêts est patent. D’ailleurs, les firmes travaillent à la détermination d’un cadre éthique car elles recherchent avant tout la confiance du public, élément certainement nécessaire à une bonne commercialisation de leurs produits24.

27Du point de vue de la méthode, s’il est certainement indispensable de se référer aux acteurs du secteur, sous peine de créer une norme déconnectée de la réalité et inappliquée car nécessitant de trop nombreuses dérogations, il faut aussi veiller à la composition des comités de réflexion, afin de ne pas laisser ces acteurs seuls dans la détermination de principes qui fonderont la construction législative.

  • 25 A. Bensamoun et G. Loiseau, « L’intelligence artificielle : faut-il légiférer ? », D. 2017, p. 581.

28De tout cela il ressort que l’invention de modèles ad hoc généraux pour encadrer une nouvelle technologie est délicate. Sans doute cela est-il nécessaire, mais peut-être cela ne doit-il être fait que dans les limites de la nécessité et sans céder à « l’impulsivité normative »25. C’est pourquoi il semble légitime de se demander s’il n’est pas possible de solliciter l’existant.

II. Solliciter l’existant

29Avant de se précipiter pour créer de nouveaux modèles en réponse à une nouvelle technologie et à de nouvelles pratiques, il est nécessaire de vérifier que le système juridique ne recèle pas déjà les outils de la protection de la personne. À cette fin, il faut identifier les risques que les IA font courir à la personne et confronter les règles qui existent déjà pour limiter ce type de risques et réparer les conséquences de leur réalisation. De cette analyse, il ressortira certainement que les modèles existants ne permettent pas d’encadrer tous les risques et qu’ils présentent des lacunes. Autrement dit, il faut identifier les modèles pertinents (A) et combler leurs lacunes (B).

A. Identifier les modèles pertinents

30Deux des grands risques pour les personnes que génèrent les développements actuels des intelligences artificielles peuvent déjà, semble-t-il, être réduits ou corrigés par l’application de règles présentes dans le système juridique. Ces deux risques sont l’atteinte à l’intégrité physique par la réalisation de dommages provoqués par l’utilisation d’une IA et l’atteinte à la vie privée par la collecte et l’utilisation des données personnelles.

31Quant au risque de dommage, s’il vient naturellement à l’esprit en évoquant la voiture autonome, il concerne en réalité toutes les IA : tous les robots intelligents, mais encore les logiciels d’aide à la décision comme les logiciels d’aide à la décision médicale, si la décision prise ne produit pas l’effet escompté d’amélioration de l’état du patient, ou ceux de gestion de portefeuilles d’actions, si les décisions prises conduisent à la ruine du titulaire du portefeuille.

  • 26 N. Nevejeans, « Comment protéger l’homme face aux robots ? », in Vers de nouvelles humanités ? L’hu (...)

32Certaines normes spécifiques sont immédiatement applicables sans qu’il soit nécessaire de les adapter d’une quelconque façon. D’une manière générale, les intelligences artificielles, en fonction de leurs utilisations, relèvent de qualifications spéciales auxquelles sont associées des normes techniques dont le respect est de nature à garantir la sécurité des utilisateurs. Ainsi, les normes applicables aux machines utilisées comme outils de travail, celles qui concernent les jouets, ou encore les règles régissant les dispositifs médicaux, s’imposent aux robots exploités dans ces différents contextes26. Certes, ces normes spéciales, dont les champs d’application sont par nature restreints, n’embrassent pas toutes les utilisations des intelligences artificielles. Pour autant, face au dommage causé par un robot ou un logiciel intelligent échappant aux qualifications permettant la mise en œuvre de ces différents régimes, le droit ne resterait pas sans réponse, moyennant quelques adaptations.

33En effet, lorsque le cas d’un tel dommage se présentera, les juges ne manqueront pas de trouver les ressources pour déterminer le responsable du dommage et, plus loin, ordonner réparation du préjudice causé à la victime. Sont évoquées plusieurs pistes, entre lesquelles il faudra choisir.

  • 27 CJCE, 25 avr. 2002, Commission c. République française, aff. C-52/00, D. 2002, p. 1670, obs. C. Ron (...)

34D’abord, la responsabilité du fait des produits défectueux pourrait fournir les règles propres à obliger le fabricant du produit assortie d’une IA à réparer le dommage causé, même si le risque de développement pourra faire obstacle à sa responsabilité dans le cas d’une IA forte assortie d’une capacité d’apprentissage. L’existant pourrait alors suffire à encadrer l’IA, en l’adaptant par la restriction du risque de développement. Cette adaptation devra néanmoins être faite au niveau européen, la France ayant été sanctionnée lors de la transposition de la directive relative à la responsabilité du fait des produits défectueux, précisément pour avoir posé des conditions à l’admission de ce risque parmi les causes d’exonération du producteur27.

  • 28 G. Loiseau et M. Bourgeois « Du robot en droit à un droit des robots », JCP G 2014, 1231 ; pour une (...)
  • 29 N. Nevejeans, art. cité ; L. Wada, « De la machine à l’intelligence artificielle : vers un régime j (...)

35Ensuite, la responsabilité du fait des choses constitue une autre piste et plusieurs auteurs préconisent de revenir, dans le cas du robot intelligent, à la distinction entre la garde de la structure et la garde du comportement pour délimiter les responsabilités du propriétaire ou du gardien et du fabricant ou du concepteur28. Enfin, une autre piste est suggérée, celle du recours à la responsabilité du fait des animaux, en ce qu’elle serait plus à même de saisir l’autonomie de la machine que ne l’est celle du fait des choses29.

36Ainsi, dans le cas de la protection contre le dommage causé par une machine dotée d’IA, il semblerait bien qu’il ne soit pas absolument nécessaire d’inventer un tout nouveau modèle, l’adaptation de l’existant pouvant apparaître suffisante. Cette adaptation présenterait l’avantage de la sécurité, en évitant les risques d’une construction nouvelle.

  • 30 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, relatif à la protecti (...)
  • 31 Loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles.
  • 32 Un traitement algorithmique des données est bien évidemment un traitement automatisé des données, e (...)
  • 33 La seule collecte de donnée est en effet considérée comme un traitement : art. 4.2 RGPD.

37Par ailleurs, des règles plus récentes ont aussi vocation à s’appliquer aux IA et à protéger la personne d’atteintes qui pourraient être portées à sa vie privée. Il est connu que les intelligences artificielles se « nourrissent » massivement de données, or les données personnelles font désormais, sur le territoire de l’Union européenne, l’objet d’une protection spécifique30 et, sur le territoire national, d’une protection renouvelée, sous l’influence du droit de l’Union31. Tant l’utilisation d’un algorithme pour traiter des données personnelles32 que l’utilisation de données personnelles pour développer une IA33 entrent dans le champ de ces normes, qui fournissent l’exemple de la prise en compte de la technologie nouvelle dans l’élaboration de la règle, alors même que le champ d’application de cette règle ne s’y limite pas. Autrement dit, la règle est directement applicable aux IA, envisage les IA, mais n’est pas spécifiquement créée en considération de cette évolution technologique. La règle s’applique ici naturellement aux algorithmes parce qu’elle protège leur matière première : les données.

  • 34 De tels liens sont particulièrement susceptibles de se nouer entre un robot d’assistance à la perso (...)
  • 35 A. Bensamoun et G. Loiseau, « L’intégration de l’intelligence artificielle en droit commun : questi (...)
  • 36 Contra : J. et A. Benssoussan, Droit des robots, Larcier, 2015.

38En revanche, en se référant à l’existant, il faut prendre garde à sélectionner le modèle le mieux adapté, ce qui peut parfois être délicat. En témoigne le débat sur la question de l’attribution de la personnalité juridique aux robots. La symbolique du droit est essentielle, et elle est certainement en jeu sur cette question. Toutefois, il ne faut pas se départir du pragmatisme indispensable à l’élaboration et à la modification de la règle. Il ne semble pas, à l’heure actuelle, que l’attribution de la personnalité juridique aux robots soit utile. S’il s’agit de protéger le lien, qui peut être d’ordre affectif, entre une personne et un robot34, la reconnaissance du préjudice moral subi par le propriétaire de la machine est sans doute suffisante. S’il s’agit de protéger les personnes contre les dommages causés par les robots, l’attribution de la personnalité aux machines pourrait même s’avérer dangereuse, certains craignant une déresponsabilisation des producteurs de robots dits « intelligents »35. Il n’apparaît donc pas nécessaire, à ce stade de développement des intelligences artificielles, de bouleverser la catégorie juridique des personnes36.

39S’il ne faut certainement pas considérer que le système juridique tel qu’il existe à l’heure actuelle est sans solution face aux risques que le développement de l’intelligence artificielle fait courir à la personne, il ne faut pas non plus nier qu’il puisse présenter des lacunes, qui doivent être comblées.

B. Combler les lacunes

  • 37 Loi n° 49-890 du 7 juillet 1949 relative à la greffe de cornée ; loi n° 52-854 du 21 juillet 1952 s (...)

40La réflexion d’ensemble, en vue de l’élaboration, si besoin, d’un corpus normatif cohérent, doit être menée en évitant la précipitation. Ceci implique que la traduction de ses résultats par l’adoption de règles de droit prendra du temps. Pendant cette durée, incompressible, il peut être nécessaire que le législateur intervienne ponctuellement, pour faire face à des difficultés précisément identifiées. Ainsi, en matière biomédicale, si la construction d’un édifice législatif global, poursuivant l’objectif de la cohérence, est intervenue longtemps après le développement des techniques elles-mêmes, le législateur n’était pas, entre temps, resté muet. Il était intervenu par des textes ponctuels, consacrés à une technique en particulier37. En matière d’intelligences artificielles, de telles interventions ont déjà eu lieu, ou devront avoir lieu à court terme.

  • 38 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, préc.
  • 39 Décret n° 2017-330.

41En effet, dans des secteurs déterminés, l’utilisation d’IA accroit un risque déjà présent. Ce risque est celui de la discrimination, par exemple en matière d’accès à l’emploi, mais plus généralement dans toutes les applications d’aide à la décision en matière administrative ou judiciaire. Si l’utilisation de ces logiciels dans l’aide à l’embauche ou en matière de management échappe pour l’instant à toute régulation, le législateur et le pouvoir exécutif français ont déjà pris des mesures en matière administrative, précisant et complétant le règlement général de protection des données personnelles des personnes physiques38. Il résulte ainsi de certaines des dispositions de la loi du 20 janvier 2018 relative à la protection des données personnelles, ainsi que de celles du décret du 14 mars 2017 relatif aux droits des personnes faisant l’objet de décisions individuelles prises sur le fondement d’un traitement algorithmique39, que l’administration ne peut recourir à un tel traitement qu’à certaines conditions, dont celle de l’information de l’administré sur l’utilisation du traitement et sur le fonctionnement de l’algorithme, mais aussi celle de l’existence d’un recours administratif garantissant une décision humaine. La transparence administrative est ainsi étendue à l’utilisation d’intelligences artificielles. Si l’efficacité des règles à atteindre cet objectif de transparence est sans doute à relativiser, l’intervention du pouvoir normatif dans ce secteur précis est une façon de protéger les personnes contre d’éventuelles atteintes à leurs droits causées par l’utilisation des algorithmes. Cette protection ne nécessite donc pas en elle-même l’édification d’un corpus législatif régissant les IA de manière globale.

  • 40 Il faut ici signaler la Charte adoptée par la Commission européenne pour l’efficacité de la justice (...)

42En matière processuelle, il n’est pas envisageable que l’utilisation de tels logiciels par les juridictions puisse se faire sans l’intervention du législateur ou, à tout le moins, du pouvoir exécutif. Elle est déjà possible dans le cadre des règlements amiables des différends, et les règles de transparence applicables à l’administration s’imposent aussi aux entreprises qui proposent de tels services. L’information est sans doute suffisante dès lors que le recours à des entreprises proposant des traitements algorithmiques des différends en vue de leur règlement amiable n’est en aucun cas obligatoire. Lorsque le recours à un mode amiable de règlement des différends est un préalable obligatoire à la saisine du juge, le recours à une médiation ou à une conciliation non automatisée est bien sûr parfaitement possible. L’emploi d’un traitement automatisé relève donc d’un choix du justiciable, choix qui doit être éclairé. Quant à l’emploi des algorithmes pour assurer la fonction de jugement elle-même, il ne serait possible que par une modification du Code de l’organisation judicaire, dont l’article L. 121-1 prévoit que les juridictions sont composées de magistrats, auxquels un logiciel ne peut évidemment pas être assimilé. Une telle évolution ne peut donc se produire sans intervention du législateur40.

  • 41 Résolution du Parlement européen du 16 février 2017, préc. pt 57.

43Par ailleurs, avec le développement des robots d’assistance à la personne, dont il est annoncé qu’il se produira très rapidement et entraînera l’intégration des robots à l’environnement quotidien, multipliant les risques d’accidents, il sera peut-être nécessaire de mettre en place une garantie d’indemnisation des victimes potentielles de dommages causés par ces machines. Une obligation d’assurance, associée à une immatriculation des robots, est préconisée à cette fin41. L’intervention du législateur sera alors nécessaire, mais ne présentera pas de difficulté dès lors qu’il s’agit d’étendre un système déjà connu. Il faudra bien sûr effectuer des choix, mais qui, s’ils devront évidemment être réfléchis, pourront être faits sans s’inscrire d’emblée dans une appréhension globale des intelligences artificielles.

44Toutes ces interventions ponctuelles permettront d’assurer la protection de la personne, d’autant mieux qu’elles seront provoquées par les pratiques qui exigeront, par la survenue de dommages ou tout simplement pour leur mise en place, une intervention du pouvoir normatif. D’autres pourraient toutefois être tout autant nécessaires, sans que la réalité des faits ou l’obligation de modifier la norme existante ne poussent le législateur à intervenir à court terme. Il faudra alors arbitrer entre la nécessité de prendre le temps de la réflexion et celui de protéger rapidement la société de certains périls. Cela pourrait notamment être le cas à propos de l’utilisation d’algorithmes dans l’administration d’un site internet pour sélectionner des contenus censés intéresser l’utilisateur. Si l’enjeu est faible lorsqu’il s’agit de choisir des chaussures ou un hôtel, il peut être bien plus grave quand il est question de produits culturels ou d’information. L’essor du numérique conduirait alors, loin de l’illusion d’un accès à la connaissance universelle grâce au Web, au rétrécissement insidieux de la vision du monde de chacun, et par conséquent de sa pensée, pour ne pas dire de son intelligence.

Haut de page

Notes

1 A. Mendoza-Caminade, « Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques ? », D. 2016, p. 445.

2 Sauf à considérer le dommage corporel que pourrait causer un robot intelligent, mais la mise en œuvre d’une intelligence artificielle ne requiert pas de « matériau » humain.

3 V. par ex. le rapport du Conseil d’État, Sciences de la vie, de l’éthique au droit, La Documentation française, 1988.

4 Art. 16 C. civ.

5 Art. 16-1 C. civ.

6 Art. 16-3 C. civ., art.16-6 C. civ., art. 16-8 C. civ.

7 Les trois principes souffrent en effet des dérogations. Le consentement est certainement le mieux respecté des trois, avec une exception notable en matière de prélèvement d’organes sur une personne décédée, pour lequel la règle est celle de l’absence d’opposition (art. L. 1232-1, al. 2, CSP). L’anonymat n’est pas envisageable pour le don d’organe par une personne vivante, qui est un don ciblé (art. L. 1231-1 CSP). La gratuité est parfois mise à mal, dans le cadre de la recherche sur la personne humaine (art. L. 1121-11 CSP qui permet « l’indemnisation des contraintes subies »), ainsi que dans le cas du don de gamètes, particulièrement du don d’ovocytes, l’article L. 1244-2 CSP disposant que lorsque le donneur n’a pas procréé, il se voit proposé la conservation de ses gamètes en vue de l’éventuelle réalisation ultérieure, à son bénéfice, d’une assistance médicale à la procréation. Cette disposition permet surtout une autoconservation d’ovocytes, alors que cette autoconservation est par ailleurs interdite hors traitement ou maladie risquant de provoquer une altération prématurée de la fertilité. Dans le cadre de la révision en cours de la loi de bioéthique, l’autorisation de l’autoconservation d’ovocytes sans condition est envisagée, mais restera la question de la prise en charge du coût de cette autoconservation.

8 PE résol. 16 févr. 2017, 2015/2103(INL)

9 C. De Ganay et D. Gillot, rapport d’information fait au nom de l’OPECST, déposé le 15 mars 2017.

10 AC INT 806, rapporteur Muller.

11 Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle, Synthèse du débat public animé par la CNIL dans le cadre de la mission de réflexion éthique confiée par la loi pour une République numérique, déc. 2017.

12 Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne, La Documentation française, mars 2018.

13 Communication de la Commission au Parlement européen, au Conseil, au Comité économique et social européen et au Comité des régions, « Renforcer la confiance dans l’intelligence artificielle axée sur le facteur humain », 8 avr. 2019, COM (2019)168 final.

14 19 févr. 2020, COM (2020) 65 final, Dalloz actualité, 28 févr. 2020, obs. C. Crichton, D. 2020, p. 837, comm. C. Castet-Renard.

15 V. A. Bensamoun et G. Loiseau, « L’intégration de l’intelligence artificielle en droit commun : questions de temps », Dalloz IP/IT 2017, p. 239.

16 C’est notamment le cas du rapport Villani et de l’avis d’initiative du CESE intitulé « L’intelligence artificielle », préc.

17 V. L. Calandri, « Pollution numérique et intelligence artificielle. Variations autour du rapport de Monsieur le député C. Villani “donner un sens à l’intelligence artificielle” », Énergie-Env.-Infrastr. 2018, étude 15.

18 S. Migayron, « Intelligence artificielle : qui sera responsable ? », Comm. com. électr. 2018, prat. 7.

19 Rapport CNIL préc. V. aussi rapport Villani, préc. Sur ce point v. aussi : E. Mouriesse, « L’opacité des algorithmes et la transparence administrative », RFDA 2019, p. 45.

20 Pour une critique de la composition du panel d’experts réunis par la Commission européenne v. : Y. Meneceur, « Les enseignements des éthiques européennes de l’intelligence artificielle », JCP G 2019, 325.

21 Les principes garantissant l’éthique de la recherche sur l’être humain sont posés par la Déclaration d’Helsinki, adoptée en juin 1964 et régulièrement révisée depuis, dont la dernière fois en 2013. Cette déclaration et ses révisions sont l’œuvre de l’association médicale mondiale, autrement dit des médecins.

22 https://www.partnershiponai.org/, consulté le 30 avril 2020.

23 Une première tentative de levée de l’anonymat a eu lieu lors de la révision de 2011 de la loi de bioéthique. Le projet de loi prévoyait la possibilité pour la personne issue d’un don de gamètes de se voir communiquées des informations sur son donneur. Une grande résistance a été rencontrée, qui a conduit à ce que la loi définitive ne remette pas en cause l’anonymat du donneur à l’égard de l’enfant né du don. Dans le cadre de la révision en cours de la loi de bioéthique, l’Assemblée nationale puis le Sénat ont voté, en première lecture, la levée partielle de l’anonymat. A la demande de la personne née du don devenue majeure, celle-ci aura nécessairement accès à des informations non identifiantes sur le donneur ainsi qu’à son identité. Le consentement du donneur à la communication de ces informations est recueilli avant le don et devient une condition de celui-ci : article 3 du projet de loi relatif à la bioéthique tel qu’adopté en 1re lecture par l’Assemblée nationale le 15 octobre 2019 (texte n° 343) et par le Sénat le 4 février 2020 (texte n° 55).

24 Sur la stratégie développée dans les travaux de la Commission européenne visant à faire du caractère protecteur de l’encadrement un avantage concurrentiel : v. Y. Meneceur, art. cité.

25 A. Bensamoun et G. Loiseau, « L’intelligence artificielle : faut-il légiférer ? », D. 2017, p. 581.

26 N. Nevejeans, « Comment protéger l’homme face aux robots ? », in Vers de nouvelles humanités ? L’humanisme juridique face aux nouvelles technologies, APD 2017, t. 59, p. 131.

27 CJCE, 25 avr. 2002, Commission c. République française, aff. C-52/00, D. 2002, p. 1670, obs. C. Rondey ; Contrats, conc. consom 2002, comm. 117, obs. G. Raymond ; D. 2002, p. 2462, n. C. Laroumet ; RTD civ. 2002, p. 523, obs. J. Mestre et B. Fages ; RTD civ. 2002, p. 868, obs. J. Raynard. Suggérant une adaptation de ce régime : A. Bensamoun et G. Loiseau, « L’intelligence artificielle : faut-il légiférer ? », art. cité.

28 G. Loiseau et M. Bourgeois « Du robot en droit à un droit des robots », JCP G 2014, 1231 ; pour une analyse des insuffisances de ce régime appliqué aux intelligences artificielles : S. Dormont, « Quel régime de responsabilité pour l’intelligence artificielle ? », Comm. com. électr. 2018, étude 19.

29 N. Nevejeans, art. cité ; L. Wada, « De la machine à l’intelligence artificielle : vers un régime juridique dédié aux robots », LPA 26 déc. 2018, n° 257-258, p. 7.

30 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE dit : « Règlement général sur la protection des données » (RGPD).

31 Loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles.

32 Un traitement algorithmique des données est bien évidemment un traitement automatisé des données, expressément visé par le RGPD (art. 2.1).

33 La seule collecte de donnée est en effet considérée comme un traitement : art. 4.2 RGPD.

34 De tels liens sont particulièrement susceptibles de se nouer entre un robot d’assistance à la personne et son utilisateur, un exemple pouvant être tiré de l’exosquelette destiné à rendre la marche à une personne handicapée.

35 A. Bensamoun et G. Loiseau, « L’intégration de l’intelligence artificielle en droit commun : questions de temps », art. cité.

36 Contra : J. et A. Benssoussan, Droit des robots, Larcier, 2015.

37 Loi n° 49-890 du 7 juillet 1949 relative à la greffe de cornée ; loi n° 52-854 du 21 juillet 1952 sur l’utilisation thérapeutique du sang humain, de son plasma et leurs dérivés ; loi n° 76-1181 du 22 déc. 1976 relative aux prélèvements d’organes.

38 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016, préc.

39 Décret n° 2017-330.

40 Il faut ici signaler la Charte adoptée par la Commission européenne pour l’efficacité de la justice sur l’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement des 3 et 4 décembre 2018. V. N. Fricero, « Algorithmes et nouvelle génération de droits humains », JCP G 2018, 1331.

41 Résolution du Parlement européen du 16 février 2017, préc. pt 57.

Haut de page

Pour citer cet article

Référence papier

Sophie Dumas-Lavenac, « Construire la protection juridique de la personne face aux intelligences artificielles : inventer de nouveaux modèles ou solliciter les anciens ? »Cahiers Droit, Sciences & Technologies, 11 | 2020, 31-45.

Référence électronique

Sophie Dumas-Lavenac, « Construire la protection juridique de la personne face aux intelligences artificielles : inventer de nouveaux modèles ou solliciter les anciens ? »Cahiers Droit, Sciences & Technologies [En ligne], 11 | 2020, mis en ligne le 31 octobre 2020, consulté le 27 novembre 2020. URL : http://journals.openedition.org/cdst/2381 ; DOI : https://doi.org/10.4000/cdst.2381

Haut de page

Auteur

Sophie Dumas-Lavenac

Maître de conférences à l’Université de Lorraine, Institut François Gény, EA 7301, chercheuse associée à l’IODE, UMR CNRS 6262

Articles du même auteur

Haut de page

Droits d’auteur

Licence Creative Commons
Cahiers Droit, Sciences & Technologies sont mis à disposition selon les termes de la Licence Creative Commons Attribution 4.0 International.

Haut de page
  • Logo Presses universitaires d’Aix-Marseille Provence (PUAM)
  • Logo AMU
  • Logo Normes, Sciences & Techniques
  • Logo CNRS
  • Logo Institut des Sciences juridiques & philosophiques – UMR8103 de la Sorbonne
  • OpenEdition Journals
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search