Navigation – Plan du site

AccueilNuméros10ChroniquesResponsabilité

Chroniques

Responsabilité

Quel(s) droit(s) pour les systèmes d’intelligence artificielle ?
Laurène Mazeau
p. 223-229

Texte intégral

  • 1 Commission européenne, Lignes directrices en matière d’éthique pour une intelligence artificielle d (...)
  • 2 L’intelligence artificielle s’inscrit dans la stratégie de la Commission européenne pour la transit (...)
  • 3 V. L. Mazeau, « Intelligence artificielle et responsabilité civile : Le cas des logiciels d’aide à (...)

1Propos introductifs. La plupart des systèmes d’intelligence artificielle sont élaborés soit pour aider l’utilisateur à faire des choix, soit pour prendre des décisions à la place de celui-ci. Ils sont utilisés pour collecter et comparer des données. De manière générale, les systèmes d’intelligence artificielle correspondent, selon les termes proposés par le groupe d’experts sur l’intelligence artificielle mis en place par la Commission européenne, à : « des systèmes logiciels (et éventuellement matériels) conçus par des êtres humains et qui, ayant reçu un objectif complexe, agissent dans le monde réel ou numérique en percevant leur environnement par l’acquisition de données, en interprétant les données structurées ou non structurées collectées, en appliquant un raisonnement aux connaissances, ou en traitant les informations, dérivées de ces données et en décidant de la (des) meilleure(s) action(s) à prendre pour atteindre l’objectif donné »1. Ces systèmes ont désormais intégré nos activités quotidiennes, des plus coutumières aux plus stratégiques (GPS automobile, finance, environnement et développement durable, domaine spatial, politiques publiques, gestion des ressources hospitalières, enceintes connectées, etc.)2. Pour illustrer les enjeux sur le terrain de la santé, il peut être pris en exemple les systèmes d’aide au diagnostic médical3. Ces derniers soulèvent des questions essentielles : Qui est responsable des mauvais choix opérés par le système (le programmeur, l’exploitant, le propriétaire, le médecin, le patient, etc.) ? Quid de la responsabilité du médecin qui ne se conformerait pas dans son diagnostic à celui délivré par le logiciel et qu’il se révèle préjudiciable au patient ? Le médecin doit-il être le seul responsable de l’utilisation du logiciel si elle entraîne un effet négatif pour le patient ?

  • 4 A. Harkens, « The Ghost in the Legal Machine/Algorithmic Governmentality, Economy, and the Practice (...)

2De manière générale, les systèmes d’intelligence artificielle sont de plus en plus utilisés, non seulement pour prendre des décisions, mais aussi pour effectuer des prédictions. Compte tenu des divers risques juridiques qu’ils emportent avec eux (confidentialité des données, imputation d’obligations, information délivrée aux utilisateurs, etc.), l’usage de systèmes d’intelligence artificielle soulève de nouveaux problèmes, notamment en raison de l’opacité de leur conception et de leur fonctionnement4.

  • 5 « Notre vieux Droit de la responsabilité civile, fruit pragmatique et décousu de générations succes (...)
  • 6 On peut ainsi citer, aux fins d’illustrations, la loi du 31 mai 1924 relative à la responsabilité d (...)

3Problématiques. Par le passé, les méthodes et les établissements normatifs ont incontestablement valorisé l’étude des processus particuliers plutôt que des systèmes, l’analyse plutôt que la synthèse et la compréhension des sciences et techniques plutôt que la prévision de leur évolution. Et dans de nombreux cas, le juriste a focalisé son attention sur des problèmes à court terme et de petite échelle, souvent selon un mode monodisciplinaire, plutôt que sur des problèmes à plus long terme et de plus grande échelle5. Ces approches et perspectives casuistiques ont certes permis d’édifier un imposant « corpus normatif », entériné à l’aube du xxie siècle6, mais un grand nombre des problèmes auxquels notre société se voit confrontée aujourd’hui ne trouveront de solution qu’avec une approche somme toute plus holistique de la science et du droit. Les usages des systèmes d’intelligence artificielle appellent la responsabilité civile à évoluer.

4Or, cette volonté de faire émerger une norme de responsabilité civile pour ces technologies s’inscrit dans un mouvement par déjà appréhendé dans certains projets de réforme du droit de la responsabilité civile élaboré tant au niveau interne, que communautaire et que nous envisagerons successivement.

  • 7 Groupe de travail, Rapport sur La réforme du droit français de la responsabilité civile et les rela (...)

5Perspectives françaises d’un droit de l’intelligence artificielle ? Les réflexions en matière de régulation des systèmes d’intelligence artificielle se précisent progressivement, notamment en France. Il peut notamment être mentionné le rapport de la cour d’appel de Paris, rendu public le 25 juin 2019, faisant suite aux propositions de l’avant-projet de réforme de la responsabilité du 13 mars 2017. Le rapport retient que : « La technicité du sujet et son évolution particulièrement rapide justifient que le groupe de réflexion ne formule pas de propositions, mais attire l’attention du ministère de la Justice sur la nécessité d’élaborer un corpus de règles adaptées à l’intelligence artificielle »7. Il fait état des réflexions qui sont sur ce sujet en constante évolution. Selon ce rapport, deux courants semblent se dessiner. D’un côté, il est fait mention des fondements existants de la responsabilité civile objective pour régler (suivant quelques ajustements) la grande majorité des contentieux mettant en jeu des systèmes d’intelligence artificielle. D’un autre côté, est envisagée la reconnaissance de la personnalité juridique aux robots qui permettrait de répondre aux enjeux de l’intelligence artificielle. Le rapport précise toutefois qu’aucune des deux hypothèses n’emporte totalement la conviction, et conclut qu’« il serait infiniment préférable sur ce point que la solution soit […] européenne, mais le fait que le groupe d’experts mis en place par la Commission européenne n’envisage la question qu’au travers d’une éventuelle révision de la directive de 1985 relative à la responsabilité du fait des produits défectueux ne paraît pas totalement satisfaisant ». Effectivement, puisque la problématique de l’intelligence artificielle est globale, transnationale, l’outil juridique développé devrait être du même ordre.

  • 8 Parmi les efforts déployés à l’échelle internationale, on peut citer les principes d’Asilomar encad (...)

6Perspectives européennes d’un droit de l’intelligence artificielle ? Au niveau européen, les réflexions autour d’une régulation des systèmes d’intelligence artificielle se sont construites en plusieurs étapes8.

  • 9 Résolution du 16 févr. 2017 contenant des recommandations à la Commission concernant des règles de (...)
  • 10 Communication de la Commission, L’intelligence artificielle pour l’Europe, préc., p. 2.

7D’abord, elles se sont intéressées à la détermination de grands principes, matérialisés dans une volonté de prévenir les risques, tout en évitant de freiner l’innovation9. La Commission retient en ce sens que : « Notre approche de l’IA définira le monde dans lequel nous vivons. Dans un contexte de concurrence mondiale féroce, un cadre européen solide s’impose »10. Elle rappelle que l’Union dispose de normes strictes en termes de sécurité et de responsabilité du fait des produits, mais aussi en termes de sécurité des réseaux et des systèmes d’information (notamment de règles plus strictes en matière de protection des données à caractère personnel). La Commission considère ainsi que l’Union peut s’appuyer sur un cadre réglementaire établi pouvant constituer une référence mondiale pour une approche durable de ces technologies.

  • 11 Résolution du Parlement, 12 févr. 2019, sur une politique industrielle européenne globale sur l’int (...)
  • 12 Résolution du Parlement, 12 févr. 2019, préc. n° 116.

8Ensuite, les analyses relatives à la régulation des systèmes d’intelligence artificielle se sont affinées concernant des aspects plus techniques, via notamment un « cadre juridique pour l’intelligence artificielle et la robotique »11. La Résolution du Parlement en date du 12 février 2019 précise en ce sens que : « L’IA est une notion qui englobe un large éventail de produits et d’applications, à commencer par l’automatisation, les algorithmes, l’intelligence artificielle étroite et l’intelligence artificielle générale ». Le Parlement « estime qu’il convient d’envisager avec précaution toute loi ou réglementation globale de l’IA, car la réglementation sectorielle peut prévoir des politiques suffisamment générales, mais également affinées jusqu’à un niveau significatif pour le secteur industriel »12.

  • 13 Commission européenne, Report from the Expert Group on Liability and New Technologies, nov. 2019.
  • 14 V. sur ce point: Report from the Expert Group on Liability and New Technologies, préc., p. 28.

9Le rapport du groupe d’experts de l’Union européenne sur la responsabilité et les nouvelles technologies, publié en novembre 201913, se prononce quant à lui sur la manière dont les régimes de responsabilité civile devraient être conçus et, le cas échéant, modifiés au regard des défis que soulèvent les systèmes d’intelligence artificielle. Le rapport met en évidence, à l’instar du rapport du Sénat, qu’il existe bien des régimes de responsabilité civile pouvant apporter « au moins une protection de base ». Il souligne également que les caractéristiques spécifiques des nouvelles technologies peuvent rendre plus difficile la demande d’indemnisation dans tous les cas où cela semble justifié. Parmi les dix points essentiels sur lesquels les auteurs du rapport attirent notre attention, nous retiendrons notamment qu’il n’est pas, selon eux, nécessaire de conférer aux appareils ou aux systèmes autonomes une personnalité juridique. En effet, le groupe d’experts considère que les dommages pouvant être causés par des systèmes d’intelligence artificielle peuvent et doivent être imputables à des personnes ou à des organismes existants, l’idée étant d’élaborer un consensus européen, si ce n’est international, pour une intelligence artificielle centrée sur l’humain. Par ailleurs, les auteurs du rapport soutiennent que, lorsqu’une technologie particulière accroît les difficultés à prouver l’existence d’un élément de responsabilité au-delà de ce à quoi on peut raisonnablement s’attendre, les victimes devraient avoir droit à une facilitation de leur charge probatoire. Autre apport essentiel du rapport de l’UE, si une personne utilise une technologie jouissant d’un certain degré d’autonomie, elle ne devrait pas être tenue pour moins responsable des dommages qui en découlent que si ces dommages avaient été causés par un auxiliaire humain. Enfin, relevons encore que les fabricants de produits (ou de contenu numérique) qui intègrent une technologie numérique émergente devraient être tenus responsables des dommages causés par des défauts dans leurs produits, même si le défaut a été causé par des modifications apportées au produit sous le contrôle du producteur après sa mise sur le marché. Cela entraînerait comme conséquence que le producteur pourrait voir sa responsabilité civile sans faute engagée pour les défauts des technologies utilisant des systèmes d’intelligence artificielle, même si ces défauts apparaissent après la mise en circulation du produit. Et ce, tant que le producteur contrôlait toujours les mises à jour ou les mises à niveau de la technologie. La conséquence directe de cela serait qu’une cause d’exonération sur la base des risques de développement ne devrait pas trouver à s’appliquer14

  • 15 Parlement européen, Projet de motion pour une résolution, 21 janv. 2020, n° 2019/2915 (RSP).
  • 16 Les députés visent notamment : Dir. 2006/42/CE ; 2009/48/CE ; 2014/53/UE ; 2014/35/UE ; 2001/95/CE.
  • 17 V. L. Mazeau, « Intelligence artificielle et responsabilité… », art. cité.
  • 18 Parlement européen, Projet de motion pour une résolution, 21 janv. 2020, n° 7 « Safety and liabilit (...)

10Enfin, les réflexions européennes autour d’une régulation des systèmes d’intelligence artificielle se fondent désormais sur des points précis à réguler. C’est notamment ce qu’illustre le projet de motion pour une résolution, en date du 21 janvier 2020, relative aux processus d’aide à la décision15. En ce sens, les députés européens exhortent la Commission à présenter des propositions pour adapter la législation européenne sur la sécurité des produits (par exemple les directives sur les machines et la sécurité des jouets)16 afin de garantir que les consommateurs soient protégés contre les dangers, que les fabricants aient une idée claire de leurs obligations, mais aussi que les utilisateurs soient informés sur la manière d’utiliser ces produits. Il est également question d’adapter la directive « produits défectueux » 85/374/CEE du 25 juillet 1985, en précisant par exemple les concepts de « produit », de « dommage », de « risque de développement » ou encore de « défaut » qui ne sont pas toujours adaptés aux systèmes d’intelligence artificielle17. Le Parlement souligne la nécessité d’une approche de la réglementation fondée sur les risques. Et ce, eu égard à la nature variée et à la complexité des défis créés par différents types et applications de l’intelligence artificielle et systèmes de prise de décision automatisés. En ce sens, il invite la Commission à développer un dispositif d’évaluation des risques pour les systèmes d’intelligence artificielle afin de garantir une approche cohérente de l’application de la législation sur la sécurité des produits dans le marché intérieur. Le Parlement souligne enfin que les États membres doivent élaborer des stratégies harmonisées de gestion des risques pour les systèmes d’intelligence artificielle dans le contexte de leurs stratégies nationales relatives à la surveillance du marché18.

  • 19 European Commission, White Paper on Artificial Intelligence. A European approach to excellence and (...)
  • 20 K. Crawford et R. Calo, « There is a blind spot in AI research », Nature News 2016, vol. 538, p. 31 (...)
  • 21 Ce système de labellisation est envisagé pour les applications d’intelligence artificielle qui ne s (...)
  • 22 Commission européenne, Report from the Expert Group on Liability and New Technologies, préc.
  • 23 V. European Commission, White Paper on Artificial Intelligence, A European approach to excellence a (...)

11C’est suivant ces lignes directrices qu’a été publié, le 19 février 2020, le Livre blanc sur l’intelligence artificielle de la Commission européenne19, comme prélude aux initiatives législatives. La Commission y cherche un équilibre entre deux objectifs. D’abord, il s’agit de soutenir l’innovation et le développement économique d’une technologie incontournable dans un marché unique numérique, principalement grâce à des investissements et des règles communes. Ensuite, il s’agit de concilier cet objectif avec des règles assurant la sécurité du marché afin de rassurer les citoyens face aux risques de technologies souvent jugées opaques. En ce sens, le Livre blanc retient : « In order to address possible societal concerns relating to the use of AI for such purposes in public places, and to avoid fragmentation in the internal market, the Commission will launch a broad European debate on the specific circumstances, if any, which might justify such use, and on common Safeguards ». En France, l’usage de technologies de reconnaissance faciale a soulevé des questionnements notamment en raison des enjeux majeurs qu’elles cristallisent (sécurité des données, protection de la vie privée, etc.). Ainsi, le 17 octobre 2019, la Commission nationale de l’informatique et des libertés, réunie en séance plénière, considérait comme contraire aux exigences posées par le droit de la protection des données personnelles la mise en place d’une technologie de reconnaissance faciale de lycéens, pour la plupart mineurs, à l’entrée de leur établissement afin d’en sécuriser et fluidifier l’accès. Comme le soulignent les Professeurs Kate Crawford et Ryan Calo : « Even the many researchers who reject the prospect of a ‘technological singularity’ – saying the field is too young – support the introduction of relatively untested AI systems into social institutions »20. L’intelligence artificielle et l’apprentissage automatique sont en effet confrontés à un certain nombre de défis systémiques qui interrogent la robustesse, l’explicabilité et la confiance. De nombreux algorithmes sont conçus avec l’hypothèse sous-jacente d’une parfaite connaissance de l’environnement dans lequel ils sont déployés. Or, dans de nombreux scénarios réels, ce postulat ne tient pas. Par exemple, un algorithme d’apprentissage supervisé, qui est par définition conçu pour faire confiance à ses données d’apprentissage, est vulnérable à diverses formes de « biais » dus à des entrées erronées. Un tel biais pourrait être le résultat d’une erreur humaine involontaire, voire être planifié par un adversaire stratégique, armé d’une compréhension approfondie du fonctionnement interne de l’algorithme d’apprentissage supervisé utilisé. Ainsi, si les systèmes d’intelligence artificielle doivent se voir confier des décisions toujours plus critiques, il est essentiel que ces algorithmes soient robustes à de telles erreurs ou attaques. Au-delà des règles assurant la sécurité du marché grâce à des exigences sectorielles pour l’administration publique et la reconnaissance faciale, le Livre blanc envisage quatre autres options réglementaires pour l’intelligence artificielle. Il vise ainsi : la mise en place d’un système de label non obligatoire21, les exigences obligatoires basées sur les risques pour les applications à haut risque, la gouvernance et enfin la sécurité et la responsabilité. Cette dernière option couvre en effet les problèmes de sécurité et de responsabilité qui pourraient survenir dans le cadre du développement futur de l’intelligence artificielle. Il est suggéré que des « modifications ciblées » soient apportées à la législation de l’Union européenne en matière de sécurité et de responsabilité, notamment concernant la Directive relative à la responsabilité du fait des produits. Selon les termes du Livre blanc, des ajustements semblent être nécessaires afin de clarifier la responsabilité des développeurs d’intelligence artificielle, notamment pour la distinguer de celles qui incombent au producteur des produits. Par ailleurs, le champ d’application de la législation pourrait être modifié pour décider que les systèmes d’intelligence artificielle soient considérés comme des « produits », rejoignant notamment en ce sens le rapport du groupe d’experts de l’Union européenne sur la responsabilité et les nouvelles technologies22. Pour la Commission, dans tout nouvel instrument juridique qui pourrait voir le jour, la définition de l’intelligence artificielle devra trouver un point d’équilibre entre flexibilité – pour accompagner les progrès techniques –, et précision – pour apporter la sécurité juridique nécessaire23.

  • 24 La Commission invite à formuler des observations sur les propositions présentées dans le Livre blan (...)

12Propos conclusifs. En dépit des propositions formulées à l’échelle française et européenne, de nombreuses questions sont encore en suspens afin de prévenir et de réparer les dommages subis par les consommateurs du fait d’un système d’intelligence artificielle. C’est en ce sens que la Commission européenne lance, à la fin de son Livre blanc, un appel pour une large consultation de la société civile, des acteurs de l’industrie et des universitaires des États membres, afin d’élaborer des propositions concrètes pour une approche européenne, y compris sur le plan de la responsabilité civile, des systèmes d’intelligence artificielle24.

Haut de page

Notes

1 Commission européenne, Lignes directrices en matière d’éthique pour une intelligence artificielle digne de confiance, 8 avr. 2019, § 143, p. 8.

2 L’intelligence artificielle s’inscrit dans la stratégie de la Commission européenne pour la transition numérique de l’industrie [COM(2016) 180 final] et une stratégie revisitée pour la politique industrielle de l’Union [COM(2017) 479 final].

3 V. L. Mazeau, « Intelligence artificielle et responsabilité civile : Le cas des logiciels d’aide à la décision en matière médicale », Revue pratique de la prospective et de l’innovation 2018, p. 38-43 (hal-01852548). Sur les systèmes autonomes de diagnostic médical, v. L. Mazeau, Chronique « Responsabilité », Cahiers Droit, Sciences & Technologies 2019/9 [en ligne], mis en ligne le 31 octobre 2019, consulté le 2 mars 2020. URL: http://journals.openedition.org/cdst/1111; DOI: https://doi.org/10.4000/cdst.1111

4 A. Harkens, « The Ghost in the Legal Machine/Algorithmic Governmentality, Economy, and the Practice of Law », Journal of Information, Communication and Ethics in Society 2018, 16 (1), p. 16-31.

5 « Notre vieux Droit de la responsabilité civile, fruit pragmatique et décousu de générations successives (qui s’est surtout développé à partir du début du xxe siècle), fut composé un peu à l’aventure de pièces et de morceaux, sans aucune perspective d’ensemble ni prospective », Ph. le Tourneau, Droit de la responsabilité et des contrats, Dalloz, coll. Dalloz action, 2018/2019, n° 124.35. V. égal. F. Leduc, « L’œuvre du législateur moderne : vices et vertus des régimes spéciaux », in La responsabilité à l’aube du XXIe siècle, bilan prospectif, RCA 2001, n° 6 bis, juin 2001, p. 50.

6 On peut ainsi citer, aux fins d’illustrations, la loi du 31 mai 1924 relative à la responsabilité des exploitants d’aéronefs du 8 juillet 1941 pour les dommages causés par les téléphériques, des 12 novembre 1965 et 20 novembre 1968 sur la responsabilité civile des exploitants de navires nucléaires, du 7 juillet 1976 relative à la prévention et à la répression de la pollution marine, etc.

7 Groupe de travail, Rapport sur La réforme du droit français de la responsabilité civile et les relations économiques, avr. 2019, p. 107.

8 Parmi les efforts déployés à l’échelle internationale, on peut citer les principes d’Asilomar encadrant l’IA (https://futureoflife.org/ai-principles/), le projet de principes s’inscrivant dans le cadre de la Déclaration de Montréal pour un développement responsable de l’IA (https://http://www.montrealdeclarationresponsibleai.com/) et les 10 grands principes d’UNI Global Union pour une IA éthique (Top 10 Principles for Ethical AI) (http://www.thefutureworldofwork.org/opinions/10-principles-for-ethical-ai/).

9 Résolution du 16 févr. 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, 2015/2103 (INL) ; Communication de la Commission, L’intelligence artificielle pour l’Europe, 24 avr. 2018, COM (2018) 237 final.

10 Communication de la Commission, L’intelligence artificielle pour l’Europe, préc., p. 2.

11 Résolution du Parlement, 12 févr. 2019, sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique (2018/2088 [INI]). V. égal. : Lignes directrices en matière d’éthique pour une intelligence artificielle digne de confiance, préc.

12 Résolution du Parlement, 12 févr. 2019, préc. n° 116.

13 Commission européenne, Report from the Expert Group on Liability and New Technologies, nov. 2019.

14 V. sur ce point: Report from the Expert Group on Liability and New Technologies, préc., p. 28.

15 Parlement européen, Projet de motion pour une résolution, 21 janv. 2020, n° 2019/2915 (RSP).

16 Les députés visent notamment : Dir. 2006/42/CE ; 2009/48/CE ; 2014/53/UE ; 2014/35/UE ; 2001/95/CE.

17 V. L. Mazeau, « Intelligence artificielle et responsabilité… », art. cité.

18 Parlement européen, Projet de motion pour une résolution, 21 janv. 2020, n° 7 « Safety and liability framework for products ».

19 European Commission, White Paper on Artificial Intelligence. A European approach to excellence and trust, 19.2.2020. COM(2020) 65 final.

20 K. Crawford et R. Calo, « There is a blind spot in AI research », Nature News 2016, vol. 538, p. 312.

21 Ce système de labellisation est envisagé pour les applications d’intelligence artificielle qui ne sont pas considérées comme étant « à haut risque » (voir la section C du Livre blanc) et qui ne sont pas soumises aux exigences obligatoires (voir les sections D, E et F du Livre blanc, préc., n° 20).

22 Commission européenne, Report from the Expert Group on Liability and New Technologies, préc.

23 V. European Commission, White Paper on Artificial Intelligence, A European approach to excellence and trust, préc., “C. Scope of a Future EU Regulatory Framework”, p. 16 et s.

24 La Commission invite à formuler des observations sur les propositions présentées dans le Livre blanc par consultation publique disponible sur : https://ec.europa.eu/info/consultations_en.

Haut de page

Pour citer cet article

Référence papier

Laurène Mazeau, « Responsabilité »Cahiers Droit, Sciences & Technologies, 10 | 2020, 223-229.

Référence électronique

Laurène Mazeau, « Responsabilité »Cahiers Droit, Sciences & Technologies [En ligne], 10 | 2020, mis en ligne le 27 avril 2020, consulté le 28 octobre 2020. URL : http://journals.openedition.org/cdst/1797 ; DOI : https://doi.org/10.4000/cdst.1797

Haut de page

Auteur

Laurène Mazeau

Maître de conférences à l’Université de Bretagne occidentale, LabLex EA 7480

Articles du même auteur

Haut de page

Droits d’auteur

Licence Creative Commons
Cahiers Droit, Sciences & Technologies sont mis à disposition selon les termes de la Licence Creative Commons Attribution 4.0 International.

Haut de page
  • Logo Presses universitaires d’Aix-Marseille Provence (PUAM)
  • Logo AMU
  • Logo Normes, Sciences & Techniques
  • Logo CNRS
  • Logo Institut des Sciences juridiques & philosophiques – UMR8103 de la Sorbonne
  • OpenEdition Journals
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search