Navigation – Plan du site
Certifications éthiques et enjeux éthiques des certifications, d’un domaine à l’autre

Le rôle de l’éthique dans la mise en place d’une certification pour l’utilisation d’algorithmes dans le système juridique

Emilie Guiraud

Résumés

En règle générale, la prise de décision algorithmique peut influencer les individus sur plusieurs points. Tout d’abord, une problématique de transparence se pose, mais également de contrôle, dans la mesure où l’apprentissage machine lié à la puissance de calcul complexifient la compréhension du processus de raisonnement ayant mené à une décision. De la même manière, cela empêche l’identification et la résolution de potentiels problèmes éthiques liés à la conception et au fonctionnement de l’algorithme. À ce titre émergent des réflexions portant sur la mise en place d’une charte éthique, mais également d’une certification. La certification n’étant pas obligatoire, per se, nous verrons comment l’éthique pourrait compléter le rôle du droit en permettant de l’encourager.

Haut de page

Entrées d’index

Haut de page

Texte intégral

Introduction

1De nombreux défis peuvent être répertoriés en ce qui a trait à la justice. Il a fallu combattre pour son indépendance et son accès, la rendre efficace sans pour autant qu’elle perde de sa qualité. Si certains ont été surmontés, d’autres restent à venir, notamment à l’ère des technologies de l’information. Ces défis inédits et passionnants promettent des changements profonds tant sur la vision de la justice que dans son application :

Après l’essor d’internet et de la dématérialisation, l’open data des décisions de justice, couplé au développement des algorithmes et de l’intelligence artificielle, soumettent en effet le juge à un défi nouveau : celui de la justice prédictive, qui doit s’inscrire au cœur de notre réflexion prospective, de nos projets et de notre vigilance (Houllier et Sauvé, 2018).

2Cela tend à influer autant sur les modèles de connaissance juridique (McGinnis et Wasick, 2014) que sur le processus de production et d’application du droit (Chassagnard-Pinet, 2017 : 495). En effet, il semble que le droit n’a pas été écrit ou adopté « dans la perspective de l’automatisation algorithmique » (Marique, 2017 : 517 ; Gaudemet, 2018 : 651).

3Un algorithme est « une série d’instructions permettant d’obtenir un résultat. À très grande vitesse, il opère un ensemble de calculs à partir de gigantesques masses de données (les big data) » (Cardon, 2015 : 7). Les fonctions des algorithmes en droit sont multiples, allant de la recherche d’information à l’automatisation de la rédaction de documents jusqu’à l’aide à la prise de décisions (Surden, 2014 : 87-89). De plus et puisque ces utilisations tendent à se répandre dans le système juridique, il convient de les encadrer et d’y intégrer des valeurs qui nous sont chères comme l’indépendance, l’impartialité et la transparence. Ceci explique qu’il faille se garder d’une justice totalement automatisée.

4Ces enjeux font déjà l’objet d’une réflexion (Houllier et Sauvé, 2018), notamment pour ce qui est de l’accès au code et aux données des algorithmes. Souvent, il s’avère que cet accès est limité par ceux qui les développent (Mittelstadt et al., 2016). Deux principales raisons sont invoquées : celle de protéger leur actif industriel et celle de protéger la vie privée et les données personnelles des utilisateurs. Cependant, les erreurs et les biais pouvant s’introduire dans le résultat final de l’algorithme sont de plus en plus souvent pointés du doigt (Courtland, 2018), exigeant une nécessaire régulation de la conception et de l’implémentation du produit (Benyekhlef, 2018a). Ainsi, pour regagner la confiance des utilisateurs et promouvoir l’utilisation de cette justice médiane, l’alternative pourrait être la création d’un audit indépendant et plus particulièrement, la mise en place d’une certification algorithmique. Il s’agit d’

une procédure par laquelle une tierce partie donne une assurance écrite qu’un produit, un processus ou un service est conforme à des exigences spécifiées. La certification fait intervenir systématiquement un organisme tiers et indépendant, distinct du fournisseur et du client, elle ajoute ainsi à la confiance retirée des résultats d’essai et de contrôle » (Grenard, 1996 : 53).

5Cet audit serait tenu au secret professionnel, préservant aussi bien les intérêts des entreprises que l’intérêt général.

  • 1 Cette définition a été trouvée en ligne sur le site de la Commission de l’éthique en science et en (...)

6Bien que la régulation se joue sur le plan juridique, l’éthique fait progressivement son apparition. L’utilisation du mot éthique est de plus en plus fréquente, comme en témoignent, entre autres, les nombreux rapports, articles scientifiques et chartes. Il semble ainsi difficile de cerner ce que l’on entend vraiment par « éthique ». Nous retenons qu’un problème est éthique lorsqu’il met « en jeu des idéaux qui donnent du sens à notre vie ou des règles qu’on se sent obligé de respecter. […] on touche à la sphère des valeurs et des principes moraux1 ». Dans le cas de l’utilisation d’algorithmes dans le domaine juridique, la notion d’éthique est intéressante à étudier puisqu’elle peut être utilisée comme un renfort pour le droit. En effet, lorsque des zones d’ombres apparaissent sur le plan juridique, l’éthique favorise la réflexion des parties prenantes sur les valeurs et les principes moraux que nous souhaitons protéger lors de l’utilisation des algorithmes.

7Par ailleurs, il est de plus en plus courant que les sujets associant le droit aux algorithmes lient une approche juridique à d’autres disciplines (Bourcier, Hasset et Roquilly, 2000 : 5) comme la philosophie et la sociologie (Barocas, Hood et Ziewitz, 2013). Ces approches permettent aux chercheurs de contribuer à façonner l’encadrement juridique des algorithmes puisqu’elles alimentent la réflexion et permettent d’avoir une vision plus globale de l’effet des algorithmes.

8Forte de ce constat, la Commission européenne pour l’efficacité de la justice (CEPEJ) du Conseil de l’Europe a créé la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement. Elle y adopte cinq principes dans lesquels sont répertoriées des pistes visant à assurer une meilleure gouvernance de l’intelligence artificielle dans le système judiciaire. Ces cinq principes visent le respect des droits fondamentaux ; la non-discrimination ; la qualité et sécurité, la transparence, neutralité et intégrité intellectuelle ; et enfin la maîtrise par l’utilisateur. Cette charte priorise l’intégration d’un cadre éthique. La Charte retient d’ailleurs, dans son troisième principe, l’utilisation de sources certifiées. Ce constat nous a amenés naturellement à traiter de l’éthique et du droit, dont l’association pourrait représenter un argument en faveur de la mise en place d’une certification.

9Pour éviter tout malentendu, l’objectif de cet article n’est pas de savoir s’il devrait y avoir une certification obligatoire au niveau national, international ou européen. Notre préoccupation se situe davantage dans le fait de voir comment et sous quelle forme la réflexion éthique peut s’intégrer dans la certification.

  • 2 L’auteur, Jérôme Béranger, explique que l’on parle d’un espace ou d’un cadre éthique d’ensemble pui (...)
  • 3 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protectio (...)

10Ainsi, nous verrons dans une première partie comment, par rapport aux préoccupations des individus réclamant plus de garanties, une réflexion portant sur l’adoption d’un cadre éthique pourrait s’intégrer dans la certification et représenter une plus-value. Lorsque nous parlons de cadre éthique, nous faisons référence à un ensemble lié et interdépendant qui comprend l’éthique des données, des algorithmes et des pratiques2. Dans une seconde partie, nous regarderons en quoi une telle réflexion éthique pourrait représenter un avantage pour le cadre normatif et permettre d’encourager les acteurs à avoir recours à la certification. Pour ce faire, nous nous focaliserons sur le RGPD (Règlement général européen sur la protection des données)3 ainsi que sur la loi française de programmation 2018-2022 et de réforme pour la justice qui prévoient la mise en place d’une certification, sans pour autant la rendre obligatoire.

L’utilisation de l’éthique comme d’un argument en faveur de la certification

11À titre liminaire, il semble qu’envisager uniquement un encadrement législatif des finalités de traitement des algorithmes ne soit pas suffisant (CEPEJ, 2018), ce qui explique la volonté d’approfondir la réflexion éthique, notamment sur l’insertion d’un cadre éthique. Il convient, dans un premier temps, de comprendre les fondements ainsi que le fonctionnement de l’utilisation des algorithmes dans l’environnement juridique qui mettront en lumière les problématiques tant juridiques qu’éthiques. Ceci nous emmène, dans un second temps, à imaginer comment la réflexion éthique pourrait représenter une plus-value et venir encourager la certification.

L’émergence de problématiques liées à l’automatisation du système juridique

12L’utilisation de l’intelligence artificielle et/ou d’algorithmes dans le domaine juridique peut être rapprochée de la définition donnée pour la cyberjustice par Karim Benyekhlef qui la définit comme « l’intégration des technologies algorithmiques, de l’information et de la communication dans les processus judiciaires ou extrajudiciaires de règlement de conflit » (Daniel, 2018). Les outils alliant la technique au juridique peuvent être désignés par différents noms, comme celui de plateforme juridique ou de legaltech. Les tâches de ces outils sont diverses et variées, allant de la simple information juridique à la gestion de litige.

13Il semble que cette nouvelle forme de digitalisation du droit puisse s’expliquer par trois séries d’innovations tant sur le plan technique, à savoir l’essor d’internet et plus spécifiquement les offres de Software as a service (SaaS), que commercial avec l’expérience client et marketing, comme les réseaux sociaux (Amaro, 2017 : 161).

  • 4 Il s’agit des personnes qui exploitent les données accessibles.

14L’utilisation du terme de « justice » pour désigner ces outils ne fait pas référence à la justice en tant que telle, mais bien aux instruments d’analyse qui les composent, comme les algorithmes (Dondero, 2017). En ce qui concerne, plus précisément, le succès du fonctionnement des algorithmes, il s’agit le plus souvent de l’alliance du machine learning au big data qui permet de mieux cibler l’information (Amaro, 2017 : 161). Nous pouvons prendre pour exemple Predictice et Case Law Analytics qui utilisent un algorithme pour faire des recherches parmi la jurisprudence. Cette combinaison permet aussi d’élaborer des modèles prédictifs (Amaro, 2017 : 161). Dans ce dernier cas, il peut s’agir de data miners4 qui isolent les données juridiques de la jurisprudence, les « caractéristiques premières du litige » et les éléments du contexte contenus dans les décisions déjà rendues (Surden, 2014 : 109) avant de les combiner pour en faire des modèles prédictifs complexes qui pourront être « en mesure d'indiquer les arguments les plus convaincants qui vont déterminer la décision » (Garapon, 2017). L’autre élément déterminant, c’est l’ouverture de certaines bases de données – open data – et dans le cas de règlement des litiges, de certaines bases de jurisprudence (Houllier et Sauvé, 2018).

15Certains auteurs perçoivent une mutation sociologique, car, contrairement aux grandes révolutions juridiques qui ont vu naître, par exemple, le Code civil, les outils dont nous parlons ici ne sont ni le fait du législateur, ni même de juristes, mais bien souvent de businessmen (Garapon et Lassègue, 2018). Selon les chiffres de 2019 relatifs aux legaltechs, 68 % d'entre elles ont été lancées par des start-up et 17 % par des professionnels du droit (Village justice, 2019).

16Il semble que l’expansion de ces nouveaux outils soit favorisée par certains dysfonctionnements liés à la pratique du droit. En effet, les délais de jugement ne cessent de s’allonger, l’organisation peut sembler complexe et les juridictions pointent du doigt le manque de moyens. En cela, l’automatisation est vendue comme un outil permettant de faciliter l’accès à la justice et de réduire tous les coûts y afférant (Pasquale, 2018).

17Devant l’essor d’une justice automatisée, les réactions sont partagées. D’un côté, il y a ceux qui pensent que ces outils participent à la démocratisation du droit en plus de présenter des résultats plus impartiaux que les êtres humains (Garapon et Lassegue, 2018) et d’en réduire les biais institutionnels (Miller, 2018). D’un autre côté, il y a ceux qui promeuvent les professions juridiques, seules garantes d’un service de qualité (Amaro, 2017 : 161). De nombreuses problématiques sont mises en exergue (Thierer et al., 2017 : 32) et sont bien loin d’encourager « l’automédication juridique » (Dondero, 2015 : 394).

18En règle générale, les principaux reproches adressés aux prises de décisions algorithmiques sont les défauts de transparence et d’information (Forest, 2017), mais également de contrôle de la complexité du processus algorithmique (Burrell, 2016 : 2). Il conviendrait de disposer d’une capacité de vérification des algorithmes (Mittelstadt et al., 2016) et d’offrir une certaine forme de traçabilité, mais bien souvent, cette volonté se heurte à des « intérêts propriétaires » (Benyekhef, 2018b) comme les secrets commerciaux (Barraud, 2017 : 14) et les droits de propriété intellectuelle (Levendowski, 2018 ; Basdevant et Mignard, 2018 : 102).

19La complexité de l’introduction des algorithmes dans le droit varie aussi en fonction des programmeurs. En effet, ces derniers doivent arbitrer l’implémentation des valeurs, des règles juridiques et de leur bonne interprétation par et pour l’algorithme alors qu’eux-mêmes, bien souvent, n’ont pas été formés au domaine juridique (Peri, 2017). Rien ne garantit non plus l’absence de déformations ou de manipulations des informations dont se nourrissent les algorithmes, ce qui nous empêche de concevoir une neutralité algorithmique (Grimmelmann, 2010) et nous amène à craindre l’insertion de biais (Cardon, 2018 : 69). De la même manière, cela empêche l’identification et la résolution de potentiels problèmes éthiques liés à la conception et au fonctionnement de l’algorithme (Mittelstadt et al., 2016). Devant cette asymétrie d’information et de pouvoir (Castets-Renard, 2016), il est nécessaire qu’une réflexion s’opère « pour intégrer les algorithmes dans la décision et ne pas laisser les algorithmes faire la décision » (Pauliat, 2018). S’il semble primordial de conserver la présence du juriste à tous les stades du processus, c’est-à-dire ex ante, pendante et ex post (Mekki, 2017), cette réflexion peut associer le domaine juridique à celui de l’éthique.

20En ce sens, des initiatives émergent dans de nombreux pays où divers acteurs réfléchissent aux effets que pourraient avoir les algorithmes et aux actions à mener en conséquence. Certaines de ces réflexions portent sur la mise en place d’une charte éthique, mais également sur la création d’une autorité qui serait chargée d’auditer les algorithmes (Rochfeld, 2018). Nous trouvons aussi, dans certaines d’entre elles, la mise en place d’une certification (Godefroy, 2016 : 438).

L’intégration d’une réflexion éthique dans la certification

21En somme, gagner la confiance des individus reste une tâche ardue (Henderson, 2017 : 21-22) et le développement fulgurant d’instruments automatisés n’a pas vocation à rendre ces outils plus fiables (Dondero, 2017). Par rapport à ce constat, nous comprenons que l’introduction et la mise en place de réflexions sur les procédés ayant pour objet d’anticiper les décisions de justice sont essentielles. En effet, le développement de réflexions sur la mise en place de règles éthiques pourrait favoriser l’intégration des principes de transparence, de loyauté et d’objectivité dans le processus algorithmique (Abiteboul et Dowek, 2017 : 138), le tout dans le but de renforcer la confiance des utilisateurs (CEPEJ, 2018) qui représente un pilier déterminant.

22La prise de décision algorithmique dans un domaine aussi important que celui de la justice doit s’effectuer dans le respect de nombreux principes éthiques à intégrer dès l’origine par les concepteurs, et ce, afin de préserver les droits fondamentaux des personnes concernées par la décision (Hyde, 2019). Plusieurs parties prenantes pensent à l’intégration de valeurs éthiques dans le cadre juridique de l’algorithme au cours de sa conception (Nevejans, 2017 : 786 ; Villani, 2018). Nous nous rapprochons de l’idée de mener une réflexion éthique à tous les stades de développement des algorithmes.

23Nous pouvons l’illustrer au travers de la loyauté algorithmique. Celle-ci pourrait être encadrée par une régulation citoyenne et institutionnelle (Béranger, 2018). Dans un des rapports de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle5, les citoyens ont recommandé la mise en place de codes de déontologie – d’éthique – de conduite dans lesquels se trouveraient les notions de consentement, de neutralité, de confidentialité, en plus d’aborder la protection de la diversité humaine. Ceci serait à mettre en place « au sein des entreprises, pour les différents ordres professionnels concernés ou tous les individus ayant accès à des algorithmes » (Déclaration de Montréal IA responsable, Partie 3, Rapport des résultats des ateliers de coconstruction de l’hiver : 138).

24Nous pouvons prendre pour second exemple la transparence. Le fait de vouloir rendre les prises de décisions algorithmiques plus transparentes s’explique par la nécessité, pour les personnes concernées, d’avoir la possibilité de comprendre le fonctionnement de l’algorithme pour, au besoin, pouvoir contester la décision. Mais bien souvent, cette volonté se heurte à des « intérêts propriétaires » (Benyekhlef, 2018b). À ce sujet, les réflexions étudiant la mise en place d’une certification pensent qu’un examen effectué par un tiers de confiance et, alternativement, par un régulateur créé spécifiquement pour auditer et certifier les algorithmes permettrait de limiter l’exposition des secrets commerciaux, en plus de surveiller et de comprendre le mécanisme algorithmique (Wachter, Mittelstadt et Floridi, 2017).

25Plusieurs parties prenantes évoquent la création d’un organisme indépendant pour certifier les outils utilisant l’intelligence artificielle. Andrew Tutt a eu l’idée de recourir à la création d’une agence pour auditer les algorithmes et examiner leur conformité avant leur mise sur le marché, en prenant l’exemple de la Federal drug administration (FDA) pour les médicaments. Son développement représente une avenue intéressante pour la régulation des algorithmes (Benyekhlef, 2018a et b). À l’instar de la FDA, de nouvelles procédures de qualification et de certification auront vocation à être expérimentées pour les algorithmes.

26Lors de consultations citoyennes sur l’utilisation de l’intelligence artificielle dans la justice, il en est ressorti qu’il faudrait davantage certifier le processus décisionnel de l’outil, plutôt que la décision de l’outil en elle-même (Déclaration de Montréal IA responsable, Partie 3, Rapport des résultats des ateliers de coconstruction de l’hiver : 139). D’autres propositions évoquent que la certification pourrait s’appliquer soit à l’algorithme en tant qu’objet sur les composants logiciels (Pavel et Serris, 2016), soit aux personnes qui ont pris des décisions dans le cadre du processus algorithmique (Edwards et Veale, 2017). Cela nous montre qu’il reste pertinent de consulter les citoyens sur un sujet aussi essentiel que celui de la justice, comme a pu le faire la Déclaration de Montréal IA responsable, en plus d’autres parties prenantes.

27La surveillance pourrait aussi se poursuivre après la certification, par exemple par un processus d’audit. À ce titre, des citoyens ont proposé, à l’occasion de consultations, de créer des organismes indépendants sous la forme d’entités hybrides composées de divers acteurs du secteur public et privé, des chercheurs, des ingénieurs, des philosophes en éthique, etc. (Déclaration de Montréal IA responsable, Partie 3, Rapport des résultats des ateliers de coconstruction de l’hiver : 138). Un processus d’évaluation algorithmique pourrait également offrir la possibilité au public de signaler les acteurs qui ne respectent pas leurs engagements, par exemple le fait de ne pas avoir informé les utilisateurs de l’existence d’un système de décision automatisé (Reisman et al., 2018 : 10).

  • 6 Ceci est inspiré de l’article de Jennifer E. Miller (2013 : 601-610) : « Une certification d’un “bo (...)

28La validation et la certification des technologies des algorithmes sont en ce sens liées à l’éthique (Villani, 2018). La mise en place d’une telle certification pourrait permettre de comprendre et de définir un mauvais algorithme contrairement à un bon algorithme, puis de motiver les plateformes à suivre le pas tout en identifiant et en communiquant l’implantation des bonnes pratiques (Miller, 2013)6. Nous pensons donc que ces réflexions éthiques pourraient venir encourager la certification. Il sera intéressant de voir, dans un second temps, en quoi ces réflexions pourraient encourager la certification tout en s’alliant au droit.

L’alliance du cadre normatif à la réflexion éthique pour la mise en place d’une certification

29Les scandales de ces dernières années ont vu se développer des arguments commerciaux tels que la protection des données dans le but d’instaurer un climat de confiance, mais aussi de se démarquer de ses concurrents (CNIL, 2017). La principale motivation des acteurs, que ce soit dans le domaine de la justice automatisée ou dans d’autres, est liée à l’acceptabilité sociale des individus de ces systèmes, ce qui peut avoir pour effet de moraliser leur pratique (Besse, Castets-Renard et Garivier, 2017 : 1). Bien que cela reste encore facultatif, les plateformes ont la possibilité de s’autoréguler et de se soumettre à un test indépendant pour prouver leurs valeurs (Marraud des Grottes, 2018). Toutefois, la régulation éthique des algorithmes accompagnant la démarche volontariste des différents acteurs en matière de justice devra compter sur un encadrement juridique bien plus précis (Hyde, 2019).

30Sur les plans européen et français, des textes ont été adoptés. Au sein de l’Union européenne, les préoccupations tournent beaucoup autour de la protection des données à caractère personnel. L’un des objectifs est donc de redonner confiance dans l’environnement numérique. Le RGPD (Règlement général sur la protection des données) propose une protection s’appliquant aux traitements de données à caractère personnel à l’aide de procédés automatisés ainsi qu’aux traitements manuels (considérant 15). En ce sens, le RGPD souhaite encourager la mise en place de mécanismes de certification, ceci pour favoriser la transparence et le respect de ses dispositions en matière d’évaluation de la protection des données (considérant 100). Bien que le RGPD ne traite pas de la justice automatisée à proprement parler, nous pouvons parfaitement imaginer que la certification du processus entourant le traitement des données personnelles pourrait s’étendre à ce cas.

31En France, la Loi de programmation 2018-2022 et de réforme pour la justice (ci-après, la Loi de programmation) souhaite développer les modes alternatifs de règlement des litiges afin, non seulement d’alléger l’activité des juridictions, mais également de favoriser les modalités plus rapides de règlement des différends pour tous les justiciables, lors de petits litiges. Pour ce faire, la Loi de programmation prévoit de sécuriser le cadre juridique de l’offre en ligne de résolution amiable des différends. Cela va notamment concerner les legaltechs spécialisées. La Loi de programmation pourrait être généralisée dès 2020, dépendamment des résultats (Assemblée nationale, 2018). Dans le souhait de promouvoir le recours aux modes alternatifs de règlement des litiges, il est nécessaire d’étendre l’offre tout en veillant à sa qualité. En ce sens, il est essentiel que les prestataires de service en ligne d’aide à la résolution amiable de litige respectent leurs obligations qui, elles-mêmes, doivent avoir été préalablement établies. S’il est important de prévoir des sanctions pénales applicables en cas d’inobservation par ces acteurs de leurs obligations, une disposition a été ajoutée pour proposer, en plus, la mise en place d’une certification facultative.

32Bien que la certification soit abordée dans le RGPD et la Loi de programmation, le droit, semble-t-il, ne peut faire cavalier seul. Le flou et la complexité des questions liées aux enjeux du numérique favorisent en effet des liens étroits entre le droit et l’éthique dans lesquels ces deux domaines se remettent en question, tour à tour. Le droit, par exemple, dans une volonté d’ouverture, attend de l’éthique « qu’elle lui livre une zone de quasi-droit plus souple et plus mobile, moins formellement contraignante et moins démocratiquement fondée » (Dermange et Flachon, 2002 : 15). Inversement, le droit peut donner corps aux aspirations éthiques par sa force contraignante (Dermange et Flachon, 2002).

  • 7 Les auteurs font ici référence à la Commission nationale de l’informatique et des libertés en Franc (...)
  • 8 À ce sujet, l’auteur Jérôme Béranger explique qu’il « faut réitérer certaines valeurs humaines et c (...)

33En ce sens, la certification abordée dans le RGPD associée à une réflexion éthique à propos des traitements pourrait, sur ce point, représenter un argument intéressant pour les acteurs. La Loi de programmation française vise à offrir une justice plus moderne au service des justiciables, accompagnée d’une certification volontaire qui va dans le sens du RGPD. À ce titre, le développement d’une réflexion éthique collective7 (Besse et al., 2018) pourrait influencer certains acteurs, désireux de se démarquer de leurs concurrents, à opter pour une certification en plus de réfléchir au « bon usage » éthique de ces outils8.

La nécessaire confiance dans l’environnement numérique sur le plan européen

34En 2015, le marché unique numérique de l’Union européenne affichait déjà une confiance dans l’environnement numérique minée par de nombreuses préoccupations liées aux droits fondamentaux et, plus particulièrement, à la protection des données à caractère personnel (Commission européenne, 2015). Il était donc évoqué à ce titre de mettre en place des mesures de certification dans l’Union européenne (Commission européenne, 2015).

35En ce sens, le RGPD souhaite encourager la mise en place de mécanismes de certification afin de favoriser la transparence et le respect des dispositions du RGPD en matière d’évaluation de la protection des données (considérant 100). La certification est abordée dans cinq de ses considérants et, plus précisément, dans l’article 43. Les critères et les exigences applicables à ces mécanismes de certification ont donc vocation à être encadrés (considérant 166 et article 43) et pourraient être soumis à une procédure d’examen, notamment compte tenu de la portée générale de la certification (considérant 168). L’article 43 prévoit en ce sens dans son paragraphe 1, que les États membres auront le choix de faire agréer les organismes de certification, soit par une autorité de contrôle compétente (en vertu de l’article 55 ou 56) ou par un « organisme national d’accréditation désigné conformément au règlement (CE) n°765/2008 du Parlement européen et du Conseil, conformément à la norme EN-ISO/IEC 17065/2012 et aux exigences supplémentaires établies par l’autorité de contrôle qui est compétente en vertu de l’article 55 ou 56 ». Les États membres pourront également choisir les deux.

36Pour ce qui est de la mise en œuvre de cette certification, la Commission pourra adopter des actes conformément à l’article 290 du Traité sur le fonctionnement de l’Union européenne. La certification devrait être attribuée par une norme internationalement reconnue ou nationale ou européenne (Tambou, 2016) et son obtention « constituerait une présomption simple de conformité de l’algorithme à la norme » (Godefroy, 2016 : 438).

37Des certifications approuvées pourraient attester l’identification des meilleures pratiques visant à atténuer le risque lié au traitement, par exemple (considérant 77 et article 32§3). Dans le cas des données personnelles, la certification des algorithmes aura une fonction de « filtrage éthique des données » (CNIL, 2017). L’application d’un mécanisme de certification approuvé peut aussi servir à démontrer le respect des obligations incombant au responsable du traitement (considérant 81 et articles 24§3 et 25§3) et à permettre d’évaluer rapidement le niveau de protection des données offert par les produits et services en question (considérant 100).

38Le fait d’obtenir une certification pourrait donc informer les individus qu’il s’agit d’un service de qualité et, peu à peu, réinstaurer un climat de confiance (Marraud des Grottes, 2018). En effet, la certification peut viser « la confiance de toutes les parties prenantes dans leurs résultats : de la validation en termes de preuves théoriques à l’explicabilité, la transparence, la causalité et l’équité » (Villani, 2018). Une réflexion éthique menée par des parties distinctes sur ce point pourrait avoir un rôle à jouer dans l’encouragement et la mise en œuvre des bonnes pratiques menant à la certification. Puisque la réflexion sur ces sujets reste encore embryonnaire, il est nécessaire de réunir divers acteurs, notamment du secteur privé, du milieu de la recherche, mais également de la société civile. Cela nécessite que les domaines techniques, juridiques et philosophiques se coordonnent (Goodman et Faxman, 2017) jusqu’à l’exploitation de l’algorithme (Godefroy, 2018) dans la justice.

39Les réflexions éthiques ou juridiques ont pour but de guider l’action humaine, de réguler les comportements pour améliorer la société. Les normes juridiques sont en ce sens bien souvent ouvertes à l’argument moral (Van der Burg, 2010). Il n’est donc pas impossible de concevoir qu’au sein des processus de conception et d’utilisation des algorithmes dans la justice, puisse s’intégrer un cadre éthique (CEPEJ, 2018). En ce sens, la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement souhaite que, dès la phase de conception et d’apprentissage de l’algorithme, soient intégrées des approches dites d’« éthique dès la conception » ou de « droits de l’homme dès la conception ». Ces règles permettraient d’intégrer les valeurs fondamentales insérées au sein des conventions et de les protéger (CEPEJ, 2018). De plus, cela permettrait aussi qu’au sein même du processus de conception de l’algorithme, soient mis en place des mécanismes pouvant prévenir les biais et les discriminations (CEPEJ, 2018). Cela rejoint le rapport Villani9 qui met en exergue l’importance de penser l’éthique dès la conception (Villani, 2018).

40L’intégration d’une réflexion éthique en faveur de la mise en place d’une certification rejoint le principe de « qualité et sécurité » (CEPEJ, 2018). Si nous suivons ce principe, la certification a beau ne pas être obligatoire, il n’en est pas moins qu’elle pourrait offrir la garantie que les traitements des données judiciaires ont baigné dans un environnement technologique propice à des mesures de sécurité adéquates qui auront par ailleurs été réfléchies à plusieurs niveaux.

41De ce fait, tout en continuant de mener une réflexion éthique sur le fond, ces dispositions permettraient de mettre en œuvre une procédure technologique équitable pour les données (Keats Citron, 2008) de même qu’un processus de traitement des données approprié (Crawford et Schultz, 2014 : 125). Le responsable de traitements ou le sous-traitant pourrait ainsi démontrer le respect au RGPD par la mise en œuvre de mesures appropriées.

42Nous remarquons que l’éthique et le droit ont deux façons différentes de raisonner. En effet, « l’éthique écarte les actes dont le principe n’est pas dans l’agent lui-même, mais dans un autre agent ou dans des choses » (Dermange et Flachon, 2002 : 15). Le droit, au contraire, peut assigner « des actes commis par négligence ou à travers ceux dont l’agent a la charge » (Dermange et Flachon, 2002 : 15). Néanmoins, lorsque la notion d’imputation est abordée, le droit et l’éthique ont tendance à tisser des liens (Dermange et Flachon, 2002).

43Il est possible de penser qu’il en va de même sur le plan national ; dans ce qui suit, nous prendrons l’exemple français.

L’éthique collective et les modes alternatifs de règlement des litiges en ligne au niveau français

44Comme pour le RGPD, la Loi de programmation prévoit dans ses articles des obligations relatives à la protection des données à caractère personnel, mais également de confidentialité. Les prestataires devront aussi s’assurer que l’information sur les modalités de réalisation de la résolution amiable est détaillée. Cela rejoint la volonté de la Charte éthique de vulgariser les concepts d’autant plus dans le cas d’un processus décisionnel judiciaire, pour que les individus puissent le comprendre (CEPEJ, 2018). Aussi, il est important de préciser que la solution proposée ne pourra être le résultat que d’un algorithme ou d’un traitement automatisé (Sénat, 2018).

45L’article 4-7 de la Loi de programmation indique que si le service en ligne qui fournit des prestations de conciliation ou de médiation respecte les exigences mentionnées dans les articles 4-1 à 4-6, il pourra faire l’objet d’une certification par un organisme accrédité. Cela n’est toutefois pas une obligation per se puisque c’est le service en ligne qui doit en faire la demande. Il existe cependant une exception en faveur des conciliateurs de justice et des médiateurs inscrits sur une liste au titre de leur activité de médiation de consommation et des personnes inscrites sur la liste des médiateurs dans le ressort d’une cour d’appel. Ces derniers se verront attribuer une certification de plein droit. Pour les autres, il semble qu’il n’y ait ni vérification de ces services avant leur mise en ligne ni obligation de ces services de s’y plier.

46La Loi de programmation prévoit deux principaux mécanismes de régulation dans son article 4-3. Le premier mécanisme rejoint un impératif de transparence avec, dans un premier temps, l’obligation d’informer par une mention explicite de l’utilisation d’algorithmes ce qui requiert expressément, dans un second temps, le consentement de l’utilisateur. Également, l’article 4-3 précise que la décision automatisée ne pourra résulter exclusivement d’un traitement automatisé. L’intéressé qui en fera la demande pourra se voir communiquer les règles définissant le traitement ainsi que les principales caractéristiques de sa mise en œuvre (Augagneur, 2018 : 341). Le second mécanisme intègre la certification par un organisme accrédité pour tout service en ligne répondant aux critères posés par le premier mécanisme (Racine, 2018). Celle-ci reste toutefois facultative (Assemblée nationale, 2018).

47Dans son étude annuelle de 2014, le Conseil d’État français conseillait de créer une obligation de certification périodique pour toutes les catégories de traitements présentant des risques pour laquelle un organisme tiers indépendant serait accrédité par une autorité de contrôle. En ce sens, la Commission nationale de l’informatique et des libertés (CNIL) pourrait désigner un organisme certificateur qu’elle aura elle-même agréé (Tambou, 2018). La certification pourrait être aussi délivrée aux plateformes examinées par des organismes accrédités par le Comité français d’accréditation (X.D., 2019).

48De manière à encourager la certification, qui se veut garante du respect de la législation et qui souhaite rassurer les individus sur la mise en œuvre de ces outils, l’éthique pourrait être, là encore, un allié de taille. En effet, le fait de valoriser les systèmes vertueux par la mise en place de certification pourrait conférer un avantage concurrentiel aux parties prenantes (CNIL, 2017), d’autant plus si des experts et des citoyens sont consultés. De ce fait, l’éthique génère une forme d’effectivité interne à travers la réflexion menée par plusieurs parties, notamment en ce qui concerne les actions qu’il faudrait mener et sur les valeurs qu’il convient de protéger.

49Dans la volonté d’auditer ces systèmes, il semble donc essentiel de mettre à profit des outils et des méthodes pour évaluer la conformité à notre cadre juridique, mais également éthique. Si la certification formelle de l’apprentissage représente encore à l’heure actuelle un objet de recherche (Villani, 2018), la normalisation des algorithmes pourrait répondre à des critères éthiques qui seraient retranscrits dans une certification (CNIL, 2017).

50Dans le cadre de consultations publiques menées par la Déclaration de Montréal sur la mise en place d’applications intégrant les algorithmes dans le secteur de la justice, les citoyens ont amené l’idée d’instaurer une forme de co-construction avec les parties prenantes comme les ordres professionnels du secteur judiciaire, les justiciables et associations – entre autres – pour réfléchir ensemble à l’acquisition et au déploiement des outils utilisant l’intelligence artificielle dans ce secteur. Les juges et les avocats devraient aussi être impliqués dans la sélection de ces outils (Déclaration de Montréal IA responsable, Partie 3, Rapport des résultats des ateliers de coconstruction de l’hiver : 139).

51Nous pouvons l’illustrer avec le Conseil national des barreaux français qui, dans le cadre des discussions avec la Chancellerie, pourrait devenir un organisme certificateur des plateformes de médiation en ligne (Garnerie, 2018). L’idée serait de poursuivre sur la création d’un label « avocat inside » afin que les legaltechs et tout site de médiation en ligne appartiennent aux professionnels du droit (Garnerie, 2018). La Chancellerie a précisé deux des critères concernant la procédure de contrôle ; il s’agirait du critère d’honorabilité qui fait référence à la qualité de la résolution amiable avec des professionnels compétents, et du critère technique garantissant que la plateforme répond notamment à un cahier des charges précis (Coustet, 2018a). L’objectif pour les professions réglementées est, certes, que ce marché n’échappe pas aux juristes (Chassagnard-Pinet, 2017 : 495), mais aussi de militer pour une plus grande sécurité des justiciables et d’intégrer des valeurs éthiques, tant au niveau de la profession que sur le fonctionnement des algorithmes. La certification servirait ici à garantir une certaine qualité au justiciable. Toutefois, ceci n’a pas vocation à écarter les autres legaltechs, du moment qu’elles respectent la procédure (Coustet, 2018b).

52Ainsi, bien que les enjeux éthiques se distinguent du droit, tous deux rejoignent ici la volonté de garantir la réussite des modes alternatifs de règlement des litiges en ligne qui s’appuie sur des outils fiables. Ceci pourrait s’appliquer plus largement pour tout système automatisé inséré ou non dans le domaine juridique. En ce sens, un comité éthique a finalisé une charte éthique qui envisage notamment la création d’un régulateur indépendant (Village justice, 2018). Là aussi, la charte peut représenter une source d’inspiration et permettre d’assurer un certain niveau d’éthique dans la délivrance des prestations juridiques aux justiciables (Village justice, 2017), ce qui pourrait, in fine, encourager les acteurs dans la mise en place de certification.

Conclusion

53De tout ceci faut-il, sans doute, tirer le constat que par rapport aux nombreuses problématiques posées par l’association du droit et des algorithmes, l’adoption d’une approche strictement juridique traduirait « une hésitation porteuse d’incertitude et révélatrice de la confrontation entre normativités juridique et technique » (Forest, 2017). Tant le RGPD que la Loi de programmation 2018-2022 et de réforme pour la justice représentent une avancée en termes de certification, une pratique qui restait, jusqu’à maintenant, embryonnaire (Pavel et Serris, 2016). Toutefois, il semble qu’en l’espèce le droit est loin de se suffire à lui-même et puisse ici s’allier à l’éthique. Le développement de règles éthiques est en ce sens intéressant ; car il permettrait non seulement de guider l’activité des acteurs du secteur, mais également de les inciter à y avoir recours afin de gagner à leur tour la confiance des individus dans ces outils. Le but étant de faire valoir entre autres les principes de transparence, loyauté et objectivité (CEPEJ, 2018). La certification d’un organisme accrédité permettra d’assurer les bonnes pratiques des acteurs, notamment concernant le traitement des données personnelles (CNIL, 2017). Ce défi éthique permet donc de repenser la réponse normative purement juridique, « en remettant en cause ce qui doit l’être et en adaptant des solutions » (Bourcier, 2018 : 8).

54L’exercice que nous avons effectué n’a pas vocation à connaître la discipline détenant l’encadrement le plus utile, mais bien de démontrer que si la voie de l’interdisciplinarité est de plus en plus utilisée, c’est parce qu’elle semble épouser les problématiques entourant le couple formé par le droit et les algorithmes. Ainsi, l’intégration d’une approche interdisciplinaire semble permettre de dresser un meilleur état des lieux afin d’expliquer non seulement le fonctionnement des algorithmes, mais également le contexte dans lequel ces derniers agissent, toujours dans une perspective juridique. De plus, l’association du droit à d’autres disciplines peut potentiellement nous amener à réfléchir à un meilleur encadrement et à prendre en considération d’autres aspects.

55La certification pourrait être complétée par l’élaboration de codes de conduite qui pourraient être adaptés selon les spécialités : algorithmes utilisés dans les cas de récidive, de détection des fraudes, etc. (Edwards et Veale, 2017) D’ailleurs, ceci nous montre que la certification n’est pas le seul domaine intéressant l’éthique. En effet, une réflexion se tourne sur le développement des modes de consultation des citoyens (Villani, 2018).

56L’étape suivante pourrait être celle de la définition des termes traduisant les valeurs que nous voulons voir insérer dans les algorithmes (Boyd, 2016) au travers de l’association du droit aux autres disciplines. Nous pouvons l’illustrer avec la Déclaration de Montréal sur l’intelligence artificielle responsable qui a mis sur pied dix principes. L’exemple de la Déclaration de Montréal est une source d’inspiration dans notre cas, car elle représente une « boussole éthique » et va même jusqu’à proposer un cadre éthique orientant les processus utilisant l’intelligence artificielle « vers des finalités moralement et socialement désirables »10. On retrouve ici l’idée d’instaurer un climat de confiance sociale dans l’utilisation de ces systèmes. Ainsi, il ne s’agit plus de regarder de quelle manière le raisonnement, les concepts et les sources juridiques vont fonctionner face aux algorithmes. Désormais, c’est la façon dont nous traitons ces problèmes, en fonction d’un sujet donné qui va être déterminant (Casanovas Romeu et al., 2014 : 3).

Haut de page

Bibliographie

Abiteboul, Serge et Gilles Dowek (2017), Le temps des algorithmes, Éditions Le Pommier.

Amaro, Rafael (2017), « L’“ubérisation” des professions du droit face à l’essor de la legaltech », Dalloz IP/IT, no 3, p. 161-165.

Augagneur, Luc-Marie (2018), D’où jugez-vous ? Un paradoxe entre justice prédictive et réforme de la motivation des décisions, La semaine juridique, 26 mars, no 13-341, p. 582-585

Barocas, Solon, Sophie Hood et Malte Ziewitz (2013) « Governing Algorithms: À Provocation Piece », SSRN Electronic Journal, p. 3

Barraud, Boris (2017), « Le coup de data permanent : la loi des algorithmes », Revue des droits et libertés fondamentaux, [en ligne], https://hal.archives-ouvertes.fr/hal-01652318 (consulté le 9 septembre 2019).

Basdevant, Adrien et Jean-Pierre Mignard (2018), L’empire des données, Essai sur la société, les algorithmes et la loi, Don Quichotte.

Benyekhlef, Karim (2018a) « Dialogue autour de la régulation des technoproduits. Algorithmes, architecture et règlement en ligne des conflits », dans Poullet Yves et al., Law, norms and freedoms in cyberspace Droit, normes et libertés dans le cybermonde : liber amicorum Yves Poullet, Bruxelles, Larcier, p.342

Benyekhlef, Karim (2018b), « L’IA et nos principes de justice fondamentale », dossier Dimensions éthiques et sociales de l’intelligence artificielle, Forum Options politiques, [en ligne], https://policyoptions.irpp.org/fr/magazines/february-2018/lia-et-nos-principes-de-justice-fondamentale/ (consulté le 15 février 2018).

Béranger, Jérôme (2018), Le code éthique algorithmique : L’éthique au chevet de la révolution numérique, Collection sciences, société et nouvelles technologies, Série Prospective technologique et application sociale, vol. 2, Londres, ISTE éditions.

Besse, Philippe, Céline Castets-Renard et Aurélien Garivier (2017), « Loyauté des Décisions Algorithmiques », Contribution au débat public initié par la CNIL : Éthique et Numérique, [en ligne] https://hal.archives-ouvertes.fr/hal-01544701/document (consulté le 9 septembre 2019).

Besse, Philippe et al. (2018), « L’IA du Quotidien peut elle être Éthique ? Loyauté des Algorithmes d’Apprentissage Automatique », [en ligne], https://hal.archives-ouvertes.fr/hal-01886699v2 (consulté le 9 septembre 2019).

Bourcier, Danièle, Patricia Hassett et Christophe Roquilly (2000), Droit et intelligence artificielle : une révolution de la connaissance juridique, Paris, Romillat.

Bourcier, Danièle (2018) « Le droit va-t-il disparaître dans les algorithmes ? », Petites affiches, no 223, p. 8-9.

Boyd, Danah (2016), « Transparency ≠ Accountability », (29 novembre), Data & Society, Points.

Burrell, Jenna (2016), « How the machine ‘thinks’: Understanding opacity in machine learning algorithms », Big Data & Society, p. 1-12, [en ligne], https://journals.sagepub.com/doi/full/10.1177/2053951715622512 (consulté le 9 septembre 2019).

Cardon, Dominique (2015), A quoi rêvent les algorithmes, Nos vies à l’heure des big data, Paris, Seuil, collection La République des idées.

Cardon, Dominique (2018), « Le pouvoir des algorithmes », Pouvoirs, vol. 164, no 1, p. 63-73.

Casanovas Romeu et al. (2014), « AI approaches to the complexity of legal systems AICOL 2013 International Workshops », Belo Horizonte, Brazil, and Bologna, Italy, Revised Selected Papers, Heidelberg, Springer.

Castets-Renard, Céline (2016), « Société de l’information », Cahiers Droit Sciences & Technologies, no 6, [en ligne], https://journals.openedition.org/cdst/509 (consulté le 9 septembre 2019).

Chassagnard-Pinet, Sandrine (2017), « Les usages des algorithmes en droit : prédire ou dire le droit ? », Dalloz IP/IT, no 10, p. 495-499.

Commission nationale de l’informatique et des libertés en France (CNIL) (2017), « Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle », Synthèse du débat public animé par la CNIL dans le cadre de la mission de réflexion éthique confiée par la Loi pour une République numérique, p. 56 et 59.

Conseil d’État (2014), « Le numérique et les droits fondamentaux », Paris, La Documentation française, Collection Études et documents.

Courtland, Rachel (2018), « Bias detectives: the researchers striving to make algorithms fair », Nature, vol. 558, p. 357-360

Coustet, Thomas (2018a), « Legaltech (PLPJ 2018-2022) : ce qu’on sait des modalités de certification », Dalloz actualité.

Coustet, Thomas (2018b), « Projet de loi de programmation pour la justice : la Chancellerie dévoile ses derniers arbitrages », Dalloz actualité.

Crawford, Kate et Jason Schultz (2014), « Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms », Boston College Law Review, vol. 55, no 1, p. 93-128.

Daniel, Sara (2018), « Intelligence artificielle : Karim Benyekhlef, l’homme qui “automatise” la justice », L’Obs, 18 novembre, [en ligne], https://www.nouvelobs.com/tech/20181114.OBS5381/intelligence-artificielle-karim-benyekhlef-l-homme-qui-automatise-la-justice.html (consulté le 9 septembre 2019).

Déclaration de Montréal – Université de Montréal (2017), « La déclaration de Montréal pour un développement responsable de l’intelligence artificielle », [en ligne], https://www.declarationmontreal-iaresponsable.com/la-declaration (consulté le 9 septembre 2019).

Dermange, François et Laurence Flachon (dir.), Ethique et droit, Collection Le champ éthique, Genève, Éditions Labord et Fides.

Dondero, Bruno (2015), Droit 2.0, Apprendre et pratiquer le droit au XXIe siècle, LGDJ, Lextenso éditions.

Dondero, Bruno (2017), « Justice prédictive : la fin de l’aléa judiciaire ? », Dalloz, p. 532-538.

Edwards, Lilian et Michael Veale (2017), « Slave to the Algorithm? Why a 'Right to an Explanation' Is Probably Not the Remedy You Are Looking For », Duke Law & Technology Review, vol. 16, no 18, p. 18-84, [en ligne], https://dltr.law.duke.edu/2017/12/04/slave-to-the-algorithm-why-a-right-to-an-explanation-is-probably-not-the-remedy-you-are-looking-for/ (consulté le 9 septembre 2019).

Forest, David (2017) « La régulation des algorithmes, entre éthique et droit », Revue Lamy droit de l’immatériel, no 137, p. 38-42

Garapon, Antoine (2017), « Les enjeux de la justice prédictive », La semaine juridique, no 1-2, [en ligne], https://www.cnil.fr/sites/default/files/atoms/files/justice_predictive.pdf (consulté le 9 septembre 2019).

Garapon, Antoine et Jean Lassegue (2018), Justice digitale, révolution graphique et rupture anthropologique, Presses universitaires de France.

Garnerie, Laurence (2018), « Legaltechs : les professions réglementées mettent en avant leurs avantages concurrentiels », Gazette du Palais, no GPL328w3, p. 5.

Gaudemet, Yves (2018), « La justice à l’heure des algorithmes. À propos de la justice prédictive », Revue du droit public, no 3, p. 651-664.

Godefroy, Lêmy (2016), « Pour un droit du traitement des données par les algorithmes prédictifs dans le commerce électronique », Recueil Dalloz, p. 438-444.

Godefroy, Lêmy (2018), « Le code algorithmique au service du droit », Recueil Dalloz, p. 734.

Goodman, Bryce et Seth Flaxman (2017), « European Union regulations on algorithmic decision-making and a “right to explanation” », AI Mag, vol. 38, no 3, p. 50-57.

Grenard, Agnès (1996), « Normalisation, certification : quelques éléments de définition », Revue d’économie industrielle, no 75, p. 45-60.

Grimmelmann, James, (2010), « Some Skepticism about Search neutrality », dans Berin Szoka et Adam Marcus (dir.), The Next Digital Decade: Essays on the Future of the Internet, Washington (D. C.), techFreedom.

Henderson, Tristan (2017), « Does the GDPR Help or Hinder Fair Algorithmic Decision-Making ? », LLM dissertation, Innovation, Technology & The Law, University of Edinburgh.

Houllier, Sarah et Jean-Marc Sauvé (2018), « La justice prédictive », Colloque organisé à l’occasion du bicentenaire de l’Ordre des avocats au Conseil d’État et à la Cour de cassation, Cour de cassation, [en ligne], https://www.conseil-etat.fr/actualites/discours-et-interventions/la-justice-predictive#_ftnref1 (consulté le 9 septembre 2019).

Hyde Aurore-Angélique (2019), «Vers une cyberéthique de la justice “prédictive” », Dalloz IP/IT, no°5, p. 324-328.

Keats Citron, Danielle (2008), « Technological Due Process », Washington University Law Review, vol. 85, no 6, [en ligne], https://openscholarship.wustl.edu/cgi/viewcontent.cgi?article=1166&context=law_lawreview (consulté le 9 septembre 2019).

Levendowski, Amanda (2018), « How copyright law can fix artificial intelligence's implicit bias problem », Washington Law Review, vol. 93, no 2, [en ligne], https://digitalcommons.law.uw.edu/wlr/vol93/iss2/ (consulté le 9 septembre 2019).

Marique, Enguerrand (2017), « Gouverner par la loi ou les algorithmes : de la norme générale de comportement au guidage rapproché des conduites », Dalloz IP/IT, no 10, p.517-521.

Marraud des Grottes, Gaëlle (2018), « Thomas Andrieu Et Natalie Fricero : « La certification des plateformes proposant des conciliations, médiations ou arbitrages en ligne devrait contribuer à créer un climat de confiance” », Actualités du droit, [en ligne], https://www.actualitesdudroit.fr/browse/tech-droit/start-up/16685/thomas-andrieu-et-natalie-fricero-la-certification-des-plateformes-proposant-des-conciliations-mediations-ou-arbitrages-en-ligne-devrait-contribuer-a-creer-un-climat-de-confiance (consulté le 9 septembre 2019).

Mcginnis, John et Steven Wasick (2014), « Law’s Algorithm », Florida Law Review, vol. 66, no 3, [en ligne], https://scholarship.law.ufl.edu/flr/vol66/iss3/2/ (consulté le 9 septembre 2019).

Mekki, Mustapha, (2017) « If code is law, then code is justice ? », Gazette du Palais, no 24, p. 10.

Miller, Alex P. (2018), « Want Less-Biased Decisions? Use Algorithms », Harvard Business Review.

Miller, Jennifer E. (2013), « From Bad Pharma to Good Pharma: Aligning Market Forces with Good and Trustworthy Practices through Accreditation, Certification, and Rating », The Journal of Law Medicine & Ethics, vol. 41, no 3, p. 601-610.

Mittelstadt, Brent et al. (2016) « The Ethics of Algorithms: Mapping the Debate », Big Data & Society, vol. 3, no 2, p. 19-22.

Nevejans, Nathalie (2017), Traité de droit et d’éthique de la robotique civile, LEH Édition, collection Science, éthique et société.

Commission européenne pour l’efficacité de la justice (CEPEJ) (2018), Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement, [en ligne], https://rm.coe.int/charte-ethique-fr-pour-publication-4-decembre-2018/16808f699b (consulté le 9 septembre 2019).

Pauliat, Hélène (2018), « La décision administrative et les algorithmes : une loyauté à consacrer », Revue du droit public, n3, p. 641-650.

Pavel, Ilarion et Jacques Serris (2016), « Modalités de régulation des algorithmes de traitement des contenus », Conseil général de l’économie, de l’industrie, de l’énergie et des technologies, no 2015/36/CGE/SG, [en ligne], https://www2.economie.gouv.fr/cge/modalites-regulation-des-algorithmes-traitement-des-contenus (consulté le 9 septembre 2019).

Peri, Manuella (2017), « La régulation de l’“ubérisation” », Dalloz IPIT, no 3, p.144-147.

Racine, Jean-Baptiste (2018), « La résolution amiable des différends en ligne ou la figure de l’algorithme médiateur », Recueil Dalloz, no 31.

Reisman, Dillon et al. (2018), « Algorithmic impact assesments, a practical framework for public agency accountability », AINOW, [en ligne], https://ainowinstitute.org/aiareport2018.pdf (consulté le 9 septembre 2019).

Rochfeld, Judith (2018), « L’encadrement des décisions prises par algorithme », Dalloz IP/IT, no 9, p. 474-479.

Surden, Harry (2014), « Machine Learning and Law », Washington Law Review, vol. 89, no 1, p. 87-115.

Tambou, Olivia (2016), « L’Introduction de la certification dans le règlement général de la protection des données personnelles : quelle valeur ajoutée ? », Revue Lamy droit de l’immatériel, no 125, p. 51-55.

Tambou, Olivia (2018), « Que retenir du projet de loi relatif à la protection des données personnelles ? », Village justice, [en ligne], https://www.village-justice.com/articles/que-retenir-projet-loi-relatif-protection-des-donnees-personnelles-par-olivia,27832.html (consulté le 9 septembre 2019).

Thierer, Adam, Andrea Castillo O’Sullivan et Raymond Russel (2017), « Artificial Intelligence and Public Policy », Mercatus Research, Mercatus Center at George Mason University, Arlington, p. 1-55.

Tutt, Andrew (2017), « An FDA for algorithms », Administrative Law Review, vol. 69, no 83, p. 119-120.

Van der Burg, Wibren (2010), « Law and Ethics: The Twin Disciplines », Erasmus Working Paper Series on Jurisprudence and Socio-Legal Studies, no 10-02, p.18.

Village Justice (2017), « Éthique des legaltech : la charte commune avec les professions du droit avance », [en ligne], https://www.village-justice.com/articles/charte-commune-legaltechs-avocats,22405.html (consulté le 9 septembre 2019).

Village Justice (2018), « Une charte éthique spécialement conçue pour la justice prédicive », [en ligne], https://www.village-justice.com/articles/une-future-charte-ethique-pour-justice-predictive,30051.html (consulté le 9 septembre 2019).

Village Justice (2019), « Guide et observatoire permanent de la Legaltech et des start-up du droit », [en ligne], https://www.village-justice.com/articles/Les-start-up-droit,18224.html (consulté le 9 septembre 2019).

Villani, Cédric (2018), « Donner un sens à l’intelligence artificielle, Pour une stratégie nationale et européenne », [en ligne], https://www.ladocumentationfrancaise.fr/rapports-publics/184000159/index.shtml (consulté le 9 septembre 2019).

Wachter, Sandra, Brent Mittelstadt et Luciano Floridi (2017), « Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation », International Data Privacy Law, vol. 7, no 2, p. 7699.

X. D. (2019), « Encadrement juridique et certification des services en ligne de résolution amiable des litiges », AJ Contrat, p. 153.

Législation et autres

Assemblée nationale (2018), Projet de loi, modifié par l’Assemblée nationale en première lecture, de programmation 2018-2022 et de réforme pour la justice, [en ligne], http://www.assemblee-nationale.fr/15/pdf/projets/pl1503.pdf (consulté le 9 septembre 2019).

Commission européenne (2015), A Digital Single Market Strategy for Europe - Analysis and Evidence, SWD(2015) 100 final, s 4.3, p. 51, [en ligne], https://ec.europa.eu/digital-single-market/en/news/digital-single-market-strategy-europe-analysis-and-evidence-swd2015-100-final (consulté le 9 septembre 2019).

Journal officiel, LOI no 2019-222 du 23 mars 2019 de programmation 2018-2022 et de réforme pour la justice, JORF n°0071 du 24 mars 2019.

Sénat, Session ordinaire de 2017-2018, enregistré à la Présidence du Sénat le 20 avril 2018, Projet de Loi de programmation 2018-2022 et de réforme pour la justice du 7 oct. 2016 pour une République numérique, JORF n°0235 du 8 octobre 2016.

Union européenne (2016), Règlement 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données), [en ligne], https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX%3A32016R0679 (consulté le 9 septembre 2019).

Haut de page

Notes

1 Cette définition a été trouvée en ligne sur le site de la Commission de l’éthique en science et en technologie, sous l’onglet « éthique » : http://www.ethique.gouv.qc.ca/fr/ethique/quest-ce-que-lethique/lethique-et-la-morale-de-quoi-on-parle.html

2 L’auteur, Jérôme Béranger, explique que l’on parle d’un espace ou d’un cadre éthique d’ensemble puisque, par exemple, « des études centrées sur la confidentialité des données (ED) permettent également de résoudre les problèmes de consentement et de responsabilités. De même, l’évaluation éthique des algorithmes (EA) implique souvent des analyses de responsabilités de leurs concepteurs, développeurs (ou “implémenteurs”) et utilisateur » (2018 : 91).

3 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données) (Texte présentant de l’intérêt pour l’EEE), (2016), JO L 119.

4 Il s’agit des personnes qui exploitent les données accessibles.

5 Consultable en ligne : https://www.declarationmontreal-iaresponsable.com

6 Ceci est inspiré de l’article de Jennifer E. Miller (2013 : 601-610) : « Une certification d’un “bon produit pharmaceutique” peut aider les parties prenantes à faire quatre choses : 1) mieux comprendre et définir ce à quoi ressemble un “mauvais pharma”, 2) mieux comprendre et définir ce à quoi peut et devrait ressembler un “bon pharma”, 3) inciter les entreprises avec lesquelles elles sont associées à passer des mauvais aux bons processus et 4) identifier et communiquer les résultats positifs qui ont été mis en œuvre de manière digne de confiance » (notre traduction).

7 Les auteurs font ici référence à la Commission nationale de l’informatique et des libertés en France (CNIL), l’Autorité de la concurrence française, le contre-pouvoir des citoyens, l’audit des algorithmes tel que présenté dans le rapport Villani ainsi que la proposition de labels.

8 À ce sujet, l’auteur Jérôme Béranger explique qu’il « faut réitérer certaines valeurs humaines et certains principes fondamentaux dans le périmètre d’action particulier qu’engendre le digital » (2018 : 89).

9 Consultable en ligne : https://www.aiforhumanity.fr

10 Consultable en ligne : https://www.declarationmontreal-iaresponsable.com/la-declaration

Haut de page

Pour citer cet article

Référence électronique

Emilie Guiraud, « Le rôle de l’éthique dans la mise en place d’une certification pour l’utilisation d’algorithmes dans le système juridique », Éthique publique [En ligne], vol. 21, n° 1 | 2019, mis en ligne le 10 décembre 2019, consulté le 19 février 2020. URL : http://journals.openedition.org/ethiquepublique/4429 ; DOI : https://doi.org/10.4000/ethiquepublique.4429

Haut de page

Auteur

Emilie Guiraud

Emilie Guiraud est actuellement doctorante en droit à l’Université Laval à Québec sous la direction du Professeur Georges Azzaria, en codirection avec la Professeure Céline Castets-Renard de l’Université d’Ottawa. Elle est titulaire d’une licence française en droit économie et gestion et de deux maîtrises en droit des contrats et en droit international et transnational (Université Laval). Elle a reçu une bourse du Fonds de recherche Société et culture pour effectuer un stage au sein de la Commission de l’éthique en science et en technologie. Elle travaille actuellement en tant qu’auxiliaire de recherche à l’Université Laval.

Haut de page

Droits d’auteur

Tous droits réservés

Haut de page
  • OpenEdition Journals