Navigation – Plan du site

AccueilNumérosvol. 23, n° 2Quelles règles de gouvernance alg...Le droit de la gouvernance pour r...

Quelles règles de gouvernance algorithmique voit-on émerger?

Le droit de la gouvernance pour réguler la gouvernance algorithmique

Stéphane Bernatchez, Alexandra Bouchard et Sarah-Maude Bélanger

Résumé

Au moment où les algorithmes tendent de plus en plus à nous gouverner, la régulation de la gouvernance algorithmique tarde à prendre forme. Réguler la gouvernance algorithmique pose des défis importants, notamment pour le droit de la modernité juridique. Dans ce contexte, c’est bien souvent l’éthique qui offre les premières pistes d’encadrement. Le droit de la gouvernance se présente comme une alternative à ces deux modes de régulation. Par ses capacités de flexibilité et d’adaptabilité, le droit de la gouvernance semble plus adéquat que le droit moderne pour réguler la gouvernance algorithmique, d’autant plus qu’il constitue le programme juridique du projet cybernétique. Des processus du droit de la gouvernance, tels que la certification, la standardisation et la densification normative, peuvent être convoqués afin de mieux concevoir la régulation de la gouvernance algorithmique.

Haut de page

Texte intégral

1La question n’est plus de savoir si l’Intelligence artificielle (IA) peut nous gouverner (Faure, 2018), de toute évidence les algorithmes sont déjà capables de diriger les conduites. La manière dont nous consommons, dont nous nous informons, dont nous conduisons nos véhicules, dont nous nous déplaçons, dont nous sommes soignés, dont nous menons nos recherches, dont nous jouons aux échecs, etc., est désormais définie, en partie, par des algorithmes. Pour les juristes qui croyaient évoluer jusqu’à récemment encore dans l’empire du droit (Dworkin, 1986), les voilà plongés dans l’empire cybernétique (Lafontaine, 2004). Il ne s’agit pas que d’un moment (Triclot, 2008), mais bien plutôt d’une ère ou d’un « âge cybernétique » (Dumont, 1968 : 122) annoncé depuis le milieu du XXe siècle (Wiener, 2014 [1948]).

2La question devient, dès lors, celle de savoir si l’on peut réguler l’IA avant que celle-ci nous gouverne entièrement. L’enjeu est double : il s’agit à la fois de gouverner par les algorithmes, c’est ce qu’on appelle la gouvernance algorithmique, et de gouverner les algorithmes. Le droit de la gouvernance permet précisément de répondre à ce second enjeu, soit de gouverner les algorithmes, ou de réguler la gouvernance algorithmique.

3L’encadrement normatif de la gouvernance algorithmique ne saurait trop attendre, à court et même à moyen terme, du système législatif, dont la lenteur et l’inadéquation ne permettent pas d’entretenir d’attentes normatives trop élevées à son égard, ni de croire en sa capacité de fournir des réponses adéquates aux impacts de plus en plus complexes des développements technologiques (De Filippi, 2017). C’est en partie ce qui fait naître la crainte d’une dictature par les algorithmes (Barraud, 2018 ; O’Neil, 2018). Qu’il suffise ici de rappeler (Bernatchez, 2020) que le déclin de la démocratie et de l’État de droit s’est d’abord exprimé à l’égard de la montée de la gouvernance par les nombres (Supiot, 2015), que la « gouvernance par les algorithmes reproduit et approfondit » (Marique et Alain Strowel, 2017). Le préambule de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (Abrassart et al., 2018) précise bien que de vouloir maîtriser l’avenir par le calcul est une illusion, que gouverner la société par des procédures algorithmiques est un vieux rêve et que les nombres ne disent pas ce qui a une valeur morale ni ce qui est socialement désirable.

4Dans ce contexte, l’éthique s’avère certes l’un des principaux moyens de régulation à considérer. Si l’idée d’un contrôle des algorithmes semble retenir l’attention, il demeure toutefois que la possibilité d’imposer une éthique à un algorithme demeure incertaine (Dahan, 2019). À titre d’exemple, l’ethically aligned design proposé par l’Institut des ingénieurs électriciens et électroniciens (IEE, 2019), consiste à programmer l’intelligence artificielle pour qu’elle soit éthique (Walz et Firth-Butterfield, 2018-2019). L’éthique par design est définie par les principes généraux qui établissent les valeurs à implanter dans les systèmes apprenants par les concepteurs (IEE, 2019). Tout système d’intelligence artificielle devrait avoir au centre de ses préoccupations le bien-être humain (Walz et Firth-Butterfield, 2018-2019 : 220). Pour ce faire, l’institut propose un cadre à suivre pour rechercher et concevoir un développement éthique des algorithmes, notamment en assurant en s’assurant que les systèmes d’intelligence artificielle soient des plus transparents, et ce, afin d’assurer l’intelligibilité de leur fonctionnement (IEE, 2019 : 182). Le but est de s’assurer que les concepteurs aient conscience des enjeux entourant l’intelligence artificielle de manière à développer des technologies plus éthiques (Walz et Firth-Butterfield, 2018-2019 : 219). Bien souvent, les programmeurs doivent prendre d’importantes décisions sociétales au moment de la conception et ne possèdent pas assez de connaissances à ce niveau pour ce faire (Walz et Firth-Butterfield, 2018-2019 : 221). Pour pallier ce problème, cette approche propose également de favoriser la recherche collaborative entre différents experts pour mettre en place des normes qui prennent en compte différentes écoles de pensée et différentes disciplines (IEE, 2019 : 180). L’élaboration d’un tel protocole favorise la diversité dans la conception de l’intelligence artificielle et assure une variété de points de vue, ce qui permet alors de mieux saisir tous les impacts possibles des systèmes apprenants. Les principes de l’IEE se penchent sur la question du droit à la vie privée en prévoyant un standard (Data Privacy Process) pour encadrer les enjeux éthiques reliés à la collecte et à la conservation des données personnelles par l’intelligence artificielle (Walz et Firth-Butterfield, 2018-2019 : 220 ; Rozenfield, 2017).

5Cette dernière initiative peut déjà être considérée comme du droit de la gouvernance. Se présentant comme un nouvel ordre juridique (Lasserre, 2015), en dialogue avec l’éthique, le droit de la gouvernance offre également une capacité régulatoire qu’il convient d’étudier attentivement, surtout qu’il se développe considérablement depuis quelques décennies et qu’il partage des fondements avec le monde algorithmique. C’est du moins notre hypothèse. La question examinée dans le présent article peut ainsi être formulée : Comment le droit de la gouvernance peut-il réguler la gouvernance algorithmique ? Si l’intelligence artificielle pose de nombreux défis éthiques et juridiques déjà bien identifiés, notamment en termes de transparence, d’atteinte à la vie privée, de protection des renseignements personnels, de responsabilité et de discrimination, la capacité de réguler l’IA demeure encore à être réfléchie. Le défi est encore nouveau et intellectuellement stimulant. Afin d’éviter que la gouvernance algorithmique ne transforme la démocratie en boîte noire (Pasquale, 2015), il convient d’examiner les possibilités de régulation offertes par le droit de la gouvernance, lequel fait notamment appel à l’éthicisation du droit (Legault, 2001 ; Lalonde, 2003 ; Marceau, 2015).

La gouvernance et le droit de la gouvernance

6Notion polysémique, la gouvernance peut être définie comme « une méthode ou un mécanisme de régulation d’une vaste série de problèmes ou conflits, par laquelle/lequel des acteurs parviennent régulièrement à des décisions mutuellement satisfaisantes ou contraignantes, à travers la négociation et la coopération » ; elle se caractérise par des « formes horizontales d’interaction entre acteurs qui ont des intérêts contradictoires mais qui sont suffisamment indépendants les uns des autres pour qu’aucun d’eux ne puisse imposer une solution à lui seul, tout en étant suffisamment interdépendants pour qu’ils soient tous perdants si aucune solution n’était trouvée » (Schmitter, 2000).

7La gouvernance est « un processus expérimental visant à transformer les rôles et les formes de production normative. L’enjeu est d’expérimenter de nouveaux comportements d’acteurs eux-mêmes guidés par un usage innovant des normes » (Maesschalck, 2017). Le droit de la gouvernance est constitué de ces processus et innovations normatives. Le concept de droit de la gouvernance est relativement récent. Apparu en 2005 (Chevallier, 2005), repris à quelques reprises par la suite (Mockle, 2006 ; Lasserre, 2015), il a surtout permis de rendre compte des transformations contemporaines du droit issues de la mondialisation (Benyekhlef, 2008) et de la nouvelle gouvernance étatique (Mockle, 2007). Il constitue aujourd’hui un nouvel ordre juridique (Lasserre, 2015).

8La gouvernance est construite au départ de différentes disciplines, dont l’économie, le management, la philosophie politique, la sociologie, qui y ont apporté leurs exigences propres, en termes d’efficacité, de performance, de légitimité et d’effectivité. À celles-ci s’ajoutent de nouvelles exigences propres à la gouvernance, soit la transparence, l’imputabilité, la reddition de compte, la précaution, la célérité, la qualité, etc. La gouvernance est également constituée de processus, tels que la procéduralisation (Lenoble et Maesschalck, 2009), la normalisation (Turinetti, 2018), la certification (Desjardins, 2015), la standardisation (Frydman et van Waeyenberge, 2013), la participation (De Montalivet, 2011), la contractualisation (Pigache, 2004), la densification normative (Thibierge, 2013).

9Avec le passage du gouvernement à la gouvernance (Ost et Van de Kerchove, 2002), des normativités nouvelles sont apparues, avec un certain caractère informel des dispositifs de gouvernance. Ce sont précisément ces diverses normes qui seront éventuellement appelées à réguler l’IA. Avec l’émergence de normes alternatives, les juristes ont alors cru à un évincement du droit au profit notamment des normes technico-managériales (Mockle, 2002 et 2003). Considérée au départ comme un « brouillage des catégories juridiques » (Mockle, 2002), cette « mutation des normes » (Martial-Braz et al., 2011) a obligé la science juridique à se redéfinir. Le chantier le plus important qui a alors été ouvert a consisté à revisiter la théorie des sources du droit (Hachez et al, 2012 ; Gerry-Vernières, 2012). Devant ce qui a l’allure d’un reformatage du droit (Lalonde et Bernatchez, 2016), les théories de la validité juridique (Ost et Van de Kerchove, 2002 ; Ost, 2016) et de la norme (Lenoble et Maesschalck, 2009 ; Brunet, 2011) ont aussi été convoquées, notamment afin de repenser la force normative du droit (Thibierge, 2009). Que le droit soit souple ou dur, que des normativités nouvelles côtoient les sources traditionnelles du droit, ne doit toutefois pas faire perdre de vue que la question fondamentale qui consiste à comprendre comment fonctionne une norme, soit la question de l’opération normative, n’en est pas pour autant renouvelée (Lenoble, 2019) : à quelles conditions les destinataires de la norme vont-ils accepter, ou non, de s’y conformer et d’y adapter leurs comportements ?

10Le gouvernement par les règles de droit, contraignantes et assorties de sanctions, énoncées par les lois, les règlements, les décrets gouvernementaux et les arrêtés ministériels, fait de plus en plus place à la gouvernance par des normes telles que des politiques, des directives, des recommandations, des plans stratégiques, des chartes d’usagers, des codes de conduite, des codes d’éthiques, des normes ISO, etc. Ainsi, le modèle juridique de la modernité est concurrencé par la gouvernance par les normes (Thévenot, 1997 ; Tozzi et al., 2011 ; Thibierge, 2013), les standards et indicateurs (Frydman et van Waeyenberge, 2013), les instruments (Lascoumes et Le Galès, 2004), les labels (Bergeron et al., 2014), les nudges (Flückiger, 2018), les nombres (Supiot, 2015), les statistiques (Desrosières, 2014), et maintenant, les algorithmes.

11Il a donc fallu concevoir des typologies de ce droit de la gouvernance, différentes propositions ayant été formulées depuis le début du XXIe siècle. L’une d’entre elles a été élaborée par Valérie Lasserre. La professeure de l’Université du Mans distingue les données légitimantes, comme l’expertise et l’information, des normes officielles non obligatoires, comme la normalisation et les recommandations. Il peut paraître surprenant d’associer les premières, les données légitimantes, à du droit, mais c’est précisément ainsi qu’elle fonde la supériorité du droit de la gouvernance par rapport au droit souple, qui est pourtant bien connu (Association Henri-Capitant, 2009 ; Conseil d’État, 2013). Selon elle, ce dernier a cependant un caractère restrictif, en ce qu’il « se limite à des communications écrites dans la forme plus ou moins juridico-normative, comme les résolutions, les chartes, les codes de déontologie, les communications, les recommandations, la normalisation » ; la notion de droit souple « n’envisage donc pas certains phénomènes normatifs qui sont trop éloignés de la formule juridique, mais qui en réalité exercent une pression majeure sur le droit, comme par exemple les expertises techniques et la production de données informationnelles dont la connaissance, l’étude et le contrôle sont pourtant nécessaires » (Lasserre, 2015 : 350).

12La gouvernance par les algorithmes permet d’éclairer l’importance de l’information et de l’expertise ainsi comprises, c’est-à-dire comme sources de droit. Car, en effet, en matière de gouvernance algorithmique, les données deviennent elles-mêmes des instruments normatifs sur la base desquels se prennent des décisions et s’élaborent des recommandations. De plus, l’expertise des informaticiens et des ingénieurs informatiques qui procèdent à l’élaboration et la fabrication des algorithmes devient un mode de décision et, conséquemment, une forme de gouvernance.

13Le professeur Karim Benyekhlef a également proposé une typologie pour ces « normes alternatives », sans toutefois les qualifier comme étant du « droit de la gouvernance ». Il distingue les normes techniques (notamment, les normes ISO ou les normes comptables), les normes contractuelles (par exemple les contrats types ou les principes UNIDROIT), les normes comportementales (code de bonne conduite, code d’éthique, code d’éthique des affaires, code de déontologie, code de principe, charte, etc.) et, enfin, les normes informatives (logo, image, signe de reconnaissance de la qualité, écolabel ou certification équitable) (Benyekhlef, 2015).

14Avant d’examiner plus spécifiquement comment ce droit de la gouvernance, dont nous venons d’esquisser les grandes lignes, peut prétendre réguler la gouvernance algorithmique, il convient de faire un court détour étymologique afin de montrer l’origine commune de la gouvernance et de la cybernétique. Gouvernance vient du grec kubernân, qui signifie piloter ou diriger un navire. La cybernétique, dont est issue l’intelligence artificielle (De Latil, 1953), possède la même racine :

Jusqu’à une date récente, il n’existait pas de mot pour désigner ce complexe d’idées, et afin de désigner le champ tout entier par un terme unique, je me suis vu dans l’obligation d’en inventer un. D’où le mot « cybernétique » que j’ai fait dériver du mot grec kubernetes, ou « pilote », le même mot grec dont nous faisons en fin de compte notre mot « Gouverneur ». (Wiener, 2014 [1950])

15Encore faut-il préciser ici l’emploi du mot gouverneur. C’est en étudiant un article de Maxwell (1868) sur cette petite pièce qui, dans les machines à vapeur, régule l’intensité en se déplaçant en fonction de la force centrifuge qu’une production trop intensive provoque, que Norbert Wiener a réfléchi le mécanisme de rétroaction à la base de la régulation des systèmes autopoïétiques. Ainsi, en prenant l’information, la machine évite l’entropie par la rétroaction, de manière à maintenir la stabilité du système.

La faculté d’orienter et de réguler ses actions d’après les buts visés et les informations reçues correspond en fait à la définition cybernétique de l’intelligence. C’est elle qui permet le rapprochement entre l’être humain et la machine. Possédant potentiellement les mêmes capacités d’apprentissage, les machines intelligentes participent au maintien de l’ordre social en assurant son autorégulation rétroactive. (Lafontaine, 2004)

16Dans sa prétention à être reconnue comme une « nouvelle science » (Wiener, 2014 [1950]), la cybernétique s’intéresse à l’information et la régulation dans la machine et l’être vivant (Wiener, 2014 [1948]). En tant que droit régulateur (Chevallier, 1998, 2001 et 2004), le droit de la gouvernance est le programme juridique du projet cybernétique, avec lequel il partage cet objectif de diriger les conduites. La gouvernance algorithmique poursuit ce même objectif, étant même l’une des formes les plus avancées de ce modèle de pilotage des conduites. S’il en est ainsi, c’est entre autres parce que la gouvernance accorde une place importante au management, ce qui n’a pas échappé aux observations des juristes (Mockle, 2007). Fort de ses fondements cybernétiques (Rappin, 2014), le management en emprunte non seulement les concepts, mais également la philosophie : en tant que dispositif, il est un « ensemble de praxis, de savoirs, de mesures, d’institutions dont le but est de gérer, de gouverner, de contrôler et d’orienter – en un sens qui se veut utile – les comportements, les gestes et les pensées des hommes » (Agamben, 2007 : 28).

17Lui-même instrument de contrôle et de communication, le droit de la gouvernance est parfois associé à la cybernétique, notamment en matière de gouvernance par les nombres et, par extension, par les algorithmes :

Le renversement du règne de la loi au profit de la gouvernance par les nombres s’inscrit dans l’histoire longue du rêve de l’harmonie par le calcul, dont le dernier avatar – la révolution numérique – domine l’imaginaire contemporain. Cet imaginaire cybernétique conduit à penser la normativité non plus en termes de législation, mais en termes de programmation. (Supiot, 2015 : 23)

18C’est dans le mouvement Droit et communication que le lien entre droit et cybernétique a d’abord été effectué, notamment à travers le modèle horizontal et ouvert du réseau qui se présente comme une alternative au modèle hiérarchique de la pyramide :

Enfin, en ce qui concerne les « visions du monde » sous-jacentes aux deux paradigmes, on ne se trompera pas en en relevant que le modèle pyramidal repose sur une ontologie substantialiste et mécanique, centré sur la figure de l’individu, le monde de la rationalité occidentale moderne dont Hobbes et Descartes constituent deux représentants éminents, tandis que le modèle du réseau relève, quant à lui d’une ontologie relationnelle et cybernétique, liée à une pragmatique de l’intersubjectivité et de la communication : le monde complexe et récursif de l’interactivité généralisée dont on commence seulement à découvrir la grammaire. (Ost et Van de Kerchove, 2002 : 18)

19Le droit de la gouvernance comme instrument de pilotage opère cette programmation par ses normes et processus. Il convient d’examiner comment il peut offrir des possibilités de réguler l’IA.

La régulation de l’IA par le droit de la gouvernance

20Alors que de nombreuses questions sont soulevées à la fois à l’égard de la capacité des États de réguler l’IA et de celle de ces nouvelles normes (déclarations, recommandations, etc.) qui en appellent entre autres à l’autorégulation, le droit de la gouvernance offre une certaine conceptualisation de ce nouvel ordre juridique qui se met en place dans de nombreux domaines, dont la santé, les transports, l’administration publique et la justice. De plus, il permet la mise en œuvre de certains principes, tels que la légitimité, l’effectivité, la transparence, l’imputabilité, et de certains processus, tels que la normalisation, la certification, la standardisation, la participation, qui peuvent servir à réguler l’IA.

21Pour les fins du présent article, nous n’examinerons que certains modes de régulation de la gouvernance algorithmique, soit les processus de certification, de standardisation et de densification normative.

Certification et standardisation

22Le droit de la gouvernance offre différentes avenues afin de réguler l’IA. Comme le propose le rapport Villani (2018 : 140), il s’agit en fait d’ouvrir la boîte noire, notion si chère au cybernéticien Norbert Wiener, et de réfléchir le droit de la gouvernance algorithmique (De Filippi, 2017).

23Wiener a théorisé le concept de boîte noire. Les inputs qui entrent dans la machine et qui ressortiront en outputs sont traités dans une opération dont la nature et les modalités ne sont pas disponibles. Il est possible d’en connaître le comportement, sans en comprendre le fonctionnement. Ce concept de boîte noire, qui a été au cœur des travaux de Wiener, a d’ailleurs valu à la cybernétique bon nombre de critiques. L’idée selon laquelle la cause devient effet et l’effet devient cause laisse inexplorée l’opération effectuée par le système. Il y aurait d’un côté des intrants et de l’autre des extrants, qui fonctionnent en des boucles de rétroaction, sans que ne puisse être scruté le processus décisionnel qui produit ces résultats.

24Dans la logique de la gouvernance (Mockle, 2014), l’ouverture de la boîte noire serait une réponse à l’exigence de transparence. L’opacité des algorithmes est souvent soulignée comme un facteur de méfiance à leur égard. L’épisode des outils algorithmiques de traçage dans le contexte de l’urgence sanitaire provoquée par la Covid-19 a révélé clairement ce besoin de transparence. En dépend directement l’acceptabilité sociale des technologies, condition nécessaire à leur mise en œuvre. Le droit de la gouvernance insiste fortement sur l’exigence d’acception pratique des normes afin que soit possible leur mise en œuvre dans une société où l’autorité ne suffit plus à imposer le respect du droit (Lenoble et Maesschalck, 2009). Il y aurait lieu de réfléchir aussi à la place qui jouent l’expertise et l’information, en tant que données légitimantes importantes du droit de la gouvernance (Lasserre, 2015), dans le potentiel d’acceptabilité sociale des algorithmes.

25Parmi les processus de gouvernance pouvant servir à établir à la fois la transparence et l’acceptabilité sociale, la certification constitue une perspective intéressante offerte par le droit de la gouvernance (Bernatchez, 2019). La question de la certification des algorithmes a déjà été proposée récemment, avec la création d’une agence des algorithmes comparable à ce qui se fait par exemple en matière d’approbation des médicaments par la Federal Drug Administration aux États-Unis (Tutt, 2017 ; Guiraud, 2019 ; Benyekhlef et al., 2019). Cela consisterait à mettre en place un processus de certification semblable à ce qui existe dans d’autres domaines, ce qui pourrait servir de garantie pour résoudre le problème du manque de transparence des algorithmes. Comme cela a toutefois été soulevé à l’égard de la gouvernance par les labels (Bergeron et al., 2014), ou de la gouvernance par les nudges (Thaler et Sunstein, 2008 ; Flückiger, 2018), ce type de gouvernance vise « à renforcer, voire à restaurer l’autonomie (sous contrôle) des individus et à les responsabiliser, afin de gouverner leurs conduites et leurs choix » (Bergeron et al., 2014 : 12). Le label de certification pourrait accroître la confiance dans l’algorithme, et ainsi favoriser l’acceptabilité sociale de la gouvernance algorithmique.

26La certification est le processus « qui consiste à vérifier la conformité d’un produit, d’un service, à certaines caractéristiques prédéfinies » (Guiraud, 2019 : par. 19). En termes de droit de la gouvernance, la certification est l’un des modes de sécurisation et de valorisation des biens et des services appartenant à la normalisation (Lasserre, 2015) ; il s’agit de l’un des processus du droit de la gouvernance, la normalisation étant associée à la puissance des normes officielles non-obligatoires (Lasserre, 2015 : 205). En définissant par des normes techniques et des exigences éthiques les conditions de réalisation ou les procédés d’élaboration des algorithmes, la certification pourrait assurer une certaine légitimité à leur production et leur mise en œuvre.

27Il y a donc des normes à respecter pour qu’un produit soit certifié et, bien que cette certification ne soit pas obligatoire (Bernatchez, 2019 : par. 21), elle permet d’obtenir une reconnaissance labélisée. C’est une composante qui s’inscrit dans le droit de la gouvernance et qui consiste à mettre en place des standards techniques, économiques, éthiques, environnementaux, etc. Lorsque l’entreprise ou l’autorité fait la demande de certification et respecte les standards imposés, elle se voit obtenir une reconnaissance officielle. Les standards issus de la certification contiennent des recommandations et non pas des obligations, mais en cas de non-respect de ces standards, la certification se voit perdue (Guiraud, 2019 : par. 21).

28La certification prend déjà une place importante au sein du droit (Desjardins, 2015) et de l’éthique, notamment avec la certification équitable (Marchildon, 2019). Par exemple, la certification Fair trade (Desjardins, 2018) accorde aux consommateurs une assurance que les produits qu’ils achètent respectent des normes éthiques minimales en termes d’environnement et de conditions de travail des producteurs agricoles. Les normes ISO, quant à elles, fournissent des standards à suivre afin de pouvoir mettre sur le marché certains produits.

29Le droit de la gouvernance peut également prendre la forme d’une gouvernance managériale par les standards et indicateurs (Bernatchez, 2016). De tels standards s’appuient sur « des critères d’efficacité, de rendement et de performance » (Bernatchez, 2016 : 459) et révèlent un nouveau type de planification pour les institutions gouvernementales (Mockle, 2016). Une telle exigence d’efficacité ne vise pas seulement des buts économiques, mais vise aussi à atteindre une meilleure effectivité des normes. Ce faisant, la gouvernance par les standards et indicateurs pourrait servir à une éventuelle agence de l’intelligence artificielle afin d’assurer que le processus d’audit soit assez performant pour faire face aux transformations de plus en plus rapides causées par ces algorithmes.

30Dans le domaine de l’intelligence artificielle, un tel processus de certification par les standards pourrait prendre plusieurs formes afin de pallier les atteintes au droit à la vie privée et à la protection des données à caractère personnel. Entre autres, la certification permet un filtrage éthique des données (Guiraud, 2019 : par. 37), ce qui peut restreindre les potentiels abus causés par la collecte des renseignements personnels. Avant la mise en marché, une certification pourrait être nécessaire afin de vérifier que le système respecte certains standards de conception quant à la protection de la vie privée et des données. Par exemple, il pourrait être exigé que l’algorithme ne traite les données que dans un usage prédéfini, assurant ainsi qu’il n’y ait pas d’usages tierces des données collectées à la base. Une telle certification pourrait être donnée par un organisme international, comme c’est le cas des normes ISO. Une telle procédure assure une constance de la protection des données entre les États, considérant l’extra-territorialité inhérente aux systèmes composés d’algorithmes qui collectent et traitent les renseignements.

31Au terme de cette analyse du droit de la gouvernance dans le domaine de l’intelligence artificielle, il semble que les processus de certification et de standardisation peuvent s’avérer pertinents comme support au droit afin de réguler les risques que représentent les algorithmes, notamment, eu égard au droit à la vie privée et à la protection des renseignements personnels. Nous avons exemplifié des usages actuels de ce type de régulation, qui pourraient s’avérer pertinents pour la mise en place de mécanismes de régulation des algorithmes, par exemple par la certification conférée par une organisation non gouvernementale. Les outils du droit de la gouvernance permettent une adaptation rapide et fluide aux transformations actuelles de la gouvernance algorithmique. Les principes éthiques jugés essentiels pour le développement des systèmes intelligents peuvent être renforcés de manière efficace par le droit de la gouvernance, ce qui équivaut alors à une densification normative.

La densification normative

32La densification normative est l’un des processus du droit de la gouvernance. La densification normative peut se comprendre non seulement comme la multiplication de normes (densification quantitative), mais aussi par le durcissement de certaines exigences normatives (densification qualitative). Au départ souples ou molles, les normes se durcissent ; la densification de la normativité éthique peut notamment viser la montée en puissance en intensifiant la force normative : par exemple, une idée qui devient un pressenti philosophique, puis un principe éthique, peut ensuite évoluer vers une norme déclaratoire, puis obligatoire et, enfin, légale ou constitutionnelle (Thibierge, 2013 : 1107).

33Parmi les propositions de régulation de l’IA qui ont été récemment formulées, l’une d’elles consiste à encadrer éthiquement les comportements des développeurs et des utilisateurs d’algorithmes. À titre d’exemple, la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (Abrassart et al., 2018) s’est intéressée aux principes directeurs qui devraient être suivis pour le développement éthique et durable des nouvelles technologies apprenantes. Cette déclaration, qui vise à promouvoir les intérêts de tous et à fomenter les discussions, représente un bon exemple de développement éthique de l’intelligence artificielle par l’élaboration d’un cadre éthique. Les recommandations fixées par ce cadre se veulent être une « boussole éthique », qui éclaire le développement des systèmes d’intelligence artificielle et la conduite des acteurs de cette croissance numérique, en conformité avec les valeurs sociétales. La réflexion vise maintenant à développer des outils pratiques favorisant un déploiement responsable de l’intelligence artificielle, c’est-à-dire des outils réflexifs mettant en œuvre les principes de la Déclaration.

34Dans le guide de lecture qui est présenté en début de la Déclaration, il est précisé ce qui suit : « Bien que ce soit des principes éthiques, ils peuvent être traduits en langage politique et interprétés de manière juridique ». Voilà, le document de la déclaration vient lui-même prévoir la densification normative des principes éthiques.

35Dans la Déclaration de Montréal, le premier principe concerne le bien-être, notamment afin d’éviter que l’intelligence artificielle ne soit une source de harcèlement dans la vie des individus. La surveillance de masse n’entre pas dans le cadre de cette recommandation et nous semble devoir être modulée pour éviter un mal-être généralisé. Le deuxième principe mérite attention puisqu’il précise le besoin de respecter l’autonomie des individus. Cette composante de l’autonomie individuelle s’inscrit dans le cadre des atteintes au droit à la vie privée qui doivent être évitées. Toute forme de consentement forcé à l’utilisation de l’intelligence artificielle ne serait pas conforme à la proposition d’éviter de prescrire aux citoyens de vivre d’une certaine manière à l’aide de technologies de surveillance (par exemple les logiciels de traçage des contacts dans le cas de la COVID-19). Le troisième principe traite de la protection de la vie privée et s’inscrit donc dans le cadre des risques d’atteinte à la vie privée et au problème de la protection des données à caractère personnel. Particulièrement, il importe de laisser le choix aux individus d’être déconnectés du numérique quand bon leur semble. Par exemple, le projet de système d’identité numérique pose certainement un défi quant à la déconnexion du numérique puisque toutes les données sont transposées de manière permanente sur une plateforme virtuelle. Il importe de ce fait de se questionner sur l’envahissement possible de ces technologies sur la vie privée afin de les rendre conformes au cadre prévu par la présente Déclaration. Finalement, le huitième principe, celui de la prudence, met l’accent sur les mesures à prendre pour éviter des atteintes démesurées au sein de la population. Il prévoit particulièrement le besoin de protéger les données personnelles des utilisateurs, ce qui s’inscrit dans le cadre des atteintes possibles à la protection des renseignements personnels.

36D’autres liens peuvent être tracés avec le droit de la gouvernance dans ce contexte. D’une part, ce droit s’intéresse aux diverses formulations normatives, qu’elles soient moins contraignantes, et plus recommandatoires, incitatives ou promotionnelles. Cela s’inscrit dans les suites du droit souple, doux ou mou. D’autre part, le droit de la gouvernance inclut les normes à exigence de réflexivité, qui en appellent aux destinataires de la norme pour la construction de leur sens et leur application contextuelle (Lalonde et Bernatchez, 2011). Parmi ces normes, les lois sur l’éthique, ou les lois éthiques (Lalonde, 2011), qui peuvent être comprises comme relevant du phénomène de l’éthicisation du droit, sont un exemple de lien possible entre l’éthique et le droit, alors que ce dernier se fond dans une approche éthique (Lacroix et Marceau, 2019).

Conclusion

37Les processus de normalisation que sont la certification et la standardisation ainsi que le processus de densification normative ne sont que quelques-uns des processus de gouvernance qui peuvent être convoqués pour réguler la gouvernance algorithmique. La participation en est un autre. Est aussi exigée une certaine capacité réflexive de la part des utilisateurs et des concepteurs de l’IA. Le processus réflexif est un autre mécanisme procédural de la gouvernance.

38Lorsque la Déclaration de Montréal fait appel aux destinataires dans la construction d’un développement responsable de IA, elle sollicite certes la participation et la réflexivité des différents acteurs. C’est en ce sens qu’elle est « adressée à toute personne, toute organisation de la société civile et toute compagnie désireuses de participer au développement de l’intelligence artificielle de manière responsable, que ce soit pour y contribuer scientifiquement et technologiquement, pour développer des projets sociaux, pour élaborer des règles (règlements, codes) qui s’y appliquent, pour pouvoir en contester les orientations mauvaises ou imprudentes, ou encore pour être en mesure de lancer des alertes à l’opinion quand cela est nécessaire ». En impliquant ainsi les différentes parties prenantes, la gouvernance algorithmique fait participer les personnes, organisations et autres entreprises qui développent et appliquent les algorithmes. Il restera, bien sûr, à montrer à quelle condition la gouvernance algorithmique peut être considérée comme une gouvernance participative et réflexive.

39Il ne faudrait pas s’étonner des limites du droit de la modernité juridique à réguler un phénomène postmoderne comme la gouvernance algorithmique. Le modèle juridique de la pyramide semble mal convenir pour assurer la régulation de ce qui se développe suivant le modèle du réseau. C’est pourquoi le droit de la gouvernance semble offrir un potentiel intéressant afin de réguler la gouvernance algorithmique.

Haut de page

Bibliographie

Abrassart, Christophe et al. (2018), La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle.

Agamben, Giorgio (2007), Qu’est-ce qu’un dispositif ?, Paris, Payot.

Association Henri-Capitant, Le droit souple, t. XIII, Paris, Dalloz, 2009.

Barraud, Boris (2018) « Les algorithmes au cœur du droit et de l’État postmodernes », Revue internationale de droit des données et du numérique, Éditions de l’IMODEV, L’État algorithmique, 4, p. 37-52.

Benyekhlef, Karim (2008), Une possible histoire de la norme. Les normativités émergentes de la mondialisation, Montréal, Thémis (2e éd., 2015).

Benyekhlef, Karim Jie Zhu et Valentin Callipel (2019), « La responsabilité humaine à l’épreuve des décisions algorithmiques, perspective canadienne », dans J.-B. Hubin, H. Jacquemin et B. Michaux (dir.), Le juge et l’algorithme : juges augmentés ou justice diminuée ?, Paris, Larcier, p. 153-188.

Bergeron, Henri, Patrick Castle et Sophie Duboisson-Quellier (2014), « Gouverner par les labels. Une comparaison des politiques de l’obésité et de la consommation durable », 2014/3, no 3, Varia, p. 7-31.

Bernatchez, Stéphane (2016), « L’arrêt Jordan, le management de la justice et le droit de la gouvernance : de la conversion des droits en nombres à la transformation de la culture juridique », Revue de droit de l’Université de Sherbrooke, vol. 46, no 3, p. 451-505.

Bernatchez, Stéphane (2020), « De la démocratie par le droit à la dictature des algorithmes ? La théorie juridique à l’ère cybernétique », Lex Electronica, vol. 25, no 3, p. 10-33.

Brunet, François (2011), La normativité en droit, Paris, Mare & Martin.

Chevallier, Jacques (1998), « Vers un droit post-moderne ? Les transformations de la régulation juridique », Revue du droit public et de la science politique, Librairie générale de droit et de jurisprudence, p. 659-714.

Chevallier, Jacques (2001), « La régulation juridique en question », Droit et Société, no 49, p. 827-846.

Chevallier, Jacques (2004), « L’État régulateur », Revue française d’administration publique, vol. 111, no 3 p. 473-482.

Chevallier, Jacques (2005), « La gouvernance et le droit », dans Paul Amselek, Mélanges, Bruxelles, Bruylant, p. 189-207.

Conseil d’État (2013), Le droit souple, Étude annuelle 2013, Paris, La documentation française.

Dahan, Ariel (2019), « Big data juridique et Justice algorithmique : y a-t-il encore un juriste dans le prétoire ? », dans A. Masson et H. Bouthinon-Dumas (dir.), L’innovation juridique et judiciaire. Méthodologie et perspectives, Bruxelles, Larcier, p. 185.

De Filippi, Primavera (2017), « Repenser le droit à l’ère numérique : entre la régulation technique et la gouvernance algorithmique », dans P.-E. Moyse et V. Gautrais (dir.), Droit + Machine, Montréal, Thémis, p. 53-95.

De Latil, Pierre (1953), Introduction à la cybernétique. La pensée artificielle, Paris, Gallimard.

De Montalivet, Pierre (dir.) (2011), Gouvernance et participation, Bruxelles, Bruylant.

Desjardins, Marie-Claude (2015), La certification du commerce équitable depuis une perspective juridique. L’exemple du secteur viticole, Montréal, Éditions Yvon Blais.

Desjardins, Marie-Claude (2018), « Le droit étatique et la certification équitable : des rapports d’hétéronomie », Les Cahiers de droit, vol. 59, no 1, p. 143-166.

Desrosières, Alain (2014), Prouver et gouverner. Une analyse politique des statistiques publiques, Paris, La Découverte.

Dumont, Fernand (1968), Le lieu de l’homme. La culture comme distance et mémoire, Montréal, Bibliothèque québécoise (rééd.1994).

Dworkin, Ronald (1986), Law’s Empire, Cambridge (Mass.), Harvard University Press.

Fair trade, « Qu’est-ce que Fair trade ? », [en ligne], https://www.fairtrade.ca/fr-CA/Qu-est-ce-que-Fairtrade (consulté le 7 août 2021).

Faure, Juliette (2018), « L’intelligence artificielle peut-elle nous gouverner ? », Diploweb.com : La revue géopolitique, 24 janvier.

Flückiger, Alexandre (2018), « Gouverner par des “coups de pouce” (“nudges”), instrumentaliser nos biais cognitifs au lieu de légiférer ? », Les Cahiers de Droit, vol. 59, no 1, p. 199-227.

Frydman, Benoît et Arnaud van Waeyenberge (dir.) (2013), Gouverner par les standards et les indicateurs. De Hume aux rankings, Bruxelles, Bruylant.

Gerry-Vernières, Stéphane (2012), Les « petites » sources du droit. À propos des sources étatiques non contraignantes, Paris, Economica.

Gibert, Martin (2020), Faire la morale aux robots, Montréal, Éditions Ateliers 10.

Guiraud, Émilie (2019), « Le rôle de l’éthique dans la mise en place d’une certification pour l’utilisation d’algorithmes dans le système juridique », Éthique publique, vol. 21, no 1, [en ligne], http://journals.openedition.org/ethiquepublique/4429 (consulté le 7 août 2021).

Hachez, Isabelle et al. (dir.), Les sources du droit revisitées, 4 vol., Limal, Anthémis.

Institut des ingénieurs électriciens et électroniciens (IEE) (2019), The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, « General Principles », 2019, [en ligne], https://standards.ieee.org/content/dam/ieee-standards/standards/web/documents/other/ead1e_general_principles.pdf (consulté le 7 août 2021).

ISO, « Certification, normes et conformité », [en ligne], https://www.iso.org/fr/certification.html (consulté le 7 août 2021).

Lacroix, André et Emmanuelle Marceau (2019), « Éthique et droit : des rapports complexes et variables pour réguler l’espace public », dans Stéphane Bernatchez et Louise Lalonde (dir.), Approches et fondements du droit. Tome 3 : Interdisciplinarité et théories critiques, Montréal, Éditions Yvon Blais, p. 187-216.

Lafontaine, Céline (2004), L’empire cybernétique. Des machines à penser à la pensée machine, Paris, Seuil.

Lascoumes, Pierre et Patrick Le Galès (2004), Gouverner par les instruments, Paris, Sciences-Po, Les Presses.

Lasserre, Valérie (2015), Le nouvel ordre juridique. Le droit de la gouvernance, Paris, LexisNexis.

Lalonde, Louise (2003), « Les modes de PRD : vers une nouvelle conception de la justice ? », Revue de prévention et de règlement des différends, vol. 2, no 1, p. 17-43.

Lalonde, Louise (2011), « Les “Lois Éthiques”, un défi pour le droit », Éthique publique, vol. 13, no 1, [en ligne], https://doi.org/10.4000/ethiquepublique.394 (consulté le 7 août 2021).

Lalonde, Louise et Stéphane Bernatchez (2011), « L’hypothèse des lois à exigence de réflexivité : un instrument de gouvernance réflexive et un grand défi pour la théorie du droit », dans Louise Lalonde et Stéphane Bernatchez (dir.), La place du droit dans la nouvelle gouvernance étatique, Sherbrooke, Éditions Revue de droit de l’Université de Sherbrooke, p. 159-220.

Lalonde, Louise et Stéphane Bernatchez (dir.) (2016) avec la collaboration de Georges Azzaria, La norme juridique « reformatée ». Perspectives québécoises des notions de force normative et de sources revisitées, Sherbrooke, Éditions Revue de droit de l’Université de Sherbrooke.

Lascoumes, Pierre et Patrick Le Galès (2004), Gouverner par les instruments, Paris, Sciens-Po, Les Presses.

Lasserre, Valérie (2015), Le nouvel ordre juridique. Le droit de la gouvernance, Paris, LexisNexis.

Legault, Georges A. (2001), Les modes de règlement des différends : vers une autre « justice » ?, Sherbrooke, GGC Éditions/Université de Sherbrooke, Collection Essais et Conférences, doc. 11.

Lenoble, Jacques (2019), « Retour sur Droit, Mythe et Raison : comment penser l’obéissance à la loi ? Sur les traces de Freud, Lefort et Castoriadis », dans Stéphane Bernatchez et Louise Lalonde (dir.), Approches et fondements du droit. Tome 3 : interdisciplinarité et théories critiques, Montréal, Thémis.

Lenoble, Jacques et Marc Maesschalck (2009), L’action des normes. Éléments pour une théorie de la gouvernance, Sherbrooke, Éditions Revue de droit de l’Université de Sherbrooke.

Maesschalck, Marc (2017), Gouvernance réflexive de la recherche et de la connaissance innovante, London, ISTE Éditions.

Marceau, Emmanuelle (2015) Les défis de l’éthicisation du droit : validité conceptuelle des lois éthiques en contexte québécois, Thèse de doctorat, Université de Sherbrooke.

Marchildon, Allison (2019), « Éthique et certifications de commerce équitable : entre contrôle et capacitation », Éthique publique, vol. 21, n1, [en ligne], https://journals.openedition.org/ethiquepublique/4509 (consulté le 7 août 2021).

Marique, Enguerrand et Alain Strowel (2017), « Gouverner par la loi ou les algorithmes : de la norme générale de comportement au guidage rapproché des conduites », Dalloz IP/IT 517, vol. 2017, no 10, p. 517-521.

Martial-Braz (2011), Nathalie, Jean-François Riffard et Martine Behar-Touchais (dir.) Les mutations de la norme. Le renouvellement des sources du droit, Paris, Economica.

Maxwell, James C. (1868), « On Governors », in the Proceedings of the Royal Society of London.

Mockle, Daniel (2002), « Gouverner sans le droit ? Mutation des normes et nouveaux modes de régulation », Les Cahiers de droit, vol. 43, no 2, p. 143-211.

Mockle, Daniel (2003), « L’évincement du droit par l’invention de son double : les mécanismes néo-réglementaires en droit public », Les Cahiers de droit, vol. 44, no 3, p. 297-360.

Mockle, Daniel (2006), « La gouvernance publique et le droit », Les Cahiers de droit, vol. 47, no 1, p. 89-165.

Mockle, Daniel (2007), La gouvernance, le droit et l’État, Bruxelles, Bruylant.

Mockle, Daniel (2014), « Les principes de la nouvelle gouvernance publique », dans G. J. Guglielmi et É. Zoller (dir.), Transparence, démocratie et gouvernance citoyenne, Paris, Éditions Panthéon-Assas, p. 89.

Mockle, Daniel (2016), « Politiques, directives et instruments de gestion », JurisClasseur Québec, coll. « Droit public », Droit administratif, fasc. 5, Montréal, LexisNexis Canada.

O’Neil, Cathy (2018), Algorithmes. La bombe à retardement, Paris, Les Arènes.

Ost, François (2016), « Penser le droit aujourd’hui. L’exemple de la théorie des sources », dans L. Lalonde et S. Bernatchez (dir.), La norme juridique reformatée ; perspectives québécoises des notions de force normative et de sources revisitées, Sherbrooke, Éditions Revue de droit de l’Université de Sherbrooke, p. 433.

Ost, François et Michel van de Kerchove (2002), De la pyramide au réseau ? Pour une théorie dialectique du droit, Bruxelles, Publications universitaires Saint-Louis.

Pasquale, Frank (2015), The Black Box Society. The Secret Algorithms That Control Money and Information, Cambridge, Harvard University Press.

Pigache, Christian (dir.) (2004), Les évolutions du droit – contractualisation et procéduralisation, Rouen, PUR.

Rappin, Baptiste (2014), Au fondement du Management. Théologie de l’Organisation, volume 1, Nice, Éditions Ovadia.

Rozenfield, Monica (2017), Seven IEEE Standards Projects Provide Ethical Guidance for New Technologies, [en ligne], http://theinstitute.ieee.org/resources/standards/seven-ieee-standardsprojects-provide-ethical-guidance-for-new-technologies (consulté le 7 août 2021).

Schmitter, Philippe (2000), « Réflexions liminaires à propos du concept de gouvernance », dans La démocratie dans tous ses états, Bruxelles, Bruylant, p. 51.

Supiot, Alain (2015), La gouvernance par les nombres, Paris, Fayard.

Thaler, Richard H. et Cass R. Sunstein (2008), Nudge: Improving Decisions About Health, Wealth and Happiness, New Haven Yale University Press.

Thévenot, Laurent (1997), « Un gouvernement par les normes. Pratiques et politiques des formats d’information », dans B. Conein et L. Thévenot (dir.), Cognition et information en société, Paris, Éditions de l’EHESS (Raisons Pratiques 8), p. 205-241.

Thibierge, Catherine et al. (2009), La force normative. Naissance d’un concept, Paris, Librairie générale de droit et de jurisprudence, Bruxelles, Bruylant.

Thibierge, Catherine et al. (2013), La densification normative. Découverte d’un processus, Paris, Éditions Mare & Martin.

Tozzi, Pascal, Stéphane Guéneau et Abdourahmane Ndiaye (2011), « Gouverner par les normes environnementales : jeux d’acteurs et de puissance dans la certification forestière », Espaces et société, vol. 146, no 3, p. 123-139.

Triclot, Mathieu (2008), Le moment cybernétique. La constitution de la notion d’information, Seyssel, Champ Vallon.

Turinetti, Alice (2018), La normalisation. Étude en droit économique, Paris, Éditions Publibook.

Tutt, Andrew (2017), « An FDA for Algorithms », Administrative Law Review, vol. 69, p. 119-160.

Villani, Cédric (2018), Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne, Paris, Documentation française.

Walz, Axel et Kay Firth-Butterfield (2018-2019), « Implementing ethics into artificial intelligence: a contribution, from a legal perspective, to the development of an al governance regime », Duke Law & Technology Review, vol. 17 p. 199, [en ligne], https://scholarship.law.duke.edu/cgi/viewcontent.cgi?article=1352&context=dltr (consulté le 7 août 2021).

Wiener, Norbert (2014 [1948]) La cybernétique. Information et régulation dans le vivant et la machine, Paris, Seuil/ Cybernetics or Control and Communication in the Animal and the Machine, Cambridge, The MIT Press.

Wiener, Norbert (2014 [1950]), Cybernétique et société. L’usage humain des êtres humains, Paris, Seuil, p. 47 / The Human use of Human Beings. Cybernetics and Society, Boston, Houghton Mifflin Harcourt Publishing.

Haut de page

Pour citer cet article

Référence électronique

Stéphane Bernatchez, Alexandra Bouchard et Sarah-Maude Bélanger, « Le droit de la gouvernance pour réguler la gouvernance algorithmique »Éthique publique [En ligne], vol. 23, n° 2 | 2021, mis en ligne le 22 février 2022, consulté le 09 février 2026. URL : http://journals.openedition.org/ethiquepublique/6559 ; DOI : https://doi.org/10.4000/ethiquepublique.6559

Haut de page

Auteurs

Stéphane Bernatchez

Stéphane Bernatchez est professeur titulaire à la Faculté de droit de l’Université de Sherbrooke. Il est également chercheur au Centre de recherche sur la régulation et le droit de la gouvernance (CrRDG) de l’Université de Sherbrooke et chercheur au sein de l’Observatoire international sur les impacts sociétaux de l'IA (OBVIA).

Articles du même auteur

Alexandra Bouchard

Alexandra Bouchard est doctorante à la Faculté de droit de l’Université de Sherbrooke et étudiante-chercheure au Centre de recherche sur la régulation et le droit de la gouvernance (CrRDG).

Sarah-Maude Bélanger

Sarah-Maude Bélanger est étudiante à la Faculté de droit de l’Université de Sherbrooke et stagiaire au Centre de recherche sur la régulation et le droit de la gouvernance (CrRDG).

Haut de page

Droits d’auteur

Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search