- 1 La version du 7 septembre 2020, intitulée “Avant-projet de recommandation sur l’éthique de l’intell (...)
- 2 Soutiens financiers des gouvernements du Québec et du Canada et de Mila – Institut québécois d'inte (...)
1En 2019, l’UNESCO a marqué un jalon important en annonçant l’élaboration d’un des premiers instruments normatifs pour une utilisation responsable de l’IA : la Recommandation sur l’éthique de l’intelligence artificielle1(IA) À la suite d’une résolution de la 40e Conférence générale de novembre 2019, un Groupe d’experts Ad hoc (GEAH) fut créé pour produire une version préliminaire. Publié en mai 2020, ce document proposait 58 recommandations de politique publique classées selon 11 actions stratégiques, dans les domaines d’action de l’UNESCO : éducation, science, culture, communication et information. L’UNESCO a lancé une consultation sur ce document afin de recueillir une diversité d’opinion qui déborde le cercle des expert.e.s du GEAH. Cette consultation se déclinait en trois processus : un sondage en ligne, une consultation de parties prenantes au niveau national et régional, et enfin d’une délibération multipartite et citoyenne. C’est cette délibération que l’équipe d’ Algora Lab s’est vue confiée et qu’elle a menée sous le nom de « Dialogue Inclusif sur l’Éthique de l’Intelligence Artificielle » (Open Dialogue on AI Ethics - ODAI)2.
2Dans les dernières années, l’IA a intégré de façon croissante les considérations éthiques. On peut définir l’éthique appliquée à l’intelligence artificielle, le domaine de l’éthique qui se demande “ce qui est bon, juste ou vertueux dans la mise en œuvre des systèmes d’intelligence artificielle” (Gibert, 2019). C’est un champ dans lequel on tente de réfléchir, d’identifier et de proposer une utilisation de l’IA qui soit en accord avec une manière d’être commune, c’est-à-dire un ensemble de valeurs et de principes qui sont spécifiques à une société. Il faut ici distinguer deux manières de concevoir l’éthique, à la fois comme ensemble de normes et de principes applicables, mais également, comme une manière d’être collective tendue vers un bien commun.
3Par ailleurs, de très nombreux documents ont été publiés par des universités, sociétés privées, fondations et entités publiques. Ces documents ont permis de mettre au premier plan l’importance des principes éthiques pour encadrer un développement responsable de l’IA. Toutefois, elles ont rarement intégré les consultations citoyennes pour directement inspirer ces textes ou les améliorer, à quelques exceptions près comme la Déclaration de Montréal pour un Développement Responsable de l’IA au Canada (Dilhac, Abrassart & Voarino, 2018). Dans ce contexte, l’ODAI est la première expérience délibérative civique à visée internationale en éthique de l’IA.
4Le processus avait comme objectif principal d’intégrer des perspectives citoyennes de différentes régions du monde sur les enjeux et principes en éthique de l’IA. Initialement prévu en face à face, il a été principalement effectué en ligne en raison de la pandémie de COVID-19. En dépit du contexte sanitaire, ce projet a mobilisé 611 personnes de 54 pays en deux mois. L’ODAI avait différentes portées : (1) sociale par le biais de la formation et de l’accompagnement des facilitateurs et facilitatrices ; (2) politique en raison de la nature de la Recommandation de l’UNESCO ; (3) culturelle en raison des différences de valeurs et principes propres à chaque région ou communauté consultée ; (4) épistémique en mobilisant activement des expertises différentes sur des enjeux éthiques et sociétaux.
5Par conséquent, il s’agit de nous poser la question suivante, à savoir, comment les organisations internationales peuvent-elles utiliser la délibération dans le cadre de leurs efforts de régulation éthique de l’IA ? En d’autres termes, en quoi la forme délibérative peut-elle être un outil pertinent et ambitieux afin d’encadrer le développement de l’IA ?
6Dans un premier temps, cet article présentera le cadre théorique et méthodologique de cette délibération ; dans un deuxième temps, il analysera les enjeux auxquels nous avons été confrontés ; pour enfin, formuler des recommandations pour de futures délibérations sur l’IA.
7On observe une convergence dans l’identification de certains principes à appliquer au sein des recherches en éthique de l’IA, avec toutefois, une légère différence quant à la réalisation ou l'interprétation de ces dits principes (Jobin, Ienca, Vayena, 2019). Dès lors, comment aller au-delà de ce consensus lié à cette concentration de principes et enraciner ces mêmes principes dans des contextes sociaux et culturels spécifiques ? À cette réponse la délibération apparaît comme un outil des plus intéressants.
8La délibération générale est un processus démocratique qui se distingue de celui de la consultation, au cours de laquelle les citoyens et citoyennes sont amenés à échanger, débattre voire décider quant à un objet spécifique (Blondiaux, 2008). La délibération ne vise pas simplement à recueillir des opinions, mais à faire émerger une décision collective, ou un accord collectif à partir des divergences et des convergences d’opinions et d’arguments, et des rationalités qui les sous-tendent (Habermas, 1992). Les bénéfices de la délibération ne sont pas seulement instrumentaux, mais également intrinsèques (Girard, 2019). Y recourir permet de légitimer les décisions politiques, en reflétant les intérêts réels des citoyen.ne.s et non apparents, pour reprendre une distinction rousseauiste (Rousseau, 1761). Mais plus encore, elle a un effet immédiat sur les participant.e.s. Au niveau collectif, la délibération peut renforcer le lien social. Et au niveau individuel elle permet de modifier et d’informer les préférences ou les croyances des participant.e.s (Manin, 1985). Enfin, la délibération est par nature démocratique, car elle repose en principe sur l’égalité de statut des participant.e.s et reconnaît leur égale liberté dans la prise de parole. Enfin, elle réalise l’idéal de publicité puisque les décisions sont prises selon des raisons connues de tou.te.s et accessible à tou.te.s (Blondiaux & Sintomer, 2002 ;, Girard, 2019).
9Dès lors, engager les publics dans cette démarche d’encadrement de l’IA permet deux principaux effets : d’une part, 1) l’enrichissement des principes par une ouverture épistémique liée à la diversité des voix politiques et sociales exprimées à travers la démarche délibérative, et d’autre part 2) la légitimation de l’élaboration potentielle d’un encadrement de l’IA au sein d’une société (Buhmann et Fieseler, 2021). La structure de la délibération comme instance multipartite et légitimatrice permet également aux instances internationales d’obtenir des informations et des requêtes de la part des publics, afin de tendre vers un développement responsable et commun de l’IA (ce qu’on peut entendre par les appellations largement usitées AI for Good ou AI for Humanity).
- 3 Pour lire la méthodologie complète, merci de consulter la section 4 à la page 66 du rapport complet (...)
10Nous avons proposé deux modalités de délibération citoyenne3.
11Le premier type d’atelier mobilisait 8 à 10 personnes, pendant 2h45 sur un thème préalablement identifié. Chaque groupe de participant.e.s devait, dans la mesure du possible, présenter une parité hommes-femmes, une diversité générationnelle avec des jeunes (entre 18 et 35 ans), avoir des personnes issues de communautés marginalisées et une représentation de secteurs d’activités clés (éducation, professions de soins, société civile, industrie, etc.). Ce format a permis de récolter des données qualitatives sur les recommandations spécifiques, d’évaluer celles-ci et de proposer des formulations alternatives, voire de proposer de nouvelles politiques publiques. Au total, 287 participant.e.s ont participé à 37 ateliers délibératifs.
12Le second type d’atelier nous permettait de mobiliser un plus grand nombre de personnes sur une durée plus courte (environ deux heures), et obtenir davantage de données « quantitatives ». Nous l’avons intitulé : délibinaire, car sa structure est à mi-chemin entre une délibération et un webinaire. Les critères d’inclusion des participant.e.s étaient similaires au format précédent. 11 délibinaires ont eu lieu impliquant 324 participant.e.s. Ce format avait une visée pratique : il permettait de mobiliser de façon souple plus de participants (généralement dans les réseaux d’organisations partenaires). Cependant, un délibinaire n’est pas un format standard de délibération et ne peut pas être entièrement comparé à une délibération classique : d’abord, le temps réduit de l’activité limite la formulation et l’échange d’arguments ; en outre, ce format de consultation, plus souple, permet d’exprimer ses opinions, mais ne réalise pas pleinement l’objectif délibératif de formation et de modification des préférences ni de parvenir à une décision commune.
13Nous avons décidé d’aborder les différentes parties de la Recommandation à travers sept thématiques. Les thèmes de délibération de l’ODAI ont été choisis à partir des domaines clés de l’UNESCO et des thématiques prioritaires exprimées dans le document : accès aux données, diversité et inclusion, éducation, environnement, confiance et responsabilité et enfin redevabilité. Pour chaque thème, nous avons développé et fourni aux facilitateur.rice.s une fiche thématique pour les aider à s’approprier le sujet. Pour illustrer les thèmes dans des situations de la vie quotidienne, nous avons élaboré des scénarios prospectifs de déploiement de l’IA dans un contexte particulier. Chaque cas a fait l’objet d’une illustration par un illustrateur spécialisé en vulgarisation scientifique. Le cas d’usage est un catalyseur en ce qu’il stimule l’imagination morale et permet d’amorcer une réflexion critique sur les potentiels effets de cette utilisation de l’IA. Durant les ateliers délibératifs, les participant.e.s étaient amené.e.s à évaluer les recommandations en lien avec la thématique selon trois critères : la suffisance ou la capacité de la norme à répondre aux questions éthiques clés du cas d’usage de l’IA ; la pertinence ou l’adéquation des propositions au cas d’usage de l’IA ; et enfin l’applicabilité de la norme ou la possibilité d’implémenter la norme dans un contexte particulier.
14Afin de consulter des participant.e.s dans le monde entier en un temps très court, c’est-à-dire un mois, des facilitateur.rice.s locaux ont été recruté.e.s par le biais de réseaux académiques, professionnels, diplomatiques et personnels (voir schéma n° 1 ci-dessous). Leur rôle est essentiel : participation au recrutement des participant.e.s, organisation de l’atelier, animation de la discussion et rédaction d’un document de synthèse de la délibération. Des espaces d’échange et de discussion accueillant ont pu être créés parce que les facilitateur.rice.s tendent à être plus naturellement reconnu.e.s par leur communauté, parlent la même langue, comprennent et appliquent les codes culturels des participant.e.s. Décentraliser le processus de délibération permet de mieux prendre en considération les spécificités culturelles
15Les personnes responsables de la facilitation ont été accompagnées tout au long du processus. D’abord, ils et elles ont été forméess individuellement par l’équipe de l’ODAI (1), ils et elles ont acquis six compétences ciblées allant des notions fondamentales de l’IA aux outils d’animation d’un atelier délibératif. Ensuite, ils et elles ont reçu du matériel délibératif (fiches thématiques, guide d’animation, guide à la prise de notes) afin d’être pleinement autonome dans la mise en place de l’atelier (2). Enfin, ils.elles étaient appuyé.e.s dans leur démarche par un système d’accompagnement personnalisé : deux membres de l’équipe de l’ODAI pouvaient répondre à leurs questions, les soutenir dans les aspects logistiques, créer des affiches de recrutement, etc. (3).
Fig. 1 : Acteur.rice.s et processus de l’ODAI
16Nous proposons une analyse critique du projet autour de deux concepts : d’abord la notion de représentativité dans un projet délibératif et ensuite, la capacité à solliciter un objectif de rationalité.
17À la source des théories délibératives (Blondiaux & Sintomer, 2002), se trouve la conviction que chaque membre de la cité doit pouvoir participer aux décisions qui affectent la vie commune et que ces décisions doivent être prises de manière publique. Or, dans la réalité politique des démocraties contemporaines, on constate l’absence de participation de certaines parties de la population. Comment l'expliquer ? Cette absence est-elle due à un manque d’intérêt pour les affaires politiques ? N’est-il pas possible d’y remédier en modifiant les conditions matérielles de la délibération ? Dans le cadre international du projet ODAI, le profil de personnes consultées s’est avéré peu représentatif de la composition de la population mondiale, malgré les efforts pour inclure une grande diversité de communautés (Algora Lab, 2020). Les disparités de la participation à la délibération s’expliquent par une inégalité d’accès aux instances de délibération qui a plusieurs sources : la situation économique, la classe sociale, les normes culturelles, le niveau d’éducation (Gaxie, 1978).
18Nous avons noté les tendances suivantes quant aux participant.e.s. D’abord, nous avons atteint l’objectif de parité des genres, avec 49 % de femmes et 51 % d’hommes (Algora Lab, 2020). Un total de 41 % des participant.e.s ayant remplis le sondage post-délibération se sont identifié.e.s comme appartenant à un groupe marginalisé (Algora Lab, 2020). Quant au niveau d’éducation des participant.e.s, nous avons cependant noté que 73 % d’entre eux avait un diplôme universitaire (Algora Lab, 2020), ce qui n’est évidemment pas représentatif de la population mondiale (Roser & Ortiz-Ospina, 2016). Il est aussi important de noter que 65 % des répondant.e.s à notre sondage post-délibération ont déclaré avoir entre 18 et 34 ans (Algora Lab, 2020). Bien que cette statistique démontre une surreprésentation de ce groupe d’âge (Ritchie, 2019), nous avons cependant réussi à atteindre des personnes de presque tous les groupes d’âge (à l’exclusion des 65-74 ans) (Algora Lab, 2020). Cette surreprésentation des 18 à 34 ans s’inscrit cependant dans un contexte où ce groupe d’âge est habituellement sous-représenté dans la sphère politique et décisionnelle. Par ailleurs, les personnes n’ayant pas accès à une connexion internet et à un appareil de communication n’ont pas pu participer à l’ODAI. Il est également évident que l’échantillon total de 611 participant.e.s n’est pas représentatif de l’entièreté de la population des États membres de l’UNESCO. Néanmoins, le but n’était pas de recueillir un échantillon représentatif selon une représentation miroir, ou de présenter des résultats qui pourraient être de facto universels, mais plutôt d’obtenir un ensemble d’arguments convergents par la rationalisation des échanges. De fait, plusieurs positions communes ont émergé indépendamment du contexte culturel, mais cette tendance était plus nettement visible au niveau de pays où ont eu lieu plusieurs délibérations et où les participants partageaient des caractéristiques communes : niveau d’éducation, classe sociale, et connaissance des enjeux liés à l’IA. Somme toute, le processus délibératif a atteint une représentativité démographique partielle, mais qui a néanmoins apporté des contributions uniques à la construction de la Recommandation.
19Une réflexion sur l’inclusivité ne serait pas complète sans les critiques au processus de consultation adressées dans la délibération non-mixte des participant.e.s autochtones de plusieurs pays. Le processus de consultation de l’UNESCO—et par extension, le nôtre dans une certaine mesure—a été décrit comme incluant des personnes autochtones de façon tokénisante (Consultation mondiale des peuples autochtones ayant eu lieu le 11 août 2019, Algora Lab, 2020). Le tokénisme renvoie à une certaine pratique voulant inclure les communautés historiquement marginalisées de façon superficielle ou à des fins de stratégie de communication (Meziani, 2014). En outre, des participant.e.s ont perçu que l’agenda était déjà pré-établie et que les résultats étaient également prédéterminés (Consultation mondiale des peuples autochtones ayant eu lieu le 11 août 2019, Algora Lab, 2020). Le fait que cette délibération se soit déroulée vers la fin du processus de consultation a également été perçu négativement. Bref, il a été demandé à l’UNESCO d’inclure en amont et véritablement les peuples autochtones.
20Nous voyons ici quelques éléments pouvant nourrir notre réflexion. D’abord, bien que l’UNESCO ait fait avant la création du groupe Ad hoc certaines activités de discussion sur l’IA (Hu et al., 2019), à notre connaissance, aucune activité de consultation n’a été réalisée spécifiquement auprès des peuples autochtones. Il est vrai que l’exercice de délibération sur l’IA était contraint par un cadre institutionnel et un document rédigé sans leurs avis au préalable. De notre côté, lors de la rédaction du rapport, nous avons tenté d’accorder une place aux opinions très critiques de la Recommandation (Algora Lab, 2020). Ensuite, certains éléments sont liés aux limites temporelles. Nous pouvons imaginer que les participant.e.s étaient au courant des échéanciers et donc savaient que l’équipe de l’ODAI devait soumettre un rapport à l’UNESCO très rapidement après leur délibération. Cela a possiblement joué dans la perception que leurs avis n’allaient pas être suffisamment pris en compte. Avoir plus de temps nous aurait également permis d’organiser davantage d’ateliers non mixtes auprès de communautés autochtones et autres communautés historiquement marginalisées d’une façon qui soit satisfaisante pour celles-ci.
21Certain.e.s auteur.e.s avancent l’idée que les consultations citoyennes sur les technologies favorisent la rationalité technique (Cheyns, 2010) et représentent souvent un « instrument de dépolitisation au service d’un projet néolibéral » (Blondiaux, 2008). La rationalité technique (ou instrumentale) concerne exclusivement l’efficacité des moyens pour atteindre les fins (Dusek, 2006, Marcuse, 2001). De plus, il existe de nombreuses critiques féministes liées à cet idéal délibératif, notamment parce que la délibération privilégie l’impartialité (plutôt que le point de vue situé) (Harding, 1991, Stengers, 2002), la formulation d’arguments rationnels (plutôt que l’expérience vécue) et la quête vers la généralité (plutôt que la reconnaissance des incarnations sociales singulières) (Fraser, 2005, Young, 2000). Voyons plus en profondeur certains aspects de ces critiques ainsi que leurs applications nuancées au projet ODAI.
22Le projet délibératif a pour ambition de faire émerger un accord entre les participant.e.s . Mais pensons à l’exemple du participant à une consultation sur les nanotechnologies qui soutenait que ces technologies avaient pour seul but le contrôle du vivant au profit des intérêts privés et n’entendait pas les arguments opposés (Laurent & Bensaude-Vincent, 2010). Dans ce cas, le participant avait fini par être exclu du processus, les organisateur.trice.s considérant un manque de coopération de sa part et concluant qu’il s’agissait là d’un « échec de la technique de recrutement » (Laurent & Bensaude-Vincent, 2010). Cet exemple semble refléter une tendance à la mise au ban délibératif de personnes ne souhaitant pas faire de compromis (Cheyns, 2010, Barbin, 2017). Les consultations citoyennes (et dans un certain degré, les délibérations) s’installent aussi dans un cadre qui limite ce qui est acceptable à tenir comme argument. Ces éléments peuvent nous amener à conclure que l’idéal délibératif privilégie « une opinion universelle libérale comme accord, sous lequel on retrouve les perceptions et affections cyniques du capitaliste en personne » (Deleuze & Guattari, 1991). Ainsi, le consensus dit rationnel et démocratique pourrait cacher l’opinion des dominant.e.s.
23Qui plus est, l’institutionnalisation de la délibération peut être vue comme un instrument de légitimation des développements technologiques, en l’occurrence de l’IA. Cela est considéré par certain.e.s comme reflétant le nouvel esprit du capitalisme, à savoir « la nécessité de créer des raisons morales pour que les citoyen.ne.s continuent d’adhérer aux projets élaborés » (Barbin, 2017). Les processus délibératifs réduiraient ainsi le disensus politique au profit d’un consensus reflétant l’idéologie hégémonique (Mouffe, 1999) et réduiraient le contenu social des controverses éthiques à des conceptions purement individuelles.
24Finalement, le processus délibératif rationnel présuppose, comme nous l’avons dit plus haut, la liberté des participant.e.s ainsi que leur statut égal. Néanmoins, plusieurs types d’inégalité affectent la prise de parole et créent des injustices épistémiques (Catala, 2015). Par exemple, étant donnée la socialisation genrée, on constate que les femmes prennent moins la parole que les hommes (Bargel, 2013).
25Étant consciente de ces enjeux, notre équipe a pris des mesures pour les mitiger autant dans l’organisation des ateliers délibératifs que dans la rédaction du rapport.
26Considérant que l’exercice de prise de parole peut être façonné par la composition du groupe, nous avons organisé deux délibérations non mixtes, composées de femmes et ouverts aux personnes non binaires.Nous avons aussi soutenu l’organisation d’une délibération composée uniquement de personnes Mi’Kmaq (une communauté autochtone du Canada), ainsi que d’une délibération avec des participant.e.s autochtones de plusieurs pays, tel que discuté dans la section précédente. De plus, nous avons aussi organisé des délibérations avec des jeunes. Malgré les enjeux d’inclusion présentés, ces délibérations non mixtes ont favorisées l’expression d’enjeux et de connaissances propre à ces groupes et d’élargir les acceptions de ce qu’on entend comme « arguments raisonnables » dans le contexte d’une délibération en éthique de l’IA.D’autre part, bien qu’il fût initialement prévu qu’un accord puisse émerger dans chaque atelier (ce qui a d’ailleurs été le cas pour une majorité des ateliers), les facilitateur.trice.s de chaque atelier étaient encouragé.e.s à rapporter les positions demeurées irréconciliables. Nous croyons que cette consigne a permis de ne pas occulter des positions minoritaires ou plus engagées dans chaque groupe.
27Dans cette section, il s’agira de proposer des pratiques à retenir, et à améliorer pour le futur (Fig. 2). Ces recommandations sont organisées en 4 pôles : coordination et gestion de la consultation, outils, recrutement de la facilitation et stratégie EDI (Équité, diversité et inclusion).
Fig. 2 : Recommandations pratiques
28Par la transmission de son rapport à l’UNESCO, l’ODAI a activement contribué à une deuxième version de la Recommandation sur l’éthique de l’intelligence artificielle de l’UNESCO. Notre processus délibératif a permis de transmettre des perspectives des participant.e.s du monde entier. Parmi celles-ci, nous soulignons l’accent mis : 1) sur les inégalités de pouvoir systémiques au niveau international ; 2) la reconnaissance plus marquée de l’importance du contexte local dans l’application de la Recommandation ; 3) l’importance d’une grille intersectionnelle pour contribuer à prévenir la discrimination algorithmique ; 4) l’ajout de recommandations portant sur les enjeux de l’information et de la communication ; 5) l’importance de tenir compte des aspects émotionnels et relationnels lors de l’application de systèmes d’IA.
29Bien que nous voyions la délibération internationale et son effet d’un regard positif, il reste encore à voir si les perspectives des citoyen.ne.s consulté.e.s seront conservées dans la version finale de la Recommandation, et à quel point la mise en application de celle-ci reflétera leurs espoirs et inquiétudes.En somme, et afin de répondre à notre problématique initiale, employer la délibération peut permettre aux organisations internationales plusieurs éléments. D’abord, la création de liens avec la société civile comme acteurs et actrices potentiellement touchées par l’IA ; ensuite, l’assurance que les perspectives des citoyen.ne.s soient reflétées dans les projets entrepris en matière d’encadrement de l’IA ; la légitimation des processus de créations d’outils normatifs sur l’IA ; et enfin, l’enrichissement des débats sur l’éthique de l’IA par l’inclusion des voix politiques et sociales historiquement exclues des instances internationales. En revanche, il apparaît important de noter que l’atteinte d’une représentativité authentique requiert du temps et des efforts, ainsi qu’une co-construction délibérée et volontaire du projet par tou.te.s les acteur.rice.s.