Navigation – Plan du site

AccueilNuméros10DossierLe dialogue inclusif sur l’éthiqu...

Dossier

Le dialogue inclusif sur l’éthique de l’IA : délibération en ligne citoyenne et internationale pour l’UNESCO

The Open Dialogue on AI Ethics : Citizen and International Online Deliberation for UNESCO
Diálogo inclusivo sobre la ética de la IA : deliberación ciudadana e internacional en línea para la UNESCO
Pauline Noiseau, Camylle Lanteigne, Lucia Flores Echaiz, Fatima Gabriela Gomez Salazar, Vincent Mai, Marc-Antoine Dilhac et Carl-Maria Mörch

Résumés

Cet article rend compte de la manière dont les organisations internationales pourraient s’approprier la démarche délibérative à l’occasion de leurs efforts de régulation éthique de l’IA en présentant le projet de la délibération internationale intitulée « Dialogue inclusif sur l’éthique de l’intelligence artificielle (IA) » (ODAI) menée par Algora Lab - Université de Montréal et Mila - Institut québécois d’intelligence artificielle. Ce projet délibératif portait sur le premier instrument normatif mondial en éthique de l’IA rédigé par l’UNESCO. L’ODAI se démarque par sa portée internationale, le nombre de personnes consultées et sa réalisation en ligne. Après une présentation du cadre méthodologique et théorique de la délibération sur l’éthique de l’IA, nous opérons une analyse critique du processus et nous proposerons finalement des recommandations pratiques pour de futures délibérations en éthique de l’IA.

Haut de page

Texte intégral

Le Dialogue Inclusif sur l’Intelligence Artificielle (ODAI)1.1 Origines et objectifs du processus

  • 1 La version du 7 septembre 2020, intitulée “Avant-projet de recommandation sur l’éthique de l’intell (...)
  • 2 Soutiens financiers des gouvernements du Québec et du Canada et de Mila – Institut québécois d'inte (...)

1En 2019, l’UNESCO a marqué un jalon important en annonçant l’élaboration d’un des premiers instruments normatifs pour une utilisation responsable de l’IA : la Recommandation sur l’éthique de l’intelligence artificielle1(IA) À la suite d’une résolution de la 40e Conférence générale de novembre 2019, un Groupe d’experts Ad hoc (GEAH) fut créé pour produire une version préliminaire. Publié en mai 2020, ce document proposait 58 recommandations de politique publique classées selon 11 actions stratégiques, dans les domaines d’action de l’UNESCO : éducation, science, culture, communication et information. L’UNESCO a lancé une consultation sur ce document afin de recueillir une diversité d’opinion qui déborde le cercle des expert.e.s du GEAH. Cette consultation se déclinait en trois processus : un sondage en ligne, une consultation de parties prenantes au niveau national et régional, et enfin d’une délibération multipartite et citoyenne. C’est cette délibération que l’équipe d’ Algora Lab s’est vue confiée et qu’elle a menée sous le nom de « Dialogue Inclusif sur l’Éthique de l’Intelligence Artificielle » (Open Dialogue on AI Ethics - ODAI)2.

2Dans les dernières années, l’IA a intégré de façon croissante les considérations éthiques. On peut définir l’éthique appliquée à l’intelligence artificielle, le domaine de l’éthique qui se demande “ce qui est bon, juste ou vertueux dans la mise en œuvre des systèmes d’intelligence artificielle” (Gibert, 2019). C’est un champ dans lequel on tente de réfléchir, d’identifier et de proposer une utilisation de l’IA qui soit en accord avec une manière d’être commune, c’est-à-dire un ensemble de valeurs et de principes qui sont spécifiques à une société. Il faut ici distinguer deux manières de concevoir l’éthique, à la fois comme ensemble de normes et de principes applicables, mais également, comme une manière d’être collective tendue vers un bien commun.

3Par ailleurs, de très nombreux documents ont été publiés par des universités, sociétés privées, fondations et entités publiques. Ces documents ont permis de mettre au premier plan l’importance des principes éthiques pour encadrer un développement responsable de l’IA. Toutefois, elles ont rarement intégré les consultations citoyennes pour directement inspirer ces textes ou les améliorer, à quelques exceptions près comme la Déclaration de Montréal pour un Développement Responsable de l’IA au Canada (Dilhac, Abrassart & Voarino, 2018). Dans ce contexte, l’ODAI est la première expérience délibérative civique à visée internationale en éthique de l’IA.

4Le processus avait comme objectif principal d’intégrer des perspectives citoyennes de différentes régions du monde sur les enjeux et principes en éthique de l’IA. Initialement prévu en face à face, il a été principalement effectué en ligne en raison de la pandémie de COVID-19. En dépit du contexte sanitaire, ce projet a mobilisé 611 personnes de 54 pays en deux mois. L’ODAI avait différentes portées : (1) sociale par le biais de la formation et de l’accompagnement des facilitateurs et facilitatrices ; (2) politique en raison de la nature de la Recommandation de l’UNESCO ; (3) culturelle en raison des différences de valeurs et principes propres à chaque région ou communauté consultée ; (4) épistémique en mobilisant activement des expertises différentes sur des enjeux éthiques et sociétaux.

5Par conséquent, il s’agit de nous poser la question suivante, à savoir, comment les organisations internationales peuvent-elles utiliser la délibération dans le cadre de leurs efforts de régulation éthique de l’IA ? En d’autres termes, en quoi la forme délibérative peut-elle être un outil pertinent et ambitieux afin d’encadrer le développement de l’IA ?

6Dans un premier temps, cet article présentera le cadre théorique et méthodologique de cette délibération ; dans un deuxième temps, il analysera les enjeux auxquels nous avons été confrontés ; pour enfin, formuler des recommandations pour de futures délibérations sur l’IA.

Cadre théorique d’une délibération citoyenne en éthique de l’IA

7On observe une convergence dans l’identification de certains principes à appliquer au sein des recherches en éthique de l’IA, avec toutefois, une légère différence quant à la réalisation ou l'interprétation de ces dits principes (Jobin, Ienca, Vayena, 2019). Dès lors, comment aller au-delà de ce consensus lié à cette concentration de principes et enraciner ces mêmes principes dans des contextes sociaux et culturels spécifiques ? À cette réponse la délibération apparaît comme un outil des plus intéressants.

8La délibération générale est un processus démocratique qui se distingue de celui de la consultation, au cours de laquelle les citoyens et citoyennes sont amenés à échanger, débattre voire décider quant à un objet spécifique (Blondiaux, 2008). La délibération ne vise pas simplement à recueillir des opinions, mais à faire émerger une décision collective, ou un accord collectif à partir des divergences et des convergences d’opinions et d’arguments, et des rationalités qui les sous-tendent (Habermas, 1992). Les bénéfices de la délibération ne sont pas seulement instrumentaux, mais également intrinsèques (Girard, 2019). Y recourir permet de légitimer les décisions politiques, en reflétant les intérêts réels des citoyen.ne.s et non apparents, pour reprendre une distinction rousseauiste (Rousseau, 1761). Mais plus encore, elle a un effet immédiat sur les participant.e.s. Au niveau collectif, la délibération peut renforcer le lien social. Et au niveau individuel elle permet de modifier et d’informer les préférences ou les croyances des participant.e.s (Manin, 1985). Enfin, la délibération est par nature démocratique, car elle repose en principe sur l’égalité de statut des participant.e.s et reconnaît leur égale liberté dans la prise de parole. Enfin, elle réalise l’idéal de publicité puisque les décisions sont prises selon des raisons connues de tou.te.s et accessible à tou.te.s (Blondiaux & Sintomer, 2002 ;, Girard, 2019).

9Dès lors, engager les publics dans cette démarche d’encadrement de l’IA permet deux principaux effets : d’une part, 1) l’enrichissement des principes par une ouverture épistémique liée à la diversité des voix politiques et sociales exprimées à travers la démarche délibérative, et d’autre part 2) la légitimation de l’élaboration potentielle d’un encadrement de l’IA au sein d’une société (Buhmann et Fieseler, 2021). La structure de la délibération comme instance multipartite et légitimatrice permet également aux instances internationales d’obtenir des informations et des requêtes de la part des publics, afin de tendre vers un développement responsable et commun de l’IA (ce qu’on peut entendre par les appellations largement usitées AI for Good ou AI for Humanity).

Approche méthodologique hybride

Des modalités de délibération adaptables

  • 3 Pour lire la méthodologie complète, merci de consulter la section 4 à la page 66 du rapport complet (...)

10Nous avons proposé deux modalités de délibération citoyenne3.

11Le premier type d’atelier mobilisait 8 à 10 personnes, pendant 2h45 sur un thème préalablement identifié. Chaque groupe de participant.e.s devait, dans la mesure du possible, présenter une parité hommes-femmes, une diversité générationnelle avec des jeunes (entre 18 et 35 ans), avoir des personnes issues de communautés marginalisées et une représentation de secteurs d’activités clés (éducation, professions de soins, société civile, industrie, etc.). Ce format a permis de récolter des données qualitatives sur les recommandations spécifiques, d’évaluer celles-ci et de proposer des formulations alternatives, voire de proposer de nouvelles politiques publiques. Au total, 287 participant.e.s ont participé à 37 ateliers délibératifs.

12Le second type d’atelier nous permettait de mobiliser un plus grand nombre de personnes sur une durée plus courte (environ deux heures), et obtenir davantage de données « quantitatives ». Nous l’avons intitulé : délibinaire, car sa structure est à mi-chemin entre une délibération et un webinaire. Les critères d’inclusion des participant.e.s étaient similaires au format précédent. 11 délibinaires ont eu lieu impliquant 324 participant.e.s. Ce format avait une visée pratique : il permettait de mobiliser de façon souple plus de participants (généralement dans les réseaux d’organisations partenaires). Cependant, un délibinaire n’est pas un format standard de délibération et ne peut pas être entièrement comparé à une délibération classique : d’abord, le temps réduit de l’activité limite la formulation et l’échange d’arguments ; en outre, ce format de consultation, plus souple, permet d’exprimer ses opinions, mais ne réalise pas pleinement l’objectif délibératif de formation et de modification des préférences ni de parvenir à une décision commune.

Procédures et outils

13Nous avons décidé d’aborder les différentes parties de la Recommandation à travers sept thématiques. Les thèmes de délibération de l’ODAI ont été choisis à partir des domaines clés de l’UNESCO et des thématiques prioritaires exprimées dans le document : accès aux données, diversité et inclusion, éducation, environnement, confiance et responsabilité et enfin redevabilité. Pour chaque thème, nous avons développé et fourni aux facilitateur.rice.s une fiche thématique pour les aider à s’approprier le sujet. Pour illustrer les thèmes dans des situations de la vie quotidienne, nous avons élaboré des scénarios prospectifs de déploiement de l’IA dans un contexte particulier. Chaque cas a fait l’objet d’une illustration par un illustrateur spécialisé en vulgarisation scientifique. Le cas d’usage est un catalyseur en ce qu’il stimule l’imagination morale et permet d’amorcer une réflexion critique sur les potentiels effets de cette utilisation de l’IA. Durant les ateliers délibératifs, les participant.e.s étaient amené.e.s à évaluer les recommandations en lien avec la thématique selon trois critères : la suffisance ou la capacité de la norme à répondre aux questions éthiques clés du cas d’usage de l’IA ; la pertinence ou l’adéquation des propositions au cas d’usage de l’IA ; et enfin l’applicabilité de la norme ou la possibilité d’implémenter la norme dans un contexte particulier.

L’effet "Bottom-up" : apports des facilitateur.rice.s locaux

14Afin de consulter des participant.e.s dans le monde entier en un temps très court, c’est-à-dire un mois, des facilitateur.rice.s locaux ont été recruté.e.s par le biais de réseaux académiques, professionnels, diplomatiques et personnels (voir schéma n° 1 ci-dessous). Leur rôle est essentiel : participation au recrutement des participant.e.s, organisation de l’atelier, animation de la discussion et rédaction d’un document de synthèse de la délibération. Des espaces d’échange et de discussion accueillant ont pu être créés parce que les facilitateur.rice.s tendent à être plus naturellement reconnu.e.s par leur communauté, parlent la même langue, comprennent et appliquent les codes culturels des participant.e.s. Décentraliser le processus de délibération permet de mieux prendre en considération les spécificités culturelles

15Les personnes responsables de la facilitation ont été accompagnées tout au long du processus. D’abord, ils et elles ont été forméess individuellement par l’équipe de l’ODAI (1), ils et elles ont acquis six compétences ciblées allant des notions fondamentales de l’IA aux outils d’animation d’un atelier délibératif. Ensuite, ils et elles ont reçu du matériel délibératif (fiches thématiques, guide d’animation, guide à la prise de notes) afin d’être pleinement autonome dans la mise en place de l’atelier (2). Enfin, ils.elles étaient appuyé.e.s dans leur démarche par un système d’accompagnement personnalisé : deux membres de l’équipe de l’ODAI pouvaient répondre à leurs questions, les soutenir dans les aspects logistiques, créer des affiches de recrutement, etc. (3).

Fig. 1 : Acteur.rice.s et processus de l’ODAI

Regards critiques constructifs

16Nous proposons une analyse critique du projet autour de deux concepts : d’abord la notion de représentativité dans un projet délibératif et ensuite, la capacité à solliciter un objectif de rationalité.

Enjeux de représentativité

Inclusion et processus démocratique

17À la source des théories délibératives (Blondiaux & Sintomer, 2002), se trouve la conviction que chaque membre de la cité doit pouvoir participer aux décisions qui affectent la vie commune et que ces décisions doivent être prises de manière publique. Or, dans la réalité politique des démocraties contemporaines, on constate l’absence de participation de certaines parties de la population. Comment l'expliquer ? Cette absence est-elle due à un manque d’intérêt pour les affaires politiques ? N’est-il pas possible d’y remédier en modifiant les conditions matérielles de la délibération ? Dans le cadre international du projet ODAI, le profil de personnes consultées s’est avéré peu représentatif de la composition de la population mondiale, malgré les efforts pour inclure une grande diversité de communautés (Algora Lab, 2020). Les disparités de la participation à la délibération s’expliquent par une inégalité d’accès aux instances de délibération qui a plusieurs sources : la situation économique, la classe sociale, les normes culturelles, le niveau d’éducation (Gaxie, 1978).

18Nous avons noté les tendances suivantes quant aux participant.e.s. D’abord, nous avons atteint l’objectif de parité des genres, avec 49 % de femmes et 51 % d’hommes (Algora Lab, 2020). Un total de 41 % des participant.e.s ayant remplis le sondage post-délibération se sont identifié.e.s comme appartenant à un groupe marginalisé (Algora Lab, 2020). Quant au niveau d’éducation des participant.e.s, nous avons cependant noté que 73 % d’entre eux avait un diplôme universitaire (Algora Lab, 2020), ce qui n’est évidemment pas représentatif de la population mondiale (Roser & Ortiz-Ospina, 2016). Il est aussi important de noter que 65 % des répondant.e.s à notre sondage post-délibération ont déclaré avoir entre 18 et 34 ans (Algora Lab, 2020). Bien que cette statistique démontre une surreprésentation de ce groupe d’âge (Ritchie, 2019), nous avons cependant réussi à atteindre des personnes de presque tous les groupes d’âge (à l’exclusion des 65-74 ans) (Algora Lab, 2020). Cette surreprésentation des 18 à 34 ans s’inscrit cependant dans un contexte où ce groupe d’âge est habituellement sous-représenté dans la sphère politique et décisionnelle. Par ailleurs, les personnes n’ayant pas accès à une connexion internet et à un appareil de communication n’ont pas pu participer à l’ODAI. Il est également évident que l’échantillon total de 611 participant.e.s n’est pas représentatif de l’entièreté de la population des États membres de l’UNESCO. Néanmoins, le but n’était pas de recueillir un échantillon représentatif selon une représentation miroir, ou de présenter des résultats qui pourraient être de facto universels, mais plutôt d’obtenir un ensemble d’arguments convergents par la rationalisation des échanges. De fait, plusieurs positions communes ont émergé indépendamment du contexte culturel, mais cette tendance était plus nettement visible au niveau de pays où ont eu lieu plusieurs délibérations et où les participants partageaient des caractéristiques communes : niveau d’éducation, classe sociale, et connaissance des enjeux liés à l’IA. Somme toute, le processus délibératif a atteint une représentativité démographique partielle, mais qui a néanmoins apporté des contributions uniques à la construction de la Recommandation.

Critiques de la Consultation mondiale des peuples autochtones

19Une réflexion sur l’inclusivité ne serait pas complète sans les critiques au processus de consultation adressées dans la délibération non-mixte des participant.e.s autochtones de plusieurs pays. Le processus de consultation de l’UNESCO—et par extension, le nôtre dans une certaine mesure—a été décrit comme incluant des personnes autochtones de façon tokénisante (Consultation mondiale des peuples autochtones ayant eu lieu le 11 août 2019, Algora Lab, 2020). Le tokénisme renvoie à une certaine pratique voulant inclure les communautés historiquement marginalisées de façon superficielle ou à des fins de stratégie de communication (Meziani, 2014). En outre, des participant.e.s ont perçu que l’agenda était déjà pré-établie et que les résultats étaient également prédéterminés (Consultation mondiale des peuples autochtones ayant eu lieu le 11 août 2019, Algora Lab, 2020). Le fait que cette délibération se soit déroulée vers la fin du processus de consultation a également été perçu négativement. Bref, il a été demandé à l’UNESCO d’inclure en amont et véritablement les peuples autochtones.

20Nous voyons ici quelques éléments pouvant nourrir notre réflexion. D’abord, bien que l’UNESCO ait fait avant la création du groupe Ad hoc certaines activités de discussion sur l’IA (Hu et al., 2019), à notre connaissance, aucune activité de consultation n’a été réalisée spécifiquement auprès des peuples autochtones. Il est vrai que l’exercice de délibération sur l’IA était contraint par un cadre institutionnel et un document rédigé sans leurs avis au préalable. De notre côté, lors de la rédaction du rapport, nous avons tenté d’accorder une place aux opinions très critiques de la Recommandation (Algora Lab, 2020). Ensuite, certains éléments sont liés aux limites temporelles. Nous pouvons imaginer que les participant.e.s étaient au courant des échéanciers et donc savaient que l’équipe de l’ODAI devait soumettre un rapport à l’UNESCO très rapidement après leur délibération. Cela a possiblement joué dans la perception que leurs avis n’allaient pas être suffisamment pris en compte. Avoir plus de temps nous aurait également permis d’organiser davantage d’ateliers non mixtes auprès de communautés autochtones et autres communautés historiquement marginalisées d’une façon qui soit satisfaisante pour celles-ci.

La rationalité délibérative en porte-à-faux

21Certain.e.s auteur.e.s avancent l’idée que les consultations citoyennes sur les technologies favorisent la rationalité technique (Cheyns, 2010) et représentent souvent un « instrument de dépolitisation au service d’un projet néolibéral » (Blondiaux, 2008). La rationalité technique (ou instrumentale) concerne exclusivement l’efficacité des moyens pour atteindre les fins (Dusek, 2006, Marcuse, 2001). De plus, il existe de nombreuses critiques féministes liées à cet idéal délibératif, notamment parce que la délibération privilégie l’impartialité (plutôt que le point de vue situé) (Harding, 1991, Stengers, 2002), la formulation d’arguments rationnels (plutôt que l’expérience vécue) et la quête vers la généralité (plutôt que la reconnaissance des incarnations sociales singulières) (Fraser, 2005, Young, 2000). Voyons plus en profondeur certains aspects de ces critiques ainsi que leurs applications nuancées au projet ODAI.

Rationalité technique, dépolitisation et inégalités entre les participant.e.s

22Le projet délibératif a pour ambition de faire émerger un accord entre les participant.e.s . Mais pensons à l’exemple du participant à une consultation sur les nanotechnologies qui soutenait que ces technologies avaient pour seul but le contrôle du vivant au profit des intérêts privés et n’entendait pas les arguments opposés (Laurent & Bensaude-Vincent, 2010). Dans ce cas, le participant avait fini par être exclu du processus, les organisateur.trice.s considérant un manque de coopération de sa part et concluant qu’il s’agissait là d’un « échec de la technique de recrutement » (Laurent & Bensaude-Vincent, 2010). Cet exemple semble refléter une tendance à la mise au ban délibératif de personnes ne souhaitant pas faire de compromis (Cheyns, 2010, Barbin, 2017). Les consultations citoyennes (et dans un certain degré, les délibérations) s’installent aussi dans un cadre qui limite ce qui est acceptable à tenir comme argument. Ces éléments peuvent nous amener à conclure que l’idéal délibératif privilégie « une opinion universelle libérale comme accord, sous lequel on retrouve les perceptions et affections cyniques du capitaliste en personne » (Deleuze & Guattari, 1991). Ainsi, le consensus dit rationnel et démocratique pourrait cacher l’opinion des dominant.e.s.

23Qui plus est, l’institutionnalisation de la délibération peut être vue comme un instrument de légitimation des développements technologiques, en l’occurrence de l’IA. Cela est considéré par certain.e.s comme reflétant le nouvel esprit du capitalisme, à savoir « la nécessité de créer des raisons morales pour que les citoyen.ne.s continuent d’adhérer aux projets élaborés » (Barbin, 2017). Les processus délibératifs réduiraient ainsi le disensus politique au profit d’un consensus reflétant l’idéologie hégémonique (Mouffe, 1999) et réduiraient le contenu social des controverses éthiques à des conceptions purement individuelles.

24Finalement, le processus délibératif rationnel présuppose, comme nous l’avons dit plus haut, la liberté des participant.e.s ainsi que leur statut égal. Néanmoins, plusieurs types d’inégalité affectent la prise de parole et créent des injustices épistémiques (Catala, 2015). Par exemple, étant donnée la socialisation genrée, on constate que les femmes prennent moins la parole que les hommes (Bargel, 2013).

Application des critiques au projet ODAI

25Étant consciente de ces enjeux, notre équipe a pris des mesures pour les mitiger autant dans l’organisation des ateliers délibératifs que dans la rédaction du rapport.

26Considérant que l’exercice de prise de parole peut être façonné par la composition du groupe, nous avons organisé deux délibérations non mixtes, composées de femmes et ouverts aux personnes non binaires.Nous avons aussi soutenu l’organisation d’une délibération composée uniquement de personnes Mi’Kmaq (une communauté autochtone du Canada), ainsi que d’une délibération avec des participant.e.s autochtones de plusieurs pays, tel que discuté dans la section précédente. De plus, nous avons aussi organisé des délibérations avec des jeunes. Malgré les enjeux d’inclusion présentés, ces délibérations non mixtes ont favorisées l’expression d’enjeux et de connaissances propre à ces groupes et d’élargir les acceptions de ce qu’on entend comme « arguments raisonnables » dans le contexte d’une délibération en éthique de l’IA.D’autre part, bien qu’il fût initialement prévu qu’un accord puisse émerger dans chaque atelier (ce qui a d’ailleurs été le cas pour une majorité des ateliers), les facilitateur.trice.s de chaque atelier étaient encouragé.e.s à rapporter les positions demeurées irréconciliables. Nous croyons que cette consigne a permis de ne pas occulter des positions minoritaires ou plus engagées dans chaque groupe.

Pour une meilleure délibération

Quelques recommandations pratiques

27Dans cette section, il s’agira de proposer des pratiques à retenir, et à améliorer pour le futur (Fig. 2). Ces recommandations sont organisées en 4 pôles : coordination et gestion de la consultation, outils, recrutement de la facilitation et stratégie EDI (Équité, diversité et inclusion).

Fig. 2 : Recommandations pratiques

Impacts du processus

28Par la transmission de son rapport à l’UNESCO, l’ODAI a activement contribué à une deuxième version de la Recommandation sur l’éthique de l’intelligence artificielle de l’UNESCO. Notre processus délibératif a permis de transmettre des perspectives des participant.e.s du monde entier. Parmi celles-ci, nous soulignons l’accent mis : 1) sur les inégalités de pouvoir systémiques au niveau international ; 2) la reconnaissance plus marquée de l’importance du contexte local dans l’application de la Recommandation ; 3) l’importance d’une grille intersectionnelle pour contribuer à prévenir la discrimination algorithmique ; 4) l’ajout de recommandations portant sur les enjeux de l’information et de la communication ; 5) l’importance de tenir compte des aspects émotionnels et relationnels lors de l’application de systèmes d’IA.

29Bien que nous voyions la délibération internationale et son effet d’un regard positif, il reste encore à voir si les perspectives des citoyen.ne.s consulté.e.s seront conservées dans la version finale de la Recommandation, et à quel point la mise en application de celle-ci reflétera leurs espoirs et inquiétudes.En somme, et afin de répondre à notre problématique initiale, employer la délibération peut permettre aux organisations internationales plusieurs éléments. D’abord, la création de liens avec la société civile comme acteurs et actrices potentiellement touchées par l’IA ; ensuite, l’assurance que les perspectives des citoyen.ne.s soient reflétées dans les projets entrepris en matière d’encadrement de l’IA ; la légitimation des processus de créations d’outils normatifs sur l’IA ; et enfin, l’enrichissement des débats sur l’éthique de l’IA par l’inclusion des voix politiques et sociales historiquement exclues des instances internationales. En revanche, il apparaît important de noter que l’atteinte d’une représentativité authentique requiert du temps et des efforts, ainsi qu’une co-construction délibérée et volontaire du projet par tou.te.s les acteur.rice.s.

Haut de page

Bibliographie

Références

Algora Lab. (2020).  Le dialogue inclusif sur l’éthique de l’IA. Contributions à la recommandation de l’UNESCO sur l’éthique de l’IA.  https://opendialogueonai.com/wp-content/uploads/2020/10/RAPPORT_DialogueEthiqueIA_FR_v2.pdf

Barbin, A. (2017). La démocratie technique (Thèse, Université Panthéon-Sorbonne). 

Bargel, L. (2013).  Socialisation politique.  Dans Dictionnaire genre et science politique, p. 468–480. Presses de Sciences Po.

Blondiaux, L.  (2008). Le nouvel esprit de la démocratie. Actualité de la démocratie participative.    Paris : Seuil.

Blondiaux, L. et Sintomer, Y. (2002). L’impératif délibératif.  Politix, 15(57), 17-35.

Buhmann, A. et Fieseler, C. (2021). Towards a deliberative framework for responsible innovation in artificial intelligence. Technology in Society, Volume 64, 101475.

Catala, A. (2015). Democracy, Trust, and Epistemic Justice. The Monist, 98(4), 424-440.

Cheyns, E. (2010). Technical rationality and (de)politicisation of standards Multi-stakeholder initiatives in sustainable agriculture. Communication présentée à : “Governing through standards” - An international symposium, Copenhague (Danemark)

Deleuze, G. et Guattari, F (1991).  Qu’est-ce que la philosophie ? Paris : Éditions de Minuit.

Dilhac, M. A., Abrassart, C., & Voarino, N. (2018). Rapport de la Déclaration de Montréal pour un développement responsable de l'intelligence artificielle.

Dusek, V. (2006).  Philosophy of technology : An introduction.  Hoboken : Blackwell Publishing.

Fraser, N. (2005).  Qu’est-ce que la justice sociale ? Reconnaissance et redistribution. Paris : La découverte.  (Traduit de l’anglais (États-Unis) par Estelle Ferrase)

Fjeld, J., Achten, N., Hilligoss, H., Nagy, A., & Srikumar, M. (2020). Principled artificial intelligence : Mapping consensus in ethical and rights-based approaches to principles for AI. Berkman Klein Center Research Publication, (2020-1).

Gaxie, D.  (1978). Le Cens caché. Paris : Gallimard.

Gibert, Martin (2019), Ethique artificielle (GP). Maxime Kristanek (dir.), L'Encyclopédie philosophique, https://encyclo-philo.fr/ethique-artificielle-gp

Girard, C. (2019). Pourquoi confronter les raisons ? Sur les justifications de la délibération démocratique.    Philosophiques, 46(1), 67-93.

Habermas, J. (1992). Droit et Démocratie. Entre faits et normes. Paris : Gallimard.

Harding, S. (1991). Whose Science ? Whose Knowledge ? Thinking from Women’s Lives. New York : Cornell University Press.

Hu, X. et al. (2019). Steering AI and Advanced ICTs for Knowledge Societies : a Rights, Openness, Access, and Multi-stakeholder Perspective. Paris : UNESCO.

Jobin, A., Ienca, M. & Vayena, E. The global landscape of AI ethics guidelines. Nat Mach Intell 1, 389–399 (2019). https://doi.org/10.1038/s42256-019-0088-2

Laurent, B., et Bensaude-Vincent, B. (2010). Les politiques des nanotechnologies : Pour un traitement démocratique d’une science émergente. Paris : Charles Léopold Mayer.

Manin, B. (1985). Volonté générale ou délibération ? Esquisse d’une théorie de la délibération politique, Le Débat, 33, 1985.

Marcuse, H. (2001). Quelques implications sociales de la technologie moderne. Tumultes, n° 17-18 (2)

Meziani, Y. (2014). Recruter les descendants de migrants en mairie : “quotas invisibles” ambivalents et reconnaissance au travail. Migrations société, 2(152), 9-26.

Mouffe, C. (1999). Deliberative Democracy or Agonistic Pluralism ? Social Research, 66(3).

Ritchie, H. (2019). Age structure. Our World in Data. En ligne : https://ourworldindata.org/age-structure

Roser, M., et Ortiz-Ospina, E. (2016). Global education. Our World in Data. En ligne : https://ourworldindata.org/global-education

Rousseau, J.J. (1761). Extrait du rojet de paix perpétuelle de monsieur l’abbé de Saint-Pierre. Rousseau, Principes du droit de la guerre. Ecrits sur la Paix Perpétuelle, B.Bachofen et C.Spector dir., B.Bernardi et G. Silvestrini éds., Paris, Vrin, 2008, p. 229-294..

Stengers, I. (2002). Sciences et pouvoirs. La démocratie face à la technoscience. Paris : La découverte.

Université de Montréal (2018). Déclaration de Montréal pour un développement responsable de l’IA. En ligne : https://www.declarationmontreal-iaresponsable.com/

Young, M. (2000). Inclusion and Democracy. Oxford : Oxford University Press.

Haut de page

Notes

1 La version du 7 septembre 2020, intitulée “Avant-projet de recommandation sur l’éthique de l’intelligence artificielle", est disponible sur le site internet de l’UNESCO : < https://unesdoc.unesco.org/ark:/48223/pf0000373434_fre>.

2 Soutiens financiers des gouvernements du Québec et du Canada et de Mila – Institut québécois d'intelligence artificielle.

3 Pour lire la méthodologie complète, merci de consulter la section 4 à la page 66 du rapport complet de la délibération. En ligne :https://opendialogueonai.com/wp-content/uploads/2020/10/RAPPORT_DialogueEthiqueIA_FR_v2.pdf

Haut de page

Table des illustrations

Légende Fig. 1 : Acteur.rice.s et processus de l’ODAI
URL http://journals.openedition.org/ctd/docannexe/image/4294/img-1.jpg
Fichier image/jpeg, 126k
Légende Fig. 2 : Recommandations pratiques
URL http://journals.openedition.org/ctd/docannexe/image/4294/img-2.png
Fichier image/png, 773k
Haut de page

Pour citer cet article

Référence électronique

Pauline Noiseau, Camylle Lanteigne, Lucia Flores Echaiz, Fatima Gabriela Gomez Salazar, Vincent Mai, Marc-Antoine Dilhac et Carl-Maria Mörch, « Le dialogue inclusif sur l’éthique de l’IA : délibération en ligne citoyenne et internationale pour l’UNESCO »Communication, technologies et développement [En ligne], 10 | 2021, mis en ligne le 20 mai 2021, consulté le 28 septembre 2022. URL : http://journals.openedition.org/ctd/4294 ; DOI : https://doi.org/10.4000/ctd.4294

Haut de page

Auteurs

Pauline Noiseau

Algora Lab, Université de Montréal

Camylle Lanteigne

Algora Lab, Université de Montréal, Université Concordia

Lucia Flores Echaiz

Algora Lab, Université de Montréal, Université du Québec à Montréal

Fatima Gabriela Gomez Salazar

Algora Lab, Université de Montréal

Vincent Mai

Algora Lab, Université de Montréal, Mila – Institut québécois d’intelligence artificielle

Marc-Antoine Dilhac

Algora Lab, Université de Montréal, Mila – Institut québécois d’intelligence artificielle

Carl-Maria Mörch

Algora Lab, Université de Montréal, Université du Québec à Montréal, FARI - AI institute for the Common Good, Université Libre de Bruxelles

Haut de page

Droits d’auteur

CC BY-NC-ND 4.0

Creative Commons - Attribution - Pas d'Utilisation Commerciale - Pas de Modification 4.0 International - CC BY-NC-ND 4.0

https://creativecommons.org/licenses/by-nc-nd/4.0/

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search