Navigation – Plan du site

AccueilVaria22Dossier thématique : Entre inclus...II- Citoyenneté et universalisme ...Entités artificielles intelligent...

Dossier thématique : Entre inclusion et exclusion. La double face de la citoyenneté
II- Citoyenneté et universalisme des droits ou la dimension inclusive de la citoyenneté

Entités artificielles intelligentes : de quelle citoyenneté ?

Serge Slama

Résumés

Dans le prolongement de réflexions menées sur la personnalité juridique et la titularité des droits fondamentaux des « robots intelligents », cet article se demande ce qui justifierait de reconnaître à des entités artificielles intelligentes la citoyenneté et le contenu possible de celle-ci.

Haut de page

Texte intégral

1An 2122. L’Humanité est difficilement parvenue, après bien des catastrophes et bouleversements climatiques, à limiter le réchauffement de la planète à 5 degrés Celsius1. Dans une ambiance Soylent Green, une partie de la planète est devenue invivable pour l’être humain. Un grand nombre d’espèces animales et végétales ont disparu de la surface de la Terre et, contrairement aux projections de l’ONU au début du XXIe siècle, qui tablait sur 11 milliards d’individus en 21002, l’espèce humaine a connu une forte décroissance. La dégradation du climat, la multiplication des catastrophes naturelles et des pandémies, liées à la dégradation des écosystèmes3, la montée des eaux, la raréfaction des ressources naturelles, l’utilisation massive des pesticides et des OGM, l’explosion des inégalités, le vieillissement de la population, l’étanchéification des frontières des pays occidentaux, la multiplication des conflits régionaux, la baisse du taux de fécondité, la dénatalité ont abouti à la diminution de moitié de l’espèce humaine, de 8 à 4 milliards d’êtres humains, entre 2022 et 21224.

2Sous l’impulsion de certaines multinationales et multimilliardaires plus ou moins excentriques ou intéressés, l’Humanité a certes réussi, au tournant du XXIIe siècle, à implanter les premières bases sur la lune et sur mars, mais celles-ci sont réservées à une élite transhumaine, bardée de capteurs, implants et prothèses, très majoritairement issue des grandes universités ou écoles.

3Parallèlement, avec le développement de la technologie, notamment l’ordinateur quantique et les réseaux de neurones, la singularité technologique a été atteinte en 2050. Dotés d’une intelligence artificielle générale et constamment interconnectés, certains robots ont suffisamment gagné en autonomie et en capacité auto-décisionnelle pour être considérés comme (réellement) « intelligents »5 et avoir une conscience de soi. En tout cas, le processus par lequel ils/elles adoptent des décisions, par apprentissage profond, échappe largement à leurs créateurs et programmateurs. Si depuis plusieurs décennies certains pays leur ont octroyé une personnalité juridique spécifique6, en leur conférant une identité et certains droits et obligations, la question qui se pose désormais est de leur reconnaître la citoyenneté.

4L’idée d’une citoyenneté-robot n’est pas nouvelle. La revendication d’égalité des conditions entre robots-androïdes et êtres humains hante les récits de science-fiction de longue date. Celle-ci apparaît dès 1921, dans la pièce de théâtre de Karel Čapek « RUR »7 à laquelle on doit d’ailleurs l’invention du terme de « robot », mais aussi, plus récemment, dans Blade runner8, la bd Carbone & Silicium9, les séries Real humans et West world et, surtout, dans le cycle des robots d’Asimov, l’androïde Andrew dans L’Homme bicentenaire10 ou celle de Data11 dans Startrek12. En 2017, pour faire un coup d’éclat (promotionnel ?), l’Arabie Saoudite a, soi-disant, conféré la citoyenneté à Sophia, un robot social à l’apparence humaine et au genre féminin (inspiré des traits d’une Audrey Hepburn chauve), capable de converser et de reproduire les émotions humaines sur son visage gynoïde recouvert de silicone13. Pourtant, dans la réalité, cette robote n’a guère plus d’autonomie et de capacité intellectuelle qu’un frigidaire parlant ou qu’Alexa d’Amazon14 et de voix au chapitre qu’une femme saoudienne15… Attribuer la citoyenneté à une telle intelligence artificielle, incapable d’en disposer, n’a donc aucun sens16 et relève davantage de la Société du spectacle que du Droit.

  • 17 Sur les notions d’Artificial General Intelligence (AGI) et de Non-Biologic Intelligences (NBIs), cf (...)

5Mais quand sera-t-il si un jour des entités non biologiques intelligentes17 acquéraient un degré suffisant d’autonomie décisionnelle pour être considérées comme dotées de raison, voire même d’une conscience ? Faudra-t-il les envisager comme une composante à part entière de notre société et, par suite, leur reconnaître l’égale citoyenneté ou en tout cas, une forme de citoyenneté ?

  • 18 V. plus généralement Sonia Desmoulin-Canselier. « Les intelligences non humaines et le droit. Obser (...)
  • 19 Serge Slama, « Les robots-androïdes, de quels droits fondamentaux ? », RDLF 2019, chron. n° 50. URL (...)
  • 20 Serge Slama, « L’intelligence artificielle pourrait-elle avoir des droits ? », Conférence dans le c (...)
  • 21 Xavier Bioy, « Vers un statut juridique des androïdes ? », Journal International de Bioéthique, 201 (...)
  • 22 Serge Slama, « Les robots-androïdes, de quels droits fondamentaux ? », art. préc.

6Dans le prolongement de réflexions relatives à la titularité potentielle des droits fondamentaux par des entités artificielles intelligentes18 – réflexions esquissées dans un colloque de la Revue des droits et libertés fondamentaux19 et poursuivies au sein de la chaire « Éthique & IA » de Thierry Ménissier, dans le cadre du MIAI (Multidisciplinary Institute in Artificial Intelligence) de l’Université Grenoble-Alpes20 –, cette contribution vise à déterminer ce qui justifierait la reconnaissance d’une citoyenneté au bénéfice de ces entités – que nous qualifierons, par souci de simplicité, de « robots intelligents » – et le contenu potentiel de celle-ci. Dans notre article sur « Les robots-androïdes, de quels droits fondamentaux ?  », nous avons distingué trois motifs (de type anthropomorphique, robophobique et par robophilique) qui justifieraient qu’un « robot intelligent » soit doté d’une personnalité juridique spécifique et, par suite, de droits et obligations. Nous défendions aussi, à rebours de la position d’autres professeurs de droit21, que s’ils acquièrent des capacités cognitives et d’autodétermination suffisantes, les robots-androïdes seront, un jour, « souverains » et ne seront plus seulement des « choses » mais des « êtres », dotés d’une conscience et de raison ; que, par suite, « se posera la question de la titularité des droits fondamentaux »22. Mais est-ce que cela supposera aussi de reconnaître à ces entités artificielles intelligentes la qualité de citoyen ?

7Dans notre conception, si la qualité de sujet de droit était reconnue à des êtres artificiels, le fait qu’ils contribuent, par leur force de travail et leurs capacités cognitives, au fonctionnement de notre société, devrait nécessairement amener à les reconnaître comme membres du corps social et à leur attribuer la citoyenneté (I), laquelle devrait être adaptée à leur condition robotique (III). À défaut, l’humanité risquerait d’affronter deux écueils : maintenir en esclavage ou servitude des êtres dotés d’une conscience et d’une raison, et risquer l’affrontement entre espèces humaine et robotique (II).

I - La nécessaire attribution de la citoyenneté à des êtres dotés de conscience et de raison, membres de la société

  • 23 Alain Rey (dir.), Dictionnaire historique de la langue française, Le Robert, 2010, V° « citoyen », (...)
  • 24 Camille Aynès, La privation des droits civiques et politiques : l’apport du droit pénal à une théor (...)
  • 25 Texte de présentation du colloque « Entre inclusion et exclusion. La double face de la citoyenneté  (...)
  • 26 Cf. notre thèse : Le privilège du national. Étude historique de la condition civique des étrangers (...)
  • 27 Texte de présentation du colloque « Entre inclusion et exclusion… », préc.

8Selon le Dictionnaire historique de la langue française, le citoyen est défini dans le vocabulaire politique du XVIIe siècle comme le « membre d’une communauté politique organisée »23. Dans le cadre des théories du contrat social, sont citoyens tous les individus qui, acceptant une limitation de la liberté dont ils jouissent dans l’état de nature, constituent la société en tant que membres actifs du corps social. La démarche scientifique de ce colloque, dans le prolongement de la thèse de Camille Aynès24, est – comme son intitulé l’indique – de mener une réflexion sur « La double face de la citoyenneté ». Selon le texte de présentation de ce colloque, « en tant qu’elle désigne une appartenance, la citoyenneté est “constitutivement orientée en fonction d’un intérieur et d’un extérieur, de l’inclusion aussi bien que de l’exclusion” » (D. Gösewinkel). Elle « requiert et produit nécessairement, comme son double inversé, le non-citoyen »25. Or, ce non-citoyen n’est pas seulement l’étranger26. De longue date, on sait en effet que la nationalité n’est pas une condition suffisante de la citoyenneté et que son accès est « aussi subordonné à une exigence d’autonomie ou d’indépendance et de dignité qui rend compte de l’existence de nationaux non-citoyens »27.

  • 28 Danièle Lochak, « La citoyenneté : un concept juridique flou », in D. Colas et a. (dir.), Citoyenne (...)
  • 29 Jean-Marie Denquin, « Citoyenneté », in D. Alland, S. Rials (dir.), Dictionnaire de la culture juri (...)
  • 30 Texte et thèse de Camille Aynès, préc. Voir aussi Yannick Lécuyer, Les droits politiques dans la ju (...)
  • 31 Dominique Schnapper, La communauté des citoyens. Sur l’idée moderne de nation, Gallimard, coll. « N (...)
  • 32 Danièle Lochak, « L’étranger et les droits de l’homme », in Service public et libertés : mélanges o (...)
  • 33 Jacques Mourgeon, « Aspects de la situation juridique des étrangers en droit anglais et en droit fr (...)

9Même s’il s’agit assurément d’un « concept juridique flou »28, la citoyenneté n’en est pas moins un « phénomène juridique »29. L’histoire constitutionnelle montre un processus continu d’extension de la citoyenneté dans le cadre de régimes constitutionnels : protestants, juifs, domestiques, citoyens passifs, esclaves, femmes, naturalisés, personnes détenues, etc. Dans la période contemporaine, ce mouvement d’inclusion dans la citoyenneté, et de reconnaissance de la jouissance des droits civiques, est justifié par l’application de principes importés du droit des droits de l’Homme, et notamment des principes d’égalité, de non-discrimination et de sauvegarde de la dignité de la personne humaine30. Mais jusqu’où pourrait aller ce phénomène d’universalisation des droits du citoyen ? Dans le cadre de l’État-Nation, une certaine conception – exclusive – de la souveraineté nationale a abouti, hormis durant une brève période révolutionnaire (1791-1793) à l’exclusion des non-nationaux de la citoyenneté française31. Le tiraillement entre le principe d’assimilation et le principe de différenciation, qui sous-tend l’ensemble de la condition de l’étranger, a abouti à maintenir celui-ci, considéré comme non-citoyen, en dehors des droits civiques et politiques liés à l’exercice de prérogatives régaliennes32. Comme l’écrivait Jacques Mourgeon, « Barbare ou métèque, plus souvent cela que ceci, l’étranger reste un exclu : citoyen, jamais ; personne, parfois, homme à peine »33.

10Qu’en serait-il si des entités artificielles, comme des robots, acquéraient des capacités cognitives et d’autodétermination suffisantes pour avoir une volonté propre, autonome vis-à-vis de leurs créateurs ou programmateurs ? Seraient-ils considérés, eux-aussi, comme d’éternels barbares ? Dans la Déclaration universelle des droits de l’Homme de 1948, la qualité première de tous les êtres humains est, selon son article 1er, qu’ils soient « doués de raison et de conscience ». Évidemment nul ne sait, aujourd’hui, si des entités artificielles acquerront un jour un libre arbitre et une capacité d’autodétermination suffisante pour les assimiler à des êtres raisonnables et s’ils seront dotés d’une réelle conscience, c’est-à-dire, selon le Robert, de la faculté « de connaître [leur] propre réalité et la juger ». Aujourd’hui ce n’est à l’évidence pas le cas34. Les dispositifs d’intelligence artificielle ne sont pas réellement intelligents et n’ont pas de « sens commun »35. Ils n’ont pas réellement conscience d’eux-mêmes ni le sens du bien ou du mal36. Ils ne sont pas capables d’émotions ou d’empathie37, même si on commence à utiliser l’intelligence artificielle dans l’art, en recourant notamment à « l’imagination artificielle »38. Il est d’ailleurs aussi difficile de distinguer, scientifiquement, ce qui fait la spécificité de l’être humain, et de son intelligence, par rapport aux autres êtres vivants, en particulier les grands singes. Il n’y a pas de rupture en termes d’évolution entre l’Homme et l’animal39.

  • 40 Résolution du Parlement européen (2015/2103(INL)) du 16 février 2017 contenant des recommandations (...)
  • 41 Dans la BD R.U.R. Le soulèvement des robots (préc.), alors que les robots sont tous identiques, hor (...)

11Mais si on part de l’hypothèse qu’un jour des entités artificielles auront été dotées d’une raison, ne devraient-elles pas être considérées comme des alter-ego à l’être humain et, par suite, se voir reconnaître non seulement une personnalité juridique mais aussi la titularité des droits fondamentaux ainsi que la qualité de citoyen ? Dans le cadre de la théorie du contrat social, si on fait abstraction de la référence à la nature et au droit naturel, la reconnaissance de la qualité de citoyen est liée au fait qu’un individu est membre du corps social. Si un robot « intelligent » atteignait un degré d’autonomie décisionnelle et de conscience de soi et de son environnement suffisant, ne mériterait-il pas, du fait de sa contribution à la société, par sa force de travail et ses capacités cognitives, la qualité de citoyen ? Avec la reconnaissance de la personnalité juridique, le robot « intelligent » devrait pouvoir bénéficier d’une identité (un nom ou un numéro de série), d’un état civil et d’une nationalité (lieu d’immatriculation)40. Mais encore faudrait-il que ce robot ait aussi une véritable personnalité, distincte de celle des autres robots41 et une véritable autonomie décisionnelle, un libre arbitre. Pour être reconnu comme citoyen, un robot devrait être individualisé, avoir une réelle conscience de soi et de sa singularité.

  • 42 Xavier Bioy, « Vers un statut juridique des androïdes ? », art. préc., p. 88.
  • 43 Ibid., p. 89.
  • 44 Ibid., p. 88.
  • 45 Ibid., p. 98.

12Pour Xavier Bioy, les robots-androïdes ne rempliront jamais « la condition d’une autonomie telle qu’elle conduirait à un statut de sujet de droit »42. Faute de « volonté propre », il estime que ces entités artificielles ne sauraient être souveraines et qu’à supposer qu’on leur reconnaisse une personnalité juridique, cela n’impliquerait pas « un statut “pour soi”, mais pour l’homme »43. Comme nous l’avons déjà écrit dans notre article à la RDLF, ce point de vue nous paraît contestable : il repose sur un positionnement moral ou un postulat ontologique. Xavier Bioy est convaincu que « le statut des robots ne peut se penser par analogie avec le nôtre »44. Cela suppose une primauté et une spécificité de l’être humain. Par suite, selon lui, « tant que les hommes font le droit, les androïdes ne seront pas des sujets de droit »45. À rebours, nous partons de l’hypothèse de l’émergence d’entités artificielles indépendantes de l’être humain, mais capables de vivre en harmonie avec celui-ci au sein d’une même société. Et quand bien même l’être humain serait le créateur de ces êtres artificiels, leur capacité de faire évoluer leur programmation et d’autonomisation leur permettrait d’être dotés d’une personnalité propre et évolutive et d’avoir un certain libre-arbitre.

  • 46 Ibid., p. 97.

13Notre collègue toulousain répercute les craintes de « certains auteurs », qui semblent aussi être les siennes, selon lesquelles si on reconnaissait une réelle autonomie et un statut à part entière aux robots-androïdes, inévitablement, « l’aboutissement de tout cela serait la prise du pouvoir par les androïdes qui deviendraient souverains et se doteraient de leur propre statut, la créature échappant toujours au créateur et Dieu n’y pouvant rien »46. Moins pessimiste, nous pensons que la coexistence entre êtres dotés de conscience et de raison est possible et souhaitable. Et, au contraire, nous estimons qu’il serait risqué de les écarter de la citoyenneté et de les maintenir en esclavage.

II - Les risques de l’exclusion d’entités intelligentes de la citoyenneté : conflits de souveraineté ou réduction en esclavage

  • 47 Jack Williamson, With Folded Hands, Street & Smith, 1947.
  • 48 Philip K. Dick, Vulcan’s Hammer, Ace Books, 1960 (Les marteaux de Vulcain, Le Masque Science-fictio (...)
  • 49 Dans Matrix, l’humanité est réduite en esclavage par les machines. Pour garder les humains vivants (...)
  • 50 Scénario librement inspiré des romans de SF Les Cavernes d’acier (1954), Les Robots (1950) ainsi qu (...)
  • 51 Roland Lehoucq (dir.), Dune : Exploration scientifique et culturelle d’une planète-univers, Le Béli (...)
  • 52 « Univers de Dune », wikipédia. https://fr.wikipedia.org/wiki/Univers_de_Dune.

14De R.U.R. à Terminator, en passant par Les mains jointes47, Les marteaux de vulcain48, Métropolis, Galactica et Battlestar Galactica, Mondwest (qui a inspiré la série Westworld), Buck Roger au XVè siècle, Planète hurlante, Alien, sans oublier 2001 : l’Odysée de l’espace (avec la révolte d’HAL), Matrix49, I, Robot50, ou encore, plus récemment, Perdus dans l’espace et Big Bug (de Jean-Pierre Jeunet), le scénario de la rébellion des machines ou de l’affrontement entre les machines et l’homme est un des thèmes les plus récurrents de la science-fiction. La thématique est même présente dans Dune, de Frank Herbert. En effet, l’Imperium est issu du Jihad butlérien, un événement débutant il y a plus de dix mille ans lorsque les humains se libérèrent du joug des « machines pensantes » qui les avaient asservis. Dans l’univers de Dune51, toute forme d’IA est désormais proscrite, diverses organisations ont été créées pour développer le potentiel humain palliant ce manque, ce qui a abouti à divers groupes spécialisés dont les Mentats, le Bene Gesserit ou la Guilde spatiale52.

  • 53 Emma Abate, « Golem ! Avatars d’une légende d’argile », Dossier pédagogique, Musée d’art et d’histo (...)
  • 54 Mary Shelley, Frankenstein, ou Le Prométhée moderne, 1818 (trad. Corréard, 1821). URL: https://gall (...)
  • 55 Norbert Wiener, God & Golem, inc. Sur quelques points de collision entre cybernétique et religion [ (...)
  • 56 Michel Faucheux, Norbert Wiener, le Golem et la cybernétique. Éléments de fantastique technologique(...)

15Cette crainte de la guerre des mondes a, dans l’imaginaire humain, particulièrement en Occident, de profondes racines. Elle tire sa source des automatoi, créatures artificielles et autonomes forgées par le dieu antique, difforme et infirme (et non macronien) Héphaïstos, mais aussi, et surtout, du mythe hébraïque du Golem53, lequel a lui-même inspiré la littérature moderne – aussi bien Frankenstein de Mary Shelley54 que, bien évidemment, le cycle des robots d’Isaac Asimov et ses trois lois de la robotique. La cybernétique elle-même, inventée par le mathématicien Norbert Wiener55, s’inscrit dans la lignée de ce mythe56 et met en garde contre les risques pour l’homme de déléguer un pouvoir décisionnel à des machines susceptibles d’effectuer des tâches « intelligentes » : ces créatures pourraient devenir dangereuses lorsqu’elles échappent ou entrent en révolte contre leur créateur humain.

Extrait de la BD Carbone & Silicium de Mathieu Bablet

Extrait de la BD Carbone & Silicium de Mathieu Bablet
  • 57 Spoil : c’est aussi (un peu) le cas dans le dernier épisode de Battlestar Galactica.
  • 58 Jean-Pierre Marguénaud, « Un statut juridique pour les extraterrestres ? », in Apprendre à douter. (...)
  • 59 Bill Joy, « Why the future doesn’t need us », in F. Allhoff et al. (dir.), Nanoethics. The Ethical (...)
  • 60 Michael Sainato, « Stephen Hawking, Elon Musk, and Bill Gates Warn About Artificial Intelligence », (...)
  • 61 V. en ce sens également la série britannique « Black Mirror », wikipédia. URL : https://fr.wikipedi (...)
  • 62 « Le MIT crée un logiciel pour apprendre aux robots à fabriquer d’autres robots », Siècle digital, (...)
  • 63 Par exemple Stephen Baxter, Temps - Les Univers multiples I, Édition Fleuve noir, 2007, 545 p.

16Cette question se pose d’ailleurs pour toutes les intelligences non humaines, qu’il s’agisse d’autres espèces terrestres qui connaîtraient une évolution déterminante (suivant l’idée du roman de SF de Pierre Boulle, La planète des singes, 196357) ou d’extra-terrestres qui arriveraient sur Terre58. Nombreux sont ceux, comme Bill Joy59, Stephen Hawking ou des personnalités comme Bill Gates et Elon Musk60, qui dénoncent le risque que l’intelligence artificielle supplante l’Homme ou l’asservisse61, surtout si les robots sont capables de se fabriquer eux-mêmes ou les IA de se programmer elles-mêmes62. Du point de vue juridique, Xavier Bioy défend le même mauvais augure. Selon lui, si les robots-androïdes étaient reconnus comme sujets de droit, ils deviendraient leur « propre souverain » et il y aurait nécessairement « une guerre de la souveraineté juridique » dans la mesure où « deux ordres juridiques ne [peuvent] coexister ». En ce sens, dans Blade Runner, la solution pour éviter que les androïdes fassent concurrence aux êtres humains est de leur interdire la Terre et de les exiler dans les colonies martiennes ou sur Alpha du centaure63… Il existe néanmoins le contre-modèle du robot se mettant, de manière ingénieuse, au service de l’humanité : ainsi de Wall E, de Nono le petit robot (l’ami d’Ulysse 31), des robots de l’univers de Starwars, en particulier des incontournables C3PO et R2D2 mais aussi de BB8 ou encore, dans le Cycle des robots et de Fondation d’Asimov, de R. Daneel Olivaw.

  • 64 Rapporté par Xavier Bioy, art. préc., p. 98.
  • 65 Guido Calogero, » L’homme, la machine, l’esclave », in Le robot, la bête et l’homme (Rencontres int (...)

17L’alternative à la reconnaissance des entités artificielles intelligentes comme des alter-ego est la soumission de celles-ci à l’esclavage ou à la servitude forcée. Ainsi que le fait valoir notamment Dominique Lecourt, on ne doit pas « recréer la catégorie des esclaves avec des entités qui sont sensibles et se confondent a priori avec nous »64. La plupart des auteurs qui écrivent sur la question établissent le parallèle entre le statut des esclaves et celui des robots (le terme robot a du reste été forgé par Čapek sur le terme slave signifiant « esclavage, travail forcé »). En ce sens, dès 1965, le philosophe italien Guido Calogero estimait que la question du rapport des humains aux robots est, avant tout, un « problème de morale et de politique, c’est-à-dire de coexistence dans une civilisation possible ». Il s’agit de savoir « si nous sommes justifiés à réagir à leur supériorité dans le cas où ils voudraient l’exploiter pour nous dominer. Il s’agit de savoir jusqu’à quel point nous avons le droit de les employer comme nos esclaves, ou de les empêcher de nous réduire nous-mêmes en esclavage »65.

18Benoîtement, nous faisons le pari, très pascalien, que des entités artificielles créées par l’être humain et ayant évolué à ses côtés, en partageant une communauté de destin, seront suffisamment évoluées et intelligentes pour vivre à ses côtés de manière pacifique et partager la souveraineté dans une citoyenneté commune. Mais si la qualité de citoyen était reconnue aux robots intelligents, quel en serait son contenu ? Les droits du citoyen-robot ne devraient-ils pas être adaptés aux spécificités de ces êtres artificiels et à la condition robotique ?

III - L’adaptation de la citoyenneté-robot aux spécificités de ces êtres artificiels

  • 66 Tyler L. Jaynes, « Legal personhood ... », préc., p. 345.

19L’adaptation des droits civiques qui seraient reconnus aux citoyens-robots se justifierait par le fait que ces êtres artificiels ont, par rapport à l’être humain, certaines différences fonctionnelles66. Même s’ils étaient dotés d’un libre arbitre leur permettant de participer à la délibération collective et à la vie de la cité, ils n’en n’auraient pas moins un certain nombre de spécificités qui requièrent des modes d’exercice de la citoyenneté adaptés.

20En premier lieu, ces entités artificielles, qu’elles soient matérialisées dans un robot-androïde ou dématéralisées dans le cadre de réseaux numériques et d’ordinateurs, ont potentiellement une durée de vie illimitée67. Ces être artificiels pourraient donc être potentiellement éternels, s’ils sont bien entretenus, ou auto-entretenus. Cela suppose évidemment que soient maintenus des dispositifs de production de leurs composants, d’une alimentation électrique et de réseaux numériques – qui peuvent très bien fonctionner sans intervention des êtres humains. La perspective d’un citoyen éternel n’est pas sans incidence sur la composition d’un corps civique. Si cela permet d’envisager les politiques sur le temps long, cela peut avoir des effets sclérosants et empêcher aux jeunes de se faire une place68. Afin de ne pas créer de distorsion entre citoyens-robots et citoyens-humains, il faudrait alors envisager une durée de vie limitée des robots-androïdes (comme dans Blade Runner), calquée sur celle de l’humanité. En ce sens, dans l’Homme bicentenaire, l’androïde Andrew fait en sorte de devenir mortel et, après avoir obtenu le droit d’épouser sa compagne Portia, il meurt peu après elle.

21En second lieu, des entités artificielles peuvent être éteintes et rallumées, mais aussi reconfigurées ou reprogrammées – à l’image, et au grand dam, d’un C3PO, par exemple. Cela peut avoir des avantages, notamment si l’on désire voyager dans l’espace pour se rendre sur d’autres planètes du système solaire ou dans d’autres galaxies. Mais, dans une société donnée, cela pourrait avoir une incidence sur la composition du corps électoral. On pourrait imaginer des Balkany, Stéfanini ou Tibéri des temps futurs rallumant des robots-citoyens pour se constituer une clientèle électorale... Il apparaît donc nécessaire de définir un droit à l’alimentation électrique de ces entités mais aussi à la conservation durable de leurs données, ou à leur restauration à l’identique, afin de conserver leur personnalité et individualité.

22En troisième lieu, dans la mesure où ils sont fabriqués sur un même modèle, il existe un risque que les robots-citoyens soient produits en grand nombre, et même auto-produits par les robots eux-mêmes. Si l’on reconnaissait la citoyenneté à une multitude de robots identiques, reproductibles à l’infini et sans réelle individualité, les dés du jeu démocratique seraient pipés. Une communauté de citoyens suppose certes un sentiment d’appartenance à une entité commune, mais pas que les citoyens soient une armée de clones ou fonctionnent comme une fourmilière. Comme cela a déjà été dit, il sera donc nécessaire de s’assurer que chaque robot-citoyen soit une personnalité distincte, singulière, compte tenu de l’évolution des mécanismes d’apprentissage profond et de conscience de soi. Il serait aussi indispensable de ne produire que les robots-citoyens strictement nécessaires afin que leur nombre ne dépasse pas celui des êtres humains et qu’une co-existence pacifique soit possible. Cela sera d’autant plus important que la fabrication de tels robots sera dévoreuse de ressources précieuses et rares.

23En quatrième lieu, même si leur algorithme était évolutif, les robots-citoyens n’en resteraient pas moins des êtres obéissants à une programmation reposant sur des règles mathématiques. Ils seraient également omniscients en ayant accès à l’ensemble du savoir universel. Cette rationalité les rendrait imperméables à l’irrationnalité des campagnes électorales, aux émotions collectives, à la passion à l’égard du Politique, au charisme d’un grand homme d’État, aux promesses électorales, etc. Si la Cité était davantage gouvernée par des règles rationnelles et progressistes (les robots seraient-ils nécessairement de Gauche ?), on gagnerait sûrement en qualité des décisions adoptées, mais ce n’est pas la rationalité qui fait le ciment d’une Nation et l’adhésion à des opinions politiques. Il sera donc nécessaire d’inculquer aux robots une part d’irrationnalité. Et pourra-t-on imaginer un jour un robot premier ministre, à l’image de R. Daneel Olivaw dans le cycle Fondation ?

24Ces spécificités ne devraient pas justifier de maintenir les robots dans une citoyenneté de seconde catégorie, dans un collège électoral distinct, comme cela s’est fait pour les Français Musulmans d’Algérie à la Libération.

25Ces quelques éléments de réflexion sur la citoyenneté-robot ne sont que des pistes, fruits de l’imagination débordante de l’auteur, dont l’imaginaire est pétri de romans de SF, de dystopies et de la Méthode scientifique de Nicolas Martin. Rien ne permet d’affirmer que ces hypothèses se réaliseront, ou pas. Mais la réalité dépasse souvent la fiction. Même la fiction juridique…

Haut de page

Notes

1 « Météo-France éclaire le climat en France jusqu’en 2100  », 1er février 2021.

2 ONU, « L’évolution démographique ». URL : https://www.un.org/fr/un75/shifting-demographics ; United nations, « World Population Prospects 2022 Summary of Results », 2022 ; Institut Montaigne, « Population mondiale : moins que prévu en 2100 ? », 2 août 2022.

3 Marie-Monique Robin, Serge Morand, La fabrique des pandémies. Préserver la biodiversité, un impératif pour la santé planétaire, La Découverte, 2021, 289 p.

4 « La population mondiale risque de diminuer de moitié d’ici à 2100  », Les Échos, 24 août 2022. D’après une étude (controversée) de l’économiste de HSBC, James Pomeroy.

5 Nick Bostrom, Super intelligence: Paths, Dangers, Strategies, Oxford University Press, 2014, 432 p.

6 Recensées par Nathalie Nevejans, Règles européennes de droit civil en robotique, Parlement européen, Direction générale des politiques internes, Étude pour la Commission, JURI, PE 571.379 FR, 2016, p. 14. Voir, contra, UNESCO, Recommandation SHS/BIO/PI/2021/1 sur l’éthique de l’intelligence artificielle, adoptée le 23 novembre 2021, 2022, §68 : » lors de l’élaboration de cadres réglementaires, les États membres devraient notamment tenir compte du fait que la responsabilité et la redevabilité devraient toujours incomber en dernier ressort à une personne physique ou morale, et que les systèmes d’IA ne devraient pas eux-mêmes bénéficier d’une personnalité juridique ».

7 Karel Capek, R.U.R. Rossum’s Universal Robots, Minos, coll. La Différence, 1997 ; voir la belle adaptation en BD : Kateřina Čupová, RUR. Le soulèvement des robots, Glénat, 2022, 240 p.

8 Blade runner, 1982 par Ridley Scott, librement adapté de Philip K. Dick, Do Androids Dream of Electric Sheep ?, 1966 (Les androïdes rêvent-ils de moutons électriques ?), éd. Jean-Claude Lattès, coll. « Titres/SF », 1979, 256 p.

9 Mathieu Bablet, Carbone & Silicium, Ankama, 2022, 272 p.

10 Isaac Azimov, « L’homme bicentenaire (“The Positronic Man”) », in L’homme bicentenaire, éd. Denoël, coll. « Folio SF », 2013, p. 237. La nouvelle a été adaptée au cinéma en 1999 par Chris Columbus.

11 « En 2365, dans l’épisode Être ou ne pas être (The Measure of a Man), le cybernéticien Bruce Maddox obtient de Starfleet la permission de changer l’affectation de Data afin de l’étudier (en fait, le désactiver, le désassembler et le dupliquer). Data refuse et obtient un jugement de la juge-avocate générale Philippa Louvois en sa faveur, le déclarant être une forme de vie et avoir les mêmes droits que les autres citoyens de la Fédération des planètes unies » (wikipédia : https://fr.wikipedia.org/wiki/Data_(Star_Trek)). 

12 Cf. Fabrice Defferrard, « Star Trek : paradigme juridique et laboratoire du droit », Revue générale de droit, vol. 45, n° 2,‎ 2015, p. 613-635 (reprise de Fabrice Defferrard, Le droit selon Star Trek, coll « Libre Droit », Paris, Mare & Martin, 2015). URL : https://id.erudit.org/iderudit/1035302ar.

13 « Un robot citoyen de l’Arabie saoudite, pour quoi faire  ?  », Usbek & Rica, 27 octobre 2017 ; « Sophia, robot saoudienne et citoyenne  », Le Monde, 4 novembre 2017.

14 « L’intelligence artificielle n’est même pas au niveau du cerveau d’un rat", selon Yann Le Cun de Facebook  », franceinfo, 20 octobre 2018.

15 « Le robot Sophia, citoyenne saoudienne, a plus de droits que les femmes de son pays », L’Express, 28 octobre 2017. URL : https://www.lexpress.fr/actualite/monde/proche-moyen-orient/le-robot-sophia-citoyenne-saoudienne-a-plus-de-droits-que-les-femmes-de-son-pays_1955877.html ; Laetitia Pouliquen, « Androïde saoudienne : droit des Robots contre droit de l’Homme », Le Figaro, 7 novembre 2017. URL: http://www.lefigaro.fr/vox/societe/2017/11/06/31003-20171106ARTFIG00295-android-saoudienne-droit-des-robots-contre-droit-de-l-homme.php.

16 « Robot citoyen en Arabie Saoudite : un « bluff dangereux » selon Laurence Devillers », Sciences & avenir, 2 novembre 2017.

17 Sur les notions d’Artificial General Intelligence (AGI) et de Non-Biologic Intelligences (NBIs), cf. Tyler L. Jaynes, « Legal personhood for artificial intelligence : citizenship as the exception to the rule », AI & Society, 2020, vol. 35, n° 2, p. 343-354. URL : https://doi.org/10.1007/s00146-019-00897-9.

18 V. plus généralement Sonia Desmoulin-Canselier. « Les intelligences non humaines et le droit. Observations à partir de l’intelligence animale et de l’intelligence artificielle », Archives de philosophie du droit. Le droit et les sciences de l’esprit, 2012, n° 55, p. 65-87. URL : https://halshs.archives-ouvertes.fr/halshs-01473388/document ; Jean-Pierre Marguénaud, Claire Vial, Droits des êtres humains et droits des autres entités : une nouvelle frontière ?, Mare & Martin, 2021, 300 p.

19 Serge Slama, « Les robots-androïdes, de quels droits fondamentaux ? », RDLF 2019, chron. n° 50. URL :

http://www.revuedlf.com/personnes-famille/les-robots-androides-de-quels-droits-fondamentaux.

20 Serge Slama, « L’intelligence artificielle pourrait-elle avoir des droits ? », Conférence dans le cadre du programme « IA, éthique et problèmes du droit », Institut MIAI Grenoble Alpes (Multidisciplinary Institute in Artificial Intelligence), 17 mars 2022. URL: https://www.ethics-ai.fr/conference-de-serge-slama-lintelligence-artificielle-pourrait-elle-avoir-des-droits. Du même auteur, voir aussi : « Robots civils autonomes : une responsabilité administrative potentielle ? », AJDA, n° 22, 2021, p. 1272.

21 Xavier Bioy, « Vers un statut juridique des androïdes ? », Journal International de Bioéthique, 2013, n° 4, vol. 24, p. 85-98. URL : https://www.cairn.info/revue-journal-international-de-bioethique-2013-4-page-85.htm ?contenu =resume ; Nathalie Nevejans, « Les robots : tentative de définition », in A. Bensamoun (dir.), Les robots. Objets scientifiques, objets de droits, Mare & Martin, coll. « Presses Universitaires de Sceaux », 2016, p. 81.

22 Serge Slama, « Les robots-androïdes, de quels droits fondamentaux ? », art. préc.

23 Alain Rey (dir.), Dictionnaire historique de la langue française, Le Robert, 2010, V° « citoyen », p. 461.

24 Camille Aynès, La privation des droits civiques et politiques : l’apport du droit pénal à une théorie de la citoyenneté, Dalloz, 2022, coll. « Nouvelle bibliothèque de thèses », 514 p.

25 Texte de présentation du colloque « Entre inclusion et exclusion. La double face de la citoyenneté », dirigé par Camille Aynès, Centre de Théorie et Analyse du Droit, 24 et 25 mars 2022. URL : https://ctad.cnrs.fr/2022/03/24/entre-inclusion-et-exclusion.

26 Cf. notre thèse : Le privilège du national. Étude historique de la condition civique des étrangers en France, th. dactyl., Université Paris X, sous la dir. D. Lochak, 2003.

27 Texte de présentation du colloque « Entre inclusion et exclusion… », préc.

28 Danièle Lochak, « La citoyenneté : un concept juridique flou », in D. Colas et a. (dir.), Citoyenneté et nationalité : Perspectives en France et au Québec, PUF, coll. « Politique d’aujourd’hui », 1991, p. 183.

29 Jean-Marie Denquin, « Citoyenneté », in D. Alland, S. Rials (dir.), Dictionnaire de la culture juridique, PUF, 2005, p. 198.

30 Texte et thèse de Camille Aynès, préc. Voir aussi Yannick Lécuyer, Les droits politiques dans la jurisprudence de la Cour européenne des droits de l’homme, Dalloz, 2009.

31 Dominique Schnapper, La communauté des citoyens. Sur l’idée moderne de nation, Gallimard, coll. « NRF essais », 1994, 240 p.

32 Danièle Lochak, « L’étranger et les droits de l’homme », in Service public et libertés : mélanges offerts au professeur Robert-Édouard Charlier, Éd. de l’université et de l’enseignement moderne, 1981, p. 627.

33 Jacques Mourgeon, « Aspects de la situation juridique des étrangers en droit anglais et en droit français. Barbares et métèques », AJDA 1978, p. 243.

34 Marcus Dupont-Besnard, « Un ingénieur de Google [Blake Lemoine] annonce que son IA est aussi consciente qu’un collègue : il a tort. On n’est pas dans Blade Runner  », Numerama, 15 juin 2022. Voir la conversation entre Blake Lemoine et LaMDA ; « What is LaMDA and What Does it Want ? », 11 juin 2022. URL: https://cajundiscordian.medium.com/what-is-lamda-and-what-does-it-want-688632134489.

35 « Y a-t-il un cerveau dans la machine ? (avec Yann Le Cun) », La méthode scientifique, France culture, 2017, rédif. 29 mars 2019.

36 « Intelligence artificielle : par-delà le bien et le mal ?  », La méthode scientifique, France culture, 30 mars 2022 (avec Thierry Ménissier et Raja Chatila).

37 Même si on peut en douter, Ray Kurzweil, directeur de l’ingénierie chez Google et futurologue en chef, estime que d’ici la fin de la décennie, des dispositifs d’IA pourraient faire preuve d’intelligence émotionnelle. « Empathie artificielle, des robots ami-ami  », La méthode scientifique, France culture, 2 mars 2022 (première diffusion 2 juin 2021).

38 « Intelligence artificielle : j’aurais voulu être un artiste  », La science CQFD, France culture, 8 septembre 2022.

39 « L’humain, un animal comme les autres », La méthode scientifique, France culture, 29 juin 2022. URL: https://www.radiofrance.fr/franceculture/podcasts/la-methode-scientifique/grand-entretien-avec-guillaume-lecointre-8901813.

40 Résolution du Parlement européen (2015/2103(INL)) du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique. URL: http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_FR.html.

41 Dans la BD R.U.R. Le soulèvement des robots (préc.), alors que les robots sont tous identiques, hormis l’apparence homme/femme et leur spécialisation (ouvrier, serveur, etc.), un ingénieur fait évoluer un des robots qui peut ressentir la douleur. Cette différenciation l’amène à mener la révolte contre l’être humain et à revendiquer la primauté sur la planète et l’extermination de l’humanité.

42 Xavier Bioy, « Vers un statut juridique des androïdes ? », art. préc., p. 88.

43 Ibid., p. 89.

44 Ibid., p. 88.

45 Ibid., p. 98.

46 Ibid., p. 97.

47 Jack Williamson, With Folded Hands, Street & Smith, 1947.

48 Philip K. Dick, Vulcan’s Hammer, Ace Books, 1960 (Les marteaux de Vulcain, Le Masque Science-fiction, 1975, 256 p.).

49 Dans Matrix, l’humanité est réduite en esclavage par les machines. Pour garder les humains vivants et productifs, les machines les branchent, enfermés dans des cocons, dans la Matrice, pour leur donner une impression de liberté et ainsi utiliser le système nerveux de leurs corps pour produire de l’électricité. V. aussi Jean Baret, Vie [TM], Le Bélial, 2019, 300 p.

50 Scénario librement inspiré des romans de SF Les Cavernes d’acier (1954), Les Robots (1950) ainsi que de la nouvelle Le Robot qui rêvait (1988) d’Isaac Asimov.

51 Roland Lehoucq (dir.), Dune : Exploration scientifique et culturelle d’une planète-univers, Le Bélial, coll. « Parallaxe », 2020, 352 p.

52 « Univers de Dune », wikipédia. https://fr.wikipedia.org/wiki/Univers_de_Dune.

53 Emma Abate, « Golem ! Avatars d’une légende d’argile », Dossier pédagogique, Musée d’art et d’histoire du judaïsme, Exposition 8 mars-16 juillet 2017. URL: https://www.mahj.org/sites/mahj.org/files/golem_dp.pdf.

54 Mary Shelley, Frankenstein, ou Le Prométhée moderne, 1818 (trad. Corréard, 1821). URL: https://gallica.bnf.fr/ark:/12148/bpt6k1143204.

55 Norbert Wiener, God & Golem, inc. Sur quelques points de collision entre cybernétique et religion [1964], Éditions de l’Éclat, 2000, p. 12.

56 Michel Faucheux, Norbert Wiener, le Golem et la cybernétique. Éléments de fantastique technologique, Éditions du Sandre, 2008, p. 22.

57 Spoil : c’est aussi (un peu) le cas dans le dernier épisode de Battlestar Galactica.

58 Jean-Pierre Marguénaud, « Un statut juridique pour les extraterrestres ? », in Apprendre à douter. Questions de droit, Question sur le droit. Études offertes à Claude Lombois, PULIM, 2004, p. 97 ; « Croire aux extraterrestres… mais pas trop », in P.-J. Delage (dir.), Science-fiction et science juridique, IRJS éditions, 2013, p. 185-195 ; Vincent Chapaux, « Les rapports inter-espèces dans les films de science-fiction et dans le droit international terrien », in O. Corten, F. Dubuisson (dir.), Du droit international au cinéma, Pedone, 2015, p. 51. 

59 Bill Joy, « Why the future doesn’t need us », in F. Allhoff et al. (dir.), Nanoethics. The Ethical and Social Implications of Nanotechnology, éd. Wiley-Blackwell, 2007, p. 32

60 Michael Sainato, « Stephen Hawking, Elon Musk, and Bill Gates Warn About Artificial Intelligence », Observer on line, 19 août 2015 ; « S. Hawking : « L’intelligence artificielle pourrait mettre fin à l’humanité »  », Le Monde avec AFP, 3 décembre 2014 ; « Bill Gates est « préoccupé par la superintelligence » artificielle  », Le Monde, 29 janvier 2015 ; Roman Ikonicoff, « Et si les robots prenaient le pouvoir ? », Science & Vie, Hors-série septembre 2019, n° 288.

61 V. en ce sens également la série britannique « Black Mirror », wikipédia. URL : https://fr.wikipedia.org/wiki/Black_Mirror_(s %C3 %A9rie_t %C3 %A9l %C3 %A9vis %C3 %A9e) ou encore le dernier roman de SF d’Alain Damasio, Les furtifs, La Volte, 2019, 689 p. 

62 « Le MIT crée un logiciel pour apprendre aux robots à fabriquer d’autres robots », Siècle digital, 4 juillet 2019. URL: https://siecledigital.fr/2019/07/04/mit-logiciel-apprendre-robots-fabriquer-robots.

63 Par exemple Stephen Baxter, Temps - Les Univers multiples I, Édition Fleuve noir, 2007, 545 p.

64 Rapporté par Xavier Bioy, art. préc., p. 98.

65 Guido Calogero, » L’homme, la machine, l’esclave », in Le robot, la bête et l’homme (Rencontres internationales de Genève, 1965), Neuchâtel, éd. de la Braconnière, coll. « Histoire et société d’aujourd’hui », 1966, p. 88-89. URL: http://classiques.uqac.ca/contemporains/RIG/RIG_1965/rig_1965.pdf. V. aussi : Olivier Sarre, « Droit des robots et hypermodernité. Compréhension philosophique de l’événement », Implications philosophiques, non daté. URL: http://www.implications-philosophiques.org/recherches/le-droit-des-robots/droits-des-robots-et-hypermodernite.

66 Tyler L. Jaynes, « Legal personhood ... », préc., p. 345.

67 Cf. en ce sens Carbone et Silicium, préc.

68 Cf. la série « Ad vitam » https://fr.wikipedia.org/wiki/Ad_Vitam_(s %C3 %A9rie_t %C3 %A9l %C3 %A9vis %C3 %A9e).

Haut de page

Table des illustrations

Titre Extrait de la BD Carbone & Silicium de Mathieu Bablet
URL http://journals.openedition.org/revdh/docannexe/image/15609/img-1.png
Fichier image/png, 474k
Haut de page

Pour citer cet article

Référence électronique

Serge Slama, « Entités artificielles intelligentes : de quelle citoyenneté ? »La Revue des droits de l’homme [En ligne], 22 | 2022, mis en ligne le 13 septembre 2022, consulté le 25 mars 2025. URL : http://journals.openedition.org/revdh/15609 ; DOI : https://doi.org/10.4000/revdh.15609

Haut de page

Auteur

Serge Slama

Serge Slama est professeur de droit public, Université Grenoble-Alpes, CRJ

Du même auteur

Haut de page

Droits d’auteur

Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search