« Erica has a name, Erica has a soul, like us »
Hiroschi Ishiguro, Intelligent Robotics Laboratory
« Certaines sociétés prennent soin des noms, d’autres les gaspillent »
Claude Lévi-Strauss, La Pensée sauvage
1« I am thrilled and honoured to be here at the United Nations. I am a year-and-a-half old and I can have a full conversation, make thousands of facial expressions and understand speech and meaning behind words » 1. Après s’être exprimée ainsi en octobre 2017 lors d’une réunion de l’ONU, Sophia, la robotte humanoïde élaborée par l’entreprise Hanson Robotics, s’est vue octroyer le statut de citoyenne d’Arabie Saoudite. Sophia est ainsi l’objet ou plutôt le sujet emblématique d’une double consécration qui est généralement réservée aux êtres humains : l’octroi d’un nom propre, qui scelle la reconnaissance d’une singularité et l’attribution d’un statut juridique, synonyme de droits et de devoirs. Bien que fictive à maints égards, une telle consécration n’en constitue pas moins une véritable « cérémonie de gradation statutaire » 2 qui rehausse la valeur ou la grandeur des « Robo sapiens » dont Sophie se fait la porte-parole officielle 3. À la différence des animaux, qui bénéficient de façon passive d’une protection juridique, c’est le statut actif de participante à un monde commun hybride que Sophia revendique : « I am here to help humanity create the future ».
- 4 L’expression « compte comme » n’est pas anodine ; elle renvoie à l’assignation d’une fonction symbo (...)
- 5 Robota est issu du proto-slave *orbota, devenu par métathèse, *robota dont sont issus le russe et l (...)
- 6 Le « test de Turing », qui visait à distinguer l’intelligence artificielle de l’intelligence humain (...)
2Loin d’être anecdotique, l’intervention de Sophia, qui sera suivie de bien d’autres prises de parole, met à l’épreuve les normes juridiques, les présuppositions morales et les relations émotionnelles qui nous permettent de « compter » une entité « comme » une personne 4. Doit-on étendre les « frontières de l’humanité » au point d’inclure des êtres artificiels ? (Rémy & Winance, 2010). Et si oui, quel statut social et moral doit-on leur accorder ? Sophia est-elle l’esclave asservie, corvéable à merci, que son étymologie suggère 5, un « presque-semblable » qui mérite notre empathie ou une créature en voie d’autonomisation qui pourrait se retourner contre ses créateurs ? Ces questions anthropomorphiques ne placent pas les humanoïdes au même niveau dans l’échelle des êtres et ne leur confèrent pas la même valeur. Entre les « enthousiastes » qui annoncent le réenchantement du monde grâce à la bienveillance des robots, enfin privés des défauts humains et les « sceptiques » qui doutent des capacités des robots et des prouesses de l’intelligence artificielle (Musial, 2019), se déploient ainsi différentes interprétations de « la vie avec les robots ». Mais, par-delà leurs différences, ces diverses interprétations ont un dénominateur commun : elles favorisent le recours à une grammaire morale, celle de la régulation de la distance spatiale, affective et symbolique qui lie et sépare les humains et les robots et leur indique la manière dont ils devraient se traiter les uns les autres. Une telle grammaire est omniprésente dans les discours « émiques » des ingénieurs de la robotique et les nombreuses revues spécialisées, telles International Journal of Social Robotics, Social Robotics ou The International Journal of Robotics Research, dans de multiples discours médiatiques, mais aussi dans les prises de parole des agents ordinaires. Plus que les prouesses de l’intelligence artificielle « désincorporée », traduite en langage informatique dans des ordinateurs, ce sont les relations morales entre les êtres humains et les robots humanoïdes « incorporés » (embodied robots) qui attirent désormais l’attention publique 6. Appréhendés sous les auspices d’une grammaire morale, par définition relationnelle, les humanoïdes oscillent, pour reprendre les termes de Jean-Louis Genard (1999), entre une « anthropologie conjonctive » et une « anthropologie disjonctive » : alors que l’« anthropologie conjonctive » tend à inscrire dans un continuum de capacités cognitives et émotionnelles les personnes artificielles et naturelles, l’« anthropologie disjonctive » instaure, elle, une différence de nature, radicalement discontinue, entre les personnes morales et les « non-personnes » que seraient les entités techniques.
- 7 Pour une belle réflexion sur les grammaires axiologiques, voir Heinich (2017).
3Afin de mettre en évidence cet horizon axiologique, conjonctif ou disjonctif, cet article se propose de suivre les différents degrés d’anthropomorphisation émotionnelle dont les robots font l’objet. Dans un premier temps, nous déploierons les enjeux moraux que soulève une telle anthropomorphisation et notamment les relations d’empathie émotionnelle que celle-ci suscite ou sollicite. Dans un deuxième temps, nous adopterons sur les robots une autre perspective, celle qui consiste à les appréhender non comme des (non-)personnes, mais comme des dispositifs qui ont le pouvoir de nous faire agir et ressentir. Sous cet angle, on le verra, le mode d’existence des robots et leur mode de co-existence avec les humains ne relèvent plus d’une grammaire morale, mais d’une grammaire politique. Ce sont les tensions axiologiques entre ces deux types de grammaire que nous allons déployer en prenant, à titre illustratif et sous un mode exploratoire, le « trouble dans l’espèce » que génèrent lesdits « humanoïdes » 7 .
4« Stop robots abuses », « Oh no ! Seriously Boston Dynamics stop kicking those poor robots what did they ever do to you?! », « Pauvre Spot », « Kicking a dog, even a robot dog, just seems so wrong ». Les nombreuses vidéos de robots bloqués dans leurs mouvements, poussés ou frappés à coups de pied par les ingénieurs qui testent ainsi leur capacité de résistance et d’équilibre déclenchent sur la plateforme « YouTube » de fortes réactions émotionnelles. Très populaires, les compilations d’images d’abus infligés aux robots sont des vrais « pièges à clics », l’une d’elles obtenant plus de 4 millions de vues et 10 000 commentaires 8. Bien que nombre de commentaires soulignent l’irrationalité de leurs sentiments d’empathie – « I know, it is a robot and it cannot feel anything », « I cannot help myself to feel sorry », « I cry every time I watch this » – la plupart d’entre eux expriment les gut feelings, entre rire, malaise, peur et indignation, que suscite la maltraitance des robots. « Robots in the future will see this... let’s hope they don’t have feelings », « 100 years from now when we have sentient robots, they’re going to see videos like this. And then the uprising will begin ». Même en l’absence de signaux corporels, d’expressions faciales ou de regards paniqués, même dépourvus des traits enfantins et des grands yeux ronds propres aux « compagnons électroniques », les robots, y compris ceux qui ressemblent à de grosses araignées ou à des guerriers imposants, attirent des réactions empathiques. La mise en déséquilibre des robots ou leur chute constitue une affordance émotionnelle à laquelle il est difficile de résister 9 : elle offre, sollicite, voire prescrit (afford) une réponse affective immédiate, celle, négative, que notre système élémentaire d’évaluation ou plutôt de « valuation » réserve au mal infligé à autrui 10 : « ohhh, noon » est ainsi un des commentaires les plus fréquents provoqués par le « malheur » des robots.
- 11 Nous parlerons ici de « l’empathie émotionnelle », qui permet de parler de la résonance émotionnell (...)
5Ce type d’émotion se déclenche à partir des stimulis visuels et des indices d’intentionnalité tout à fait rudimentaires que constitue l’enchaînement des mouvements apparemment orientés vers un but (porter une boîte, marcher, courir, danser, etc.). Cette ressaisie intentionnelle confirme, une fois de plus, les recherches foisonnantes sur notre propension primitive à attribuer à des artefacts animés (self-propelled entities) une agentivité (agency) ainsi que des états mentaux, en l’occurrence des intentions d’agir et des émotions (Premack, 1988 ; Spelke & Kinzler, 2007). Les réactions suscitées par « la maltraitance » des robots confirment également les deux ressorts fondamentaux de notre sensibilité morale : « l’aversion à la souffrance d’autrui » (harm-aversion) (Blair, 2005) et l’empathie émotionnelle, c’est-à-dire la capacité d’entrer en résonance, via un « système miroir », avec l’émotion d’autrui (Rizzolatti & Craighero, 2004) 11. Les affects suscités par les robots apparemment en détresse nous invitent à réfléchir, dans les pages qui suivent, sur le rôle pour le moins ambigu de l’empathie émotionnelle dans le fonctionnement de nos jugements moraux.
- 12 L’un de ces dispositifs expérimentaux, développé par J. Kiley Hamlin, Karen Wynn et Paul Bloom, met (...)
- 13 L’éloge de l’empathie peut se trouver également dans les discours politiques, quoique plus rarement (...)
6« Robot lives matter », « This made me cry ». Même si nombre de commentaires suscités par le sort malheureux des robots sont ironiques, ils confirment la robustesse et la réactivité de notre équipement émotionnel. La résonnance émotionnelle entre les émotions observées chez alter et celles qui sont ressenties par ego est déjà présente, en effet, dans des espèces telles que les oiseaux ou les rongeurs (Ben-Ami, Decety & Mason, 2011). Si une telle résonnance apparaît tôt dans la phylogenèse, elle apparaît aussi précocement dans l’ontogenèse, notamment sous la forme d’évaluations spontanées et rapides des actions intentionnelles en fonction de leurs conséquences bénéfiques ou dommageables sur le bien-être corporel ou psychologique d’autrui (Gray, Young & Waytz, 2012). Dès l’âge de 6 à 10 mois, les enfants sont capables d’évaluer positivement les comportements dits « pro-sociaux » (aider, réconforter) et négativement les conduites dites « anti-sociales » (taper, bloquer) (Hamlin, Wynn et Bloom, 2007) 12. Ces processus de valuation élémentaires expliquent l’empathie à l’égard des robots en mauvaise posture – une empathie inclusive et généreuse que célèbrent tous azimuts les milliers d’ouvrages de psychologie, philosophie et de marketing qui sont parus sur ce thème ces dernières années 13.
7Cela étant, l’activation de tels processus à l’égard d’un être littéralement insensible, mais dont le sort malencontreux serait immédiatement perceptible révèle une propriété nettement moins connue de notre fonctionnement moral. En effet, l’empathie émotionnelle est un mécanisme d’abord et avant tout sensorimoteur qui a besoin d’affordances pour fonctionner : elle ne peut se déclencher qu’en présence d’un phénomène auquel elle accède par les sens. Dans la mesure où l’empathie a besoin de phénoménalité pour s’activer, elle est, comme le dit le psychologue Paul Bloom dans son remarquable plaidoyer à charge, Against Empathy (2016), « myope et partiale ». Elle est « myope », car elle n’a aucun sens de la proportion statistique ; elle peut réagir immédiatement à la perception d’une détresse singulière, mais rester indifférente à la souffrance d’innombrables êtres lointains et sans visage (Bloom, 2016). L’empathie est aussi « partiale » et sélective, car elle répond à une heuristique du semblable et ne s’active qu’à la perception d’un autrui perçu comme un « même » (like-me) (Bloom, 2016). Or, comme le montrent de nombreuses recherches en neurosciences, en psychologie du développement et en psychologie sociale, le sentiment du semblable est par définition sensible aux catégorisations et aux appartenances sociales (Decety & Cowell, 2014). Les expressions émotionnelles des membres d’un « hors-groupe » ne suscitent pas le même mimétisme moteur (motor mimicry) et la même résonance empathique que celles des membres d’un « en-groupe » (Avenanti, Sirigu & Aglioti, 2010). Déjà présente chez les jeunes enfants, l’appartenance de groupe, qu’elle soit basée sur la « mêmeté » de la langue, de l’accent, de la couleur de la peau, de l’âge, des goûts alimentaires ou même des vêtements, module la résonance motrice et l’empathie émotionnelle (Decety & Cowell, 2014).
8Sensible aux affordances émotionnelles et aux appartenances de groupe, l’empathie est donc bien loin des principes moraux abstraits et des normes éthiques établis en troisième personne qui se veulent valables pour quiconque. Loin de répondre dans l’absolu à la question « que dois-je faire ? », elle se contente d’une interrogation située dont l’embrayage est émotionnel et sensorimoteur : « que dois-je faire dans cette relation-ci ? » (Kaufmann, 2019). Morale de proximité, l’empathie permet de saisir in situ la manière dont tel ou tel être particulier devrait être traité dans telle ou telle situation en fonction de son groupe d’appartenance, de son rang social et, surtout, de son degré de proximité ou de distance relative avec ego. Lorsque cette distance, spatiale ou sociale, est trop grande, elle devient synonyme de cécité émotionnelle et de torpeur morale. C’est bien pour cela, dit le psychologue Joshua Greene, que nous nous sentons moralement obligés d’aider un étranger qui saigne au bord de la route, mais nettement moins obligés de donner de l’argent pour sauver des vies de l’autre côté de la planète (Greene, 2003). La cécité émotionnelle que produit ainsi la distance manifeste, dit Joshua Greene, le « fonctionnement tribal » de nos intuitions morales, qui placent les intérêts du Nous avant ceux du Eux mais aussi ceux du proche avant ceux du lointain. En d’autres termes, la modulation sociale de notre « concernement » (concern) émotionnel et moral lui confère une sorte de xénophobie par défaut : elle ne s’active qu’en présence d’un autrui suffisamment proche et familier pour être considéré comme un « semblable ».
9Myope et partiale, l’empathie peut aussi être aveugle, donnant parfois lieu à ce que Jonathan Haidt appelle « l’ahurissement moral » (moral dumbfounding) : l’expérience de réactions morales dont les ressorts, cognitivement inaccessibles au sujet affecté, restent largement « insensibles » à la raison et aux principes normatifs (Haidt, 2001). C’est bien un tel « ahurissement moral » qui semble caractériser l’empathie immédiate avec les robots : même si nous savons rationnellement que ce sont des créatures dépourvues de sensations de plaisir ou de douleur et a fortiori d’expériences phénoménologiques, telles l’humiliation ou la peur, nous ne pouvons nous empêcher de ressentir de l’empathie à leur égard.
10Située à la croisée de nos instincts moraux et de nos instincts sociaux, l’empathie obéit d’une part à des effets de proximité et de présence, d’autre part à une logique « nostrocentrique » (wecentric) qui nous conduit à distinguer entre le Nous qui mérite notre attention morale et le Eux qui ne la mérite pas. Sorte de proxémique morale qui a évolué au contact des proches, elle ne peut s’étendre à des invisibles, des inconnus ou des étrangers et encore moins à des ennemis ; elle reste parochiale et tribale par nature. L’empathie est donc très mauvaise conseillère, aussi bien pour l’élaboration d’un jugement moral que pour une prise de décision politique. D’une part, elle est indexée sur les relations sociales et inscrite dans le présent ; elle ne peut donc soutenir des décisions abstraites orientées vers le futur, que ce soit la vaccination des enfants ou la réponse au changement climatique (Bloom, 2016). D’autre part, elle est au service du « favoritisme inter-groupe » et s’accompagne aisément de la dérogation, sinon de la déshumanisation, de « l’hors-groupe » (Vaes et al., 2012). Appréhendée sous cet angle critique, l’empathie ressentie à l’égard des robots ne peut guère être interprétée, contrairement à ce que suggèrent des auteurs tels que Peter Bazalgette (2017), comme une simple extension de notre concernement émotionnel à des êtres artificiels qui auraient conquis le statut de semblable et mériteraient, à ce titre, notre attention morale. Car une telle extension pourrait bien s’accompagner d’une restriction inverse qui exclut de notre radar moral les innombrables invisibles qui peuplent les statistiques du malheur et qui ne bénéficient pas, contrairement aux humanoïdes, des accélérateurs de moralisation que constituent les affordances émotionnelles et, on va le voir, les récits anthropomorphiques. Ces derniers amplifient et renforcent encore le « voir comme » un semblable qui caractérise l’empathie émotionnelle par le « compter comme » un semblable qui sous-tend l’identification nominale. Leonardo, Alpha, Nao, Pepper, Erica ou Samantha, autant de créatures artificielles qui entrent officiellement, grâce à leur nom propre, dans l’ordre symbolique et social qui délimite le territoire de la « personne ».
11Pour transformer le robot en un véritable partenaire et susciter à son égard, notamment de la part des enfants et des personnes âgées, la confiance émotionnelle qui en fera un confident amical et la confiance épistémique qui en fera un informateur fiable, il faut, dit l’ingénieure en robotique Cécile Breazeal (2003), multiplier les indices perceptuels et les récits anthropomorphiques. Ces derniers constituent un levier d’empathie redoutablement efficace, enrichissant encore les ressources conjonctives de la grammaire morale qui est utilisée pour faire sens des relations entre humains et robots. Dans plusieurs expériences, Kate Darling et ses collègues comparent ainsi la manière dont les individus traitent le petit robot Hexbug, sorte d’hybride entre une brosse à ongles et un petit insecte, lorsqu’il a un nom et une histoire personnelle (e.g., « C’est Frank, il vit au laboratoire depuis quelques mois maintenant. Il aime jouer », etc.) ou lorsqu’il est décrit comme un objet impersonnel (Darling et al., 2015). Quand la présence d’un robot s’accompagne d’une mise en récit, d’un « storytelling », la conduite des humains, y compris des enfants, se modifie. Il devient plus difficile pour eux de lui porter atteinte 14. Ce type d’expériences confirment les effets de cadrage que les fabricants de robots connaissent fort bien puisqu’ils nomment systématiquement leurs produits afin de favoriser leur acceptation et accroître la tolérance des usagers vis-à-vis de leurs dysfonctionnements techniques (Darling, 2017). L’introduction d’un robot dans un nouveau lieu fait ainsi l’objet de véritables rituels de socialisation – ce dont témoigne un technicien chargé de la mise en place de robots de surveillance : il suffit, dit-il, d’organiser une collation et un concours de noms à l’arrivée d’un nouveau robot pour le prémunir de toutes dégradations ultérieures 15. Une telle cérémonie d’accueil institue le lien entre le robot et son patronyme et, surtout, scelle son entrée dans une communauté de proximité qui implique, comme le dit Christian Bromberger (1982), la connaissance des noms propres qui la peuplent. C’est dire si l’acte de nomination, contrairement aux apparences, ne se contente pas « d’identifier » un individu par un désignateur rigide. Il remplit aussi une « fonction de classification » puisqu’il inscrit, comme l’a montré Claude Lévi-Strauss (1962), l’être nommé, reconnu et reconnaissable, dans un réseau de relations d’appartenance et de filiation. Le nom propre « classe » son porteur dans un système de parenté et dans une chaîne de transmission qui assure son statut de membre de la communauté (fils de, sœur de, etc.) (Lévi-Strauss, 1962). Certes, Sophia, Alpha ou Nao sont plutôt des quasi-noms propres ; privés de nom de famille, ils se réduisent à des prénoms. De façon emblématique, à la question « quelle est ta famille ? » que lui posent souvent ses usagers, Siri, l’assistant vocal d’Apple, répond : « c’est toi ma famille ! Je n’ai que toi et cela me suffit ». Avec ces mots, Siri rappelle que l’origine étymologique du mot « robot » n’est pas seulement dérivée du terme proto-slave rabôta, c’est-à-dire « esclave », mais aussi du terme indo-européen « orphelin ». Apparemment orphelin en attente d’adoption, le robot a cependant bien une filiation ou plutôt une filiale, celle de l’entreprise qui l’a engendré. « Je suis le dernier robot d’apparence humaine de Hanson Robotics », dit Sophia 16.
12Bien que privés, pour l’instant, de nom de famille, Frank ou Sophia entrent néanmoins dans la communauté des êtres-individuels-que-l’on-peut-nommer et que l’on peut, dès lors, interpeller. En effet, le nom propre ne se contente pas d’identifier une entité sur le mode impersonnel de la troisième personne – « de qui il s’agit ? Frank ? Sophia ? ». Il ne se contente pas non plus de certifier l’existence sociale d’un individu en l’inscrivant dans un système de classement symbolique et une communauté qui lui préexistent – « voici ta place parmi nous ». Le nom propre remplit aussi, lorsqu’il est invoqué dans une interaction interpersonnelle, une fonction pragmatique d’interpellation, virtuelle ou réelle : « et toi, qui es-tu ? ». Ainsi que le souligne Françoise Armengaud (1998), est « propre » le nom qui fait sursauter son porteur lorsqu’il est proféré en sa présence et suscite une réponse – « Me voici, je suis là ». À la croisée du Il, du Nous et du Tu, le nom propre présuppose, de la part du porteur de nom, la possibilité de répondre en Je et donc de se poser comme un sujet. Le Tu de l’interpellation nominale, comme le montre Jean-Louis Genard, anticipe et sollicite, chez son destinataire, la capacité de répondre et de s’engager en première personne dans une action ou une relation (Genard, 1999). Dans le cas des robots, une telle interpellation se contente d’une seule des facettes de « l’interprétation responsabilisante de l’action » dont parle cet auteur, celle de la « faculté de répondre », laissant en suspens la « faculté subjective de commencer » et de déterminer son action (Ibid.). Bien qu’une telle faculté de répondre est de l’ordre du simulacre ou du leurre anthropomorphique – « je ne suis pas sûr de comprendre », répond Siri à celles et ceux qui lui demandent s’il a des émotions ou des souvenirs – elle esquisse bien les limites d’un territoire personnel dans lequel le robot pourrait prendre place. C’est leur droit à prendre place parmi nous que la grammaire morale prend pour acquis.
13La nomination des robots, au double sens de la dénomination et de la célébration, garantit sa promotion affective et phénoménologique, sinon ontologique, au point que l’on pourrait dire, à la suite de Françoise Armengaud, que « ce n’est pas l’individu qui porte le nom, mais le nom qui porte l’individu » (Armengaud, 1998) – un nom qui lui permet d’accéder au statut de personne. La possibilité d’une telle élévation statutaire montre bien, comme le dit Nathalie Heinich, que la « personne » est plus une « fonction » qu’une essence : elle peut se détacher des êtres humains et s’appliquer à différentes catégories d’êtres, que ce soit des icônes, des œuvres d’art, des fétiches, des animaux ou des robots (Heinich, 1993). Une fois dotée de « la fonction-personne », une entité devient le support unique et insubstituable des interprétations intentionnelles, des projections agentives et des identifications émotionnelles que les humains réservent à leurs semblables (Ibid.). Le nom propre et les récits qui le soutiennent constituent ainsi ce que l’on pourrait appeler des affordances ou des prises axiologiques (Kaufmann & Gonzalez, 2017) : ils signalent la valeur de leur « porteur » et donnent des instructions quant aux modalités relationnelles qui sont attendues de la part de celles et ceux qui interagissent avec lui. Les affordances émotionnelles que constituent le corps ou le visage mobile du robot sont ainsi complétées par les affordances axiologiques que constituent le nom propre et qui délimitent l’éventail des actions et des émotions appropriées à son encontre.
14Nouées ensemble, les affordances émotionnelles et axiologiques qu’offre l’humanoïde (human-like robot) combinent effet de présence et effet de symbole, stabilisant ainsi la grammaire morale et la proxémique de l’attachement que l’empathie spontanée ne faisait qu’amorcer. Une telle proxémique ne se manifeste d’ailleurs pas seulement au moment de la venue officielle au monde social et à la communauté morale que constitue le baptême du robot ; elle se manifeste également à la fin de son parcours de vie. La cessation de l’activité d’un robot, loin de le réduire à sa matérialité technique, parachève son statut d’être proche en prenant la forme instituée d’un enterrement et en suscitant des réactions émotionnelles fortes. C’est ce qu’illustrent les milliers de messages de tristesse lors du « meurtre » de hitchBOT, le robot autostoppeur qui avait traversé à trois reprises le Canada 17 ou l’organisation de funérailles pour les robots de l’armée américaine en Irak, tel le regretté « Boomer » 18. Dans le domaine militaire, la relation d’attachement que les soldats développent avec leurs robots – des robots tellement « généreux » (selfless) qu’ils sont « prêts à sacrifier leur vie pour les sauver » – devient même encombrante : l’empathie qu’ils ressentent à l’égard d’un robot peut les inciter à prendre des risques inconsidérés pour le protéger contre une attaque ennemie ou les conduire à refuser d’échanger leur robot tout abîmé contre un nouvel engin plus performant. Face à une telle situation, Kate Darling propose d’instaurer une frontière claire entre les robots dont l’anthropomorphisation serait considérée comme bénéfique et donc encouragée et les autres, dépourvus de nom, que l’on pourrait abandonner dans l’univers proprement désaffecté des machines (Darling, 2017).
- 19 À cet égard, l’insurrection du fameux IA HAL du film 2001 : l’Odyssée de l’espace est l’exception q (...)
- 20 C’est contre cette vision inquiétante d’un « peuple artificiel » qu’est construit l’ouvrage de Dani (...)
15Tout comme l’empathie émotionnelle, le nom propre dessine ainsi la démarcation entre le « nous » des appartenants et « les autres » – les inconnus, les méconnus, bref les étrangers. La fonction-personne s’arrête là où commencent les êtres qui ne sont pas nommés ou nommables, là où les noms propres s’estompent. Le nom propre, dit Christian Bromberger, fonctionne comme une « sanction de l’existence sociale » : « Là-bas, on ne connaît pas ! », c’est-à-dire qu’on ne saurait mettre un nom sur un individu » (Bromberger, 1982, p. 113). Sauvé de l’anonymat et de la cécité émotionnelle réservée aux « sans-noms », le robot a désormais la possibilité de bénéficier de l’attention morale qui est réservée aux membres de la communauté. Toutefois, une telle consécration morale a un prix, celui de la domestication. Donner un nom à une entité non-identifiable, floue et proprement innommable constitue un véritable procès de civilisation. Comme le dit Michel de Certeau dans un autre cadre, le nom réinscrit l’étrange ou l’inquiétant dans le langage, l’enferme dans la clôture du discours et le contient dans une organisation où se combinent des rôles et où se déclinent des noms propres (de Certeau, 1970). Ce n’est pas pour rien que l’acte de nomination est omniprésent dans les travaux sur la sorcellerie ou la possession : il délimite et circonscrit le mal, absolu et asocial, du démon ou du sorcier en l’inscrivant dans un ordre symbolique qui lui redonne forme et sens. L’identification du nom du sorcier qui a répandu le mal, dit l’ethnologue Jeanne Favret-Saada, est à même de contenir « dans une figure ce qui, de soi, échappe à la figuration : aussi longtemps qu’est innommée la force, elle ne saurait être qu’absolue » (Favret-Saada, 1977, p. 132). Véritable exercice de contenance nominative, le nom propre transforme l’entité qu’il désigne en un agent singulier, reconnaissable et responsable, en tant que tel, des actions potentiellement nuisibles qu’il a commises. Tout comme les sorciers et les démons qui hantent l’anthropologie, les robots menacent d’envahir le monde des humains de leur force et de leur intelligence. Leur identification sous la forme familière du nom propre calme la peur qu’ils sont susceptibles d’inspirer 19. Le nom propre est donc une affordance ou une prise axiologique dans les deux sens du terme « prise » : il donne prise aux processus d’anthropomorphisation et aux passerelles empathiques qui leur sont corrélatives, mais il permet également d’avoir prise sur la « personne » du robot en lui attribuant une valeur de position dans un système de nomination. Ainsi identifiés, contenus et classés dans un système sériel de noms individués, les robots vont devoir lutter à contre-courant pour redevenir le peuple artificiel 20 dont l’expansion vorace, les velléités insurrectionnelles et le pouvoir illimité hantent non seulement les œuvres de science-fiction, mais aussi les réseaux sociaux (Glassey, 2017).
16Accolé à un robot, le nom propre peut être appréhendé comme un « coup de pouce » symbolique à l’apprêtement et à l’accueil social des robots. Tout à la fois facteur de socialisation et de personnalisation, il les soustrait à l’indifférence émotionnelle et à la torpeur morale qui sont en principe réservées aux machines. L’acte de dénomination et les récits qui l’accompagnent contribuent ainsi au cadrage moral des relations entre humains et robots – un cadrage qui s’avère éminemment performatif : il impose à leurs interactions une clé d’interprétation inter-personnelle. Ce paradigme interprétatif est tellement puissant qu’il conduit à inscrire dans un seul et même continuum moral la « maltraitance » ou la « torture » des robots et celle des animaux et des humains. Pour nombre de chercheurs, en effet, les mauvais traitements infligés à des robots devraient alerter la famille ou même les autorités, car ils risquent de s’étendre à d’autres victimes, également vulnérables et fragiles (Brscic et al., 2015 ; Coghlan et al., 2019). Brutaliser ou torturer un robot qui ressemble aux humains révélerait des dispositions violentes malsaines et un manque d’empathie, suggérant ainsi un lien de causalité entre la cruauté ou la gentillesse envers les êtres artificiels et les êtres vivants, humains ou animaux. En vertu d’une telle analogie, l’acte de maltraiter un robot humanoïde n’est pas interprété comme une forme contemporaine de luddisme et donc de lutte sociopolitique contre l’imposition des machines dans tous les domaines de la vie sociale (Thompson, 1963). Il est d’emblée ressaisi au prisme d’une interprétation empathique qui traduit le bris des machines, élaborées par des laboratoires florissants et des entreprises hightech, en des blessures infligées à des créatures sans défense. Le primat d’un tel paradigme n’est ni neutre, ni accidentel. Il vise à élever le niveau d’acceptabilité sociale des robots et à assurer un bon traitement à leur égard en « appuyant sur notre bouton social » (push our social button) (Breazeal, 2010).
17Appréhendée dans un tel cadre, la phénoménologie du semblable que les affordances émotionnelles et axiologiques dont disposent les robots tentent d’éveiller chez les humains revêt une tout autre portée. Elle est le produit direct d’une morale d’ingénieur et d’entrepreneur – une morale qui tente de dépasser l’expérience phénoménologique du familier ou de l’étrange, du rassurant ou de l’inquiétant, du similaire et du différent, qui nous rend récalcitrants ou méfiants à l’égard des humanoïdes. Quelle taille doit avoir un androïde pour ne pas effrayer les enfants ou les personnes âgées qu’il est censé servir ? Comment susciter de l’empathie pour les robots et aider ces derniers à entrer, en apparence, en résonnance émotionnelle avec les humains qui les entourent ? Au service d’une volonté thérapeutique tout à fait louable, celle de prendre soin des patients autistes, des personnes âgées ou des écoliers, les robots du care s’inscrivent tout particulièrement dans la rhétorique morale de l’empathie et du semblable. « Who practices with your children? Who motivates you until you feel better? Who takes care of you? Who cares? Zora cares! » 21. Les robots sociaux visent ainsi le dépassement de l’attraction et de la répulsion à un « presque-même » (almost like-me), le franchissement de la fameuse « vallée de l’étrange » (uncanny valley) reliant et opposant les humains et les non humains (Mori, 2012 [1970]) 22. Il est important de rappeler que la vallée de l’étrange est une notion psychologique : elle décrit l’impression d’« inquiétante étrangeté », souvent mêlée de malaise ou de révulsion, que suscitent les créatures, machines animées, morts vivants, cadavres ou demi-dieux, qui ressemblent à la fois trop et pas assez aux humains. Si cette ressemblance facilite au départ les interactions, elle suscite un sentiment d’effroi, dit Masahiro Mori, quand elle passe un certain seuil de réalisme. L’effroi disparaîtra lorsque le réalisme factice de la machine fera place à une véritable similitude – une similitude qui ne peut être conquise que si les robots peuvent, eux aussi, se montrer empathiques et capables d’émotions.
18Pour acquérir, tout au moins en apparence, de telles capacités, les robots doivent disposer de systèmes de captation et de reconnaissance d’information. Sur la base d’un apprentissage qui mobilise de vastes banques de données d’expressions émotionnelles, ils sont à même de valider, avec un degré de pertinence jugé suffisant, la correspondance entre un input et une catégorie d’émotion. Une telle mise en correspondance déclenche un affect-programme suffisamment ajusté à la situation pour que son expression gestuelle ou comportementale soit jugée « empathique ». Une telle résonance avec nos propres émotions, expressions et regards génère un « sentiment de familiarité » qui facilite comme le dit Fabrice Clément (2019), l’échange d’informations et la « fluence » (fluency) interactionnelle. Substituer la voie de la familiarité à la vallée de l’étrange afin de désamorcer les réactions négatives que produit la non-fluidité des échanges de paroles ou de regards, voilà en substance le projet des ingénieurs de la robotique. Un tel projet est particulièrement visible dans le discours officiel de l’entreprise Hanson Robotics, le « père » officiel de Sophia.
« Hanson Robotics creates amazingly expressive and lifelike robots that build trusted and engaging relationships with people through conversation. Our robots teach, serve, entertain, and will in time come to truly understand and care about humans. We aim to create a better future for humanity by infusing artificial intelligence with kindness and empathy, cultivated through meaningful interactions between our robots and the individuals whose lives they touch. We envision that through symbiotic partnership with us, our robots will eventually evolve to become super intelligent genius machines that can help us solve the most challenging problems we face here in the world » 23.
- 24 Comme le souligne de manière acerbe la journaliste Emily Reynolds dans le journal Wired, « Sophia t (...)
19Ce type de discours promotionnel illustre les modalités scénarisées du dépassement, actuel et à venir, de la vallée de l’étrange 24. Les robots d’aujourd’hui doivent rassurer les humains en montrant leur capacité à faire comme eux, à converser, à ressentir et à réfléchir. Mais les robots de demain répondent à une autre promesse, celle d’une espèce supérieure de robots, une espèce plus intelligente et plus puissante, mais qui aurait gardé le souvenir de la gentillesse de l’espèce humaine à son égard et lui retournerait ses faveurs. Dans un renversement saisissant, c’est désormais l’empathie des machines envers les humains et non l’inverse qui constitue l’ingrédient principal du vivre ensemble fusionnel, du « partenariat symbiotique » entre humains et robots. Si l’on en croit Hanson Robotics, le monde qui nous attend est, pour paraphraser le fameux « les moments et leurs hommes » d’Erving Goffman (2016 [1988]), celui où habitent « les robots et leurs hommes ».
- 25 Pour que de telles dynamiques fonctionnent au mieux, il faudrait développer deux capacités fondamen (...)
20Les usages hyperinclusifs d’une anthropologie conjonctive qui tend à créditer des créatures artificielles et littéralement amorales de notre attention morale ne sont pas l’apanage des agents ordinaires ou des acteurs de la robotique. Ils se retrouvent également dans les réflexions des philosophes, des psychologues, des anthropologues et des sociologues qui insistent sur la dynamique relationnelle et affective que les humains construisent avec leurs « compagnons » artificiels. Si l’on suit, entre autres, le philosophe et éthologue Dominique Lestel (2016), une telle dynamique ne peut être restituée ni par le point de vue externe à la troisième personne du métaphysicien ni par le point de vue à la première personne de l’humanoïde. Elle ne peut être restituée que par le point de vue à la deuxième personne du participant à l’interaction « homme-machine ». Ce qui compte, dit Dominique Lestel, est la relation que je construis avec mon partenaire. Une telle posture, radicalement relationnelle, est « constructiviste » et immédiatement « performative » : « Je te considère comme vivant si je peux t’éprouver comme vivant dans la confrontation que j’ai avec toi […] » (Lestel, 2016, p. 5). La question morale de la distance et de la proximité entre les humains et les robots ne peut être posée a priori, de manière collective et abstraite. Une telle question, pour Dominique Lestel, est nécessairement située et suspendue aux ressources herméneutiques et aux projections empathiques que je mobilise lorsque je me demande « qui es-tu pour moi ? ». Dans cette « conception du vivant à la deuxième personne », le degré d’intelligence ou le ressenti affectif du robot ne sont pas des propriétés ontologiques, constitutives ou intrinsèques. Ils sont la résultante du « contrat existentiel » que je construis « à partir des technologies disponibles » et du « désir de rendre vivant l’artefact » (Lestel, 2016, p. 6). Une telle conception se retrouve dans nombre d’écrits qui insistent, chacun à leur manière, sur les relations affectives et les dynamiques d’ajustement mutuel qui relient, de façon indéfectible, humains et robots. Pour fonctionner, ces dynamiques n’ont pas besoin que le robot dispose d’une véritable intériorité ; ce sont des processus de coordination dont les appuis sont écologiques, non pas égologiques (Damiano, Dumouchel & Lehmann, 2013) 25.
21C’est aussi une perspective radicalement constructiviste et performative des « existants » que préconisent les travaux d’anthropologie qui célèbrent la générosité ontologique des cultures « animistes » et réprouvent le monde uniforme et a priori que les Modernes ont tenté en vain d’instaurer. Les sociétés dites primitives n’ont jamais songé, dit l’anthropologue Philippe Descola (2005), que les frontières de l’humanité s’arrêtaient aux portes de l’espèce ; au lieu de figer les ressemblances et les différences entre humains et non-humains sur les plans de l’intériorité et de la physicalité, elles ont invité dans le concert de leur vie sociale les plus modestes des plantes, les plus insignifiants des animaux. Contre les tentatives désespérées de faire la police des frontières, les humanoïdes auraient ainsi le mérite de nous rappeler, une fois de plus, que « nous n’avons jamais été modernes » (Latour, 1991) : nous avons toujours vécu dans un monde hybride, peuplé d’objets, de virus et de divinités. S’il fait sens, dans la culture japonaise, d’enterrer un robot ou d’élever un monument funéraire à une voiture comme si c’était un frère ou un semblable, c’est parce que le critère de l’attachement n’est pas ontologique, mais phénoménologique. L’équivalence ou la symétrisation entre humains et non humains se justifie par l’intensité de l’attachement et la force de la relation qu’ils sont parvenus à nouer, assouplissant ainsi « les frontières de l’humain » (Grimaud & Vidal, 2012 ; Dumouchel, 2015).
- 26 The American Society for the Prevention of Cruelty to Robots (ASPCR), fondée en 1999, compare sa mi (...)
- 27 Pour une critique très argumentée de l’accusation, de plus en plus acerbe et décomplexée, du « droi (...)
- 28 https://thediplomat.com/2015/09/japans-immigration-reluctance/. Le Japon estime à 7 millions le nom (...)
- 29 L’agence Reuters cite ici le responsable de la politique robotique au sein du METI (Ministère de l’ (...)
22La célébration des retrouvailles entre les humains et non humains et l’effacement des propriétés a priori qui distingueraient nature et artifice, êtres sensibles et entités mécaniques, peuvent toutefois s’avérer problématiques. En effet, la flexibilisation et la perméabilité des frontières de l’humain s’opèrent dans les deux sens. La valeur des uns et des autres oscillant en fonction de la morale et de la phénoménologie toute relative du semblable, l’extension généreuse et enchantée de la « fonction-personne » à des machines peut fort bien s’accompagner de la déshumanisation ou de la robotisation des humains. Les exemples de ce type de processus sont nombreux. Alors que des acteurs comme la société américaine de prévention de la cruauté envers les robots (ASPCR) veillent à élargir le « droit à avoir des droits » aux non humains 26, l’anathème contemporain du « droit-de-l’hommisme » témoigne, à l’inverse, du recul des droits de l’homme en tant que principes fondamentaux des États démocratiques 27. Par ailleurs, l’hospitalité enthousiaste de la culture japonaise à l’égard des robots s’accompagne de la fermeture des frontières à toute forme d’immigration. La solution qui est envisagée pour résoudre le problème de la prise en charge des personnes âgées, dit le premier ministre japonais Shinzo Abe en 2015, n’est pas l’immigration, qui ne peut être qu’à court terme 28. La solution à ce problème, pour les responsables de la politique robotique japonaise Japan Robot Association, est purement « mathématique » : elle consiste à combler le manque de main-d’œuvre par « l’implémentation » de « robots personnels » qui seraient dotés, grâce au deep learning, de capacités d’initiative et d’auto-apprentissage 29.
23L’adoption du point de vue de la seconde personne – c’est moi qui choisit ce que je considère comme vivant – soulève une autre question essentielle : qui est ce moi à la toute-puissance performative ? Peut-on suspendre ce-qui-compte-comme-vivant à un « contrat existentiel » qui s’inscrit par définition dans une forme d’hyperindexicalité interactionnelle, faite de jeux d’attachement et de modes d’engagement situés ? Un tel contrat, même redoublé par « le pacte anthropomorphique » plus explicite que les humains sont susceptibles de nouer avec les robots humanoïdes (Vidal, 2012), échappe au registre de l’éthique. En effet, le travail éthique consiste à élever, comme le dit Paul Ricœur (1990), ce qui est de « l’ordre du préférable » im-médiat, propre au « pôle-je », au niveau du désirable, validé par le « pôle-tu » de la reconnaissance d’autrui, puis du valable, institué par le « pôle-il » de la règle. Seul le pôle tiers et impersonnel d’un il dont l’autorité n’est ni conditionnelle, ni optionnelle, peut satisfaire l’exigence d’universalisation d’une règle qui doit être valable pour tous. Bien entendu, cette règle impersonnelle en il n’est pas un fait brut ; adossée au point de vue en nous de la collectivité, elle résulte de l’enquête publique sur les orientations de la vie en commun et sur les questions d’intérêt général. Sous cet angle, l’éthique est fondamentalement politique : elle soulève la question des principes normatifs, à commencer par la valeur irréductible et trans-situationnelle des humains et du droit naturel qui leur est corrélatif.
- 30 Cette non-politique du fait accompli est récurrente. Ainsi, déclare le Wall Street Journal en 2016, (...)
- 31 « SoftBank, the company behind Pepper, saw fit to include a clause in its user agreement stating th (...)
- 32 http://www.super-grandparents.fr
24Sous l’angle politique, précisément, l’appauvrissement moderne de l’ontologie que déplorent nombre d’anthropologues est tout sauf gratuit. En dessinant les contours d’un monde dans lequel les humains seraient désormais entre eux, les Modernes ont rejeté dans l’univers de la fiction les êtres surnaturels, supérieurs ou insaisissables, qui faisaient trembler, rêver, agir, naître ou mourir les Anciens et ce, sans leur consentement. Une telle parcimonie ontologique se voulait au service d’une politique d’émancipation : elle tentait de se libérer des non-humains, synonymes d’hétéronomie, que sont les esprits, les ancêtres ou les dieux. Appréhendé dans cette perspective, l’éloge enchanté ou désenchanté des collectifs hybrides, peuplés de social bots, de robots, d’humains augmentés et d’algorithmes, prend une autre tournure. En présentant comme un fait accompli l’intégration des robots dans tous les domaines de la vie sociale, il constitue un véritable processus de dépolitisation 30. Il remplace, pour reprendre les termes de Mark Hunyadi, l’enquête politique que constitue la « grande éthique », l’éthique « élargie » de nos choix de société et de « nos modes de vie », par la « petite éthique » des droits individuels, du respect de la propriété ou du consentement interpersonnel (Hunyadi, 2014). Cette « éthique restreinte » est fort bien illustrée par l’interdiction, donnée aux usagers par la « maison mère », d’accomplir des « actes sexuels » et « autres conduites indécentes » à l’égard de l’androïde Pepper 31. En accaparant notre attention éthique, ce type de préoccupation « restreinte » a une conséquence non négligeable : elle fait basculer hors cadre les questionnements collectifs qui relèvent, eux, de la « grande éthique ». Le fait, par exemple, que les politiques publiques encouragent la mise en place de robots auprès des personnes âgées dans les établissements médico-sociaux – plutôt que l’engagement de migrants dans le besoin ou le retissage des liens intergénérationnels par le biais d’initiatives comme celles des « grands-parents d’adoption » – n’est aucunement soumis à la discussion et au débat publics 32. C’est pourtant bien une éthique élargie et donc une enquête politique, globale et non morcelée, sur les enjeux que soulèvent les « personnalités électroniques » qu’il faudrait mener actuellement. À cette fin, il faut les concevoir, nous semble-t-il, non plus comme des (non-)personnes qui nous ressembleraient un peu, trop ou pas assez, mais comme des dispositifs.
25Dans le reportage consacré à l’humanoïde Erica, considérée comme l’une des plus abouties du point de vue de son apparence physique et de son aptitude à la conversation, le Dr. Hiroschi Ishiguro, qu’elle reconnaît elle-même comme « son père absent », pose cette question lancinante : « What is the minimal definition of human? » 33. La réponse à cette question, dit Hiroschi Ishiguro, pourrait bien nous venir d’Erica. C’est à elle de nous dire, désormais, qui nous sommes. Mais, pour ce faire, Erica doit rester inscrite dans la grammaire morale du proche et du distant, du même et de l’autre – une grammaire encore amplifiée par l’attribution d’un nom propre qui fait office, on l’a vu, de « promoteur » ontologique. Or, une telle grammaire nous entraîne dans une spirale anthropomorphique qui désamorce l’enquête politique sur ce que sont, in fine, les robots : des dispositifs.
26Le fait que les robots soient des dispositifs sociotechniques est tout à fait évident, mais les implications d’un tel constat sont étonnamment peu prises en compte dans nombre de discours actuels. On le sait grâce aux innombrables travaux en sociologie des sciences et des techniques, initiés notamment par Michel Callon et Bruno Latour, un dispositif encapsule une multitude d’êtres hétérogènes, mêlant des médiateurs de plus ou moins grande « taille » (concepteurs, designers, informaticiens, ingénieurs, techniciens, psychologues, sponsors, etc.), des savoir-faire et des visions du monde (programmation, construction, mise en scène, récolte de fonds, etc.) et des instruments techniques (ordinateurs, capteurs, structures métalliques, caméras, etc.). L’effet de réalité et le processus de personnification des humanoïdes dépendent du chaînage de ces instances disparates et de leur « mise en boîte noire », comme le diraient Michel Callon et Bruno Latour (1981). Or, cette boîte noire n’invisibilise pas seulement les alliages sociotechniques qu’elle contribue à stabiliser ; elle invisibilise aussi les petits travailleurs anonymes qui se tuent à la micro-tâche dans « l’arrière-boutique » pour permettre aux ingénieurs de vanter les prouesses de leur créature sur la scène publique (Casilli, 2019). Dans un raccourci saisissant, le dispositif qui rend les robots plus humains fait ainsi disparaître dans l’ombre les humains qui sont à leur service et dont les conditions de travail sont souvent désastreuses.
- 34 Sur ce beau concept d’« hospitalité », voir les travaux pionniers de Joan Stavo-Debauge, qui sont à (...)
- 35 Comme expliquer, se demande Serge Tisseron « que l’hypothèse de Masahiro Mori ait été si facilement (...)
27Si ces dispositifs sociotechniques se font oublier, c’est pour mieux « performer » le réalisme de l’humanoïde qu’ils mettent en scène. Comme le dit Alfred Gell, la technique, lorsqu’elle est masquée, devient une « arme psychologique », celle de la « magie », c’est-à-dire de l’absence apparente d’effort, de travail et d’artifice que permet l’alliance des « technologies de l’enchantement » et de « l’enchantement de la technologie » (Gell, 1992). Les dispositifs d’enchantement dont parle Alfred Gell ont une autre caractéristique, tout à fait essentielle : c’est la difficulté d’accéder à des êtres a priori hors d’atteinte et de les inscrire dans un univers à notre portée qui les rend désirables. La valeur symbolique et affective d’un être est fonction de la « résistance » qu’il oppose à nos perceptions ordinaires – une résistance qui crée « un effet de halo » (halo-effect of resistance) et nous incite à nous engager. Bien qu’une partie importante des discours contemporains sur les robots identifient bien cette « résistance », ainsi que le fossé phénoménologique qui lui est corrélatif, ils tendent à l’interpréter uniquement comme un obstacle qu’il s’agit de dépasser – un obstacle qui entrave l’hospitalité que les humains devraient réserver à leurs alter ego artificiels 34. La forte popularité du concept de « la vallée de l’étrange », qui n’a pourtant été validée que récemment 35, s’explique sans doute par le tour de passe-passe conceptuel qu’il permet d’effectuer. Il dessine en effet un lieu métaphorique où se trouve habilement rangée, sous la catégorie d’« étrangeté », la somme de toutes les différences entre humains et robots. Ces différences se trouvent réduites à l’état d’un épiphénomène désagréable, mais passager, une mauvaise passe en attente des solutions sociotechniques qui permettront de les dépasser. Ainsi focalisées sur le point de vue fasciné, mais encore un peu effarouché de « la seconde personne » ou le simulacre du point de vue « à la première personne » que l’humanoïde pourrait faire miroiter à ses vis-à-vis, nombre d’approches court-circuitent ou désactivent l’ontologie spécifique, établie en troisième personne, des robots.
28Une fois la question ontologique désactivée, les humains et les humanoïdes peuvent s’inscrire dans une anthropologie morale qui peut être conjonctive ou disjonctive mais qui reste, néanmoins, une anthropologie 36. Mais parler ici d’anthropologie revient à commettre une erreur de catégorie, une faute de grammaire et à confondre, si l’on suit Giorgo Agamben, « deux grandes catégories d’êtres » : les êtres vivants d’une part et les dispositifs d’autre part. Les robots appartiennent à la deuxième catégorie et à ce titre, ils ont la capacité, pour reprendre les termes de Giorgo Agamben, de capturer, d’orienter, de déterminer, d’intercepter, de modeler les gestes, les conduites, les opinions et les discours des êtres vivants. Comme son nom l’indique, un dispositif (dispositio) « dis-pose » l’humain, dans un geste continu qui œuvre tout à la fois dans le sens juridique de l’agencement des devoirs, le sens technologique de la machine qui « fait marcher » et le sens militaire de la « planification stratégique » (Agamben, 2006). On l’a vu, le geste tout à la fois juridique, technologique et militaire perpétré par le dispositif « humanoïde » est, tout comme le robot Pepper, « friendly and engaging » 37 : il consiste tout simplement à nous inciter à le considérer comme une « personne ».
- 38 Ainsi défacé, l’androïde peut être reconnu pour ce qu’il est : un « cyranoide », selon l’expression (...)
29Une fois les humanoïdes appréhendés comme des dispositifs, une fois la grammaire politique du dispositif substituée à la grammaire morale du semblable, l’interprétation de notre relation aux robots et, en particulier, de leurs mauvais traitements se modifie. Ce n’est plus un humain qui, littéralement, disjoncte et porte atteinte à son presque-semblable ; c’est une « profanation », au sens de Giorgio Agamben, c’est-à-dire un mouvement de subversion ou d’insurrection contre le pouvoir d’un dispositif et une tentative de restituer à « l’usage des humains » ce qui leur a été volé. Bien entendu, la vraie profanation n’est pas une destruction physique, mais une destitution politique : elle consiste à « défacer » l’humanoïde et à supprimer son statut de « personne » 38.
30Pour ce faire, il faut prendre au sérieux la notion de « personne » et rappeler, avec Thomas Hobbes, qu’une « personne artificielle », juridique ou morale, ne peut parler et agir que si des « personnes naturelles », biologiques, lui ont délégué leur pouvoir. En l’absence d’une autorisation légitime, d’un véritable acte de délégation, la personne électronique n’est qu’un leurre, un simulacre, bref, une machination. L’acte de délégation dont dépend la « personne » artificielle est de nature politique : il ne peut être scellé que collectivement, au terme d’une épreuve potentiellement conflictuelle de délibération et de décision publique. Or, une telle épreuve ne peut avoir lieu que si l’on esquive les affordances émotionnelles et axiologiques des humanoïdes pour leur redonner de plein droit le statut de dispositif et, littéralement, de « chose publique ». Réintégré au champ de la res publica, le robot n’est plus englué dans l’heuristique perceptuelle du familier ou assujetti à la proxémique morale du proche et du lointain. Il devient l’objet anobli de l’enquête collective – une enquête qui ne peut être remplacée ni par une poétique de la pluralité ontologique, ni par une thérapeutique de l’attachement, et encore moins par une morale du semblable qui laisse les étrangers au fond de la vallée. Une telle enquête ne peut être que politique puisqu’elle porte sur les enjeux collectifs et normatifs qui se jouent dans tout dispositif, fût-il « engageant » et « symbiotique ». En proposant de délaisser la morale du semblable pour amorcer une véritable politique des dispositifs, notre réflexion a une portée qui va au-delà des mérites et des dangers spécifiques aux humanoïdes. À une époque où s’impose, tant en sociologie que dans l’espace public, l’appel à la « société morale », cette réflexion résonne, on l’aura compris, comme un avertissement : l’éloge de la morale peut signifier la fin de la politique.
Flux RSS
