Navigation – Plan du site

AccueilNuméros22-1I. Imaginaires de l'IAUne machine comme moi, ou l’empat...

I. Imaginaires de l'IA

Une machine comme moi, ou l’empathie en question

Claire Larsonneur

Résumés

Cet article étudie les enjeux philosophiques abordés par Ian McEwan dans Machines like Me (2019), où il décrit les interactions complexes entre des robots humanoïdes commerciaux et leurs propriétaires humains. J'aimerais me concentrer spécifiquement sur la notion d'empathie que McEwan revisite et complexifie au fur et à mesure que les personnages interagissent et qu’Adam, le robot qui incarne l’IA, évolue.

La présentation des personnages de robots humanoïdes, les Adam et les Eve, fait appel à plusieurs techniques d'empathie : le lecteur est ainsi incité à s'identifier à aux humanoïdes, ce qui occulte leurs rouages internes (mécanique, électronique et intelligence artificielle). Du fait de cette construction mimétique, les robots intègrent le champ de l’humanité et la complexité des relations sociales.

Deux notions qui ont récemment fait l'objet de débats philosophiques et politiques, les politiques du soin et les techniques de surveillance, structurent le cadre dans lequel évoluent les personnages humains : Charlie, Miranda et Alan Turing. J'aimerais retracer l'archéologie de ces notions et montrer comment elles s’articulent dans le roman. Le sujet est d’autant plus d’actualité que les techniques d'IA se nourrissent d'une surveillance constante de nos vies à travers la production et l'exploitation de données par des agents intelligents (Sadin 2013). En décrivant l'interaction entre les institutions, les technologies et les actions humaines, McEwan situe l'empathie sur une scène plus large, publique et collective.

Enfin, à partir d’une analyse des décisions d'Adam (l'humanoïde), j'aimerais revenir sur le lien qui se noue ici entre l'empathie et computation, plutôt qu’entre empathie et émotions. La réflexion de McEwan sur l'empathie croise ici les débats sur l'éthique de l'IA, notamment en termes de prise de décision et d'évaluation des risques.

Haut de page

Texte intégral

1Erica, Sophia, AI-da : la figure de l’androïde mimétique remporte un certain succès, tout particulièrement depuis le début des années 2000, et on pourrait argumenter qu’elle est désormais bien ancrée dans l’imaginaire collectif. Ces androïdes mimétiques se distinguent des robots traditionnels par leur apparence physique, qui vise à être indiscernable de celle des humains, par leur autonomie et leur intelligence, grâce aux progrès des technologies d’intelligence artificielle, et par la fluidité de leurs interactions avec les humains. Les réplicants du film Blade Runner (1982), inspirés des androïdes de Philip K. Dick (Do Androids Dream of Electric Sheep, 1966), en fournissent un premier exemple, ancré dans le genre de la science-fiction. Depuis, les progrès de la robotique ont permis de quitter le royaume de la fiction pour le réel. Plusieurs androïdes, dont les performances sont régulièrement saluées dans les médias, ont ainsi été développés. Erica (2015), conçue au Japon par Hiroshi Ishiguro et les équipes des universités d’Osaka et de Tokyo, se distingue par l’ultra-réalisme de son visage qui peut exprimer un grand nombre d’émotions, et par la fluidité de la conversation avec les humains.1 La société Hanson Robotics, implantée à Hong Kong, a développé Sophia (2016) qui peut soutenir une conversation et donner une interview télévisée.2 Enfin AI-da (2019), dont le nom est une habile combinaison de référence à l’intelligence artificielle et à Ada Lovelace, la pionnière de l’informatique, a été conçue à l’université d’Oxford comme une androïde artiste. Certes, seuls sa tête et son cou sont mimétiques, mais elle a en commun avec les humains de construire une carrière sur un certain nombre d’étapes bien établies : créer des œuvres originales, monter une exposition (2021, Design Museum de Londres), obtenir une résidence d’artiste (St Ives, 2021). Outre la performance technique, ces androïdes se distinguent par leur ambiguïté. Les concepteurs de ces androïdes mimétiques les présentent en effet à la fois comme des architectures cognitives, des outils de recherche et des personnages de fiction. D’une part on tente de donner au robot le statut d’une personne, comme en atteste par exemple la citoyenneté saoudienne obtenue par Sophia, et de l’autre on les présente comme des artefacts, certes sophistiqués, sur lesquels il est licite de se livrer à des expérimentations scientifiques.

2Or c’est précisément à de telles ambiguïtés et à la complexité des enjeux psychologiques et moraux que s’intéresse le romancier britannique Ian McEwan. Plusieurs de ses ouvrages explorent en effet les neurosciences (Enduring Love, 1997 ; Saturday, 2005) et les zones grises de la science (Solar, 2010) ainsi que les cas de conscience juridiques (The Children Act, 2014). Machines like Me, paru en 2019, se focalise sur les relations entre trois personnages : Charlie, un Londonien de la classe moyenne, qui utilise son héritage pour s’acheter un androïde mimétique dernier cri nommé Adam, et la petite amie de Charlie, Miranda. La fascination initiale des humains pour la prouesse technologique laisse vite place à des relations de séduction, de pouvoir et d’exploitation entre les trois protagonistes. Adam, qui est au départ un objet d’expérimentation, s’autonomise et revendique son agentivité, légitimée par son recours à l’intelligence artificielle et aux principes du droit. C’est précisément le passage à l’acte d’Adam, au travers de décisions rationnelles mais non humaines, dénuées d’empathie, qui va précipiter le drame. Dans un premier temps on s’intéressera à la construction mimétique de l’androïde, et à son identification comme personne, berceau d’une relation empathique avec le robot. Puis on explorera l’armature théorique du roman, à partir d’un couple de notions philosophiques et morales : reckoning et atonement, qui entrent en résonnance avec le modèle computationnel de l’IA. Enfin on explorera l’articulation entre la logique du soin (care) et celle de la surveillance, au travers des rapports entre personnages. Si les univers fictionnels fournissent au lecteur un espace sécurisé où vivre l’empathie sans être obligé à une conduite altruiste, comme le souligne Suzanne Keen (2007), on se posera la question de l’empathie avec le robot et de l’empathie du robot. Question qui revient à de nombreuses reprises dans le roman : qui ou quoi ?

  • 3 « Je le regardai droit dans les yeux, dans ce bleu layette pailleté de noir. Je m’interrogeais enco (...)

I looked into his eyes, into the nursery blue with its little black seeds. I still wondered what it meant, that Adam could see, and who or what did the seeing. A torrent of zeros and ones flashed towards various processors that, in turn, directed a cascade of interpretation towards other centres. No mechanistic explanation could help. (Machines like Me, p. 128)3

La construction mimétique de l’androïde

  • 4 http://www.ianmcewan.com/books/machines.html
  • 5 https://www.penguin.co.uk/books/111/1117889/machines-like-me/9781529111255.html
  • 6 https://www.librairie-gallimard.com/livre/9782072849978-une-machine-comme-moi-ian-mcewan/

3La tentation de l’anthropomorphisme, fréquente dans nos relations avec les animaux et encore plus avec les robots androïdes, conduit à vouloir renforcer les traits humains des personnages non-humains. A cet égard les couvertures choisies par les différentes maisons d’édition de Machines like Me, sont riches d’enseignements. L’édition britannique brochée chez Jonathan Cape propose un double portrait d’Adam et d’Ève, nus et de trois-quart face.4 Leurs corps sont légèrement troublants car presque parfaits, et du fait de cette perfection non-humaine, relèvent sans doute encore de la vallée de l’étrange. La nudité d’Adam rappelle le mythe biblique de la Genèse, et fait écho au début du roman où l’androïde est livré sans vêtements. En revanche, au format poche, la réédition américaine chez Anchor Day propose une illustration en forme de récit plutôt que de portrait.5 Une femme, postée à la fenêtre, se retourne vers une silhouette indécidable : homme ou robot, menaçante ou amicale. Cette couverture déplace les enjeux de l’identité de l’androïde à la focalisation sur ce qu’il vient modifier dans l’espace intime. Elle fait écho au haiku amoureux composé par Adam pour Miranda (p. 142), et qui marque une étape importante dans son développement émotionnel et créatif. Enfin l’édition Gallimard choisit un dessin de corps humain, nu, au genre ambigu, le visage caché par un masque, incolore6 : l’image pourrait ici évoquer les statues ou les poupées dont l’illusion est si réussie que les humains s’y trompent et s’en éprennent : la Galatée de Pygmalion, l’Olympia d’Hoffmann. L’intérêt de ces trois couvertures est que chacune à sa manière pose la question de l’identité du robot dans la relation à l’humain et aux émotions qu’il suscite. Le mimétisme n’est pas seulement un effet de forme, lié à l’apparence physique, mais un mimétisme de relation. De même le travail de caractérisation de l’androïde au sein du roman met l’accent sur les relations et propose un équilibre subtil entre ce qui est familier et ce qui est étranger.

  • 7 « La publicité le présentait comme un compagnon, un interlocuteur digne de ce nom dans les échanges (...)

4Dans les premières pages du roman, Ian McEwan évite soigneusement le terme de robot. Il emploie une série de qualificatifs qui déclinent les thèmes de l’humain et de la personne : artificial humans (p. 1) cousins from the future (p. 2) viable manufactured human (p. 2), artificial people (p. 6), a convincing artificial person (p. 13), a new kind of being (p. 21). Cette liste de synonymes marque autant la différence avec une machine que la difficulté à qualifier l’androïde, un des points clefs du roman. La fonction de l’androïde donne également lieu à une liste : jouet, enfant, prototype, invité, ami… « He was advertised as a companion, an intellectual sparring partner, friend and factotum who could wash dishes, make beds and ‘think’ »7 (p. 3). Seuls les guillemets autour du mot « think » suggèrent que le fonctionnement d’Adam pourrait ne pas être celui d’un humain normal.

5Le portrait d’Adam alterne sèmes humains et sèmes robotiques. En témoigne la scène de sa mise en route : l’attente, la nudité, le cordon ombilical évoquent la naissance d’un enfant ; l’emballage, le câble rappellent la machine.

  • 8 « Enfin, le carton et le polystyrène de l’emballage jonchant le sol à ses pieds, il fut assis, nu, (...)

Author0000-00-00T00:00:00AAt last, with cardboard and polystyrene wrapping strewn around his ankles, he sat naked at my tiny dining table, eye closed, a black power line trailing from the entry point in his umbilicus to a thirteen-amp socket in the wall (p. 3)8.

  • 9 « ce beau jeune homme à la peau foncée. », op.cit., p 15.
  • 10 « Miranda déclara qu’il ressemblait à un « docker du Bosphore ». », op.cit., p. 15.

6Les traits d’Adam, bien que tout à fait plausibles et même attrayants (« handsome dark skinned young man »9, p. 4), diffèrent de ceux des Britanniques, puisqu’il ressemble à une personne du Moyen-Orient : « Miranda said he ressembled ‘a docker from the Bosphorus’ »10 (p. 4). L’étrangeté du robot (uncanny) est ici masquée par la référence à l’étranger (foreigner), redoublée par une différence supposée de classe sociale, entre la classe moyenne anglaise et le travailleur manuel turc. Parce que l’androïde est comme un humain, à cause de ce mimétisme, l’empathie devient possible ; comme ce mimétisme est érodé par les logiques sociales d’appartenance, il reste aussi possible de nier l’empathie.

  • 11 « Sauf lors de décisions irrationnelles, je passais le plus clair de mon existence, surtout quand j (...)
  • 12 « Les réglages d’usine : un synonyme moderne du destin. Mes amis, ma famille et mes relations, tous (...)
  • 13 « D’après les tenants de la psychologie évolutionniste, et afin d’assurer leur propre prolifération (...)
  • 14 « les traits et les plis invisibles de la personnalité, encodés au niveau des molécules ». Traducti (...)

7Le trouble ainsi suscité vient contaminer la représentation des personnages humains. McEwan prend soin dès les premières pages d’initier un jeu de miroirs et de renversement des rôles entre Charlie et Adam. Charlie mène une vie mécanique, dénuée d’émotions : « apart from my moments of crazed decisions, I passed most of my life, especially when alone, in a state of mood neutrality, with my personality, whatever that was, in suspension »11 (p 7). McEwan utilise également l’étape de paramétrage de l’androïde pour inverser la notion de personnalité et celle de paramètre. Charlie et Miranda se partagent chacun le choix de la moitié des paramètres, en écho au processus de procréation humaine et d’association des gamètes. Dans la même scène, Charlie transpose la filiation humaine en termes de programmation : « Factory settings – a contemporary synonym for fate. My friends, family and acquaintance, all had appeared in my life with fixed settings, with unalterable histories of gene and environment »12. La technologie est procréation ; la filiation est programmation. Ce jeu d’inversion sémantique entre l’homme et la machine n’est pas anodin car il reprend l’idée que l’esprit humain fonctionnerait comme une machine. Claire Hanson rappelle ainsi l’intérêt de longue date de McEwan pour ces théories : « the exponents [of evolutionary psychology] argue that to ensure their own proliferation, genes forge ‘mental modules’ in which the rules of human behaviour are encoded. These modules are analogous to computer programs and constitute an innate architecture of the mind »13 (Hanson, 2020, p. 88). McEwan décrit par exemple dans Saturday la construction de la personnalité comme encodage : « invisible folds and kinks of character, written in code, at the level of molecules »14 (2005, p. 272).

8Enfin la ligne narrative principale du roman pose une série d’étapes dans l’autonomisation d’Adam, qui reprennent les moments décisifs du développement humain de l’enfance à l’âge adulte : résister à la contrainte, agir par soi-même (p. 110), exprimer ses sentiments pour Miranda (p. 142), prendre des responsabilités (gérer l’argent du couple, p. 185), se livrer à l’introspection (p. 234), exprimer ses dernières volontés (p. 279).

9La construction mimétique du personnage de l’androïde ouvre ainsi un espace complexe de relations où s’entrecroisent la machine, la forme humaine, le paradigme de l’apprentissage et les relations interpersonnelles. Construits en miroirs, Charlie et Adam ne peuvent donc être radicalement opposés, comme cela avait été le cas dans la confrontation entre Frankenstein et la créature. La fluidité de la circulation des déterminants entre l’homme et l’androïde permet à McEwan de développer une réflexion sur le processus de décision et l’évaluation morale des conduites.

Lier morale et computation : atonement et reckoning

  • 15 L’intrigue centrale d’Atonement (2001) porte sur le lien entre la fiction et ces deux notions, la n (...)

10Dans son travail d’exploration de la frontière ténue entre le bien et le mal, cette cartographie des zones grises où il est difficile de poser un jugement, McEwan mobilise souvent deux notions morales bien identifiées dans le monde anglo-saxon : reckoning (le fait de rendre compte de ses actions) et atonement (l’expiation).15 Le terme de reckoning fait référence à l’idée qu’un être humain doit rendre compte de ses actions, tant positives que négatives, à la fin de sa vie. Cette reddition des comptes est attestée dès le Moyen Âge dans des drames comme Everyman et on en retrouve des échos dans l’utilitarisme de Jeremy Bentham, où les différents choix de vie sont comparés sur la base d’un calcul de leur utilité. Il y a ainsi un lien fondamental entre le jugement moral et religieux (le deuxième sens de reckoning dans le Oxford Advanced Learners’s Dictionary) et le calcul, la computation (le premier sens du terme dans l’OAED). L’intelligence artificielle, dans la mesure où les décisions prises sont obtenues par computation de données et de scénarios, confère une légitimité nouvelle au calcul moral. Charlie commente ainsi la supériorité technique de l’androïde :

  • 16 « Dès qu’Adam devait choisir entre plusieurs réactions possibles, son visage se figeait durant une (...)

Whenever Adam faced a choice of responses, his face froze for an instant that was fractionally above the horizon of perception. It did so now, barely a shimmer, but I saw it. Thousands of possibilities must have been sifted, assigned a value, a utility function, a moral weighing. (p. 109)16

11Ce passage, qui articule computation, exploitation des données et attribution de valeurs, fait écho à des préoccupations industrielles et stratégiques bien contemporaines. En effet, comme le rappelle Cédric Villani dans l’introduction au rapport sur l’intelligence artificielle commandé par le gouvernement français :

Les technologies [d’intelligence artificielle] représentent beaucoup plus qu’un programme de recherche : elles déterminent notre capacité à organiser les connaissances, à leur donner un sens, à augmenter nos facultés de prise de décision et de contrôle des systèmes. Et notamment à tirer de la valeur des données. L’intelligence artificielle est donc une des clés du pouvoir de demain dans un monde numérique. (Villani et al., 2017)

12La décision computationnelle est bien un des paradigmes actuels, sans toutefois que l’attribution des responsabilités soit bien claire à ce jour.

  • 17 « Il sait que Dieu l’écoute. Miranda est Sa messagère. Au cours de mes recherches, j’ai remarqué qu (...)

13En revanche, dans le modèle médiéval, si la balance penche vers le négatif au moment du calcul final, alors le pécheur peut redresser la barre par son expiation (atonement) : la punition conduit à la libération de l’âme, ainsi littéralement déchargée du poids de ses fautes. Dans le roman de McEwan, plusieurs intrigues sont directement basées sur le couple reckoning/atonement : le destin du violeur Gorringe, jugé deux fois, l’accusation mensongère portée par Miranda, mensonge qui la mène en prison, la destruction d’Adam par Charlie, qui perd ainsi son capital. Lorsque Adam dénonce la déposition mensongère de Miranda, deux autres procès ont lieu à l’issue desquels Gorringe et Miranda paient chacun leur dette morale par une condamnation à la prison. Le processus d’expiation se poursuit au long de l’emprisonnement puisque Gorringe est tourmenté de remords, devient religieux et décrit Miranda comme l’agent de la rétribution (p. 244). Miranda pour sa part perd la garde du petit Mark qu’elle voulait adopter, punition expiatoire. La mécanique de l’exposition des fautes et de leur rétribution fonctionne ainsi pour tous les personnages humains. Elle ouvre la porte à l’empathie du lecteur : tous sont faillibles, tous font amende, nous pouvons nous imaginer à leur place. L’androïde joue toutefois un rôle particulier dans cette structure de rétribution. Il endosse le rôle de comptable des actions des uns et des autres, en rédigeant le rapport qu’il envoie à la police (p. 279). Il justifie le préjudice qu’il cause à Gorringe, à Miranda et à Mark précisément par les bienfaits de l’expiation : « [Gorringe] knows God will be listening. Miranda is his messenger. I’ve noticed in my researches how the guilty long to shed their burden. They seem to enter a state of elated abandonment »17 (p. 252). Au lieu toutefois d’estimer le poids respectif des conséquences de ses actes, ce qui aurait été cohérent avec la philosophie utilitariste et sa maîtrise du calcul probabiliste, Adam invoque successivement dans ce passage une raison religieuse, la force de la loi et l’importance de la vérité, soit trois concepts abstraits, forgés par des philosophes humains, qui ne relèvent pas de la computation. Ni la reddition des comptes, ni l’expiation ne s’appliquent à l’androïde : soustrait à la logique humaine de la responsabilité sociale et morale, Adam se singularise par la prééminence accordée à des principes abstraits sur l’empathie. Il est thématiquement opposé au petit Mark, la figure de l’innocence éprouvée, conçue pour susciter la sympathie du lecteur. La légitimité de l’IA comme processus computationnel de prise de décision, est invalidée dans le dispositif fictionnel précisément par l’empathie du lecteur avec les humains et la sympathie pour l’enfant.

Les liens du soin et de la surveillance

14Le travail fictionnel effectué par McEwan sur les enjeux complexes de l’attribution de la responsabilité morale ouvre sur une autre investigation : comment comprendre l’articulation entre la sollicitude, l’altruisme d’une part, et le contrôle algorithmique de l’autre, entre care et surveillance ? Le tout premier échange entre Charlie et Adam pose les termes du débat. Les premiers mots d’Adam concernent les téléchargements et les paramètres à régler, mais, juste après, l’échange d’instructions devient conversation. Lorsque Charlie lui demande comment il va, Adam répond qu’il ne se sent pas bien, car il n’a pas de vêtements (p. 23). Se rejoue bien évidemment ici la scène biblique de la Genèse, mais on pourrait aussi observer que les relations homme-machine sont abordées sous l’angle de la sollicitude et non du geste technique.

  • 18 « la putain de machine était la voix de la raison. Miranda était mue par autre chose que la raison. (...)
  • 19 « Oh, Adam, Ce n’est plus de la vertu, c’est de la démence. (Adam) Tous les besoins auxquels j’ai r (...)

15Mark, ce petit garçon maltraité par sa mère que Charlie et Miranda souhaitent adopter, incarne cette problématique du souci de l’autre et du soin, en anglais care. Si le mot existe depuis longtemps dans la langue anglaise, il a pris une dimension philosophique et pratique à partir des années quatre-vingt, au travers notamment des travaux de Carol Gilligan et de Joan Tronto outre-Atlantique, puis de Marie Garrau, Alice Le Goff et Dominique Méda en France. Les théories du care proposent une double remise en question : d’une part elles soulignent l’insuffisante valorisation économique des activités qui relèvent du soin d’autrui, généralement dévolues aux femmes, et d’autre part elles rebattent les cartes en matière de mode de légitimation morale. Par rapport au paradigme éthique traditionnel de la justice conçue comme respect abstrait de lois universelles, le care suggère de fonder la morale sur les relations concrètes et à leurs délimitations morales. Pierre Testard dans le dossier de nonfiction.fr consacré à la notion de care, résume ce point : « Le care est féministe en ce qu’il remet en cause la dévalorisation, héritée du patriarcat, de l’attention portée à la texture éthique des relations ainsi qu’au rôle des émotions dans ces réflexions et pratiques. »  Dans le cadre du roman, le care, incarné par Miranda, s’oppose justement à la prise de décision algorithmique incarnée par Adam, fondée sur la computation du résultat optimal. Lors de l’abandon du petit garçon par son père, Adam liste ainsi une série d’arguments pour dissuader Charlie et Miranda de s’en occuper : « The fucking machine was talking sense. Miranda was driven by something other than sense » 18(p. 105). Le dialogue entre Miranda et Adam, au moment où est révélé la mainmise de l’IA sur le destin du couple, reprend et cristallise ce thème : « (Miranda ) Oh Adam, this is virtue gone nuts. (Adam) Every need I addressed was greater than yours. »19 (p. 272)

16Le nœud du drame n’est pas l’opposition entre l’altruisme et la justice, entre une perspective féministe et un système patriarcal, mais entre d’une part la sollicitude et l’émotion des humains, et d’autre part la décision computationnelle, nourrie de données. C’est ainsi que Machines Like Me introduit une réflexion sur la pratique et la théorie de la surveillance. Le personnage d’Adam est particulièrement intéressant à cet égard car, si Charlie et Miranda ont pu contrôler ses paramètres quasiment mécaniquement, comme pour un appareil standard, l’intelligence artificielle dont il est doté met très vite l’androïde en situation de contrôler ses détenteurs. Comme il a accès à tout Internet et dispose d’une puissance de calcul hors pair, Adam peut ainsi retrouver des informations cachées sur Miranda, et investir l’argent du couple. Le destin des personnes ne tient pas seulement à leur caractère, suggère McEwan, mais au volume de données qu’elles génèrent et qui sont conservées dans les serveurs.

17La fiction réfléchit ainsi le débat contemporain sur la puissance de l’IA et les enjeux éthiques afférents. En effet, les techniques d’intelligence artificielle permettent une surveillance permanente de nos vies à travers la production et l’exploitation de données recouvrées grâce à toutes sortes de capteurs et traitées par des algorithmes (Sadin, 2013). Un continuum de technologies, déployées depuis une cinquantaine d’années, visent à maximiser le contrôle des populations et des flux : la vidéo-surveillance des espaces publics (Painter et Tilley, 1999), l’écoute à grande échelle des communications privées par les agences de renseignement, l’exploitation des historiques de navigation et de transaction par les plateformes marchandes, lesquels permettent ensuite de faire tourner les algorithmes de prédiction des comportements et de mettre en place une économie de la suggestion (Citton, 2017). Comme le rappelle le rapport Villani, les domaines d’application de l’intelligence artificielle sont nombreux et certains stratégiques : enjeux militaires, enjeux économiques en termes de logistique et de commerce, enjeux politiques et humanistes. Par exemple, les logiciels de reconnaissance faciale répandus en Chine et connectés aux bases de données administratives ont permis de créer un système de crédit social automatisé (Trujillo, 2017 ; Croquet, 2018), qui contrevient à la protection de la vie privée et aux droits de l’homme, tels que conçus en Occident.

18L’intrigue du roman ouvre une série de questions. La prise de décision algorithmique est-elle semblable à nos processus cognitifs de décision ? La prise de décision algorithmique est-elle plus efficace que la nôtre ? Est-elle plus juste, au sens de fair ? L’androïde prétend que ses choix sont meilleurs car conformes au droit et à la vérité ; les humains les perçoivent comme injustes ou cruels justement au nom de la sollicitude pour autrui. Cette divergence d’interprétation fait écho aux théories d’Antonio Damasio (2006), selon lequel les émotions guident la prise de décision et la rationalité humaine requiert un apport émotionnel.

19Le parti pris de McEwan a été de montrer que des choix moraux basés sur la connaissance la plus exhaustive possible et la computation rationnelle créent le malheur. Mais le roman ne diabolise pas l’intelligence artificielle. Au contraire, le suicide des androïdes, les uns après les autres, réintroduit le trouble dans la narration : certains ont été maltraités, d’autres font valoir leur incompréhension du monde humain. Un tel choix narratif rouvre la possibilité d’une sympathie pour les androïdes, par-delà le cas d’Adam, magnifiée par la scène de ses derniers instants.

Conclusion

  • 20 « Il parle des machines comme moi, et des gens comme vous, et de notre avenir commun…de la tristess (...)
  • 21 https://www.ai-darobot.com/about «Toutes ces options mettent en évidence la complexité des interact (...)

20Le titre du roman reprend en effet les dernières paroles d’Adam : « It’s about machines like me and people like you… and our future together… the sadness that’s to come… »20 (p. 279). Ian McEwan explore le thème de l’interaction entre hommes et machines en la redéfinissant comme une relation entre deux êtres sentients et doués de raison. Le mimétisme et la fluidité des marqueurs sémantiques entre humains et androïdes lui permettent de développer une approche nuancée où il n’est pas question de prééminence de l’un sur l’autre. Il suggère une continuité entre les concepts moraux de reckoning et d’atonement d’une part et la logique computationnelle d’autre part ; il souligne les ambiguïtés de l’articulation entre la sollicitude et la surveillance. Tous ces traits réunis permettent de faire de la figure fictionnelle de l’androïde mimétique un outil heuristique, tout comme le projet AI-da permet à une équipe scientifique pluridisciplinaire (roboticiens, informaticiens, psychologues et experts en art) d’interroger notre rapport à l’intelligence artificielle : « All these options bring powerfully to the forefront the complexity of our interacting digital and physical worlds and the masked identities we can assume in them. »21 Ceci est aussi le point de vue de Wendell Wallach et Colin Allen, qui, dans Moral Machines: Teaching Robots Right from Wrong, suggèrent que nous pouvons apprendre des choix effectué par les robots. L’androïde et ses interactions avec les humains fournissent ainsi un sujet d’expérimentation susceptible d’améliorer la compréhension de l'éthique humaine, par contraste et en motivant les humains à approfondir leurs théories.

Haut de page

Bibliographie

Cawley, Arthur Clare. Everyman and medieval miracle plays. Préface et bibliographie d'Anne Rooney, Londres : Dent, 1993.

Citton, Yves. Médiarchies. Paris : Seuil, 2017.

Croquet, Pauline. « En Chine, un système de notation des citoyens encore flou mais aux ébauches effrayantes », Le Monde,‎ 28 décembre 2018.

https://www.lemonde.fr/pixels/article/2018/12/28/en-chine-un-systeme-de-notation-des-citoyens-encore-flou-mais-aux-ebauches-effrayantes_5403357_4408996.html. (consulté le 9 mai 2022)

Damasio, Antonio. Descartes’ Error : Emotion, Reason and the Human Brain. Londres : Vintage, 2006.

Gilligan, Carol. In a Different Voice. Harvard : Harvard University Press, 1982.

Hanson, Clare. « The literary animal ». Genetics and the Literary Imagination. Oxford : Oxford University Press, 2020, p. 87-117.

Keen, Suzanne. Empathy and the Novel. New York : Oxford University Press, 2007.

McEwan, Ian. Machines like Me. London : Jonathan Cape, 2019.

McEwan, Ian. Une Machine comme moi. Traduit par France Camus-Pinchon. Paris : Gallimard Folio, 2020.

McEwan, Ian. Saturday. London : Jonathan Cape, 2005.

McEwan, Ian. Atonement. London : Jonathan Cape, 2001.

Painter, Kate et Nick Tilley, eds. Surveillance of Public Space: CCTV, Street Lighting and Crime Prevention, Crime Prevention Studies volume 10. New York, Criminal Justice Press, 1999, p. 157-78.

Sadin, Eric. L’humanité augmentée. L’administration numérique du monde. Paris : l’Echappée, 2013.

Testard, Pierre. « La diversité du care. De Carol Gilligan à aujourd’hui ». 25 mai 2010, https://www.nonfiction.fr/article-3469-la_diversite_du_care_de_carol_gilligan_a_aujourdhui.htm (consulté le 9 mai 2022)

Tronto, Joan. Moral Boundaries: A Political Argument for an Ethic of Care. New York : Routledge,1993.

Trujillo, Elsa. « La Chine met en place un système de notation de ses citoyens pour 2020 », Le Figaro,‎ 27 décembre 2017. https://www.lefigaro.fr/secteur/high-tech/2017/12/27/32001-20171227ARTFIG00197-la-chine-met-en-place-un-systeme-de-notation-de-ses-citoyens-pour-2020.php (consulté le 9 mai 2022)

Villani, Cédric et al. Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne, rapport de la mission parlementaire, 2017. https://www.vie-publique.fr/rapport/37225-donner-un-sens-lintelligence-artificielle-pour-une-strategie-nation (consulté le 9 mai 2022)

Wallach, Wendell et Colin Allen. Moral Machines: Teaching Robots Right from Wrong. USA : Oxford University Press, 2008.

Haut de page

Notes

1 https://robots.ieee.org/robots/erica/

2 https://www.hansonrobotics.com/hanson-robots/

3 « Je le regardai droit dans les yeux, dans ce bleu layette pailleté de noir. Je m’interrogeais encore sur ce que cela signifiait pour Adam, de voir, et sur le fait de savoir qui, ou quoi, voyait à travers ses yeux. Un torrent de zéros et de uns affluaient en un éclair vers plusieurs processeurs, lesquels dirigeaient à leur tour une cascade d’interprétations vers d’autres centres. Aucune explication mécaniste ne pouvait m’aider ». Traduction de France Camus-Pinchon, Gallimard, 2020, p. 182.

4 http://www.ianmcewan.com/books/machines.html

5 https://www.penguin.co.uk/books/111/1117889/machines-like-me/9781529111255.html

6 https://www.librairie-gallimard.com/livre/9782072849978-une-machine-comme-moi-ian-mcewan/

7 « La publicité le présentait comme un compagnon, un interlocuteur digne de ce nom dans les échanges intellectuels, un ami et un factotum qui pouvait à la fois faire la vaisselle, les lits, et « réfléchir ». », op.cit, p. 16.

8 « Enfin, le carton et le polystyrène de l’emballage jonchant le sol à ses pieds, il fut assis, nu, devant la minuscule table de ma cuisine, les yeux fermés, relié à la prise murale de treize ampères par un câble électrique noir branché dans son nombril, op.cit., p. 15.

9 « ce beau jeune homme à la peau foncée. », op.cit., p 15.

10 « Miranda déclara qu’il ressemblait à un « docker du Bosphore ». », op.cit., p. 15.

11 « Sauf lors de décisions irrationnelles, je passais le plus clair de mon existence, surtout quand j’étais seul, dans un état d’esprit neutre, avec ma personnalité – quelle qu’elle ait pu être – en suspens. », op.cit., p. 22.

12 « Les réglages d’usine : un synonyme moderne du destin. Mes amis, ma famille et mes relations, tous étaient apparus dans ma vie comme préréglés par l’histoire immuable de leurs gènes et de leur environnement. », op.cit., p. 21.

13 « D’après les tenants de la psychologie évolutionniste, et afin d’assurer leur propre prolifération, les gènes créent des « modules mentaux » au sein desquels les règles du comportement humain sont encodées. Ces modules sont comparables à des programmes informatiques et constituent une architecture innée des processus mentaux. » Traduction Claire Larsonneur.

14 « les traits et les plis invisibles de la personnalité, encodés au niveau des molécules ». Traduction Claire Larsonneur.

15 L’intrigue centrale d’Atonement (2001) porte sur le lien entre la fiction et ces deux notions, la narratrice souhaitant avouer et réparer le mal qu’elle a causé à sa sœur et à l’amant de celle-ci des années plus tôt.

16 « Dès qu’Adam devait choisir entre plusieurs réactions possibles, son visage se figeait durant une fraction de seconde à peine perceptible. Cela se produisit alors, à peine un miroitement, mais je le vis. Des milliers de possibilités avaient dû être passées en revue, évaluées en fonction de leur utilité et de leur coefficient moral. », op.cit., p 156.

17 « Il sait que Dieu l’écoute. Miranda est Sa messagère. Au cours de mes recherches, j’ai remarqué que les coupables aspirent à se décharger de leur fardeau. Ils semblent entrer dans un état d’indifférence mêlé d’euphorie. », op.cit., p 344.

18 « la putain de machine était la voix de la raison. Miranda était mue par autre chose que la raison. », op. cit., p. 151.

19 « Oh, Adam, Ce n’est plus de la vertu, c’est de la démence. (Adam) Tous les besoins auxquels j’ai répondu étaient plus importants que les vôtres. », op.cit., p. 370.

20 « Il parle des machines comme moi, et des gens comme vous, et de notre avenir commun…de la tristesse qui nous attend. », op.cit., p. 379.

21 https://www.ai-darobot.com/about «Toutes ces options mettent en évidence la complexité des interactions entre le monde physique et le monde digital, ainsi que la diversité des masques identitaires que nous y revêtons ». Traduction Claire Larsonneur.

Haut de page

Pour citer cet article

Référence électronique

Claire Larsonneur, « Une machine comme moi, ou l’empathie en question »Belphégor [En ligne], 22-1 | 2024, mis en ligne le 28 mai 2024, consulté le 10 novembre 2025. URL : http://journals.openedition.org/belphegor/5902 ; DOI : https://doi.org/10.4000/11tfj

Haut de page

Auteur

Claire Larsonneur

Claire Larsonneur est Maître de conférences à l’université Paris 8, au sein de TransCrit. Elle travaille en Littérature britannique, Traduction and Humanités numériques. Elle a co-piloté plusieurs projets : le Sujet Digital (Labex ArtsH2H 2012-2015) et le séminaire 2016 sur le Posthumain à Cerisy. Elle a coordonné un numéro d’Angles sur les subjectivités numériques (2018) et mené le projet Auteurs numériques (2018-2020).

Publications :
Subjectivités numériques et posthumain, co-dir S. Bauer, C. Larsonneur, H. Machinal, A. Regnauld, Presses Universitaires de Rennes, 2020.

 Le Sujet digital, co-dir. P. Cassou-Noguès, C. Larsonneur, A. Regnauld, S. Touiza, Presses du réel, 2015.    

 

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search