Navigation – Plan du site
Articles

La moralisation des robots sociaux par leurs utilisateurs

How users moralise social robots
Céline Borelle

Résumés

La possibilité, dans un avenir proche, de nouer une relation personnelle et durable avec des robots sociaux est régulièrement annoncée. Cependant, l’écart entre cet horizon et la réalité reste grand. Les questions éthiques exprimées dans l’espace public sont-elles trop en décalage avec le stade actuel de développement de la robotique sociale ? Qu’en pensent les personnes qui tentent d’utiliser cette technologie ? En s’appuyant sur une enquête comparative d’un an menée sur deux robots sociaux utilisés dans des lieux accueillant des enfants avec un trouble du spectre autistique, cet article est consacré aux enjeux moraux tels qu’ils sont problématisés dans des expériences situées. On s’attache à étudier la manière ambivalente dont les professionnels en centres de soin définissent la place de ce nouvel artefact interactionnel. On montre d’abord comment les robots sociaux sont des êtres dont il faut produire la sociabilité, en abandonnant le projet de « vie autonome » au profit d’interactions programmées. On souligne ensuite comment les professionnels hésitent à établir le robot comme un support thérapeutique comme les autres, en s’interrogeant sur la nécessité de le manier différemment. Enfin, on analyse comment les usages de ce support sont entourés de précautions particulières : le cadrage de la relation que les enfants entretiennent avec le robot et la limitation de la capacité de jugement de ce dernier. Cette analyse révèle comment les acteurs s’engagent dans un travail réflexif de moralisation des robots sociaux.

Haut de page

Notes de la rédaction

Premier manuscrit reçu le 15 avril 2019 ; article accepté le 18 octobre 2019.

Texte intégral

« C’est vrai qu’on essaie de ne pas faire de bêtises, on essaie de ne pas être trop déconnecté de l’aspect social. Mais on a tellement de limites techniques à régler d’abord… Après on a fait des débats super intéressants avec plein de gens pendant des heures, mais de toute façon le robot ne reconnaît pas les humains ».

  • 1 Voir en annexe 1 la liste des rapports publics étudiés.

1Ce membre du pôle innovation de Softbank Robotics, entreprise spécialisée dans la conception de robots sociaux, souligne le décalage entre la problématique de l’attachement de l’humain au robot, au cœur des débats sur l’éthique de la robotique sociale, et les limites actuelles de la reconnaissance faciale. La « promesse socio-technique » (Joly, 2015) de la robotique sociale est de pouvoir, dans un avenir proche, nouer une relation personnelle et durable avec des robots conçus pour « être avec nous » (Turkle, 2015), pour entrer en interaction, voire en relation avec les humains. Pourtant, l’écart entre cet horizon et la réalité demeure grand. Certains acteurs considèrent que les questions éthiques soulevées dans les débats publics ne sont pas véritablement pertinentes au regard des compétences interactionnelles encore très limitées des robots sociaux. Les rapports publiés par différentes institutions depuis cinq ans nous offrent un corpus homogène et représentatif des discours actuels sur l’« éthique » de l’intelligence artificielle (IA)1. Ils ont en commun d’énoncer des recommandations à partir d’une réflexion plutôt prospective, sans s’appuyer sur des enquêtes empiriques relatives à l’état actuel des technologies. Concernant les robots sociaux, ces rapports entendent alerter l’opinion, les communautés professionnelles et les pouvoirs publics sur deux types de risques : celui d’un attachement inapproprié de l’humain à la machine susceptible de fragiliser le lien social, et celui d’une autonomisation démesurée de la machine assortie d’une perte de contrôle humain.

  • 2 Nées dans les années 1990 à propos des recherches sur la génétique, les études ELSI consistent à pr (...)
  • 3 Programme de recherche et développement lancé par Google pour créer des lunettes à réalité augmenté (...)

2Qu’en est-il des préoccupations éthiques telles qu’elles émergent dans le « ici et maintenant » d’expérimentations situées ? Dans quelle mesure l’enquête sociologique permet-elle de déplacer les termes de la controverse ? On s’intéresse ici aux enjeux moraux tels qu’ils sont problématisés dans le déploiement concret de la robotique sociale, la morale étant entendue comme l’ensemble des règles qui régissent nos manières de vivre ensemble en société, et l’éthique comme une formalisation possible de la morale. Comme le soulignent Danah Boyd et Madeleine Elish (2018), « les réelles questions de l’éthique de l’IA sont ancrées dans le terre-à-terre plutôt que dans le spectaculaire ». Il s’agit donc de fonder empiriquement l’analyse pour éviter une démarche uniquement prospective qui procéderait d’un raisonnement par « cas fictif » (sur les usages d’objets connectés en santé mentale, voir Briffault et Morgièvre, 2017). Cette manière de privilégier l’ordinaire se situe dans la continuité de la critique adressée aux études « ELSI » (ethical, legal and social implications)2, dont l’un des arguments consiste à dénoncer le déploiement d’une « éthique du futur » ou « spéculative » (Guchet, 2016). Le renouvellement actuel de la réflexion sur l’éthique des techniques consiste à recentrer l’analyse sur le présent et les objets effectivement manufacturés, à rompre avec une approche universaliste en contextualisant l’étude de l’éthique, ainsi qu’à promouvoir une démarche d’accompagnement visant à accroître la réflexivité des chercheurs, des concepteurs et des usagers. Asle Kiran, Nelly Oudshoorn et Peter-Paul Verbeek (Kiran et al., 2015) ont dessiné les contours d’une telle démarche en termes d’« ECTA » (ethical constructive technology assessment). Il s’agit de prendre de la distance par rapport à une approche de type « liste de vérification » (checklist) dans laquelle le cadre normatif est fixé a priori, pour penser au contraire la co-production de la technique et de la morale. Cette manière d’étudier la morale « en train de se faire » et « de l’intérieur » a par exemple été mise à l’épreuve du cas du projet Google Glass3 (Kudina et Verbeek, 2019). Dans cet article, on focalise l’attention sur la manière dont les enjeux qualifiés d’éthiques dans les rapports publics sont problématisés par ceux qui tentent d’utiliser des robots sociaux dans le cours de leurs activités. On s’intéresse à leur « travail de moralisation des machines » (Benbouzid et Cardon, 2018, p. 28), c’est-à-dire à la manière dont ils tentent de définir une juste place pour ces artefacts interactionnels.

  • 4 Selon la cinquième édition de la classification américaine des troubles mentaux (le DSM-V, publié e (...)

3Notre analyse s’appuie sur une enquête concernant l’utilisation de robots sociaux dans le champ de la santé mentale, où l’on observe une montée en puissance du recours aux nouvelles technologies : téléconsultation (Mathieu-Fritz, 2018), applications sur mobiles et tablettes, thérapies en ligne (Bergström, 2013), objets connectés, agents conversationnels, réalité virtuelle ou augmentée (Forner-Ordioni, 2019 ; Klein et Borelle, 2019), serious games. Quand on se penche sur les usages actuels des robots sociaux dans le champ de la santé mentale, deux populations semblent particulièrement ciblées : les personnes âgées atteintes de la maladie d’Alzheimer et les enfants qui présentent un trouble du spectre de l’autisme (TSA)4. TSA et Alzheimer sont considérés comme les cas d’usages à la fois les plus répandus et les plus prometteurs de cette technologie (Costescu et al., 2014), dans une même logique de recourir à la sociabilité artificielle pour lutter contre l’isolement des personnes.

4Concernant les TSA, tout a commencé à la fin des années 1990, avec le lancement en Grande Bretagne du projet Aurora. La chercheuse en robotique sociale Kerstin Dauthenhan s’est intéressée aux possibles usages à visée thérapeutique des robots sociaux auprès d’enfants autistes. Ses travaux se sont attachés à tester l’hypothèse du robot comme « médiateur social », capable d’augmenter les capacités d’engagement social des enfants (Dauthenhan, 2007). Suite à ce projet fondateur, les recherches sur le recours aux robots sociaux pour accompagner les enfants avec un TSA se sont multipliées au niveau international (pour un aperçu, voir Cabibihan et al., 2013), sans permettre une généralisation des résultats (Baddoura, 2017). De nombreuses méta-analyses ont été faites pour tenter d’évaluer les bénéfices thérapeutiques des robots sociaux, sans apporter la preuve clinique d’une plus grande efficacité de la médiation robotique par rapport à une médiation humaine (Diehl et al., 2012 ; Begum et al., 2016 ).

5Cet article entend contribuer à une meilleure compréhension des usages émergents des carebots — les robots utilisés pour produire du care, entendu comme l’ensemble des pratiques visant à prendre soin d’autrui. Il vise à enrichir les rares travaux existants sur les usages concrets des carebots, surtout étudiés quand ils sont mis en contact avec des personnes âgées (Pols et Moser, 2009 ; Wright, 2018 ; Carrion-Martinaud et Bobillier-Chaumon, 2017). Par rapport à ces travaux, on s’attache d’abord à saisir la spécificité des robots sociaux, notamment par comparaison avec d’autres robots dénués de visée interactionnelle (comme The Hug, conçu pour porter les personnes, étudié par James Wright). On tente également de re-problématiser le questionnement éthique entourant cette technologie. Plutôt que d’aborder cette question en ouverture (Carrion-Martinaud et Bobillier-Chaumon, 2017), on entend la mettre au cœur de l’analyse. On propose par ailleurs d’opérer un déplacement de l’éthique aux pratiques de moralisation ordinaires. On s’inscrit dans la continuité du travail de Jeannette Pols et Ingunn Moser qui remet en cause l’opposition entre la « chaleur » du care et la « froideur » des technologies, en s’intéressant moins aux relations que les patients entretiennent avec les dispositifs techniques qu’à la manière dont les professionnels du care cadrent ces relations.

6On a réalisé une enquête comparative sur deux robots sociaux (Leka, figure 1, et Nao, figure 2), contrastés à différents égards (voir l’encadré 1), pendant un an, dans une perspective d’étude des sciences et technologies (plus couramment appelée STS, pour science and technology studies) soucieuse d’appréhender en même temps la conception et les usages de ces dispositifs. En reprenant l’idée selon laquelle l’innovation « est moins un état, un objet doté de caractéristiques particulières par exemple, qu’un processus » (Gaglio, 2011, p. 5), on a pris en compte les différents acteurs impliqués dans la chaîne de cette innovation consistant à utiliser des robots sociaux pour accompagner des enfants avec un TSA : concepteurs, distributeurs, experts, commentateurs, recommandeurs, intermédiaires, introducteurs, médiateurs, professionnels en centres de soin et patients.

Figure 1. Le robot Leka

Figure 1. Le robot Leka

Source : Flickr (photo libre de droits d’usage et de distribution ; https://www.flickr.com/​photos/​thewavingcat/​32277857424/​in/​photolist-X7xEFk-X7xFk6-Rbhstb-SpgRkw).

Figure 2. Le Robot Nao

Figure 2. Le Robot Nao

Source : Wikipedia (photo libre de droits d’usage et de distribution ; https://upload.wikimedia.org/​wikipedia/​commons/​4/​47/​Nao_Robot_ %28Robocup_2016 %29.jpg).

  • 5 Nexem est un syndicat représentant des employeurs associatifs du secteur social, médico-social et s (...)

7Concernant le robot Nao, l’enquête de terrain a porté sur la conception d’une suite logicielle dédiée à l’autisme, Ask Nao (Autism solution for kids), et sur les usages du robot au sein de sept structures accueillant des enfants avec un TSA en France : cinq hôpitaux de jour, un Institut médico-éducatif (IME) et une Unité d’enseignement en maternelle pour enfants avec autisme (UEMA). Dans l’un des cas, l’« atelier robotique » organisé initialement en hôpital de jour est sorti de ce cadre pour être proposé dans un contexte associatif. L’enquête sur Leka a porté sur le processus de co-développement du robot par l’équipe de la start-up avec des professionnels de santé, ainsi que sur les usages du robot, à la fois dans le cadre d’un partenariat avec la Croix Rouge au sein d’une crèche, d’un hôpital de jour et d’un IME, et dans le cadre d’une expérimentation portée par le syndicat Nexem5 entre 2016 et 2018 au sein de cinq centres d’accueil pour des enfants avec un TSA : quatre IME et une structure innovante. On a adopté une approche qualitative articulant trois méthodes : entretiens semi-directifs individuels ou collectifs (33 personnes ont été rencontrées au cours de 16 entretiens), observations (deux séances de formation/ prise en main de Leka ont été observées en crèche et en IME) et analyse documentaire (littérature spécialisée et rapports publics). Quelques entretiens complémentaires (n=5) ont été menés avec des acteurs n’étant pas liés à Leka ou Nao mais impliqués dans le recours à la robotique sociale, ou plus largement aux « êtres artificiels intelligents » (Borelle, 2018) voire aux nouvelles technologies, dans l’accompagnement des enfants avec un TSA.

8Cet article s’organise autour d’une ambivalence structurante dans la définition par les professionnels en centres de soin d’une place ajustée pour les robots sociaux. Ces derniers sont établis à la fois comme des êtres incompétents dont il faut produire la sociabilité (partie 1), comme un support thérapeutique difficile à considérer véritablement comme les autres supports (partie 2), et comme un artefact qui nécessite un travail de moralisation spécifique (partie 3).

Encadré 1. Différences entre Nao et Leka
Le robot humanoïde Nao a été conçu en 2006 et commercialisé à partir de 2008 par une start-up française, Aldebaran Robotics, rachetée en 2015 par l’entreprise japonaise Softbank Robotics. La fabrique de Leka est portée par une start-up du même nom depuis 2014. Ces robots sont contrastés à différents égards. D’abord, ils se situent à des stades de développement différents : Leka est à l’état de prototype avancé, tandis que Nao est commercialisé. Nao est un « objet fini », « sur lequel on ne peut pas bouger », selon les termes d’une orthophoniste rencontrée en IME.
Par ailleurs, ces robots n’impliquent pas les mêmes technologies, ce qui se traduit par des coûts très différents (estimés à 15 000 euros pour Nao et 2 000 euros pour Leka). Le projet de faire de Leka un « robot intelligent », capable de reconnaître automatiquement une série de mouvements par exemple, a été abandonné par ses concepteurs en novembre 2016, et le choix a été fait de « déporter l’intelligence du robot dans un iPad » utilisé pour lancer des activités et télécommander le robot. Leka permet de travailler sur l’acquisition de différentes compétences (formuler une demande, faire à tour de rôle, etc.), et offre la possibilité d’agir comme un renforçateur, c’est-à-dire un élément apprécié par l’enfant qui lui est donné quand il a le comportement attendu pour le féliciter et l’inciter à le reproduire dans une perspective comportementaliste. Nao dispose de programmes de « vie autonome », mais il est également programmable graphiquement à l’aide de Chorégraphe, logiciel qui s’appuie sur le langage de codage Python.
Surtout, ces robots ne sont pas conçus selon la même logique : Nao n’a pas été pensé pour faire l’objet d’usages spécifiques, que ce soit dans certains contextes ou en direction de certains publics. En ce sens, s’il est forcément doté d’un « script » (Akrich, 2006), Nao n’incorpore pas de scripts « spécifiques ». Un membre du pôle innovation chez Softbank décrit ainsi la posture de Bruno Maisonnier, à l’origine de la création de Nao : « Quand il a fait Nao, il a dit : “je ne sais pas à quoi ça va servir, mais je fais une plateforme et les gens inventeront les usages avec”. Et l’autisme, c’est le cas d’école où c’est arrivé ». Des chercheurs du département de psychologie de Notre Dame dans l’Indiana ont inventé cet usage du robot et amené les concepteurs à élaborer en 2013 une suite logicielle dédiée, Ask Nao, puis son interface tablette en 2015, Ask Nao Tablet, pour faciliter le guidage du robot qui se faisait jusqu’alors par la voix ou depuis l’ordinateur. Au contraire, Leka a été « conçu avec l’autisme en tête », selon les termes d’un des deux co-fondateurs de la start-up, même si le développement du robot a amené à élargir le public ciblé, pour « s’adresser à d’autres situations ».

1. Produire la sociabilité du robot

9Par rapport à la possibilité annoncée de nouer une relation personnelle et durable avec eux, les robots sociaux s’avèrent décevants. Leur déficit de compétences interactionnelles oblige les professionnels du care à produire leur sociabilité. Le passage du projet de « vie autonome » à la réalité d’interactions programmées nécessite un « travail en plus » (Star et Strauss, 1999) qui se déploie en amont (travail de programmation) mais également dans le cours de l’activité de soin (travail d’opérateur du robot).

1.1. Un interlocuteur décevant

10L’activité des concepteurs en robotique sociale est orientée vers un certain idéal : la possibilité pour l’utilisateur de construire une relation personnelle et durable avec un robot au fil du temps, grâce à la mémorisation de leurs interactions passées. Un chercheur chez Softbank explique :

« Je pousse vraiment pour : qu’est-ce qui améliore le robot d’un point de vue interaction à long terme avec l’humain ? […] Un des premiers blocages techniques, c’est que le robot puisse te reconnaître et, quand tu discutes avec le robot, que cette discussion aille générer quelque chose. Le lendemain, quand il te revoit, il se souvient de ce qui s’est dit, il y a un lien qui se crée ».

11Au regard de cet horizon, un grand nombre de professionnels en centres de soin dénoncent le « grand mensonge » ou encore la « fumisterie » de la communication de Softbank qui présente Nao comme un « compagnon ». Un enseignant spécialisé en hôpital de jour explique :

« Donc, par exemple, Nao, si j’entre dans la classe comme je le fais chaque jour depuis huit ans, Nao, il ne me dira jamais : “Ça boume, T. ? Tu as l’air préoccupé”. Non. Il est là, bêtement. Il n’y a évidemment aucune improvisation. Nao, il ne crée rien du tout et il ne mémorise aucun détail ayant trait à la personne et à l’enfant, à sa vie, à son comportement, à ses habitudes, même la date de naissance, l’animal préféré. Ça pourrait commencer par des choses comme ça qui permettraient de, vous voyez, de personnaliser la relation ».

  • 6 C-3PO, également appelé Z-6PO, est un robot de forme humanoïde, personnage emblématique de la saga (...)

12Dans la réalité, les capacités interactionnelles de Nao s’avèrent très limitées. Les professionnels en centres de soin découvrent un interlocuteur décevant par rapport au C‑3PO6 envisagé en amont de la rencontre. Une pédopsychiatre en centre hospitalier raconte l’expérience d’« atterrissage brutal » entre le « fantasme » et la « vérité » :

« Je pense que c’est une grande illusion car aujourd’hui, ça reste de la programmation. Il n’y a rien de naturel, rien d’adaptatif, donc le robot social, je le vis un peu comme de la pub […]. Pour nous, ça a été l’irruption du syndrome de la vérité ; par rapport au fantasme Star Wars, ça été vraiment l’atterrissage brutal. En fait c’est extrêmement peu autonome, ça n’est pas du tout mûr ou mature tel que c’est présenté. […] Il y a un décalage vraiment profond entre ce fantasme “nouvelles technologies” et l’idée que l’on va avoir un nouveau partenaire dans l’interaction ».

13Les professionnels en centres de soin regrettent la faible autonomie du robot, sa bêtise interactionnelle, notamment au regard des vidéos promotionnelles qui mettent en scène un échange riche et fluide. Tous présentent Nao comme n’étant pas abouti d’un point de vue technique, ce qui les amène à considérer que le robot ne relève pas du domaine de l’intelligence artificielle et à le qualifier plutôt de « marionnette », de « voiture télécommandée » ou encore de « gros magnétophone ». Les professionnels réalisent rapidement que les programmes de « vie autonome » du robot peuvent difficilement être utilisés avec des enfants qui présentent un TSA. Nao s’avère trop exigeant : il ne répond que si son interlocuteur se positionne bien en face de lui ; il comprend uniquement ce qui est prononcé correctement, etc. Un informaticien en centre hospitalier explique :

« Un enfant qui ne regarde pas complètement le robot, qui ne se met pas vraiment en face de lui, qui a des problèmes d’élocution, je veux dire, je dis peut-être des bêtises, mais on sera peut-être autour de 20 % de succès [sur la compréhension par le robot du langage dit “naturel”]. Ce n’est pas acceptable ».

14Concernant Leka, l’idée de départ était de faire un « robot intelligent », sur le modèle de Nao. L’un des co-fondateurs explique :

« Quand on était encore à cette version-là et au début des versions 3D, l’idée, c’était d’avoir l’intelligence dans le robot, que le robot soit très autonome, un peu comme un Nao, même si Nao n’a jamais été autonome. Mais un peu comme dans les vidéos de Nao ! [rires] C’était l’idée qu’il vive un peu sa vie, qu’il fasse des tas de choses ».

15Dans cette perspective, Leka s’engage en 2014 dans un programme de co-développement avec IBM pour explorer la possibilité de s’appuyer sur de l’apprentissage machine (machine learning), et notamment la technique des réseaux de neurones, afin d’automatiser la reconnaissance d’une série de mouvements proposés par deux psychomotriciennes. Mais cette collaboration s’arrête, malgré de bons résultats, par manque de contractualisation. Le projet de faire un « robot intelligent » est finalement abandonné en novembre 2016. Ce tournant signe plusieurs constats, selon l’un des co-fondateurs. Ce dernier déplore d’abord les limites actuelles de l’autonomie des robots et le manque de maturité des techniques d’autonomisation :

« On s’est rendu compte que le seul robot qui marchait vraiment, c’était le Roomba [un robot aspirateur] — et encore : quand il était perdu, il fallait qu’on l’aide à se remettre sur sa base —, mais que la robotique, qu’elle soit humanoïde ou pas, autonome, ce n’était pas encore le… Ça ne marche pas encore très bien ».

16Ensuite, la fabrication d’un robot intelligent exige un investissement trop important en termes d’équipement, de connaissances et de temps de développement :

« En fait, on s’est aussi rendu compte, retour technique, que développer en embarqué dans le robot, ça demande des outils et des connaissances qui sont plus complexes à acquérir. C’est des développeurs qui peuvent coûter plus cher parce qu’ils ont plus d’expérience. Et que ça rajoute des temps de développement ».

1.2. De la « vie autonome » à l’interaction programmée

17Concernant sa configuration technique, Leka se distingue par sa « fluidité d’utilisation », selon les termes d’une orthophoniste en IME qui souligne la prise en main facile du robot. Au contraire, Nao est plus difficile à utiliser sur le terrain. Quand l’équipe en charge du projet Ask Nao chez Softbank dresse un premier bilan en 2015, après l’avoir « laissé tourner pendant deux ans », la configuration du robot apparaît comme une tâche supplémentaire à laquelle les professionnels du care ont du mal à consacrer du temps. Ce travail leur semble pris sur leur « vrai boulot » (Hughes, 1996), partie valorisée de leur activité qui consiste à être avec les enfants. Le responsable du projet Ask Nao explique :

« [Les soignants] ont trouvé qu’ils passaient beaucoup de temps devant l’ordinateur et pas assez en face des enfants. Pour eux, tout le temps qui n’est pas passé en thérapie, c’est du temps perdu. Pour eux, ce n’est pas du travail qui fait avancer, ce qui est discutable ».

  • 7 Entre 2011 et 2015, la conception d’Ask Nao a été orchestrée par Olivier Joubert, recruté pour sa d (...)
  • 8 L’attention conjointe désigne le fait d’avoir son attention portée à la fois sur un événement et l’ (...)

18Ce travail de configuration du robot est d’autant plus incontournable que la suite logicielle Ask Nao ne s’avère pas utilisable en centres de soin. Le bilan de 2015 permet de constater que les applications proposées ne sont pas adaptées à l’autisme : le débit de parole du robot est trop rapide, les tâches sont trop difficiles et non centrées sur les « vrais problèmes » comme la communication, la reconnaissance vocale est mise en échec par les problèmes d’élocution des enfants. Le responsable du projet explique ce déficit d’adaptation par le fait que les applications « n’ont pas été designées spécifiquement avec des thérapeutes ». Actuellement, il entend s’attaquer à ce problème, en réinvestissant notamment un projet européen initié avant son départ par Olivier Joubert, premier coordinateur du projet Nao7. Ce projet européen, construit sur « la base, les grands jalons de la communication » (l’attention conjointe8, le tour de parole et l’imitation), consiste à développer un protocole expérimental pour valider l’efficacité thérapeutique du robot.

« Donc on s’est penché sur cette question : qu’est-ce qu’on pourrait sortir de ce projet ? Parce que les applis sont intéressantes, vraiment plus fondamentales sur ce qui est intéressant pour les thérapies […]. Toute l’idée c’est que moi, sur ce projet, j’ai repris les protocoles qu’on a faits avec les partenaires et je les ai reformatés dans l’interface Ask Nao Tablet ».

  • 9 L’UX (user experience) désigne la qualité de l’expérience vécue par l’utilisateur mis en contact av (...)

19Le responsable du projet Ask Nao poursuit également cet effort en s’appuyant sur un stagiaire avec un profil « psy et UX9 » recruté pour élaborer une quatrième application « où l’enfant doit se projeter dans la tête du robot », qui porte sur la « théorie de l’esprit », c’est-à-dire le décryptage des intentions d’autrui. Il fait le pari que ces quatre applications « dédiées aux fondamentaux » peuvent opérer une « relance ». Dans l’état actuel des choses, malgré cet engagement pour améliorer Ask Nao, les professionnels doivent donc programmer le robot pour pouvoir s’en servir dans les centres de soin. Dans un IME, un informaticien devenu « chargé des projets innovants » estime que deux heures de programmation sont nécessaires pour faire une séance d’une quinzaine de minutes avec Nao. Ce travail est encore plus chronophage quand il s’agit d’écrire des programmes spécifiques pour chaque enfant, ce qui est fait par un autre informaticien dans un hôpital de jour.

20Les professionnels qui tentent d’utiliser Nao en centres de soin se voient donc contraints de se constituer une expertise technique d’une manière non anticipée. Plusieurs possibilités sont explorées. Dans l’ensemble des structures, l’implantation du robot repose de manière centrale sur la présence d’un introducteur au profil particulier. Qu’il soit professionnel de santé ou de l’éducation avec un profil « geek » ou encore informaticien devenu chargé de projets, cet introducteur se situe à la croisée des mondes de la technique et du soin. Véritable entrepreneur de l’innovation, il porte le projet au prix d’un fort investissement personnel, dans une logique valorisée de « bricolage ». Une première piste est donc que ces introducteurs apprennent à programmer Nao, le plus souvent de manière autodidacte car il n’existe pas de cursus de formation. Cette tâche, qualifiée de « travail de dingue » par l’un d’eux, est estimée à « plusieurs centaines d’heures » par un autre qui explique :

« Parce que Nao, ce n’est pas un objet qu’on allume après avoir lu un mode d’emploi de cinq pages et ça le fait. On lit un mode d’emploi déjà en anglais, c’est de l’anglais technique, donc quand même. On bidouille et au bout de dizaines d’heures ça plante. Voilà. Et là, on remet les mains dans le cambouis et voilà. C’est comme ça que ça se passe, Nao, aujourd’hui encore ».

  • 10 La conception de l’interface Ask Nao Tablet a été assurée par ERM Robotics, qui distribue Ask Nao d (...)

21Certains introducteurs élargissent même leur champ de compétences disciplinaires en reprenant leurs études : dans un des lieux observés, l’orthophoniste à l’origine du projet a commencé une thèse en robotique sociale après avoir réalisé un master d’épistémologie et d’histoire des sciences. Une deuxième possibilité consiste à recruter des personnes avec un profil hybride. Dans un centre hospitalier, le chef du service informatique explique avoir recruté le père d’un enfant autiste informaticien, à la fois pour son expertise professionnelle et pour son « savoir expérientiel » (Borkman, 1976), pour sa capacité à « faire le liant » entre la technique et le soin. Enfin, la troisième voie consiste à faire appel à une expertise externe (écoles d’ingénieurs, ERM Robotics10) pour programmer le robot et former le personnel à son utilisation. Cependant, l’externalisation de la programmation peut s’avérer fort coûteuse. La société ERM Robotics réclame par exemple entre 3 000 et 4 000 euros pour produire une application sur Ask Nao Tablet — d’où la mise en concurrence opérée par la Croix Rouge avec un cabinet de conseil en informatique qui ne recrute que des personnes avec un TSA. Il est par ailleurs difficile de trouver des personnes capables de dispenser des formations « ajustées ». La chargée du projet Nao au sein de l’association Autistes sans frontières explique par exemple, à propos d’ERM : « ce sont des techniciens, ils ne sont pas formés sur l’autisme ».

22À cette programmation nécessaire en amont s’ajoute une autre tâche supplémentaire, qui vient cette fois se loger dans le cours même de l’activité de soin. Un nouveau rôle apparaît dans l’organisation du travail, celui d’« opérateur du robot » (sur tablette ou sur ordinateur), selon les termes d’un informaticien en centre hospitalier. Les professionnels réalisent que Nao peut être dangereux par son incapacité à s’adapter en situation. Par exemple, le robot ne sera pas capable d’interrompre un mouvement qu’il a entamé, comme le fait de plier son coude, même si un enfant met son doigt au niveau de la flexion. Cette dangerosité amène à considérer comme nécessaire le fait qu’une personne capable d’arrêter le programme soit présente quand le robot est utilisé. Pendant les séances, il revient à ce nouvel arrivant en salles de soin de commander le robot en temps réel, mais également de gérer les bugs, évoqués par un cadre de santé dans un centre hospitalier :

« Il arrivait parfois qu’on ait des micro-coupures dans les connexions qui faisaient que le programme s’interrompait. Il fallait absolument le relancer à ce moment-là. Voyez-vous, ce sont des petites choses techniques, mais extrêmement importantes ».

23Ce « travail en plus », cet ensemble d’activités le plus souvent invisibilisées mais nécessaires à la bonne réalisation du travail de care avec un robot social, peut être considéré par certains comme disproportionné au vu des possibilités offertes par ce support thérapeutique. Une pédopsychiatre en centre hospitalier en arrive à douter de la rentabilité de Nao en soulignant un « rapport investissement/résultats » défavorable. À cet égard, l’un des co-fondateurs de Leka explique comment l’abandon du projet initial de robot intelligent a été légitimé a posteriori par les expérimentations menées sur le terrain. Selon lui, le maniement d’un tel robot aurait nécessité un appui plus important sur un réseau wi‑fi déjà défaillant dans un grand nombre de structures, ainsi qu’une expertise technique plus forte chez des professionnels de santé considérés comme étant peu dotés en la matière.

« Donc ça, ça a été un gros changement qui a ensuite été validé derrière par l’usage, où on s’est rendu compte que déjà un iPad, pour le mettre à jour, c’était compliqué. Parce que souvent ils n’ont pas le wi‑fi dans les centres, ils ne voient pas comment ça marche, ils ne savent pas... Alors si en plus il fallait qu’ils mettent à jour le robot, connecter le robot au wi‑fi et faire en sorte que tout ce monde se parle, c’était certain qu’on n’allait pas y arriver ».

2. Faire du robot un support thérapeutique

24Trouvant sa place dans des dispositifs contrastés, le robot social est pensé par les professionnels de santé comme susceptible d’ouvrir de nouvelles pistes de travail et d’apporter des résultats spécifiques. Cependant, il est difficilement établi comme un support thérapeutique comme les autres dans la mesure où il suscite des réticences, des incertitudes et des points de vigilance particuliers.

2.1. Des dispositifs contrastés

25Plusieurs acteurs tentent d’expliquer pourquoi l’autisme s’est imposé comme un terrain privilégié d’exploration des robots sociaux. Un psychologue en hôpital de jour insiste sur l’incertitude entourant la prise en charge des TSA qui favoriserait une certaine ouverture à l’expérimentation. De manière plus précise, une pédopsychiatre en centre hospitalier identifie l’espoir qui anime les soignants de « trouver l’interprète », le tiers qui permettrait à l’enfant de mieux comprendre et d’être mieux compris dans une interaction.

« C’est vrai que l’on est un peu à la recherche de choses miraculeuses, comme toujours, parce qu’avec ces enfants, c’est toujours l’idée qu’on va trouver l’interprète qui va nous permettre de rentrer en contact avec eux : le dauphin, le chien, le cheval, le robot. Il y a cette croyance, cette idée qu’à un moment donné, l’humain n’y arrive pas et finalement un autre être pourrait y arriver. Donc le robot, évidemment, ça rentrait en plein dedans ».

26Le robot Nao trouve sa place dans des dispositifs variés selon les endroits. Quelques fois utilisé « en individuel », il fait le plus souvent l’objet d’usages collectifs, dans des groupes de taille variable (entre deux et six personnes). Il est mis en contact avec des enfants âgés de 3 à 15 ans, dont l’entrée dans le dispositif n’est pas systématiquement basée sur un principe de sélection et dont les profils ne sont donc pas toujours homogènes. Nao est généralement utilisé de manière hebdomadaire, pendant des séances dont la durée varie entre quinze et quarante-cinq minutes. Les projets sont déployés sur des temporalités inégales, comprises entre six semaines et deux ans, et selon des finalités contrastées, allant de la recherche clinique à l’exploration libre en passant par l’expérimentation cadrée.

27Les professionnels en centres de soin formulent un certain nombre d’hypothèses, plus ou moins formalisées, au moment de concevoir des scenarii d’usages du robot. Une première hypothèse, relative à l’intérêt procédural de Nao, est assez largement partagée. Elle est par ailleurs communément admise dans la littérature scientifique (Anzalone et al., 2014). Cette hypothèse consiste à penser que le robot peut jouer un rôle d’attracteur et de motivateur, pour inciter l’enfant à se mettre au travail et augmenter sa capacité de concentration sur une tâche donnée. Dans cette logique, les nouvelles technologies et les outils numériques sont considérés comme de bons candidats étant donné l’intérêt particulier qu’ils suscitent chez les enfants avec un TSA (Grossard et Grynszpan, 2015). Une psychologue en hôpital de jour explique :

« [Les enfants avec TSA] ont de l’appétence pour ce genre d’outils. Donc ça les motive et sans motivation, on ne travaille pas. Donc déjà pour nous, c’est un facilitateur en disant : s’il y a NAO, ça va les attirer. Ça va les aider à venir travailler. Ça les motive ».

28Les autres hypothèses sont plus spécifiques à certains projets. Une première piste de travail consiste à faire le pari que la « neutralité » du robot permet de faciliter l’apprentissage, en simplifiant les situations complexes — au sens où elles sont surchargées de significations. Dans un hôpital de jour, un psychologue fait le pari que la compréhension d’une histoire racontée par Nao (exactement de la même manière d’une semaine à l’autre, sans modulation de la voix, sans expression faciale, sur un rythme constant, etc.), plutôt que par une psychologue, sera plus facile. Cette piste est également exposée par une autre psychologue en hôpital de jour :

« Le deuxième aspect sur lequel on espère que ça puisse avoir un impact, c’est sur cette neutralité qui va peut-être permettre d’épurer les apprentissages à un certain moment et de permettre aux enfants d’acquérir plus vite certaines compétences ».

29Plus précisément, sur l’acquisition de l’imitation, elle explique que le robot permet de simplifier la situation d’apprentissage, avant de généraliser à des situations ordinaires :

« On peut se servir de Nao pour travailler sur un moment plus épuré. Par exemple, Nao a cette capacité qui est quand même vraiment particulière, c’est qu’il est neutre tout le temps et qu’il parle toujours de la même façon. Il va toujours réagir de la même façon. Nous, humains, nous n’avons pas cette capacité-là. […] Cela nous permet de travailler cette compétence d’imitation qui est très importante dans un premier temps avec quelque chose de très neutre, puis dans un deuxième temps, une fois qu’il a acquis cette compétence, de pouvoir le retravailler sur l’humain, le vrai, la réalité, l’environnement tel qu’il est ».

30Une autre piste de travail consiste à penser que le robot peut faciliter les apprentissages car il permet de se décentrer par rapport au jugement des autres. Selon l’orthophoniste à l’origine de ce projet en hôpital de jour, le fait de programmer Nao avec le logiciel Chorégraphe offre à l’enfant la possibilité de tenter des choses au niveau interactionnel tout en restant en retrait, en n’étant pas destinataire des réactions suscitées par ces propositions interactionnelles :

« On avait un jeune qui était très en retrait et qui avait très envie d’être en lien. Jusqu’à présent, il ne sort pas un son, et il tourne, il tourne sur lui-même, il n’arrive pas à aller vers les autres, et donc il s’est servi du robot pour dire : est-ce que je peux jouer avec vous ? Donc ce qui est intéressant, c’est que les jeunes répondent au robot, ils ne répondent pas au jeune. Lui, ça lui permet pour l’instant de se mettre un peu à l’abri. […] Je peux proposer, essayer des choses avec les autres en étant un peu en recul, un peu selon la technique du danseur d’ombre, un peu comme les marionnettes en fait. Et ça a un effet sur l’autre, et donc je peux voir, je peux m’essayer à certaines choses ».

31Un enseignant en hôpital de jour avance également que le robot permet de se décentrer par rapport au jugement de l’adulte, par exemple quand il l’utilise pour entraîner à la dictée une jeune fille qu’il suit :

« Alors, elle ne travaille pas seule puisqu’elle travaille avec le robot, mais elle ne travaille plus avec l’adulte. Il y a cette petite différence qui me paraît intéressante. […] Justement ce n’est pas un adulte, ce n’est plus un adulte. Et donc il y a une sorte de coupure, ou en tout cas on passe à un autre type d’acteur. C’est un robot, voilà. Ce n’est pas un être humain donc tout ce qui relève de l’humain, donc du jugement, des réactions épidermiques […]. Il n’y a rien de tout ça, et ça convient à cette enfant ».

32Une dernière piste de travail consiste à faire l’hypothèse que le robot peut agir comme un facilitateur des relations, et notamment comme un médiateur permettant d’établir la relation thérapeutique entre le professionnel et l’enfant. Un psychologue en hôpital de jour explique :

  • 11 Conçu en 1993 par l’ingénieur japonais Takanori Shibata, ce robot ayant l’aspect d’un phoque en pel (...)

« [Le robot] facilite aussi la relation entre l’homme et l’homme. Ça, c’est ce qu’on remarque par exemple avec les personnes âgées. Quand tu mets un Paro11, tu sais les robots, en fait les humains vont facilement discuter entre eux aussi. Ils vont parler du robot. Il a aussi ce rapport-là de tiers qui est intéressant. Ça marche aussi avec les enfants. Il y a une étude qui a été menée il y a quelques années déjà qui montre qu’un robot, ça va améliorer la relation entre l’enfant et le thérapeute ».

33On observe finalement quatre paradigmes d’usages dans lesquels les professionnels en centres de soin ne donnent pas le même rôle au robot : médiateur (raconter un conte), rééducateur (proposer des activités éducatives comme la reconnaissance de couleurs), extension (être programmé par les enfants) et outil (pour travailler sur l’acquisition de l’imitation). L’identification de ces paradigmes d’usages vient utilement compléter la typologie des paradigmes d’interactions avec les robots humanoïdes élaborée par les pionniers en robotique sociale : le robot outil, le robot extension/prothèse, le robot avatar et le robot partenaire (Breazeal et al., 2014).

34Quels enseignements les professionnels tirent-ils de leurs expériences en centres de soin ? Généralement, ils restent précautionneux quant aux effets possibles du robot sur l’acquisition de compétences ciblées. Certains préfèrent ne pas s’avancer sur les résultats de processus d’évaluation toujours en cours, d’autres mettent en avant des effets assez limités. Concernant l’expérimentation de Leka, une psychomotricienne en IME partage son sentiment mitigé quant à l’existence d’un « apport flagrant ». Certains professionnels mettent quand même en avant des constats encourageants, sans préjuger de leurs implications thérapeutiques et/ou éducatives. Par exemple, un psychologue en hôpital de jour insiste sur la compréhension plus rapide de l’histoire dans le cadre de l’« atelier conte » avec Nao :

« Je n’ai plus les chiffres exacts en tête mais, si ma mémoire est bonne, le groupe témoin, il aura fallu vingt-et-une séances pour rejouer la pièce. Et le groupe expérimental, il aura fallu six séances. Donc ça prouve que l’histoire était plus facilement compréhensible ».

35Plusieurs intervenants soulignent également un apport spécifique des robots sociaux : la mise en visibilité de compétences insoupçonnées chez les enfants. À l’issue du visionnage d’enregistrements vidéo de séances avec Nao, une pédopsychiatre en IME explique comment le robot rend visibles, en les sollicitant de manière efficace, les « capacités d’attention conjointe » des enfants avec un TSA :

« Ça met en évidence les fonctions d’attention conjointe qui existent. C’est-à-dire qu’on peut penser qu’elles sont déficitaires mais en fait elles existent, mais il faut un objet qui permette de les susciter. Donc c’est probablement l’intérêt de ces objets-là ».

2.2. Un support comme les autres ?

36Dans tous les centres de soin, les professionnels expriment le souci d’inscrire le robot dans l’existant. Une seule structure a lancé un « atelier Nao ». Dans les autres cas, le robot intègre des dispositifs qui lui préexistent, pour les prolonger parfois. Dans un hôpital de jour, Nao vient par exemple remplacer la psychologue qui raconte habituellement les histoires dans le cadre d’un « atelier conte ». Dans un autre endroit, l’atelier avec Nao vient en alternance avec un « atelier sonore » déjà existant. L’orthophoniste qui porte le projet explique :

« On souhaitait garder cette alternance, pas que des ateliers robotiques, mais garder l’aspect et robotique et atelier sonore […] Par exemple, si on travaille sur une voix, après cette voix-là on va pouvoir l’intégrer sur le robot. Donc il y a une espèce de continuité. Le robot n’est pas déconnecté, on va dire, du travail qu’on faisait… On a gardé ce truc-là ».

37Plusieurs professionnels insistent également sur la logique de couplage des outils dans leurs pratiques. Un enseignant spécialisé en hôpital de jour explique :

« Nao, je pensais quelque part que ça se suffirait à lui-même dans les apprentissages pédagogiques. La leçon que j’en tire moi, finalement c’est une leçon de raison, de dosage. Nao, en fait l’utilisation de Nao, renvoie aux autres matériaux. C’est-à-dire que l’utilisation de Nao vient enrichir la pratique d’une discipline sur le cahier ».

38L’enjeu est également de désamorcer la critique classique de la substitution (Dubey, 2013), en insistant sur le fait que le robot social n’est pas destiné à remplacer le professionnel de santé/de l’éducation. À cet égard, on peut remarquer que cette critique est anticipée par les concepteurs eux-mêmes. Le responsable du projet Ask Nao chez Softbank explique ainsi :

« On ne veut pas parler de thérapie entièrement par ordinateur. Ça n’intéresse pas, ce n’est pas vendeur, ça fait peur à tout le monde, ça néglige le rôle du thérapeute ».

39Par ailleurs, les professionnels qui utilisent le robot en centres de soin ne l’établissent jamais comme un dispositif indépendant, qui pourrait fonctionner sans leur intervention. On retrouve un consensus similaire à celui qui s’opère autour de la réalité virtuelle, cadrée par les psycho-praticiens comme un « outil » pour prendre de la distance par rapport à l’idée d’une « thérapie baguette magique » (Klein et Borelle, 2019). Pour défendre la médiation robotique, un psychologue en hôpital de jour souligne que le robot ne constitue « qu’un outil parmi tant d’autres » dans les mains du thérapeute :

« Le robot, lui, il n’a rien de thérapeutique. C’est son usage qui va l’être. C’est comme n’importe quoi. Un crayon et un papier ce n’est pas du tout thérapeutique. Mais par contre, si tu t’en sers bien, tu peux très bien le rendre thérapeutique ».

40Ce psychologue considère que les « résistants à Nao », et de manière générale au numérique, ont peur de « mettre quelque chose entre l’enfant et le thérapeute », ce qui est pourtant selon lui le principe même de la médiation thérapeutique. Le débat porte en fait sur la possibilité d’assimiler le robot aux autres formes de médiation, à une feuille et un crayon par exemple. Il concerne la possibilité de considérer le robot social comme un support thérapeutique exactement comme un autre.

  • 12 L’évaluation clinique consiste à recueillir des signes par le biais d’une observation directe, libr (...)

41Cette question se pose également concernant l’évaluation du robot comme support thérapeutique : est-il nécessaire de construire un dispositif d’évaluation spécifique ? La volonté d’évaluer les bénéfices du robot prend des formes différentes selon les endroits. Sur Leka, la démarche de recherche clinique est inscrite dans le fonctionnement de l’expérimentation initiée par Nexem, tandis qu’elle est absente du test lancé par la Croix Rouge dans certaines de ses structures. Concernant Nao, seul un hôpital de jour s’appuie sur le modèle de l’étude clinique, notamment à travers la mise en place d’un groupe témoin. Sans s’inscrire dans une démarche de recherche clinique, la plupart des structures mobilisent des outils d’évaluation, qui sont administrés au début et à la fin des expérimentations. Il existe une volonté de « faire de la mesure » et « d’avoir des indicateurs les plus objectifs possibles », selon les termes d’une pédopsychiatre en centre hospitalier. Pour compléter leur évaluation clinique12, soit les professionnels de santé utilisent des outils standardisés déjà existants comme l’échelle des comportements autistiques (ECA) ou le test projectif de socialisation pour enfants et adolescents (TSEA), soit ils essaient de bricoler des outils ad hoc. Dans ce cas, ils rencontrent notamment la difficulté de ne pas savoir ce qu’il est pertinent de regarder, ce sur quoi le robot est susceptible d’agir. Une psychologue en centre hospitalier explique les incertitudes entourant la construction des grilles d’évaluation et le parti-pris d’une observation tous azimuts de manière à identifier les critères ajustés :

« On a pris certaines grilles [d’évaluation] que l’on a adaptées pour voir. […] Parce que pour les faire, ces grilles, ce n’était pas si simple. On ne savait pas sur quoi miser. Qu’est-ce qu’on doit évaluer avant, après ? Pour voir effectivement : où est-ce qu’on aurait un impact ? […] Les critères sont très vastes, vu qu’il n’y a pas grand-chose au niveau international qui a été fait pour des critères d’évaluation sur nos projets. Du coup, on a pris le parti avec les équipes de tout noter. “Le lundi, les enfants étaient comme ça. Le mardi, on a remarqué qu’ils étaient ainsi” ».

42La plupart des professionnels en centres de soin confirment l’effet attracteur du robot. Suite au visionnage d’enregistrements vidéo de séances avec NAO, le directeur d’un IME souligne :

« Je trouvais qu’il y avait une vraie concentration chez ces enfants, qui pourtant ont beaucoup de mal à se concentrer, comme A. et M., je pense. Donc je trouve qu’il y a eu un effet fixateur de l’attention qui est très intéressant. Ça capte l’attention ».

43Cet effet attracteur est considéré comme d’autant plus bénéfique qu’il ne s’avère pas excessif. Le robot social fait ainsi naître un point de vigilance particulier : l’identification d’un risque de sur-stimulation, en grande partie lié à la crainte que l’interaction avec le robot ne devienne exclusive, au détriment des interactions avec les humains. Plusieurs professionnels se disent rassurés par le fait que les enfants ne se montrent pas absorbés par les robots. Dans un IME, une psychomotricienne explique à propos de Leka :

« On a toujours un peu peur, avec nos enfants autistes, que ce soit too much, que ça les focalise et qu’on n’arrive plus à rien faire d’autre et que ça tourne en boucle, voilà. Donc le bon côté de ce constat-là c’est que non, avec Leka ça n’arrive pas. Donc ça c’est plutôt chouette, parce que ce ne serait pas forcément pertinent de leur proposer quelque chose qui les focaliserait tellement qu’on n’arriverait plus à être en interaction avec eux ».

3. Moraliser le robot social

44Malgré leur consensus quant au manque de compétences interactionnelles des robots sociaux, les professionnels en centres de soin s’engagent dans un véritable travail de moralisation de ces artefacts. Ils s’attachent à cadrer la relation de l’enfant avec le robot et à limiter la capacité de jugement du robot. Ils tendent ainsi à établir le robot comme un acteur social pas comme les autres et tentent d’élaborer en pratique la spécificité de sa place.

3.1. Cadrer la relation de l’enfant avec le robot

45Les introducteurs du robot au niveau local s’appuient souvent, pour défendre leur projet, sur l’idée de l’inéluctabilité de la révolution robotique. Cette rhétorique recouvre en fait deux types de discours qui n’attribuent pas la même désirabilité au progrès technique. Un premier discours, évolutionniste, considère de manière enthousiaste que les nouvelles technologies améliorent systématiquement les conditions d’existence. Un deuxième discours, plus nuancé, insiste sur la nécessité d’apprendre à connaître les nouvelles technologies pour identifier leurs limites et dessiner les contours de bonnes pratiques. Un cadre de santé dans un centre hospitalier s’inscrit par exemple dans cette logique :

« La première démarche est toujours d’apprendre à maîtriser ces outils-là. […] Il faut apprendre leurs limites, apprendre à les connaître, il faut décrire tout ça pour qu’on puisse effectivement en définir quelque part l’usage. […] C’est effectivement de dessiner un peu les contours de bonnes pratiques, dans le cadre thérapeutique, voire au-delà du cadre thérapeutique ».

46Dans ce discours, l’idée de développer un rapport réflexif à cette nouvelle technologie est embarquée dans le projet même d’expérimentation des robots sociaux. Par ailleurs, même quand elle n’est pas un objectif anticipé par les acteurs, on observe que l’utilisation de robots sociaux suscite une réflexivité importante. On est face à des « usagers innovateurs » (Gaglio, 2011, p. 72) qui tentent de s’approprier une technologie émergente — au sens où elle n’a pas fait l’objet d’un processus de banalisation. Ces usagers innovateurs présentent certaines caractéristiques spécifiques : ils sont particulièrement investis dans un « travail de création de sens » (Mathieu-Fritz et Gaglio, 2018, p. 35), qui consiste à identifier les finalités possibles, les bénéfices éventuels et les limites de la technologie. Ils adoptent très largement une « attitude expérimentale » (Mathieu-Fritz et Guillot, 2017), qui vise à tester le dispositif auprès de leurs patients. Enfin, ils se montrent particulièrement réflexifs sur leurs pratiques.

47Deux enjeux structurent fortement les débats publics concernant les robots sociaux : la relation susceptible de se nouer entre l’humain et le robot, et la répartition souhaitable des tâches entre eux. Comment ces enjeux sont-ils travaillés dans des espaces de problématisation plus « confinés » (Gilbert et Henry, 2012, p. 55) tels que les centres de soin ? La fabrique de robots anthropomorphisés, dans lesquels sont transplantées des caractéristiques que nous attribuons spontanément aux êtres humains (apparence, mouvements, réactivité, formes d’expressivité), pose d’abord le problème de la confusion entre humain et robot. Dans les rapports publics de la CERNA (2014) et de la CNIL (2017), ce risque est identifié comme encore plus grand quand ces robots s’adressent à des personnes vulnérables. Néanmoins, depuis la fin des années 1980, plusieurs travaux de STS critiquent l’idée de « projection anthropomorphique » (Latour, 1988 ; Thévenot, 1994). Dans la lignée de ces travaux, Denis Vidal (2012) a proposé la notion de « pacte anthropomorphique » pour décrire les interactions fondées sur l’apparence anthropomorphique sans postuler que ceux qui interagissent succombent à une forme d’illusion cognitive.

48Un grand nombre de professionnels ayant expérimenté Nao en centres de soins concluent à l’absence de confusion sur son absence d’autonomie. Dans un centre hospitalier, le cadre de santé et la pédopsychiatre tombent d’accord en mettant en avant des arguments différents : l’intelligibilité du système de commande du robot (« les enfants ont très bien compris que c’était à partir de l’ordinateur ») et le manque de fluidité du mouvement (« il n’est ni assez fluide, ni assez humanoïde pour qu’à un moment la confusion soit possible »). Dans un autre endroit, l’orthophoniste à l’origine du projet considère la confusion comme un stade initial qui « ne dure pas » — d’autant que le dispositif qu’il a conçu consiste à faire programmer Nao par les enfants, donc à leur mettre les ficelles entre les mains. Néanmoins, les soignants n’écartent pas de manière unanime le risque que les enfants assimilent le robot à l’humain. Une pédopsychiatre exprime davantage de doutes, et un certain malaise, suite à son expérimentation avec un autre robot social :

« Ce qui me gêne dans ce projet d’étude c’est l’idée que... Pas tous les enfants autistes, mais certains sont tellement dans leur monde qu’entre l’humain et le robot, on sent qu’ils ne saisissent pas trop que le robot est… Qu’il n’est pas indépendant, qu’il ne parle pas tout seul. On sent que c’est compliqué des fois pour eux de percevoir ça. Et éthiquement, ça me questionne un peu ».

49Quel que soit leur sentiment, tous les professionnels en centres de soin mettent en avant l’importance de ne pas cultiver la confusion, en élaborant des protocoles pour présenter le robot (le sortir et le ranger dans sa caisse devant les enfants) ou encore en se mettant d’accord sur des normes langagières pour en parler (dire « il est rangé dans sa caisse » plutôt qu’« il fait dodo ») et lui parler (l’appeler Nao plutôt que de lui donner un prénom). Un enseignant spécialisé en hôpital de jour revient sur les questionnements qui ont traversé l’équipe soignante et sur la volonté de prendre de la distance par rapport à une présentation du robot comme personne :

« On s’est même demandé, on s’est posé beaucoup de questions : est-ce qu’on doit, comment l’appeler ? Est-ce qu’on doit nommer Nao ? Est-ce qu’on doit le baptiser ? Est-ce qu’on doit lui donner un prénom ? On a décidé de garder Nao parce que c’est Nao le robot. Après, là, on rentre, je pense que ce qui est intéressant c’est qu’on rentre quand même dans quelque chose qui est à mille lieues de la façade commerciale ».

50Une pédopsychiatre évoque également la réflexion collective menée sur ces questions au sein de l’hôpital de jour où elle travaille, en insistant sur la nécessité de convenir d’un discours partagé :

« Les éducateurs ont posé ces questions-là, au début. Qu’est-ce qu’on dit aux enfants ? Est-ce que c’est un personnage ? Est-ce que c’est quelqu’un ? Est-ce que c’est un objet ? Parce qu’il y avait des enfants qui le prenaient un peu comme un doudou, finalement, ou comme un être humain, comme leur copain. Il a fallu, même avec les éducateurs, avoir un discours commun de ce côté-là ».

  • 13 Pour un état de l’art plus approfondi sur les questions d’anthropomorphisme et d’attachement dans l (...)

51Les professionnels en centres de soin n’expriment pas tant le souci de dénuer le robot de toute forme d’autonomie fonctionnelle dans l’interaction que celui d’éviter de lui prêter un vécu émotionnel, voire sensoriel, similaire à celui d’un humain, ce qui soulève une deuxième question : celle de l’attachement13.

52Dans le rapport de la CERNA (2014), cet enjeu est considéré comme particulièrement problématique concernant les personnes vulnérables décrites comme ayant « tendance à anthropomorphiser les robots et à s’y attacher davantage que l’ensemble de la population » (p. 19). Cet attachement s’opérerait « au détriment des contacts humains » (p. 36), avec le risque in fine d’un appauvrissement des relations humaines, selon Sherry Turkle (2015). De manière moins pessimiste, Emmanuel Grimaud (2012) considère plutôt que nos interactions avec des êtres artificiels nous inviteraient à explorer de « nouvelles gammes de relations », à développer notre créativité relationnelle. Jeannette Pols et Ingunn Moser (2009) invitent également à « tracer la sociabilité » qui se noue non seulement avec mais également autour des technologies de soin.

53Dans un IME, une psychomotricienne fait explicitement le lien entre la confusion et l’attachement en racontant le cas d’un enfant qui, après avoir fait beaucoup de « câlins » à Nao, s’est finalement « désintéressé » du robot quand il a compris que ce dernier était « piloté par la tablette ». Elle conclut : « Il ne voulait pas guider Nao, il voulait que Nao lui réponde : “bonjour”. Il voulait un partenaire ». Ce cas semble suggérer que l’absence de confusion peut régler le problème de l’attachement. Pourtant, de manière intéressante, d’autres acteurs dissocient ces enjeux. Ils mettent en avant la possibilité qu’un enfant s’attache au robot sans pour autant l’assimiler à de l’humain, comme dans le cas des robots militaires (Carpenter, 2016). Une pédopsychiatre en IME souligne la difficulté à saisir, et à maîtriser, la relation qui se noue entre l’enfant et le robot, même en écartant toute forme de confusion :

« D’abord, ils font quand même une très grande différence entre le robot et l’adulte qui est là, qui est le référent. Je veux dire, il n’y a pas de confusion. Je pense qu’il n’y a pas de question. Après, c’est un support de projection. […] Il me semble fondamental de ne pas entretenir l’illusion, qui va exister de toute façon. Il y a toujours de l’illusion dans l’objet transitionnel. Mais il s’agit de ne pas entretenir de la part de l’adulte l’illusion que ce serait un personnage, un vrai — qui pourrait avoir froid dans sa caisse, qui pourrait se sentir seul, qui pourrait avoir du chagrin, dormir. […] Bien sûr, les enfants vont faire des projections dessus et puis ils vont avoir sans doute de la sollicitude. Ils auront peut-être peur qu’il ait mal quand il tombe, on ne sait pas. Est-ce que celui qui va le chercher tous les jours, il a peur qu’il soit trop seul ? Ou bien est-ce qu’il va chercher son jouet ? On ne sait pas. Mais je crois que nous, il faut qu’on soit clairs ».

54Du point de vue des professionnels en centres de soin, le problème n’est donc pas vraiment d’empêcher l’attachement, ce sur quoi ils considèrent manquer de prise, mais plutôt d’éviter d’entretenir l’illusion d’une réciprocité possible dans cet « amour à sens unique » (Turkle, 2015, p. 215). À cet égard, un psychologue en hôpital de jour s’inscrit explicitement dans la réflexion initiée par Serge Tisseron, dans son ouvrage sur l’« empathie artificielle » (Tisseron, 2015) ainsi que dans le cadre de son Institut pour l’étude des relations hommes-robots (IERHR) à travers une charte éthique.

« Par exemple, au Japon, quand tu regardes la pub sur Pepper [un autre robot humanoïde développé par Softbank], il est vendu vraiment comme ayant un cœur, comme pouvant pleurer avec toi si tu es triste. Et ça, nous, on n’apprécie pas du tout. Ce n’est pas du tout éthique. Parce que ce n’est qu’une machine programmée. Donc, il ne faut pas mentir à l’utilisateur non plus ».

3.2. Limiter la capacité de jugement du robot

55L’essor de l’intelligence artificielle et de la robotisation soulève par ailleurs la question de la capacité pour l’humain de « garder la main » (rapport de la CNIL, 2017), de prendre la décision finale et de contrôler la machine (rapport du CCNE, 2018). En pratique, les professionnels qui utilisent un robot social en centres de soin témoignent d’une volonté partagée que ce dernier n’empiète pas sur le cœur de leur compétence professionnelle, en l’occurrence la capacité à juger de l’action qui convient pour prendre soin d’un enfant ou, pour le dire autrement, à produire la dimension thérapeutique ou éducative d’une situation donnée. Les limites de la « vie autonome » de Nao conduisent les professionnels à exprimer la volonté de garder la main, notamment sur certaines évaluations dont ils estiment qu’elles ne peuvent être déléguées au robot, que ce soit dans l’absolu ou dans l’état actuel de la technologie. Un informaticien en centre hospitalier met en avant le risque que les enfants reproduisent les défaillances du robot : par exemple, considérer que « je ne comprends pas » est une réponse acceptable à la question « de quelle couleur sont mes yeux ? » et peut désigner une couleur. Il explique :

« Si on propose la vie autonome du robot dans l’état actuel de l’intelligence artificielle du robot, elle ne sera pas valable pour les enfants de 6 ans. Ça va leur apprendre à faire des erreurs. Ils reproduiront les échecs du robot ».

56Sans prévoir un possible progrès de Nao, certains soignants estiment qu’un robot social ne sera jamais capable de récompenser les initiatives interactionnelles d’enfants avec un TSA. Une pédopsychiatre explique ainsi comment l’accompagnement repose sur l’articulation entre « une hyper-compétence de captation sociale », la capacité d’être « à l’affût du moindre signal », pour « saisir d’un coup d’œil toute initiative relationnelle », et en même temps, la possibilité de « répondre de manière très simple ». Elle conclut que Nao, qui au contraire « s’impose sans s’adapter », « ne sait pas comment faire », car cette compétence est « profondément humaine ».

57À propos d’un programme écrit dans un centre hospitalier pour travailler l’imitation avec Nao, les différents professionnels invoquent les deux logiques : il revient au soignant de juger si l’enfant a eu le comportement attendu car le robot ne peut pas le faire correctement, mais également car « le jugement appartient au soignant », seul capable d’estimer ce qui peut légitimement être attendu d’un enfant, selon le contexte et en fonction de ses capacités. On peut noter avec intérêt que ce constat est partagé par les concepteurs ; il est en effet au fondement de l’évolution d’Ask Nao vers Ask Nao Tablet, comme le rappelle le responsable du projet chez Softbank :

« Des fois l’enfant peut se tromper, mais le thérapeute peut décider de l’encourager et dire que c’est bien. Avant, le problème c’était que si c’était le robot qui prenait toutes les décisions, il allait dire : “tu t’es trompé”. L’idée était de donner la main au thérapeute pour qu’il puisse dire que c’est pas mal. On lui a redonné un peu plus de contrôle ».

58De la même manière concernant Leka, l’un des co-fondateurs explique que l’abandon du projet de robot intelligent a été conforté par les retours des professionnels rencontrés lors des expérimentations, allant plutôt dans le sens d’une réduction de l’autonomie du robot. Ces derniers ont en effet demandé un contrôle accru du robot, notamment pour pouvoir prendre en compte la singularité des cas : qu’il leur revienne par exemple, plutôt qu’au robot, d’évaluer la réussite ou l’échec d’un enfant sur une tâche donnée, ou encore de déterminer la durée du renforçateur fixée au départ à cinq secondes mais n’étant pas perçue par tous les enfants sur ce laps de temps.

59Ainsi, la question n’est pas tant celle de la délégation de la responsabilité du praticien au robot que celle d’une responsabilité accrue des praticiens dans le maniement du robot comme support thérapeutique, notamment par l’évaluation des risques associés. Comme dans le cas des drones qui permettent aux soldats et aux policiers de percevoir et d’agir à distance (Elish, 2017), le recours aux robots sociaux pour produire du soin reconfigure les formes professionnelles d’engagement et de responsabilité morale. De manière plus générale, on constate qu’il est difficile pour les acteurs, à la fois pour des raisons de faisabilité et d’acceptabilité, d’établir le robot comme un membre social compétent (Garfinkel et Sacks, 2007), c’est-à-dire comme un acteur moral capable de définir ce qui se joue dans une situation d’interaction et de juger, au sens de sanctionner positivement ou négativement, les modalités d’engagement de chacun. Au contraire, l’attrait du robot, quand il s’agit d’en faire un interlocuteur, se situe précisément dans une certaine incompétence. Beaucoup d’acteurs mettent en avant le fait que le robot « ne juge pas ». Le fondateur d’une start-up destinée à diffuser les nouvelles technologies pour l’accompagnement des TSA explique par exemple à propos de Nao :

« Nao ne juge pas, ne nous engueule pas, même s’il peut le faire ; sa voix est toujours monocorde et il est positif. Nous, en tant qu’être humain, au bout de six ou sept fois de répéter à un enfant autiste : “ne fais pas comme ça”, il y en a marre, vous laissez tomber. Nao, s’il faut le dire dix mille fois, il va le répéter, il ne juge pas ».

60On retrouve cet argument dans la bouche de la conceptrice d’un agent conversationnel pour des personnes qui présentent des troubles psychiques. Elle insiste sur la mise en suspens du jugement du proche :

« [Cela permet d’] avoir un échange qui ne soit quand même pas celui du regard d’un ami, parce que ce n’est pas quelqu’un qui est impliqué affectivement, mais qui est un espace où il y a de l’échange en direct, pas par des messages interposés comme par exemple en forum, avec quelque chose qui soit vraiment non juge, empathique, disponible en permanence ».

4. Conclusion

61Les professionnels qui tentent d’intégrer des robots sociaux dans leur activité de soin s’interrogent fortement sur la place qu’il convient de leur donner. Leurs discours et pratiques sont traversés par une certaine tension entre la tendance à diminuer ontologiquement cet artefact (en insistant sur ses limitations techniques, par exemple) et la tendance à le grandir (par exemple en soulignant sa capacité à susciter de l’attachement). Ces robots « conçus pour être avec nous » s’avèrent d’abord moins compétents que prévu d’un point de vue interactionnel. Pour pouvoir utiliser Nao en centres de soin, les professionnels doivent produire sa sociabilité, ce qui nécessite de passer du projet de « vie autonome » à la réalité d’interactions programmées. Au prix d’un « travail en plus » en amont et dans le cours de l’activité de soin, les robots sociaux sont susceptibles d’ouvrir plusieurs pistes de travail pour accompagner des enfants avec un TSA : attirer et motiver, simplifier les situations d’apprentissage et les décentrer par rapport au jugement d’autrui. Au sein de dispositifs contrastés, les professionnels de santé ou de l’éducation s’inscrivent dans des paradigmes d’usages qui ne donnent pas le même rôle au robot : médiateur, rééducateur, extension et outil.

62Les robots sociaux sont en partie institués comme un support thérapeutique ordinaire. Loin de se substituer aux professionnels, ils s’intègrent dans des dispositifs qui leur préexistent, parfois pour les prolonger, et sont souvent couplés avec d’autres outils. Néanmoins, ils suscitent des réticences (sur le type de médiation induite), des incertitudes (sur les dispositifs d’évaluation adaptés) et des points de vigilance spécifiques (sur le pouvoir d’attraction exercé) qui empêchent d’en faire un support complètement comme les autres. Même s’ils considèrent le robot social comme un être interactionnel peu compétent, les professionnels en centres de soin l’établissent comme un artefact qui implique des problèmes moraux spécifiques. Comment éviter de cultiver la confusion entre humain et non-humain ? Comment s’empêcher de prêter au robot un vécu émotionnel, voire sensoriel, similaire à celui d’un humain ? Comment prévenir l’illusion chez l’enfant d’une réciprocité possible de son attachement au robot ? Quels types de décisions ne devraient pas être délégués au robot pour relever uniquement du jugement professionnel ?

63Cette situation de recours aux robots sociaux pour produire du soin fait apparaître clairement que la « réflexivité ontologique » des acteurs (Borelle, 2018) — les enquêtes auxquelles ces derniers procèdent pour qualifier l’état des choses et des êtres — relève nécessairement du registre moral. De manière plus précise, l’établissement d’une place spécifique pour les robots sociaux met en lumière la logique tâtonnante du geste moral. En effet, ce travail consiste à explorer de manière heurtée l’altérité des robots sociaux, en hésitant sur le statut de ces êtres, tantôt reconnus comme médiateurs, tantôt « transformés en simples intermédiaires » (Latour, 2000, p. 53). Finalement, les acteurs en contact avec des robots sociaux sont invités à expérimenter une « ouverture » de leur « sentiment moral », un mécanisme par lequel « la liste des êtres capables de nous obliger moralement » est étendue (Hache et Latour, 2009, p. 144).

Haut de page

Bibliographie

Akrich, M., 2006, « Les objets techniques et leurs utilisateurs. De la conception à l’action », in Akrich, M., Callon M., Latour, B. (dir.), Sociologie de la traduction, Presses des Mines, Paris, p. 179-99.

Anzalone, S. M., Tilmont, E., Boucenna, S., Xavier, J., Maharatna, K., Chetouani, M., Cohen, D., The Michelangelo Study Group, 2014, « How children with autism spectrum disorder explore the 4-dimension (spatial 3D+time) environment during a joint attention induction task », Research in Autism Spectrum Disorders, vol. 8, n° 7, p. 814-826.

Baddoura, R., 2017, « Le robot social médiateur : un outil thérapeutique prometteur encore à explorer », Le journal des psychologues, n° 350, p. 33-37.

Begum, M., Serna, R., Yanco, H., 2016, « Are robots ready to deliver autism interventions? A comprehensive review », International Journal of Social Robotics, vol. 8, n° 2, p. 157-181.

Benbouzid, B., Cardon, D., 2018, « Machines à prédire », Réseaux, n° 211, p. 9-33.

Borelle, C., 2018, « Sortir du débat ontologique. Éléments pour une sociologie pragmatique des interactions entre humains et agents artificiels intelligents », Réseaux, n° 212, p. 206-231.

Borkman, T., 1976, « Experiential knowledge: A concept for the analysis of self-help groups », Social Service Review, vol. 50, n° 3, p. 445-456.

Boyd, D., Elish, M., 2018, « Don’t believe every AI you see (Blog post) », New America, https://www.newamerica.org/public-interest-technology/blog/dont-believe-every-ai-you-see/

Breazeal, C., Brooks, A., Gray, J., Hoffman, G., Kidd, C., Lee, H., Lieberman, J., Lockerd, A., Chilongo, D., 2004, « Tutelage and collaboration for humanoid robots », International Journal of Humanoid Robotics, vol. 1, n °2, p. 315-348.

Briffault, X., Morgièvre, M., 2017, « Anticiper les usages et les conséquences des technologies connectées en santé mentale. Une étude de “cas fictif” », Droit, Santé et Société, n° 3-4, p. 35-46.

Cabibihan, J., Javed, H., Ang, M., Aljunied, S., 2013, « Why robots? A survey on the roles and benefits of social robots for the therapy of children with autism », International Journal of Social Robotics, vol. 5, n° 4, p. 593-618.

Carpenter, J., 2016, Culture and Human-Robot Interaction in Militarized Spaces: A War Story, Ashgate, Farnham.

Carrion-Martinaud, M.-L., Bobillier-Chaumon, M.-E., 2017, « Présence de robots dans les ehpad. Mieux vivre la séparation familiale », Dialogue, vol. 3, n° 217, p. 45-56.

Costescu, C., Vanderborght, B., David, D., 2014, « The effects of robot-enhanced psychotherapy: A meta-analysis », Review of General Psychology, vol. 18, n° 2, p. 127-136.

Dauthenhan, K., 2007, « Encouraging social interaction skills in children with autism playing with robots. A case study evaluation of triadic interactions involving children with autism, other people (peers and adults) and a robotic toy », Enfance, vol. 59, n° 1, p. 72-81.

Diehl, J., Schmitt, L., Villano, M., Crowell, M., 2012, « The clinical use of robots for individuals with autism spectrum disorders: A critical review », Research in Autism Spectrum Disorders, vol. 6, n° 1, p. 249–262.

Dubey, F., 2013, « Les défis anthropologiques de la robotique personnelle », Anales des Mines – Réalités industrielles, n° 1, p. 96-101.

Elish, M. C., 2017, « Remote split: A history of US drone operations and the distributed labor of war », Science, Technology, & Human Values, vol. 42, n° 6, p. 1100-1131.

Forner-Ordioni, E., 2019, « “Whatever works”. Sociologie des thérapies cognitives et comportementales », Thèse de doctorat en sociologie, EHESS, Paris.

Gaglio, G., 2011, Sociologie de l’innovation, Presses universitaires de France, Paris.

Garfinkel, H., Sacks, H., 2007 [1970], « Les structures formelles des actions pratiques », in Garfinkel, H., Recherches en ethnométhodologie (traduction coordonnée par M. Barthélémy et L. Quéré), Presses universitaires de France, Paris, p. 429-474.

Gilbert, C., Henry, E., 2012, « La définition des problèmes publics : entre publicité et discrétion », Revue française de sociologie, vol. 53, n° 1, p. 35-59.

Grimaud, E., 2012, « Androïde cherche humain pour contact électrique. Les cinétiques de l’attachement en robotique », Gradhiva, n° 15, en ligne : https://journals.openedition.org/gradhiva/2328

Grossard, C., Grynszpan, O., 2015, « Entraînement des compétences assistées par les technologies numériques dans l’autisme : une revue », Enfance, vol. 1, n° 1, p. 67-85.

Guchet, X., 2016, « L’éthique des techniques, entre réflexivité et instrumentalisation », Revue française d’éthique appliquée, vol. 2, n° 2, p. 8-10.

Hache, E., Latour, B., 2009, « Morale ou moralisme ? Un exercice de sensibilisation », Raisons politiques, vol. 34, n° 2, p. 143-165.

Joly, P.-B., 2015, « Le régime des promesses technoscientifiques », in Audétat, M., Sciences et technologies émergentes : pourquoi tant de promesses ?, Hermann, Paris, p. 31-47.

Kiran, A., Oudshoorn, N., Verbeek, P.-P., 2015, « Beyond checklists: Toward an ethical-constructive technology assessment », Journal of responsible innovation, vol. 2, n° 1, p. 5-19.

Klein, N., Borelle, C., 2019, « Réalité virtuelle et santé mentale : la fin d’un art de faire ? », Revue d’anthropologie des connaissances, vol. 13, n° 2, p. 613-639.

Kudina, O., Verbeek, P.-P., 2019, « Ethics from within: Google glass, the Collingridge dilemma, and the mediated value of privacy », Science, Technology, & Human Values, vol. 44, n° 2, p. 291-314.

Latour, B. [Johnson, J.], 1988, « Mixing humans and non-humans together: The sociology of a door-closed », The Sociology of Science and Technology, vol. 35, n° 3, p. 298-310.

Latour, B., 2000, « La fin des moyens », Réseaux, n° 100, p. 39-58.

Mathieu-Fritz, A., 2018, « Les téléconsultations en santé mentale : ou comment établir la relation psychothérapeutique à distance », Réseaux, n° 207, p. 123-164.

Mathieu-Fritz, A., Gaglio, G., 2018, « À la recherche des configurations sociotechniques de la télémédecine. Revue de littérature des travaux de sciences sociales », Réseaux, n° 207, p. 27-63.

Mathieu-Fritz, A., Guillot, C., 2017, « Les dispositifs d’auto-surveillance du diabète et les transformations du “travail du patient”. Les nouvelles formes de temporalité, de réflexivité et de connaissance de soi liées à l’expérience de la maladie chronique », Revue d’anthropologie des connaissances, vol. 11, n° 4, p. 641-675.

Pols, J., Moser, I., 2009, « Cold technologies versus warm care? On affective and social relations with and through care technologies », Alter – European Journal of Disability Research, vol. 3, n° 2, p. 159-178.

Star, S., Strauss, A., 1999, « Layers of silence, arenas of voice: The ecology of visible and invisible work », Computer Supported Cooperative Work, vol. 8, p. 9-30.

Thévenot, L., 1994, « Le régime de familiarité. Des choses en personne », Genèses, vol. 17, p. 72-101.

Tisseron, S., 2015, Le jour où mon robot m’aimera. Vers l’empathie artificielle, Albin Michel, Paris.

Turkle, S., 2015 [2011], Seuls ensemble. De plus en plus de technologies. De moins en moins de relations humaines, L’Échappée, Paris.

Vidal, D., 2012, « Vers un nouveau pacte anthropomorphique ! Les enjeux anthropologiques de la nouvelle robotique », Gradhiva, vol. 15, en ligne : https://journals.openedition.org/gradhiva/2319

Wright, A. J., 2018, « Tactile care, mechanical hugs: Japanese caregivers and robotic lifting devices », Asian anthropology, vol. 17, n° 1, p. 24-39.

Haut de page

Annexe

Annexe 1. Rapports publics étudiés

Avis de la CERNA (Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene), Éthique de la recherche en robotique, novembre 2014.

Rapport de l’IEEE (Institute of Electrical and Electronics Engineers), Ethically aligned design. A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems, décembre 2016.

Rapport Delvaux, Rapport contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, janvier 2017.

Rapport de l’OPECST (Office parlementaire d’évaluation des choix scientifiques et technologiques), Pour une intelligence artificielle maîtrisée, utile et démystifiée, mars 2017.

Rapport de la CNIL (Commission nationale de l’informatique et des libertés), Comment permettre à l’homme de garder la main? Les enjeux éthiques des algorithmes et de l’IA, décembre 2017.

Livre Blanc du CNOM (Conseil national de l’ordre des médecins), Médecins et patients dans le monde des data, des algorithmes et de l’intelligence artificielle. Analyses et recommandations, janvier 2018.

Rapport Villani, Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne, mars 2018.

Rapport du CCNE (Comité consultatif national d’éthique) avec le concours de la CERNA, Numérique et Santé : quels enjeux éthiques pour quelles régulations ?, novembre 2018.

Annexe 2. Liste alphabétique des sigles utilisés dans l’article

CCNE : Comité consultatif national d’éthique

CERNA : Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique

CNIL : Commission nationale de l’informatique et des libertés

ECTA : Ethical constructive technology assessment

ELSI : Ethical, legal and social implications

IA : Intelligence artificielle

IERHR : Institut pour l’étude des relations hommes-robots

IME : Institut médico-éducatif

STS : Science and technology studies

TSA : Trouble du spectre de l’autisme

UEMA : Unité d’enseignement en maternelle pour enfants avec autisme

Haut de page

Notes

1 Voir en annexe 1 la liste des rapports publics étudiés.

2 Nées dans les années 1990 à propos des recherches sur la génétique, les études ELSI consistent à promouvoir « une science capable d’anticiper les impacts de ses applications techniques sur la nature et sur la société, de façon à opter en amont pour un design technologique qui maximise les bénéfices et minimise les risques encourus, voire les effets dommageables » (Guchet, 2016, p. 8).

3 Programme de recherche et développement lancé par Google pour créer des lunettes à réalité augmentée.

4 Selon la cinquième édition de la classification américaine des troubles mentaux (le DSM-V, publié en 2013), les troubles du spectre autistique se caractérisent par des troubles de la communication et des interactions sociales ainsi que par le caractère restreint et répétitif des comportements, intérêts et activités.

5 Nexem est un syndicat représentant des employeurs associatifs du secteur social, médico-social et sanitaire.

6 C-3PO, également appelé Z-6PO, est un robot de forme humanoïde, personnage emblématique de la saga Star Wars.

7 Entre 2011 et 2015, la conception d’Ask Nao a été orchestrée par Olivier Joubert, recruté pour sa double expertise en sciences cognitives et en informatique.

8 L’attention conjointe désigne le fait d’avoir son attention portée à la fois sur un événement et l’un à l’autre dans un partage de la situation.

9 L’UX (user experience) désigne la qualité de l’expérience vécue par l’utilisateur mis en contact avec une interface, un objet ou un service.

10 La conception de l’interface Ask Nao Tablet a été assurée par ERM Robotics, qui distribue Ask Nao depuis 2015. C’est le moment où Ask Nao a perdu sa spécificité d’application « interne » à Softbank et où l’autisme est devenu un domaine d’application géré comme les autres, sur le modèle de la délégation de la production du service à un partenaire.

11 Conçu en 1993 par l’ingénieur japonais Takanori Shibata, ce robot ayant l’aspect d’un phoque en peluche est particulièrement utilisé dans les établissements gériatriques. Certifié dispositif thérapeutique aux États-Unis, il est commercialisé en France depuis 2013.

12 L’évaluation clinique consiste à recueillir des signes par le biais d’une observation directe, libre d’un cadrage standardisé prédéfini. Elle s’appuie sur la prise de notes intensive, parfois complétée par des enregistrements vidéo.

13 Pour un état de l’art plus approfondi sur les questions d’anthropomorphisme et d’attachement dans les relations entre humains et êtres artificiels intelligents en sciences sociales, voir Borelle, 2018.

Haut de page

Table des illustrations

Titre Figure 1. Le robot Leka
Crédits Source : Flickr (photo libre de droits d’usage et de distribution ; https://www.flickr.com/​photos/​thewavingcat/​32277857424/​in/​photolist-X7xEFk-X7xFk6-Rbhstb-SpgRkw).
URL http://journals.openedition.org/sdt/docannexe/image/30202/img-1.jpg
Fichier image/jpeg, 30k
Titre Figure 2. Le Robot Nao
Crédits Source : Wikipedia (photo libre de droits d’usage et de distribution ; https://upload.wikimedia.org/​wikipedia/​commons/​4/​47/​Nao_Robot_ %28Robocup_2016 %29.jpg).
URL http://journals.openedition.org/sdt/docannexe/image/30202/img-2.png
Fichier image/png, 95k
Haut de page

Pour citer cet article

Référence électronique

Céline Borelle, « La moralisation des robots sociaux par leurs utilisateurs », Sociologie du travail [En ligne], Vol. 62 - n° 1-2 | Janvier-Juin 2020, mis en ligne le 01 juin 2020, consulté le 11 août 2020. URL : http://journals.openedition.org/sdt/30202 ; DOI : https://doi.org/10.4000/sdt.30202

Haut de page

Auteur

Céline Borelle

Laboratoire SENSE – Orange Gardens
44, avenue de la République, 92320 Châtillon, France
celine.borelle[at]orange.com

Articles du même auteur

Haut de page
  • Logo Association pour le développement de la sociologie du travail
  • Logo CNRS
  • Logo La revue Sociologie du travail mobilisée
  • OpenEdition Journals